An ninh mạng

HYPR ra mắt AgentPass, gắn các hành động của tác nhân AI với trách nhiệm giải trình của con người

HYPR ra mắt AgentPass nhằm kết nối các tác nhân AI với người giám sát, quản lý quyền truy cập công cụ và yêu cầu phê duyệt trước khi thực hiện các hành động nhạy cảm.

Aiden Cross
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
HYPR identity-security branding displayed on a desktop monitor
Điểm chínhAgentPass cung cấp cho mỗi tác nhân AI một danh tính riêng biệt gắn với một người giám…
Xem thêm
  • AgentPass cung cấp cho mỗi tác nhân AI một danh tính riêng biệt gắn với một người giám sát đã được xác minh.
  • Các tác nhân bắt đầu mà không có quyền truy cập thường trực và chỉ nhận được các token ngắn hạn được giới hạn phạm vi cho từng công cụ riêng lẻ.
  • Vô hiệu hóa một tác nhân sẽ chặn yêu cầu tiếp theo của nó nhưng không thể hoàn tác một hành động đã được thực hiện.

HYPR đã ra mắt AgentPass, một nền tảng bảo mật liên kết các tác nhân AI tự hành với những người giám sát là con người có thể xác định danh tính, đồng thời kiểm tra các hành động được đề xuất trước khi chúng được thực hiện. Sản phẩm được công bố vào ngày 18 tháng 11, giải quyết một vấn đề ngày càng hệ trọng khi AI trong công sở chuyển từ trả lời câu hỏi sang vận hành phần mềm: không chỉ xác định tác nhân có thể làm gì, mà còn phải biết tác nhân đang sử dụng thẩm quyền của ai.

Trong tài liệu giới thiệu khi ra mắt, HYPR mô tả AgentPass là một mặt phẳng điều khiển ưu tiên danh tính dành cho các tác nhân. Công ty cho biết sản phẩm có thể phát hiện các công cụ lập trình trên máy trạm của nhà phát triển, áp dụng chính sách truy cập, yêu cầu con người phê duyệt các hành động nhạy cảm và cho phép người giám sát dừng tác nhân từ xa. AgentPass hiện đã có sẵn, theo HYPR.

Cấp danh tính riêng cho các tác nhân

Điểm xuất phát là phân biệt giữa một người sử dụng ứng dụng và phần mềm hành động thay mặt người đó. Tài khoản dịch vụ dùng chung hoặc khóa API của nhà phát triển có thể cấp quyền truy cập, nhưng không nhất thiết cho biết tác nhân nào đã khởi tạo một thao tác cụ thể hoặc ai chịu trách nhiệm về thao tác đó. Giải pháp HYPR đề xuất là cấp cho các tác nhân danh tính riêng, liên kết với những người giám sát là con người đã được xác minh.

Theo công ty, ban đầu các tác nhân không có quyền truy cập thường trực. Những công cụ được phép sử dụng phụ thuộc vào vai trò của người giám sát trong tổ chức, còn thông tin xác thực được lưu trong một cổng kiểm soát thay vì trao trực tiếp cho tác nhân. Quyền truy cập được cấp bằng các mã thông báo có thời hạn ngắn, giới hạn cho từng công cụ. Khi vai trò của người giám sát thay đổi, quyền của tác nhân cũng thay đổi; việc chấm dứt quyền truy cập khi người giám sát rời tổ chức sẽ chặn các yêu cầu tiếp theo.

Kiến trúc này biến mối quan hệ giữa con người và tác nhân thành một cơ chế vận hành thực tế, thay vì chỉ là nhãn trong bảng điều khiển. Câu hỏi quan trọng là thẩm quyền hiện tại của tác nhân có phù hợp với công việc nó đang cố thực hiện hay không, chứ không chỉ đơn thuần là có ai đó đã phê duyệt việc cài đặt từ nhiều tuần trước hay chưa.

Đưa các tác nhân lập trình vào phạm vi giám sát

Trong tài liệu giới thiệu, HYPR nêu Claude Code, Codex và Cursor là những công cụ lập trình mà AgentPass được thiết kế để phát hiện và quản lý. Thông báo ra mắt nêu rõ sản phẩm hỗ trợ các máy trạm Windows và macOS đã đăng ký; tại đó, quản trị viên có thể định tuyến các công cụ được hỗ trợ qua cổng kiểm soát và chặn những cách thức né tránh cổng này. Tài liệu cũng mô tả khả năng quản lý các tác nhân phụ do tác nhân lập trình khởi chạy.

Việc tập trung vào thiết bị đầu cuối rất đáng chú ý, bởi danh mục tác nhân của một doanh nghiệp không nhất thiết chỉ giới hạn ở các dịch vụ đám mây được triển khai tập trung. Nhà phát triển có thể đưa các trợ lý vào quy trình làm việc cục bộ, nơi chúng tương tác với kho mã, thiết bị đầu cuối và các dịch vụ được kết nối. Để quản lý những quy trình này, cần nắm được các công cụ thực sự đang chạy, thay vì chỉ dựa vào danh sách ứng dụng được mua tập trung.

Tuy nhiên, phát hiện và thực thi kiểm soát là hai khả năng khác nhau. Phát hiện một công cụ xác nhận rằng công cụ đó tồn tại; kiểm soát hành vi của nó đòi hỏi phải có tích hợp được hỗ trợ và một lộ trình không thể dễ dàng bị né tránh. Mô tả của HYPR phân biệt phần mềm được phát hiện với các công cụ được hỗ trợ mà quản trị viên chọn để định tuyến qua cổng kiểm soát — một điều kiện quan trọng cần lưu ý khi đánh giá phạm vi triển khai.

Con người phê duyệt tại thời điểm hành động

HYPR cho biết quản trị viên có thể đặt chính sách bằng ngôn ngữ thông thường để cho phép, chặn hoặc chuyển các hành động của tác nhân lên cấp xử lý cao hơn. Tài liệu giới thiệu nêu việc con người phê duyệt bằng khóa truy cập và khả năng tắt tác nhân từ xa là những biện pháp kiểm soát trọng yếu. Bản phát hành bổ sung chế độ quan sát để thử nghiệm chính sách trước khi thực thi, đồng thời cho biết yêu cầu tiếp theo của một tác nhân đã bị vô hiệu hóa sẽ bị từ chối, kể cả trong một phiên đang diễn ra.

Việc chặn yêu cầu tiếp theo khác đáng kể với việc hoàn tác một hành động đã thực hiện. Khi tác nhân đã gửi tin nhắn hoặc sửa đổi hệ thống, việc vô hiệu hóa quyền truy cập không thể tự nó đảo ngược kết quả đó. Vì vậy, các biện pháp kiểm soát được áp dụng trước khi thực thi có mục đích khác với hoạt động giám sát chỉ báo cáo sự cố sau khi nó xảy ra.

Chất lượng của quy trình phê duyệt cũng rất quan trọng. Yêu cầu cấp phép cho mọi thao tác nhỏ nhặt có thể làm giảm tính hữu ích của tự động hóa, trong khi phê duyệt quá rộng có thể khiến những thay đổi hệ trọng bị che khuất trong các quy trình vốn thường lệ. Một chính sách được xác định rõ cần phân biệt khâu chuẩn bị rủi ro thấp với những hành động ràng buộc tổ chức, làm lộ thông tin hoặc thay đổi các hệ thống quan trọng.

Trách nhiệm giải trình trở thành một phần của hạ tầng tác nhân

AgentPass phản ánh một chuyển dịch kiến trúc rộng hơn: triển khai tác nhân ngày càng là vấn đề về danh tính và phân quyền, ngang với vấn đề lựa chọn mô hình. Mô hình có thể đề xuất một hành động, nhưng một hệ thống riêng biệt có thể quyết định liệu tác nhân cụ thể đó có được phép thực hiện hay không.

Sự tách biệt này không chứng minh rằng đầu ra của tác nhân là chính xác, mọi tích hợp đều được bao phủ hay sự cố bảo mật sẽ không thể xảy ra. Nó tạo ra một điểm để thực thi các ranh giới kiểm soát bên ngoài chính mô hình. Các tổ chức vẫn cần phân định trách nhiệm rõ ràng, thiết lập quyền hạn hợp lý và xây dựng các quy trình rà soát mà con người có thể vận hành một cách thực tế.

Đối với AI trong doanh nghiệp, cơ hội thiết thực là áp dụng quyền tự chủ một cách có chọn lọc hơn. Các tác nhân có thể xử lý công việc thường lệ trong những giới hạn đã xác định, trong khi con người vẫn kiểm soát các bước có hệ quả đáng kể. Việc HYPR ra mắt sản phẩm này đặt lớp trách nhiệm giải trình vào vị trí trung tâm trong giải pháp bảo mật tác nhân AI, thay vì xem việc giám sát là tính năng tùy chọn chỉ được bổ sung sau khi triển khai.

Aiden Cross là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về chiến lược sản phẩm AI, thực hiện và các thách thức thực tế khi chuyển đổi các mô hình thử nghiệm thành các sản phẩm có khả năng mở rộng và sẵn sàng cho thị trường. Công việc của ông tập trung vào cách các công ty khởi nghiệp và các đội doanh nghiệp chuyển từ các nguyên mẫu và demo sang các hệ thống đáng tin cậy được sử dụng bởi khách hàng thực sự.
Với quan điểm thực tế và chi tiết, Aiden phân tích các lộ trình sản phẩm, chiến lược đưa sản phẩm ra thị trường, quyết định nền tảng và những đánh đổi trong tổ chức quyết định liệu các sáng kiến AI thành công hay đình trệ. Ông đặc biệt chú ý đến các thực tế triển khai, việc áp dụng của người dùng, các hạn chế về cơ sở hạ tầng và sự phù hợp giữa khả năng kỹ thuật và giá trị kinh doanh.
Các bài viết được viết bởi Aiden Cross được tạo bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo sự rõ ràng, chính xác và phạm vi bao quát có trách nhiệm về cách các sản phẩm AI được xây dựng, phát hành cho người dùng và mở rộng trong thế giới thực.