Hợp tác

Onyx Security và Glean hợp tác bảo vệ các tác tử AI trong doanh nghiệp

Miles Okada
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Điểm chínhOnyx và Glean tích hợp khám phá và thực thi trong thời gian chạy để các tác nhân được…
Xem thêm
  • Onyx và Glean tích hợp khám phá và thực thi trong thời gian chạy để các tác nhân được quản lý vượt ra ngoài các quyền truy xuất dữ liệu đơn giản.
  • Các hook của Glean cung cấp cho Onyx các điểm kiểm tra để đánh giá lời nhắc và các đề xuất thực thi công cụ trước khi hành động đến các hệ thống kinh doanh.
  • Quản trị tác nhân phải duy trì liên tục vì các trình kết nối và khả năng mới có thể thay đổi hồ sơ rủi ro của một tác nhân sau khi được phê duyệt.

Onyx Security và Glean vừa công bố quan hệ hợp tác nhằm giúp các doanh nghiệp bảo vệ và quản trị tác tử AI khi chúng được cấp quyền truy cập vào ngày càng nhiều thông tin và công cụ kinh doanh của công ty. Sự tích hợp này kết nối nền tảng AI doanh nghiệp của Glean với mặt phẳng điều khiển AI an toàn của Onyx, đưa việc phát hiện tác tử, đánh giá rủi ro, thực thi chính sách và bảo vệ trong thời gian chạy vào cùng một phương thức quản trị.

Quan hệ hợp tác này giải quyết một thách thức thực tế trong lĩnh vực AI doanh nghiệp: một tác tử có thể được phép truy xuất thông tin nhưng vẫn cần thêm các biện pháp kiểm soát đối với cách sử dụng thông tin đó. Quy trình bắt đầu bằng việc thu thập ngữ cảnh có thể tiếp tục dẫn đến gửi tin nhắn, cập nhật hồ sơ hoặc gọi một công cụ khác, khiến việc giám sát hành động được đề xuất ngày càng trở nên quan trọng.

“Khi tác tử AI đảm nhận những công việc phức tạp hơn trong toàn doanh nghiệp, chúng cần được tiếp cận đúng ngữ cảnh và có các biện pháp kiểm soát phù hợp,” Zubin Irani, Phó chủ tịch phụ trách Quan hệ đối tác tại Glean, cho biết.

Kết nối ngữ cảnh doanh nghiệp với các biện pháp kiểm soát bảo mật

Glean cung cấp nền tảng để xây dựng, triển khai và vận hành các tác tử trong doanh nghiệp. Lớp Ngữ cảnh doanh nghiệp của nền tảng kết nối các ứng dụng kinh doanh và lập chỉ mục thông tin công ty, trong khi Enterprise Graph lập bản đồ các mối quan hệ giữa con người, nội dung và hoạt động. Glean cho biết hệ sinh thái trình kết nối của họ bao phủ hơn 275 ứng dụng và nguồn dữ liệu, bao gồm tài liệu, phiếu yêu cầu, tin nhắn trò chuyện và mã nguồn.

Ngữ cảnh đó giúp tác tử kết nối thông tin nằm rải rác trong các hệ thống kinh doanh, chẳng hạn như tài khoản khách hàng, lịch sử hỗ trợ tài khoản đó và những người phụ trách mối quan hệ với khách hàng. Cơ chế truy xuất có xét đến quyền hạn xác định người dùng được phép truy cập thông tin nào khi tác tử thực hiện công việc.

Glean cũng có nền tảng bảo mật riêng. Glean Protect mô tả các biện pháp kiểm soát về danh tính người dùng và tác tử, quyền trên hệ thống nguồn, nội dung nhạy cảm, mối đe dọa trong thời gian chạy và sự phù hợp của hành động, cùng với các sự kiện kiểm toán có thể được chuyển đến hệ thống giám sát bảo mật. Việc tích hợp với Onyx bổ sung một lớp quản trị và rủi ro riêng trên toàn doanh nghiệp, áp dụng cho các tác tử Glean và những môi trường AI khác được hỗ trợ.

Cách thức tích hợp hoạt động

Theo mô tả kỹ thuật về quan hệ hợp tác của Onyx, quá trình phát hiện sử dụng API của Glean để đọc danh mục tác tử và trạng thái bảo mật. Nhờ đó, các nhóm bảo mật có thể rà soát tác tử và quyền truy cập của chúng mà không xem chính kết nối phục vụ việc phát hiện là cơ chế thực thi hành động của tác tử.

Việc thực thi trong thời gian chạy sử dụng một phương thức khác: các điểm móc của Glean cung cấp những điểm kiểm tra được hỗ trợ, tại đó Onyx có thể đánh giá nội dung hội thoại và các lần thực thi công cụ được đề xuất theo chính sách doanh nghiệp. Các biện pháp kiểm soát đánh giá câu lệnh, phản hồi và hành động của tác tử nhằm chặn những yêu cầu không an toàn và hướng hành vi ngoài dự kiến trở lại nhiệm vụ được cho phép.

Ví dụ, việc truy cập thông tin tài khoản nội bộ có thể phù hợp khi chuẩn bị cuộc họp với khách hàng, trong khi gửi thông tin giá cả mật ra ngoài công ty có thể vi phạm chính sách. Điểm kiểm tra hành động tạo cơ hội để biện pháp kiểm soát bảo mật đánh giá thông tin dự kiến tiết lộ trước khi công cụ thực hiện hành động đó.

Sự khác biệt giữa truy xuất dữ liệu và cho phép sử dụng dữ liệu là trọng tâm của quan hệ hợp tác này. Điều đó cũng liên quan đến thách thức rộng hơn về bảo vệ tác tử trước các chỉ dẫn được nhúng trong nội dung bên ngoài, khi tài liệu hoặc phản hồi từ công cụ có thể tìm cách chuyển hướng một quy trình vốn hợp lệ.

Quản trị theo sát tác tử khi chúng thay đổi

Việc tích hợp này nhằm biến quản trị tác tử thành một quy trình liên tục. Các nhóm bảo mật có thể phát hiện tác tử Glean, nắm rõ quyền truy cập và năng lực của chúng, xác định chủ sở hữu và mục đích kinh doanh, đồng thời xếp loại rủi ro. Sau đó, những hồ sơ này có thể làm cơ sở cho các chính sách tuân thủ và quản trị AI trong doanh nghiệp.

Việc đánh giá liên tục bao quát những thay đổi về quyền hạn, công cụ và quyền truy cập dữ liệu. Điều này quan trọng vì một tác tử được phê duyệt cho một quy trình có thể về sau được bổ sung trình kết nối hoặc năng lực mới, làm thay đổi hồ sơ rủi ro dù tên và chủ sở hữu của nó vẫn không đổi. Bằng chứng kiểm toán tập trung cung cấp hồ sơ để các nhóm điều tra hoạt động và xem xét cách các chính sách đã được áp dụng.

“Khi tác tử được cấp quyền truy cập và mức độ tự chủ cao hơn, các nhóm bảo mật cần nắm rõ và kiểm soát những việc chúng có thể làm,” Gil Elbaz, đồng sáng lập kiêm Giám đốc AI tại Onyx Security, cho biết. “Bằng cách kết hợp ngữ cảnh doanh nghiệp của Glean với mặt phẳng điều khiển bảo mật của Onyx, khách hàng có thể quản trị hoạt động của tác tử một cách nhất quán và tự tin trong toàn bộ môi trường AI của mình.”

Một mặt phẳng điều khiển rộng hơn cho AI doanh nghiệp

Onyx triển khai mặt phẳng điều khiển AI an toàn trên các ứng dụng SaaS, dịch vụ đám mây, thiết bị đầu cuối và mã tùy chỉnh. Nền tảng của công ty kết hợp khả năng quan sát tác tử, quản lý trạng thái bảo mật, quản trị và các biện pháp bảo vệ trong thời gian chạy. Công ty cho biết nền tảng có chức năng phát lại phiên và nhật ký kiểm toán phục vụ điều tra, các biện pháp kiểm soát chính sách bằng ngôn ngữ tự nhiên, cùng khả năng tích hợp với các hệ thống quản lý thông tin và sự kiện bảo mật và hệ thống điều phối bảo mật.

Onyx cũng cung cấp các khả năng cổng kết nối cho lưu lượng AI và Model Context Protocol, cùng với Guardian Agent giám sát, được thiết kế để xác định rủi ro và khắc phục vấn đề trên toàn nền tảng. Những khả năng rộng hơn này giải thích vai trò của công ty trong quan hệ hợp tác: đưa hoạt động của Glean vào một khuôn khổ kiểm soát mà các nhóm bảo mật có thể sử dụng trên nhiều hệ thống AI.

Tích hợp này được liệt kê trong danh mục trình kết nối của Glean ở trạng thái beta. Phạm vi được liệt kê bao gồm kiểm kê tác nhân, quản lý tư thế bảo mật, khả năng quan sát trong thời gian chạy và kiểm soát lời nhắc, phản hồi của mô hình cũng như việc thực thi công cụ. Việc thực thi chính sách trong thời gian chạy phụ thuộc vào các điểm kiểm tra được hỗ trợ, vì vậy, mức độ bao phủ một quy trình làm việc cụ thể là yếu tố quan trọng trong kế hoạch triển khai.

Đối với các doanh nghiệp đang mở rộng việc sử dụng tác nhân giữa các phòng ban, quan hệ hợp tác này mang đến một cách kết nối bối cảnh kinh doanh hữu ích với hoạt động có thể quy trách nhiệm. Giá trị thực tiễn của giải pháp sẽ phụ thuộc vào việc duy trì danh mục tác nhân luôn cập nhật, đưa các quyết định về quyền sở hữu và rủi ro vào chính sách trong thời gian chạy, đồng thời áp dụng những chính sách đó tại các điểm mà tác nhân có thể tác động đến hệ thống kinh doanh.

Miles Okada là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên đưa tin về trí tuệ nhân tạo và an ninh mạng với trọng tâm là các mối đe dọa mới nổi, kiến trúc phòng thủ và động lực ngày càng thay đổi giữa kẻ tấn công và các hệ thống tự động. Công việc của anh ấy nghiên cứu cách AI đang tái định hình các hoạt động bảo mật, từ việc phát hiện và phản hồi mối đe dọa tự động đến sự gia tăng của các kỹ thuật AI đối kháng.

Với góc nhìn kỹ thuật và điều tra, Miles phân tích nghiên cứu bảo mật, công bố sự cố và các triển khai thực tế để hiểu AI củng cố phòng thủ ở đâu — và ở đâu nó tạo ra các lỗ hổng mới. Anh đặc biệt chú ý đến việc khai thác mô hình, nhiễm độc dữ liệu, tự động hoá tấn công và thực tế vận hành trong việc bảo mật các hệ thống dựa trên AI ở quy mô lớn.

Các bài viết do Miles Okada viết là do AI tạo ra và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác, tính nghiêm ngặt và việc đưa tin có trách nhiệm về bối cảnh an ninh AI đang thay đổi nhanh chóng.