Sysdig ra mắt AI Defense, quản lý hoạt động của tác nhân AI từ thiết bị đầu cuối đến đám mây

Sysdig đã ra mắt AI Defense, một sản phẩm bảo mật và quản trị trong thời gian chạy, được thiết kế để kiểm tra hoạt động của các tác nhân AI và can thiệp khi hành động của chúng vượt quá chính sách của tổ chức. Thông báo ngày 4 tháng 11 cho biết sản phẩm hiện đã được cung cấp rộng rãi cho macOS và Windows; giải pháp này hướng đến việc kết nối hoạt động trên máy trạm của nhân viên với các tài nguyên đám mây mà thông tin xác thực của họ có thể truy cập.

Sản phẩm đáp ứng sự chuyển dịch từ AI tạo ra câu trả lời sang AI vận hành phần mềm. Một tác nhân lập trình có thể đọc tệp, gọi công cụ, khởi chạy tiến trình và thay đổi hạ tầng. Để bảo vệ quy trình đó, cần hiểu cả nhiệm vụ mà tác nhân cho rằng mình đang thực hiện lẫn những thao tác thực sự diễn ra bên dưới.

Kết nối ý định của tác nhân với bằng chứng từ hệ điều hành

Theo Sysdig, AI Defense kết hợp công cụ giám sát được tích hợp trong bộ khung của tác nhân—nền tảng vận hành tác nhân—với dữ liệu đo từ xa của hệ điều hành. Công cụ giám sát trong bộ khung ghi lại các lệnh gọi đến công cụ, máy chủ Model Context Protocol, kỹ năng và tiện ích bổ sung, bao gồm cả đối số và đích đến của chúng. Việc giám sát ở cấp hệ thống cung cấp bản ghi riêng về các tiến trình và hoạt động phát sinh từ những lệnh gọi đó.

Sự khác biệt này rất quan trọng khi thông tin do tác nhân cung cấp không đầy đủ hoặc đã bị xâm phạm. Một thao tác công cụ được báo cáo có thể khởi chạy nhiều tiến trình, còn kết nối hoặc kỹ năng được thêm vào trong phiên có thể làm thay đổi những gì tác nhân có khả năng thực hiện. Sysdig cho biết một quan sát ban đầu ghi nhận khoảng bảy tiến trình nền cho mỗi thao tác trong nhật ký của tác nhân; đây là kết quả của công ty, không phải tỷ lệ áp dụng chung cho mọi tác nhân.

Hệ thống cũng xem xét phạm vi quyền hạn: cùng một thao tác đọc tệp có thể gây ra những hậu quả khác nhau tùy thuộc vào việc thông tin xác thực được sử dụng có quyền truy cập môi trường thử nghiệm hay có quyền quản trị môi trường sản xuất. Đồ thị hành động nhằm kết nối chuỗi sự kiện, người chịu trách nhiệm, hoạt động mà tác nhân khai báo và các tài nguyên có thể truy cập.

Chính sách cho phép, tạm dừng hoặc chặn hành động

Các tổ chức có thể bắt đầu áp dụng chính sách ở chế độ cảnh báo trước khi bật thực thi. Theo Sysdig, khi được thực thi, những chính sách này có thể chặn các công cụ và kết nối chưa được kiểm duyệt, ngăn việc truy cập thông tin xác thực có rủi ro hoặc tạm dừng một hành động để chờ con người phê duyệt. Bản phát hành cũng mô tả khả năng chấm dứt một tiến trình nếu hành động vượt qua được một biện pháp kiểm soát trước đó.

Các cơ chế này được áp dụng ở những thời điểm khác nhau trong trình tự thực thi. Ngăn một thao tác hoàn tất khác với việc phát hiện hoạt động rồi chấm dứt tiến trình sau đó. Thông báo không cung cấp ma trận công khai cho biết biện pháp kiểm soát nào có tác dụng ngăn chặn trên từng hệ điều hành, bộ khung và nền tảng được quản lý có hỗ trợ.

Các mẫu chính sách bao gồm những ánh xạ tới OWASP Top 10 for LLM Applications, cùng các lộ trình ngoại lệ dành cho nhà phát triển. Sysdig cũng mô tả các bản ghi phiên cho biết chính sách nào được áp dụng, nội dung nào được cho phép hoặc chặn và ai đã phê duyệt ngoại lệ. Những bản ghi này có thể hỗ trợ công tác điều tra và kiểm toán mà không buộc các nhóm phải dựng lại phiên làm việc sau khi xảy ra sự cố.

Falco Foundation bổ sung điều gì

Sysdig liên hệ sản phẩm với bề dày kinh nghiệm trong lĩnh vực bảo mật thời gian chạy trên nền tảng đám mây và Falco, dự án mã nguồn mở do công ty khởi tạo. Tài liệu của Falco mô tả cách giám sát các sự kiện nhân Linux và các nguồn sự kiện do tiện ích bổ sung cung cấp, làm phong phú sự kiện bằng ngữ cảnh về vùng chứa và Kubernetes, đồng thời áp dụng quy tắc để tạo cảnh báo.

Nền tảng này giúp lý giải vì sao Sysdig nhấn mạnh việc quan sát hoạt động thực tế thay vì chỉ dựa vào lời tường thuật của hệ thống AI. Điều đó không có nghĩa là riêng dự án mã nguồn mở Falco cung cấp mọi khả năng quản trị tác nhân hoặc chặn hành động được mô tả trong AI Defense. Cần phân biệt kiến trúc phát hiện được tài liệu của Falco mô tả với sản phẩm thương mại của Sysdig.

Bản phát hành nêu tên Claude Code, Codex, GitHub Copilot và Cursor trong số các môi trường tác nhân mà sản phẩm hướng đến kiểm kê và truy vết tới người phụ trách. Thông tin về khả năng cung cấp trên macOS và Windows cụ thể hơn so với mô tả khái quát về phạm vi bao phủ mở rộng sang Linux, Kubernetes và các nền tảng tác nhân được quản lý; các tổ chức sẽ cần xác định hình thức tích hợp phù hợp cho từng môi trường.

Quản trị trong thời gian chạy bổ trợ cho hoạt động kiểm thử mô hình

Phần thảo luận kỹ thuật của Sysdig về trách nhiệm chung xem các biện pháp kiểm soát trong thời gian chạy là một lớp bảo vệ bao quanh công việc mà tác nhân thực hiện. Điểm khác biệt trên thực tế là giữa việc yêu cầu mô hình tuân thủ một ranh giới và việc thực thi ranh giới đó khi phần mềm tìm cách thực hiện một thao tác.

AI Defense được định vị là giải pháp bổ trợ cho các biện pháp bảo vệ thiết bị đầu cuối hiện có, hoạt động kiểm thử mô hình và kiểm thử tấn công mô phỏng. Kiểm thử xem xét cách mô hình hoặc quy trình hoạt động trong những điều kiện được chọn; quản trị trong thời gian chạy xử lý các hành động diễn ra trong một phiên thực tế. Không mô tả nào trong số này khẳng định rằng một hệ thống triển khai không thể bị xâm phạm, và hiệu quả phụ thuộc vào cấu hình chính sách cũng như mức độ bao phủ của đường dẫn thực thi.

Quy trách nhiệm cho hoạt động của tác nhân và chi tiêu AI

Ngoài vấn đề bảo mật, Sysdig cho biết AI Defense liên kết các lần gọi mô hình với tác nhân, nhóm và người chịu trách nhiệm, kể cả những hoạt động không đi qua cổng AI tập trung. Điều này có thể giúp các tổ chức phân biệt việc sử dụng mô hình tốn kém cho các công việc thường ngày với những hoạt động cần đến một mô hình mạnh hơn.

Đề xuất rộng hơn là xây dựng một lớp bằng chứng chung phục vụ bảo mật, quản trị và quản lý chi phí. Khi các tác nhân có thêm công cụ và hoạt động bằng thông tin xác thực thực của nhân viên, tác động của chúng được quyết định bởi những gì chúng có thể thực hiện. Sysdig AI Defense hướng đến việc giúp quyền hạn đó hiển thị được và có thể thực thi ngay tại thời điểm hành động.