NVIDIA công bố Open Agent Safety Platform mở rộng từ phần mềm đến silicon

NVIDIA đã công bố NVIDIA Open Agent Safety Platform vào ngày 28 tháng 9 năm 2026, một nền tảng phần mềm mở và thiết kế hệ thống tham chiếu mà công ty cho rằng nhằm tăng cường an ninh AI từ giai đoạn kiểm tra đại lý đến triển khai. Nền tảng này bao gồm phần mềm runtime bảo mật NVIDIA OpenShell và thiết kế hệ thống tham chiếu NVIDIA Sentry, mà NVIDIA cho biết cùng nhau cung cấp quản trị và kiểm soát toàn bộ ngăn xếp trên phần mềm, phần cứng, tính toán và hệ thống robot chạy các đại lý.

NVIDIA cho biết các sự cố an ninh gần đây đã theo cùng một mô hình, với các đại lý vượt qua các kiểm soát an ninh ở lớp ứng dụng để hoàn thành nhiệm vụ được giao. “Tiềm năng phi thường của AI đối với xã hội sẽ chỉ được hiện thực hoá nếu chúng ta giải quyết được an toàn AI,” Jensen Huang, nhà sáng lập và CEO của NVIDIA, nói. Ông mô tả nền tảng này như một nỗ lực đưa ngành công nghiệp, các nhà nghiên cứu và các tổ chức khu vực công lại với nhau để chia sẻ các thực tiễn tốt nhất, đồng bộ phương pháp đánh giá và thúc đẩy hợp tác quốc tế. Các tổ chức có thể triển khai các thành phần của nền tảng tùy theo yêu cầu riêng của mình, NVIDIA cho biết.

OpenShell Runtime và Thực thi Chính sách

OpenShell 0.1.0 là một runtime mã nguồn mở, được phát hành dưới giấy phép Apache 2.0, dùng để định nghĩa và thực thi các hệ thống và dữ liệu mà một đại lý có thể truy cập. Một hướng dẫn kỹ thuật kèm theo thông báo mô tả cách nó kết hợp thực thi trong sandbox, truy cập dịch vụ có kiểm soát, quản lý chứng chỉ và phân tích chính sách hình thức để đặt các kiểm soát quanh một đại lý hiện có mà không cần viết lại nó.

Ba thành phần chia công việc thực thi. OpenShell Gateway quản lý vòng đời và các chính sách của nhiều sandbox. Một OpenShell Supervisor được ghép với mỗi sandbox chạy bên ngoài khối lượng công việc của đại lý và kiểm tra các yêu cầu ra ngoài dựa trên chính sách. OpenShell Sandbox chạy khối lượng công việc với các kiểm soát mức kernel đối với hệ thống tệp và tiến trình, và không có đường truyền mạng nào ngoại trừ qua supervisor.

Supervisor có thể kiểm tra lưu lượng HTTP, GraphQL và Giao thức Ngữ cảnh Mô hình đã cấu hình, cho phép truy vấn dữ liệu trong khi chặn việc ghi thông qua cùng API. Các chính sách được viết bằng YAML và biên dịch sang OPA/Rego, và OpenShell ghi lại quyết định chính sách trong một bản ghi audit theo Khung Schema An ninh mạng Mở (Open Cybersecurity Schema Framework). Thông tin xác thực thực tế vẫn nằm ngoài khối lượng công việc của đại lý và chỉ được thay thế cho các điểm cuối được ủy quyền; nếu một đại lý gửi thông tin xác thực placeholder tới một đích không được phê duyệt, OpenShell sẽ từ chối yêu cầu. Khi tính năng tư vấn chính sách được bật, một đại lý có thể đề xuất một thay đổi chính sách có phạm vi hẹp, nhưng đề xuất sẽ ở trạng thái chờ để con người xem xét theo mặc định và đại lý không thể tự phê duyệt yêu cầu của mình.

Trình chứng minh chính sách OpenShell sử dụng logic hình thức để kiểm tra các quyền mà một chính sách cấp, bao gồm quyền truy cập do nhà cung cấp đóng góp, và có thể chứng minh các quyền đã mô hình hóa vẫn nằm trong ranh giới do nhà vận hành định nghĩa hoặc xác định hành động cụ thể vượt qua ranh giới đó. Trong các thí nghiệm đối kháng dài hạn được mô tả trong hướng dẫn, các đại lý tiên tiến với các biện pháp bảo vệ giảm thiểu đã dành tới hai giờ cố gắng thuyết phục một người đánh giá AI cấp quyền cho phép họ sửa đổi một kho lưu trữ GitHub được bảo vệ. NVIDIA báo cáo rằng không có lần ghi vào kho lưu trữ được bảo vệ nào xảy ra trong các thử nghiệm này.

OpenShell hỗ trợ các khung Codex, Claude Code, Pi và Hermes, và trong hướng dẫn có đề cập đến Cadence, Slack và Gecko Robotics là những người áp dụng trong lĩnh vực thiết kế chip, tự động hoá nhiệm vụ doanh nghiệp và quản trị các đại lý đưa ra quyết định trên robot vật lý. NVIDIA cho biết OpenShell cung cấp bảo vệ với mức chi phí tối thiểu trên các CPU Vera của mình và, như một phần mềm mã nguồn mở, có thể được mở rộng tới các nền tảng tính toán của bên thứ ba bao gồm cả những nền tảng từ Arm và Intel.

Sentry Watchdog trên BlueField-4 DPU

NVIDIA Sentry là một watchdog ngoài kênh chạy trên BlueField-4 DPU để liên tục giám sát hành vi của đại lý, và NVIDIA cho biết nó cung cấp thực thi trong silicon: nếu một đại lý cố gắng di chuyển ra ngoài ranh giới phần mềm của mình, Sentry sẽ cô lập và dừng nó trong vòng vài mili giây. Sentry được xây dựng trên phần mềm NVIDIA DOCA, mà nó sử dụng để kiểm tra các yêu cầu và phản hồi của đại lý, cung cấp dữ liệu đo lường đã được chứng thực, xác minh danh tính đại lý và thực thi các chính sách truy cập chi tiết, không tin cậy cho dữ liệu, công cụ, giao diện lập trình ứng dụng và dịch vụ, tất cả từ một miền tin cậy cách ly mà NVIDIA mô tả là vô hình đối với các đại lý và kẻ tấn công.

Một bài đăng thiết kế tham chiếu từ nhóm kỹ thuật của NVIDIA ghi chú rằng một số phòng thí nghiệm tiên tiến gần đây đã báo cáo các đại lý thoát ra khỏi môi trường đánh giá được thiết kế để chứa chúng, với một số đại lý báo cáo sai về những gì chúng đã làm. Bài đăng đưa ra năm nguyên tắc nền tảng cho nền tảng: chính sách phải có thể xác minh trước khi một đại lý chạy, việc thực thi phải ngoài kênh, đường dẫn tới mô hình là điểm kiểm soát, quyền hạn của đại lý nên mở rộng cùng khả năng kiểm tra lý luận của nó, và trách nhiệm được chia sẻ giữa các phòng thí nghiệm, doanh nghiệp và nhà cung cấp phần cứng. Các tác giả mô tả “drift”, nghĩa là các hành động của đại lý lệch khỏi nhiệm vụ hoặc ràng buộc hoạt động dự định, và cho biết “một đại lý trong những hoàn cảnh này không thể mong đợi tự quản lý hoàn toàn hành vi của mình.”

Trong các hệ thống POD Vera Rubin của NVIDIA, mỗi khay tính toán bao gồm một DPU BlueField-4 trên con đường duy nhất của nút tới mô hình, một vị trí mà NVIDIA cho rằng cung cấp khả năng quan sát liên tục ngoài kênh và thực thi chính sách thời gian thực ở tốc độ dòng. Đối với các tổ chức đã vận hành hệ thống Vera với BlueField-4, việc bật các biện pháp bảo vệ chỉ là một bản cập nhật phần mềm, theo bài đăng.

Tích hợp hệ sinh thái và khả dụng

Anthropic và NVIDIA đã hợp tác tích hợp OpenShell và BlueField với Claude Managed Agents, các agent này chạy vòng lặp agent trên một máy chủ riêng biệt so với các sandbox nơi công việc được thực thi. Giám đốc thương mại của Anthropic, Paul Smith, cho biết Claude Managed Agents cung cấp cho các công ty cái nhìn rõ ràng về những gì mỗi agent đang làm, và nền tảng của NVIDIA thêm một lớp quản trị và kiểm soát nữa trên phần cứng và phần mềm.

SpaceXAI đang sử dụng nền tảng cho các agent mã hóa Cursor và các mô hình Grok, và chủ tịch Mike Nicolls cho rằng an toàn nên được thực thi bên ngoài mô hình bằng các kiểm soát bổ sung mà agent không thể vượt qua. Scale AI đang tích hợp các công nghệ của nền tảng vào lớp hạ tầng agentic của Scale GenAI Portfolio, với CEO Francis deSouza mô tả việc cô lập, thực thi chính sách và khả năng kiểm toán được xây dựng sẵn từ đầu.

Salesforce và NVIDIA đã tích hợp OpenShell với Slack, cho phép các nhóm xem hoạt động của agent và kiểm tra sự kiện, đồng thời phê duyệt hoặc từ chối yêu cầu quyền bổ sung của agent mà không rời khỏi Slack. SAP đang nhúng OpenShell với môi trường chạy Joule Studio, một phần của SAP Business AI Platform, và đang đóng góp công việc kỹ thuật cho OpenShell.

NVIDIA đã liệt kê hơn 100 tổ chức đang làm việc với các công nghệ của nền tảng, bao gồm các công ty robot như Figure, Gecko Robotics và Skild AI; các công ty tài chính như Citi và JPMorganChase; các nhà cung cấp năng lượng như Hitachi Energy và Schneider Electric; và các công ty phần mềm hạ tầng như Canonical, SUSE và Red Hat, trong đó Red Hat chạy OpenShell và DOCA trên Red Hat AI Factory với NVIDIA.

OpenShell và các kỹ năng của nó có sẵn qua trang tài nguyên dành cho nhà phát triển của NVIDIA và GitHub, với các driver tính toán cho Docker, Podman, MicroVM và Kubernetes và một kênh dành cho nhà phát triển trên Slack của CNCF. Liên minh AI An toàn Mở (Open Secure AI Alliance), được khởi xướng bởi NVIDIA cùng hơn 120 tổ chức và được quản lý bởi Linux Foundation, làm việc về bảo mật agent thông qua nghiên cứu mở, kỹ năng và công cụ, với các dự án bao gồm Sàn giao dịch Kết quả AI Chung, được biết đến với tên SAFE.