NVIDIA ra mắt kiến trúc tham chiếu OpenShell cho quản trị tác tử

Ngày 21 tháng 10 năm 2026, tại GTC Berlin, NVIDIA công bố Kiến trúc tham chiếu OpenShell, một thiết kế toàn diện từ phần cứng đến phần mềm để xây dựng, cô lập, giám sát và thực thi các biện pháp bảo đảm an toàn cho tác tử AI trên hạ tầng doanh nghiệp và các hệ thống biên. Kiến trúc này hiện đã sẵn sàng sử dụng.

Kiến trúc này dựa trên phần mềm môi trường chạy an toàn OpenShell mã nguồn mở của NVIDIA, mở rộng nền tảng đó thành hạ tầng quy mô công nghiệp phục vụ phát triển và vận hành tác tử. Kiến trúc kết hợp hạ tầng Vera Rubin để chạy các khối lượng công việc doanh nghiệp, trong đó có các mô hình đóng và mở được xây dựng bằng NVIDIA Nemotron; CPU Vera để vận hành các bộ khung tác tử; và DPU BlueField-4 chạy NVIDIA Sentry, một khung bảo mật cung cấp khả năng giám sát liên tục hành vi của tác tử ngoài băng và thực thi chính sách ngay trên silicon. Thiết kế này cũng mở rộng tới các tác tử chạy ở biên trên hệ thống RTX Spark, DGX Spark và DGX Station trong các lĩnh vực bán lẻ, y tế, sản xuất, robot, phát triển phần mềm và viễn thông.

Jensen Huang, nhà sáng lập kiêm CEO của NVIDIA, cho biết: “Với Kiến trúc tham chiếu OpenShell, tác tử có thể suy nghĩ trên Rubin, hành động trên Vera và được quản trị trên BlueField”. Huang nói rằng khi các doanh nghiệp chuẩn bị triển khai hàng tỷ tác tử AI, tính an toàn và khả năng kiểm soát phải được tích hợp vào kiến trúc điện toán.

Hạ tầng toàn diện cho khối lượng công việc của tác tử

Nền tảng của hạ tầng Vera Rubin là các hệ thống Vera Rubin NVL72, được NVIDIA mô tả là có thể linh hoạt sử dụng cho tiền huấn luyện, hậu huấn luyện và suy luận. Công ty cho biết NVL72 mang lại thông lượng cao hơn 30 lần trên mỗi megawatt đối với các khối lượng công việc tác tử. CPU Vera chạy phần mềm OpenShell, cung cấp ranh giới môi trường chạy an toàn cho các tác tử tự chủ; NVIDIA cho biết các CPU này có hiệu năng cao gấp 2 lần bộ xử lý x86 và tiết kiệm năng lượng hơn.

Một bài viết kỹ thuật đi kèm mô tả Vera là CPU được xây dựng trên 88 lõi Olympus do NVIDIA thiết kế, cùng Scalable Coherency Fabric thế hệ thứ hai, 96 làn PCIe Gen 6 và băng thông bộ nhớ LPDDR5X lên đến 1,2 TB/s. NVIDIA cho biết fabric này cung cấp băng thông giữa các lõi cao hơn tới 3 lần và độ trễ giữa các lõi thấp hơn tới 50% so với các giải pháp x86; đồng thời, Vera mang lại hiệu năng trên mỗi watt cao gấp 2 lần CPU x86.

Theo bài viết, CoreWeave, một nền tảng đám mây AI, đo được thời gian khởi chạy sandbox trên Vera nhanh hơn hơn 3 lần so với trên x86; một tủ máy chủ duy nhất có thể hỗ trợ hơn 11.000 môi trường tác tử chạy đồng thời. Khi chạy Terminal Bench, công cụ đo hiệu năng CPU trên các tác vụ vòng lặp tác tử thực tế, CoreWeave nhận thấy Vera có hiệu năng nhanh hơn 1,8 lần so với x86 trên các tác vụ từ viết tập lệnh đến khôi phục cơ sở dữ liệu.

Các DPU BlueField-4 chạy Sentry, được xây dựng trên phần mềm DOCA của NVIDIA, liên tục giám sát hành vi của tác tử. Theo NVIDIA, nếu tác tử tìm cách vượt ra ngoài ranh giới phần mềm của mình, Sentry sẽ cách ly và dừng tác tử đó chỉ trong vài mili giây. Công ty cũng cho biết Sentry trên BlueField-4 giúp tăng năng lực xử lý tác tử lên đến 20%.

OpenShell và Sentry thực thi các ranh giới của tác tử như thế nào

Theo quan điểm NVIDIA nêu trong bài viết kỹ thuật, tác tử không thể tự quản trị, vì vậy bảo mật và quản trị phải thuộc về hạ tầng nơi tác tử hoạt động. OpenShell xem khối lượng công việc của tác tử là không đáng tin cậy trong suốt quá trình thực thi, chỉ cấp cho tác tử quyền truy cập vào những gì nó cần vào đúng thời điểm cần thiết. Môi trường chạy này có bốn thành phần: Gateway, mặt phẳng điều khiển quản lý vòng đời và chính sách của sandbox; Supervisor, thành phần đối chiếu các yêu cầu gửi ra ngoài với chính sách và điều phối quyền truy cập thông tin xác thực trong khi chạy hoàn toàn tách biệt khỏi sandbox; Sandbox, thành phần cô lập khối lượng công việc của tác tử và hạn chế quyền truy cập vào hệ thống tệp cùng các tiến trình; và Policy Prover, thành phần áp dụng kiểm chứng hình thức để xác định xem các quyền trong chính sách có nằm trong giới hạn tối đa do tổ chức quy định hay không.

Theo phân tích chuyên sâu về kỹ thuật của khuôn khổ này, trong kiến trúc tham chiếu, tác tử chạy trên CPU Vera, còn BlueField-4 nằm trên đường truyền duy nhất từ nút đến mô hình. Nhờ đó, Sentry có thể kiểm tra hoạt động liên lạc giữa tác tử và mô hình mà không cần dựa vào việc tác tử tự báo cáo hành vi của mình. Sentry hoạt động trong một miền tin cậy được cách ly bằng phần cứng, độc lập với phần mềm trên máy chủ, và được thiết kế để duy trì khả năng giám sát, thực thi ngay cả khi tác tử thoát khỏi sandbox hoặc máy chủ bị xâm phạm.

DOCA Tower, cổng bảo mật AI của Sentry được xây dựng trên proxy Envoy mã nguồn mở, hoạt động như một proxy minh bạch cho lưu lượng của tác tử và chấm dứt TLS ngay trên silicon. DOCA Flow triển khai tường lửa lớp 4 riêng cho từng tác tử, được tăng tốc bằng silicon, chặn các kết nối đến những đích không được phép và chuyển tiếp lưu lượng được cho phép đến DOCA Tower để kiểm tra, cấp quyền ở lớp ứng dụng. Các yêu cầu truy cập được đánh giá theo những chính sách đã xác định bằng công cụ Open Policy Agent, sử dụng ngôn ngữ Rego và có thể đánh giá yêu cầu trong chưa đầy một mili giây, tùy thuộc vào độ phức tạp và cấu hình của chính sách.

DOCA Argus bổ sung ngữ cảnh thời gian chạy bằng cách kiểm tra trực tiếp bộ nhớ đang hoạt động mà không cần tác tử, phân tích các vùng được chọn trong bộ nhớ khả biến của máy chủ từ BlueField-4 mà không cần tác tử chạy trên máy chủ. Công cụ này ánh xạ các vùng chứa tới pod của chúng và các môi trường biệt lập tới microVM, đồng thời theo dõi tiến trình, quyền truy cập tệp, kết nối mạng và thư viện đã tải thông qua mã băm. Nhờ đó, có thể áp dụng các chính sách như yêu cầu mã băm của vùng chứa phải khớp với danh sách được phê duyệt hoặc yêu cầu tiến trình khởi chạy phải có trong danh mục thành phần phần mềm của vùng chứa. Các dấu hiệu cảnh báo mà Sentry đánh giá bao gồm việc thực thi công cụ chưa được phê duyệt, sử dụng ptrace để tấn công tiến trình khác, lưu lượng gửi đi quá mức, truy cập hoặc thay đổi tệp trái phép, mức sử dụng CPU tăng đột biến, ghi quá nhiều dữ liệu vào thư mục tạm và xóa tệp trên diện rộng. Khi phát hiện sai lệch, Sentry có thể yêu cầu cô lập ngay trên silicon trong khoảng thời gian tính bằng mili giây.

Sentry cũng hoạt động với các mô hình AI chuyên biệt để phân loại thông tin liên lạc của tác tử ngay trong luồng hoặc ngoài luồng nhằm phát hiện sự sai lệch trong hành vi; đồng thời, công cụ tạo ra các bản ghi có chứng thực và chống giả mạo trên BlueField-4, hỗ trợ điều tra pháp chứng và xuất dữ liệu sang các nền tảng bảo mật doanh nghiệp như hệ thống XDR và SIEM. DOCA Tower tích hợp SPIFFE/SPIRE để xác minh danh tính khối lượng công việc. NVIDIA dự kiến cung cấp Sentry vào đầu năm sau; các thư viện và vi dịch vụ DOCA, bao gồm DOCA Argus, DOCA Flow và OVS-DOCA, hiện đã có để thử nghiệm.

Hệ sinh thái đối tác và khả năng cung cấp

Kiến trúc tham chiếu OpenShell chạy trên hạ tầng Linux và Kubernetes của Canonical, SUSE và Red Hat; trên Microsoft Windows bằng Microsoft Execution Containers; và trên các hệ điều hành đám mây của Amazon Web Services, Google Cloud và Microsoft Azure. Doanh nghiệp có thể chạy các tác tử từ những đơn vị phát triển mô hình Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection và SpaceX Super Intelligence trên hạ tầng OpenShell.

Các nhà cung cấp dịch vụ an ninh mạng 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI và Zscaler đang tích hợp khả năng hỗ trợ kiến trúc này vào các sản phẩm bảo mật tác nhân của họ. Các ngân hàng BBVA và Santander đang hợp tác với NVIDIA để tìm hiểu kiến trúc này như một khuôn khổ nhằm tăng cường tính an toàn, bảo mật và khả năng quản trị tác nhân. Các công ty phần mềm doanh nghiệp Cadence, Dassault Systèmes, IBM, SAP, Siemens và Synopsys đang hợp tác với OpenShell để xây dựng các nền tảng phần mềm tác nhân, còn Palantir và NVIDIA đang làm việc với khách hàng để triển khai các tác nhân an toàn trong môi trường sản xuất.

SAP đang tích hợp kiến trúc này với môi trường chạy Joule Studio, thuộc SAP Business AI Platform. ServiceNow thông báo ServiceNow Arc đã chính thức được cung cấp rộng rãi. Đây là một tác tử AI cá nhân hoạt động dài hạn, với các hành động được quản trị tại thời điểm chạy bởi ServiceNow Super Intelligence Control Tower và được OpenShell thực thi; lớp thẩm quyền AI Passport của ServiceNow chuyển các chính sách đó tới OpenShell và Sentry, nhờ vậy doanh nghiệp có thể thu hồi quyền truy cập của một tác tử trên cả phần mềm lẫn phần cứng chỉ trong vài giây.

Các nhà sản xuất hệ thống Dell Technologies, Cisco, HPE, Lenovo và Supermicro đang xây dựng hạ tầng dựa trên kiến trúc này. Các nhà cung cấp dịch vụ đám mây CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure và Vultr đang hợp tác với NVIDIA để triển khai hạ tầng sẵn sàng cho OpenShell; các nhà cung cấp dịch vụ suy luận và hậu huấn luyện Baseten, Deepinfra, Fireworks và Together AI đang xây dựng các tích hợp cho quy trình phát triển mô hình của họ.

Thông báo về khả năng cung cấp kiến trúc này dẫn tới tài liệu Thiết kế tham chiếu cho không gian làm việc tác tử an toàn, trong đó trình bày bảy lớp logic, mô hình bảo mật và quản trị, các cấp độ triển khai, cùng các bản triển khai tham chiếu cho Red Hat OpenShift Virtualization và Microsoft Azure. Mã nguồn của OpenShell có trên GitHub.