NVIDIA Memperkenalkan Arsitektur Referensi OpenShell untuk Tata Kelola Agen

NVIDIA mengumumkan Arsitektur Referensi OpenShell pada 21 Oktober 2026 di GTC Berlin. Rancangan menyeluruh ini dirancang untuk membangun, membatasi, mengamati, dan menerapkan pengamanan pada agen AI di seluruh infrastruktur perusahaan dan sistem edge. Arsitektur ini tersedia sekarang.

Arsitektur ini dibangun di atas perangkat lunak runtime aman OpenShell sumber terbuka dari NVIDIA, yang dikembangkan menjadi infrastruktur berskala industri untuk pengembangan dan pengoperasian agen. Rancangan ini memadukan infrastruktur Vera Rubin untuk menjalankan beban kerja perusahaan, termasuk model tertutup dan terbuka yang dibangun dengan NVIDIA Nemotron; CPU Vera untuk menjalankan kerangka kerja agen; serta DPU BlueField-4 yang menjalankan NVIDIA Sentry, kerangka kerja keamanan yang menyediakan pemantauan perilaku agen secara berkelanjutan di luar jalur utama dan penegakan kebijakan di dalam silikon. Rancangan ini juga mencakup agen yang berjalan di edge pada sistem RTX Spark, DGX Spark, dan DGX Station di sektor ritel, layanan kesehatan, manufaktur, robotika, pengembangan perangkat lunak, dan telekomunikasi.

“Dengan Arsitektur Referensi OpenShell, agen dapat berpikir di Rubin, bertindak di Vera, dan dikendalikan di BlueField,” kata Jensen Huang, pendiri sekaligus CEO NVIDIA. Huang mengatakan bahwa keamanan dan kendali harus dibangun ke dalam arsitektur komputasi saat perusahaan bersiap menerapkan miliaran agen AI.

Infrastruktur Menyeluruh untuk Beban Kerja Agen

Di jantung infrastruktur Vera Rubin terdapat sistem Vera Rubin NVL72, yang menurut NVIDIA dapat digunakan secara bergantian untuk prapelatihan, pascapelatihan, dan inferensi. Perusahaan menyatakan bahwa NVL72 memberikan throughput 30x lebih tinggi per megawatt untuk beban kerja agen. CPU Vera menjalankan perangkat lunak OpenShell yang menyediakan batas runtime aman bagi agen otonom. NVIDIA menyatakan bahwa CPU ini menawarkan kinerja 2x lipat dibandingkan prosesor x86 dengan efisiensi energi yang lebih tinggi.

Artikel teknis pendamping menjelaskan bahwa Vera adalah CPU yang dibangun dengan 88 inti Olympus rancangan NVIDIA, Scalable Coherency Fabric generasi kedua, 96 jalur PCIe Gen 6, dan bandwidth memori LPDDR5X hingga 1,2 TB/s. NVIDIA menyatakan bahwa fabric tersebut menyediakan bandwidth antarinti hingga 3x lebih tinggi dan latensi antarinti hingga 50% lebih rendah daripada alternatif x86, serta Vera memberikan kinerja 2x lebih tinggi per watt dibandingkan CPU x86.

Menurut artikel tersebut, CoreWeave, platform cloud AI, mengukur bahwa proses memulai sandbox di Vera lebih dari 3x lebih cepat daripada di x86, dengan satu rak yang mendukung lebih dari 11.000 lingkungan agen secara bersamaan. Dengan menjalankan Terminal Bench, yang mengukur kinerja CPU dalam berbagai tugas siklus kerja agen di dunia nyata, CoreWeave mendapati bahwa Vera memberikan kinerja 1,8x lebih cepat daripada x86 untuk tugas mulai dari penulisan skrip hingga pemulihan basis data.

DPU BlueField-4 yang menjalankan Sentry, yang dibangun di atas perangkat lunak DOCA NVIDIA, terus memantau perilaku agen. Menurut NVIDIA, jika agen mencoba keluar dari batas perangkat lunaknya, Sentry akan mengarantina dan menghentikannya dalam hitungan milidetik. Perusahaan juga menyatakan bahwa Sentry pada BlueField-4 meningkatkan kapasitas agen hingga 20%.

Cara OpenShell dan Sentry Menegakkan Batas Agen

Menurut pandangan NVIDIA yang disampaikan dalam artikel teknisnya, agen tidak dapat mengatur dirinya sendiri sehingga keamanan dan tata kelola harus menjadi bagian dari infrastruktur tempat agen beroperasi. OpenShell memperlakukan beban kerja agen sebagai sesuatu yang tidak tepercaya selama seluruh proses eksekusi, dan hanya memberikan akses yang dibutuhkan agen pada saat akses itu diperlukan. Runtime ini memiliki empat komponen: Gateway, bidang kendali yang mengelola siklus hidup dan kebijakan sandbox; Supervisor, yang memeriksa permintaan keluar berdasarkan kebijakan serta mengatur akses ke kredensial, sembari berjalan sepenuhnya terpisah dari sandbox; Sandbox, yang mengisolasi beban kerja agen dan membatasi akses ke sistem berkas dan proses; serta Policy Prover, yang menerapkan verifikasi formal untuk memeriksa apakah izin dalam suatu kebijakan tetap berada dalam batas maksimum yang ditetapkan organisasi.

Dalam arsitektur referensi ini, agen berjalan di CPU Vera, sementara BlueField-4 berada di satu-satunya jalur pada node menuju model. Dengan demikian, Sentry dapat memeriksa komunikasi antara agen dan model tanpa mengandalkan laporan agen tentang perilakunya sendiri, menurut ulasan teknis mendalam tentang kerangka kerja ini. Sentry beroperasi di domain kepercayaan yang diisolasi perangkat keras dan tidak bergantung pada perangkat lunak host. Sistem ini dirancang agar kemampuan pemantauan dan penegakannya tetap berfungsi sekalipun agen berhasil keluar dari sandbox atau host disusupi.

DOCA Tower, gerbang keamanan AI Sentry yang dibangun di atas proksi Envoy sumber terbuka, berfungsi sebagai proksi transparan untuk lalu lintas agen dan mengakhiri TLS di dalam silikon. DOCA Flow menerapkan firewall lapisan 4 untuk setiap agen yang dipercepat di dalam silikon, memblokir koneksi ke tujuan yang tidak diizinkan dan meneruskan lalu lintas yang diizinkan ke DOCA Tower untuk pemeriksaan serta otorisasi pada lapisan aplikasi. Permintaan akses dievaluasi berdasarkan kebijakan yang telah ditetapkan menggunakan mesin Open Policy Agent, yang memakai bahasa Rego dan dapat mengevaluasi permintaan dalam waktu kurang dari satu milidetik, bergantung pada kompleksitas dan konfigurasi kebijakan.

DOCA Argus menambahkan konteks saat runtime melalui introspeksi memori langsung tanpa agen, dengan menganalisis bagian-bagian terpilih dari memori volatil host menggunakan BlueField-4 tanpa agen yang terpasang di host. Fitur ini memetakan kontainer ke pod-nya dan sandbox ke microVM, serta melacak proses, akses file, koneksi jaringan, dan pustaka yang dimuat berdasarkan hash. Dengan demikian, kebijakan dapat mewajibkan hash kontainer cocok dengan daftar yang disetujui atau mewajibkan proses pemrakarsa tercantum dalam daftar bahan perangkat lunak kontainer. Tanda-tanda peringatan yang dievaluasi Sentry mencakup eksekusi alat yang tidak disetujui, penggunaan ptrace untuk menyerang proses lain, lalu lintas keluar yang berlebihan, akses atau perubahan file tanpa izin, lonjakan penggunaan CPU, penulisan berlebihan ke folder sementara, dan penghapusan file dalam skala besar. Saat mendeteksi penyimpangan, Sentry dapat meminta pembatasan di dalam silikon dalam skala milidetik.

Sentry juga bekerja dengan model AI khusus yang mengklasifikasikan komunikasi agen secara inline atau di luar jalur untuk mengidentifikasi penyimpangan perilaku. Sentry menghasilkan catatan teratestasi yang menunjukkan jika terjadi manipulasi di BlueField-4, yang mendukung investigasi forensik serta ekspor ke platform keamanan perusahaan seperti sistem XDR dan SIEM. DOCA Tower mengintegrasikan SPIFFE/SPIRE untuk menyediakan identitas beban kerja yang dapat diverifikasi. NVIDIA berencana menghadirkan Sentry pada awal tahun depan; pustaka dan layanan mikro DOCA, termasuk DOCA Argus, DOCA Flow, dan OVS-DOCA, kini tersedia untuk eksperimen.

Ekosistem Mitra dan Ketersediaan

Arsitektur Referensi OpenShell berjalan pada infrastruktur Linux dan Kubernetes dari Canonical, SUSE, dan Red Hat; pada Microsoft Windows menggunakan Microsoft Execution Containers; serta pada sistem operasi cloud dari Amazon Web Services, Google Cloud, dan Microsoft Azure. Perusahaan dapat menjalankan agen dari pengembang model Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection, dan SpaceX Super Intelligence di atas infrastruktur OpenShell.

Vendor keamanan siber 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI, dan Zscaler sedang mengintegrasikan dukungan terhadap arsitektur ini ke dalam produk keamanan agen mereka. Bank BBVA dan Santander bekerja sama dengan NVIDIA untuk menjajaki arsitektur ini sebagai kerangka kerja guna memperkuat keselamatan, keamanan, dan tata kelola agen. Perusahaan perangkat lunak perusahaan Cadence, Dassault Systèmes, IBM, SAP, Siemens, dan Synopsys bekerja sama dengan OpenShell untuk membangun platform perangkat lunak agen, sementara Palantir dan NVIDIA bekerja sama dengan pelanggan untuk menerapkan agen yang aman di lingkungan produksi.

SAP mengintegrasikan arsitektur ini dengan runtime Joule Studio, bagian dari SAP Business AI Platform. ServiceNow mengumumkan ketersediaan umum ServiceNow Arc, agen AI personal yang berjalan dalam jangka panjang dengan tindakan yang diatur saat runtime oleh ServiceNow Super Intelligence Control Tower dan diberlakukan oleh OpenShell; lapisan otoritas AI Passport milik ServiceNow meneruskan kebijakan tersebut ke OpenShell dan Sentry, sehingga perusahaan dapat mencabut akses agen ke seluruh perangkat lunak dan perangkat keras dalam hitungan detik.

Produsen sistem Dell Technologies, Cisco, HPE, Lenovo, dan Supermicro sedang membangun infrastruktur dengan arsitektur ini. Penyedia cloud CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure, dan Vultr bekerja sama dengan NVIDIA untuk menerapkan infrastruktur yang siap menjalankan OpenShell. Sementara itu, penyedia inferensi dan pascapelatihan Baseten, Deepinfra, Fireworks, dan Together AI sedang membangun integrasi ke dalam alur pengembangan model mereka.

Pemberitahuan ketersediaan arsitektur ini mengarahkan pembaca ke dokumentasi Desain Referensi Ruang Kerja Agen yang Aman, yang mencakup tujuh bidang logis, model keamanan dan tata kelola, tingkatan penerapan, serta implementasi referensi untuk Red Hat OpenShift Virtualization dan Microsoft Azure. Kode OpenShell tersedia di GitHub.