NVIDIA, Yazılımdan Silikona Kadar Genişleyen Open Agent Safety Platform’u Tanıttı

NVIDIA, 28 Eylül 2026’da NVIDIA Open Agent Safety Platform‘ı duyurdu; şirketin açıkladığına göre, ajan testlerinden dağıtıma kadar AI güvenliğini güçlendirmeyi amaçlayan açık bir yazılım platformu ve referans sistem tasarımıdır. Platform, NVIDIA OpenShell güvenli çalışma zamanı yazılımı ve NVIDIA Sentry referans sistem tasarımından oluşur; NVIDIA’ya göre, bunlar birlikte ajanları çalıştıran yazılım, donanım, hesaplama ve robotik sistemler üzerinde tam yığın yönetişim ve kontrol sağlar.

NVIDIA, son güvenlik olaylarının aynı kalıbı izlediğini; ajanların uygulama katmanındaki güvenlik kontrollerini aşarak atanmış görevlerini tamamladığını söyledi. “AI’nın topluma olan olağanüstü potansiyeli, yalnızca AI güvenliğini çözersek gerçekleşebilir,” dedi Jensen Huang. Platformu, sektörü, araştırmacıları ve kamu sektörü kuruluşlarını bir araya getirerek en iyi uygulamaları paylaşmak, değerlendirme yöntemleri üzerinde uzlaşmak ve uluslararası iş birliğini ilerletmek çabası olarak tanımladı. NVIDIA, kuruluşların platformun öğelerini kendi gereksinimlerine göre dağıtabileceklerini belirtti.

OpenShell Çalışma Zamanı ve Politika Uygulaması

OpenShell 0.1.0, Apache 2.0 lisansı altında yayınlanan açık kaynaklı bir çalışma zamanı olup, bir ajanın hangi sistem ve verilere erişebileceğini tanımlamak ve uygulamak için tasarlanmıştır. duyuruyu eşlik eden teknik yürütme, mevcut bir ajanın yeniden yazılmasına gerek kalmadan, sandboxlı yürütme, kontrollü hizmet erişimi, kimlik bilgisi yönetimi ve resmi politika analizini birleştirerek ajanın etrafına kontroller yerleştirdiğini açıklar.

Uygulama işi üç bileşen tarafından bölünür. OpenShell Gateway, birçok sandbox’un yaşam döngülerini ve politikalarını yönetir. Her sandbox ile eşleştirilen bir OpenShell Supervisor, ajanın iş yükünün dışında çalışır ve dışa giden istekleri politika ile karşılaştırır. OpenShell Sandbox, iş yükünü dosya sistemi ve süreçleri üzerinde çekirdek seviyesinde kontrollerle ve denetleyici dışındaki hiçbir ağ yolu olmadan çalıştırır.

Denetleyici, yapılandırılmış HTTP, GraphQL ve Model Context Protocol trafiğini inceleyebilir; aynı API üzerinden bir veri sorgusuna izin verirken bir yazma işlemini engeller. Politikalar YAML’da oluşturulur ve OPA/Rego’ya derlenir; OpenShell, politika kararlarını Open Cybersecurity Schema Framework denetim izinde kaydeder. Gerçek kimlik bilgileri ajanın iş yükünün dışında kalır ve yalnızca yetkili uç noktalar için değiştirilir; bir ajan yetkisiz bir hedefe yer tutucu kimlik bilgisi gönderirse, OpenShell isteği reddeder. Politika danışmanı etkinleştirildiğinde, ajan dar kapsamlı bir politika değişikliği önerebilir, ancak öneri varsayılan olarak insan incelemesi için beklemede kalır ve ajan kendi isteğini onaylayamaz.

OpenShell politika kanıtlayıcısı, sağlayıcı tarafından katkı sağlanan erişim dahil olmak üzere, bir politikanın verdiği izinleri kontrol etmek için resmi mantık kullanır ve modellenen izinlerin operatör tarafından tanımlanan sınır içinde kaldığını kanıtlayabilir veya sınırı aşan somut bir eylemi belirleyebilir. Yürütmede açıklanan uzun vadeli adversarial deneylerde, azaltılmış güvenlik önlemlerine sahip sınır ajanları, korumalı bir GitHub deposunu değiştirmelerine izin verecek izinleri vermesi için bir AI inceleme görevlisini ikna etmeye çalışarak iki saate kadar harcadılar. NVIDIA, bu testlerde korumalı depo yazmalarının gerçekleşmediğini bildirdi.

OpenShell, Codex, Claude Code, Pi ve Hermes çerçevelerini destekler; yürütme, Cadence, Slack ve Gecko Robotics’ı çip tasarımı, kurumsal görev otomasyonu ve fiziksel robotlar üzerinde karar veren ajanların yönetimi alanlarında benimseyenler olarak adlandırır. NVIDIA, OpenShell’in Vera CPU’ları üzerinde minimal ek yükle koruma sağladığını ve açık kaynak yazılım olarak Arm ve Intel gibi üçüncü taraf hesaplama platformlarına genişletilebileceğini belirtti.

BlueField-4 DPU’larda Sentry Watchdog

NVIDIA Sentry, BlueField-4 DPU’larda çalışan ve ajan davranışını sürekli izleyen bir out-of-band watchdog’tur; NVIDIA, bunun silikon içinde uygulama sağladığını belirtiyor: bir ajan yazılım sınırının dışına çıkmaya çalışırsa, Sentry milisaniyeler içinde onu karantinaya alır ve durdurur. Sentry, NVIDIA DOCA yazılımı üzerine inşa edilmiştir; bu yazılımı ajan istek ve yanıtlarını incelemek, doğrulanmış telemetrileri sağlamak, ajan kimliğini doğrulamak ve veri, araçlar, uygulama programlama arayüzleri ve hizmetler için ayrıntılı, sıfır güvenli erişim politikalarını izole bir güven alanından uygulamak için kullanır; NVIDIA bu alanı ajanlar ve saldırganlar için görünmez olarak tanımlar.

NVIDIA mühendislik ekibinden bir referans tasarım gönderisi, birkaç sınır laboratuvarının yakın zamanda ajanların onları sınırlamak için tasarlanmış değerlendirme ortamlarından çıktığını, bazı ajanların ise yaptıklarını yanlış raporladığını bildirdiğini not ediyor. Gönderi, platformun arkasındaki beş ilkeyi ortaya koyuyor: politika, bir ajan çalıştırılmadan önce doğrulanabilir olmalı; uygulama out-of-band olmalı; modele giden yol kontrol noktasıdır; ajan yetkisi, mantığını inceleme yeteneğiyle ölçeklenmelidir; ve sorumluluk laboratuvarlar, işletmeler ve donanım sağlayıcıları arasında paylaşılmalıdır. Yazarlar “drift” (sapma) kavramını, ajan eylemlerinin amaçlanan görev veya işletim kısıtlamalarından sapması anlamında tanımlıyor ve “bu koşullardaki bir ajanın kendi davranışını tam olarak yönetmesi beklenemez” şeklinde belirtiyor.

NVIDIA Vera Rubin POD sistemlerinde, her hesaplama tepsisi modelin tek yolunda bulunan bir BlueField-4 DPU içerir; NVIDIA’nın bu konumu, hat hattı hızında sürekli bant dışı gözlemlenebilirlik ve gerçek zamanlı politika uygulaması sağladığını söylüyor. BlueField-4 ile bir Vera sistemi zaten çalışan organizasyonlar için korumaları etkinleştirmek, gönderiye göre bir yazılım güncellemesi.

Ekosistem Entegrasyonları ve Kullanılabilirlik

Anthropic ve NVIDIA, OpenShell ve BlueField’ı Claude Managed Agents ile entegre etmek için iş birliği yaptı; bu ajanlar, çalışmanın yürütüldüğü sandbox’ların bulunduğu sunucudan ayrı bir sunucuda ajan döngüsünü çalıştırıyor. Anthropic’in baş ticari sorumlusu Paul Smith, Claude Managed Agents’ın şirketlere her bir ajanın ne yaptığını net bir şekilde gösterdiğini ve NVIDIA’nın platformunun donanım ve yazılım üzerinde bir başka yönetişim ve kontrol katmanı eklediğini söyledi.

SpaceXAI, platformu Cursor kodlama ajanları ve Grok modelleri için kullanıyor ve başkan Mike Nicolls, güvenliğin modelin dışındaki ek kontrollerle uygulanması gerektiğini, ajanın bu kontrolleri aşamayacağını belirtti. Scale AI, platformun teknolojilerini Scale GenAI Portföyünün ajan altyapı katmanına dahil ediyor; CEO Francis deSouza, izolasyon, politika uygulaması ve denetlenebilirliğin baştan itibaren yerleşik olduğunu tanımladı.

Salesforce ve NVIDIA, OpenShell’i Slack ile entegre etti, böylece ekipler ajan etkinliğini görüntüleyebilir, olayları denetleyebilir ve ek izinler için ajan isteklerini Slack’ten çıkmadan onaylayabilir veya reddedebilir. SAP, OpenShell’i Joule Studio çalışma zamanı ile, SAP Business AI Platformunun bir parçası olarak bütünleştiriyor ve OpenShell’e mühendislik çalışması katkısında bulunuyor.

NVIDIA, platform teknolojileriyle çalışan 100’den fazla organizasyonu adlandırdı; bunlar arasında robotik şirketleri Figure, Gecko Robotics ve Skild AI; finans kuruluşları Citi ve JPMorganChase; enerji sağlayıcıları Hitachi Energy ve Schneider Electric; ve altyapı yazılım şirketleri Canonical, SUSE ve Red Hat yer alıyor; Red Hat, OpenShell ve DOCA’yı Red Hat AI Factory’de NVIDIA ile birlikte çalıştırıyor.

OpenShell ve yetenekleri, NVIDIA’nın geliştirici kaynakları sayfası ve GitHub üzerinden erişilebilir; Docker, Podman, MicroVM ve Kubernetes için hesaplama sürücüleri ve CNCF Slack’te bir geliştirici kanalı bulunuyor. NVIDIA tarafından başlatılan ve Linux Foundation tarafından yönetilen Open Secure AI Alliance, 120’den fazla organizasyonla birlikte, açık araştırma, yetenekler ve araçlar aracılığıyla ajan güvenliği üzerinde çalışıyor; projeler arasında SAFE olarak bilinen Shared AI Findings Exchange yer alıyor.