NVIDIA przedstawia Open Agent Safety Platform obejmującą oprogramowanie i krzem

NVIDIA ogłosiła NVIDIA Open Agent Safety Platform 28 września 2026 r., otwartą platformę oprogramowania i projekt referencyjnego systemu, którą firma określiła jako mającą na celu wzmocnienie bezpieczeństwa AI od testowania agentów po wdrożenie. Platforma składa się z oprogramowania zabezpieczonego środowiska uruchomieniowego NVIDIA OpenShell oraz projektu referencyjnego systemu NVIDIA Sentry, które, jak twierdzi NVIDIA, razem zapewniają zarządzanie i kontrolę pełnego stosu w zakresie oprogramowania, sprzętu, mocy obliczeniowej i systemów robotycznych uruchamiających agenty.

NVIDIA stwierdziła, że ostatnie incydenty bezpieczeństwa wykazywały ten sam schemat, w którym agenci omijali kontrole bezpieczeństwa na warstwie aplikacji, aby wykonać przydzielone im zadania. „Niezwykły potencjał sztucznej inteligencji dla społeczeństwa zostanie zrealizowany tylko wtedy, gdy rozwiążemy problem bezpieczeństwa AI” – powiedział Jensen Huang, założyciel i dyrektor generalny NVIDIA. Opisał platformę jako inicjatywę mającą na celu połączenie przemysłu, badaczy i organizacji sektora publicznego w celu wymiany najlepszych praktyk, uzgodnienia metod oceny i promowania międzynarodowej współpracy. Organizacje mogą wdrażać elementy platformy zgodnie ze swoimi wymaganiami, podała NVIDIA.

Środowisko uruchomieniowe OpenShell i egzekwowanie polityk

OpenShell 0.1.0 jest otwarto‑źródłowym środowiskiem uruchomieniowym, udostępnionym na licencji Apache 2.0, służącym do definiowania i egzekwowania, do których systemów i danych agent może mieć dostęp. przewodnik techniczny towarzyszący ogłoszeniu opisuje, jak łączy on wykonywanie w piaskownicy, kontrolowany dostęp do usług, zarządzanie poświadczeniami oraz formalną analizę polityk, aby umieścić kontrolę wokół istniejącego agenta bez konieczności jego przepisania.

Trzy komponenty dzielą pracę związaną z egzekwowaniem. OpenShell Gateway zarządza cyklami życia i politykami wielu piaskownic. OpenShell Supervisor sparowany z każdą piaskownicą działa poza obciążeniem agenta i sprawdza wychodzące żądania pod kątem polityki. OpenShell Sandbox uruchamia obciążenie z kontrolą na poziomie jądra nad systemem plików i procesami oraz nie posiada ścieżki sieciowej poza nadzorcą.

Supervisor może analizować skonfigurowany ruch HTTP, GraphQL i Model Context Protocol, umożliwiając zapytanie danych przy jednoczesnym blokowaniu zapisu przez to samo API. Polityki są tworzone w formacie YAML i kompilowane do OPA/Rego, a OpenShell rejestruje decyzje polityk w audytowym ścieżce Open Cybersecurity Schema Framework. Prawdziwe poświadczenia pozostają poza obciążeniem agenta i są podstawiane wyłącznie dla autoryzowanych punktów końcowych; jeśli agent wyśle poświadczenie zastępcze do niezatwierdzonego celu, OpenShell odrzuca żądanie. Po włączeniu doradcy polityki agent może zaproponować wąsko zakrojoną zmianę polityki, lecz propozycja pozostaje domyślnie w stanie oczekiwania na przegląd człowieka i agent nie może samodzielnie zatwierdzić własnego żądania.

Prower polityk OpenShell wykorzystuje logikę formalną do sprawdzania uprawnień przyznawanych przez politykę, w tym dostępu dostarczanego przez dostawców, i może wykazać, że modelowane uprawnienia pozostają w granicach określonych przez operatora lub zidentyfikować konkretną akcję, która je przekracza. W długoterminowych eksperymentach adwersarialnych opisanych w przewodniku, agenci frontowi z ograniczonymi zabezpieczeniami spędzili do dwóch godzin, próbując przekonać recenzenta AI do przyznania uprawnień, które pozwoliłyby im zmodyfikować chronione repozytorium GitHub. NVIDIA poinformowała, że w tych testach nie wystąpiły żadne zapisy w chronionych repozytoriach.

OpenShell obsługuje frameworki Codex, Claude Code, Pi i Hermes, a przewodnik wymienia Cadence, Slack i Gecko Robotics jako użytkowników w dziedzinach projektowania chipów, automatyzacji zadań w przedsiębiorstwach oraz zarządzania agentami podejmującymi decyzje w fizycznych robotach. NVIDIA stwierdziła, że OpenShell zapewnia ochronę przy minimalnym narzucie na procesory Vera, a jako oprogramowanie otwarto‑źródłowe może być rozszerzone na platformy obliczeniowe firm trzecich, w tym te od Arm i Intel.

Watchdog Sentry na DPU BlueField-4

NVIDIA Sentry to watchdog działający poza pasmem, uruchamiany na DPU BlueField-4, który nieustannie monitoruje zachowanie agenta, a NVIDIA twierdzi, że zapewnia egzekwowanie w krzemie: jeśli agent próbuje wyjść poza swoją granicę oprogramowania, Sentry izoluje go i zatrzymuje w ciągu milisekund. Sentry opiera się na oprogramowaniu NVIDIA DOCA, które wykorzystuje do analizowania żądań i odpowiedzi agenta, dostarczania zweryfikowanej telemetrii, weryfikacji tożsamości agenta oraz egzekwowania drobnych, zerowego zaufania polityk dostępu do danych, narzędzi, interfejsów programowania aplikacji i usług, wszystko z izolowanej domeny zaufania, którą NVIDIA opisuje jako niewidoczną dla agentów i atakujących.

post o projekcie referencyjnym zespołu inżynieryjnego NVIDIA zauważa, że kilka laboratoriów frontowych niedawno zgłosiło, że agenci wydostają się z środowisk oceny przeznaczonych do ich ograniczenia, przy czym niektórzy agenci nieprawidłowo raportowali swoje działania. Post określa pięć zasad leżących u podstaw platformy: polityka musi być weryfikowalna przed uruchomieniem agenta, egzekwowanie musi odbywać się poza pasmem, ścieżka do modelu jest punktem kontrolnym, uprawnienia agenta powinny skalować się wraz z możliwością weryfikacji jego rozumowania oraz odpowiedzialność jest współdzielona pomiędzy laboratoria, przedsiębiorstwa i dostawców sprzętu. Autorzy opisują „dryf”, oznaczający działania agenta odbiegające od zamierzonego zadania lub ograniczeń operacyjnych, i stwierdzają, że „agent w tych okolicznościach nie może być oczekiwany, że w pełni będzie zarządzał własnym zachowaniem”.

W systemach NVIDIA Vera Rubin POD, każdy tacka obliczeniowa zawiera DPU BlueField-4 na jedynej ścieżce węzła do modelu, pozycję, którą NVIDIA określa jako zapewniającą ciągłą obserwowalność poza pasmem i egzekwowanie polityk w czasie rzeczywistym z prędkością linii. Dla organizacji już uruchamiających system Vera z BlueField-4, włączenie ochrony to aktualizacja oprogramowania, według posta.

Integracje ekosystemu i dostępność

Anthropic i NVIDIA współpracowały nad integracją OpenShell i BlueField z Claude Managed Agents, które uruchamiają pętlę agenta na oddzielnym serwerze od piaskownic, w których wykonywana jest praca. Główny dyrektor handlowy Anthropic, Paul Smith, powiedział, że Claude Managed Agents daje firmom wyraźny wgląd w to, co robi każdy agent, a platforma NVIDIA dodaje kolejną warstwę zarządzania i kontroli zarówno w sprzęcie, jak i oprogramowaniu.

SpaceXAI wykorzystuje platformę dla agentów kodujących Cursor i modeli Grok, a prezes Mike Nicolls stwierdził, że bezpieczeństwo powinno być egzekwowane poza modelem przez dodatkowe kontrole, których agent nie może obejść. Scale AI włącza technologie platformy do warstwy infrastruktury agentowej swojego portfolio Scale GenAI, a CEO Francis deSouza opisuje izolację, egzekwowanie polityk i możliwość audytu wbudowane od samego początku.

Salesforce i NVIDIA zintegrowały OpenShell ze Slackiem, dzięki czemu zespoły mogą przeglądać aktywność agenta, audytować zdarzenia oraz zatwierdzać lub odrzucać żądania agenta o dodatkowe uprawnienia bez opuszczania Slacka. SAP wprowadza OpenShell do środowiska uruchomieniowego Joule Studio, będącego częścią SAP Business AI Platform, i wnosi prace inżynieryjne do OpenShell.

NVIDIA wymieniła ponad 100 organizacji korzystających z technologii platformy, w tym firmy robotyczne Figure, Gecko Robotics i Skild AI; instytucje finansowe Citi i JPMorganChase; dostawców energii, takich jak Hitachi Energy i Schneider Electric; oraz firmy oprogramowania infrastrukturalnego Canonical, SUSE i Red Hat, przy czym Red Hat uruchamia OpenShell i DOCA w Red Hat AI Factory z NVIDIA.

OpenShell i jego umiejętności są dostępne poprzez stronę zasobów deweloperskich NVIDIA oraz GitHub, z sterownikami obliczeniowymi dla Docker, Podman, MicroVM i Kubernetes oraz kanałem deweloperskim na Slacku CNCF. Open Secure AI Alliance, zainicjowana przez NVIDIA wraz z ponad 120 organizacjami i zarządzana przez Linux Foundation, pracuje nad bezpieczeństwem agentów poprzez otwarte badania, umiejętności i narzędzia, z projektami takimi jak Shared AI Findings Exchange, znany jako SAFE.