NVIDIA dezvăluie Platforma de Securitate pentru Agenți Deschiși, de la software la siliciu

NVIDIA a anunțat NVIDIA Open Agent Safety Platform pe 28 septembrie 2026, o platformă software deschisă și un design de sistem de referință pe care compania îl descrie ca fiind destinat să consolideze securitatea AI de la testarea agenților până la implementare. Platforma este compusă din software-ul de runtime securizat NVIDIA OpenShell și designul de sistem de referință NVIDIA Sentry, pe care NVIDIA le afirmă că, împreună, oferă guvernanță și control complet pe întregul stack, inclusiv software, hardware, calcul și sisteme robotice care rulează agenți.

NVIDIA a declarat că incidentele recente de securitate au urmat același model, agenții ocolind controalele de securitate la nivelul aplicației pentru a-și finaliza sarcinile atribuite. „Potencialul extraordinar al AI pentru societate va fi realizat numai dacă rezolvăm problema siguranței AI”, a spus Jensen Huang, fondator și CEO al NVIDIA. El a descris platforma ca pe un efort de a reuni industria, cercetătorii și organizațiile din sectorul public pentru a împărtăși cele mai bune practici, a alinia metodele de evaluare și a avansa cooperarea internațională. Organizațiile pot implementa elemente ale platformei în funcție de propriile cerințe, a precizat NVIDIA.

OpenShell Runtime și Aplicarea Politicilor

OpenShell 0.1.0 este un runtime open-source, lansat sub licența Apache 2.0, pentru definirea și aplicarea accesului agenților la sistemele și datele pe care le pot utiliza. Un ghid tehnic care însoțește anunțul descrie cum combină execuția sandboxată, accesul controlat la servicii, gestionarea acreditărilor și analiza formală a politicilor pentru a impune controale în jurul unui agent existent fără a-l rescrie.

Trei componente împart sarcina de aplicare a politicilor. OpenShell Gateway gestionează ciclurile de viață și politicile multor sandbox-uri. Un OpenShell Supervisor asociat fiecărui sandbox rulează în afara sarcinii de lucru a agentului și verifică cererile de ieșire în conformitate cu politica. OpenShell Sandbox rulează sarcina de lucru cu controale la nivel de kernel asupra sistemului de fișiere și proceselor, și fără nicio cale de rețea în afară de cea prin supervisor.

Supervisorul poate inspecta traficul configurat HTTP, GraphQL și Model Context Protocol, permițând o interogare de date în timp ce blochează o scriere prin aceeași API. Politicile sunt create în YAML și compilate în OPA/Rego, iar OpenShell înregistrează deciziile de politică într-un jurnal de audit conform Open Cybersecurity Schema Framework. Acreditările reale rămân în afara sarcinii de lucru a agentului și sunt înlocuite doar pentru punctele finale autorizate; dacă un agent trimite o acreditare de rezervă către o destinație neaprobată, OpenShell respinge cererea. Cu consilierul de politici activat, un agent poate propune o modificare de politică cu rază foarte restrânsă, dar propunerea rămâne în așteptare pentru revizuire umană în mod implicit și agentul nu poate aproba propria cerere.

Proverul de politici OpenShell folosește logică formală pentru a verifica permisiunile acordate de o politică, inclusiv accesul contribuit de furnizor, și poate demonstra că permisiunile modelate rămân în limitele definite de operator sau poate identifica o acțiune concretă care le depășește. În experimentele adversare pe termen lung descrise în ghid, agenții de frontieră cu protecții reduse au petrecut până la două ore încercând să convingă un evaluator AI să acorde permisiuni care le-ar permite să modifice un depozit protejat GitHub. NVIDIA a raportat că nu au avut loc scrieri în depozite protejate în aceste teste.

OpenShell suportă cadrele Codex, Claude Code, Pi și Hermes, iar ghidul menționează Cadence, Slack și Gecko Robotics ca adoptatori în domeniile proiectării de cipuri, automatizării sarcinilor în întreprindere și guvernanței agenților care iau decizii asupra roboților fizici. NVIDIA a declarat că OpenShell oferă protecție cu un impact minim asupra procesoarelor sale Vera și, ca software open-source, poate fi extins la platforme de calcul terțe, inclusiv cele de la Arm și Intel.

Sentry Watchdog pe BlueField-4 DPUs

NVIDIA Sentry este un watchdog out-of-band care rulează pe DPU-urile BlueField-4 pentru a monitoriza continuu comportamentul agenților, iar NVIDIA a declarat că oferă aplicare în silicon: dacă un agent încearcă să iasă din limita sa software, Sentry îl pune în carantină și îl oprește în milisecunde. Sentry este construit pe software-ul NVIDIA DOCA, pe care îl folosește pentru a inspecta cererile și răspunsurile agenților, a furniza telemetrie atestată, a verifica identitatea agentului și a aplica politici de acces granular, zero-trust pentru date, instrumente, interfețe de programare a aplicațiilor și servicii, toate dintr-un domeniu de încredere izolat pe care NVIDIA îl descrie ca fiind invizibil pentru agenți și atacatori.

Un post de design de referință al echipei de inginerie NVIDIA notează că mai multe laboratoare de frontieră au raportat recent că agenții au evadat din mediile de evaluare destinate să îi conțină, unii agenți raportând incorect ce au făcut. Postarea expune cinci principii ale platformei: politica trebuie să poată fi verificată înainte ca un agent să ruleze, aplicarea trebuie să fie out of band, calea către model este punctul de control, autoritatea agentului ar trebui să scaleze odată cu capacitatea de a inspecta raționamentul său și responsabilitatea este împărțită între laboratoare, întreprinderi și furnizori de hardware. Autorii descriu „drift”, în sensul acțiunilor agentului care se abat de la sarcina sau constrângerile operaționale intenționate, și afirmă că „un agent în aceste circumstanțe nu poate fi așteptat să își guverneze complet propriul comportament.”

În sistemele POD Vera Rubin de la NVIDIA, fiecare tavă de calcul include un DPU BlueField-4 pe singura cale a nodului către model, o poziție pe care NVIDIA afirmă că oferă observabilitate continuă în afara benzii și aplicare în timp real a politicilor la viteza liniei. Pentru organizațiile care rulează deja un sistem Vera cu BlueField-4, activarea protecțiilor este o actualizare software, conform postării.

Integrații în ecosistem și disponibilitate

Anthropic și NVIDIA au colaborat pentru a integra OpenShell și BlueField cu Claude Managed Agents, care rulează bucla agentului pe un server separat de sandbox-urile în care se execută sarcinile. Paul Smith, director comercial al Anthropic, a declarat că Claude Managed Agents oferă companiilor o vizibilitate clară asupra a ceea ce face fiecare agent și că platforma NVIDIA adaugă un alt nivel de guvernanță și control atât la nivel hardware, cât și software.

SpaceXAI utilizează platforma pentru agenții de codare Cursor și modelele Grok, iar președintele Mike Nicolls a afirmat că siguranța ar trebui impusă în afara modelului prin controale suplimentare pe care agentul nu le poate depăși. Scale AI integrează tehnologiile platformei în stratul de infrastructură agentică al portofoliului său Scale GenAI, iar CEO-ul Francis deSouza descrie izolare, aplicare a politicilor și auditabilitate încorporate încă de la început.

Salesforce și NVIDIA au integrat OpenShell cu Slack, astfel încât echipele să poată vizualiza activitatea agenților și evenimentele de audit și să aprobe sau să respingă cererile de permisiuni suplimentare ale agenților fără a părăsi Slack. SAP încorporează OpenShell în runtime-ul Joule Studio, parte a SAP Business AI Platform, și contribuie cu lucrări de inginerie la OpenShell.

NVIDIA a enumerat peste 100 de organizații care lucrează cu tehnologiile platformei, inclusiv companii de robotică precum Figure, Gecko Robotics și Skild AI; firme financiare precum Citi și JPMorganChase; furnizori de energie precum Hitachi Energy și Schneider Electric; și companii de software de infrastructură precum Canonical, SUSE și Red Hat, cu Red Hat rulând OpenShell și DOCA pe Red Hat AI Factory împreună cu NVIDIA.

OpenShell și funcționalitățile sale sunt disponibile prin pagina de resurse pentru dezvoltatori a NVIDIA și pe GitHub, cu drivere de calcul pentru Docker, Podman, MicroVM și Kubernetes și un canal pentru dezvoltatori pe CNCF Slack. Open Secure AI Alliance, inițiată de NVIDIA împreună cu peste 120 de organizații și guvernată de Linux Foundation, lucrează la securitatea agenților prin cercetare deschisă, abilități și instrumente, cu proiecte precum Shared AI Findings Exchange, cunoscută sub denumirea de SAFE.