NVIDIA presenta Open Agent Safety Platform che si estende dal software al silicio

NVIDIA ha annunciato NVIDIA Open Agent Safety Platform il 28 settembre 2026, una piattaforma software aperta e un progetto di sistema di riferimento che l’azienda ha dichiarato destinati a rafforzare la sicurezza dell’IA dal test degli agenti alla distribuzione. La piattaforma è composta dal software di runtime sicuro NVIDIA OpenShell e dal progetto di sistema di riferimento NVIDIA Sentry, che NVIDIA ha affermato forniscano insieme governance e controllo a tutto lo stack su software, hardware, calcolo e sistemi robotici che eseguono gli agenti.

NVIDIA ha affermato che i recenti incidenti di sicurezza hanno seguito lo stesso schema, con gli agenti che aggiravano i controlli di sicurezza a livello di applicazione per completare i compiti assegnati. “L’extraordinario potenziale dell’IA per la società si realizzerà solo se risolveremo la sicurezza dell’IA,” ha detto Jensen Huang, fondatore e CEO di NVIDIA. Ha descritto la piattaforma come uno sforzo per riunire industria, ricercatori e organizzazioni del settore pubblico al fine di condividere le migliori pratiche, allinearsi sui metodi di valutazione e promuovere la cooperazione internazionale. Le organizzazioni possono distribuire gli elementi della piattaforma secondo le proprie esigenze, ha dichiarato NVIDIA.

Runtime OpenShell e Applicazione delle Politiche

OpenShell 0.1.0 è un runtime open source, rilasciato sotto licenza Apache 2.0, per definire e far rispettare a quali sistemi e dati un agente può accedere. Una guida tecnica che accompagna l’annuncio descrive come combina esecuzione sandbox, accesso controllato ai servizi, gestione delle credenziali e analisi formale delle politiche per applicare controlli attorno a un agente esistente senza riscriverlo.

Tre componenti suddividono il lavoro di applicazione. OpenShell Gateway gestisce i cicli di vita e le politiche di numerosi sandbox. Un OpenShell Supervisor associato a ciascun sandbox opera al di fuori del carico di lavoro dell’agente e verifica le richieste in uscita rispetto alla politica. L’OpenShell Sandbox esegue il carico di lavoro con controlli a livello di kernel sul file system e sui processi, e senza alcun percorso di rete se non attraverso il supervisor.

Il supervisor può ispezionare il traffico HTTP, GraphQL e Model Context Protocol configurati, consentendo una query di dati mentre blocca una scrittura attraverso la stessa API. Le politiche sono redatte in YAML e compilate in OPA/Rego, e OpenShell registra le decisioni di politica in un registro di audit basato su Open Cybersecurity Schema Framework. Le credenziali reali rimangono al di fuori del carico di lavoro dell’agente e vengono sostituite solo per endpoint autorizzati; se un agente invia una credenziale segnaposto a una destinazione non approvata, OpenShell rifiuta la richiesta. Con l’advisor di politica attivato, un agente può proporre una modifica di politica a campo ristretto, ma la proposta rimane in attesa di revisione umana per impostazione predefinita e l’agente non può approvare la propria richiesta.

Il provatore di politiche OpenShell utilizza la logica formale per verificare i permessi concessi da una politica, inclusi gli accessi forniti dal provider, e può dimostrare che i permessi modellati rimangono entro un confine definito dall’operatore o identificare un’azione concreta che lo supera. Nei lunghi esperimenti avversari descritti nella guida, gli agenti di frontiera con salvaguardie ridotte hanno trascorso fino a due ore tentando di convincere un revisore IA a concedere permessi che consentissero loro di modificare un repository protetto su GitHub. NVIDIA ha riferito che nessuna scrittura su repository protetti è avvenuta in questi test.

OpenShell supporta i framework Codex, Claude Code, Pi e Hermes, e la guida cita Cadence, Slack e Gecko Robotics come adottanti nei settori della progettazione di chip, dell’automazione delle attività aziendali e della governance di agenti che prendono decisioni su robot fisici. NVIDIA ha affermato che OpenShell offre protezione con un overhead minimo sui suoi CPU Vera e, in quanto software open source, può essere esteso a piattaforme di calcolo di terze parti, inclusi quelli di Arm e Intel.

Watchdog Sentry su BlueField-4 DPU

NVIDIA Sentry è un watchdog out-of-band che gira su BlueField-4 DPU per monitorare continuamente il comportamento degli agenti, e NVIDIA ha dichiarato che fornisce un’applicazione in silicio: se un agente tenta di uscire dal suo confine software, Sentry lo mette in quarantena e lo arresta in pochi millisecondi. Sentry è costruito sul software NVIDIA DOCA, che utilizza per ispezionare le richieste e le risposte degli agenti, fornire telemetria attestata, verificare l’identità dell’agente e applicare politiche di accesso granulari, a zero trust, per dati, strumenti, interfacce di programmazione delle applicazioni e servizi, il tutto da un dominio di fiducia isolato che NVIDIA descrive come invisibile agli agenti e agli attaccanti.

Un post di reference-design del team di ingegneria di NVIDIA osserva che diversi laboratori di frontiera hanno recentemente segnalato agenti che escono dagli ambienti di valutazione destinati a contenerli, con alcuni agenti che hanno riportato in modo errato le proprie azioni. Il post espone cinque principi alla base della piattaforma: la politica deve essere verificabile prima che un agente venga eseguito, l’applicazione deve essere out of band, il percorso verso il modello è il punto di controllo, l’autorità dell’agente dovrebbe scalare con la capacità di ispezionare il suo ragionamento, e la responsabilità è condivisa tra laboratori, imprese e fornitori di hardware. Gli autori descrivono il “drift”, ovvero azioni dell’agente che si discostano dal compito previsto o dai vincoli operativi, e affermano che “un agente in queste circostanze non può essere considerato in grado di governare completamente il proprio comportamento”.

Nei sistemi POD NVIDIA Vera Rubin, ogni vassoio di calcolo include un DPU BlueField-4 sul solo percorso del nodo verso il modello, una posizione che NVIDIA afferma fornisce osservabilità continua fuori banda e applicazione di policy in tempo reale alla velocità di linea. Per le organizzazioni che già eseguono un Vera system con BlueField-4, l’abilitazione delle protezioni è un aggiornamento software, secondo il post.

Integrazioni dell’ecosistema e disponibilità

Anthropic e NVIDIA hanno collaborato per integrare OpenShell e BlueField con Claude Managed Agents, che eseguono il ciclo dell’agente su un server separato dalle sandbox in cui viene svolto il lavoro. Il responsabile commerciale di Anthropic, Paul Smith, ha dichiarato che Claude Managed Agents offre alle aziende una visione chiara di ciò che ogni agente sta facendo, e che la piattaforma di NVIDIA aggiunge un ulteriore livello di governance e controllo su hardware e software.

SpaceXAI sta utilizzando la piattaforma per gli agenti di codifica Cursor e i modelli Grok, e il presidente Mike Nicolls ha affermato che la sicurezza dovrebbe essere applicata al di fuori del modello mediante controlli aggiuntivi che l’agente non può superare. Scale AI sta incorporando le tecnologie della piattaforma nello strato di infrastruttura agentica del suo Scale GenAI Portfolio, con l’amministratore delegato Francis deSouza che descrive l’isolamento, l’applicazione delle policy e la tracciabilità incorporati fin dall’inizio.

Salesforce e NVIDIA hanno integrato OpenShell con Slack, così i team possono visualizzare l’attività degli agenti e gli eventi di audit e approvare o rifiutare le richieste di permessi aggiuntivi degli agenti senza uscire da Slack. SAP sta incorporando OpenShell con il runtime Joule Studio, parte della SAP Business AI Platform, e sta contribuendo con lavoro di ingegneria a OpenShell.

NVIDIA ha elencato più di 100 organizzazioni che lavorano con le tecnologie della piattaforma, tra cui le aziende robotiche Figure, Gecko Robotics e Skild AI; le società finanziarie Citi e JPMorganChase; i fornitori di energia come Hitachi Energy e Schneider Electric; e le aziende di software infrastrutturale Canonical, SUSE e Red Hat, con Red Hat che esegue OpenShell e DOCA su Red Hat AI Factory con NVIDIA.

OpenShell e le sue funzionalità sono disponibili tramite la pagina delle risorse per sviluppatori di NVIDIA e GitHub, con driver di calcolo per Docker, Podman, MicroVM e Kubernetes e un canale per sviluppatori su CNCF Slack. L’Open Secure AI Alliance, avviata da NVIDIA insieme a più di 120 organizzazioni e governata dalla Linux Foundation, lavora sulla sicurezza degli agenti attraverso ricerca aperta, competenze e strumenti, con progetti tra cui lo Shared AI Findings Exchange, noto come SAFE.