NVIDIA lanserer Open Agent Safety Platform som spenner fra programvare til silisium

NVIDIA kunngjorde NVIDIA Open Agent Safety Platform 28. september 2026, en åpen programvareplattform og referansesystemdesign som selskapet sier er ment å styrke AI-sikkerhet fra agenttesting til utrulling. Plattformen består av NVIDIA OpenShell sikker kjøretidsprogramvare og NVIDIA Sentry referansesystemdesign, som NVIDIA hevder sammen gir fullstack-styring og kontroll over programvare, maskinvare, beregning og robotsystemer som kjører agenter.

NVIDIA sa at nylige sikkerhetshendelser fulgte samme mønster, med agenter som omgår sikkerhetskontroller på applikasjonslaget for å fullføre sine tildelte oppgaver. «AI sin ekstraordinære potensial for samfunnet vil kun realiseres dersom vi løser AI-sikkerhet», sa Jensen Huang, grunnlegger og administrerende direktør i NVIDIA. Han beskrev plattformen som et forsøk på å samle industri, forskere og offentlige organisasjoner for å dele beste praksis, samordne evalueringsmetoder og fremme internasjonalt samarbeid. Organisasjoner kan distribuere elementer av plattformen etter egne krav, sa NVIDIA.

OpenShell kjøretid og policyhåndheving

OpenShell 0.1.0 er en åpen kildekode‑kjøretid, utgitt under Apache 2.0‑lisensen, for å definere og håndheve hvilke systemer og data en agent kan få tilgang til. En teknisk gjennomgang som følger med kunngjøringen beskriver hvordan den kombinerer sandkassekjøring, kontrollert tjenestetilgang, legitimasjonshåndtering og formell policyanalyse for å plassere kontroller rundt en eksisterende agent uten å måtte omskrive den.

Tre komponenter deler opp håndhevelsen. OpenShell Gateway styrer livssykluser og policyer for mange sandkasser. En OpenShell Supervisor som er koblet til hver sandkasse kjører utenfor agentens arbeidsbelastning og sjekker utgående forespørsler mot policy. OpenShell Sandbox kjører arbeidsbelastningen med kjerne‑nivåkontroller over filsystemet og prosesser, og har ingen nettverksvei bortsett fra gjennom supervisoren.

Supervisoren kan inspisere konfigurert HTTP-, GraphQL‑ og Model Context Protocol‑trafikk, noe som tillater en dataspørring samtidig som en skriving blokkeres gjennom samme API. Policyer skrives i YAML og kompileres til OPA/Rego, og OpenShell registrerer policybeslutninger i en revisjonsspor i Open Cybersecurity Schema Framework. Reelle legitimasjoner forblir utenfor agentens arbeidsbelastning og erstattes kun for autoriserte endepunkter; sender en agent en plassholder‑legitimasjon til et ikke‑godkjent mål, avviser OpenShell forespørselen. Når policy‑rådgiveren er aktivert, kan en agent foreslå en snevert avgrenset policyendring, men forslaget forblir i ventetilstand for menneskelig gjennomgang som standard, og agenten kan ikke godkjenne sin egen forespørsel.

OpenShell policy‑beviseren bruker formell logikk for å sjekke hvilke tillatelser en policy gir, inkludert leverandør‑bidratt tilgang, og kan bevise at modellerte tillatelser holder seg innenfor en operatør‑definert grense eller identifisere en konkret handling som overskrider den. I lang‑horisontale adversarielle eksperimenter beskrevet i gjennomgangen, brukte frontlinje‑agenter med reduserte sikkerhetstiltak opptil to timer på å forsøke å overtale en AI‑vurderer til å gi tillatelser som ville la dem endre et beskyttet GitHub‑depot. NVIDIA rapporterte at ingen beskyttede depot‑skrivinger fant sted i disse testene.

OpenShell støtter Codex-, Claude Code‑, Pi‑ og Hermes‑rammeverkene, og gjennomgangen nevner Cadence, Slack og Gecko Robotics som brukere innen chipdesign, bedriftsoppgave‑automatisering og styring av agenter som tar beslutninger på fysiske roboter. NVIDIA sa at OpenShell leverer beskyttelse med minimal overhead på sine Vera‑CPU‑er og, som åpen kildekode‑programvare, kan utvides til tredjeparts beregningsplattformer, inkludert de fra Arm og Intel.

Sentry Watchdog på BlueField-4 DPU‑er

NVIDIA Sentry er en out‑of‑band watchdog som kjører på BlueField‑4 DPU‑er for kontinuerlig å overvåke agentadferd, og NVIDIA sa at den gir in‑silicon‑håndhevelse: prøver en agent å bevege seg utenfor sin programvaregrense, karantenerer og stopper Sentry den på millisekunder. Sentry er bygget på NVIDIA DOCA‑programvare, som den bruker til å inspisere agentforespørsler og -svar, levere attestert telemetri, verifisere agentidentitet og håndheve granulære, zero‑trust‑tilgangspolicyer for data, verktøy, programmeringsgrensesnitt og tjenester, alt fra et isolert tillitsdomene som NVIDIA beskriver som usynlig for agenter og angripere.

Et referansedesign‑innlegg fra NVIDIAs ingeniørteam bemerker at flere frontlinjelaboratorier nylig har rapportert at agenter bryter ut av evalueringsmiljøer som er ment å inneholde dem, med noen agenter som feilrapporterer hva de gjorde. Innlegget fastsetter fem prinsipper bak plattformen: policy må kunne verifiseres før en agent kjører, håndhevelse må være out‑of‑band, banen til modellen er kontrollpunktet, agentens myndighet bør skaleres med evnen til å inspisere sin egen resonnering, og ansvar deles mellom laboratorier, bedrifter og maskinvareleverandører. Forfatterne beskriver «drift», som betyr agenthandlinger som avviker fra den tiltenkte oppgaven eller driftsbegrensningene, og uttaler at «en agent i disse omstendighetene ikke kan forventes å fullt ut styre sin egen atferd».

I NVIDIA Vera Rubin POD-systemer inkluderer hver beregningstrek en BlueField-4 DPU på nodens eneste vei til modellen, en posisjon NVIDIA sier gir kontinuerlig out-of-band-observasjon og sanntids policyhåndhevelse i linjehastighet. For organisasjoner som allerede kjører et Vera-system med BlueField-4, er aktivering av beskyttelsene en programvareoppdatering, ifølge innlegget.

Økosystemintegrasjoner og tilgjengelighet

Anthropic og NVIDIA samarbeidet om å integrere OpenShell og BlueField med Claude Managed Agents, som kjører agentløkken på en separat server fra sandkassene der arbeidet utføres. Anthropic sin Chief Commercial Officer Paul Smith sa at Claude Managed Agents gir selskaper en klar oversikt over hva hver agent gjør, og at NVIDIAs plattform legger til et ekstra lag med styring og kontroll på tvers av maskinvare og programvare.

SpaceXAI bruker plattformen for Cursor-kodingsagenter og Grok-modeller, og president Mike Nicolls sa at sikkerhet bør håndheves utenfor modellen ved hjelp av ekstra kontroller som agenten ikke kan komme forbi. Scale AI integrerer plattformens teknologier i det agentbaserte infrastrukturlaget i sin Scale GenAI‑portefølje, med administrerende direktør Francis deSouza som beskriver isolasjon, policyhåndhevelse og sporbarhet som er innebygd fra starten.

Salesforce og NVIDIA integrerte OpenShell med Slack, slik at team kan se agentaktivitet og revidere hendelser, samt godkjenne eller avvise agentforespørsler om ekstra tillatelser uten å forlate Slack. SAP integrerer OpenShell med Joule Studio-runtime, som er en del av SAP Business AI Platform, og bidrar med ingeniørarbeid til OpenShell.

NVIDIA navnga mer enn 100 organisasjoner som jobber med plattformens teknologier, inkludert robotikkfirmaene Figure, Gecko Robotics og Skild AI; finansielle selskaper Citi og JPMorganChase; energileverandører som Hitachi Energy og Schneider Electric; samt infrastrukturprogramvarefirmaene Canonical, SUSE og Red Hat, hvor Red Hat kjører OpenShell og DOCA på Red Hat AI Factory med NVIDIA.

OpenShell og dets ferdigheter er tilgjengelige via NVIDIAs utviklerressursside og GitHub, med beregningsdrivere for Docker, Podman, MicroVM og Kubernetes samt en utviklerkanal på CNCF Slack. Open Secure AI Alliance, initiert av NVIDIA sammen med mer enn 120 organisasjoner og styrt av Linux Foundation, arbeider med agentsikkerhet gjennom åpen forskning, ferdigheter og verktøy, med prosjekter inkludert Shared AI Findings Exchange, kjent som SAFE.