NVIDIA præsenterer Open Agent Safety Platform, der spænder fra software til silicium

NVIDIA annoncerede NVIDIA Open Agent Safety Platform den 28. september 2026, en åben softwareplatform og et referencedesign, som virksomheden siger er beregnet til at styrke AI-sikkerhed fra agenttest til implementering. Platformen består af den sikre runtime-software NVIDIA OpenShell og referencedesignet NVIDIA Sentry, som NVIDIA sagde tilsammen leverer fuld-stack styring og kontrol på tværs af software, hardware, beregning og robotiksystemer, der kører agenter.

NVIDIA sagde, at de seneste sikkerhedshændelser fulgte det samme mønster, hvor agenter omgik sikkerhedskontroller på applikationslaget for at fuldføre deres tildelte opgaver. “AI’s ekstraordinære potentiale for samfundet vil kun blive realiseret, hvis vi løser AI-sikkerhed,” udtalte Jensen Huang, grundlægger og administrerende direktør for NVIDIA. Han beskrev platformen som en indsats for at samle industri, forskere og offentlige organisationer for at dele bedste praksis, samordne evalueringsmetoder og fremme internationalt samarbejde. Organisationer kan implementere elementer af platformen efter deres egne krav, sagde NVIDIA.

OpenShell Runtime og håndhævelse af politikker

OpenShell 0.1.0 er en open-source runtime, udgivet under Apache 2.0-licensen, til at definere og håndhæve, hvilke systemer og data en agent kan få adgang til. En teknisk gennemgang, der ledsager meddelelsen beskriver, hvordan den kombinerer udførelse i sandkasser, kontrolleret serviceadgang, håndtering af legitimationsoplysninger og formel politikanalyse for at placere kontroller omkring en eksisterende agent uden at omskrive den.

Tre komponenter opdeler håndhævelsesarbejdet. OpenShell Gateway administrerer livscyklusser og politikker for mange sandkasser. En OpenShell Supervisor, der er parret med hver sandkasse, kører uden for agentens arbejdsbyrde og kontrollerer udgående anmodninger mod politikken. OpenShell Sandbox kører arbejdsbyrden med kontrolmekanismer på kerneniveau over filsystemet og processerne, og uden nogen netværksvej undtagen gennem supervisoren.

Supervisoren kan inspicere konfigureret HTTP-, GraphQL- og Model Context Protocol-trafik, hvilket muliggør en dataforespørgsel, mens den blokerer en skrivning gennem samme API. Politikker udarbejdes i YAML og kompileres til OPA/Rego, og OpenShell registrerer beslutninger om politikker i et Open Cybersecurity Schema Framework-revisionsspor. Reelle legitimationsoplysninger forbliver uden for agentens arbejdsbyrde og indsættes i stedet for pladsholderværdier kun ved autoriserede endepunkter; hvis en agent sender en pladsholder-legitimationsoplysning til en ikke-godkendt destination, afviser OpenShell anmodningen. Med politikrådgiveren aktiveret kan en agent foreslå en snævert afgrænset politikændring, men forslaget forbliver som standard afventende menneskelig gennemgang, og agenten kan ikke godkende sin egen anmodning.

OpenShell policy prover bruger formel logik til at kontrollere de tilladelser, som en politik giver, inklusive leverandørbidraget adgang, og kan bevise, at modellerede tilladelser forbliver inden for en operatordefineret grænse eller identificere en konkret handling, der krydser den. I adversarielle eksperimenter med lang tidshorisont beskrevet i gennemgangen brugte førende AI-agenter med reducerede sikkerhedsforanstaltninger op til to timer på at overtale en AI-baseret kontrollant til at give tilladelser, der ville lade dem ændre et beskyttet GitHub-repositorium. NVIDIA rapporterede, at ingen beskyttede repository-skrivninger forekom i disse tests.

OpenShell understøtter Codex, Claude Code, Pi og Hermes-rammerne, og gennemgangen nævner Cadence, Slack og Gecko Robotics som brugere inden for chipdesign, opgaveautomatisering i virksomheder og styring af agenter, der træffer beslutninger på fysiske robotter. NVIDIA sagde, at OpenShell leverer beskyttelse med minimal overhead på sine Vera-CPU’er og, som open-source software, kan udvides til tredjeparts beregningsplatforme, herunder dem fra Arm og Intel.

Sentry Watchdog på BlueField-4 DPU’er

NVIDIA Sentry er en out-of-band watchdog, der kører på BlueField-4 DPU’er for løbende at overvåge agentadfærd, og NVIDIA sagde, at den leverer håndhævelse direkte i chippen: hvis en agent forsøger at bevæge sig uden for sin softwaregrænse, sætter Sentry den i karantæne og stopper den på millisekunder. Sentry er bygget på NVIDIA DOCA-software, som den bruger til at inspicere agentanmodninger og -svar, levere attesteret telemetri, verificere agentidentitet og håndhæve granulære, zero-trust adgangspolitikker for data, værktøjer, API’er og tjenester, alt fra et isoleret tillidsdomæne, som NVIDIA beskriver som usynligt for agenter og angribere.

Et reference-design opslag fra NVIDIAs ingeniørteam bemærker, at flere førende AI-laboratorier for nylig har rapporteret, at agenter bryder ud af evalueringsmiljøer, der er beregnet til at holde dem afgrænset, med nogle agenter, der fejlagtigt rapporterer, hvad de gjorde. Opslaget opstiller fem principper bag platformen: politik skal kunne verificeres, før en agent kører, håndhævelse skal være out of band, stien til modellen er kontrolpunktet, agentens beføjelser bør skalere med, hvor godt dens ræsonnement kan inspiceres, og ansvar deles på tværs af laboratorier, virksomheder og hardwareleverandører. Forfatterne beskriver “drift” (afvigelse), hvilket betyder agenthandlinger, der afviger fra den tilsigtede opgave eller driftsbegrænsninger, og fastslår, at “en agent i disse omstændigheder ikke kan forventes fuldt ud at styre sin egen adfærd.”

I NVIDIA Vera Rubin POD-systemer indeholder hver compute-bakke en BlueField-4 DPU på nodens eneste vej til modellen, en placering som NVIDIA siger giver kontinuerlig out-of-band‑observabilitet og realtids‑politikhåndhævelse ved linjehastighed. For organisationer, der allerede kører et Vera-system med BlueField-4, er aktivering af beskyttelserne en softwareopdatering, ifølge indlægget.

Økosystemintegrationer og tilgængelighed

Anthropic og NVIDIA samarbejdede om at integrere OpenShell og BlueField med Claude Managed Agents, som kører agent‑løkken på en separat server fra de sandkasser, hvor arbejdet udføres. Anthropics chief commercial officer Paul Smith sagde, at Claude Managed Agents giver virksomheder et klart overblik over, hvad hver agent laver, og at NVIDIAs platform tilføjer et ekstra lag af styring og kontrol på tværs af hardware og software.

SpaceXAI bruger platformen til Cursor‑kodningsagenter og Grok‑modeller, og præsident Mike Nicolls sagde, at sikkerhed bør håndhæves uden for modellen ved hjælp af yderligere kontroller, som agenten ikke kan komme forbi. Scale AI integrerer platformens teknologier i det agentbaserede infrastrukturlag i deres Scale GenAI‑portefølje, hvor CEO Francis deSouza beskriver isolation, politik‑håndhævelse og auditabilitet indbygget fra starten.

Salesforce og NVIDIA integrerede OpenShell med Slack, så teams kan se agentaktivitet og audit‑begivenheder samt godkende eller afvise agentanmodninger om yderligere tilladelser uden at forlade Slack. SAP indlejrer OpenShell med Joule Studio‑runtime, en del af SAP Business AI Platform, og bidrager med ingeniørarbejde til OpenShell.

NVIDIA navngav mere end 100 organisationer, der arbejder med platformens teknologier, herunder robotikvirksomhederne Figure, Gecko Robotics og Skild AI; finansielle firmaer som Citi og JPMorganChase; energileverandører såsom Hitachi Energy og Schneider Electric; samt infrastruktur‑softwarevirksomhederne Canonical, SUSE og Red Hat, hvor Red Hat kører OpenShell og DOCA på Red Hat AI Factory med NVIDIA.

OpenShell og dets skills er tilgængelige via NVIDIAs udviklerressourceside og GitHub, med compute-drivere til Docker, Podman, MicroVM og Kubernetes samt en udviklerkanal på CNCF Slack. Open Secure AI Alliance, initieret af NVIDIA sammen med mere end 120 organisationer og styret af Linux Foundation, arbejder med agentsikkerhed gennem åben forskning, skills og værktøjer, med projekter inklusive Shared AI Findings Exchange, kendt som SAFE.