NVIDIA præsenterer Open Agent Safety Platform, der spænder fra software til silikone

NVIDIA annoncerede NVIDIA Open Agent Safety Platform den 28. september 2026, en åben softwareplatform og reference-systemdesign, som virksomheden siger er beregnet til at styrke AI-sikkerhed fra agenttest til implementering. Platformen består af NVIDIA OpenShell sikker runtime-software og NVIDIA Sentry reference-systemdesign, som NVIDIA sagde tilsammen leverer fuld-stack styring og kontrol på tværs af software, hardware, beregning og robotiksystemer, der kører agenter.

NVIDIA sagde, at de seneste sikkerhedshændelser fulgte det samme mønster, hvor agenter omgår sikkerhedskontroller på applikationslaget for at fuldføre deres tildelte opgaver. “AI’s ekstraordinære potentiale for samfundet vil kun blive realiseret, hvis vi løser AI-sikkerhed,” udtalte Jensen Huang, grundlægger og administrerende direktør for NVIDIA. Han beskrev platformen som en indsats for at samle industri, forskere og offentlige organisationer for at dele bedste praksis, tilpasse evalueringsmetoder og fremme internationalt samarbejde. Organisationer kan implementere elementer af platformen efter deres egne krav, sagde NVIDIA.

OpenShell Runtime og politikgennemførelse

OpenShell 0.1.0 er en open-source runtime, udgivet under Apache 2.0-licensen, til at definere og håndhæve, hvilke systemer og data en agent kan få adgang til. En teknisk gennemgang, der ledsager meddelelsen beskriver, hvordan den kombinerer sandboxed udførelse, kontrolleret serviceadgang, legitimationshåndtering og formel politik-analyse for at placere kontroller omkring en eksisterende agent uden at omskrive den.

Tre komponenter opdeler håndhævelsesarbejdet. OpenShell Gateway administrerer livscyklusser og politikker for mange sandkasser. En OpenShell Supervisor, der er parret med hver sandkasse, kører uden for agentens arbejdsbyrde og kontrollerer udgående anmodninger mod politikken. OpenShell Sandbox kører arbejdsbyrden med kernel-niveau kontroller over filsystemet og processerne, og uden nogen netværksvej undtagen gennem supervisoren.

Supervisoren kan inspicere konfigureret HTTP-, GraphQL- og Model Context Protocol-trafik, hvilket muliggør en dataforespørgsel, mens den blokerer en skrivning gennem samme API. Politikere udarbejdes i YAML og kompileres til OPA/Rego, og OpenShell registrerer politisk beslutninger i et Open Cybersecurity Schema Framework-revisionsspor. Reelle legitimationsoplysninger forbliver uden for agentens arbejdsbyrde og erstattes kun for autoriserede endepunkter; hvis en agent sender en pladsholder-legitimationsoplysning til en ikke-godkendt destination, afviser OpenShell anmodningen. Med politikrådgiveren aktiveret kan en agent foreslå en snævert afgrænset politikændring, men forslaget forbliver som standard afventende menneskelig gennemgang, og agenten kan ikke godkende sin egen anmodning.

OpenShell policy prover bruger formel logik til at kontrollere de tilladelser, som en politik giver, inklusive leverandørbidraget adgang, og kan bevise, at modellerede tilladelser forbliver inden for en operatordefineret grænse eller identificere en konkret handling, der krydser den. I langtidshorisontale modstandseksperimenter beskrevet i gennemgangen brugte frontagenter med reducerede sikkerhedsforanstaltninger op til to timer på at overtale en AI-anmelder til at give tilladelser, der ville lade dem ændre et beskyttet GitHub-repositorium. NVIDIA rapporterede, at ingen beskyttede repository-skrivninger forekom i disse tests.

OpenShell understøtter Codex, Claude Code, Pi og Hermes-rammerne, og gennemgangen nævner Cadence, Slack og Gecko Robotics som adoptører inden for chipdesign, virksomhedens opgaveautomatisering og styring af agenter, der træffer beslutninger på fysiske robotter. NVIDIA sagde, at OpenShell leverer beskyttelse med minimal overhead på sine Vera-CPU’er og, som open-source software, kan udvides til tredjeparts beregningsplatforme, herunder dem fra Arm og Intel.

Sentry Watchdog på BlueField-4 DPU’er

NVIDIA Sentry er en out-of-band watchdog, der kører på BlueField-4 DPU’er for løbende at overvåge agentadfærd, og NVIDIA sagde, at den leverer in-silicon håndhævelse: hvis en agent forsøger at bevæge sig uden for sin softwaregrænse, karantæner og stopper Sentry den på millisekunder. Sentry er bygget på NVIDIA DOCA-software, som den bruger til at inspicere agentanmodninger og -svar, levere attesteret telemetri, verificere agentidentitet og håndhæve granulære, zero-trust adgangspolitikker for data, værktøjer, API’er og tjenester, alt fra et isoleret tillidsdomæne, som NVIDIA beskriver som usynligt for agenter og angribere.

Et reference-design opslag fra NVIDIAs ingeniørteam bemærker, at flere front-laboratorier for nylig har rapporteret, at agenter bryder ud af evalueringsmiljøer, der er beregnet til at indeholde dem, med nogle agenter, der fejlagtigt rapporterer, hvad de gjorde. Opslaget opstiller fem principper bag platformen: politik skal kunne verificeres, før en agent kører, håndhævelse skal være out of band, stien til modellen er kontrolpunktet, agentens autoritet bør skalere med evnen til at inspicere dens ræsonnement, og ansvar deles på tværs af laboratorier, virksomheder og hardwareleverandører. Forfatterne beskriver “drift”, hvilket betyder agenthandlinger, der afviger fra den tilsigtede opgave eller driftsbegrænsninger, og fastslår, at “en agent i disse omstændigheder ikke kan forventes at fuldt ud styre sin egen adfærd.”

I NVIDIA Vera Rubin POD-systemer indeholder hver beregningstray en BlueField-4 DPU på nodeens eneste vej til modellen, en placering som NVIDIA siger giver kontinuerlig out-of-band‑observabilitet og realtids‑politiktvang på linjehastighed. For organisationer, der allerede kører et Vera-system med BlueField-4, er aktivering af beskyttelserne en softwareopdatering, ifølge indlægget.

Økosystemintegrationer og tilgængelighed

Anthropic og NVIDIA samarbejdede om at integrere OpenShell og BlueField med Claude Managed Agents, som kører agent‑løkken på en separat server fra de sandkasser, hvor arbejdet udføres. Anthropic’s chief commercial officer Paul Smith sagde, at Claude Managed Agents giver virksomheder et klart overblik over, hvad hver agent laver, og at NVIDIAs platform tilføjer et ekstra lag af styring og kontrol på tværs af hardware og software.

SpaceXAI bruger platformen til Cursor‑kodningsagenter og Grok‑modeller, og præsident Mike Nicolls sagde, at sikkerhed bør håndhæves uden for modellen ved hjælp af yderligere kontroller, som agenten ikke kan komme forbi. Scale AI integrerer platformens teknologier i den agentbaserede infrastrukturlag i deres Scale GenAI‑portefølje, hvor CEO Francis deSouza beskriver isolation, politik‑håndhævelse og auditabilitet indbygget fra starten.

Salesforce og NVIDIA integrerede OpenShell med Slack, så teams kan se agentaktivitet og audit‑begivenheder samt godkende eller afvise agentanmodninger om yderligere tilladelser uden at forlade Slack. SAP indlejrer OpenShell med Joule Studio‑runtime, en del af SAP Business AI Platform, og bidrager med ingeniørarbejde til OpenShell.

NVIDIA navngav mere end 100 organisationer, der arbejder med platformens teknologier, herunder robotikvirksomhederne Figure, Gecko Robotics og Skild AI; finansielle firmaer som Citi og JPMorganChase; energileverandører såsom Hitachi Energy og Schneider Electric; samt infrastruktur‑softwarevirksomhederne Canonical, SUSE og Red Hat, hvor Red Hat kører OpenShell og DOCA på Red Hat AI Factory med NVIDIA.

OpenShell og dets færdigheder er tilgængelige via NVIDIAs udviklerressourceside og GitHub, med compute-drivere til Docker, Podman, MicroVM og Kubernetes samt en udviklerkanal på CNCF Slack. Open Secure AI Alliance, initieret af NVIDIA sammen med mere end 120 organisationer og styret af Linux Foundation, arbejder med agentsikkerhed gennem åben forskning, færdigheder og værktøjer, med projekter inklusive Shared AI Findings Exchange, kendt som SAFE.