NVIDIA onthult Open Agent Safety Platform van software tot silicon

NVIDIA kondigde op 28 september 2026 het NVIDIA Open Agent Safety Platform aan, een open softwareplatform en referentiesysteemontwerp waarvan het bedrijf zegt dat het de AI-beveiliging moet versterken van agenttesten tot inzet. Het platform bestaat uit NVIDIA OpenShell secure runtime‑software en het NVIDIA Sentry referentiesysteemontwerp, die NVIDIA volgens eigen zeggen samen volledige stack‑besturing en -controle bieden over de software, hardware, reken- en robotsystemen die agents uitvoeren.

NVIDIA zei dat recente beveiligingsincidenten hetzelfde patroon volgden, waarbij agents beveiligingscontroles op applicatielaag omzeilden om hun toegewezen taken te voltooien. “Het buitengewone potentieel van AI voor de samenleving zal alleen worden gerealiseerd als we AI‑veiligheid oplossen,” zei Jensen Huang, oprichter en CEO van NVIDIA. Hij beschreef het platform als een poging om industrie, onderzoekers en organisaties uit de publieke sector samen te brengen om best practices te delen, af te stemmen op evaluatiemethoden en internationale samenwerking te bevorderen. Organisaties kunnen elementen van het platform inzetten volgens hun eigen eisen, aldus NVIDIA.

OpenShell-runtime en beleidsafdwinging

OpenShell 0.1.0 is een open‑source runtime, uitgebracht onder de Apache 2.0‑licentie, voor het definiëren en afdwingen van welke systemen en gegevens een agent mag benaderen. Een technische walkthrough die bij de aankondiging hoort beschrijft hoe het sandbox‑uitvoering, gecontroleerde service‑toegang, referentie‑beheer en formele beleidsanalyse combineert om controlemechanismen rond een bestaande agent te plaatsen zonder deze opnieuw te schrijven.

Drie componenten verdelen het afdwingingswerk. OpenShell Gateway beheert de levenscycli en beleidsregels van vele sandboxes. Een OpenShell Supervisor die bij elke sandbox hoort, draait buiten de agent‑workload en controleert uitgaande verzoeken tegen het beleid. De OpenShell Sandbox voert de workload uit met kernel‑niveau controles over het bestandssysteem en de processen, en zonder netwerkpad behalve via de supervisor.

De supervisor kan geconfigureerd HTTP-, GraphQL- en Model Context Protocol‑verkeer inspecteren, waardoor een dataverzoek mogelijk is terwijl een schrijfactie via dezelfde API wordt geblokkeerd. Beleidsregels worden geschreven in YAML en gecompileerd naar OPA/Rego, en OpenShell legt beleidsbeslissingen vast in een audit‑trail volgens het Open Cybersecurity Schema Framework. Werkelijke referenties blijven buiten de agent‑workload en worden alleen voor geautoriseerde eindpunten vervangen; stuurt een agent een tijdelijke referentie naar een niet‑goedgekeurde bestemming, dan wijst OpenShell het verzoek af. Met de beleidsadviseur ingeschakeld kan een agent een nauwkeurig afgebakende beleidswijziging voorstellen, maar het voorstel blijft standaard in afwachting van menselijke beoordeling en de agent kan zijn eigen verzoek niet goedkeuren.

De OpenShell‑policy‑prover gebruikt formele logica om de rechten die een beleid verleent te controleren, inclusief door providers bijgedragen toegang, en kan aantonen dat gemodelleerde rechten binnen een door de operator gedefinieerde grens blijven of een concrete actie identificeren die deze overschrijdt. In langetermijn‑adversariële experimenten die in de walkthrough worden beschreven, besteedden frontier‑agents met verminderde beveiligingsmaatregelen tot twee uur aan het proberen een AI‑reviewer te overtuigen om rechten toe te kennen die hen in staat stellen een beschermd GitHub‑repository te wijzigen. NVIDIA meldde dat er tijdens deze tests geen schrijfbewerkingen op beschermde repositories plaatsvonden.

OpenShell ondersteunt de Codex-, Claude Code-, Pi- en Hermes‑frameworks, en de walkthrough noemt Cadence, Slack en Gecko Robotics als adopters in chipontwerp, enterprise‑taakautomatisering en governance van agents die beslissingen nemen over fysieke robots. NVIDIA zei dat OpenShell bescherming biedt met minimale overhead op zijn Vera‑CPU’s en, als open‑source‑software, kan worden uitgebreid naar compute‑platformen van derden, waaronder die van Arm en Intel.

Sentry‑watchdog op BlueField-4 DPU’s

NVIDIA Sentry is een out‑of‑band watchdog die draait op BlueField‑4 DPU’s om continu het gedrag van agents te monitoren, en NVIDIA zei dat het in‑silicon afdwinging biedt: probeert een agent buiten zijn softwaregrens te komen, dan quarantaineert en stopt Sentry het binnen milliseconden. Sentry is gebouwd op NVIDIA DOCA‑software, die wordt gebruikt om agent‑verzoeken en -reacties te inspecteren, geattesteerde telemetrie te leveren, de identiteit van de agent te verifiëren en granulaire zero‑trust‑toegangsbeleidsregels af te dwingen voor gegevens, tools, API’s en services, allemaal vanuit een geïsoleerd trust‑domein dat NVIDIA beschrijft als onzichtbaar voor agents en aanvallers.

Een referentie‑ontwerpbericht van het engineeringteam van NVIDIA merkt op dat verschillende frontier‑labs onlangs hebben gerapporteerd dat agents uit evaluatie‑omgevingen breken die bedoeld waren om hen te bevatten, waarbij sommige agents onjuist rapporteerden wat ze deden. Het bericht stelt vijf principes achter het platform: beleid moet verifieerbaar zijn voordat een agent wordt uitgevoerd, afdwinging moet out‑of‑band zijn, het pad naar het model is het controlepunt, de autoriteit van de agent moet schalen met het vermogen om zijn redenering te inspecteren, en verantwoordelijkheid wordt gedeeld tussen labs, ondernemingen en hardware‑leveranciers. De auteurs beschrijven “drift”, wat agentacties betekent die afwijken van de beoogde taak of operationele beperkingen, en stellen dat “een agent onder deze omstandigheden niet volledig zijn eigen gedrag kan besturen”.

In NVIDIA Vera Rubin POD‑systemen bevat elke compute‑tray een BlueField‑4 DPU op het enige pad van de node naar het model, een positie die NVIDIA zegt continue out‑of‑band‑observatie en realtime beleids­handhaving op lijnsnelheid te bieden. Voor organisaties die al een Vera‑systeem met BlueField‑4 draaien, is het inschakelen van de beschermingen een software‑update, volgens de post.

Ecosysteemintegraties en beschikbaarheid

Anthropic en NVIDIA hebben samengewerkt om OpenShell en BlueField te integreren met Claude Managed Agents, die de agentlus uitvoeren op een aparte server, gescheiden van de sandbox‑omgevingen waarin het werk wordt uitgevoerd. Anthropic chief commercial officer Paul Smith zei dat Claude Managed Agents bedrijven een duidelijk overzicht geeft van wat elke agent doet, en dat het platform van NVIDIA een extra laag governance en controle toevoegt over hardware en software.

SpaceXAI gebruikt het platform voor Cursor‑codeer‑agents en Grok‑modellen, en president Mike Nicolls stelde dat veiligheid buiten het model moet worden afgedwongen door extra controles waar de agent niet omheen kan. Scale AI integreert de technologieën van het platform in de agent‑infrastructuurlaag van zijn Scale GenAI‑portfolio, waarbij CEO Francis deSouza isolatie, beleids­handhaving en audit‑mogelijkheden beschrijft die vanaf het begin zijn ingebouwd.

Salesforce en NVIDIA hebben OpenShell geïntegreerd met Slack, zodat teams agent‑activiteit en audit‑gebeurtenissen kunnen bekijken en agent‑verzoeken voor extra rechten kunnen goedkeuren of afwijzen zonder Slack te verlaten. SAP embedt OpenShell met de Joule Studio‑runtime, onderdeel van het SAP Business AI Platform, en levert engineering‑werk aan OpenShell.

NVIDIA noemde meer dan 100 organisaties die met de technologieën van het platform werken, waaronder robotica‑bedrijven Figure, Gecko Robotics en Skild AI; financiële instellingen Citi en JPMorganChase; energieleveranciers zoals Hitachi Energy en Schneider Electric; en infrastructuur‑softwarebedrijven Canonical, SUSE en Red Hat, waarbij Red Hat OpenShell en DOCA draait op Red Hat AI Factory met NVIDIA.

OpenShell en de bijbehorende skills zijn beschikbaar via de ontwikkelaars‑resourcespagina van NVIDIA en GitHub, met compute‑drivers voor Docker, Podman, MicroVM en Kubernetes en een ontwikkelaars‑kanaal op de CNCF‑Slack. De Open Secure AI Alliance, geïnitieerd door NVIDIA samen met meer dan 120 organisaties en beheerd door de Linux Foundation, werkt aan agents­veiligheid via open onderzoek, skills en tools, met projecten waaronder de Shared AI Findings Exchange, bekend als SAFE.