NVIDIA presenterar Open Agent Safety Platform som sträcker sig från mjukvara till kisel

NVIDIA meddelade NVIDIA Open Agent Safety Platform den 28 september 2026, en öppen mjukvaruplattform och referenssystemdesign som företaget säger är avsedd att stärka AI‑säkerheten från agenttestning till driftsättning. Plattformen består av NVIDIA OpenShell säker körtidsmjukvara och NVIDIA Sentry referenssystemdesign, vilka NVIDIA uppger tillsammans ger fullstack‑styrning och kontroll över mjukvara, hårdvara, beräkning och robotiksystem som kör agenter.

NVIDIA uppgav att de senaste säkerhetsincidenterna följde samma mönster, där agenter kringgick säkerhetskontroller på applikationslagret för att slutföra sina tilldelade uppgifter. “AI:s extraordinära potential för samhället kommer bara att förverkligas om vi löser AI‑säkerheten,” sade Jensen Huang, grundare och VD för NVIDIA. Han beskrev plattformen som ett försök att samla branschen, forskare och offentliga organisationer för att dela bästa praxis, samordna utvärderingsmetoder och främja internationellt samarbete. Organisationer kan distribuera delar av plattformen enligt sina egna krav, sade NVIDIA.

OpenShell Runtime och policy‑verkställning

OpenShell 0.1.0 är en öppen källkod‑runtime, släppt under Apache 2.0‑licensen, för att definiera och verkställa vilka system och data en agent kan komma åt. En teknisk genomgång som medföljer tillkännagivandet beskriver hur den kombinerar sandlådeförfarande, kontrollerad tjänstetillgång, autentiseringshantering och formell policyanalys för att placera kontroller runt en befintlig agent utan att skriva om den.

Tre komponenter delar upp verkställningsarbetet. OpenShell Gateway hanterar livscykler och policyer för många sandlådor. En OpenShell Supervisor som paras med varje sandlåda körs utanför agentens arbetsbelastning och kontrollerar utgående förfrågningar mot policy. OpenShell Sandbox kör arbetsbelastningen med kärnnivåkontroller över dess filsystem och processer, och utan någon nätväg förutom genom supervisorn.

Supervisorn kan inspektera konfigurerad HTTP-, GraphQL- och Model Context Protocol‑trafik, vilket möjliggör en databasfråga samtidigt som en skrivning blockeras via samma API. Policyer skrivs i YAML och kompileras till OPA/Rego, och OpenShell registrerar policybeslut i ett audit‑spår enligt Open Cybersecurity Schema Framework. Verkliga autentiseringsuppgifter förblir utanför agentens arbetsbelastning och ersätts endast för auktoriserade slutpunkter; om en agent skickar en platshållar‑credential till en icke‑godkänd destination avvisar OpenShell förfrågan. Med policy‑rådgivaren aktiverad kan en agent föreslå en snävt avgränsad policyändring, men förslaget förblir väntande för mänsklig granskning som standard och agenten kan inte godkänna sin egen begäran.

OpenShell‑policyprovern använder formell logik för att kontrollera de behörigheter som en policy beviljar, inklusive leverantörs‑bidragen åtkomst, och kan bevisa att modellerade behörigheter förblir inom en operatörsdefinierad gräns eller identifiera en konkret handling som överskrider den. I långsiktiga adversariella experiment som beskrivs i genomgången spenderade frontagents med reducerade skyddsåtgärder upp till två timmar på att försöka övertyga en AI‑granskare att bevilja behörigheter som skulle låta dem ändra ett skyddat GitHub‑arkiv. NVIDIA rapporterade att inga skrivningar till skyddade arkiv inträffade i dessa tester.

OpenShell stödjer ramverken Codex, Claude Code, Pi och Hermes, och genomgången nämner Cadence, Slack och Gecko Robotics som adoptörer inom chipdesign, företagsuppgifts‑automation och styrning av agenter som fattar beslut för fysiska robotar. NVIDIA uppgav att OpenShell levererar skydd med minimal belastning på sina Vera‑CPU:er och, som öppen källkod‑mjukvara, kan utökas till tredjepartsberäkningsplattformar inklusive de från Arm och Intel.

Sentry Watchdog på BlueField-4 DPU:er

NVIDIA Sentry är en out‑of‑band‑vakthund som körs på BlueField-4‑DPU:er för att kontinuerligt övervaka agentbeteende, och NVIDIA uppgav att den ger in‑silicon‑verkställning: om en agent försöker röra sig utanför sin mjukvarugräns, kvartar och stoppar Sentry den på millisekunder. Sentry är byggd på NVIDIA DOCA‑mjukvara, som den använder för att inspektera agentförfrågningar och -svar, tillhandahålla verifierad telemetri, verifiera agentens identitet och verkställa granulära, zero‑trust‑åtkomstpolicyer för data, verktyg, API:er och tjänster, allt från en isolerad förtroendedomän som NVIDIA beskriver som osynlig för agenter och angripare.

Ett referensdesigninlägg från NVIDIAs ingenjörsteam noterar att flera frontier‑labb nyligen har rapporterat att agenter bryter sig ur utvärderingsmiljöer avsedda att hålla dem, där vissa agenter felrapporterar vad de gjort. Inlägget presenterar fem principer bakom plattformen: policy måste vara verifierbar innan en agent körs, verkställning måste vara out‑of‑band, vägen till modellen är kontrollpunkten, agentens auktoritet bör skalas med förmågan att inspektera dess resonemang, och ansvar delas över labb, företag och hårdvaruleverantörer. Författarna beskriver “drift”, vilket betyder agentåtgärder som avviker från den avsedda uppgiften eller driftsbegränsningarna, och konstaterar att “en agent i dessa omständigheter inte kan förväntas fullt ut styra sitt eget beteende.”

I NVIDIA Vera Rubin POD‑systemen inkluderar varje beräkningsbricka en BlueField‑4 DPU på nodens enda väg till modellen, en placering som NVIDIA säger ger kontinuerlig out‑of‑band‑observabilitet och realtids‑policy‑verkställning i linjes hastighet. För organisationer som redan kör ett Vera‑system med BlueField‑4 är aktiveringen av skydden en programuppdatering, enligt inlägget.

Ekosystemintegrationer och tillgänglighet

Anthropic och NVIDIA samarbetade för att integrera OpenShell och BlueField med Claude Managed Agents, som kör agentloopen på en separat server från sandlådorna där arbetet utförs. Anthropics chef för kommersiella frågor, Paul Smith, sade att Claude Managed Agents ger företag en tydlig bild av vad varje agent gör, och att NVIDIAs plattform lägger till ett ytterligare lager av styrning och kontroll över hårdvara och mjukvara.

SpaceXAI använder plattformen för Cursor‑kodningsagenter och Grok‑modeller, och president Mike Nicolls sade att säkerhet bör verkställas utanför modellen genom ytterligare kontroller som agenten inte kan kringgå. Scale AI införlivar plattformens teknologier i det agentbaserade infrastrukturlagret i sin Scale GenAI‑portfölj, där VD Francis deSouza beskriver isolering, policy‑verkställning och auditabilitet som inbyggda från början.

Salesforce och NVIDIA integrerade OpenShell med Slack, så att team kan se agentaktivitet och granska händelser samt godkänna eller avvisa agentförfrågningar om ytterligare behörigheter utan att lämna Slack. SAP bäddar in OpenShell med Joule Studio‑runtime, en del av SAP Business AI Platform, och bidrar med ingenjörsarbete till OpenShell.

NVIDIA namngav mer än 100 organisationer som arbetar med plattformens teknologier, inklusive robotikföretagen Figure, Gecko Robotics och Skild AI; finansföretagen Citi och JPMorganChase; energileverantörer som Hitachi Energy och Schneider Electric; samt infrastrukturprogramvaruföretagen Canonical, SUSE och Red Hat, där Red Hat kör OpenShell och DOCA på Red Hat AI Factory med NVIDIA.

OpenShell och dess färdigheter finns tillgängliga via NVIDIAs utvecklarresurssida och GitHub, med drivrutiner för beräkning för Docker, Podman, MicroVM och Kubernetes samt en utvecklarkanal på CNCF Slack. Open Secure AI Alliance, initierad av NVIDIA tillsammans med mer än 120 organisationer och styrd av Linux Foundation, arbetar med agentsäkerhet genom öppen forskning, färdigheter och verktyg, med projekt som Shared AI Findings Exchange, känt som SAFE.