NVIDIA presenterer referansearkitektur for OpenShell for styring av agenter

NVIDIA kunngjorde referansearkitekturen for OpenShell 21. oktober 2026 på GTC Berlin. Det er et fullstackdesign for å bygge, isolere, overvåke og håndheve sikker bruk av AI-agenter på tvers av virksomheters infrastruktur og kantsystemer. Arkitekturen er tilgjengelig nå.

Arkitekturen bygger på NVIDIAs åpen kildekode-baserte, sikre kjøretidsprogramvare OpenShell, som utvides til infrastruktur i industriell skala for utvikling og drift av agenter. Den kombinerer Vera Rubin-infrastruktur for kjøring av arbeidsbelastninger i virksomheter, inkludert lukkede og åpne modeller bygget med NVIDIA Nemotron; Vera-prosessorer for drift av agentrammeverk; og BlueField-4-DPU-er som kjører NVIDIA Sentry, et sikkerhetsrammeverk som sørger for kontinuerlig overvåking av agentatferd utenfor båndet og håndheving av retningslinjer i silisium. Utformingen omfatter også agenter som kjører ved kanten på RTX Spark-, DGX Spark- og DGX Station-systemer innen detaljhandel, helsetjenester, produksjon, robotikk, programvareutvikling og telekommunikasjon.

«Med referansearkitekturen for OpenShell kan agenter tenke på Rubin, handle på Vera og styres på BlueField», sa Jensen Huang, grunnlegger og administrerende direktør i NVIDIA. Huang sa at sikkerhet og kontroll må bygges inn i dataarkitekturen når virksomheter forbereder seg på å ta i bruk milliarder av AI-agenter.

Fullstackinfrastruktur for agentarbeidsbelastninger

I kjernen av Vera Rubin-infrastrukturen står Vera Rubin NVL72-systemer, som NVIDIA beskriver som fleksible nok til å brukes til både forhåndstrening, ettertrening og inferens. Selskapet oppgir at NVL72 leverer 30 ganger høyere gjennomstrømning per megawatt for agentbaserte arbeidsbelastninger. Vera-prosessorer kjører OpenShell-programvaren, som gir autonome agenter en sikker grense for kjøretiden, og NVIDIA oppgir at de leverer dobbelt så høy ytelse som x86-prosessorer, med høyere energieffektivitet.

Et tilhørende teknisk innlegg beskriver Vera som en CPU bygget på 88 Olympus-kjerner utviklet av NVIDIA, med en andre generasjons Scalable Coherency Fabric, 96 PCIe Gen 6-baner og en minnebåndbredde på opptil 1,2 TB/s med LPDDR5X. NVIDIA oppgir at fabricen gir opptil tre ganger høyere båndbredde mellom kjerner og opptil 50 prosent lavere forsinkelse mellom kjerner enn x86-alternativer, og at Vera leverer dobbelt så høy ytelse per watt som x86-prosessorer.

Ifølge innlegget målte CoreWeave, en skyplattform for AI, oppstart av sandkasser til å være mer enn tre ganger raskere på Vera enn på x86, med én rack som støtter mer enn 11 000 samtidige agentmiljøer. Da CoreWeave kjørte Terminal Bench, som måler CPU-ytelse på tvers av reelle oppgaver i agentbaserte arbeidsflyter, fant selskapet at Vera leverte 1,8 ganger raskere ytelse enn x86 på oppgaver som spente fra skripting til databasegjenoppretting.

BlueField-4-DPU-er som kjører Sentry, bygget på NVIDIAs DOCA-programvare, overvåker agentatferd kontinuerlig. Hvis en agent forsøker å bevege seg utenfor programvaregrensen sin, setter Sentry den i karantene og stanser den i løpet av millisekunder, ifølge NVIDIA. Selskapet oppgir også at Sentry på BlueField-4 øker agentkapasiteten med opptil 20 prosent.

Slik håndhever OpenShell og Sentry grensene for agenter

NVIDIA hevder i sitt tekniske innlegg at en agent ikke kan styre seg selv, og at sikkerhet og styring derfor må ligge i infrastrukturen agenten opererer i. OpenShell behandler agentarbeidsbelastninger som ikke-betrodd gjennom hele kjøringen, og gir agenten tilgang til det den trenger, bare når den trenger det. Kjøretidsmiljøet har fire komponenter: Gateway, et kontrollplan som håndterer livssykluser og retningslinjer for sandkasser; Supervisor, som kontrollerer utgående forespørsler opp mot retningslinjene og formidler tilgang til påloggingsinformasjon, samtidig som den kjører helt adskilt fra sandkassen; Sandbox, som isolerer agentens arbeidsbelastning og begrenser tilgang til filsystem og prosesser; og Policy Prover, som bruker formell verifikasjon for å kontrollere om tillatelsene i en retningslinje holder seg innenfor en grense fastsatt av organisasjonen.

I referansearkitekturen kjører agenter på Vera-prosessorer, mens BlueField-4 ligger på nodens eneste bane til modellen. Dermed kan Sentry inspisere kommunikasjonen mellom agent og modell uten å være avhengig av at agenten selv rapporterer atferden sin, ifølge en grundig teknisk gjennomgang av rammeverket. Sentry opererer fra et maskinvareisolert tillitsdomene som er uavhengig av vertsprogramvaren, og er utformet for å beholde overvåkings- og håndhevingsfunksjonene selv om en agent slipper ut av sandkassen sin eller vertsmaskinen blir kompromittert.

DOCA Tower, Sentrys sikkerhetsgateway for AI som er bygget på åpen kildekode-proxyen Envoy, fungerer som en transparent proxy for agenttrafikk og avslutter TLS i silisium. DOCA Flow implementerer en lag 4-brannmur for hver agent, akselerert i silisium. Den blokkerer tilkoblinger til uautoriserte mål og videresender tillatt trafikk til DOCA Tower for inspeksjon og autorisering på applikasjonslaget. Tilgangsforespørsler vurderes opp mot definerte retningslinjer med Open Policy Agent-motoren, som bruker språket Rego og kan vurdere forespørsler på under ett millisekund, avhengig av kompleksiteten i retningslinjene og konfigurasjonen.

DOCA Argus gir kontekst fra kjøretiden gjennom agentløs, direkte minneinspeksjon, der utvalgte områder av vertens flyktige minne analyseres fra BlueField-4 uten agenter på vertsmaskinen. Løsningen knytter containere til podene deres og sandkasser til mikromaskiner, og sporer prosesser, filtilgang, nettverkstilkoblinger og innlastede biblioteker ved hjelp av hashverdier. Dette gjør det mulig å bruke retningslinjer som krever at en containers hash samsvarer med en godkjent liste, eller at en prosess som starter en handling, finnes i containerens programvarekomponentliste. Varseltegn Sentry vurderer, omfatter kjøring av verktøy som ikke er godkjent, bruk av ptrace til å angripe en annen prosess, overdreven utgående trafikk, uautorisert filtilgang eller filendringer, CPU-topper, overdreven skriving til midlertidige mapper og omfattende sletting av filer. Hvis Sentry oppdager et avvik, kan løsningen be om begrensning i silisiumet på millisekundnivå.

Sentry fungerer også sammen med spesialiserte AI-modeller som klassifiserer agentkommunikasjon direkte eller utenfor datakanalen for å oppdage endringer i atferd. Løsningen oppretter dessuten attesterte, manipulasjonssikre logger på BlueField-4 som støtter etterforskning og eksport til sikkerhetsplattformer for virksomheter, for eksempel XDR- og SIEM-systemer. DOCA Tower integrerer SPIFFE/SPIRE for verifiserbar identitet for arbeidsbelastninger. NVIDIA planlegger å gjøre Sentry tilgjengelig tidlig neste år. DOCA-biblioteker og mikrotjenester, inkludert DOCA Argus, DOCA Flow og OVS-DOCA, er tilgjengelige nå for utprøving.

Partnerøkosystem og tilgjengelighet

OpenShell-referansearkitekturen kjører på Linux- og Kubernetes-infrastruktur fra Canonical, SUSE og Red Hat, på Microsoft Windows ved hjelp av Microsoft Execution Containers, og på skyoperativsystemer fra Amazon Web Services, Google Cloud og Microsoft Azure. Virksomheter kan kjøre agenter fra modellutviklerne Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection og SpaceX Super Intelligence på OpenShell-infrastruktur.

Cybersikkerhetsleverandørene 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI og Zscaler integrerer støtte for arkitekturen i sikkerhetsproduktene sine for agenter. Bankene BBVA og Santander samarbeider med NVIDIA for å undersøke arkitekturen som et rammeverk for å styrke agenters trygghet, sikkerhet og styring. Programvareselskapene Cadence, Dassault Systèmes, IBM, SAP, Siemens og Synopsys samarbeider med OpenShell om å utvikle programvareplattformer for agenter, og Palantir og NVIDIA samarbeider med kunder om å ta i bruk sikre agenter i produksjonsmiljøer.

SAP integrerer arkitekturen med kjøretidsmiljøet Joule Studio, som er en del av SAP Business AI Platform. ServiceNow kunngjorde at ServiceNow Arc nå er allment tilgjengelig. Dette er en personlig AI-agent som kjører over lengre tid, og handlingene dens styres ved kjøretid av ServiceNow Super Intelligence Control Tower og håndheves av OpenShell. Autoritetslaget AI Passport fra ServiceNow overfører disse retningslinjene til OpenShell og Sentry, slik at virksomheter kan tilbakekalle en agents tilgang på tvers av programvare og maskinvare i løpet av sekunder.

Systemprodusentene Dell Technologies, Cisco, HPE, Lenovo og Supermicro bygger infrastruktur med arkitekturen. Skyleverandørene CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure og Vultr samarbeider med NVIDIA om å ta i bruk infrastruktur som er klargjort for OpenShell. Leverandørene av inferens og ettertrening Baseten, Deepinfra, Fireworks og Together AI bygger integrasjoner i arbeidsflytene sine for modellutvikling.

I kunngjøringen om tilgjengelighet viser arkitekturen til dokumentasjonen for referansedesignet for sikre agentarbeidsområder, som beskriver sju logiske plan, en modell for sikkerhet og styring, utrullingsnivåer og referanseimplementeringer for Red Hat OpenShift Virtualization og Microsoft Azure. OpenShell-koden er tilgjengelig på GitHub.