NVIDIA presenterar referensarkitektur för styrning av AI-agenter med OpenShell

NVIDIA presenterade referensarkitekturen för OpenShell den 21 oktober 2026 på GTC Berlin. Det är en heltäckande lösning för att bygga, isolera och övervaka säkra AI-agenter och upprätthålla säkerheten för dem i företagsinfrastruktur och kantsystem. Arkitekturen finns tillgänglig nu.

Arkitekturen bygger vidare på NVIDIAs OpenShell-programvara med öppen källkod för säker körning och utvidgar den till infrastruktur i industriell skala för utveckling och drift av agenter. Den kombinerar Vera Rubin-infrastruktur för att köra företagsarbetslaster, däribland slutna och öppna modeller byggda med NVIDIA Nemotron, Vera-processorer för att köra agentramverk samt BlueField-4-DPU:er som kör NVIDIA Sentry, ett säkerhetsramverk som kontinuerligt övervakar agenters beteende utanför värdsystemet och tillämpar policyer i kiselkretsarna. Lösningen omfattar även agenter som körs i kanten på RTX Spark-, DGX Spark- och DGX Station-system inom detaljhandel, hälso- och sjukvård, tillverkning, robotik, programvaruutveckling och telekommunikation.

”Med referensarkitekturen för OpenShell kan agenter tänka på Rubin, agera på Vera och styras på BlueField”, sade Jensen Huang, grundare och vd för NVIDIA. Huang sade att säkerhet och kontroll måste byggas in i datorarkitekturen när företag förbereder sig för att driftsätta miljarder AI-agenter.

Heltäckande infrastruktur för agentarbetslaster

Kärnan i Vera Rubin-infrastrukturen utgörs av system av typen Vera Rubin NVL72, som NVIDIA beskriver som användbara omväxlande för förträning, efterträning och inferens. Företaget uppger att NVL72 ger 30 gånger högre genomströmning per megawatt för agentbaserade arbetslaster. Vera-processorerna kör OpenShell-programvaran, som skapar en säker gräns för autonoma agenters körmiljö, och enligt NVIDIA ger de dubbelt så hög prestanda som x86-processorer med högre energieffektivitet.

I en tillhörande teknisk artikel beskrivs Vera som en processor byggd på 88 Olympus-kärnor som utformats av NVIDIA, med en andra generationens Scalable Coherency Fabric, 96 PCIe Gen 6-banor och en minnesbandbredd på upp till 1,2 TB/s med LPDDR5X. NVIDIA uppger att sammankopplingsnätverket ger upp till tre gånger högre bandbredd mellan kärnorna och upp till 50 procent lägre latens mellan kärnorna än x86-alternativ, samt att Vera ger dubbelt så hög prestanda per watt som x86-processorer.

AI-molnplattformen CoreWeave mätte uppstarten av sandlådor till mer än tre gånger snabbare på Vera än på x86. Enligt artikeln kan ett enda rack stödja mer än 11 000 samtidiga agentmiljöer. CoreWeave körde Terminal Bench, som mäter processorprestanda vid verkliga uppgifter i agentbaserade arbetsflöden, och fann att Vera var 1,8 gånger snabbare än x86 i uppgifter som sträckte sig från skriptning till databasåterställning.

BlueField-4-DPU:er som kör Sentry, som bygger på NVIDIAs DOCA-programvara, övervakar kontinuerligt agenters beteende. Om en agent försöker ta sig utanför sin programvarugräns isolerar och stoppar Sentry den inom loppet av millisekunder, enligt NVIDIA. Företaget uppger också att Sentry på BlueField-4 ökar agentkapaciteten med upp till 20 procent.

Så upprätthåller OpenShell och Sentry agentgränser

NVIDIAs ståndpunkt, som uttrycks i företagets tekniska artikel, är att en agent inte kan styra sig själv. Därför hör säkerhet och styrning hemma i den infrastruktur där agenten körs. OpenShell behandlar agentarbetslaster som opålitliga under hela körningen och ger agenten åtkomst till det den behöver först när den behöver det. Körmiljön består av fyra komponenter: Gateway, ett kontrollplan som hanterar sandlådornas livscykler och policyer; Supervisor, som kontrollerar utgående förfrågningar mot policyerna och förmedlar åtkomst till autentiseringsuppgifter, samtidigt som den körs helt separat från sandlådan; Sandbox, som isolerar agentarbetslasten och begränsar åtkomsten till filsystem och processer; samt Policy Prover, som använder formell verifiering för att kontrollera om en policys behörigheter håller sig inom de gränser som organisationen har fastställt.

I referensarkitekturen körs agenter på Vera-processorer, medan BlueField-4 sitter på nodens enda väg till modellen. Därför kan Sentry granska kommunikationen mellan agenter och modeller utan att förlita sig på att agenten själv rapporterar sitt beteende, enligt en teknisk djupdykning i ramverket. Sentry verkar inom en hårdvaruisolerad förtroendedomän som är oberoende av värdsystemets programvara och är utformat för att behålla sina övervaknings- och verkställighetsfunktioner även om en agent tar sig ut ur sin sandlåda eller värdsystemet komprometteras.

DOCA Tower, Sentrys säkerhetsgateway för AI-agenter som bygger på Envoy-proxyn med öppen källkod, fungerar som en transparent proxy för agenttrafik och avslutar TLS i kiselkretsarna. DOCA Flow implementerar en brandvägg på lager 4 för varje agent, med acceleration i kiselkretsarna. Den blockerar anslutningar till obehöriga destinationer och vidarebefordrar tillåten trafik till DOCA Tower för inspektion och behörighetskontroll på applikationslagret. Åtkomstförfrågningar utvärderas mot fastställda policyer med Open Policy Agent-motorn, som använder språket Rego och kan utvärdera förfrågningar på mindre än en millisekund, beroende på policyernas komplexitet och konfiguration.

DOCA Argus tillför kontext vid körning genom agentlös inspektion av direktåtkomligt minne. Den analyserar utvalda delar av värdens flyktiga minne från BlueField-4 utan agenter installerade på värden. Den kopplar samman containrar med deras poddar och sandlådor med mikro-VM:ar och håller reda på processer, filåtkomst, nätverksanslutningar och inlästa bibliotek med hjälp av hashvärden. Det gör det möjligt att tillämpa policyer som kräver att en containers hashvärde matchar en godkänd lista eller att en initierande process finns med i containerns programvaruförteckning. Varningssignaler som Sentry utvärderar omfattar körning av icke godkända verktyg, användning av ptrace för att angripa en annan process, överdriven utgående trafik, obehörig filåtkomst eller obehöriga filändringar, kraftiga CPU-toppar, överdriven skrivning till tillfälliga mappar och storskalig radering av filer. Om en avvikelse upptäcks kan Sentry begära inneslutning i kisel på millisekundnivå.

Sentry fungerar också tillsammans med specialiserade AI-modeller som klassificerar agentkommunikation i linje eller utanför bandet för att upptäcka beteendeförändringar. Dessutom skapar Sentry attesterade, manipulationsindikerande poster på BlueField-4 som stöder forensiska utredningar och export till företagets säkerhetsplattformar, till exempel XDR- och SIEM-system. DOCA Tower integrerar SPIFFE/SPIRE för verifierbar arbetslastidentitet. NVIDIA planerar att göra Sentry tillgängligt tidigt nästa år. DOCA-bibliotek och mikrotjänster, däribland DOCA Argus, DOCA Flow och OVS-DOCA, finns tillgängliga redan nu för experimentering.

Partnernätverk och tillgänglighet

OpenShell Reference Architecture körs på Linux- och Kubernetes-infrastruktur från Canonical, SUSE och Red Hat, på Microsoft Windows med Microsoft Execution Containers samt på molnoperativsystem från Amazon Web Services, Google Cloud och Microsoft Azure. Företag kan köra agenter från modellutvecklarna Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection och SpaceX Super Intelligence på OpenShell-infrastruktur.

Cybersäkerhetsleverantörerna 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI och Zscaler integrerar stöd för arkitekturen i sina produkter för agentsäkerhet. Bankerna BBVA och Santander samarbetar med NVIDIA för att undersöka hur arkitekturen kan användas som ramverk för att stärka agenters trygghet, säkerhet och styrning. Företagsprogramvaruföretagen Cadence, Dassault Systèmes, IBM, SAP, Siemens och Synopsys samarbetar med OpenShell för att utveckla programvaruplattformar för agenter, och Palantir och NVIDIA samarbetar med kunder för att driftsätta säkra agenter i produktionsmiljöer.

SAP integrerar arkitekturen med körningsmiljön Joule Studio, som ingår i SAP Business AI Platform. ServiceNow meddelade att ServiceNow Arc nu är allmänt tillgängligt. Det är en personlig AI-agent som kan köras under lång tid, med åtgärder som styrs vid körning av ServiceNow Super Intelligence Control Tower och verkställs av OpenShell. ServiceNows auktoriseringslager AI Passport förmedlar dessa policyer till OpenShell och Sentry, så att företag inom några sekunder kan återkalla en agents åtkomst till både programvara och maskinvara.

Systemtillverkarna Dell Technologies, Cisco, HPE, Lenovo och Supermicro bygger infrastruktur med arkitekturen. Molnleverantörerna CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure och Vultr samarbetar med NVIDIA för att driftsätta infrastruktur som är redo för OpenShell. Leverantörerna av inferens- och efterträningslösningar Baseten, Deepinfra, Fireworks och Together AI bygger integreringar i sina pipelines för modellutveckling.

I arkitekturens tillgänglighetsmeddelande hänvisas till dokumentationen för Referensdesign för en säker agentarbetsyta, som beskriver sju logiska plan, en säkerhets- och styrningsmodell, driftsättningsnivåer och referensimplementationer för Red Hat OpenShift Virtualization och Microsoft Azure. OpenShells kod finns tillgänglig på GitHub.