NVIDIA donerar OpenShell till CNCF och lägger till verktyg för AI-fabriker med öppen källkod

NVIDIA meddelade den 10 november 2026 på KubeCon + CloudNativeCon att företaget bidrar med sin körmiljö för agentsäkerhet, OpenShell, till Cloud Native Computing Foundation (CNCF) Sandbox och släpper tre komponenter med öppen källkod till sin DSX AI Factory Platform.

Tillkännagivandena knyter samman styrning av agenter med den infrastruktur som behövs för att köra agenter effektivt. NVIDIA bidrar också till projektet Agent Substrate, som har sitt ursprung hos Google, och lägger till Kubernetes Engine, Kubernetes Recipes och Snapshot i DSX. Dessa täcker körning av sessioner, klusterhantering och återställning av inferens.

OpenShell går mot styrning av gemenskapen

OpenShell tillämpar deterministiska kontroller när autonoma agenter använder verktyg, får åtkomst till inferenstjänster och kör arbetsbelastningar. Agenterna körs i sandlådor isolerade på kärnnivå, med deklarativa YAML-policyer som omfattar åtkomst till filsystem, nätverk, processer och leverantörsuppgifter. Uppgifter läggs endast till i förfrågningar som skickas till godkända slutpunkter, och formell verifiering kontrollerar före godkännande om en föreslagen policyändring skulle ge ny, riskfylld åtkomst.

Körmiljön är licensierad under Apache 2.0. NVIDIA uppger att hundratals organisationer har använt den, att tiotusentals bidrag har kommit in på mindre än ett år och att organisationer som bygger in den i sina produkter kommer att delta i styrningen av Sandbox. Övergången pågår fortfarande: enligt ett projektmeddelande flyttas utvecklingen till organisationen ai-openshell, medan kod, ärenden och pull-förfrågningar ligger kvar hos NVIDIA/OpenShell under flytten.

Agent Substrate ska minska kostnaden för inaktiv beräkningskapacitet

Agent Substrate hanterar kostnaden för att hålla agentsessioner aktiva. Agenter väntar ofta på instruktioner, verktygsresultat eller modellsvar. En särskild, varm Kubernetes-pod håller resurser tillgängliga under dessa avbrott, medan en återskapad pod förlorar sitt tillstånd och medför ytterligare en kallstart. NVIDIA och Google samarbetar också om en OpenShell-integration för agenter i moln och lokala system.

Utformningen av Agent Substrate fördelar många sessioner med beständigt tillstånd på en mindre pool av varma arbetare. Den skapar kontrollpunkter för inaktiva sessioner, inklusive minnes- och filsystemstillstånd, frigör arbetarnas resurser och återställer sessionerna på tillgängliga arbetare utan att gå igenom det vanliga förloppet för att skapa Kubernetes-poddar igen. Arbetarna förblir vanliga Kubernetes-poddar, så klustrets schemaläggning, kvoter och placeringspolicyer fortsätter att gälla. Bland de avsedda arbetsbelastningarna finns kodningsassistenter, miljöer för förstärkningsinlärning och kortlivade GPU-sandlådor för forskning.

NVIDIA utvecklar interoperabilitet med Dynamo för inferens och KAI Scheduler för delade klusterresurser. Dynamo kan tillhandahålla uppskattad tid till första token och information om GPU-poolens belastning, så att Agent Substrate kan avgöra om en agent ska hållas aktiv, pausas eller återupptas. API:erna ändras fortfarande, GPU-stödet byggs om med Kubernetes Dynamic Resource Allocation som grund, och delar av Dynamo-integrationen är experimentella.

DSX lägger till klusterhantering och snabbare återställning

NVIDIA Kubernetes Engine och NVIDIA Kubernetes Recipes (NVKE och NVKR) finns tillgängliga som offentlig förhandsversion under Apache 2.0. NVIDIA uppger att deras API:er, konfiguration och beteende kan ändras och rekommenderar ännu inte att de används för produktionsarbetsbelastningar. NVKR bygger reproducerbara nodavbildningar, containeravbildningar, binärfiler och Helm-diagram från källor med versionslåsning och registrerar indata. NVKE använder dessa artefakter för att tillhandahålla och driva kluster via ett REST-API och styrenheter, men projekten kan också införas var för sig.

NVKE skapar kluster för kunders arbetsbelastningar med separata Kubernetes-kontrollplan, etcd-instanser och nodpooler. Bare metal-kapacitet hämtas via NVIDIA Infra Controller och dess Cluster API-leverantör, CAPNICo. Innan en nod får anslutningsuppgifter måste den uppvisa en bestyrkt SPIFFE-identitet. Firmus och SK Telecom integrerar projekten i sina AI-fabriker, medan Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud och vCluster planerar integrationer med sina infrastrukturplattformar, hanterade Kubernetes-erbjudanden eller lösningar för nätverksautomation.

NVIDIA Snapshot motverkar kalla starter för inferens genom att skapa en kontrollpunkt för en fullständigt initierad arbetsbelastnings CPU- och GPU-minne. Återställning kräver samma GPU-modell och drivrutin och gör att upprepad inläsning av vikter, kompilering och insamling av CUDA-grafer kan hoppas över.

För B200-GPU:er med VAST NFS-lagring rapporterar NVIDIA återställningstider på 3,6 till 42,7 sekunder för konfigurationer med vLLM, SGLang och TensorRT LLM, med hastighetsökningar på 8x till 36x jämfört med kallstarter. Testerna omfattade allt från en modell med 600 miljoner parametrar till konfigurationer med åtta GPU:er och kontrollpunkter på närmare 1 TB. Det tog 15 sekunder till 5,5 minuter att skapa en kontrollpunkt, och i samtliga testade konfigurationer tog det kortare tid att skapa kontrollpunkten och återställa arbetsbelastningen än att genomföra en kallstart.

Dessa siffror avser inte uppstarten av en hel maskin: tillhandahållande av infrastruktur och inläsning av containeravbildningar ingår inte i den tidsmätta återställningen. Nyckel-värdecachen frigörs också före varje kontrollpunkt i stället för att sparas i artefakten. Resultaten gäller därför återställning av en initierad arbetsbelastning på kompatibel infrastruktur.

Crusoes eget GLM-5.3-test på NVIDIA HGX B300 använde en kontrollpunkt med 594 GB GPU-tillstånd. Crusoe mätte återställningen av GPU-tillståndet till 15,0 sekunder från lokal NVMe, jämfört med 33,3 sekunder från NFS. Med artefakten på NVMe tog det 31 sekunder från att podden skapades tills den var redo, jämfört med ungefär åtta minuter vid en kallstart. Det visar att lagringen är en viktig faktor för återställningsprestandan. Crusoe har också bidragit med prestanda- och diagnostikförbättringar uppströms.

Sammantaget innebär projekten att mer av AI-fabrikens kontrollplan och återställningsväg flyttas till öppna kodförråd, men de befinner sig på olika mognadsnivåer: styrningsöverföringen för OpenShell är inte slutförd, Agent Substrate utvecklas fortfarande och NVKE och NVKR är fortfarande förhandsversioner. Snapshots riktmärken visar den tydligaste uppmätta operativa förbättringen, medan kompatibilitetskraven och Crusoes lagringsresultat visar att snabbare återställning är beroende av både återanvändbart arbetslasttillstånd och den omgivande infrastrukturen.