NVIDIA věnuje OpenShell nadaci CNCF a přidává open source nástroje pro AI továrny

NVIDIA oznámila 10. listopadu 2026 na konferenci KubeCon + CloudNativeCon, že přispívá svým běhovým prostředím OpenShell pro zabezpečení agentů do Sandboxu nadace Cloud Native Computing Foundation (CNCF) a vydává tři open source komponenty pro svou platformu DSX AI Factory.

Tato oznámení propojují správu agentů s infrastrukturou potřebnou k jejich efektivnímu provozu. NVIDIA také přispívá k projektu Agent Substrate, který vznikl v Googlu, a přidává do DSX Kubernetes Engine, Kubernetes Recipes a Snapshot, jež pokrývají spouštění relací, správu clusterů a obnovu po výpadku inference.

OpenShell přechází ke správě komunitou

OpenShell uplatňuje deterministické řízení při používání nástrojů, přístupu k inferenčním službám a vykonávání úloh autonomními agenty. Agenty spouští v izolovaných sandboxech na úrovni jádra s deklarativními zásadami YAML, které upravují přístup k souborovému systému, síti, procesům a přihlašovacím údajům poskytovatele. Přihlašovací údaje se vkládají pouze do požadavků směřujících na schválené koncové body a formální verifikace před schválením ověřuje, zda by navrhovaná změna zásad neumožnila nový rizikový přístup.

Běhové prostředí je licencováno pod licencí Apache 2.0. NVIDIA uvádí, že ho využily stovky organizací, že za méně než rok přibyly desítky tisíc příspěvků a že na správě Sandboxu se budou podílet organizace, které jej začlení do svých produktů. Přechod stále probíhá: oznámení projektu uvádí, že vývoj se přesouvá do organizace ai-openshell, zatímco kód, hlášení problémů a požadavky na začlenění změn zůstávají během přesunu v NVIDIA/OpenShell.

Agent Substrate cílí na nevyužité výpočetní kapacity

Agent Substrate řeší náklady na udržování aktivních relací agentů. Agenti často čekají na zadání, výsledky nástrojů nebo odpovědi modelu; vyhrazený připravený Kubernetes Pod během těchto prodlev drží prostředky, zatímco jeho opětovné vytvoření znamená ztrátu stavu a další studený start. NVIDIA a Google také spolupracují na integraci OpenShellu pro agenty napříč cloudy i místními systémy.

Návrh Agent Substrate přiřazuje mnoho relací se zachovaným stavem k menší skupině připravených pracovních uzlů. U neaktivních relací ukládá kontrolní body včetně stavu paměti a souborového systému, uvolňuje jejich pracovní uzly a obnovuje je na dostupných uzlech, aniž by znovu procházely běžným procesem vytváření Kubernetes Podu. Pracovní uzly zůstávají běžnými Kubernetes Pody, takže se nadále uplatňují pravidla plánování clusteru, kvóty i zásady umisťování. Mezi cílové úlohy patří asistenti pro programování, prostředí pro posilované učení a krátkodobé výzkumné sandboxy GPU.

NVIDIA vyvíjí interoperabilitu s nástrojem Dynamo pro inferenci a s KAI Schedulerem pro sdílené prostředky clusteru. Dynamo může poskytovat odhadovanou dobu do prvního tokenu a míru vytížení fondu GPU, aby Agent Substrate mohl rozhodnout, zda agenta ponechá aktivního, pozastaví ho, nebo znovu spustí. Jeho API se stále mění, podpora GPU se přestavuje s využitím Kubernetes Dynamic Resource Allocation a některé části integrace s Dynamo jsou experimentální.

DSX přidává správu clusterů a rychlejší obnovu

NVIDIA Kubernetes Engine a NVIDIA Kubernetes Recipes (NVKE a NVKR) jsou dostupné ve veřejném předběžném vydání pod licencí Apache 2.0. NVIDIA upozorňuje, že jejich API, konfigurace i chování se mohou změnit, a zatím je nedoporučuje pro produkční úlohy. NVKR vytváří reprodukovatelné obrazy uzlů, obrazy kontejnerů, binární soubory a grafy Helm ze zdrojů s pevně určenými verzemi a zaznamenává použité vstupy. NVKE tyto artefakty využívá ke zřizování a provozu clusterů prostřednictvím rozhraní REST API a řadičů; oba projekty však lze nasadit i samostatně.

NVKE vytváří clustery pro zákaznické úlohy se samostatnými řídicími rovinami Kubernetes, instancemi etcd a skupinami uzlů. Kapacitu fyzických serverů získává prostřednictvím NVIDIA Infra Controller a jeho poskytovatele Cluster API, CAPNICo; než uzel obdrží přihlašovací údaje pro připojení, musí předložit ověřenou identitu SPIFFE. Firmus a SK Telecom začleňují tyto projekty do svých AI továren, zatímco společnosti Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud a vCluster plánují integrace zahrnující jejich infrastrukturní platformy, spravované nabídky Kubernetes nebo automatizaci sítí.

NVIDIA Snapshot řeší studené starty inference tím, že pořizuje kontrolní body plně inicializované úlohy včetně paměti CPU a GPU. Obnovení vyžaduje stejný model GPU a ovladač a vynechává opakované načítání vah, kompilaci i zachycení grafu CUDA.

NVIDIA uvádí, že na GPU B200 s úložištěm VAST NFS trvalo obnovení v různých konfiguracích vLLM, SGLang a TensorRT LLM 3,6 až 42,7 sekundy a oproti studeným startům bylo 8× až 36× rychlejší. Testy zahrnovaly model se 600 miliony parametrů i konfigurace s osmi GPU a kontrolními body o velikosti téměř 1 TB. Vytvoření kontrolního bodu trvalo 15 sekund až 5,5 minuty a v každé testované konfiguraci byla doba vytvoření kontrolního bodu a následného obnovení kratší než jeden studený start.

Uvedené hodnoty nezahrnují spuštění celého počítače: zřizování infrastruktury a načítání obrazů kontejnerů do měřeného procesu obnovy nepatří. Mezipaměť klíč–hodnota se také před každým vytvořením kontrolního bodu uvolňuje, místo aby se uchovávala v artefaktu, takže výsledky se týkají obnovy inicializované úlohy na kompatibilní infrastruktuře.

Vlastní test Crusoe GLM-5.3 na NVIDIA HGX B300 využíval kontrolní bod obsahující 594 GB stavu GPU. Crusoe naměřilo obnovení stavu GPU za 15,0 sekundy z lokálního NVMe, oproti 33,3 sekundy z NFS. Když byl artefakt uložen na NVMe, vytvoření podu a jeho uvedení do stavu připravenosti trvalo 31 sekund, zatímco studený start zabral přibližně osm minut. To ukazuje, že úložiště je významným faktorem ovlivňujícím rychlost obnovy. Crusoe také přispělo změnami výkonu a diagnostiky do upstreamu.

Tyto projekty dohromady přesouvají větší část řídicí roviny AI továrny a cesty obnovy do otevřených repozitářů, avšak nacházejí se v různých fázích zralosti: změna správy OpenShell ještě není dokončena, Agent Substrate se dál vyvíjí a NVKE i NVKR jsou stále ve fázi předběžného vydání. Benchmarky Snapshotu dokládají nejzřetelnější měřené provozní zlepšení, zatímco požadavky na kompatibilitu a výsledky Crusoe týkající se úložiště ukazují, že rychlejší obnova závisí jak na opakovaně použitelném stavu úloh, tak na okolní infrastruktuře.