NVIDIA donează OpenShell către CNCF și adaugă instrumente open-source pentru fabrica de IA

NVIDIA a anunțat pe 10 noiembrie 2026, la KubeCon + CloudNativeCon, că va contribui cu runtime-ul său de securitate pentru agenți OpenShell la programul Sandbox al Cloud Native Computing Foundation (CNCF) și va lansa trei componente open-source pentru platforma sa DSX AI Factory.

Anunțurile conectează guvernanța agenților cu infrastructura necesară pentru a-i rula eficient. NVIDIA contribuie, de asemenea, la proiectul Agent Substrate, inițiat de Google, și adaugă Kubernetes Engine, Kubernetes Recipes și Snapshot la DSX, acoperind execuția sesiunilor, gestionarea clusterelor și recuperarea inferenței.

OpenShell tranziția către guvernanța comunității

OpenShell aplică mecanisme de control deterministe pe măsură ce agenții autonomi folosesc instrumente, accesează servicii de inferență și execută sarcini de lucru. Agenții rulează în medii izolate la nivel de nucleu, cu politici YAML declarative care reglementează accesul la sistemul de fișiere, rețea, procese și acreditările furnizorilor. Acreditările sunt incluse numai în solicitările destinate unor puncte finale aprobate, iar verificarea formală controlează dacă o modificare de politică propusă ar acorda acces nou riscant înainte de aprobare.

Runtime-ul este licențiat în baza Apache 2.0. NVIDIA afirmă că a fost folosit de sute de organizații, că au fost primite zeci de mii de contribuții în mai puțin de un an și că guvernanța Sandbox va implica organizațiile care îl integrează în produse. Tranziția este încă în curs: un anunț al proiectului precizează că dezvoltarea se mută în organizația ai-openshell, iar codul, problemele și solicitările de integrare rămân la NVIDIA/OpenShell pe durata mutării.

Agent Substrate vizează resursele de calcul inactive

Agent Substrate abordează costul menținerii active a sesiunilor agenților. Agenții așteaptă adesea solicitări, rezultate de la instrumente sau răspunsuri ale modelelor; un pod Kubernetes dedicat, menținut în stare de funcționare, păstrează resursele alocate în aceste intervale, în timp ce recrearea podului duce la pierderea stării și la o nouă pornire la rece. NVIDIA și Google colaborează, de asemenea, la integrarea OpenShell pentru agenți care rulează în clouduri și în sisteme locale.

Concepția Agent Substrate asociază numeroase sesiuni cu stare persistentă unui grup mai mic de lucrători menținuți în stare de funcționare. Aceasta salvează puncte de control pentru sesiunile inactive, inclusiv starea memoriei și a sistemului de fișiere, eliberează lucrătorii și restaurează sesiunile pe cei disponibili, fără a repeta procesul obișnuit de creare a unui pod Kubernetes. Lucrătorii rămân poduri Kubernetes obișnuite, astfel că se aplică în continuare programarea clusterului, cotele și politicile de plasare. Printre sarcinile de lucru vizate se numără asistenții de programare, mediile de învățare prin consolidare și mediile de testare GPU pentru cercetare, cu durată scurtă de funcționare.

NVIDIA dezvoltă interoperabilitatea cu Dynamo pentru inferență și cu KAI Scheduler pentru resurse de cluster partajate. Dynamo poate furniza estimări ale timpului până la primul token și ale gradului de saturare a grupului de GPU-uri, astfel încât Agent Substrate să poată decide dacă menține un agent activ, îl suspendă sau îl reia. API-urile sale sunt încă în schimbare, compatibilitatea cu GPU-urile este reconstruită în jurul alocării dinamice a resurselor Kubernetes, iar unele părți ale integrării Dynamo sunt experimentale.

DSX adaugă gestionarea clusterelor și restaurări mai rapide

NVIDIA Kubernetes Engine și NVIDIA Kubernetes Recipes (NVKE și NVKR) sunt disponibile în versiune publică de previzualizare, sub licența Apache 2.0. NVIDIA precizează că API-urile, configurația și comportamentul acestora se pot schimba și că, deocamdată, nu le recomandă pentru sarcini de lucru de producție. NVKR creează imagini reproductibile pentru noduri, imagini de containere, fișiere binare și diagrame Helm din surse cu versiuni fixate și înregistrează datele de intrare. NVKE folosește aceste artefacte pentru a configura și opera clustere printr-un API REST și controlere, deși proiectele pot fi adoptate independent.

NVKE creează clustere pentru sarcinile de lucru ale clienților, cu planuri de control Kubernetes, instanțe etcd și grupuri de noduri separate. Obține capacitate bare-metal prin NVIDIA Infra Controller și furnizorul său Cluster API, CAPNICo; înainte de a primi acreditările necesare pentru conectare, un nod trebuie să prezinte o identitate SPIFFE atestată. Firmus și SK Telecom integrează proiectele în fabricile lor de IA, în timp ce Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud și vCluster au planuri de integrare care implică platformele lor de infrastructură, ofertele Kubernetes gestionate sau automatizarea rețelei.

NVIDIA Snapshot abordează pornirile la rece pentru inferență prin salvarea unui punct de control al memoriei CPU și GPU a unei sarcini de lucru complet inițializate. Restaurările necesită același model de GPU și același driver și evită repetarea încărcării ponderilor, a compilării și a capturării grafului CUDA.

Pe GPU-uri B200 cu stocare VAST NFS, NVIDIA raportează restaurări cu durate între 3,6 și 42,7 secunde pentru configurații vLLM, SGLang și TensorRT LLM, cu accelerări de la 8x la 36x față de pornirile la rece. Testele au variat de la un model cu 600 de milioane de parametri până la configurații cu opt GPU-uri și puncte de control de aproape 1 TB. Crearea unui punct de control a durat între 15 secunde și 5,5 minute, iar timpul cumulat pentru crearea punctului de control și restaurare a fost mai scurt decât o pornire la rece în fiecare configurație testată.

Aceste cifre nu măsoară pornirea întregii mașini: aprovizionarea infrastructurii și încărcarea imaginilor de containere nu sunt incluse în durata măsurată a restaurării. De asemenea, memoria cache cheie-valoare este eliberată înainte de fiecare punct de control, nu păstrată în artefact; prin urmare, rezultatele se referă la restaurarea unei sarcini de lucru inițializate pe o infrastructură compatibilă.

Testul propriu al Crusoe cu GLM-5.3, efectuat pe NVIDIA HGX B300, a folosit un checkpoint care conținea 594 GB de stare GPU. Crusoe a măsurat restaurarea stării GPU: 15,0 secunde de pe un NVMe local, față de 33,3 secunde de pe NFS. Cu artefactul stocat pe NVMe, au trecut 31 de secunde de la crearea podului până când acesta a devenit gata, comparativ cu aproximativ opt minute pentru o pornire la rece; acest lucru indică faptul că stocarea este un factor major în performanța restaurării. Crusoe a contribuit, de asemenea, cu modificări de performanță și diagnosticare în proiectele din amonte.

Luate împreună, proiectele transferă mai multe componente ale planului de control al fabricii de IA și ale procesului de recuperare în depozite publice de cod, dar acestea se află în stadii diferite de maturitate: transferul OpenShell către o structură de guvernanță este incomplet, Agent Substrate este în evoluție, iar NVKE și NVKR sunt încă versiuni preliminare. Testele de referință Snapshot oferă cele mai clare dovezi ale unui câștig operațional măsurat, în timp ce cerințele de compatibilitate și rezultatele Crusoe privind stocarea arată că recuperarea mai rapidă depinde atât de starea reutilizabilă a sarcinilor de lucru, cât și de infrastructura din jurul lor.