NVIDIA lahjoittaa OpenShellin CNCF:lle ja lisää avoimen lähdekoodin tekoälytehdastyökaluja

NVIDIA ilmoitti 10. marraskuuta 2026 KubeCon + CloudNativeCon -tapahtumassa lahjoittavansa OpenShell-agenttien tietoturva-ajoympäristönsä Cloud Native Computing Foundationin (CNCF) Sandbox-ohjelmaan ja julkaisevansa kolme avoimen lähdekoodin komponenttia DSX AI Factory Platform -alustalleen.

Julkistukset yhdistävät agenttien hallinnan infrastruktuuriin, jota tarvitaan agenttien tehokkaaseen suorittamiseen. NVIDIA osallistuu myös Googlen käynnistämään Agent Substrate -projektiin ja lisää DSX:ään Kubernetes Engine-, Kubernetes Recipes- ja Snapshot-komponentit, jotka kattavat istuntojen suorittamisen, klusterien hallinnan ja päättelyn palauttamisen.

OpenShell siirtyy kohti yhteisön hallintaa

OpenShell valvoo agenttien toimintaa ennalta määritettyjen sääntöjen avulla, kun itsenäiset agentit käyttävät työkaluja, pääsevät päättelypalveluihin ja suorittavat työkuormia. Se suorittaa agentteja ytimen eristämissä hiekkalaatikoissa, ja niiden käyttöoikeuksia säätelevät deklaratiiviset YAML-käytännöt, jotka kattavat tiedostojärjestelmän, verkon, prosessit ja palveluntarjoajan tunnistetiedot. Tunnistetiedot lisätään vain hyväksyttyihin päätepisteisiin tarkoitettuihin pyyntöihin. Formaalisella verifioinnilla tarkistetaan ennen hyväksymistä, antaisiko ehdotettu käytäntömuutos uusia riskialttiita käyttöoikeuksia.

Ajoympäristö on lisensoitu Apache 2.0 -lisenssillä. NVIDIAn mukaan sitä on käyttänyt satoja organisaatioita ja siihen on tullut kymmeniätuhansia kontribuutioita alle vuodessa. Sandbox-ohjelman hallintaan osallistuu organisaatioita, jotka sisällyttävät sen tuotteisiinsa. Siirtymä on yhä käynnissä: projektia koskevassa ilmoituksessa kerrotaan kehityksen siirtyvän ai-openshell-organisaatioon. Koodi, ongelmanseuranta ja vetopyynnöt pysyvät siirtymän aikana NVIDIA/OpenShellissä.

Agent Substrate pyrkii vähentämään käyttämättömän laskentakapasiteetin kustannuksia

Agent Substrate pyrkii pienentämään agentti-istuntojen ylläpitämisen kustannuksia. Agentit joutuvat usein odottamaan kehotteita, työkalujen tuloksia tai mallien vastauksia. Erillinen valmiina pidettävä Kubernetes-podi varaa resursseja näiden taukojen ajaksi, kun taas podin luominen uudelleen hävittää tilan ja aiheuttaa uuden kylmäkäynnistyksen. NVIDIA ja Google tekevät lisäksi yhteistyötä OpenShell-integraation parissa, jotta agentit toimisivat eri pilviympäristöissä ja paikallisissa järjestelmissä.

Agent Substraten suunnittelussa monet tilalliset istunnot sijoitetaan pienempään valmiina pidettävien työntekijöiden joukkoon. Joutokäynnillä olevien istuntojen tilannekuvat tallennetaan muisti- ja tiedostojärjestelmätiloineen, minkä jälkeen niiden työntekijät vapautetaan ja istunnot palautetaan käytettävissä oleville työntekijöille ilman tavallista Kubernetes-podin luontiprosessia. Työntekijät ovat edelleen tavallisia Kubernetes-podeja, joten klusterin ajoitus, kiintiöt ja sijoittelukäytännöt pysyvät voimassa. Käyttökohteisiin kuuluvat koodausavustajat, vahvistusoppimisympäristöt ja lyhytikäiset GPU-tutkimushiekkalaatikot.

NVIDIA kehittää yhteentoimivuutta päättelyä varten tarkoitetun Dynamon ja jaettujen klusteriresurssien KAI Schedulerin kanssa. Dynamo voi tarjota ennusteen ensimmäisen tokenin saapumisajasta ja GPU-varannon kyllästymisestä, jotta Agent Substrate voi päättää, pidetäänkö agentti aktiivisena, keskeytetäänkö se vai jatketaanko sen suoritusta. Rajapinnat ovat yhä muuttumassa, GPU-tukea rakennetaan uudelleen Kubernetes Dynamic Resource Allocationin pohjalta, ja osa Dynamo-integraatiosta on kokeellista.

DSX lisää klusterinhallinnan ja nopeuttaa palautuksia

NVIDIA Kubernetes Engine ja NVIDIA Kubernetes Recipes (NVKE ja NVKR) ovat saatavilla julkisena esikatseluversiona Apache 2.0 -lisenssillä. NVIDIAn mukaan niiden rajapinnat, määritykset ja toiminta voivat muuttua, eikä se vielä suosittele niitä tuotantotyökuormiin. NVKR luo toistettavia solmukuvia, säilökuvia, binääritiedostoja ja Helm-kaavioita versiolukituista lähteistä ja tallentaa käytetyt lähtötiedot. NVKE hyödyntää näitä artefakteja klusterien käyttöönottoon ja hallintaan REST-rajapinnan ja ohjainten avulla, mutta projekteja voi ottaa käyttöön myös toisistaan riippumatta.

NVKE luo asiakkaiden työkuormille klustereita, joissa on erilliset Kubernetes-ohjaustasot, etcd-instanssit ja solmuryhmät. Se hankkii paljasmetallikapasiteettia NVIDIA Infra Controllerin ja sen Cluster API -palveluntarjoajan CAPNICo:n kautta. Solmun on esitettävä todennettu SPIFFE-identiteetti ennen liittymistunnusten saamista. Firmus ja SK Telecom integroivat projektit tekoälytehtaisiinsa. Mirantisilla, Netrisillä, OpenNebula Systemsillä, Rafaylla, Spectro Cloudilla ja vClusterilla on integraatiosuunnitelmia, jotka liittyvät niiden infrastruktuurialustoihin, hallittuihin Kubernetes-palveluihin tai verkon automaatioon.

NVIDIA Snapshot pyrkii ehkäisemään päättelyn kylmäkäynnistyksiä tallentamalla täysin alustetun työkuorman suorittimen ja näytönohjaimen muistin tilannekuvan. Palautus edellyttää samaa näytönohjainmallia ja ajuria, ja sen yhteydessä voidaan ohittaa painojen uudelleenlataus, kääntäminen ja CUDA-graafin kaappaus.

NVIDIAn mukaan B200-näytönohjaimilla ja VAST NFS -tallennustilalla palautus kesti vLLM-, SGLang- ja TensorRT LLM -kokoonpanoissa 3,6–42,7 sekuntia, mikä oli 8–36 kertaa nopeampaa kuin kylmäkäynnistys. Testit kattoivat 600 miljoonan parametrin mallin ja kahdeksan näytönohjaimen kokoonpanoja, joissa tilannekuvat olivat kooltaan lähes 1 Tt. Tilannekuvan luominen kesti 15 sekunnista 5,5 minuuttiin, ja tilannekuvan luontiin ja palautukseen kulunut yhteisaika oli kaikissa testatuissa kokoonpanoissa lyhyempi kuin yksi kylmäkäynnistys.

Nämä luvut eivät kuvaa koko koneen käynnistymistä: infrastruktuurin käyttöönotto ja säilökuvan lataaminen eivät sisälly ajastettuun palautusvaiheeseen. Avain-arvovälimuisti vapautetaan myös ennen jokaista tilannekuvaa sen sijaan, että se säilytettäisiin artefaktissa. Tulokset koskevat siis alustetun työkuorman palauttamista yhteensopivassa infrastruktuurissa.

Crusoen omassa GLM-5.3-testissä NVIDIA HGX B300 -alustalla käytettiin tarkistuspistettä, joka sisälsi 594 Gt GPU-tilaa. Crusoe mittasi GPU-tilan palautusajaksi paikalliselta NVMe-tallennusvälineeltä 15,0 sekuntia ja NFS:stä 33,3 sekuntia. Kun artefakti oli NVMe-tallennusvälineellä, podin luomisesta valmiustilaan kului 31 sekuntia, kun taas kylmäkäynnistys vei noin kahdeksan minuuttia. Tulokset osoittavat tallennuksen olevan merkittävä palautusnopeuteen vaikuttava tekijä. Crusoe on myös vienyt suorituskykyä parantavia ja diagnostiikkaan liittyviä muutoksia osaksi ylävirran projekteja.

Yhdessä nämä projektit tuovat suuremman osan tekoälytehtaan ohjaustasosta ja palautuspolusta avoimiin tietovarastoihin, mutta niiden kypsyysasteet vaihtelevat: OpenShellin hallintomallin siirto on kesken, Agent Substrate kehittyy, ja NVKE sekä NVKR ovat edelleen esiversioita. Snapshotin vertailutestit osoittavat selkeimmin mitattavan operatiivisen hyödyn, kun taas sen yhteensopivuusvaatimukset ja Crusoeen liittyvät tallennustulokset osoittavat, että nopeampi palautuminen edellyttää sekä uudelleenkäytettävää työkuorman tilaa että sitä ympäröivää infrastruktuuria.