NVIDIA przekazuje OpenShell do CNCF i dodaje do platformy narzędzia AI Factory o otwartym kodzie źródłowym

NVIDIA poinformowała 10 listopada 2026 r. podczas KubeCon + CloudNativeCon, że przekazuje środowisko uruchomieniowe OpenShell, służące do zabezpieczania agentów, do programu Sandbox Cloud Native Computing Foundation (CNCF) oraz udostępnia trzy komponenty o otwartym kodzie źródłowym dla swojej platformy DSX AI Factory.

Ogłoszenia łączą nadzór nad agentami z infrastrukturą niezbędną do ich wydajnego uruchamiania. NVIDIA wnosi również wkład w projekt Agent Substrate, zapoczątkowany przez Google, i dodaje do DSX Kubernetes Engine, Kubernetes Recipes oraz Snapshot, obejmujące wykonywanie sesji, zarządzanie klastrami i odzyskiwanie działania wnioskowania.

OpenShell zmierza ku zarządzaniu przez społeczność

OpenShell stosuje deterministyczne mechanizmy kontroli, gdy autonomiczne agenty korzystają z narzędzi, uzyskują dostęp do usług wnioskowania i wykonują zadania. Uruchamia agenty w piaskownicach odizolowanych na poziomie jądra systemu, z deklaratywnymi zasadami YAML obejmującymi dostęp do systemu plików, sieci, procesów i danych uwierzytelniających dostawców. Dane uwierzytelniające są dołączane wyłącznie do żądań kierowanych do zatwierdzonych punktów końcowych, a weryfikacja formalna sprawdza przed zatwierdzeniem, czy proponowana zmiana zasad przyznałaby nowy, ryzykowny dostęp.

Środowisko uruchomieniowe jest udostępniane na licencji Apache 2.0. NVIDIA informuje, że korzystały z niego setki organizacji, że w ciągu niespełna roku napłynęły dziesiątki tysięcy wkładów oraz że w zarządzanie programem Sandbox będą zaangażowane organizacje wdrażające to rozwiązanie w swoich produktach. Przekazywanie projektu wciąż trwa: komunikat projektu informuje, że prace rozwojowe przenoszą się do organizacji ai-openshell, a kod, zgłoszenia i pull requesty na czas tej zmiany pozostają w NVIDIA/OpenShell.

Agent Substrate pozwala ograniczyć koszty niewykorzystanych zasobów obliczeniowych

Agent Substrate pomaga ograniczyć koszty utrzymywania aktywnych sesji agentów. Agenty często czekają na polecenia, wyniki działania narzędzi lub odpowiedzi modeli; dedykowany, działający Pod Kubernetes utrzymuje zasoby w tych przerwach, natomiast ponowne utworzenie Poda powoduje utratę stanu i wymaga kolejnego zimnego startu. NVIDIA i Google współpracują również nad integracją OpenShell dla agentów działających w chmurach i systemach lokalnych.

Projekt Agent Substrate przyporządkowuje wiele sesji zachowujących stan do mniejszej puli gotowych pracowników. Zapisuje stan bezczynnych sesji, w tym pamięć i stan systemu plików, zwalnia przypisane do nich zasoby pracowników, a następnie przywraca sesje na dostępnych pracownikach bez ponownego przechodzenia standardowej ścieżki tworzenia Podów Kubernetes. Pracownicy nadal działają jako zwykłe Pody Kubernetes, więc wciąż obowiązują zasady planowania zadań w klastrze, przydziały limitów i reguły rozmieszczania. Docelowe obciążenia obejmują asystentów programistycznych, środowiska uczenia przez wzmacnianie oraz krótkotrwałe piaskownice badawcze GPU.

NVIDIA rozwija współdziałanie z Dynamo na potrzeby wnioskowania oraz z KAI Scheduler w zakresie współdzielonych zasobów klastra. Dynamo może dostarczać prognozowany czas do pierwszego tokenu i informacje o stopniu wysycenia puli GPU, dzięki czemu Agent Substrate może zdecydować, czy pozostawić agenta w pamięci, zawiesić go, czy wznowić jego działanie. Interfejsy API są wciąż zmieniane, obsługa GPU jest przebudowywana z wykorzystaniem Kubernetes Dynamic Resource Allocation, a część integracji z Dynamo ma charakter eksperymentalny.

DSX zyskuje narzędzia do zarządzania klastrami i szybszego przywracania

NVIDIA Kubernetes Engine i NVIDIA Kubernetes Recipes (NVKE i NVKR) są dostępne w publicznej wersji testowej na licencji Apache 2.0. NVIDIA informuje, że ich interfejsy API, konfiguracja i działanie mogą ulec zmianie i na razie nie zaleca ich używania w obciążeniach produkcyjnych. NVKR tworzy odtwarzalne obrazy węzłów i kontenerów, pliki binarne oraz wykresy Helm na podstawie źródeł z przypiętymi wersjami, a także rejestruje wykorzystane dane wejściowe. NVKE używa tych artefaktów do udostępniania i obsługi klastrów za pośrednictwem interfejsu API REST i kontrolerów, choć z obu projektów można korzystać niezależnie.

NVKE tworzy klastry obciążeń klientów z oddzielnymi płaszczyznami sterowania Kubernetes, instancjami etcd i pulami węzłów. Uzyskuje dostęp do zasobów bare-metal za pośrednictwem NVIDIA Infra Controller i dostawcy Cluster API o nazwie CAPNICo; zanim węzeł otrzyma dane uwierzytelniające umożliwiające dołączenie do klastra, musi przedstawić poświadczoną tożsamość SPIFFE. Firmus i SK Telecom integrują oba projekty ze swoimi fabrykami AI, a Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud i vCluster planują integracje obejmujące ich platformy infrastrukturalne, zarządzane usługi Kubernetes lub automatyzację sieci.

NVIDIA Snapshot ogranicza zimne starty wnioskowania, zapisując stan kontrolny pamięci CPU i GPU w pełni zainicjalizowanego obciążenia. Przywracanie wymaga tego samego modelu GPU i sterownika oraz pomija ponowne ładowanie wag, kompilację i przechwytywanie grafu CUDA.

W przypadku procesorów GPU B200 i pamięci masowej VAST NFS NVIDIA podaje, że przywracanie trwało od 3,6 do 42,7 sekundy w różnych konfiguracjach vLLM, SGLang i TensorRT LLM, a przyspieszenie w porównaniu z zimnym startem wynosiło od 8x do 36x. Testy obejmowały model o 600 milionach parametrów oraz konfiguracje z ośmioma procesorami GPU i punktami kontrolnymi o rozmiarze bliskim 1 TB. Tworzenie punktu kontrolnego trwało od 15 sekund do 5,5 minuty, a łączny czas utworzenia punktu kontrolnego i przywrócenia był krótszy niż czas jednego zimnego startu w każdej testowanej konfiguracji.

Podane wartości nie dotyczą uruchomienia całej maszyny: udostępnianie infrastruktury i ładowanie obrazów kontenerów nie są uwzględnione w mierzonym czasie przywracania. Pamięć podręczna klucz-wartość jest również zwalniana przed utworzeniem każdego punktu kontrolnego, zamiast pozostawać w artefakcie, dlatego wyniki dotyczą przywracania zainicjalizowanego obciążenia na zgodnej infrastrukturze.

Własny test GLM-5.3 firmy Crusoe na NVIDIA HGX B300 wykorzystał punkt kontrolny zawierający 594 GB danych stanu GPU. Crusoe zmierzyło czas przywracania stanu GPU: 15,0 sekundy z lokalnego NVMe w porównaniu z 33,3 sekundy z NFS. Gdy artefakt znajdował się na NVMe, od utworzenia poda do osiągnięcia gotowości mijało 31 sekund, w porównaniu z około ośmioma minutami w przypadku zimnego startu. Wynik ten wskazuje, że pamięć masowa jest istotnym czynnikiem wpływającym na szybkość przywracania. Crusoe przekazało również do nadrzędnych repozytoriów zmiany poprawiające wydajność i diagnostykę.

Łącznie projekty przenoszą większą część płaszczyzny sterowania fabryką AI i ścieżki odzyskiwania do otwartych repozytoriów, ale znajdują się na różnych etapach dojrzałości: zmiana dotycząca zasad zarządzania OpenShell nie jest jeszcze zakończona, Agent Substrate nadal się rozwija, a NVKE i NVKR pozostają wersjami poglądowymi. Testy porównawcze Snapshot pokazują najwyraźniejszą zmierzoną poprawę operacyjną, a wymogi zgodności oraz wyniki Crusoe dotyczące pamięci masowej wskazują, że szybsze odzyskiwanie zależy zarówno od możliwości ponownego wykorzystania stanu obciążenia, jak i od otaczającej go infrastruktury.