NVIDIA, OpenShell’i CNCF’ye Bağışlıyor ve Açık Kaynaklı Yapay Zekâ Fabrikası Araçları Ekliyor

NVIDIA, 10 Kasım 2026’da KubeCon + CloudNativeCon’da OpenShell aracı güvenliği çalışma zamanını Cloud Native Computing Foundation (CNCF) Sandbox’ına katkı olarak sunduğunu ve DSX AI Factory Platform’u için üç açık kaynaklı bileşen yayımladığını duyurdu.

Duyurular, aracıların yönetimini onları verimli biçimde çalıştırmak için gereken altyapıyla bir araya getiriyor. NVIDIA, Google’ın başlattığı Agent Substrate projesine de katkıda bulunuyor ve oturum yürütme, küme yönetimi ve çıkarımın kurtarılmasını kapsayan Kubernetes Engine, Kubernetes Recipes ve Snapshot bileşenlerini DSX’e ekliyor.

OpenShell Topluluk Yönetimine Geçiyor

OpenShell, otonom ajanlar araçları kullanırken, çıkarım hizmetlerine erişirken ve iş yüklerini yürütürken deterministik denetimler uygular. Ajanları, dosya sistemi, ağ, süreç ve sağlayıcı kimlik bilgilerine erişimi kapsayan bildirimsel YAML politikalarıyla çekirdek yalıtımlı korumalı alanlarda çalıştırır. Kimlik bilgileri yalnızca onaylanmış uç noktalara yöneltilen isteklere eklenir ve biçimsel doğrulama, önerilen bir politika değişikliğinin onaydan önce riskli yeni erişim sağlayıp sağlamayacağını denetler.

Çalışma zamanı Apache 2.0 lisansıyla sunuluyor. NVIDIA, yüzlerce kuruluşun bu çalışma zamanını kullandığını, bir yıldan kısa sürede on binlerce katkının geldiğini ve Sandbox’ın yönetimine, çalışma zamanını ürünlerine entegre eden kuruluşların katılacağını bildiriyor. Geçiş hâlâ sürüyor: proje duyurusunda, geliştirme çalışmalarının ai-openshell kuruluşuna taşındığı, bu sırada kodun, sorunların ve çekme isteklerinin NVIDIA/OpenShell bünyesinde kalacağı belirtiliyor.

Agent Substrate Kullanılmayan Hesaplama Kaynaklarını Hedefliyor

Agent Substrate, aracı oturumlarını açık tutmanın maliyetini ele alıyor. Aracılar çoğu zaman istemleri, araç sonuçlarını veya model yanıtlarını bekliyor. Bu aralıklarda kaynakları hazır durumda tutmak için özel bir Kubernetes Pod’u kullanılıyor; Pod’u yeniden oluşturmak ise durum bilgisinin kaybolmasına ve yeniden soğuk başlangıç yapılmasına yol açıyor. NVIDIA ve Google ayrıca, bulutlar genelindeki ve şirket içi sistemlerdeki aracılar için OpenShell entegrasyonu üzerinde iş birliği yapıyor.

Agent Substrate tasarımı, durum bilgisi taşıyan çok sayıda oturumu daha küçük bir hazır worker havuzuna eşler. Bellek ve dosya sistemi durumu da dâhil olmak üzere boşta kalan oturumların kontrol noktalarını alır, bu oturumların worker’larını serbest bırakır ve olağan Kubernetes Pod’u oluşturma sürecini tekrarlamadan oturumları kullanılabilir worker’lara geri yükler. Worker’lar standart Kubernetes Pod’ları olarak kalır; dolayısıyla küme zamanlaması, kotalar ve yerleştirme politikaları uygulanmaya devam eder. Hedeflenen iş yükleri arasında kodlama asistanları, pekiştirmeli öğrenme ortamları ve kısa süreli GPU araştırma korumalı alanları bulunuyor.

NVIDIA, çıkarım için Dynamo’yla, paylaşılan küme kaynakları içinse KAI Scheduler’la birlikte çalışabilirlik geliştiriyor. Dynamo, Agent Substrate’in bir aracıyı çalışır durumda tutmaya, askıya almaya veya yeniden başlatmaya karar verebilmesi için ilk belirtece kadar geçen tahmini süreyi ve GPU havuzunun doluluk düzeyini sağlayabiliyor. API’leri hâlâ değişiyor, GPU desteği Kubernetes Dynamic Resource Allocation temel alınarak yeniden oluşturuluyor ve Dynamo entegrasyonunun bazı bölümleri deneysel durumda.

DSX, Küme Yönetimi ve Daha Hızlı Geri Yükleme Özellikleri Ekliyor

NVIDIA Kubernetes Engine ve NVIDIA Kubernetes Recipes (NVKE ve NVKR), Apache 2.0 lisansı altında genel önizlemede kullanıma sunuldu. NVIDIA, API’lerinin, yapılandırmalarının ve davranışlarının değişebileceğini belirtiyor ve bunları henüz üretim iş yüklerinde kullanmayı önermiyor. NVKR, sürümleri sabitlenmiş kaynaklardan yeniden üretilebilir düğüm görüntüleri, kapsayıcı görüntüleri, ikili dosyalar ve Helm grafikleri oluşturup kullanılan girdileri kaydediyor. NVKE ise bu yapıtlardan yararlanarak REST API’si ve denetleyiciler aracılığıyla kümeleri sağlıyor ve işletiyor; ancak projeler birbirinden bağımsız olarak da benimsenebiliyor.

NVKE, ayrı Kubernetes kontrol düzlemleri, etcd örnekleri ve düğüm havuzlarıyla müşteri iş yükü kümeleri oluşturuyor. NVIDIA Infra Controller ve onun Cluster API sağlayıcısı CAPNICo aracılığıyla çıplak metal kapasitesi sağlıyor; bir düğümün katılım kimlik bilgilerini alabilmesi için önce doğrulanmış bir SPIFFE kimliği sunması gerekiyor. Firmus ve SK Telecom, projeleri yapay zekâ fabrikalarına entegre ediyor. Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud ve vCluster ise altyapı platformlarını, yönetilen Kubernetes hizmetlerini veya ağ otomasyonunu kapsayan entegrasyon planlarına sahip.

NVIDIA Snapshot, tamamen başlatılmış bir iş yükünün CPU ve GPU belleğinin kontrol noktasını alarak çıkarım işlemlerindeki soğuk başlangıçları ele alıyor. Geri yükleme için aynı GPU modeli ve sürücüsü gerekiyor; bu işlem, ağırlıkların yeniden yüklenmesini, derlemeyi ve CUDA grafiklerinin yakalanmasını önlüyor.

NVIDIA, VAST NFS depolama kullanan B200 GPU’larda vLLM, SGLang ve TensorRT LLM yapılandırmaları genelinde geri yükleme sürelerinin 3,6 ila 42,7 saniye, soğuk başlangıçlara kıyasla hızlanmanın ise 8 ila 36 kat olduğunu bildiriyor. Testler, 600 milyon parametreli bir modelden kontrol noktaları 1 TB’a yaklaşan sekiz GPU’lu yapılandırmalara kadar uzanıyordu. Kontrol noktası oluşturma 15 saniye ile 5,5 dakika arasında sürdü ve test edilen her yapılandırmada kontrol noktası oluşturma ile geri yüklemenin toplam süresi tek bir soğuk başlangıçtan daha kısa oldu.

Bu rakamlar, makinenin baştan sona başlatılma süresini ölçmüyor: altyapının sağlanması ve kapsayıcı görüntülerinin yüklenmesi, süre tutulan geri yükleme sürecine dâhil değil. Anahtar-değer önbelleği de yapıtın içinde saklanmak yerine her kontrol noktası alınmadan önce serbest bırakılıyor. Bu nedenle sonuçlar, uyumlu bir altyapı üzerinde başlatılmış bir iş yükünün geri yüklenmesine ilişkin.

Crusoe’nun NVIDIA HGX B300 üzerinde gerçekleştirdiği kendi GLM-5.3 testi, 594 GB GPU durum verisi içeren bir kontrol noktası kullandı. Crusoe, GPU durumunun yerel NVMe’den geri yüklenmesinin 15,0 saniye, NFS’den geri yüklenmesinin ise 33,3 saniye sürdüğünü ölçtü. Yapı NVMe’deyken pod’un oluşturulup hazır hâle gelmesi 31 saniye sürdü; soğuk başlatmada bu süre yaklaşık sekiz dakikaydı. Bu sonuç, depolamanın geri yükleme performansında önemli bir etken olduğunu gösteriyor. Crusoe, performans ve tanılama iyileştirmelerini de ana projelere katkı olarak sundu.

Projeler bir arada değerlendirildiğinde, yapay zekâ fabrikasının kontrol düzlemi ile kurtarma sürecinin daha büyük bir bölümünü açık kaynak depolarına taşıyor; ancak olgunluk düzeyleri farklı: OpenShell’in yönetişim alanındaki adımı tamamlanmamış, Agent Substrate gelişimini sürdürüyor, NVKE ve NVKR ise hâlâ önizleme aşamasında. Snapshot’ın karşılaştırmalı testleri, ölçüme dayalı en belirgin operasyonel kazanımı ortaya koyuyor. Öte yandan uyumluluk gereksinimleri ve Crusoe’nun depolama sonuçları, daha hızlı kurtarmanın hem yeniden kullanılabilir iş yükü durumuna hem de bunu destekleyen altyapıya bağlı olduğunu gösteriyor.