NVIDIA ने CNCF को OpenShell दान किया और ओपन-सोर्स AI फ़ैक्टरी टूल जोड़े

NVIDIA ने घोषणा की कि 10 नवंबर, 2026 को KubeCon + CloudNativeCon में वह अपना OpenShell एजेंट-सुरक्षा रनटाइम Cloud Native Computing Foundation (CNCF) Sandbox को दे रहा है और अपने DSX AI Factory Platform के लिए तीन ओपन-सोर्स घटक जारी कर रहा है।

इन घोषणाओं से एजेंटों के संचालन के शासन को उन्हें कुशलतापूर्वक चलाने के लिए आवश्यक बुनियादी ढाँचे से जोड़ा गया है। NVIDIA Google से शुरू हुई Agent Substrate परियोजना में भी योगदान दे रहा है और DSX में Kubernetes इंजन, Kubernetes रेसिपीज़ और Snapshot जोड़ रहा है, जो सत्रों के निष्पादन, क्लस्टर प्रबंधन और अनुमान-प्रक्रिया की बहाली को कवर करते हैं।

OpenShell सामुदायिक शासन की ओर बढ़ रहा है

स्वायत्त एजेंटों के टूल इस्तेमाल करने, अनुमान सेवाओं तक पहुँचने और वर्कलोड चलाने के दौरान OpenShell नियतात्मक नियंत्रण लागू करता है। यह एजेंटों को कर्नेल-आइसोलेटेड सैंडबॉक्स में चलाता है, जहाँ घोषणात्मक YAML नीतियाँ फ़ाइल सिस्टम, नेटवर्क, प्रक्रियाओं और सेवा-प्रदाता क्रेडेंशियल तक पहुँच को नियंत्रित करती हैं। क्रेडेंशियल केवल स्वीकृत एंडपॉइंट के लिए भेजे जाने वाले अनुरोधों में जोड़े जाते हैं, और औपचारिक सत्यापन यह जाँचता है कि प्रस्तावित नीति-परिवर्तन को मंज़ूरी देने से पहले उससे जोखिमपूर्ण नई पहुँच तो नहीं मिलेगी।

इस रनटाइम का लाइसेंस Apache 2.0 के तहत है। NVIDIA का कहना है कि सैकड़ों संगठनों ने इसका इस्तेमाल किया है, एक साल से भी कम समय में दसियों हज़ार योगदान प्राप्त हुए हैं और Sandbox का शासन उन संगठनों की भागीदारी से चलेगा जो इसे अपने उत्पादों में शामिल कर रहे हैं। बदलाव की प्रक्रिया अभी जारी है: परियोजना की सूचना के अनुसार, विकास ai-openshell संगठन में स्थानांतरित हो रहा है; इस दौरान कोड, मुद्दे और पुल अनुरोध NVIDIA/OpenShell में ही रहेंगे।

Agent Substrate का लक्ष्य निष्क्रिय कंप्यूट संसाधनों का बेहतर उपयोग करना है

Agent Substrate का उद्देश्य एजेंट सत्रों को चालू रखने की लागत कम करना है। एजेंट अक्सर प्रॉम्प्ट, टूल के नतीजों या मॉडल के जवाबों का इंतज़ार करते हैं; इन अंतरालों के दौरान एक समर्पित, पहले से चालू Kubernetes Pod संसाधन रोके रखता है, जबकि Pod को फिर से बनाने पर स्थिति खो जाती है और दोबारा कोल्ड स्टार्ट करना पड़ता है। NVIDIA और Google क्लाउड तथा ऑन-प्रिमाइसेस सिस्टमों में एजेंटों के लिए OpenShell एकीकरण पर भी साथ काम कर रहे हैं।

Agent Substrate की रूपरेखा कई स्थिति-संरक्षित सत्रों को पहले से चालू वर्करों के एक छोटे पूल पर चलाती है। यह निष्क्रिय सत्रों के चेकपॉइंट बनाती है, जिनमें मेमोरी और फ़ाइल सिस्टम की स्थिति शामिल होती है, उनके वर्करों को मुक्त करती है और सामान्य Kubernetes Pod-निर्माण प्रक्रिया दोहराए बिना उन्हें उपलब्ध वर्करों पर बहाल करती है। ये वर्कर सामान्य Kubernetes Pod ही रहते हैं, इसलिए क्लस्टर शेड्यूलिंग, कोटा और प्लेसमेंट नीतियाँ लागू होती रहती हैं। लक्षित वर्कलोड में कोडिंग सहायक, रीइन्फोर्समेंट-लर्निंग परिवेश और कम समय तक चलने वाले GPU शोध सैंडबॉक्स शामिल हैं।

NVIDIA अनुमान-प्रक्रिया के लिए Dynamo और क्लस्टर संसाधनों को साझा करने के लिए KAI Scheduler के साथ अंतरसंचालनीयता विकसित कर रहा है। Dynamo, पहला टोकन आने तक के अनुमानित समय और GPU-पूल की संतृप्ति की जानकारी दे सकता है, ताकि Agent Substrate तय कर सके कि किसी एजेंट को चालू रखा जाए, निलंबित किया जाए या फिर से शुरू किया जाए। इसके API में अभी बदलाव हो रहे हैं, GPU समर्थन को Kubernetes Dynamic Resource Allocation के आधार पर फिर से बनाया जा रहा है और Dynamo एकीकरण के कुछ हिस्से प्रयोगात्मक हैं।

DSX में क्लस्टर प्रबंधन और तेज़ बहाली की सुविधा

NVIDIA कुबेरनेट्स इंजन और NVIDIA कुबेरनेट्स रेसिपीज़ (NVKE और NVKR) Apache 2.0 के तहत सार्वजनिक पूर्वावलोकन में उपलब्ध हैं। NVIDIA का कहना है कि इनके API, कॉन्फ़िगरेशन और व्यवहार में बदलाव हो सकते हैं और वह अभी इन्हें उत्पादन वर्कलोड के लिए सुझाता नहीं है। NVKR संस्करण-निर्धारित स्रोतों से पुनरुत्पादित किए जा सकने वाले नोड इमेज, कंटेनर इमेज, बाइनरी और Helm चार्ट बनाता है और उनके इनपुट दर्ज करता है। NVKE इन आर्टिफ़ैक्ट का उपयोग REST API और कंट्रोलर के ज़रिए क्लस्टर तैयार करने और चलाने के लिए करता है, हालाँकि दोनों परियोजनाएँ स्वतंत्र रूप से अपनाई जा सकती हैं।

NVKE ग्राहकों के वर्कलोड के लिए अलग Kubernetes कंट्रोल प्लेन, etcd इंस्टेंस और नोड पूल वाले क्लस्टर बनाता है। यह NVIDIA Infra Controller और उसके Cluster API प्रदाता CAPNICo के ज़रिए बेयर-मेटल क्षमता प्राप्त करता है; शामिल होने के क्रेडेंशियल मिलने से पहले नोड को प्रमाणित SPIFFE पहचान प्रस्तुत करनी होती है। Firmus और SK Telecom इन परियोजनाओं को अपनी AI फ़ैक्टरियों में एकीकृत कर रहे हैं, जबकि Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud और vCluster की योजना इन्हें अपने बुनियादी ढाँचा प्लेटफ़ॉर्म, प्रबंधित Kubernetes सेवाओं या नेटवर्क स्वचालन के साथ एकीकृत करने की है।

NVIDIA Snapshot पूरी तरह आरंभ किए गए वर्कलोड की CPU और GPU मेमोरी का चेकपॉइंट बनाकर अनुमान-प्रक्रिया के कोल्ड स्टार्ट की समस्या का समाधान करता है। बहाली के लिए वही GPU मॉडल और ड्राइवर आवश्यक हैं; इससे वेट लोड करने, कंपाइलेशन और CUDA ग्राफ़ कैप्चर की प्रक्रिया दोहराने की ज़रूरत नहीं पड़ती।

VAST NFS स्टोरेज वाले B200 GPU पर NVIDIA के अनुसार, vLLM, SGLang और TensorRT LLM कॉन्फ़िगरेशन में बहाली में 3.6 से 42.7 सेकंड लगे और कोल्ड स्टार्ट की तुलना में गति 8x से 36x तक बढ़ी। परीक्षणों में 600 मिलियन पैरामीटर वाले मॉडल से लेकर आठ-GPU कॉन्फ़िगरेशन तक शामिल थे, जिनमें चेकपॉइंट का आकार लगभग 1 TB तक था। चेकपॉइंट बनाने में 15 सेकंड से 5.5 मिनट लगे, और परीक्षण किए गए हर कॉन्फ़िगरेशन में चेकपॉइंट बनाने और बहाल करने में लगा कुल समय एक कोल्ड स्टार्ट से कम था।

इन आँकड़ों में पूरी मशीन को शुरू करने का समय शामिल नहीं है: बुनियादी ढाँचा तैयार करना और कंटेनर इमेज लोड करना, बहाली के समय-मापे गए चरण से बाहर हैं। हर चेकपॉइंट से पहले की-वैल्यू कैश भी छोड़ दिया जाता है, उसे आर्टिफ़ैक्ट में सहेजा नहीं जाता। इसलिए ये नतीजे संगत बुनियादी ढाँचे पर पहले से आरंभ किए गए वर्कलोड को बहाल करने से संबंधित हैं।

NVIDIA HGX B300 पर Crusoe के अपने GLM-5.3 परीक्षण में 594 GB GPU स्थिति वाला चेकपॉइंट इस्तेमाल किया गया। Crusoe ने मापा कि GPU स्थिति को स्थानीय NVMe से बहाल करने में 15.0 सेकंड लगे, जबकि NFS से इसमें 33.3 सेकंड लगे। NVMe पर आर्टिफैक्ट रखने पर पॉड बनाने से लेकर उसके तैयार होने तक 31 सेकंड लगे, जबकि कोल्ड स्टार्ट में लगभग आठ मिनट लगे। इससे पता चलता है कि बहाली के प्रदर्शन में स्टोरेज एक बड़ा कारक है। Crusoe ने प्रदर्शन और निदान से जुड़े बदलावों का योगदान मूल परियोजना में भी दिया है।

कुल मिलाकर, इन परियोजनाओं के ज़रिए AI फ़ैक्टरी के नियंत्रण स्तर और पुनर्प्राप्ति प्रक्रिया का बड़ा हिस्सा खुले रिपॉज़िटरी में आ रहा है, लेकिन ये परियोजनाएँ परिपक्वता के अलग-अलग चरणों में हैं: OpenShell में शासन-व्यवस्था का बदलाव अभी पूरा नहीं हुआ है, Agent Substrate विकसित हो रहा है, और NVKE तथा NVKR अभी पूर्वावलोकन चरण में हैं। Snapshot के बेंचमार्क परिचालन लाभ का सबसे स्पष्ट मापा हुआ प्रमाण देते हैं, जबकि इसकी अनुकूलता संबंधी ज़रूरतें और Crusoe के स्टोरेज के नतीजे दिखाते हैं कि तेज़ पुनर्प्राप्ति के लिए कार्यभार की पुनः इस्तेमाल की जा सकने वाली स्थिति और उसके आसपास का बुनियादी ढाँचा—दोनों ज़रूरी हैं।