एआई मॉडल और प्लेटफ़ॉर्म
Google Cloud ने बड़े पैमाने के TPU वर्कलोड के लिए Pathways Runtime को GA उपलब्ध कराया
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Google Cloud ने 9 नवंबर 2026 को घोषणा की कि Cloud Pathways अब Google Kubernetes Engine (GKE) पर आम तौर पर उपलब्ध है। इसके साथ ग्राहकों को बड़े पैमाने पर ट्रेनिंग और इन्फरेंस के लिए एकल-नियंत्रक रनटाइम मिला है। Google के अनुसार, पिछले 90 दिनों में उपयोगकर्ताओं ने GKE पर Pathways के साथ Cloud TPU के 130 मिलियन से अधिक चिप-घंटों का उपयोग किया।
Pathways on Cloud नाम से भी जाना जाने वाला यह रनटाइम, Google Cloud AI Hypercomputer का एक प्रमुख रनटाइम स्तंभ है। Google के अग्रणी मॉडलों—जिनमें Gemini भी शामिल है—की ट्रेनिंग और सेवा के लिए मूल रूप से Google DeepMind द्वारा विकसित यह रनटाइम, विशाल और विविध त्वरक बेड़ों के लिए बनाया गया है। इस रिलीज़ के साथ Google के सबसे बड़े AI वर्कलोड में इस्तेमाल होने वाली तकनीक Cloud ग्राहकों के लिए उपलब्ध हो गई है।
TPU स्लाइसों में एक नियंत्रक
यह सॉफ़्टवेयर, JAX के डिफ़ॉल्ट बहु-नियंत्रक सेटअप में समन्वय के काम को कम करने के लिए बनाया गया है। इस व्यवस्था में हर TPU होस्ट एक अलग Python इंटरप्रेटर चलाता है, जिसे उससे जुड़े उपकरणों का केवल स्थानीय दृश्य मिलता है; वहीं सभी होस्ट एक ही एकल-प्रोग्राम, बहु-डेटा प्रोग्राम को एक साथ चलाते हैं। Google के अनुसार, इससे विविध बहु-प्रोग्राम वर्कलोड और स्लाइसों में संसाधन प्रबंधन जटिल हो जाते हैं और जॉब का पैमाना बढ़ने के साथ व्यवस्था अस्थिर हो जाती है।
Cloud Pathways, ओपन-सोर्स Interim Framework Runtime पर बने एकीकृत नियंत्रक के साथ इस व्यवस्था की जगह लेता है। सेट करना JAX_PLATFORMS=proxy के साथ pathwaysutils एक JAX क्लाइंट को हज़ारों चिपों में फैले कई बड़े TPU स्लाइसों को देखने और नियंत्रित करने की सुविधा देता है, मानो उनके उपकरण स्थानीय रूप से जुड़े हों। यह नियंत्रक ग्राफ़ का मूल्यांकन, Cloud Storage में स्थायी संकलन कैशिंग और स्लाइसों में XLA कार्य का एसिंक्रोनस वितरण संभालता है।
साझा मेमोरी की सुविधा वाले, साथ स्थित Python साइडकार कंटेनर, वितरित डेटा लोडिंग और चेकपॉइंटिंग जैसे कंप्यूट-गहन कार्य सीधे TPU होस्ट पर चलाते हैं। इलास्टिक ट्रेनिंग में हार्डवेयर बाधित होने के बाद होस्ट-मेमोरी स्नैपशॉट का इस्तेमाल करके जॉब को एक कम स्लाइस पर फिर से शार्ड किया जाता है, और इस दौरान क्लाइंट क्रैश नहीं होता। इंटरैक्टिव मोड में नोटबुक और टर्मिनल इस्तेमाल किए जा सकते हैं, जबकि Shared Pathways Service कई उपयोगकर्ताओं और जॉब को लंबे समय तक चलने वाले TPU स्लाइसों के पूल का इस्तेमाल करने देती है।
उत्पादन में इस्तेमाल और इलास्टिक रिकवरी
Google Cloud के मुताबिक, एक बड़ी उपभोक्ता प्रौद्योगिकी कंपनी हज़ारों TPU v5p, Trillium v6e और Ironwood TPU7x चिपों पर उत्पादन-स्तर के बैच और रीइन्फ़ोर्समेंट-लर्निंग इन्फरेंस चला रही है। इस तैनाती में हर तिमाही 100 मिलियन से अधिक चिप-घंटों का उपयोग होता है। ग्राहक प्री-ट्रेनिंग की ओर विस्तार करते हुए, Google के साथ मिलकर इलास्टिसिटी प्रिमिटिव भी डिज़ाइन कर रहा है।
ZenteiQ इसी स्टैक का इस्तेमाल वैज्ञानिक फ़ाउंडेशन मॉडल के लिए कर रही है। वह GKE पर Cloud Pathways के साथ Cluster Toolkit, साथ स्थित साइडकार और होस्ट स्नैपशॉटिंग का उपयोग करके, कई स्लाइस वाले Trillium क्लस्टरों में MaxText के साथ इलास्टिक MaxText प्री-ट्रेनिंग और एकल-नियंत्रक रीइन्फ़ोर्समेंट लर्निंग चला रही है।
संस्थापक Sashikumaar Ganesan ने कहा कि नियंत्रक TPU टोपोलॉजी पर नज़र रखता है और कोई चिप या स्लाइस ऑफ़लाइन होने पर वर्कलोड को गतिशील रूप से फिर से व्यवस्थित और आकार में छोटा-बड़ा करता है। उन्होंने कहा, “उत्पादन में Pathways को होस्ट स्नैपशॉटिंग के साथ जोड़ने से व्यवधान आने पर रिकवरी का समय न्यूनतम हो जाता है। इससे उपलब्ध TPU क्षमता का पूरा उपयोग होता है और काम रुकने का समय बहुत कम रहता है।”
GKE पर उपलब्धता और Slurm का पूर्वावलोकन
Cloud Pathways, Google Cloud के उन सभी क्षेत्रों में GKE पर आम तौर पर उपलब्ध है जहाँ Cloud TPU v5e, TPU v5p, Trillium TPU v6e और Ironwood TPU 7x का समर्थन है। Google, JAX 0.10.1 और उसके बाद के संस्करणों का समर्थन करने वाली संस्करणबद्ध कंटेनर इमेज उपलब्ध कराता है।
Cluster Director के साथ एक अलग इंटीग्रेशन, Cloud Pathways को Slurm TPU क्लस्टरों तक विस्तारित करता है और एकीकृत मल्टी-स्लाइस JAX निष्पादन, इलास्टिक ट्रेनिंग तथा इंटरैक्टिव नोटबुक का समर्थन करता है। यह इंटीग्रेशन पूर्वावलोकन चरण में है—यह GKE रनटाइम की आम उपलब्धता से अलग स्थिति है।
महँगे त्वरकों पर कई दिनों तक चलने वाली जॉब के ऑपरेटरों के लिए, यह रिलीज़ ऑर्केस्ट्रेशन को सीधे उपयोग-दर से जोड़ती है: एक नियंत्रक TPU स्लाइसों का समन्वय करता है, जबकि स्नैपशॉट-आधारित रिकवरी को इस तरह डिज़ाइन किया गया है कि कोई एक स्लाइस विफल होने पर भी क्लाइंट जॉब चलती रहे।
