CoreWeave सैकड़ों Rubin GPU को एक मल्टी-रैक क्लस्टर में जोड़ता है

CoreWeave ने 16 सितंबर, 2026 को घोषणा की कि वह CoreWeave Cloud पर मल्टी-रैक NVIDIA Vera Rubin NVL72 को लाया है, जिससे सैकड़ों NVIDIA Rubin GPU एकल स्केल‑आउट क्लस्टर में एजेंटिक AI के लिए स्थापित किए गए। कंपनी ने CoreWeave AI Object Storage में दो नई क्षमताएँ भी पेश कीं: क्रॉस‑रीजन लिखने का त्वरण और एक नया आर्काइव टियर।

CoreWeave में उत्पाद और इंजीनियरिंग के कार्यकारी उपाध्यक्ष Chen Goldberg ने कहा कि CoreWeave पहला AI क्लाउड प्रदाता था जिसने Vera Rubin NVL72 को मान्य किया और लॉन्च किया, और यह प्रदर्शित किया कि रैक‑स्केल आर्किटेक्चर एक विश्वसनीय, उच्च‑प्रदर्शन क्लाउड सेवा के रूप में काम कर सकता है। “मल्टी‑रैक Vera Rubin के साथ, हम सैकड़ों Rubin GPU को एकल स्केल‑आउट क्लस्टर के रूप में जोड़ रहे हैं,” Goldberg ने कहा, यह जोड़ते हुए कि एजेंटिक AI बनाते ग्राहकों के लिए इसका अर्थ है बड़ा पैमाना, तेज़ पुनरावृत्ति, और अधिक उत्पादकता क्योंकि मॉडल और एजेंट लगातार सीखते और सुधारते रहते हैं।

मल्टी‑रैक आर्किटेक्चर और लॉन्च

एकल Vera Rubin NVL72 रैक में 72 Rubin GPU को 36 Vera CPU, NVIDIA NVLink 6, ConnectX-9 SuperNICs, और BlueField-4 DPU के साथ जोड़ा जाता है। मल्टी‑रैक Vera Rubin NVL72 के साथ, CoreWeave सैकड़ों एक्सेलेरेटर वाले रैकों को NVIDIA Spectrum‑X ईथरनेट नेटवर्किंग का उपयोग करके एकल स्केल‑आउट क्लस्टर में एकीकृत करता है। CoreWeave ने कहा कि यह प्रणाली बड़े मॉडल को प्रशिक्षित करने, अधिक मांग वाले इन्फ़रेंस वर्कलोड को सर्व करने, और स्केल पर रिइन्फोर्समेंट लर्निंग चलाने की क्षमता प्रदान करती है।

कंपनी के अनुसार, सैकड़ों Rubin GPU पर प्रशिक्षण और इन्फ़रेंस कार्य चलाना मल्टी‑स्टेप एजेंटिक वर्कलोड के लिए महत्वपूर्ण है, जो डेटा‑एक्सेस लेटेंसी के प्रति संवेदनशील होते हैं क्योंकि विलंबता दोहराए गए मॉडल कॉल और टूल उपयोग में जुड़कर बढ़ सकती है।

CoreWeave ने कहा कि वह कई रैकों को स्वचालित रैक लाइफ़साइकल नियंत्रण, सिस्टम‑स्तर वैलिडेशन, और नेटवर्क स्केलिंग के माध्यम से एकल प्रणाली के रूप में लाता है। CoreWeave मिशन कंट्रोल Rack LifeCycle Controller के माध्यम से रैक सेटअप को स्वचालित करता है, जिसमें हार्डवेयर डिटेक्शन, फर्मवेयर अपडेट, वैलिडेशन, पावर, और कूलिंग जैसे कार्य शामिल होते हैं; Racky रैक‑स्तर नियंत्रण संभालता है जबकि Valvey कूलिंग कार्य करता है। उत्पादन में प्रवेश करने से पहले, CoreWeave NVIDIA फील्ड डायग्नोस्टिक्स को पूर्ण‑रैक वर्कलोड परीक्षण के साथ मिलाता है और हर परिणाम की तुलना करता है, और केवल वे रैक्स जो प्रणाली के रूप में इस मानक को पार करते हैं, उत्पादन में जाते हैं।

नेटवर्क पक्ष में, प्रत्येक Rubin GPU दो ConnectX-9 SuperNICs ले जाता है, जो प्रत्येक GPU के लिए मल्टी‑प्लेन, मल्टी‑रेल पाथ्स के माध्यम से 1.6 Tb/s स्केल‑आउट कनेक्टिविटी प्रदान करता है। CoreWeave ने कहा कि यह डिज़ाइन लगभग 128,000 GPU प्रति रेल को एक नॉन‑ब्लॉकिंग फैब्रिक में समर्थन देता है, और मॉड्यूलर टोपोलॉजी रैकों को प्रत्येक विस्तार पर फैब्रिक को पुनः डिज़ाइन किए बिना जोड़ने की अनुमति देती है।

क्षेत्रों में AI ऑब्जेक्ट स्टोरेज

CoreWeave AI ऑब्जेक्ट स्टोरेज LOTA (लोकल ऑब्जेक्ट ट्रांसपोर्ट एक्सेलेरेटर) के माध्यम से डेटा को वर्कलोड के करीब लाता है, जो प्रत्येक CoreWeave Kubernetes सर्विस नोड पर प्रबंधित कैशिंग लागू करता है। CoreWeave ने कहा कि LOTA स्थानीय NVMe गति पर रीड्स प्रदान करता है, पारंपरिक स्टोरेज क्लस्टर से पढ़ने की तुलना में लेटेंसी को 8 गुना कम करता है, और क्लस्टर के बढ़ने पर रैखिक रूप से स्केल होते हुए प्रत्येक GPU के लिए 7 GB/s तक थ्रूपुट प्रदान करता है।

नई क्रॉस‑रीजन लिखने की एक्सेलेरेशन चेकपॉइंट को एक क्षेत्र के भीतर स्थानीय रूप से, स्थानीय लेटेंसी पर लिखने देती है, जबकि डेटा पृष्ठभूमि में दूसरे दूरस्थ क्षेत्र में स्थानांतरित होता रहता है। क्योंकि एप्लिकेशन एक ही बकेट देखता है, कोड में कोई परिवर्तन नहीं होता, और अनुमतियाँ तथा रिटेंशन नियम उसी तरह काम करते हैं चाहे लिखना किसी भी क्षेत्र से आया हो। CoreWeave ने कहा कि यह सुविधा प्रशिक्षण के विराम को न्यूनतम करती है और क्षेत्रों के बीच डेटा को मैन्युअल रूप से कॉपी या स्थानांतरित करने की आवश्यकता को समाप्त करती है।

दूसरी जोड़, आर्काइव, एक कम‑लागत वाला स्टोरेज टियर है जिसमें डेटा पुनः प्राप्त करने पर कोई शुल्क नहीं, इसे जल्दी हटाने पर कोई शुल्क नहीं, और टियर से पढ़ने पर भी कोई शुल्क नहीं है। CoreWeave ने इसे उन डेटा के लिए बनाया बताया जो टीमें अन्यथा हटातीं, जैसे कि लगभग सफल रन का चेकपॉइंट, वह डेटा सेट जो परिणाम को पुनः उत्पन्न करने के लिए आवश्यक है, या वह मॉडल संस्करण जिसके बारे में कोई छह महीने बाद पूछ सकता है।

“हमारे डेटा सेट कई क्षेत्रों में फैले हुए हैं, और हम प्रशिक्षण शेड्यूल को क्रॉस‑रीजन पुनः प्राप्ति देरी द्वारा निर्धारित नहीं कर सकते,” कहा Cécile Robert-Michon, कोहियर में आंतरिक इन्फ्रास्ट्रक्चर की निदेशक। “CoreWeave AI ऑब्जेक्ट स्टोरेज हमें क्षेत्रों में एकीकृत डेटा सेट फुटप्रिंट देता है, जहाँ रीड्स स्थानीय रूप से कैश होते हैं, इसलिए नेटवर्क पर कुछ भी इंतज़ार नहीं करता।”

NVIDIA Vera Rubin NVL72 विनिर्देश

NVIDIA के Vera Rubin NVL72 उत्पाद पृष्ठ में सिस्टम को एक रैक‑स्केल एजेंटिक AI सुपरकंप्यूटर के रूप में वर्णित किया गया है, जो तीसरी पीढ़ी के MGX NVL72 रैक डिज़ाइन पर निर्मित है और अब पूर्ण उत्पादन में है। NVIDIA द्वारा प्रकाशित विनिर्देशों में 20.7 TB HBM4 GPU मेमोरी, 1,400 TB/s बैंडविड्थ, छठी पीढ़ी के NVLink पर 216 TB/s NVLink बैंडविड्थ, और प्रति रैक 3,600 PFLOPS स्पार्स NVFP4 इन्फ़रेंस कंप्यूट शामिल हैं। रैक के 36 Vera CPU कुल 3,168 कस्टम Olympus कोर और अधिकतम 54 TB LPDDR5X मेमोरी प्रदान करते हैं।

NVIDIA बताता है कि Vera Rubin NVL72 मिश्रित‑विशेषज्ञ मॉडल को उसके GB200 NVL72 की तुलना में चार‑गुना कम GPU संख्या के साथ प्रशिक्षित करता है, और अत्यधिक इंटरैक्टिव, गहरी तर्कशील एजेंटिक AI के लिए प्रति मिलियन टोकन एक‑दशमांश लागत पर इन्फ़रेंस प्रदान करता है, साथ ही प्रति मेगावॉट में 10 गुना अधिक टोकन देता है। पृष्ठ पर फुटनोट्स दर्शाते हैं कि इन्फ़रेंस आंकड़े परिवर्तन के अधीन हैं और प्रशिक्षण तुलना अनुमानित प्रदर्शन है।

घोषणा में, CoreWeave ने अपने प्रदर्शन रिकॉर्ड की ओर भी इशारा किया, जिसमें इनफ़रेंस और प्रशिक्षण में रिकॉर्ड MLPerf बेंचमार्क परिणामों का उल्लेख किया गया और यह बताया गया कि यह केवल AI क्लाउड है जिसने SemiAnalysis ClusterMAX 1.0 और 2.0 दोनों में शीर्ष प्लेटिनम रैंकिंग हासिल की है। कंपनी ने Artificial Analysis द्वारा किए गए स्वतंत्र इनफ़रेंस बेंचमार्किंग में Moonshot AI के Kimi K2.6 और Kimi K2.7 Code मॉडल्स के लिए इनफ़रेंस गति और मूल्य‑प्रदर्शन में #1 रैंकिंग का भी उल्लेख किया।