Meridian Cloud ने इन्फरेंस के लिए तैयार एआई क्लस्टर डिज़ाइन हेतु Aria Networks को चुना

Meridian Cloud ने अपने समर्पित एआई इन्फरेंस क्लाउड के लिए नेटवर्किंग साझेदार के रूप में Aria Networks को चुना है। यह क्लाउड 2027 की दूसरी तिमाही में शुरू होने वाला है। दोनों कंपनियों की योजना ऐसे मानकीकृत और सत्यापित नेटवर्क डिज़ाइन विकसित करने की है, जिनसे क्लस्टर की तैनाती अधिक दोहराने योग्य हो और इंजीनियरिंग विनिर्देशों, लागत अनुमानों तथा उत्पादन समय-सीमाओं के बारे में अधिक स्पष्टता मिले।

5 नवंबर को घोषित इस साझेदारी के तहत, उपकरण लगाने से पहले ही Aria को योजना-निर्माण की प्रक्रिया में शामिल किया गया है। इसके दायरे में बैक-एंड जीपीयू फ़ैब्रिक, फ़्रंट-एंड और स्टोरेज नेटवर्क की क्षमता तय करना, टोपोलॉजी और केबलिंग का मानचित्रण करना तथा Meridian की तैनाती समय-सारणी के साथ आपूर्ति और डिलीवरी का समन्वय करना शामिल है।

पहले संयुक्त संदर्भ डिज़ाइन 2027 की दूसरी तिमाही में Meridian के ग्राहकों और सुविधा-संचालक साझेदारों के लिए उपलब्ध होने की उम्मीद है। घोषणा में विकास और तैनाती कार्यक्रम का वर्णन है, न कि Meridian के नए इन्फरेंस क्लाउड की तैनाती पूरी हो जाने का।

हर नए क्लस्टर को इंजीनियरिंग की नई परियोजना बनाने की ज़रूरत कम करना

Meridian की योजना इंजीनियरिंग, कंप्यूट, तैनाती और नेटवर्किंग के विशेषज्ञ साझेदारों के सहयोग से एक छोटी केंद्रीय टीम चलाने की है। Aria इस काम को संदर्भ डिज़ाइनों की एक लाइब्रेरी में ढालने में मदद करेगा, जिसमें हर डिज़ाइन किसी खास प्रकार की सुविधा के अनुरूप होगा।

इसका विचार यह है कि किसी साइट पर उपलब्ध बिजली से शुरुआत की जाए और उसे ऐसे विन्यास के अनुरूप बनाया जाए, जिसकी नेटवर्किंग संबंधी ज़रूरतें पहले ही सत्यापित की जा चुकी हों। इससे Meridian निर्माण शुरू होने से पहले ही विनिर्देश और लागत तय कर सकेगा, बजाय इसके कि हर स्थान पर फ़ैब्रिक को अलग इंजीनियरिंग परियोजना की तरह दोबारा तैयार करना पड़े।

समर्पित क्लाउड के ग्राहक के लिए इस मानकीकरण का लाभ पूर्वानुमेयता है। क्लस्टर का मतलब केवल ऑर्डर किए गए एक्सेलरेटरों की संख्या नहीं होता: केबल के रास्ते, स्विच की क्षमता, होस्ट कनेक्शन, स्टोरेज ट्रैफ़िक और उपकरणों की डिलीवरी का समय—ये सभी तय करते हैं कि सिस्टम कब उपयोगी काम शुरू कर सकता है।

“Aria के फ़ॉरवर्ड-डिप्लॉय्ड इंजीनियर पहले ही दिन से हमारी टीम के साथ जुड़े रहे हैं। वे नेटवर्क डिज़ाइन, आपूर्ति और तैनाती की योजना बनाने में हमारे साथ काम कर रहे हैं और ग्राहक का कोई काम शुरू होने से पहले हर केबल, लिंक और विन्यास का सत्यापन कर रहे हैं,” Meridian Cloud के सीईओ Vic Rose ने कहा।

इन्फरेंस में नेटवर्क निर्णायक क्यों हो जाता है

इन्फरेंस वह प्रक्रिया है जिसमें प्रशिक्षित मॉडल से उत्तर तैयार कराया जाता है। वितरित तैनाती में इस प्रक्रिया के कुछ हिस्से और उनसे जुड़ा डेटा अलग-अलग मशीनों के बीच आ-जा सकते हैं; ऐसे में संचार में लगने वाला समय भी उपयोगकर्ता को मिलने वाले जवाब का हिस्सा बन जाता है।

इसका एक उदाहरण विघटित इन्फरेंस है, जिसमें प्रॉम्प्ट का प्रसंस्करण और टोकन का निर्माण अलग-अलग संसाधनों पर होता है। सिस्टम को मॉडल का की-वैल्यू कैश—यानी अनुरोध से जुड़ा मध्यवर्ती अटेंशन डेटा—इन संसाधनों के बीच भेजना पड़ सकता है। इस मार्ग पर भीड़ होने से काम अटक सकता है, भले ही जीपीयू स्वयं उपलब्ध हों।

Aria की इन्फरेंस नेटवर्किंग पर तकनीकी चर्चा में होस्ट की गतिविधि को नेटवर्क टेलीमेट्री के साथ जोड़कर देखने पर ज़ोर दिया गया है। समय-समय पर ताज़ा होने वाले डैशबोर्ड में कोई पोर्ट ठीक दिख सकता है, फिर भी उसमें थोड़े समय के व्यवधान आ सकते हैं, जो एप्लिकेशन के प्रदर्शन को प्रभावित करते हैं।

साझेदारी की घोषणा में भीड़ की घटनाओं, प्रदर्शन घटाने वाले ऑप्टिकल घटकों और होस्ट-साइड की उन समस्याओं का ज़िक्र है, जिन्हें हर कुछ सेकंड में डेटा जाँचने वाले टूल पकड़ नहीं पाते। इन घटनाओं का पता लगाने के लिए केवल यह जानने से कहीं अधिक व्यापक निगरानी चाहिए कि लिंक चालू है या नहीं।

इन्फरेंस कारोबार के लिए इसके परिणाम तकनीकी होने के साथ-साथ व्यावसायिक भी हैं। डेटा की प्रतीक्षा में बिताया गया समय ऐसे हार्डवेयर के उपयोगी उत्पादन को घटाता है, जो बिजली की खपत और स्वामित्व की लागत बढ़ाता रहता है। संचालन के लिए प्रासंगिक मापों में प्रतिक्रिया-विलंब, उपयोगी थ्रूपुट और प्रति मिलियन टोकन लागत शामिल हैं—केवल लिंक की गति नहीं।

Aria की डीप नेटवर्किंग से क्या अतिरिक्त मिलता है

Aria डीप नेटवर्किंग को सह-डिज़ाइन की गई ऐसी प्रणाली बताता है, जिसमें स्विचिंग हार्डवेयर, Aria Operating System, बारीक स्तर की टेलीमेट्री और विशेष एजेंट शामिल हैं। Meridian की घोषणा में 800G Aria Switch प्लेटफ़ॉर्म और मानकों पर आधारित ईथरनेट फ़ैब्रिक का उल्लेख है, जिसे अलग-अलग एक्सेलरेटर विक्रेताओं के लिए खुला रखने का उद्देश्य है।

कंपनी का दावा है कि स्विच, ऑप्टिकल घटकों और होस्ट पर उसकी टेलीमेट्री का रिज़ॉल्यूशन पारंपरिक टूल की तुलना में 100 से 10,000 गुना तक अधिक है। यह मापन के रिज़ॉल्यूशन का दावा है, न कि यह दावा कि Meridian के एप्लिकेशन 100 से 10,000 गुना तेज़ चलेंगे।

Aria का उत्पाद अवलोकन हार्डवेयर के बारे में अतिरिक्त जानकारी देता है: उसके 800G स्विच में दो रैक-यूनिट वाले चेसिस में 64 800GbE पोर्ट हैं, यह RoCEv2 और लेयर 2/लेयर 3 नेटवर्किंग को सपोर्ट करता है और इसमें टेलीमेट्री के लिए एक समर्पित प्रोसेसर शामिल है। RoCEv2 ईथरनेट पर रिमोट डायरेक्ट मेमोरी एक्सेस सक्षम करता है—यह ऐसी क्षमता है जिसका उपयोग उच्च-प्रदर्शन क्लस्टरों में मशीनों के बीच डेटा को कुशलता से भेजने के लिए किया जाता है।

उसी उत्पाद पृष्ठ में जीपीयू-होस्ट और स्विच के डेटा को आपस में जोड़कर देखने, विशेष एजेंटों के ज़रिए निदान के टूल चुनने और निर्देशित समाधान प्रक्रियाएँ चलाने का भी वर्णन है। इससे हार्डवेयर डिज़ाइन के साथ संचालन की निगरानी भी जुड़ जाती है: नेटवर्क को चालू किए जाने के बाद भी उसकी स्थिति देख पाना और उसका रखरखाव कर पाना ज़रूरी है।

कंपनियों ने इस साझेदारी के लिए Meridian की तैनाती के संयुक्त मानदंड या प्रति टोकन लागत में मापी गई कमी प्रकाशित नहीं की है। ये नतीजे तैनात किए गए वर्कलोड और कॉन्फ़िगरेशन पर, साथ ही उत्पादन ट्रैफ़िक के दौरान नेटवर्क के व्यवहार पर निर्भर करेंगे।

Meridian का समर्पित इन्फ़रेंस मॉडल

अपनी वेबसाइट पर Meridian अपनी पेशकश को ग्राहक के वर्कलोड के अनुरूप आरक्षित क्षमता के रूप में प्रस्तुत करता है। इसमें NVIDIA और AMD हार्डवेयर के साथ-साथ विशेष इन्फ़रेंस एक्सेलरेटर के विकल्प भी शामिल हैं। कंपनी प्रबंधित ऑर्केस्ट्रेशन और बेयर-मेटल संचालन मॉडल का भी वर्णन करती है।

ये व्यापक सेवा-प्रस्ताव के विवरण हैं, इस बात की पुष्टि नहीं कि विज्ञापित हर कॉन्फ़िगरेशन Aria की शुरुआती संदर्भ-डिज़ाइन लाइब्रेरी का हिस्सा है। साझेदारी की घोषणा में शुरुआती सुविधाओं के स्थान, क्लस्टर के तय आकार या ग्राहक मूल्य का उल्लेख नहीं है।

समर्पित क्षमता पर Meridian का ज़ोर योजना बनाने की चुनौती को भी बदल देता है। केवल साझा उपलब्धता पर निर्भर रहने के बजाय, ग्राहक को अपने अनुमानित ट्रैफ़िक, मॉडल की विशेषताओं और सेवा संबंधी ज़रूरतों के अनुरूप डिज़ाइन की गई प्रणाली चाहिए। दोहराए जा सकने वाले नेटवर्क डिज़ाइन इस योजना को आसान बना सकते हैं और साथ ही वर्कलोड के अनुसार विकल्प चुनने की गुंजाइश भी बनाए रख सकते हैं।

दोहराने योग्य कार्यान्वयन पर केंद्रित साझेदारी

Aria की भूमिका डिज़ाइन से लेकर प्रत्यक्ष तैनाती तक फैली हुई है। अलग-अलग साइटों से मिले सबक का उपयोग बाद की स्थापनाओं और सॉफ़्टवेयर सुधारों में किया जाना है। इसका उद्देश्य नेटवर्क इंजीनियरिंग को Meridian के विस्तार का बार-बार सामने आने वाले अनिश्चितता के स्रोत के बजाय एक पुनः उपयोग योग्य हिस्सा बनाना है।

निकट भविष्य का पड़ाव स्पष्ट है: संयुक्त संदर्भ-डिज़ाइन और Q2 2027 में नियोजित क्लाउड लॉन्च। इसके बाद साझेदारी की कसौटी यह होगी कि क्या सत्यापित डिज़ाइन और संचालन की अधिक सूक्ष्म दृश्यता ऐसे क्लस्टरों में बदल पाती है जो तय समय पर उपलब्ध हों और ग्राहक के वर्कलोड चलने शुरू होने पर लगातार एकसमान इन्फ़रेंस प्रदर्शन दें।