एआई को तेज़ बनाने का राज़ जीपीयू को बढ़ाने में नहीं है, बल्कि स्मार्ट नेटवर्किंग में है

एआई विभिन्न उद्योगों में संभावनाओं को पुनः परिभाषित कर रहा है, जिनमें स्वास्थ्य सेवा, वित्त, विनिर्माण और खुदरा शामिल हैं। लेकिन इसकी आशाजनक संभावना के साथ, यह विशाल बुनियादी ढांचे की मांग भी लाता है।

विश्वभर के संगठन जीपीयू में अभूतपूर्व पैमाने पर निवेश कर रहे हैं ताकि एआई प्रशिक्षण और अनुमान को तेज़ किया जा सके। 2028 तक, गार्टनर अनुमान लगाता है कि जनरेटिव एआई आईटी खर्च 1 ट्रिलियन डॉलर से अधिक हो जाएगा। हाइपरियन रिसर्च 预測 करता है कि समग्र एचपीसी बाजार खर्च उसी समय में 100 अरब डॉलर से अधिक हो जाएगा। फिर भी, जीपीयू में निवेश करने के बावजूद, कई सीआईओ अभी भी जीपीयू को खाली देखते हैं, जिनका उपयोग 35% या उससे कम है। यह न केवल कम प्रदर्शन का कारण बनता है, बल्कि ऊर्जा की बर्बादी और बढ़े हुए खर्चों का भी कारण बनता है।

जबकि कई एआई परियोजनाएं ठप हो जाती हैं, तो यह इसलिए नहीं है कि उन्हें जीपीयू या कम्प्यूटिंग शक्ति की कमी है, बल्कि इसलिए कि नेटवर्क तेजी से नहीं रख सकता, जिससे बड़े पैमाने पर एआई के लिए एक नए दृष्टिकोण की आवश्यकता होती है।

नेटवर्क बोतलनेक की छिपी हुई लागत

जब नेटवर्क जीपीयू को लगातार व्यस्त रखने के लिए पर्याप्त तेजी से डेटा प्रदान नहीं कर सकता है, तो संगठन कई महत्वपूर्ण प्रभावों का अनुभव करते हैं:

• नेटवर्क बोतलनेक के कारण जीपीयू और सीपीयू का कम उपयोग: जीपीयू बड़े पैमाने पर समानांतर गणना के लिए डिज़ाइन किए गए हैं, लेकिन वे केवल तभी डेटा प्रोसेस कर सकते हैं जब यह उन्हें मिलता है। यदि नेटवर्क फैब्रिक तेजी से नहीं रख सकता, तो जीपीयू डेटा की प्रतीक्षा में खाली रहते हैं और गणना नहीं करते हैं। सीपीयू भी रुक सकते हैं क्योंकि वे कार्यों को समन्वयित करते हैं और पाइपलाइन में डेटा ले जाते हैं, जिससे महंगे हार्डवेयर के बावजूद कम उपयोग होता है।
• असमान अनुमान प्रदर्शन एक अक्षम नेटवर्क के कारण: नेटवर्क अक्षमता असमान डेटा प्रवाह पैदा करती है, जिससे जीपीयू पूरी गति और खाली रहने के बीच उतार-चढ़ाव करते हैं। यह अनुमान प्रदर्शन को अनुमानित बनाता है जो उत्पादन में एआई अनुप्रयोगों को अक्षम कर सकता है।
• लंबे प्रशिक्षण चक्र, जो समय-सीमा को धीमा करते हैं: एआई मॉडल को प्रशिक्षित करने के लिए बड़े डेटासेट को सर्वर, जीपीयू और स्टोरेज में स्थानांतरित करना आवश्यक है। नेटवर्क बोतलनेक इस प्रक्रिया को धीमा करता है, इसलिए जीपीयू कम समय प्रशिक्षण में बिताते हैं और अधिक समय प्रतीक्षा में बिताते हैं। यह सीधे उत्पाद विकास और तैनाती की समय सीमा को धीमा करता है।
• बढ़ती शक्ति और परिचालन लागत: भले ही जीपीयू खाली हों, उन्हें और周围 के बुनियादी ढांचे को अभी भी महत्वपूर्ण शक्ति की आवश्यकता होती है। यदि नेटवर्क अक्षमताओं के कारण जीपीयू का उपयोग कम है, तो संगठन उच्च शक्ति के लिए भुगतान करते हैं लेकिन आनुपातिक प्रदर्शन प्राप्त नहीं करते हैं। परिचालन लागत बढ़ जाती है क्योंकि सुविधाओं को चोटी शक्ति और शीतलन भार का समर्थन करने की आवश्यकता होती है, भले ही कम्प्यूटिंग थ्रूपुट को कünstlich प्रतिबंधित किया जाता है।

उद्यम जीपीयू में और पैसा डाल सकते हैं, लेकिन सही नेटवर्क उन्नयन के बिना, वे केवल इन बोतलनेक और अक्षमताओं को बढ़ाएंगे।

नेटवर्क को त्वरणक: एक दृष्टिकोण परिवर्तन

समाधान के लिए नेटवर्क वास्तुकला को पूरी तरह से पुनः सोचने की आवश्यकता है। एक मॉडल पेश करना जो नेटवर्क को त्वरणक के रूप में उपयोग करता है, यह पारंपरिक सोच को बदल देता है कि एचपीसी और एआई प्रदर्शन कैसे काम करता है।

‘नेटवर्क को त्वरणक’ मॉडल कैसे काम करता है

तो, यह मॉडल कैसे काम करता है ताकि संगठन अपने नेटवर्क को एक निष्क्रिय डेटा मूवर से एक सक्रिय कम्प्यूट त्वरणक में बदल सकें और लाभ प्राप्त कर सकें? यह चार मुख्य क्षमताएं प्रदान करता है जो पारंपरिक नेटवर्क में नहीं हैं:

• हार्डवेयर स्तर पर गारंटीकृत डिलीवरी: पारंपरिक नेटवर्क सीपीयू और जीपीयू पर पैकेट ट्रैकिंग, पुनः प्रसारण और पुनः क्रम के ओवरहेड को लादते हैं। यह कम्प्यूट चक्रों को खपत करता है जो प्रशिक्षण या अनुमान के लिए समर्पित हो सकते हैं। एक नेटवर्क फैब्रिक जो हार्डवेयर स्तर पर डिलीवरी की गारंटी देता है, इन कार्यों को कम्प्यूट नोड्स से दूर ले जाता है, जिससे सीपीयू और जीपीयू ओवरहेड कम हो जाता है, प्रदर्शन की भविष्यवाणी और स्थिरता बढ़ जाती है, और स्केलेबिलिटी सरल हो जाती है जो प्रोग्रामिंग और क्लस्टर ऑर्केस्ट्रेशन को आसान बनाती है।
• बुद्धिमान गतिशील मार्ग: पारंपरिक मार्ग निर्धारण निश्चित या उप-आप्टिमल मार्गों पर निर्भर करता है, जो नेटवर्क के कुछ हिस्सों को कम उपयोग में ला सकता है या जहां बड़े डेटा वॉल्यूम एक ही समय में प्रवाहित होते हैं, वहां बोतलनेक पैदा कर सकता है। बुद्धिमान मार्ग सभी उपलब्ध मार्गों का उपयोग करके यातायात प्रवाह को अनुकूलित करता है। यह उच्च थ्रूपुट की अनुमति देता है क्योंकि कई सक्रिय मार्ग यातायात को संतुलित करते हैं, कम विलंबता क्योंकि ऑप्टिमल पथ चयन की अनुमति मिलती है, और सुधारित लचीलापन क्योंकि नेटवर्क यातायात स्वचालित रूप से लिंक या नोड विफलताओं के चारों ओर पुनः मार्गित हो जाता है। यह खाली समय को कम करता है और जीपीयू को डेटा से भर देता है।
• लिंक-स्तर ऑटो-रिट्राई: जब पैकेट खो जाते हैं या भ्रष्ट हो जाते हैं, तो मानक नेटवर्क कम्प्यूट लेयर पर निर्भर करते हैं ताकि वे उनका पता लगा सकें और पुनः प्रसारित कर सकें, जो महत्वपूर्ण विलंबता का परिचय देता है और कम्प्यूट प्रवाह को बाधित करता है। एक फैब्रिक जिसमें निर्मित लिंक-स्तर ऑटो-रिट्राई क्षमताएं हैं, नेटवर्क स्वयं पुनः प्रसारण संभालता है। यह लगभग पारदर्शी विश्वसनीयता की अनुमति देता है क्योंकि पैकेट हानि कम्प्यूट नोड्स के लिए अदृश्य हो जाती है, जबकि विलंबता प्रभाव को कम करती है क्योंकि पुनः प्रसारण स्थानीय रूप से लिंक पर होता है, न कि पूरे नेटवर्क स्टैक में। यह जटिल अनुप्रयोग-स्तरीय त्रुटि हैंडलिंग की आवश्यकता को भी समाप्त करता है। ऑटो-रिट्राई क्षमताएं बिना बाधा के कुशल वितरित गणना सुनिश्चित करती हैं, जो तब महत्वपूर्ण होती हैं जब हजारों जीपीयू पर मापने की बात आती है।
• नेटवर्क में कम्प्यूटिंग: जबकि पारंपरिक नेटवर्किंग फैब्रिक मुख्य रूप से डेटा ले जाने के लिए है, नेटवर्क में कम्प्यूटिंग नेटवर्क को एक सह-प्रोसेसर बनाने की अनुमति देती है जो नेटवर्क फैब्रिक के भीतर ही कertain कार्यों को करता है। एनवीडिया शार्प एक प्रमुख उदाहरण है – यह नेटवर्क स्विचों पर स्वयं कमी की अनुमति देता है। यह वितरित ऑपरेशन को तेज़ करता है क्योंकि डेटा नेटवर्क के माध्यम से प्रवाहित होते समय एकत्र किया जाता है, और दक्षता बढ़ाता है क्योंकि कम्प्यूट नोड्स एकत्रीकरण कार्यों को करने से मुक्त हो जाते हैं, जिससे प्रशिक्षण और सिमुलेशन के लिए अधिक चक्र बचते हैं।

इन क्षमताओं के संयोजन से ही “नेटवर्क-नेतृत्व वाली कम्प्यूटिंग” अगली पीढ़ी के एआई और एचपीसी वातावरण के लिए आधारशिला बनती है। एक नेटवर्क-केंद्रित दृष्टिकोण व्यावहारिक रिटर्न प्रदान करता है जिसमें डेटा की भूख को समाप्त करने वाला जीपीयू उपयोग शामिल है, जो प्रशिक्षण चक्र और अनुमान प्रदर्शन को स्थिर करता है, संसाधन दक्षता में सुधार करता है, और कुल स्वामित्व लागत को कम करता है।

वास्तविक नेटवर्क शक्ति की खोज

बड़े पैमाने पर एआई केवल एक कम्प्यूट समस्या नहीं है – यह एक प्रणाली स्तर की इंजीनियरिंग चुनौती है, जिसमें नेटवर्क इसके केंद्र में है। नेटवर्क को त्वरणक के रूप में मानने से यह कम्प्यूट के लिए एक बल गुणक बन जाता है, जिससे एचपीसी और एआई डेटा सेंटर घनत्व में बढ़ सकते हैं बिना प्रदर्शन को त्यागे। यह मौजूदा बुनियादी ढांचे से अधिकतम मूल्य निकालने से पहले तेजी से आरओआई प्रदान करता है और अतिरिक्त हार्डवेयर में निवेश करने से पहले कम्प्यूट को बढ़ाता है।

बोतलनेक को समाप्त करके, उपयोग को बढ़ावा देकर, और पूर्वानुमानित प्रदर्शन प्रदान करके, स्मार्ट नेटवर्किंग एआई टीमों को अधिक उत्पादक बनाती है, जीपीयू बुनियादी ढांचे पर बेहतर आरओआई प्रदान करती है, और अंतर्दृष्टि, नवाचार और बाजार नेतृत्व में तेजी लाती है। यह संगठनों को यह खोज करने की अनुमति देता है कि उनका नेटवर्क वास्तव में क्या हो सकता है और एआई की शक्ति का लाभ नए तरीकों से उठा सकता है।