एआई इंफ्रास्ट्रक्चर का अगला चरण हाइपरस्केल डेटासेंटर से अधिक की मांग करेगा

आर्टिफिशियल इंटेलिजेंस एक ऐसे चरण में प्रवेश कर रहा है जहां इंफ्रास्ट्रक्चर रणनीति मॉडल क्षमता से अलग नहीं है। वर्षों से, हाइपरस्केल डेटासेंटर ने बड़े पैमाने पर प्रशिक्षण को संचालित किया है, जिससे फ्रंटियर मॉडल मिलियन से अरबों पैरामीटर तक बढ़ सकते हैं। लेकिन जब एआई अपनाना उद्यमों, उद्योगों और रियल-टाइम सिस्टम में तेजी से बढ़ रहा है, अनुमान प्रशिक्षण को बदलने वाला प्रमुख कार्यभार बन रहा है, और अनुमान में मूल रूप से अलग आवश्यकताएं हैं।

एआई का अगला युग केवल हाइपरस्केल सुविधाओं द्वारा समर्थित नहीं हो सकता है। इसके बजाय, एक हाइब्रिड मॉडल उभर रहा है जहां केंद्रीकृत परिसर प्रशिक्षण के लिए वितरित, शक्ति संरेखित, व्यावसायिक पैमाने पर डेटासेंटर अनुमान के लिए पूरक हैं। यह परिवर्तन विलंबता प्रतिबंधों, डेटा संप्रभुता की आवश्यकताओं, ऊर्जा वास्तविकताओं और हाइपरस्केल विस्तार की शारीरिक सीमाओं द्वारा संचालित किया जा रहा है।

प्रशिक्षण और अनुमान का विचलन

प्रशिक्षण अभी भी एक केंद्रीकृत गतिविधि है। यह बड़े समूहों, उच्च गति वाली डेटा पाइपलाइनों और लंबी अवधि की नौकरियों की मांग करता है जो पैमाने की अर्थव्यवस्था से लाभान्वित होती हैं। हाइपरस्केल परिसर इसके लिए अनुकूलित हैं जिसमें घने कंप्यूट, विशेषज्ञ नेटवर्क फैब्रिक और वैश्विक उपलब्धता शामिल है। लेकिन अनुमान अलग व्यवहार करता है। यह अल्पकालिक, उच्च मात्रा, विलंबता संवेदनशील है और अक्सर भौगोलिक या उद्यम सीमाओं से जुड़ा होता है। अकामाई के हाल के काम में एजेंटिक सिस्टम के विश्लेषण से पता चलता है कि अधिकांश संगठन अब महत्वपूर्ण एआई उपयोग के मामलों के लिए 500 मिलीसेकंड से कम अंत-से-अंत विलंबता का लक्ष्य रखते हैं, और बहु-एजेंट कार्य प्रवाह अक्सर नेटवर्क ट्रांजिट और सीपीयू साइड निष्पादन के कारण सीमा से अधिक होते हैं।

विलंबता एक अमूर्त मीट्रिक नहीं है। रोबोटिक्स और स्वायत्त प्रणालियों में, नियंत्रण लूप अक्सर 100 से 1,000 हर्ट्ज प्रति 1 से 10 मिलीसेकंड पर चलते हैं। कोई भी ऑफ-बोर्ड बुद्धिमत्ता को उन समय सीमाओं का सम्मान करना चाहिए। एक दूरस्थ डेटासेंटर में 50 मिलीसेकंड का राउंड ट्रिप पूरी तरह से नियंत्रण शासन को तोड़ देता है। वित्तीय व्यापार और धोखाधड़ी का पता लगाने में, मिलीसेकंड आर्थिक परिणामों का निर्धारण करते हैं। औद्योगिक स्वचालन में, विलंबित अनुमान प्रक्रियाओं को अस्थिर कर सकता है या सुरक्षा को खतरे में डाल सकता है। और इंटरैक्टिव अनुभवों जैसे गेमिंग, एआर/वीआर और रियल-टाइम कोपायलट में, प्रतिक्रिया 100 से 150 मिलीसेकंड से ऊपर तेजी से बिगड़ जाती है।

आधुनिक एआई सिस्टम बढ़ती संख्या में बहु-एजेंट कार्य प्रवाह पर निर्भर करते हैं जो अनुक्रमिक कॉल की श्रृंखला होते हैं। अकामाई के विश्लेषण से पता चलता है कि सीपीयू साइड निष्पादन कुल विलंबता का अधिकांश हिस्सा हो सकता है, और प्रत्येक नेटवर्क राउंड ट्रिप अतिरिक्त विलंब जोड़ती है। एक कार्य प्रवाह जिसमें 50 अनुक्रमिक कॉल होते हैं, यदि दूरस्थ हाइपरस्केल क्षेत्र में मार्गदर्शन किया जाता है, तो सेकंड की विलंबता का सामना करना पड़ सकता है। उसी कार्य प्रवाह को एक हाइपरलोकल डेटासेंटर में रखें जो उसी परिसर या मेट्रो क्षेत्र में स्थित है, और भौतिकी बदल जाती है। स्थानीय अनुमान 1 से 5 मिलीसेकंड राउंड ट्रिप विलंबता प्रदान कर सकता है। एक 50 चरण कार्य प्रवाह जो दूरस्थ क्षेत्र में सेकंड ले सकता है, स्थानीय रूप से 50 से 250 मिलीसेकंड में पूरा हो सकता है, उद्यम विलंबता बजट के भीतर रहते हुए।

डेटा संप्रभुता और ग्रिड वास्तविकताएं स्थानीय तैनाती को बढ़ावा दे रही हैं

विलंबता केवल कहानी का एक हिस्सा है। नियंत्रित उद्योगों जैसे स्वास्थ्य सेवा, वित्त और सार्वजनिक क्षेत्र के लिए, डेटा संप्रभुता अक्सर स्थानीय अनुमान के लिए प्राथमिक चालक है। एआई कार्यभार को उद्यम फायरवॉल के पीछे चलाने से मौजूदा सुरक्षा परिधि का संरक्षण होता है, बहु-किरायेदार एक्सपोजर कम होता है, अनुपालन सरल होता है और संवेदनशील डेटा साझा क्लाउड इंफ्रास्ट्रक्चर से बाहर रहता है। हाइपरस्केल प्रदाता मजबूत सुरक्षा प्रदान करते हैं, लेकिन हमले का सामना करना और विश्वास श्रृंखला व्यापक रूप से व्यापक है। उद्यमों को अनुमान वास्तुकला पसंद है जो उनकी मौजूदा सुरक्षा मुद्रा के साथ संरेखित है।

विलंबता और सुरक्षा के बारे में चिंताओं के अलावा, ऊर्जा की उपलब्धता एक समान रूप से महत्वपूर्ण प्रतिबंध बनती जा रही है। बड़े हाइपरस्केल परिसर अक्सर प्रसारण प्रतिबंधों और इंटरकनेक्शन कतारों के कारण कई वर्षों की देरी का सामना करते हैं। छोटे व्यावसायिक पैमाने पर तैनाती, विशेष रूप से मौजूदा भार या वितरित पीढ़ी के पास स्थित, अक्सर बहुत तेजी से ऊर्जीकृत की जा सकती है। यह महत्वपूर्ण है क्योंकि एआई मांग एक अजीब विरोधाभास से टकरा रही है।

एक ही समय में जब ऑपरेटर नए ग्रिड कनेक्शन सुरक्षित करने के लिए संघर्ष कर रहे हैं, तो बड़ी मात्रा में अक्षय ऊर्जा को कम किया जा रहा है। वैश्विक स्तर पर, अक्षय ऊर्जा कमी अब 200 टेरावाट-घंटे प्रति वर्ष से अधिक हो गई है। संयुक्त राज्य अमेरिका में, कमी लगभग 20 टेरावाट-घंटे प्रति वर्ष है। ERCOT ने हाल के एक वर्ष में 9 टेरावाट-घंटे से अधिक पवन और सौर उत्पादन को कम कर दिया। इस बीच, CAISO ने 2024 में 3.4 टेरावाट-घंटे सौर और पवन ऊर्जा को कम कर दिया, जिसमें सौर ने कुल क्लिप आउटपुट का 93% हिस्सा लिया। ऊर्जा प्रणाली सर्वेक्षण लगातार दिखाते हैं कि सौर और पवन दोनों को महत्वपूर्ण कमी का सामना करना पड़ता है जब पीढ़ी ग्रिड क्षमता से अधिक हो जाती है। सौर कमी विशेष रूप से उन क्षेत्रों में सामान्य है जहां मध्याह्न शिखर मजबूत होते हैं, जबकि पवन कमी अक्सर ऑफ-पीक घंटों में या प्रतिबंधित गलियारों में होती है। पीढ़ी के पास स्थित वितरित डेटासेंटर, विशेष रूप से सौर-समृद्ध क्षेत्रों में, फंसी हुई ऊर्जा को उपयोगी अनुमान क्षमता में परिवर्तित कर सकते हैं।

हाइपरस्केल परिसर प्रशिक्षण के लिए आवश्यक बने रहेंगे, लेकिन वे बढ़ती शारीरिक और आर्थिक सीमाओं का सामना करते हैं। ट्रांसमिशन ग्रिड से जुड़ना एक लंबी प्रक्रिया हो सकती है, जिसमें नए सबस्टेशन, ट्रांसमिशन अपग्रेड, मल्टी-एजेंसी अनुमति और सामुदायिक समीक्षा की आवश्यकता होती है। ये ऐसी प्रक्रियाएं हैं जो आमतौर पर वर्षों तक चलती हैं। हाइपरस्केल सुविधाओं को बड़े भूमि पदचिह्न, महत्वपूर्ण जल आवंटन और जटिल पर्यावरण अनुमोदन की आवश्यकता होती है। समुदाय नए डेटासेंटर विकास का विरोध कर रहे हैं शोर, जल उपयोग और भूमि प्रभाव के कारण। और केंद्रीकृत परिसर जोखिम को केंद्रित करते हैं ताकि मौसम की घटनाएं, ग्रिड आउटेज या भू-राजनीतिक व्यवधान वैश्विक कंप्यूटिंग क्षमता के बड़े हिस्से को प्रभावित कर सकते हैं। वितरित वास्तुकला भौगोलिक अतिरेक और संचालन लचीलापन प्रदान करती है।

भविष्य एक बहुस्तरीय एआई वास्तुकला है

जब यह सुनिश्चित करने की बात आती है कि अनुमान कंप्यूट चल रहा है, तो कुशलता उतनी ही महत्वपूर्ण हो सकती है जितनी कि कच्ची क्षमता। अनुमान निरंतर ऊर्जा की खपत करता है, और उद्योग विश्लेषकों का सुझाव है कि अनुमान अंततः एआई से संबंधित ऊर्जा की खपत का अधिकांश हिस्सा हो सकता है। स्थानीय अक्षय एकीकरण, कम ट्रांसमिशन हानि, सही आकार की तैनाती, सुधारित थर्मल प्रोफाइल और उच्च उपयोग दर से दक्षता लाभ भविष्य में स्थायी रूप से वैश्विक एआई मांग को पूरा करने के लिए आवश्यक होंगे। वितरित व्यावसायिक पैमाने पर डेटासेंटर इन लाभों को प्रदान करने के लिए अच्छी स्थिति में हैं क्योंकि वे ऊर्जा की अधिकता वाले स्थानों पर स्थित किए जा सकते हैं, सस्ती या कम उपयोग की जा सकती है।

एआई इंफ्रास्ट्रक्चर का अगला चरण हाइपरस्केल परिसरों का एक हाइब्रिड मिश्रण होगा जो प्रशिक्षण को प्रभावित करता है, वितरित व्यावसायिक पैमाने पर डेटासेंटर जो अनुमान की सेवा करते हैं, और एज डिवाइस जो अल्ट्रा स्थानीय कार्यभार की सेवा करते हैं। यह बहुस्तरीय वास्तुकला शक्ति, विलंबता, सुरक्षा और पैमाने की शारीरिक वास्तविकताओं को दर्शाती है। जब एआई वास्तविक समय के सिस्टम में हर उद्योग में निहित हो जाता है, तो बुनियादी ढांचे को अनुकूलित रूप से विकसित होना चाहिए ताकि अनुमान को दुनिया के करीब लाया जा सके जिसे यह सेवा देता है।