विचार नेता
जनरेटिव एआई का भविष्य एज है

चैटजीपीटी और सामान्य रूप से जनरेटिव एआई का आगमन प्रौद्योगिकी के इतिहास में एक महत्वपूर्ण क्षण है, जो इंटरनेट और स्मार्टफोन के उदय के समान है। जनरेटिव एआई ने बुद्धिमान बातचीत करने, परीक्षा उत्तीर्ण करने, जटिल कार्यक्रम/कोड बनाने और आकर्षक छवियों और वीडियो बनाने की क्षमता में असीमित संभावनाएं दिखाई हैं। जबकि अधिकांश जेन एआई मॉडल क्लाउड में जीपीयू पर चलते हैं – प्रशिक्षण और अनुमान दोनों के लिए – यह दीर्घकालिक रूप से स्केलेबल समाधान नहीं है, विशेष रूप से अनुमान के लिए, लागत, शक्ति, विलंबता, गोपनीयता और सुरक्षा जैसे कारकों के कारण। यह लेख इन सभी कारकों को संबोधित करता है, साथ ही जेन एआई कंप्यूटे कार्यभार को एज पर ले जाने के लिए प्रेरक उदाहरण भी प्रदान करता है।
अधिकांश अनुप्रयोग उच्च-प्रदर्शन प्रोसेसर पर चलते हैं – या तो डिवाइस पर (जैसे स्मार्टफोन, डेस्कटॉप, लैपटॉप) या डेटा सेंटर में। जब अनुप्रयोगों का हिस्सा जो एआई का उपयोग करते हैं बढ़ता है, तो केवल सीपीयू वाले ये प्रोसेसर अपर्याप्त होते हैं। इसके अलावा, जनरेटिव एआई कार्यभार में तेजी से विस्तार एआई-सक्षम सर्वरों की मांग को बढ़ा रहा है, जो महंगे और शक्ति-भूखे जीपीयू के साथ आते हैं, जो बदले में बुनियादी ढांचे की लागत को बढ़ाते हैं। ये एआई-सक्षम सर्वर एक सामान्य सर्वर की कीमत से 7 गुना अधिक हो सकते हैं और जीपीयू इस अतिरिक्त लागत के 80% के लिए जिम्मेदार हैं।
इसके अलावा, एक क्लाउड-आधारित सर्वर 500W से 2000W की खपत करता है, जबकि एक एआई-सक्षम सर्वर 2000W से 8000W के बीच खपत करता है – 4 गुना अधिक! इन सर्वरों का समर्थन करने के लिए, डेटा सेंटरों को अतिरिक्त शीतलन मॉड्यूल और बुनियादी ढांचे के उन्नयन की आवश्यकता होती है – जो कि कंप्यूटे निवेश से भी अधिक हो सकते हैं। डेटा सेंटर पहले से ही प्रति वर्ष 300 टीडब्ल्यूएच की खपत करते हैं, विश्वभर की कुल बिजली खपत का लगभग 1%। यदि एआई अपनाने के रुझान जारी रहते हैं, तो 2030 तक डेटा सेंटर द्वारा विश्वभर की बिजली की खपत का 5% तक उपयोग किया जा सकता है। इसके अलावा, जनरेटिव एआई डेटा सेंटर में अभूतपूर्व निवेश किया जा रहा है। अनुमान है कि डेटा सेंटर 2027 तक पूंजी व्यय के लिए $500 बिलियन की खपत करेंगे, मुख्य रूप से एआई बुनियादी ढांचे की आवश्यकताओं से प्रेरित।

डेटा सेंटरों की बिजली की खपत, जो पहले से ही 300 टीडब्ल्यूएच है, जनरेटिव एआई के अपनाने के साथ काफी बढ़ जाएगी।
एआई कंप्यूटे लागत और ऊर्जा की खपत जनरेटिव एआई के व्यापक अपनाने में बाधा उत्पन्न करेगी। स्केलिंग चुनौतियों को एज पर एआई कंप्यूटे को स्थानांतरित करके और एआई कार्यभार के लिए अनुकूलित प्रोसेसिंग समाधानों का उपयोग करके पार किया जा सकता है। इस दृष्टिकोण से, ग्राहक को विलंबता, गोपनीयता, विश्वसनीयता और बढ़ी हुई क्षमता जैसे अन्य लाभ भी मिलते हैं।
कंप्यूटे डेटा का अनुसरण एज पर करता है
एक दशक से अधिक समय से, जब एआई अकादमिक दुनिया से उभरा, एआई मॉडल का प्रशिक्षण और अनुमान क्लाउड/डेटा सेंटर में हुआ। चूंकि अधिकांश डेटा एज पर उत्पन्न और उपभोग किया जाता है – विशेष रूप से वीडियो – इसलिए डेटा के अनुमान को एज पर ले जाना समझ में आया, जिससे उद्यमों के लिए कुल स्वामित्व लागत (टीसीओ) में कमी आई, जो नेटवर्क और कंप्यूटे लागत में कमी के कारण थी। जबकि क्लाउड पर एआई अनुमान लागत आवर्ती है, एज पर अनुमान लागत एकमुश्त, हार्डवेयर व्यय है। मूल रूप से, सिस्टम में एक एज एआई प्रोसेसर जोड़ना से परिचालन लागत कम हो जाती है। जैसे कि पारंपरिक एआई कार्यभार (जैसे उपकरण, डिवाइस) को एज पर स्थानांतरित किया जाता है, जनरेटिव एआई कार्यभार भी इसका पालन करेगा। यह उद्यमों और उपभोक्ताओं के लिए महत्वपूर्ण बचत लाएगा।
एज पर जाने के साथ-साथ एक कुशल एआई एक्सेलरेटर का उपयोग करके अनुमान कार्यों को करने से अन्य लाभ भी मिलते हैं। उनमें से सबसे महत्वपूर्ण विलंबता है। उदाहरण के लिए, गेमिंग अनुप्रयोगों में, गैर-खिलाड़ी पात्र (एनपीसी) को जनरेटिव एआई का उपयोग करके नियंत्रित और बढ़ाया जा सकता है। एज एआई एक्सेलरेटर्स पर चलने वाले एलएलएम मॉडल का उपयोग करके, गेमर्स इन पात्रों को विशिष्ट लक्ष्य दे सकते हैं ताकि वे कहानी में अर्थपूर्ण रूप से भाग ले सकें। स्थानीय एज अनुमान से कम विलंबता खिलाड़ियों के आदेशों और क्रियाओं के लिए एनपीसी भाषण और गतिविधियों को वास्तविक समय में प्रतिक्रिया देने की अनुमति देगी। यह एक लागत प्रभावी और शक्ति-कुशल तरीके से एक अत्यधिक इमर्सिव गेमिंग अनुभव प्रदान करेगा।
स्वास्थ्य देखभाल जैसे अनुप्रयोगों में, गोपनीयता और विश्वसनीयता अत्यधिक महत्वपूर्ण हैं (जैसे रोगी मूल्यांकन, दवा सिफारिशें)। डेटा और संबंधित जेन एआई मॉडल को ऑन-प्रिमाइसेस होना चाहिए ताकि रोगी डेटा (गोपनीयता) की रक्षा की जा सके और क्लाउड में एआई मॉडल तक पहुंच को ब्लॉक करने वाले किसी भी नेटवर्क आउटेज को आपदाजनक माना जा सकता है। एक एज एआई उपकरण जो एक जेन एआई मॉडल चलाता है जो प्रत्येक उद्यम ग्राहक – इस मामले में एक स्वास्थ्य सेवा प्रदाता के लिए विशेष रूप से निर्मित है – गोपनीयता और विश्वसनीयता के मुद्दों को जबकि कम विलंबता और लागत पर समाधान प्रदान कर सकता है।

एज डिवाइस पर जनरेटिव एआई गेमिंग में कम विलंबता सुनिश्चित करेगा और स्वास्थ्य सेवा में रोगी डेटा की रक्षा करेगा और विश्वसनीयता में सुधार करेगा।
क्लाउड पर चलने वाले कई जेन एआई मॉडल लगभग एक ट्रिलियन पैरामीटर हो सकते हैं – ये मॉडल सामान्य उद्देश्य प्रश्नों को प्रभावी ढंग से संबोधित कर सकते हैं। हालांकि, उद्यम-विशिष्ट अनुप्रयोगों के लिए मॉडल को उपयोग के मामले के लिए प्रासंगिक परिणाम देने की आवश्यकता होती है। एक जेन एआई-आधारित सहायक का उदाहरण लें जो एक फास्ट-फूड रेस्तरां में ऑर्डर लेने के लिए बनाया गया है – इस प्रणाली के लिए एक सहज ग्राहक इंटरैक्शन होने के लिए, अंतर्निहित जेन एआई मॉडल को रेस्तरां के मेनू आइटम, एलर्जी और सामग्री पर प्रशिक्षित किया जाना चाहिए। मॉडल का आकार एक सुपरसेट लार्ज लैंग्वेज मॉडल (एलएलएम) का उपयोग करके एक छोटे से 10-30 बिलियन पैरामीटर एलएलएम को प्रशिक्षित करके और फिर ग्राहक-विशिष्ट डेटा के साथ अतिरिक्त फाइन-ट्यूनिंग करके अनुकूलित किया जा सकता है। ऐसा मॉडल सटीकता और क्षमता में वृद्धि के साथ परिणाम दे सकता है। और मॉडल के छोटे आकार के कारण, इसे एज पर एक एआई एक्सेलरेटर पर प्रभावी ढंग से तैनात किया जा सकता है।
जेन एआई एज पर जीतेगा
चैटजीपीटी और क्लॉड जैसे सामान्य-उद्देश्य अनुप्रयोगों के लिए क्लाउड पर जेन एआई चलाने की हमेशा आवश्यकता रहेगी। लेकिन जब यह उद्यम-विशिष्ट अनुप्रयोगों की बात आती है, जैसे कि एडोब फोटोशॉप के जनरेटिव फिल या गिटहब कोपायलट, तो एज पर जनरेटिव एआई न केवल भविष्य है, बल्कि यह वर्तमान भी है। Purpose-निर्मित एआई एक्सेलरेटर इसे संभव बनाने की कुंजी हैं।












