डीपमाइंड ने जेस्ट एल्गोरिदम पेश किया: एआई मॉडल प्रशिक्षण को तेज, सस्ता और अधिक पर्यावरण अनुकूल बनाना

जनरेटिव एआई ने चिकित्सा, शिक्षा, वित्त, कला, खेल आदि जैसे क्षेत्रों में अद्भुत प्रगति की है, मुख्य रूप से एआई की बड़े डेटासेट से सीखने और अरबों पैरामीटर के साथ अधिक जटिल मॉडल बनाने की क्षमता में सुधार के कारण। हालांकि इन प्रगति ने महत्वपूर्ण वैज्ञानिक खोजों, नए व्यवसायिक अवसरों और औद्योगिक विकास को जन्म दिया है, लेकिन वे उच्च लागत और वित्तीय और पर्यावरणीय प्रभावों के कारण आते हैं। जनरेटिव एआई मॉडल को प्रशिक्षित करने के लिए सीखने के एल्गोरिदम को महत्वपूर्ण कम्प्यूटेशनल शक्ति की आवश्यकता होती है, जिससे उच्च ऊर्जा की खपत और उल्लेखनीय कार्बन फुटप्रिंट होता है।

पिछले प्रयासों ने जनरेटिव एआई को स्थायी बनाने पर ध्यान केंद्रित किया है, जिसमें एआई प्रशिक्षण के लिए हार्डवेयर दक्षता में सुधार और कम पैरामीटर वाले छोटे मॉडल विकसित करना शामिल है। गूगल डीपमाइंड ने एक नवाचारी दृष्टिकोण अपनाया है, जिसमें जनरेटिव एआई प्रशिक्षण एल्गोरिदम की दक्षता में सुधार करना शामिल है। उन्होंने जेस्ट (जॉइंट एक्जाम्पल सिलेक्शन) नामक एक नई एल्गोरिदम विकसित की है, जो वर्तमान तकनीकों की तुलना में 13 गुना तेज और 10 गुना अधिक शक्ति-कुशल है।

इस लेख में, हम एआई प्रशिक्षण की चुनौतियों और जेस्ट के द्वारा इन मुद्दों का समाधान करने के तरीके का अन्वेषण करते हैं। इसके अलावा, हम जेस्ट एल्गोरिदम के लिए भविष्य के शोध दिशानिर्देशों और इसके व्यापक प्रभावों पर विचार करते हैं, जो एआई प्रशिक्षण में गति, लागत-प्रभावशीलता और पर्यावरण अनुकूलता में सुधार के अलावा इसके संभावित प्रभाव को देखते हैं।

एआई प्रशिक्षण की चुनौतियाँ: उच्च लागत और पर्यावरणीय प्रभाव

जनरेटिव एआई मॉडल को प्रशिक्षित करना उच्च लागत और पर्यावरणीय प्रभाव के कारण महत्वपूर्ण चुनौतियों का सामना करता है।

• वित्तीय लागत: जनरेटिव एआई मॉडल को प्रशिक्षित करना एक महंगा उपक्रम है। हाल के अनुमानों से पता चलता है कि एक बड़े मॉडल, जैसे कि ओपनएआई के जीपीटी-3 को प्रशिक्षित करने की लागत, जिसमें 175 अरब पैरामीटर हैं, लगभग 4.6 मिलियन डॉलर हो सकती है। चैटजीपीटी-4 को प्रशिक्षित करने की लागत ओपनएआई के लिए लगभग 100 मिलियन डॉलर हो सकती है। ये खर्च मुख्य रूप से विशाल कम्प्यूटेशनल संसाधनों, व्यापक डेटा प्रोसेसिंग और लंबे प्रशिक्षण समय के कारण होते हैं।
• ऊर्जा की खपत: जनरेटिव एआई प्रशिक्षण प्रक्रियाएं अत्यधिक ऊर्जा-गहन होती हैं। इन मॉडलों को प्रशिक्षित करने में हजारों जीपीयू शामिल होते हैं और कई गिगावाट-घंटे ऊर्जा की खपत होती है, जिससे प्रक्रिया अत्यधिक ऊर्जा-गहन हो जाती है। डेटा सेंटर, जो एआई प्रशिक्षण के लिए कम्प्यूटिंग इन्फ्रास्ट्रक्चर का घर है, लगभग 200 टेरावाट-घंटे (टीडब्ल्यूएच) बिजली की खपत करते हैं, जो लगभग वैश्विक बिजली मांग का 1% है। मैककिंसे की एक रिपोर्ट में अनुमान लगाया गया है कि अमेरिका में डेटा सेंटर की बिजली खपत 2017 में 17 गिगावाट (जीडब्ल्यू) से 2030 तक 35 जीडब्ल्यू तक बढ़ सकती है, जिससे अतिरिक्त मांग को पूरा करने के लिए नौ हूवर बांधों के बराबर आउटपुट की आवश्यकता होगी।
• कार्बन फुटप्रिंट: जनरेटिव एआई मॉडल को प्रशिक्षित करने के लिए उच्च ऊर्जा की खपत ग्रीनहाउस गैस उत्सर्जन में महत्वपूर्ण योगदान करती है, जिससे जलवायु परिवर्तन बढ़ता है। मैसाचुसेट्स अम्हर्स्ट विश्वविद्यालय के एक अध्ययन में पाया गया कि एक बड़े एआई मॉडल को प्रशिक्षित करने से पांच कारों के जीवनकाल में उतना ही कार्बन डाइऑक्साइड उत्सर्जन हो सकता है। विशेष रूप से, एक एआई मॉडल को प्रशिक्षित करने से 626,000 पाउंड सीओ2 से अधिक का उत्सर्जन हो सकता है, जो 315 ट्रांस-अमेरिकी उड़ानों के कार्बन फुटप्रिंट के बराबर है।

इन चुनौतियों का मुख्य कारण दो मुख्य स्रोतों से आता है: उच्च ऊर्जा-खपत वाले कम्प्यूटेशनल हार्डवेयर पर निर्भरता और वर्तमान प्रशिक्षण एल्गोरिदम की अकुशलता। जबकि एआई समुदाय ने ऊर्जा-कुशल हार्डवेयर विकसित करने में प्रगति की है, एल्गोरिदम को स्मार्ट बनाने पर अधिक जोर देने की आवश्यकता है जो डेटा का उपयोग अनुकूलित कर सकते हैं और प्रशिक्षण समय को कम कर सकते हैं। गूगल के हाल ही में पेश किए गए जेस्ट एल्गोरिदम ने प्रशिक्षण एल्गोरिदम को स्मार्ट बनाने की दिशा में नवाचारी शोध की ओर कदम बढ़ाया है। डेटा का चयन करके जो महत्वपूर्ण है, जेस्ट एआई प्रशिक्षण की दक्षता में काफी सुधार करता है, जिससे जनरेटिव एआई मॉडल के लिए अधिक स्थायी और लागत-प्रभावी प्रशिक्षण का मार्ग प्रशस्त होता है।

जेस्ट एल्गोरिदम को समझना

जेस्ट एक सीखने का एल्गोरिदम है जो मल्टीमॉडल जनरेटिव एआई मॉडल को अधिक कुशलता से प्रशिक्षित करने के लिए डिज़ाइन किया गया है। जेस्ट को कैसे काम करता है, यह समझने के लिए, एआई प्रशिक्षण को एक जटिल पहेली के रूप में सोचें जिसमें प्रत्येक टुकड़ा (डेटा बिंदु) पूरी तस्वीर (एआई मॉडल) बनाने में मदद करता है। जेस्ट एक अनुभवी पहेली समाधानकर्ता की तरह काम करता है, जो प्रक्रिया को अधिक कुशल बनाता है। जैसे एक पहेली समाधानकर्ता सबसे महत्वपूर्ण और विशिष्ट टुकड़ों को चुनता है, जेस्ट डेटासेट से सबसे मूल्यवान डेटा बैच की पहचान और चयन करता है, यह सुनिश्चित करता है कि प्रत्येक बैच एआई विकास में एक महत्वपूर्ण भूमिका निभाता है।

जेस्ट एक छोटे एआई मॉडल का उपयोग डेटा बैच की गुणवत्ता का मूल्यांकन करने के लिए करता है। इन बैचों को उनकी प्रभावशीलता के आधार पर रैंक किया जाता है। इन सावधानी से चुने गए बैचों के साथ, जेस्ट रणनीतिक रूप से उन्हें मॉडल को प्रशिक्षित करने के लिए इकट्ठा करता है। एक पहेली समाधानकर्ता की तरह जो पहेली के टुकड़ों को अधिकतम दक्षता और संगति के लिए व्यवस्थित करता है, जेस्ट डेटा बैचों को प्राथमिकता देकर और चुनकर प्रशिक्षण प्रक्रिया को काफी तेज कर देता है।

जेस्ट के दृष्टिकोण का एक महत्वपूर्ण हिस्सा मल्टीमॉडल कंट्रास्टिव लर्निंग है। यह तकनीक विभिन्न डेटा प्रकारों के बीच संबंध सीखने पर केंद्रित है, जैसे कि पाठ और छवियां। जेस्ट एक मल्टीमॉडल कंट्रास्टिव लर्निंग-आधारित विधि का उपयोग करता है ताकि मॉडल को प्रशिक्षित करने में एक मल्टीमॉडल डेटा नमूने की प्रभावशीलता का मूल्यांकन किया जा सके। व्यक्तिगत डेटा नमूनों की प्रभावशीलता के अलावा, जेस्ट डेटा नमूनों के सामूहिक सीखने की क्षमता का भी मूल्यांकन करता है ताकि एक बड़े “सुपर बैच” से एक छोटे बैच का चयन किया जा सके। यह प्रक्रिया जेस्ट को उन बैचों का चयन और प्राथमिकता देने में मदद करती है जो चुनौतियों और समृद्ध सीखने के अवसर प्रदान करते हैं।

आगे देखते हुए: जेस्ट से परे तेज, सस्ता और अधिक पर्यावरण अनुकूल एआई प्रशिक्षण

जेस्ट (जॉइंट एक्जाम्पल सिलेक्शन) के भविष्य के प्रभावों का अन्वेषण करते हुए, यह स्पष्ट है कि इसके योगदान केवल एआई प्रशिक्षण को तेज करने, लागत को कम करने और पर्यावरणीय स्थायित्व को बढ़ावा देने तक सीमित नहीं हैं। यहाँ, हम जेस्ट के माध्यम से जनरेटिव एआई के क्षेत्र में सुधार और परिवर्तन के तरीकों पर गहराई से जाते हैं:

• मॉडल प्रदर्शन और सटीकता में सुधार: जेस्ट का डेटा चयन और प्राथमिकता के लिए नवाचारी दृष्टिकोण तेज प्रशिक्षण समय और मॉडल प्रदर्शन में सुधार की ओर ले जाता है। जेस्ट द्वारा सबसे जानकारीपूर्ण डेटा बैचों पर ध्यान केंद्रित करने से यह सुनिश्चित होता है कि एआई मॉडल उच्च गुणवत्ता वाले इनपुट पर प्रशिक्षित होते हैं, जिससे उनकी सटीकता और मजबूती में सुधार होता है। यह लाभ उन अनुप्रयोगों में महत्वपूर्ण है जहां सटीकता और विश्वसनीयता सर्वोपरि है, जैसे कि चिकित्सा निदान, वित्तीय पूर्वानुमान और स्वायत्त प्रणाली।
• डेटा में पूर्वाग्रह की पहचान और उन्हें कम करना: एआई पूर्वाग्रहित डेटासेट के प्रति संवेदनशील होता है, जहां कुछ समूह या दृष्टिकोण कम प्रतिनिधित्व किया जाता है या गलत तरीके से प्रस्तुत किया जाता है। जेस्ट के डेटा चयन दृष्टिकोण में डेटा बैचों की गुणवत्ता और जानकारीपूर्णता का मूल्यांकन शामिल है। विविध और प्रतिनिधित्वशील डेटा नमूनों को प्राथमिकता देकर, जेस्ट एआई प्रणालियों को एक अधिक संतुलित डेटासेट से सीखने में मदद कर सकता है, जिससे प्रशिक्षण डेटा में पूर्वाग्रह को कम किया जा सकता है. उदाहरण के लिए, स्वास्थ्य संबंधी एआई अनुप्रयोगों में, जेस्ट विभिन्न जनसांख्यिकी कारकों को शामिल करने वाले डेटा बैचों का चयन कर सकता है, जिससे चिकित्सा निदान मॉडल विविध रोगी आबादी पर प्रशिक्षित हो सकते हैं। यह चयन कुछ समूहों को लिंग, जाति या सामाजिक-आर्थिक स्थिति के आधार पर असमान रूप से प्रभावित करने वाले पूर्वाग्रहों के जोखिम को कम करता है।
• नवाचार और अनुसंधान को सुविधाजनक बनाना: एआई मॉडल प्रशिक्षण के लिए आवश्यक कम्प्यूटेशनल संसाधनों और समय को काफी कम करके, जेस्ट अनुसंधानकर्ताओं और नवप्रवर्तनकर्ताओं के लिए प्रवेश के बाधाओं को कम करता है। यह सुलभता एक अधिक जीवंत एआई विकास पारिस्थितिकी तंत्र को बढ़ावा देती है, जहां छोटी टीमें और संगठन उन्नत एआई समाधानों के साथ प्रयोग कर सकती हैं और तैनात कर सकती हैं। इसके अलावा, जेस्ट द्वारा प्रदान की गई दक्षता लाभ संसाधनों को मुक्त करते हैं जिन्हें नए एआई में अन्वेषण की ओर निर्देशित किया जा सकता है, जैसे कि नए वास्तुकला, उन्नत एल्गोरिदम और नैतिक एआई फ्रेमवर्क।
• समावेशी एआई विकास को बढ़ावा देना: एआई विकास में विविध दृष्टिकोण और इनपुट शामिल करना चाहिए ताकि पूर्वाग्रह और नैतिक चिंताओं को प्रभावी ढंग से कम किया जा सके। जेस्ट की डेटा चयन क्षमता डेटासेट क्यूरेशन में समावेशी प्रथाओं को प्रोत्साहित करती है। एआई विकासकर्ता जेस्ट के माध्यम से पूर्वाग्रह और नैतिक विचारों को प्रभावी ढंग से संबोधित कर सकते हैं bằng विविध क्षेत्रों के विशेषज्ञों को डेटा चयन मानदंडों को परिभाषित करने में शामिल करके, जिनमें नैतिकता, सामाजिक विज्ञान और डोमेन-विशिष्ट क्षेत्र शामिल हैं। यह सहयोगी दृष्टिकोण अधिक समावेशी और जिम्मेदार एआई प्रौद्योगिकी विकास को बढ़ावा देता है।

नीचे की रेखा

डीपमाइंड द्वारा जेस्ट एल्गोरिदम की शुरुआत जनरेटिव एआई प्रशिक्षण में एक महत्वपूर्ण छलांग है। प्रशिक्षण प्रक्रियाओं को तेजी से बढ़ाकर और ऊर्जा की खपत को कम करके, जेस्ट महत्वपूर्ण लागत बचत प्रदान करता है और एआई विकास से जुड़े पर्यावरणीय चिंताओं को संबोधित करता है। इन लाभों से परे, जेस्ट मॉडल की सटीकता में सुधार, डेटा में पूर्वाग्रह को कम करने, नवाचार को बढ़ावा देने और समावेशी एआई विकास को प्रोत्साहित करने की क्षमता रखता है। जेस्ट के निरंतर परिष्कार और अनुप्रयोग एआई के भविष्य को फिर से परिभाषित करने के लिए तैयार हैं, जो अधिक कुशल, स्थायी और नैतिक रूप से जिम्मेदार एआई समाधानों की ओर बढ़ रहे हैं।