गूगल ने एआई प्रशिक्षण आवश्यकताओं को 10,000 गुना कम कैसे किया

कृत्रिम बुद्धिमत्ता उद्योग एक मूलभूत विरोधाभास का सामना करता है। जबकि मशीनें अब बड़े पैमाने पर डेटा को संसाधित कर सकती हैं, सीखने में आश्चर्यजनक रूप से अकुशलता है, जो कम होती वापसी की चुनौती का सामना करती है। पारंपरिक मशीन लर्निंग दृष्टिकोण बड़े पैमाने पर लेबल वाले डेटासेट की मांग करते हैं जो लाखों डॉलर की लागत और वर्षों में बन सकते हैं। ये दृष्टिकोण आमतौर पर इस विश्वास के तहत काम करते हैं कि अधिक डेटा बेहतर एआई मॉडल की ओर ले जाता है। हालांकि, गूगल के शोधकर्ताओं ने हाल ही में एक नवाचारी तरीका पेश किया है जो इस लंबे समय से चले आ रहे विश्वास को चुनौती देता है। वे यह प्रदर्शित करते हैं कि समान एआई प्रदर्शन 10,000 गुना कम प्रशिक्षण डेटा के साथ प्राप्त किया जा सकता है। इस विकास की संभावना है कि यह एआई के तरीके को मौलिक रूप से बदल देगा। इस लेख में, हम यह देखेंगे कि गूगल के शोधकर्ताओं ने इस सफलता को कैसे हासिल किया, इस विकास के भविष्य के प्रभाव, और आगे की चुनौतियों और दिशानिर्देशों के बारे में।

एआई में बड़ा डेटा चुनौती

दशकों से, “अधिक डेटा बेहतर एआई” का मंत्र उद्योग के एआई दृष्टिकोण को चला रहा है। बड़े भाषा मॉडल जैसे जीपीटी-4 प्रशिक्षण के दौरान ट्रिलियन टोकन की खपत करते हैं। यह डेटा-भूखी दृष्टिकोण एक महत्वपूर्ण बाधा बनाता है जो व्यापक संसाधनों या विशेष डेटासेट की कमी वाले संगठनों के लिए है। पहले, मानव लेबलिंग की लागत महत्वपूर्ण रूप से उच्च है। विशेषज्ञ अन्नोटेटर उच्च दरों पर चार्ज करते हैं, और आवश्यक डेटा की बड़ी मात्रा परियोजनाओं को महंगा बना देती है। दूसरा, अधिकांश एकत्रित डेटा अक्सर अतिरिक्त होता है और सीखने की प्रक्रिया में महत्वपूर्ण भूमिका नहीं निभा सकता है। पारंपरिक तरीका बदलती आवश्यकताओं के साथ भी संघर्ष करता है। जब नीतियां बदलती हैं या नए प्रकार की समस्याग्रस्त सामग्री उभरती है, तो कंपनियों को लेबलिंग प्रक्रिया को शुरू से करना होता है। यह प्रक्रिया महंगी डेटा संग्रह और मॉडल पुनः प्रशिक्षण के चक्र को बनाती है।

एक्टिव लर्निंग के साथ बड़ा डेटा चुनौती का समाधान

इन डेटा चुनौतियों का समाधान करने का एक ज्ञात तरीका एक्टिव लर्निंग को सक्षम करना है। यह दृष्टिकोण एक सावधानी से क्यूरेटेड प्रक्रिया पर निर्भर करता है जो मानव लेबलिंग के लिए सबसे मूल्यवान प्रशिक्षण उदाहरणों की पहचान करता है। अंतर्निहित विचार यह है कि मॉडल उन उदाहरणों से सबसे अच्छा सीखते हैं जिन्हें वे सबसे भ्रमित करते हैं, न कि सभी उपलब्ध डेटा का निष्क्रिय रूप से उपभोग करते हैं। पारंपरिक एआई तरीकों के विपरीत, जिन्हें बड़े डेटासेट की आवश्यकता होती है, एक्टिव लर्निंग एक अधिक रणनीतिक दृष्टिकोण लेता है जो केवल सबसे सूचनात्मक उदाहरणों को इकट्ठा करने पर केंद्रित होता है। यह दृष्टिकोण अस्पष्ट या अतिरिक्त डेटा को लेबल करने की अकुशलता से बचने में मदद करता है जो मॉडल को कम मूल्य प्रदान करता है। इसके बजाय, एक्टिव लर्निंग उन एज केसों और अनिश्चित उदाहरणों को लक्षित करता है जो मॉडल के प्रदर्शन में महत्वपूर्ण सुधार कर सकते हैं।

गूगल का एक्टिव लर्निंग दृष्टिकोण

गूगल की शोध टीम ने इस दृष्टिकोण को सफलतापूर्वक नियोजित किया है। उनकी नई एक्टिव लर्निंग प्रणाली यह प्रदर्शित करती है कि सावधानी से क्यूरेटेड, उच्च-गुणवत्ता वाले उदाहरण विशाल मात्रा में लेबल वाले डेटा को प्रतिस्थापित कर सकते हैं। उदाहरण के लिए, वे दिखाते हैं कि 500 से कम विशेषज्ञ-लेबल वाले उदाहरणों पर प्रशिक्षित मॉडल 100,000 पारंपरिक लेबल वाले सिस्टम के प्रदर्शन को मैच या पार कर सकते हैं।

प्रक्रिया गूगल द्वारा “एलएलएम-एस-स्काउट” प्रणाली के माध्यम से काम करती है। बड़े भाषा मॉडल पहले विशाल मात्रा में अनलेबल्ड डेटा के माध्यम से स्कैन करता है, उन मामलों की पहचान करता है जहां यह सबसे अनिश्चित महसूस करता है। ये बाउंडरी केस वे सटीक परिदृश्य हैं जहां मॉडल को मानव मार्गदर्शन की आवश्यकता होती है ताकि इसके निर्णय लेने में सुधार हो सके। प्रक्रिया एक प्रारंभिक मॉडल के साथ शुरू होती है जो बुनियादी प्रॉम्प्ट का उपयोग करके बड़े डेटासेट को लेबल करता है। प्रणाली तब उदाहरणों को उनके पूर्वानुमानित वर्गीकरण द्वारा समूहित करती है और उन क्षेत्रों की पहचान करती है जहां मॉडल विभिन्न श्रेणियों के बीच भ्रमित है। ये ओवरलैपिंग क्लस्टर उन बिंदुओं को प्रकट करते हैं जहां मानव विशेषज्ञता सबसे मूल्यवान हो सकती है।

गुणवत्ता पर मात्रा

शोध एक महत्वपूर्ण निष्कर्ष को उजागर करता है जो एआई में डेटा गुणवत्ता के बारे में एक सामान्य धारणा को चुनौती देता है। यह यह प्रदर्शित करता है कि उच्च विश्वासता वाले विशेषज्ञ लेबल, बड़े पैमाने पर क्राउडसोर्स्ड एनोटेशन की तुलना में निरंतर रूप से बेहतर प्रदर्शन करते हैं। उन्होंने कोहेन का काप्पा का उपयोग करके इसका मापन किया, जो एक सांख्यिकीय उपकरण है जो मॉडल के पूर्वानुमानों के साथ विशेषज्ञ राय के संरेखण का मूल्यांकन करता है, जो यादृच्छिक रूप से होने की तुलना में अधिक है। गूगल के प्रयोगों में, विशेषज्ञ अन्नोटेटरों ने कोहेन का काप्पा स्कोर 0.8 से अधिक प्राप्त किया, जो कि आमतौर पर क्राउडसोर्सिंग द्वारा प्रदान की जाने वाली तुलना में काफी बेहतर था।

यह सफलता अब क्यों महत्वपूर्ण है

यह विकास एआई उद्योग के लिए एक महत्वपूर्ण समय पर आता है। जब मॉडल बड़े और अधिक जटिल होते जा रहे हैं, तो पारंपरिक दृष्टिकोण जो प्रशिक्षण डेटा को स्केल करने पर निर्भर करता है, वह बढ़ते रूप से अस्थिर होता जा रहा है। पर्यावरणीय लागत बड़े मॉडलों को प्रशिक्षित करने की बढ़ती जा रही है, और आर्थिक बाधाएं कई संगठनों के लिए अभी भी उच्च हैं।

गूगल का तरीका एक साथ कई उद्योग चुनौतियों का समाधान करता है। लेबलिंग लागत में नाटकीय कमी एआई विकास को छोटे संगठनों और शोध टीमों के लिए अधिक सुलभ बनाती है। तेजी से पुनरावृत्ति चक्र तेजी से बदलती आवश्यकताओं के अनुकूलन की अनुमति देते हैं, जो सामग्री मॉडरेशन या साइबर सुरक्षा जैसे गतिशील क्षेत्रों में आवश्यक है।

एआई विकास के लिए व्यापक प्रभाव

यह सफलता सुझाव देती है कि हम एआई विकास के एक नए चरण में प्रवेश कर सकते हैं जहां कुशलता मात्रा से अधिक महत्वपूर्ण है। पारंपरिक “बड़ा बेहतर है” दृष्टिकोण प्रशिक्षण डेटा के लिए अधिक परिष्कृत तरीकों द्वारा प्रतिस्थापित किया जा सकता है जो डेटा गुणवत्ता और रणनीतिक चयन को प्राथमिकता देते हैं।

पर्यावरणीय प्रभाव अकेले ही महत्वपूर्ण हैं। बड़े एआई मॉडलों को प्रशिक्षित करने के लिए वर्तमान में बड़े पैमाने पर गणनात्मक संसाधनों और ऊर्जा की खपत की आवश्यकता होती है। यदि समान प्रदर्शन को नाटकीय रूप से कम डेटा के साथ प्राप्त किया जा सकता है, तो एआई विकास का कार्बन फुटप्रिंट महत्वपूर्ण रूप से कम हो सकता है।

सीमाएं और विचार

इसके वादा करने वाले परिणामों के बावजूद, यह तरीका व्यावहारिक चुनौतियों का सामना करता है। विशेषज्ञ अन्नोटेटरों की आवश्यकता जो कोहेन का काप्पा स्कोर 0.8 से अधिक प्राप्त करते हैं, इसकी लागू करने योग्यता को सीमित कर सकती है जो पर्याप्त विशेषज्ञता या मूल्यांकन मानदंडों की कमी वाले क्षेत्रों में। शोध मुख्य रूप से वर्गीकरण कार्यों और सामग्री सुरक्षा अनुप्रयोगों पर केंद्रित है। यह देखना बाकी है कि क्या समान नाटकीय सुधार भाषा पीढ़ी या तर्क जैसे अन्य प्रकार के एआई कार्यों में लागू होते हैं।

एक्टिव लर्निंग की पुनरावृत्तिपूर्ण प्रकृति पारंपरिक बैच प्रोसेसिंग दृष्टिकोणों की तुलना में जटिलता को भी पेश करती है। संगठनों को निरंतर मॉडल सुधार को सक्षम करने वाले प्रश्न-उत्तर चक्रों का समर्थन करने के लिए नई कार्य प्रवाह और बुनियादी ढांचे विकसित करने होंगे।

नीचे की रेखा

गूगल का शोध यह दिखाता है कि लक्षित, उच्च-गुणवत्ता वाले डेटा विशाल डेटासेट की तुलना में अधिक प्रभावी हो सकते हैं। मॉडल को प्रशिक्षित करने के लिए केवल सबसे मूल्यवान उदाहरणों को लेबल करके, उन्होंने प्रशिक्षण आवश्यकताओं को 10,000 गुना तक कम कर दिया जबकि प्रदर्शन में सुधार किया। यह दृष्टिकोण लागत को कम करता है, विकास को तेज करता है, पर्यावरणीय प्रभाव को कम करता है, और उन्नत एआई को अधिक सुलभ बनाता है। यह कुशल और स्थायी एआई विकास की ओर एक महत्वपूर्ण बदलाव का संकेत देता है।