परीक्षण-समय विस्तार: नए पीएचडी-स्तर के तर्क मॉडल के पीछे गुप्त सॉस

कृत्रिम बुद्धिमत्ता के क्षेत्र ने एक ऐसा बिंदु पहुंच लिया है जहां केवल अधिक डेटा जोड़ना या मॉडल का आकार बढ़ाना इसे अधिक बुद्धिमान बनाने का सबसे अच्छा तरीका नहीं है। पिछले कुछ वर्षों से, हमें लगता था कि यदि हम बड़े तंत्रिका नेटवर्क बनाते हैं और उन्हें अधिक इंटरनेट खिलाते हैं, तो वे अंततः अधिक बुद्धिमान हो जाएंगे। इस दृष्टिकोण, जिसे स्केलिंग कानून के रूप में जाना जाता है, ने आश्चर्यजनक रूप से काम किया। इसने हमें ऐसे मॉडल दिए जो कविता लिख सकते हैं, भाषाओं का अनुवाद कर सकते हैं और बार परीक्षा पास कर सकते हैं। हालांकि, ये मॉडल अक्सर गहरे तर्क, जटिल गणित और बहु-चरण वैज्ञानिक समस्याओं के साथ संघर्ष करते थे। वे पैटर्न मिलान में उत्कृष्ट थे, लेकिन अक्सर उन समस्याओं में विफल रहते थे जिन्हें बहु-चरण तर्क की आवश्यकता होती है।

हाल ही में, एक नया रुझान सामने आया है जो कृत्रिम बुद्धिमत्ता की क्षमताओं के बारे में हमारी सोच को बदल रहा है। इस रुझान को परीक्षण-समय विस्तार कहा जाता है। शोधकर्ता अब केवल यह नहीं देख रहे हैं कि मॉडल प्रशिक्षण के दौरान कितना सीखता है, बल्कि यह भी देख रहे हैं कि मॉडल वास्तव में कितना “सोचता है” जब यह एक प्रश्न का उत्तर दे रहा होता है। यह बदलाव नवीनतम तर्क मॉडलों के पीछे गुप्त सॉस है, जैसे कि ओपनएआई की o1 श्रृंखला, जो अब भौतिकी, रसायन विज्ञान और जीव विज्ञान जैसे कठिन विषयों में पीएचडी छात्रों के स्तर पर प्रदर्शन कर रहे हैं।

प्रशिक्षण से स्केलिंग करने से अनुमान स्केलिंग तक का परिवर्तन

इस परिवर्तन को समझने के लिए, हमें देखना होगा कि एआई कैसे बनाया गया था अब तक। परंपरागत रूप से, मॉडल की “बुद्धिमत्ता” इसके प्रशिक्षण पर आधारित थी। इसमें महीनों और लाखों डॉलर खर्च करना शामिल था ताकि बड़ी मात्रा में डेटा को हजारों जीपीयू के माध्यम से चलाया जा सके। एक बार प्रशिक्षण पूरा हो जाने के बाद, मॉडल मूल रूप से जम जाता था। जब आप इसे एक प्रश्न पूछते थे, तो यह तुरंत उत्तर देता था जो पहले से ही सीखे गए पैटर्न पर आधारित था। इसे हम अनुमान या परीक्षण-समय कहते हैं।

इस पारंपरिक दृष्टिकोण के साथ समस्या यह है कि मॉडल को उत्तर देने का केवल एक मौका मिलता है। यह प्रॉम्प्ट को संसाधित करता है और पहले से सीखे गए पैटर्न के आधार पर एक के बाद एक टोकन उत्पन्न करता है, लेकिन यह “सोचने” या “दोहरी जांच” करने का कोई तरीका नहीं है कि इसका तर्क सही है या नहीं। परीक्षण-समय विस्तार इस गतिविधि को बदल देता है। यह मॉडल को अनुमान चरण के दौरान अधिक गणना शक्ति का उपयोग करने की अनुमति देता है। जैसे कि एक मानव एक सरल प्रश्न का उत्तर देने में कुछ सेकंड ले सकता है, लेकिन एक जटिल गणितीय समस्या को हल करने में कई मिनट या घंटे लग सकते हैं, एआई मॉडल अब कार्य की कठिनाई के आधार पर अपने प्रयास को स्केल करने के लिए डिज़ाइन किए जा रहे हैं।

परीक्षण-समय विस्तार की अवधारणा को परिभाषित करना

परीक्षण-समय विस्तार उन तकनीकों को संदर्भित करता है जो एक एआई मॉडल को वितरित करने के समय एक अनुरोध को संसाधित करने के लिए अतिरिक्त गणना संसाधनों का उपयोग करने की अनुमति देते हैं। सरल शब्दों में, इसका अर्थ है मॉडल को अधिक “सोच समय” देना। यह मॉडल को बड़ा बनाने के बारे में नहीं है; यह मॉडल को अधिक विचारशील बनाने के बारे में है। जब एक मॉडल परीक्षण-समय विस्तार का उपयोग करता है, तो यह केवल पहला उत्तर नहीं देता है जो दिमाग में आता है। इसके बजाय, यह विभिन्न मार्गों का अन्वेषण कर सकता है, अपने स्वयं के तर्क में त्रुटियों की जांच कर सकता है, और उपयोगकर्ता को यह देखने से पहले ही अपनी प्रतिक्रिया को परिष्कृत कर सकता है।

यह अवधारणा अक्सर मानव मस्तिष्क के काम करने के तरीके से तुलना की जाती है। मनोवैज्ञानिक अक्सर “सिस्टम 1″ और “सिस्टम 2”” सोच के बारे में बात करते हैं। सिस्टम 1 तेज, प्रवृत्तिपूर्ण और भावनात्मक है। यह वह है जो आप एक परिचित चेहरे को पहचानने या एक परिचित सड़क पर ड्राइविंग करने के लिए उपयोग करते हैं। सिस्टम 2 धीमा, अधिक विचारशील और तर्कसंगत है। यह वह है जो आप एक कठिन गणितीय समीकरण को हल करने या एक जटिल परियोजना की योजना बनाने के लिए उपयोग करते हैं। हाल तक तक, एलएलएम मुख्य रूप से सिस्टम 1 विचारक थे। परीक्षण-समय विस्तार सिस्टम 2 सोच तक पहुंचने के लिए एक पुल है।

तर्क प्रक्रिया की यांत्रिकी

परीक्षण-समय विस्तार प्राप्त करने के लिए शोधकर्ताओं द्वारा कई तरीके हैं। सबसे आम तरीकों में से एक चेन ऑफ थॉट (सीओटी) प्रॉम्प्टिंग कहा जाता है, लेकिन इन नए मॉडलों में, यह प्रणाली में सीधे निर्मित होता है, न कि कुछ ऐसा जिसे उपयोगकर्ता को मांगना होता है। मॉडल को एक समस्या को छोटे, तार्किक चरणों में तोड़ने के लिए प्रशिक्षित किया जाता है। ऐसा करके, मॉडल समाधान के प्रत्येक भाग को अगले चरण पर जाने से पहले सत्यापित कर सकता है।

एक अन्य महत्वपूर्ण तकनीक में मोंटे कार्लो ट्री सर्च जैसे खोज एल्गोरिदम शामिल हैं। मॉडल केवल अगले सबसे संभावित शब्द की भविष्यवाणी नहीं करता है, बल्कि एक उत्तर के लिए कई संभावित मार्ग उत्पन्न करता है। यह इन मार्गों का मूल्यांकन करता है और निर्धारित करता है कि कौन सा मार्ग सबसे अधिक संभावना है कि एक सही समाधान की ओर ले जाएगा। यदि यह एक मृत अंत या महसूस करता है कि एक पिछला चरण गलत था, तो यह एक अलग दृष्टिकोण की कोशिश करने के लिए वापस जा सकता है। यह “देखें” क्षमता एक शतरंज इंजन के समान है जो हजारों संभावित चालों का मूल्यांकन करता है trước कि वह सबसे अच्छा चुने। अनुमान चरण के दौरान कई संभावनाओं की खोज करके, मॉडल मानक एलएलएम द्वारा सीधे हल की जा सकने वाली तुलना में अधिक जटिल समस्याओं का समाधान कर सकता है।

पीएचडी-स्तर के तर्क के लिए क्यों अधिक से अधिक स्मृति की आवश्यकता होती है

इसका कारण यह है कि विज्ञान और गणित में उच्च-स्तरीय तर्क स्मृति से ही हल नहीं किया जा सकता है। एक पीएचडी स्तर की भौतिकी परीक्षा में, आप केवल एक पाठ्यपुस्तक में पढ़े गए तथ्य को दोहरा नहीं सकते हैं। आपको जटिल सिद्धांतों को एक नए और अनोखे स्थिति में लागू करना होगा। मानक मॉडल अक्सर इन परिदृश्यों में भ्रमित हो जाते हैं क्योंकि वे तर्क के बजाय संभावना पर अगले शब्द की भविष्यवाणी करने का प्रयास कर रहे हैं।

परीक्षण-समय विस्तार मॉडल को एक शोधकर्ता की तरह काम करने की अनुमति देता है। यह आंतरिक रूप से परिकल्पनाओं का परीक्षण कर सकता है। उदाहरण के लिए, यदि मॉडल से एक जटिल कोड लिखने के लिए कहा जाता है, तो यह अपने छिपे हुए विचार श्रृंखला में तर्क को “चला” सकता है, एक संभावित बग की पहचान कर सकता है और इसे प्रस्तुति से पहले ठीक कर सकता है। यह स्व-सुधार की क्षमता है जो नए मॉडलों को अमेरिकन इनविटेशनल मैथमेटिक्स एक्जामिनेशन (एआईएमई) या जीपीक्यूए जैसे बेंचमार्क पर उच्च स्कोर प्राप्त करने की अनुमति देती है। वे केवल अनुमान नहीं लगा रहे हैं; वे सत्यापन कर रहे हैं।

दक्षता व्यापार और गणना लागत

जबकि परीक्षण-समय विस्तार शक्तिशाली है, यह एक महत्वपूर्ण लागत के साथ आता है। पुराने तरीके से, एआई का सबसे महंगा हिस्सा प्रशिक्षण था। एक बार मॉडल तैनात हो जाने के बाद, इसे चलाना अपेक्षाकृत सस्ता और तेज़ था। परीक्षण-समय विस्तार के साथ, लागत उपयोगकर्ता के अनुरोध की ओर स्थानांतरित हो जाती है। क्योंकि मॉडल अधिक काम कर रहा है और अपने काम की जांच कर रहा है, यह प्रतिक्रिया देने में अधिक समय लेता है और अधिक हार्डवेयर संसाधनों की आवश्यकता होती है।

यह एआई के लिए एक नए प्रकार की अर्थव्यवस्था की ओर ले जाता है। हम एक ऐसी स्थिति की ओर बढ़ रहे हैं जहां “प्रति प्रश्न लागत” बहुत भिन्न हो सकती है। मौसम के बारे में एक सरल प्रश्न का उत्तर देने की लागत एक पैसा हो सकती है और एक सेकंड का समय ले सकती है। एक गहरा वैज्ञानिक प्रश्न कई डॉलर की गणना लागत और प्रसंस्करण समय में लग सकता है। यह व्यापार उच्च-स्तरीय तर्क प्राप्त करने के लिए आवश्यक है, लेकिन इसका मतलब यह भी है कि डेवलपर्स को इन मॉडलों को कुशल बनाने के तरीके खोजने होंगे ताकि वे चिकित्सा, इंजीनियरिंग जैसे उद्योगों में बड़े पैमाने पर उपयोग किए जा सकें।

कृत्रिम बुद्धिमत्ता के भविष्य पर प्रभाव

परीक्षण-समय विस्तार का उदय सुझाव देता है कि हम कृत्रिम बुद्धिमत्ता विकास के एक नए युग में प्रवेश कर सकते हैं। वर्षों से, एक चिंता थी कि हम अंततः उच्च गुणवत्ता वाले मानव डेटा से बाहर निकल जाएंगे जिसका उपयोग मॉडल को प्रशिक्षित करने के लिए किया जा सकता है। यदि मॉडल केवल मानव द्वारा लिखे गए डेटा से सीखते हैं, तो वे एक छत तक पहुंच सकते हैं। हालांकि, परीक्षण-समय विस्तार दिखाता है कि मॉडल अपने प्रदर्शन में सुधार कर सकते हैं क्योंकि वे कठिन सोचते हैं, न कि केवल अधिक पढ़ते हैं।

यह एआई के लिए अपने निष्कर्ष बनाने का दरवाजा खोलता है। यदि एक मॉडल एक समस्या का तर्क दे सकता है जिसे यह पहले कभी नहीं देखा है, तो यह सामग्री विज्ञान, दवा की खोज या अक्षय ऊर्जा में नए समाधान खोज सकता है। यह एआई को एक सहायक से एक डिजिटल सहयोगी में बदलता है जो दुनिया की सबसे कठिन समस्याओं का समाधान करने में मदद कर सकता है। हम “जनरेटिव” एआई से “रीजनिंग” एआई की ओर बढ़ रहे हैं।

नीचे की रेखा

परीक्षण-समय विस्तार उन्नत कृत्रिम बुद्धिमत्ता की खोज में缺失 लिंक साबित हो रहा है। अनुमान चरण के दौरान मॉडल को अधिक गणना शक्ति का उपयोग करने की अनुमति देकर, हमने एक ऐसा प्रदर्शन स्तर अनलॉक किया है जो पहले वर्षों दूर लगता था। ये मॉडल मानव बुद्धिमत्ता के करीब एक प्रकार की तर्कसंगतता प्रदर्शित करना शुरू कर रहे हैं जो पहले के पैटर्न मान्यता से बहुत अधिक है।

आगे बढ़ते हुए, चुनौती इन तकनीकों को परिष्कृत करना होगा। हमें तर्क को तेज़ और अधिक सुलभ बनाने की आवश्यकता है, साथ ही साथ “तेज़” और “धीमी” सोच के बीच सही संतुलन खोजने की। गुप्त सॉस अब केवल मॉडल का आकार या देखा गया डेटा नहीं है। गुप्त सॉस यह है कि मॉडल अपना समय कैसे सोचता है। एआई की प्रगति का पालन करने वाले किसी भी व्यक्ति के लिए, यह स्पष्ट है कि फोकस बदल गया है। दौड़ अब केवल सबसे बड़े मॉडल के बारे में नहीं है, बल्कि उस मॉडल के बारे में है जो सबसे अच्छा तर्क दे सकता है। यह परिवर्तन क्षेत्र में अगले दशक के नवाचार को परिभाषित करने की संभावना है।