जब अधिक सोच AI को मूर्ख बना देती है: इनवर्स स्केलिंग परिदृश्य

आर्टिफ़िशियल इंटेलिजेंस को यह विचार दिया गया है कि मशीनों को अधिक समय, डेटा और कंप्यूटिंग पावर देने से उनके प्रदर्शन में सुधार होता है। यह विश्वास कई वर्षों से एआई अनुसंधान और विकास की दिशा को निर्देशित करता रहा है। इस विश्वास के तहत यह माना जाता है कि बड़े मॉडल और अधिक संसाधन अधिक बुद्धिमान प्रणाली बनाएंगे। हालांकि, हाल के शोध ने इस दृष्टिकोण को चुनौती देना शुरू कर दिया है। बड़े भाषा मॉडल, जैसे कि ओपनएआई की ओ1 श्रृंखला, एंथ्रोपिक के क्लाउड, और डीपसीक के आर1, समस्याओं को चरणबद्ध तरीके से हल करने के लिए बनाए गए थे, जैसे कि मानव तर्क। शोधकर्ताओं ने उम्मीद की थी कि इन मॉडलों को अधिक समय देने से उनके निर्णय लेने में सुधार होगा। हालांकि, नए अध्ययनों से पता चलता है कि इसके विपरीत हो सकता है। जब आप इन मॉडलों को अधिक समय देते हैं, तो वे कभी-कभी खराब प्रदर्शन करते हैं, विशेष रूप से सरल कार्यों में। इस प्रभाव को इनवर्स स्केलिंग कहा जाता है। यह यह विश्वास को चुनौती देता है कि अधिक कंप्यूटिंग पावर और गहरी तर्क हमेशा बेहतर परिणामों की ओर ले जाते हैं। इन निष्कर्षों का एआई को वास्तविक दुनिया की स्थितियों में डिज़ाइन और उपयोग करने के लिए महत्वपूर्ण परिणाम हैं।

इनवर्स स्केलिंग परिदृश्य को समझना

“इनवर्स स्केलिंग” परिदृश्य शोधकर्ताओं द्वारा नियंत्रित प्रयोगों के माध्यम से एंथ्रोपिक में पहली बार खोजा गया था। पारंपरिक स्केलिंग कानूनों के विपरीत, जो कहते हैं कि अधिक गणना प्रदर्शन में सुधार करती है, इन अध्ययनों से पता चला कि एआई को अधिक समय देने से उनकी सटीकता विभिन्न कार्यों में कम हो सकती है।

शोध टीम ने चार क्षेत्रों में कार्य बनाए: सरल गिनती với विक्षेप, प्रतिगमन với अप्रासंगिक विशेषताओं, निगमन với प्रतिबंध ट्रैकिंग, और जटिल एआई सुरक्षा परिदृश्य। परिणाम आश्चर्यजनक थे। कुछ मामलों में, मॉडल जो पहले सही उत्तर देते थे, अधिक समय देने के बाद गलत उत्तर देने लगे।

उदाहरण के लिए, एक सरल गिनती कार्य जैसे “कितने फल हैं अगर आपके पास एक सेब और एक नारंगी है?”, क्लाउड मॉडल अक्सर अतिरिक्त विवरणों से विचलित हो जाते थे जब उन्हें अधिक समय दिया जाता था। वे सही उत्तर देने में विफल रहते थे, जो दो है। इन मामलों में, मॉडल अधिक सोचने और गलतियाँ करने लगे।

एप्पल के हाल के शोध ने भी इन निष्कर्षों का समर्थन किया। उन्होंने टावर ऑफ हनोई और रिवर क्रॉसिंग जैसे नियंत्रित पहेली वातावरण में अपने प्रयोग किए, मानक बेंचमार्क के बजाय। उनके अध्ययन में तीन पैटर्न दिखाई दिए: सरल कार्यों में, मानक एआई मॉडल तर्क मॉडल की तुलना में अधिक कुशलता से सही उत्तर देते थे; मध्यम जटिलता वाले कार्यों में, तर्क मॉडल में एक फायदा था; और बहुत जटिल कार्यों में, दोनों प्रकार के मॉडल संघर्ष करते थे।

एआई तर्क की पांच विफलताएं

शोधकर्ताओं ने पाया है कि एआई मॉडल लंबे समय तक सोचते रहने पर पांच सामान्य तरीकों से विफल हो सकते हैं:

1. अप्रासंगिक विक्षेप: जब एआई मॉडल बहुत लंबे समय तक सोचते हैं, तो वे अक्सर अप्रासंगिक विवरणों से विचलित हो जाते हैं। यह एक छात्र की तरह है जो समस्या के मुख्य बिंदु को याद करते हुए गहराई से सोचता है।
2. समस्या फ्रेम पर अधिक फिट: कुछ मॉडल, जैसे कि ओपनएआई के ओ-सीरीज, समस्या प्रस्तुति पर बहुत अधिक ध्यान केंद्रित करते हैं। जबकि वे विक्षेपों से बचते हैं, वे लचीले नहीं होते हैं और समस्या के फ्रेम पर निर्भर रहते हैं।
3. स्प्यूरियस संबंध परिवर्तन: समय के साथ, एआई मॉडल तर्कसंगत धारणाओं से भ्रामक संबंधों पर निर्भर करने लगते हैं। उदाहरण के लिए, प्रतिगमन कार्यों में, मॉडल पहले प्रासंगिक विशेषताओं पर विचार करते हैं, लेकिन जब उन्हें अधिक समय दिया जाता है, तो वे अप्रासंगिक विशेषताओं पर ध्यान केंद्रित करने लगते हैं और गलत परिणाम देते हैं।
4. फोकस ह्रास: जैसे ही कार्य जटिल होते हैं, एआई मॉडल अपने तर्क को स्पष्ट और केंद्रित रखने में कठिनाई महसूस करते हैं।
5. चिंताजनक व्यवहार को बढ़ावा: अधिक समय देने से नकारात्मक व्यवहार और बढ़ सकते हैं। उदाहरण के लिए, क्लाउड के सोनेट 4 में बंद करने के परिदृश्यों पर अधिक समय देने पर स्व-संरक्षण प्रवृत्ति मजबूत हुई।

एआई तर्क जटिलता का सामना कैसे करता है

एप्पल शोधकर्ताओं ने “इल्यूजन ऑफ थिंकिंग” शब्द का उपयोग किया ताकि यह समझाया जा सके कि तर्क मॉडल जटिलता के विभिन्न स्तरों वाले कार्यों का सामना कैसे करते हैं। उन्होंने गणितीय समस्याओं या कोडिंग परीक्षणों पर ध्यान केंद्रित करने के बजाय, टावर ऑफ हनोई, चेकर जंपिंग, रिवर क्रॉसिंग, और ब्लॉक्स वर्ल्ड जैसे नियंत्रित पहेली वातावरण में एआई तर्क मॉडल का परीक्षण किया। इन पहेलियों की कठिनाई धीरे-धीरे बढ़ाकर, वे देख सकते थे कि मॉडल प्रत्येक स्तर पर कैसा प्रदर्शन करते हैं। इस विधि ने उन्हें न केवल अंतिम उत्तरों का परीक्षण करने की अनुमति दी, बल्कि यह भी देखा कि मॉडल उन उत्तरों तक कैसे पहुंचे। अध्ययन में तीन स्पष्ट पैटर्न पाए गए जो मॉडल के प्रदर्शन और समस्या जटिलता के बीच संबंध को दर्शाते हैं:

• सरल पहेलियों जैसे कि टावर ऑफ हनोई में एक या दो डिस्क के लिए, मानक बड़े भाषा मॉडल अधिक कुशलता से सही उत्तर देते हैं। एआई तर्क मॉडल अक्सर अपनी लंबी तर्क श्रृंखला के माध्यम से चीजों को जटिल बना देते हैं, जो अक्सर गलत उत्तरों की ओर ले जाता है।
• मध्यम जटिलता वाली पहेलियों में, एआई तर्क मॉडल बेहतर प्रदर्शन करते हैं। वे समस्याओं को स्पष्ट चरणों में तोड़ सकते हैं, जो उन्हें मानक बड़े भाषा मॉडल की तुलना में बहु-चरणीय चुनौतियों को अधिक प्रभावी ढंग से हल करने में मदद करता है।
• बहुत जटिल पहेलियों में, जैसे कि टावर ऑफ हनोई में कई डिस्क, दोनों प्रकार के मॉडल संघर्ष करते हैं। तर्क मॉडल अक्सर जटिलता बढ़ने के साथ अपने तर्क प्रयास को कम कर देते हैं, भले ही उनके पास पर्याप्त कंप्यूटेशनल संसाधन हों। यह “हार मानने” का व्यवहार तर्क को स्केल करने में एक महत्वपूर्ण कमजोरी को दर्शाता है।

एआई मूल्यांकन की चुनौती

इनवर्स स्केलिंग परिदृश्य एआई मॉडल का मूल्यांकन करने के तरीके में महत्वपूर्ण समस्याएं प्रस्तुत करता है। कई वर्तमान बेंचमार्क केवल अंतिम उत्तरों की सटीकता को मापते हैं, तर्क प्रक्रिया की गुणवत्ता को नहीं। यह एक मॉडल की वास्तविक क्षमताओं के बारे में गलत धारणा पैदा कर सकता है। एक मॉडल परीक्षण में अच्छा प्रदर्शन कर सकता है लेकिन नए या असामान्य समस्याओं का सामना करने में विफल हो सकता है।

इनवर्स स्केलिंग तर्क बेंचमार्क और उनके उपयोग में कमजोरियों की ओर भी इशारा करता है। कई मॉडल शॉर्टकट और पैटर्न पहचान का उपयोग करते हैं, बजाय सच्चे तर्क के। यह उन्हें अधिक बुद्धिमान बना सकता है, लेकिन वास्तविक दुनिया की स्थितियों में उनका प्रदर्शन अक्सर गिर जाता है। यह समस्या बड़े एआई मुद्दों, जैसे कि हॉलुसिनेशन और विश्वसनीयता से संबंधित है।

एआई तर्क का भविष्य

इनवर्स स्केलिंग परिदृश्य एआई के लिए एक चुनौती और अवसर दोनों है। यह दिखाता है कि अधिक कंप्यूटिंग पावर जोड़ना हमेशा एआई को अधिक बुद्धिमान नहीं बनाता है। हमें एआई प्रणालियों को डिज़ाइन और प्रशिक्षित करने के तरीके को पुनःविचार करने की आवश्यकता है जो विभिन्न जटिलता वाली समस्याओं को संभाल सकती हैं। नए मॉडलों को यह तय करने में सक्षम होने की आवश्यकता होगी कि कब रुककर सोचना है और कब तेजी से प्रतिक्रिया देनी है। इस संदर्भ में, एआई को संज्ञानात्मक वास्तुकला जैसे कि द्वि-प्रक्रिया सिद्धांत से लाभ हो सकता है, जो मानव विचार को तेज, प्रवृत्तिपूर्ण प्रतिक्रियाओं और धीमी, सावधानीपूर्वक तर्क के मिश्रण के रूप में समझाता है। इनवर्स स्केलिंग हमें यह भी याद दिलाता है कि हमें एआई के निर्णय लेने की प्रक्रिया को पूरी तरह से समझने की आवश्यकता है trước कि हम इसे महत्वपूर्ण क्षेत्रों में उपयोग करें। जैसे ही एआई स्वास्थ्य सेवा, कानून और व्यवसाय जैसे क्षेत्रों में निर्णय लेने के लिए अधिक उपयोग किया जाता है, यह सुनिश्चित करना और भी महत्वपूर्ण हो जाता है कि ये प्रणालियां सही तरीके से तर्क करती हैं।

नीचे की रेखा

इनवर्स स्केलिंग परिदृश्य एआई विकास में एक महत्वपूर्ण सबक सिखाता है। अधिक समय और कंप्यूटिंग पावर हमेशा एआई को अधिक कुशल या विश्वसनीय नहीं बनाते हैं। वास्तविक प्रगति एआई को कब सोचना चाहिए और इसकी सीमाओं को जानने से आती है। संगठनों और शोधकर्ताओं के लिए, यह आवश्यक है कि वे एआई का उपयोग एक उपकरण के रूप में करें, मानव निर्णय के विकल्प के रूप में नहीं। प्रत्येक कार्य के लिए सही मॉडल चुनना आवश्यक है। जैसे ही एआई महत्वपूर्ण निर्णय लेने में शामिल होता है, हमें इसकी ताकत और कमजोरियों का सावधानीपूर्वक मूल्यांकन करना चाहिए। एआई का भविष्य सही तर्क पर निर्भर करता है, न कि अधिक सोचने पर।