आत्मविश्वास से गलत: क्यों सबसे चतुर एआई मॉडल स्वयं को सुधारने में सबसे खराब हैं

एआई समुदाय में कई लोग मानते हैं कि अगली बड़ी क्रांति स्व-निर्मित एआई का युग होगा, जहां एआई मानव हस्तक्षेप के बिना स्वयं को सुधार सकता है। तर्क यह है: जैसे ही मॉडल अधिक क्षमतावान होते जाते हैं, वे अंततः न केवल डेटा से, बल्कि स्वयं से भी सीखेंगे। प्रत्येक पुनरावृत्ति पिछले को परिष्कृत करेगी। त्रुटियों का पता लगाया जाएगा, सुधारा जाएगा और उन्हें समाप्त किया जाएगा। समय के साथ, सुधारों का यह संयोजन एक बुद्धिमत्ता विस्फोट को ट्रिगर कर सकता है जहां एआई एआई का निर्माण शुरू कर देता है। इस दृष्टिकोण के केंद्र में एआई प्रणालियों की क्षमता है जो अपनी गलतियों को स्वयं ठीक कर सकती हैं। हालांकि, बिना मजबूत स्व-सुधार के, स्व-निर्मितता प्राप्त नहीं की जा सकती है। एक प्रणाली जो यह नहीं पहचान सकती है कि वह गलत है, अपने स्वयं के आउटपुट से अर्थपूर्ण रूप से सीख नहीं सकती है, चाहे वह कितनी भी शक्तिशाली क्यों न दिखाई दे।

प्रचलित धारणा यह रही है कि स्व-सुधार स्वाभाविक रूप से तब उत्पन्न होगा जब मॉडल अधिक क्षमतावान होंगे। यह विश्वास सहज लगता है। आखिरकार, मजबूत मॉडल अधिक जानते हैं, बेहतर तर्क देते हैं और कार्यों में अच्छा प्रदर्शन करते हैं। हालांकि, हाल के शोध एक विपरीत परिणाम का खुलासा करते हैं कि अधिक उन्नत मॉडल अक्सर अपनी गलतियों को ठीक करने में कमजोर मॉडलों की तुलना में संघर्ष करते हैं। इस घटना को सटीकता-सुधार विरोधाभास के रूप में जाना जाता है, जो हमें न केवल एआई प्रणालियों के तर्क के बारे में बल्कि स्व-निर्मित एआई के लिए हमारी तैयारी के बारे में भी पुनर्विचार करने के लिए मजबूर करता है।

स्व-निर्मित एआई को समझना

स्व-निर्मित एआई एक एआई प्रणाली को संदर्भित करता है जो अपनी गलतियों की पहचान कर सकती है, उनसे सीख सकती है और अपने व्यवहार को पुनरावृत्त रूप से परिष्कृत कर सकती है। पारंपरिक मॉडलों के विपरीत, जो मानव द्वारा क्यूरेटेड प्रशिक्षण डेटा पर भरोसा करते हैं, स्व-निर्मित एआई अपने स्वयं के आउटपुट का मूल्यांकन करेगी और समय के साथ अनुकूलन करेगी। सिद्धांत रूप में, यह एक फीडबैक लूप बनाता है जहां प्रत्येक सीखने का चक्र पिछले पर निर्माण करता है, जो अक्सर बुद्धिमत्ता विस्फोट के रूप में वर्णित होता है।

लेकिन इस लक्ष्य को प्राप्त करना बहुत ही मामूली नहीं है। स्व-निर्मितता के लिए केवल कच्ची गणनात्मक शक्ति या बड़े डेटासेट की आवश्यकता नहीं है। इसके लिए विश्वसनीय स्व-मूल्यांकन की आवश्यकता है, जिसमें त्रुटियों का पता लगाने, उनके स्रोतों की पहचान करने और सुधारित समाधान उत्पन्न करने की क्षमता शामिल है। इन क्षमताओं के बिना, एक मॉडल एक सही तर्क पथ और एक दोषपूर्ण पथ के बीच अंतर नहीं कर सकता है। गलत समाधान पर पुनरावृत्ति करना, चाहे वह कितनी भी तेजी से क्यों न हो, केवल त्रुटियों को मजबूत करता है, प्रदर्शन में सुधार नहीं करता है।

यह अंतर महत्वपूर्ण है। मानवों में, गलतियों से सीखने में अक्सर प्रतिबिंब, परिकल्पना परीक्षण और पाठ्यक्रम सुधार शामिल होता है। एआई के लिए, इन प्रक्रियाओं को स्वयं प्रणाली में एन्कोड किया जाना चाहिए। यदि एक मॉडल अपनी त्रुटियों को विश्वसनीय रूप से पहचान और सुधार नहीं कर सकता है, तो यह स्व-निर्मितता लूप में अर्थपूर्ण रूप से भाग नहीं ले सकता है, और पुनरावृत्त बुद्धिमत्ता का वादा सैद्धांतिक बना रहता है, व्यावहारिक नहीं।

सटीकता-सुधार विरोधाभास

स्व-सुधार को अक्सर एकल क्षमता के रूप में माना जाता है, लेकिन वास्तव में यह कई अलग-अलग क्षमताओं को शामिल करता है जिन्हें अलग से विचार किया जाना चाहिए। कम से कम, हम इसे तीन मापनीय उप-क्षमताओं में विभाजित कर सकते हैं: त्रुटि का पता लगाना, त्रुटि स्थानीयकरण या स्रोत का पता लगाना, और त्रुटि सुधार। त्रुटि का पता लगाना पूछता है कि क्या एक मॉडल अपने आउटपुट को गलत मान सकता है। त्रुटि स्थानीयकरण त्रुटि के स्थान की पहचान पर केंद्रित है। त्रुटि सुधार सुधारित समाधान उत्पन्न करने की क्षमता को संदर्भित करता है।

इन क्षमताओं को अलग से मापकर, शोधकर्ता वर्तमान प्रणालियों की सीमाओं के बारे में महत्वपूर्ण अंतर्दृष्टि प्रकट करते हैं। वे दिखाते हैं कि मॉडल इन क्षमताओं में व्यापक रूप से भिन्न होते हैं। कुछ मॉडल त्रुटियों का पता लगाने में अच्छे हैं लेकिन उन्हें ठीक करने में खराब हैं। अन्य त्रुटियों को मुश्किल से पहचान सकते हैं फिर भी उन्हें दोहराए जाने वाले प्रयासों के माध्यम से ठीक कर सकते हैं। अधिक महत्वपूर्ण बात यह है कि ये अंतर्दृष्टि यह बताती है कि एक क्षेत्र में सुधार दूसरों में सुधार की गारंटी नहीं देता है।

जब शोधकर्ताओं ने जटिल गणितीय तर्क कार्यों पर उन्नत मॉडल का परीक्षण किया, तो इन मॉडलों ने कम त्रुटियां कीं। यह भाग अपेक्षित था। जो अप्रत्याशित था वह यह था कि: जब इन मॉडलों ने त्रुटियां कीं, तो वे उन्हें स्वयं ठीक करने में कम सक्षम थे। इसके विपरीत, कमजोर मॉडल, जो अधिक त्रुटियां करते थे, बाहरी प्रतिक्रिया के बिना अपनी त्रुटियों को ठीक करने में काफी बेहतर थे। दूसरे शब्दों में, शोधकर्ताओं ने पाया कि सटीकता और स्व-सुधार विपरीत दिशाओं में चलते हैं, जिसे वे सटीकता-सुधार विरोधाभास के रूप में संदर्भित करते हैं। यह खोज एआई विकास में एक गहराई से धारणा को चुनौती देती है। हम अक्सर मानते हैं कि मॉडल को स्केल करने से हर पहलू में बुद्धिमत्ता में सुधार होता है। विरोधाभास दिखाता है कि यह धारणा हमेशा सही नहीं होती है, खासकर आत्म-निरीक्षण क्षमताओं के लिए।

त्रुटि गहराई परिकल्पना

यह विरोधाभास एक स्पष्ट प्रश्न को जन्म देता है: क्यों कमजोर मॉडल स्व-सुधार में मजबूत मॉडलों से बेहतर प्रदर्शन करते हैं? शोधकर्ता इस प्रश्न का उत्तर मॉडल द्वारा की जाने वाली त्रुटियों के प्रकार की जांच करके पाते हैं। उन्होंने पाया कि मजबूत मॉडल कम त्रुटियां करते हैं, लेकिन वे त्रुटियां जो वे करते हैं वे “गहरी” होती हैं और सुधार के लिए प्रतिरोधी होती हैं। इसके विपरीत, कमजोर मॉडल “उप-त्रुटियां” करते हैं जो दूसरे पास में आसानी से ठीक हो जाती हैं।

शोधकर्ता इस अंतर्दृष्टि को त्रुटि गहराई परिकल्पना के रूप में संदर्भित करते हैं। वे त्रुटियों को सेटअप, तर्क और गणना त्रुटियों में वर्गीकृत करते हैं। सेटअप त्रुटियां समस्या को गलत तरीके से व्याख्या करने में शामिल होती हैं। तर्क त्रुटियां तब होती हैं जब तर्क पथ संरचनात्मक रूप से दोषपूर्ण होता है। गणना त्रुटियां सरल अंकगणितीय चूक हैं। GPT-3.5 के लिए, त्रुटियों का अधिकांश (62%) सरल गणना त्रुटियां हैं। ये उथली त्रुटियां हैं। जब प्रॉम्प्ट “सावधानी से जांचें” दिया जाता है, तो मॉडल अक्सर गणितीय चूक का पता लगा सकता है और इसे ठीक कर सकता है। हालांकि, डीपसीक के लिए, 77% त्रुटियां सेटअप या तर्क त्रुटियां हैं। ये गहरी विफलताएं मॉडल को अपने दृष्टिकोण को मौलिक रूप से पुनर्विचार करने की आवश्यकता है। मजबूत मॉडल इस कारण से संघर्ष करते हैं क्योंकि वे अपने प्रारंभिक तर्क पथ से चिपक जाते हैं। जैसे ही मॉडल की बुद्धिमत्ता बढ़ती है, केवल सबसे मजबूत और कठिन त्रुटियां ही शेष रहती हैं।

त्रुटि का पता लगाना सुधार की गारंटी नहीं देता

शोध की सबसे आश्चर्यजनक खोजों में से एक यह है कि त्रुटि का पता लगाना सुधार की क्षमता से संबंधित नहीं है। एक मॉडल अपने उत्तर को गलत मान सकता है और फिर भी इसे ठीक करने में विफल हो सकता है। दूसरा मॉडल त्रुटियों का पता लगाने में कमजोर हो सकता है और फिर भी दोहराए जाने वाले प्रयासों के माध्यम से सुधार कर सकता है। क्लॉड-3-हाइकु सबसे ड्रामेटिक उदाहरण प्रदान करता है। क्लॉड ने केवल 10.1% अपनी त्रुटियों का पता लगाया, जो सभी परीक्षण किए गए मॉडलों में सबसे कम था। इसके बावजूद, इसने 29.1% की उच्चतम स्व-सुधार दर हासिल की। तुलना में, GPT-3.5 ने 81.5% त्रुटियों का पता लगाया लेकिन केवल 26.8% को ठीक किया।

यह सुझाव देता है कि कुछ मॉडल अपनी त्रुटियों को “अनजाने में” ठीक कर सकते हैं bằng सिर्फ समस्या को एक अलग नमूना पथ के माध्यम से फिर से हल करके, भले ही वे पहले प्रयास में गलत होने का एहसास न करें। यह डिस्कनेक्ट वास्तविक दुनिया के निर्माण के लिए खतरनाक है। जब एक मॉडल अति आत्मविश्वासी होता है और अपनी तार्किक त्रुटियों का पता लगाने में विफल रहता है, तो यह एक प्लॉज़िबल लेकिन पूरी तरह से गलत व्याख्या को सच के रूप में प्रस्तुत कर सकता है। कुछ मामलों में, मॉडल को अपनी त्रुटियों की पहचान करने के लिए प्रेरित करना स्थिति को और खराब कर सकता है। जब एक मॉडल गलत तरीके से यह निर्धारित करता है कि वह कहां गलत हुआ, तो यह एक दोषपूर्ण व्याख्या से चिपक जाता है और त्रुटि पर दोगुना हो जाता है। इसके बजाय मदद करने के, स्व-उत्पन्न संकेत मॉडल को गलत तर्क पथ में लॉक कर सकते हैं। यह व्यवहार मानव संज्ञानात्मक पूर्वाग्रह को दर्शाता है। एक बार जब हमें लगता है कि हम जानते हैं कि क्या गलत हुआ, तो हम गहरे कारणों की तलाश बंद कर देते हैं।

पुनरावृत्ति मदद करती है, लेकिन समान रूप से नहीं

शोध यह भी दिखाता है कि पुनरावृत्ति प्रतिबिंब अक्सर परिणामों में सुधार करता है, लेकिन सभी मॉडल समान रूप से लाभान्वित नहीं होते हैं। कमजोर मॉडल पुनरावृत्ति से काफी लाभान्वित होते हैं क्योंकि प्रत्येक पुनरावृत्ति उन्हें अपनी सतह स्तर की समस्याओं को ठीक करने का एक और मौका देती है। मजबूत मॉडल पुनरावृत्ति से बहुत कम लाभ प्राप्त करते हैं। उनकी त्रुटियां आसानी से दोहराव द्वारा हल नहीं होती हैं। बाहरी मार्गदर्शन के बिना, अतिरिक्त प्रयास अक्सर एक ही दोषपूर्ण तर्क को अलग-अलग शब्दों में पुन: उत्पन्न करते हैं। यह अंतर्दृष्टि सुझाव देती है कि स्व-परिष्करण तकनीकें सार्वभौमिक रूप से प्रभावी नहीं हैं। उनकी सफलता मॉडल की बुद्धिमत्ता पर निर्भर नहीं करती है, बल्कि की जाने वाली त्रुटियों की प्रकृति पर निर्भर करती है।

एआई सिस्टम डिज़ाइन के लिए इसका क्या अर्थ है

इन अंतर्दृष्टि व्यावहारिक निहितार्थ लाती हैं। पहले, हमें यह मानना बंद करना चाहिए कि उच्च सटीकता बेहतर स्व-सुधार का अर्थ है। स्व-परिष्करण पर निर्भर प्रणालियों का स्व-सुधार व्यवहार के लिए, न केवल अंतिम प्रदर्शन के लिए, स्पष्ट रूप से परीक्षण किया जाना चाहिए। दूसरा, विभिन्न मॉडलों को विभिन्न हस्तक्षेप रणनीतियों की आवश्यकता हो सकती है। कमजोर मॉडल सरल सत्यापन और पुनरावृत्ति से लाभान्वित हो सकते हैं। मजबूत मॉडल बाहरी प्रतिक्रिया, संरचित सत्यापन या उपकरण-आधारित जांच की आवश्यकता हो सकती है ताकि गहरी तर्क त्रुटियों को दूर किया जा सके। तीसरा, स्व-सुधार पाइपलाइनें त्रुटि के बारे में जागरूक होनी चाहिए। यह समझना कि क्या एक कार्य उथली या गहरी त्रुटियों के लिए प्रवण है, यह निर्धारित करने में मदद कर सकता है कि क्या स्व-सुधार बिल्कुल भी काम करेगा। अंत में, मूल्यांकन बेंचमार्क को पता लगाने, स्थानीयकरण और सुधार को अलग-अलग माप के रूप में व्यवहार करना चाहिए। उन्हें एकल उपाय के रूप में मानना वास्तविक दुनिया के निर्माण में महत्वपूर्ण कमजोरियों को छुपाता है।

नीचे की रेखा

स्व-निर्मित एआई न केवल सही उत्तर उत्पन्न करने पर निर्भर करती है, बल्कि गलत उत्तरों को पहचानने, निदान करने और संशोधित करने की क्षमता पर भी निर्भर करती है। सटीकता-सुधार विरोधाभास यह बताता है कि मजबूत मॉडल इस कार्य में स्वचालित रूप से बेहतर नहीं हैं। जैसे ही मॉडल अधिक क्षमतावान होते जाते हैं, उनकी त्रुटियां गहरी, पता लगाने में कठिन और स्व-सुधार के लिए प्रतिरोधी होती जाती हैं। इसका अर्थ है कि मॉडल स्केलिंग में प्रगति अकेले पर्याप्त नहीं है। यदि हम वास्तव में उन त्रुटियों से सीखने में सक्षम एआई प्रणालियों का निर्माण करना चाहते हैं, तो स्व-सुधार को एक अलग क्षमता के रूप में माना जाना चाहिए, जिसे स्पष्ट रूप से मापा, प्रशिक्षित और समर्थित किया जाना चाहिए।