एआई तर्क का भ्रम: क्यों श्रृंखला-विचार हमें जो लगता है वह नहीं हो सकता है

बड़े भाषा मॉडल (एलएलएम) ने हमें जटिल समस्याओं को चरणबद्ध तरीके से तोड़ने की उनकी क्षमता से प्रभावित किया है। जब हम एलएलएम से एक गणित समस्या हल करने के लिए कहते हैं, तो वे अब अपना काम दिखाते हैं, प्रत्येक तार्किक चरण के माध्यम से चलते हुए उत्तर तक पहुंचने से पहले। इस दृष्टिकोण को श्रृंखला-विचार (सीओटी) तर्क कहा जाता है, जिसने एआई प्रणालियों को अधिक मानवीय बना दिया है उनकी सोच प्रक्रिया में। लेकिन अगर यह प्रभावशाली तर्क क्षमता वास्तव में एक भ्रम है? एरिजोना स्टेट यूनिवर्सिटी से नए शोध से पता चलता है कि जो वास्तविक तार्किक सोच की तरह लगता है वह वास्तव में एक जटिल पैटर्न मिलान तकनीक हो सकती है। इस लेख में, हम इस खोज का अन्वेषण करेंगे और इसके एआई प्रणालियों के डिजाइन, मूल्यांकन और विश्वास पर प्रभावों का विश्लेषण करेंगे।

वर्तमान समझ की समस्या

श्रृंखला-विचार प्रॉम्प्टिंग एआई तर्क में सबसे पहचानने योग्य प्रगति बन गई है। यह मॉडल को गणितीय समस्याओं से लेकर तार्किक पहेली तक मध्यवर्ती चरणों के माध्यम से अपना काम दिखाकर सब कुछ संभालने की अनुमति देता है। यह स्पष्ट तर्क क्षमता ने कई लोगों को यह विश्वास दिलाया है कि एआई प्रणालियां मानव सोच के समान अनुमानित क्षमताएं विकसित कर रही हैं। हालांकि, शोधकर्ताओं ने इस विश्वास को चुनौती देना शुरू कर दिया है।

एक हालिया अध्ययन में, उन्होंने देखा कि जब उनसे पूछा गया कि क्या संयुक्त राज्य अमेरिका एक लीप वर्ष में या एक सामान्य वर्ष में स्थापित किया गया था, तो एलएलएम ने एक असंगत उत्तर दिया। जबकि वे सही ढंग से यह पहचान लेते हैं कि 1776 4 से विभाज्य है और यह एक लीप वर्ष था, मॉडल अभी भी निष्कर्ष निकालते हैं कि संयुक्त राज्य अमेरिका एक सामान्य वर्ष में स्थापित किया गया था। इस मामले में, मॉडल ने नियमों का ज्ञान प्रदर्शित किया और तार्किक चरण दिखाए, लेकिन एक विरोधाभासी निष्कर्ष पर पहुंचे।

ऐसे उदाहरण सुझाव देते हैं कि वहां तर्क और वास्तविक तार्किक अनुमान के बीच एक मूलभूत अंतर हो सकता है।

एआई तर्क को समझने के लिए एक नया दृष्टिकोण

इस शोध का एक प्रमुख नवाचार “डेटा वितरण लेंस” की शुरुआत है जिसका उपयोग श्रृंखला-विचार (सीओटी) तर्क की जांच के लिए किया जाता है। शोधकर्ताओं ने अनुमान लगाया कि सीओटी वास्तविक तार्किक तर्क के बजाय एक उन्नत पैटर्न मिलान तकनीक है जो प्रशिक्षण डेटा में सांख्यिकीय नियमितताओं पर काम करती है। मॉडल तर्क मार्ग उत्पन्न करता है जो पहले देखे गए लोगों की नकल करता है, तार्किक संचालन करने के बजाय।

इस гипотез का परीक्षण करने के लिए, शोधकर्ताओं ने डेटाल्केमी, एक नियंत्रित प्रयोगात्मक वातावरण बनाया। उन्होंने बड़े पूर्व-प्रशिक्षित एलएलएम के साथ परीक्षण नहीं किया, जिनके जटिल प्रशिक्षण इतिहास थे, बल्कि उन्होंने छोटे मॉडलों को सावधानी से डिज़ाइन किए गए कार्यों पर शून्य से प्रशिक्षित किया। यह दृष्टिकोण बड़े पैमाने पर पूर्व-प्रशिक्षण की जटिलता को समाप्त करता है और यह सुनिश्चित करता है कि वितरण बदलाव तर्क प्रदर्शन को कैसे प्रभावित करते हैं।

शोधकर्ताओं ने अक्षरों की श्रृंखला में सरल रूपांतरण कार्यों पर ध्यान केंद्रित किया। उदाहरण के लिए, उन्होंने मॉडल को अक्षरों को अल्फाबेट में घुमाने (ए एन बन जाता है, बी ओ बन जाता है) या एक श्रृंखला में स्थिति बदलने (एप्पल ईएपीपीएल बन जाता है) जैसे संचालन लागू करने के लिए सिखाया। इन संचालन को जोड़कर, शोधकर्ताओं ने विभिन्न जटिलताओं के बहु-चरण तर्क श्रृंखलाएं बनाईं। इस दृष्टिकोण ने उन्हें सटीकता का लाभ दिया। वे नियंत्रित कर सकते थे कि मॉडल ने प्रशिक्षण के दौरान क्या सीखा और फिर यह जांचा कि वे नई स्थितियों में कैसे सामान्यीकृत हुए। यह स्तर का नियंत्रण बड़े व्यावसायिक एआई प्रणालियों के साथ असंभव है जो विशाल, विविध डेटासेट पर प्रशिक्षित होते हैं।

एआई तर्क कब टूट जाता है

शोधकर्ताओं ने तीन महत्वपूर्ण आयामों पर सीओटी तर्क का परीक्षण किया जहां वास्तविक दुनिया के अनुप्रयोग प्रशिक्षण डेटा से भिन्न हो सकते हैं।

कार्य सामान्यीकरण ने यह जांचा कि मॉडल नए समस्याओं को कैसे संभालते हैं जिनका उन्होंने पहले सामना नहीं किया है। जब उन्हें प्रशिक्षण डेटा के समान परिवर्तनों का परीक्षण किया गया, तो मॉडल ने सही प्रदर्शन हासिल किया। हालांकि, हल्के बदलाव ने उनकी तर्क क्षमता में नाटकीय विफलता का कारण बना। यहां तक कि जब नई कार्य प्रसिद्ध संचालन के संयोजन थे, मॉडल सही तरीके से अपने सीखे हुए पैटर्न को लागू करने में विफल रहे।

एक सबसे चिंताजनक अंतर्दृष्टि यह थी कि मॉडल अक्सर तर्क चरणों का उत्पादन करते थे जो पूरी तरह से संरचित और तार्किक लगते थे लेकिन गलत उत्तरों की ओर ले जाते थे। कुछ मामलों में, उन्होंने संयोग से सही उत्तर दिए जबकि पूरी तरह से गलत तर्क मार्ग का पालन किया। ये निष्कर्ष सुझाव देते हैं कि मॉडल वास्तव में सतही पैटर्न का मिलान करते हैं न कि अंतर्निहित तर्क को समझते हैं।

लंबाई सामान्यीकरण ने यह जांचा कि क्या मॉडल तर्क श्रृंखलाओं को संभाल सकते हैं जो प्रशिक्षण में मौजूद लंबाई से लंबी या छोटी हैं। शोधकर्ताओं ने पाया कि मॉडल जो लंबाई 4 पर प्रशिक्षित थे वे लंबाई 3 या 5 पर पूरी तरह से विफल हो गए,尽管 यह अपेक्षाकृत मामूली बदलाव थे। इसके अलावा, मॉडल ने अपनी तर्क को परिचित पैटर्न लंबाई में मजबूर करने का प्रयास किया, अनुचित रूप से चरण जोड़कर या हटाकर, नए आवश्यकताओं के अनुकूल होने के बजाय।

प्रारूप सामान्यीकरण ने समस्याओं की प्रस्तुति में सतही स्तर के बदलावों के प्रति संवेदनशीलता का मूल्यांकन किया। यहां तक कि छोटे बदलाव, जैसे कि शोर टोकन डालना या प्रॉम्प्ट संरचना को थोड़ा संशोधित करना, महत्वपूर्ण प्रदर्शन हानि का कारण बने। यह दिखाया कि मॉडल प्रशिक्षण डेटा से प्राप्त पैटर्न पर कितने निर्भर हैं।

भंगुरता समस्या

तीनों आयामों पर, शोध ने एक सुसंगत पैटर्न का खुलासा किया: सीओटी तर्क प्रशिक्षण उदाहरणों के समान डेटा पर अच्छा काम करता है लेकिन भंगुर और विफलता के लिए अतिसंवेदनशील हो जाता है जब मॉडल अज्ञात स्थितियों का सामना करते हैं। स्पष्ट तर्क क्षमता वास्तव में एक “भंगुर भ्रम” है जो असामान्य परिस्थितियों में गायब हो जाता है।

यह भंगुरता कई तरह से प्रकट हो सकती है। मॉडल पूरी तरह से गलत तर्क श्रृंखलाएं उत्पन्न कर सकते हैं जो फ्लूएंट और संरचित हैं। वे सही तार्किक रूप का पालन कर सकते हैं जबकि मूलभूत तार्किक कनेक्शनों को याद करते हैं। कभी-कभी वे संयोग से सही उत्तर देते हैं जबकि दोषपूर्ण तर्क प्रक्रियाओं का प्रदर्शन करते हैं।

शोध ने यह भी दिखाया कि पर्यवेक्षित फाइन-ट्यूनिंग छोटी मात्रा में नए डेटा पर तेजी से प्रदर्शन को बहाल कर सकती है, लेकिन यह केवल मॉडल के पैटर्न मिलान प्रतिलिपि को विस्तारित करता है, वास्तविक तर्क क्षमता विकसित नहीं करता है। यह एक नई प्रकार की गणित समस्या को हल करने के लिए विशिष्ट उदाहरणों को याद रखने के समान है, अंतर्निहित गणितीय सिद्धांतों को समझने के बजाय।

वास्तविक दुनिया के निहितार्थ

इन निष्कर्षों के वास्तविक दुनिया के अनुप्रयोगों पर गंभीर प्रभाव हो सकते हैं। चिकित्सा, वित्त या कानूनी विश्लेषण जैसे उच्च जोखिम वाले क्षेत्रों में, तर्क की प्रतीत होने वाली लेकिन मूल रूप से दोषपूर्ण क्षमता का उत्पादन करने की क्षमता साधारण गलत उत्तरों से अधिक खतरनाक हो सकती है। तार्किक सोच का आगमन उपयोगकर्ताओं को एआई निष्कर्षों में अनुचित विश्वास की ओर ले जा सकता है।

शोध से एआई पрак्टिशनरों के लिए कई महत्वपूर्ण दिशानिर्देश सामने आते हैं। सबसे पहले, संगठनों को सीओटी को सार्वभौमिक समस्या-समाधान समाधान के रूप में नहीं मानना चाहिए। प्रशिक्षण सेटों के समान डेटा का उपयोग करके मानक परीक्षण दृष्टिकोण सीओटी की वास्तविक तर्क क्षमता का मूल्यांकन करने के लिए पर्याप्त नहीं हैं। इसके बजाय, वितरण परीक्षण के लिए कठोर परीक्षण आवश्यक है ताकि मॉडल की सीमाओं को समझा जा सके।

दूसरा, “फ्लूएंट बकवास” के उत्पादन की प्रवृत्ति के लिए सावधानीपूर्वक मानव पर्यवेक्षण की आवश्यकता है, विशेष रूप से महत्वपूर्ण अनुप्रयोगों में। एआई द्वारा उत्पन्न तर्क श्रृंखलाओं की सुसंगत संरचना मूलभूत तार्किक त्रुटियों को छुपा सकती है जो तुरंत स्पष्ट नहीं हो सकती हैं।

पैटर्न मिलान से परे देखना

शायद सबसे महत्वपूर्ण बात, यह शोध एआई समुदाय को सतही सुधारों से परे वास्तविक तर्क क्षमता वाली प्रणालियों को विकसित करने की चुनौती देता है। वर्तमान दृष्टिकोण जो डेटा और पैरामीटर को स्केल करने पर निर्भर करते हैं वे सीमित हो सकते हैं यदि वे मुख्य रूप से जटिल पैटर्न मिलान प्रणाली हैं।

काम में यह वर्तमान एआई प्रणालियों की व्यावहारिक उपयोगिता को कम नहीं करता है। पैमाने पर पैटर्न मिलान कई अनुप्रयोगों के लिए आश्चर्यजनक रूप से प्रभावी हो सकता है। हालांकि, यह वास्तविक तर्क क्षमता की प्रकृति को समझने के महत्व पर प्रकाश डालता है, न कि मानवीय तर्क की नकल करने वाली क्षमता को गलत तरीके से अर्थ देना।

आगे का रास्ता

इस शोध ने एआई तर्क के भविष्य के बारे में महत्वपूर्ण प्रश्न खोल दिए हैं। यदि वर्तमान दृष्टिकोण मूल रूप से प्रशिक्षण वितरण द्वारा सीमित हैं, तो वास्तविक तर्क क्षमता की ओर ले जाने वाले वैकल्पिक दृष्टिकोण क्या हो सकते हैं? हम तार्किक अनुमान और पैटर्न मिलान के बीच अंतर बताने वाले मूल्यांकन तरीके कैसे विकसित कर सकते हैं?

निष्कर्षों ने एआई विकास में पारदर्शिता और उचित मूल्यांकन के महत्व पर भी जोर दिया। जैसे-जैसे ये प्रणालियां अधिक परिष्कृत और उनके आउटपुट अधिक आश्वस्त होते जाते हैं, वास्तविक और स्पष्ट क्षमताओं के बीच का अंतर गलत समझ का कारण बन सकता है अगर इसे ठीक से नहीं समझा जाए।

नीचे की रेखा

एलएलएम में श्रृंखला-विचार तर्क अक्सर पैटर्न मिलान को दर्शाता है, न कि वास्तविक तर्क को। जबकि आउटपुट आश्वस्त दिख सकते हैं, वे नए परिस्थितियों के तहत विफल हो सकते हैं, जो चिकित्सा, कानून और विज्ञान जैसे महत्वपूर्ण क्षेत्रों के लिए चिंता का कारण बनता है। यह शोध एआई तर्क के लिए बेहतर परीक्षण और अधिक विश्वसनीय दृष्टिकोणों की आवश्यकता पर प्रकाश डालता है।