एलएलएम तर्क करने में माहिर नहीं होते - वे बस योजना बनाने में बहुत अच्छे होते हैं

बड़े भाषा मॉडल (एलएलएम) जैसे OpenAI का o3, गूगल का जेमिनी 2.0, तथा डीपसीक का R1 जटिल समस्याओं से निपटने, मानव जैसा टेक्स्ट बनाने और यहां तक ​​कि सटीकता के साथ कोड लिखने में उल्लेखनीय प्रगति दिखाई है। इन उन्नत एलएलएम को अक्सर “तर्क मॉडल” जटिल समस्याओं का विश्लेषण करने और उन्हें हल करने की उनकी उल्लेखनीय क्षमताओं के लिए। लेकिन क्या ये मॉडल वास्तव में कारणया फिर वे बस असाधारण रूप से अच्छे हैं की योजना बनायह अंतर सूक्ष्म किन्तु गहरा है, तथा इसका इस बात पर बड़ा प्रभाव पड़ता है कि हम LLM की क्षमताओं और सीमाओं को किस प्रकार समझते हैं।

इस अंतर को समझने के लिए, आइए दो परिदृश्यों की तुलना करें:

• विचारकिसी अपराध की जांच करने वाले जासूस को परस्पर विरोधी साक्ष्यों को एक साथ जोड़ना होता है, यह पता लगाना होता है कि कौन से झूठे हैं, और सीमित साक्ष्यों के आधार पर निष्कर्ष पर पहुंचना होता है। इस प्रक्रिया में अनुमान, विरोधाभास समाधान और अमूर्त सोच शामिल है।
• प्लानिंगशतरंज खिलाड़ी अपने प्रतिद्वंद्वी को मात देने के लिए चालों के सर्वोत्तम क्रम की गणना कर रहा है।

जबकि दोनों प्रक्रियाओं में कई चरण शामिल हैं, जासूस निष्कर्ष निकालने, विरोधाभासों का मूल्यांकन करने और किसी विशिष्ट मामले में सामान्य सिद्धांतों को लागू करने के लिए गहन तर्क में संलग्न होता है। दूसरी ओर, शतरंज का खिलाड़ी मुख्य रूप से योजना बनाने में लगा होता है, खेल जीतने के लिए चालों का इष्टतम क्रम चुनता है। जैसा कि हम देखेंगे, LLM जासूस की तुलना में शतरंज के खिलाड़ी की तरह अधिक कार्य करते हैं।

अंतर को समझना: तर्क बनाम योजना

यह समझने के लिए कि एलएलएम तर्क के बजाय योजना बनाने में क्यों अच्छे हैं, पहले दोनों शब्दों के बीच अंतर को समझना महत्वपूर्ण है। तर्क तर्क और अनुमान का उपयोग करके दिए गए आधारों से नए निष्कर्ष निकालने की प्रक्रिया है। इसमें विसंगतियों की पहचान करना और उन्हें ठीक करना, केवल जानकारी प्रदान करने के बजाय नई अंतर्दृष्टि उत्पन्न करना, अस्पष्ट स्थितियों में निर्णय लेना और "क्या होगा?" परिदृश्यों जैसे कारण संबंधी समझ और प्रति-तथ्यात्मक सोच में संलग्न होना शामिल है।

दूसरी ओर, नियोजन, किसी विशिष्ट लक्ष्य को प्राप्त करने के लिए क्रियाओं के अनुक्रम को संरचित करने पर केंद्रित है। यह जटिल कार्यों को छोटे चरणों में तोड़ने, ज्ञात समस्या-समाधान रणनीतियों का पालन करने, पहले से सीखे गए पैटर्न को समान समस्याओं के लिए अनुकूलित करने और नई अंतर्दृष्टि प्राप्त करने के बजाय संरचित अनुक्रमों को निष्पादित करने पर निर्भर करता है। जबकि तर्क और नियोजन दोनों में चरण-दर-चरण प्रसंस्करण शामिल है, तर्क के लिए गहन अमूर्तता और अनुमान की आवश्यकता होती है, जबकि नियोजन मौलिक रूप से नया ज्ञान उत्पन्न किए बिना स्थापित प्रक्रियाओं का पालन करता है।

एलएलएम “तर्क” के प्रति कैसे दृष्टिकोण रखते हैं

आधुनिक एलएलएम, जैसे कि ओपनएआई का o3 और डीपसीक-आर1, एक तकनीक से लैस हैं, जिसे के रूप में जाना जाता है विचार-श्रृंखला (सीओटी) तर्क करने की क्षमता, उनकी समस्या-समाधान क्षमताओं को बेहतर बनाने के लिए। यह विधि मॉडल को समस्याओं को मध्यवर्ती चरणों में तोड़ने के लिए प्रोत्साहित करती है, जिस तरह से मनुष्य किसी समस्या के बारे में तार्किक रूप से सोचते हैं। यह देखने के लिए कि यह कैसे काम करता है, एक सरल गणित समस्या पर विचार करें:

यदि कोई दुकान 2 डॉलर प्रति सेब बेचती है, लेकिन 1 से अधिक सेब खरीदने पर 5 डॉलर प्रति सेब की छूट देती है, तो 7 सेबों की कीमत कितनी होगी?

CoT प्रॉम्प्टिंग का उपयोग करने वाला एक सामान्य LLM इसे इस प्रकार हल कर सकता है:

1. नियमित मूल्य निर्धारित करें: 7 * $2 = $14.
2. पहचानें कि छूट लागू होती है (चूंकि 7 > 5)।
3. छूट की गणना करें: 7 * $1 = $7.
4. कुल राशि से छूट घटाएँ: $14 – $7 = $7.

चरणों के अनुक्रम को स्पष्ट रूप से निर्धारित करके, मॉडल उन त्रुटियों की संभावना को कम करता है जो एक बार में उत्तर की भविष्यवाणी करने की कोशिश करने से उत्पन्न होती हैं। जबकि यह चरण-दर-चरण विखंडन LLM को तर्क की तरह दिखता है, यह अनिवार्य रूप से संरचित समस्या-समाधान का एक रूप है, जो चरण-दर-चरण नुस्खा का पालन करने जैसा है। दूसरी ओर, एक सच्ची तर्क प्रक्रिया एक सामान्य नियम को पहचान सकती है: यदि छूट 5 सेबों से अधिक पर लागू होती है, तो प्रत्येक सेब की कीमत $1 होगीएक मनुष्य ऐसे नियम का तुरंत अनुमान लगा सकता है, लेकिन एलएलएम ऐसा नहीं कर सकता क्योंकि यह केवल गणनाओं के एक संरचित अनुक्रम का अनुसरण करता है।

विचार-श्रृंखला क्यों योजना है, तर्क नहीं

जबकि विचार-श्रृंखला (सीओटी) गणित की शब्द समस्याओं और कोडिंग चुनौतियों जैसे तर्क-उन्मुख कार्यों पर एलएलएम के प्रदर्शन में सुधार हुआ है, इसमें वास्तविक तार्किक तर्क शामिल नहीं है। ऐसा इसलिए है क्योंकि, CoT प्रक्रियात्मक ज्ञान का अनुसरण करता है, जो नवीन अंतर्दृष्टि उत्पन्न करने के बजाय संरचित चरणों पर निर्भर करता है। इसमें कार्य-कारण और अमूर्त संबंधों की सच्ची समझ का अभाव है, जिसका अर्थ है कि मॉडल प्रति-तथ्यात्मक सोच में संलग्न नहीं होता है या काल्पनिक स्थितियों पर विचार नहीं करता है जिसके लिए देखे गए डेटा से परे अंतर्ज्ञान की आवश्यकता होती है। इसके अतिरिक्त, CoT अपने दृष्टिकोण को उन पैटर्न से परे मौलिक रूप से नहीं बदल सकता है जिन पर इसे प्रशिक्षित किया गया है, जिससे रचनात्मक रूप से तर्क करने या अपरिचित परिदृश्यों में अनुकूलन करने की इसकी क्षमता सीमित हो जाती है।

एलएलएम को सच्ची तर्क मशीन बनने के लिए क्या करना होगा?

तो, LLM को वास्तव में मनुष्यों की तरह तर्क करने के लिए क्या चाहिए? यहाँ कुछ प्रमुख क्षेत्र दिए गए हैं जहाँ उन्हें सुधार की आवश्यकता है और इसे प्राप्त करने के संभावित तरीके:

1. प्रतीकात्मक समझ: मनुष्य अमूर्त प्रतीकों और रिश्तों में हेरफेर करके तर्क करते हैं। हालाँकि, LLM में वास्तविक प्रतीकात्मक तर्क तंत्र का अभाव है। प्रतीकात्मक AI या हाइब्रिड मॉडल को एकीकृत करना जो तंत्रिका नेटवर्क को औपचारिक तर्क प्रणालियों के साथ जोड़ते हैं, वास्तविक तर्क में संलग्न होने की उनकी क्षमता को बढ़ा सकते हैं।
2. कारण अनुमान: सही तर्क के लिए कारण और प्रभाव को समझना ज़रूरी है, न कि सिर्फ़ सांख्यिकीय सहसंबंधों को। तर्क करने वाले मॉडल को सिर्फ़ अगले टोकन की भविष्यवाणी करने के बजाय डेटा से अंतर्निहित सिद्धांतों का अनुमान लगाना चाहिए। कारण-और-प्रभाव संबंधों को स्पष्ट रूप से मॉडल करने वाले कारणात्मक एआई पर शोध, एलएलएम को योजना बनाने से तर्क करने में मदद कर सकता है।
3. आत्म प्रतिबिंब और मेटाकॉग्निशनमनुष्य लगातार प्रश्न पूछकर अपनी विचार प्रक्रियाओं का मूल्यांकन करते हैं। “क्या यह निष्कर्ष सही है?” दूसरी ओर, एलएलएम में आत्म-चिंतन के लिए कोई तंत्र नहीं होता। ऐसे मॉडल बनाना जो अपने स्वयं के आउटपुट का आलोचनात्मक मूल्यांकन कर सकें, सही तर्क की ओर एक कदम होगा।
4. सामान्य ज्ञान और अंतर्ज्ञान: भले ही एलएलएम के पास ज्ञान की विशाल मात्रा तक पहुंच है, लेकिन वे अक्सर बुनियादी सामान्य ज्ञान तर्क के साथ संघर्ष करते हैं। ऐसा इसलिए होता है क्योंकि उनके पास अपने अंतर्ज्ञान को आकार देने के लिए वास्तविक दुनिया के अनुभव नहीं होते हैं, और वे आसानी से उन बेतुकी बातों को नहीं पहचान सकते हैं जिन्हें मनुष्य तुरंत समझ लेते हैं। उनके पास अपने निर्णय लेने में वास्तविक दुनिया की गतिशीलता लाने का कोई तरीका भी नहीं है। इसे बेहतर बनाने का एक तरीका एक सामान्य ज्ञान इंजन के साथ एक मॉडल बनाना हो सकता है, जिसमें वास्तविक दुनिया के संवेदी इनपुट को एकीकृत करना या ज्ञान ग्राफ़ का उपयोग करना शामिल हो सकता है ताकि मॉडल को दुनिया को मनुष्यों की तरह बेहतर ढंग से समझने में मदद मिल सके।
5. प्रतितथ्यात्मक सोच: मानवीय तर्क में अक्सर यह पूछना शामिल होता है, “क्या होगा अगर चीजें अलग होतीं?” LLM इस तरह के “क्या होगा अगर” परिदृश्यों से जूझते हैं क्योंकि वे उस डेटा से सीमित होते हैं जिस पर उन्हें प्रशिक्षित किया गया है। इन स्थितियों में मॉडल को मनुष्यों की तरह सोचने के लिए, उन्हें काल्पनिक परिदृश्यों का अनुकरण करने और यह समझने की आवश्यकता होगी कि चर में परिवर्तन परिणामों को कैसे प्रभावित कर सकते हैं। उन्हें अलग-अलग संभावनाओं का परीक्षण करने और नई अंतर्दृष्टि के साथ आने का एक तरीका भी चाहिए, न कि केवल जो उन्होंने पहले ही देखा है उसके आधार पर भविष्यवाणी करना। इन क्षमताओं के बिना, LLM वास्तव में वैकल्पिक भविष्य की कल्पना नहीं कर सकते हैं - वे केवल उसी के साथ काम कर सकते हैं जो उन्होंने सीखा है।

निष्कर्ष

जबकि एलएलएम तर्क करने लगते हैं, वे वास्तव में जटिल समस्याओं को हल करने के लिए नियोजन तकनीकों पर निर्भर होते हैं। चाहे गणित की समस्या हल करना हो या तार्किक निष्कर्ष निकालना हो, वे मुख्य रूप से ज्ञात पैटर्न को संरचित तरीके से व्यवस्थित करते हैं, न कि उनके पीछे के सिद्धांतों को गहराई से समझते हैं। यह अंतर एआई शोध में महत्वपूर्ण है क्योंकि अगर हम परिष्कृत योजना को वास्तविक तर्क के लिए गलत समझते हैं, तो हम एआई की वास्तविक क्षमताओं को अधिक आंकने का जोखिम उठाते हैं।

सच्चे तर्क वाले AI के मार्ग पर जाने के लिए टोकन भविष्यवाणी और संभाव्य नियोजन से परे मौलिक प्रगति की आवश्यकता होगी। इसके लिए प्रतीकात्मक तर्क, कारण संबंधी समझ और मेटाकॉग्निशन में सफलता की आवश्यकता होगी। तब तक, LLM संरचित समस्या-समाधान के लिए शक्तिशाली उपकरण बने रहेंगे, लेकिन वे वास्तव में मनुष्यों की तरह नहीं सोचेंगे।