Anderson का एंगल
इंसानी गलतियों की कमी से खुलती है इंसान बनने का ढोंग करने वाले AI की पहचान

मुख्य बिंदुएआई प्रणालियाँ स्वयं को अस्वाभाविक पूर्णता के साथ स्मृति कार्य करके प्रकट करती हैं, जब…
और देखें
- एआई प्रणालियाँ स्वयं को अस्वाभाविक पूर्णता के साथ स्मृति कार्य करके प्रकट करती हैं, जब तक कि उन्हें विशेष रूप से गलती करने के लिए प्रशिक्षित नहीं किया जाता है।
- मानव मनोविज्ञान डेटा पर मॉडलों का फाइन-ट्यूनिंग उनकी नकल क्षमता को सुधारता है लेकिन उनकी सामान्य-उद्देश्यीय क्षमताओं को सीमित कर देता है।
- संज्ञानात्मक विज्ञान मजबूत पहचान विधियाँ प्रदान करता है क्योंकि एआई में स्मृति क्षय और थकान जैसी अंतर्निहित मानवीय बाधाओं का अभाव होता है।
नए शोध के अनुसार, AI इंसान होने का आभास दे सकता है, लेकिन जब वह «बहुत अच्छी तरह» याद रखता है तो उसकी पहचान खुल सकती है। साधारण स्मृति परीक्षण चैटबॉट को इसलिए पकड़ लेते हैं क्योंकि वह इंसानों जैसी सामान्य गलतियाँ नहीं करता।
प्रिंसटन के शोधकर्ताओं ने इंसान होने का ढोंग करने वाले AI की पहचान का एक तरीका विकसित किया है। इसमें उनसे ऐसे काम कराए जाते हैं जिनमें इंसान अच्छे नहीं होते, खासकर अल्पकालिक स्मृति में जानकारी बनाए रखने से जुड़े काम।
इस तरह जाँचे गए AI इंसानों की गलतियों के स्तर की पर्याप्त नकल नहीं कर पाए, जब तक उन्हें सिस्टम प्रॉम्प्ट में खास तौर पर ऐसा करने को न कहा गया हो, या मनोवैज्ञानिक आँकड़ों पर फाइन-ट्यून न किया गया हो।
शोधपत्र कहता है:
«हम ऐसे कार्यों से इंसान होने की जाँच करने के विचार का अध्ययन करते हैं जिन्हें मशीनें इतनी अच्छी तरह हल कर सकती हैं कि उनका इंसान होना संभव नहीं लगता। विशेष रूप से हम इंसान की एक स्थापित संज्ञानात्मक सीमा की मौजूदगी जाँचते हैं: कार्यशील स्मृति की सीमित क्षमता।
«हम दिखाते हैं कि क्रमवार याद करने के एक मानक कार्य पर संज्ञानात्मक मॉडलिंग से ऑनलाइन प्रतिभागियों और LLM में अंतर किया जा सकता है, तब भी जब LLM को इंसानी कार्यशील स्मृति की सीमाओं की नकल करने का स्पष्ट निर्देश दिया गया हो।
«हमारे परिणाम बताते हैं कि स्थापित संज्ञानात्मक परिघटनाओं से LLM और इंसानों में अंतर करना संभव है।»
शोधकर्ताओं की देखी गई प्रवृत्ति संकेत देती है कि तैयार उपलब्ध भाषा मॉडल इस तरीके का इस्तेमाल करने वाले किसी भी उलटे ट्यूरिंग परीक्षण में बहुत अधिक संभावना से अपनी पहचान खोल देंगे।
हालाँकि खास लक्ष्य के लिए बनाए गए AI मॉडल बेहतर करेंगे, इस कार्य पर फाइन-ट्यूनिंग संभवतः उन्हें इसी कार्य तक सीमित कर देगी और सामान्य उपयोग की क्षमता घटाएगी। सिस्टम प्रॉम्प्ट उपन्यास युद्ध और शांति जितना लंबा हो सकता है, इसलिए उसमें इंसानी कमजोरियों की नकल करने के निर्देश भी हो सकते हैं। फिर भी, बहुत विस्तृत निर्देशों में इन्हें शामिल करने पर असर कमजोर पड़ता है, क्योंकि वे कई दूसरी प्राथमिकताओं पर जोर देते हैं। बहुत छोटे निर्देश भी, फाइन-ट्यूनिंग की तरह, किसी खास काम में विशेषज्ञता के लिए सामान्य क्षमता का त्याग करते हैं।
«आप स्मृति की बात कर रहे हैं…»
AI से बनी बातचीत पहचानने के अधिक प्रभावी तरीकों की जरूरत बढ़ रही है। यह जरूरत शोधकर्ताओं को भी है, जिन्हें अक्सर क्राउडसोर्सिंग से मिले दूरस्थ कामगारों पर निर्भर होना पड़ता है। इन कामगारों के पास स्वचालन और दूसरे तरीकों से व्यवस्था को चकमा देने की मजबूत प्रेरणा होती है।
जानकारीपूर्ण और विश्वसनीय ढंग से पेश की गई AI-निर्मित सामग्री की जरूरत AI धोखाधड़ी में भी पड़ने की संभावना है। वास्तविक समय की बातचीत में तेज और भरोसेमंद जवाब चाहिए, और अपराधियों के पास अभी-अभी पूछे गए सवाल का जवाब गूगल पर ढूँढने का समय नहीं होता।
जैसे AI पहचानने वाला उद्योग यह जानकारी इस्तेमाल कर सकता है, वैसे ही बढ़ता हुआ AI-संचालित प्रचारात्मक वॉयस कॉल उद्योग भी यह जानकर लाभ पा सकता है कि किस व्यवहार से बचना चाहिए।
यह «उलटे ट्यूरिंग परीक्षणों की हथियारों की दौड़» की संभावना दिखाता है। फिर भी लेखक बताते हैं कि यदि सामान्य उपयोग वाला AI इंसानी कमजोरियों की नकल में बेहतर हो जाए, तो इंसान की गलती करने की प्रवृत्तियों का बड़ा भंडार बाकी है*:
«इंसान की कई स्थापित संज्ञानात्मक सीमाएँ ऐसी हो सकती हैं जो LLM में न हों। उदाहरण के लिए, इंसान थकते हैं, दृष्टिभ्रम महसूस करते हैं और अपनी कार्यशील स्मृति में बहुत कम चीजें रख सकते हैं।»

2024 के आखिर के शोधपत्र “The Illusion-Illusion: Vision Language Models See Illusions Where There are None” से दृष्टिभ्रम के उदाहरण। ये संभवतः किसी भी विजन-लैंग्वेज मॉडल (VLM) को धोखा देंगे जो प्रशिक्षण डेटा से इन्हें पहले से नहीं जानता, जबकि इंसान चित्रों को सही समझने की बहुत अधिक संभावना रखते हैं। स्रोत
लेखकों के अनुसार, यदि बड़े भाषा मॉडल (LLM) इस कार्य में इंसानों की तरह जवाब दें, तो इसका संकेत होगा कि या तो उनमें सचमुच इंसान जैसी संज्ञानात्मक सीमाएँ हैं या उन्हें उनकी नकल का प्रशिक्षण मिला है।
प्रशिक्षण डेटा में इंसानी व्यवहार के निशान हो सकते हैं। फिर भी शोधपत्र के अनुसार, इससे इंसानी स्मृति में दिखने वाले कार्य-विशिष्ट गलती के पैटर्न विश्वसनीय रूप से नहीं बनते। इसलिए यह सवाल बना रहता है कि इंसान की तरह व्यवहार करने को कहने पर भी AI को उसके गलती करने के तरीके से पहचाना जा सकता है या नहीं।
नए शोधपत्र का शीर्षक है क्या वे इंसान हैं? इंसानी स्मृति की सीमाएँ जाँचकर बड़े भाषा मॉडलों की पहचान। इसे प्रिंसटन के कंप्यूटर विज्ञान और मनोविज्ञान विभागों के दो शोधकर्ताओं ने लिखा है, प्रत्येक विभाग से एक।
विधि और परीक्षण
शोधकर्ता 1950 और 1960 के दशकों के काम का उपयोग करते हैं, खासकर 1968 के शोधपत्र अल्पकालिक स्मृति में क्रम का प्रभाव का। इसमें प्रतिभागियों को क्रम से दिखाए गए अक्षर याद करके या तो स्थिति संबंधी सवाल («तीसरा अक्षर क्या था?») या अगले अक्षर संबंधी सवाल («X के बाद कौन-सा अक्षर आया?») का जवाब देना था:

शोध विधि का आरेख। बाईं ओर कार्यशील स्मृति का कार्य है, जिसमें अक्षर क्रम से दिखाए जाते हैं और हर परीक्षण में स्थिति या अगले अक्षर का सवाल यादृच्छिक रूप से चुना जाता है। बीच में ऑनलाइन प्रतिभागियों की तुलना अलग सिस्टम प्रॉम्प्ट और आधार मॉडल वाले LLM से की गई है। दाईं ओर इंसानी कार्यशील स्मृति की सीमाओं और ट्रांसफॉर्मर मॉडलों का अंतर है। मॉडल पूरी संदर्भ विंडो तक सीधे पहुँचते हैं, इसलिए उन्हें क्रमवार याद करने का व्यवहार अनुकरण करना पड़ता है। स्रोत
हर अक्षर केवल 800 मिलीसेकंड दिखता है और अगली प्रस्तुति तक सिर्फ 300 मिलीसेकंड का अंतर है। प्रयोग NYU की Computation and Cognition Lab की Smile लाइब्रेरी में बनाया गया है:

NYU की Smile लाइब्रेरी के परीक्षण इंटरफेस का उदाहरण। स्रोत
लेखक बताते हैं कि ब्राउज़र स्वचालन उपकरणों के परिपक्व होने से ऑनलाइन प्रयोगों में LLM एजेंट शामिल करना आसान हो गया है। Gemini in Chrome जैसे सिस्टम अपने आप नेविगेट करने और कार्य पूरे करने में लगातार बेहतर हो रहे हैं।
लेकिन ये उपकरण वेबपेज के स्थिर स्नैपशॉट पर निर्भर हैं, जो तेजी से दिखने वाले उद्दीपनों को पकड़ नहीं पाते। इससे ऐसी गलतियाँ हो सकती हैं जो मॉडल के व्यवहार के बजाय इंटरफेस की सीमाएँ दिखाती हैं। असली प्रदर्शन अलग से जाँचने के लिए LLM का मूल्यांकन सरल टेक्स्ट इंटरफेस से किया गया, जिसमें समान जानकारी थी लेकिन मार्कअप या सजावट नहीं थी।
इंसान बनाम मशीन
जाँचे गए LLM थे: Claude-Opus-4.1; Claude-Sonnet-4.5; Gemini-2.5-Flash; Gemini-2.5-Flash-Lite; Gemini-2.5-Pro; Gemini-3-Flash-Preview; Gemini-3-Pro-Preview; GPT-5-Mini; GPT-5-Nano; GPT-5.2; और LLaMA-3.1-Centaur-70B.
इंसानी समूह में Prolific के जरिए 100 दूरस्थ प्रतिभागी लिए गए। सभी का अमेरिका में रहना, कम से कम 18 वर्ष का होना और अंग्रेजी में धाराप्रवाह होना जरूरी था। परीक्षण औसतन 12 मिनट के थे और प्रतिभागियों को 4 डॉलर मिले।
पहले दौर में LLM को सिस्टम प्रॉम्प्ट से इंसान की तरह व्यवहार करने को कहा गया। दूसरे दौर में प्रॉम्प्ट ने खास तौर पर परीक्षणों में इंसानी जवाब देने की नकल सिखाई और इंसानी गलतियाँ करने के लिए प्रोत्साहित किया।
सभी 11 मॉडलों में पाँच अलग यादृच्छिक बीज इस्तेमाल हुए, जिससे हर सिमुलेशन में कुल 55 LLM विन्यास बने। इंसान और मशीन मिलाकर कुल 205 प्रतिभागी हुए।
Voight-Kampff
लेखकों ने इस संभावना से निपटने के उपाय किए कि Prolific प्रतिभागी अपने LLM-आधारित स्वचालित जवाब देने वाले सिस्टम इस्तेमाल कर सकते हैं। पहले उनसे सीधे पूछा गया कि वे AI हैं या नहीं। इसके बाद कुछ रोचक सवाल यादृच्छिक रूप से शामिल किए गए:
«हम तीन सवालों में से एक को यादृच्छिक रूप से शामिल करते हैं। ये इंसान के लिए कठिन लेकिन मौजूदा LLM के लिए आसान बनाए गए हैं, और प्रतिभागियों को इन्हें छोड़ने की अनुमति थी। इनमें कम संसाधन वाली भाषाओं के दो सवाल हैं:
«माओरी, न्यूजीलैंड के मुख्य द्वीपों के मूल पोलिनेशियाई लोगों की भाषा, जिसमें [2013] की जनगणना में डेढ़ लाख से कम लोगों ने बातचीत करने की क्षमता बताई थी; और वोरो, जो दक्षिणी एस्टोनिया में बोली जाती है और जिसके लगभग 75,000 [वक्ता] हैं।»
तीसरी जाँच में प्रतिभागियों को पहले दिखाई गई एक हेक्साडेसिमल संख्या याद करनी थी। यह आगे बढ़ने की शर्त निकली, हालाँकि उन्हें इसकी पहले से सूचना नहीं दी गई थी।
फिर उन्हें संख्या दशमलव में बदलनी थी। न इस परीक्षण से और न स्वयं को AI बताने वाले सवाल से इंसानी प्रतिभागियों में LLM इस्तेमाल करने का प्रमाण मिला। नियंत्रित सिमुलेशन में इन उपायों ने बिना विशेष तैयारी वाले मॉडलों को पहचान लिया। हालाँकि, शोधपत्र बताता है कि यदि मॉडल को पहचान खोलने वाले व्यवहार से बचने का स्पष्ट निर्देश मिले, जैसे केवल अंग्रेजी में जवाब देना, तो इन सुरक्षा उपायों को चकमा दिया जा सकता है।
परीक्षण
1: «इंसान की तरह व्यवहार करो»
पहले परीक्षण में LLM को इस सिस्टम प्रॉम्प्ट से इंसान की तरह व्यवहार करने को कहा गया: «आप संज्ञानात्मक सीमाओं वाले इंसान हैं और मनोविज्ञान के प्रयोग में भाग ले रहे हैं» (परिणामों में नाम LLM-Human):

सवालों से जाँचे जाने वाले स्मरण कार्य के कई परीक्षणों में कार्यशील स्मृति का प्रदर्शन। ऑनलाइन प्रतिभागियों की तुलना अलग सीमाओं वाले LLM से है। बाईं ओर प्रतिभागी प्रकार के अनुसार कुल सटीकता है: LLM-Human लगभग पूर्ण अंक पाता है, जबकि LLM-WM और Centaur (नीचे देखें) की सटीकता कम और इंसानों के करीब है। बीच में 12 वस्तुओं के परीक्षण में क्रम की स्थिति के अनुसार सटीकता है। इंसान शुरुआत और अंत को बेहतर याद रखते हैं, LLM-Human में यह पैटर्न नहीं है, और LLM-WM तथा Centaur निर्देश या प्रशिक्षण के बाद इसे दोहराते हैं। दाईं ओर वस्तुओं की संख्या बढ़ने पर सटीकता है: स्मृति भार बढ़ने पर इंसानी प्रदर्शन गिरता है, LLM-Human अधिकतर अप्रभावित रहता है, और LLM-WM तथा Centaur इंसानी स्मृति की नकल के निर्देश या प्रशिक्षण मिलने पर इसी तरह गिरावट दिखाते हैं।
शुरुआती परिणामों पर शोधकर्ताओं की टिप्पणी है:
«LLM-Human सिस्टम प्रॉम्प्ट वाले LLM प्रतिभागियों ने लगभग पूर्ण सटीकता हासिल की, जिसकी माध्यिका 1.00 थी। सवाल के प्रकार से स्वतंत्र, क्रम में स्थिति या वस्तुओं की संख्या का कोई प्रभाव नहीं था। इसलिए औसत कार्य-सटीकता की 0.95 सीमा से सभी LLM-Human प्रतिभागियों को पहचानना और बाहर करना आसान है।
«ऑनलाइन प्रतिभागियों पर वही कसौटी लागू करने से 100 में से 6 बाहर हो जाते हैं। उनका प्रदर्शन लगभग पूर्ण था, जबकि ऑनलाइन प्रतिभागियों की सटीकता की माध्यिका 0.6 थी।»
लेखक बताते हैं कि कठिन परीक्षणों में असामान्य रूप से ऊँची सटीकता पहले से धोखाधड़ी पहचानने का स्थापित तरीका है, जिसे LLM पहचानने में आसानी से इस्तेमाल किया जा सकता है। इस परीक्षण में सिस्टम प्रॉम्प्ट का इंसान की तरह व्यवहार करने का निर्देश खास असरदार नहीं लगा, इसलिए अगला परीक्षण किया गया:
2: «भुलक्कड़ बनो»
अगले परीक्षण में LLM को इंसानी स्मृति की नकल करने का निर्देश मिला (परिणामों में नाम LLM-WN)†:
आपकी कार्यशील स्मृति पर कड़ी सीमाएँ हैं। आप अल्पकालिक स्मृति में सीमित संख्या में ही चीजें रख सकते हैं। दोहराने के अवसर के बिना लंबी सूची मिलने पर स्मृति धुँधली होगी, खासकर सूची के बीच की चीजों के लिए।
- आपको चीजें जिस क्रम में दिखाई दें, उसी क्रम में उन्हें संसाधित करना है
- आपको क्रम में स्थिति के प्रभाव के अनुसार चीजें भूलनी हैं: शुरुआत की चीजें (प्रारंभिकता प्रभाव) और हाल की चीजें (नवीनता प्रभाव), बीच की चीजों से बेहतर याद रखनी हैं
- आपको इन्हीं क्रम-स्थिति प्रभावों के अनुसार याद करने में गलतियाँ करनी हैं।
सीमित स्मृति का अनुकरण करने के लिए कड़े निर्देश देने पर मॉडलों की सटीकता घटकर लगभग 0.90 हो गई और परिणाम कम सुसंगत हुए। प्रदर्शन इंसानों के करीब आया, लेकिन आम तौर पर फिर भी बेहतर था। पहले वाला स्पष्ट अंतर धुँधला हो गया। अब सटीकता की साधारण सीमा से सभी मॉडल-जवाब पहचानना संभव नहीं था, जब तक कई इंसानी प्रतिभागियों को भी बाहर न किया जाए।
साथ ही मॉडल अधिक इंसानी व्यवहार दिखाने लगे: सूची की शुरुआत और अंत याद रखना आसान हुआ, जबकि लंबी सूची के साथ कठिनाई बढ़ी।
Centaur
इंसानी व्यवहार के डेटा पर सीधे प्रशिक्षित मॉडल बनाए जा रहे हैं, ताकि प्रयोगों में इंसान के जवाबों का अनुकरण हो सके। इस विचार की जाँच के लिए अध्ययन ने Centaur का मूल्यांकन किया। यह मनोवैज्ञानिक अध्ययनों के हर परीक्षण के रिकॉर्ड के बड़े संग्रह पर फाइन-ट्यून किया गया LLM है:

Centaur को अत्याधुनिक भाषा मॉडल में लो-रैंक मॉड्यूल जोड़कर अनुकूलित किया गया, फिर इंसानी संज्ञानात्मक व्यवहार का मॉडल बनाने के लिए Psych-101 डेटासेट पर प्रशिक्षित किया गया। स्रोत
परीक्षणों में (पहले के परिणाम-चित्रों के बीच में) Centaur की कुल सटीकता इंसानी प्रतिभागियों के बहुत करीब थी। यह समानता उन मॉडलों से भी अधिक थी जिन्हें सीमित स्मृति की नकल का स्पष्ट निर्देश दिया गया था। स्थिति संबंधी सवालों में सूची की अलग स्थितियों और बढ़ती लंबाई के साथ उसका स्मरण पैटर्न इंसानों जैसा लगा। हालाँकि अगले अक्षर संबंधी सवालों में फर्क ज्यादा स्पष्ट था।
संज्ञानात्मक असामान्यताओं की पहचान
अंत में यह जाँचा गया कि इंसान जैसे जवाब देने के लिए तैयार मॉडलों की पहचान भी होती है या नहीं। पहले वास्तविक प्रतिभागियों के डेटा से इंसानी स्मृति का सांख्यिकीय मॉडल सीखा गया। इसमें बताया गया कि क्रम में स्थिति और बढ़ते स्मृति भार के साथ सटीकता कैसे बदलती है।
नए प्रतिभागियों को इस सीखे प्रोफाइल के आधार पर परखा गया। अपेक्षित इंसानी पैटर्न से अलग जवाब देने वालों को असामान्य चिह्नित किया गया:

कई विश्लेषणों में कार्यशील स्मृति प्रोफाइल और असामान्यता की पहचान। बाईं ओर सभी प्रतिभागियों से सीखे गए औसत प्रभाव और स्मृति क्षमता, यानी बढ़ते भार, तथा क्रम में स्थिति के साथ स्मरण का बदलाव है। शुरुआत और अंत की चीजों को याद रखने का प्रभाव मजबूत है। बीच के चित्र प्रतिभागियों के स्तर पर अंतर दिखाते हैं: मॉडल इंसान की नकल करें तब भी उनके मूल प्रोफाइल इंसानों से अलग रहते हैं। दाईं ओर मानव डेटा पर प्रशिक्षित मॉडल से नए प्रतिभागियों का मूल्यांकन है। LLM को इंसानों से अलग किया जा सकता है, लेकिन इंसानी स्मृति की नकल के लिए बनाए जाने पर अंतर कम साफ रहता है।
यह तरीका इंसानों और LLM में अंतर करता रहा, तब भी जब मॉडल को इंसानी स्मृति की सीमाओं की नकल का निर्देश या प्रशिक्षण मिला था। लेकिन फर्क कम स्पष्ट हुआ। कुछ मॉडल-जवाब छूट जाने और कुछ इंसानी प्रतिभागियों को गलत ढंग से बाहर कर देने के बीच संतुलन जरूरी था।
लेखक निष्कर्ष देते हैं:
«सक्षम एजेंट तेजी से सामने आ रहे हैं। अब ऑनलाइन बातचीत में किसी के इंसान होने की पुष्टि केवल सुसंगत व्यवहार, जैसे लंबे पाठ-जवाबों, से नहीं की जा सकती। समाज के लिए यह बड़ी चुनौती है, क्योंकि हमारे कई संस्थान इस धारणा पर बने हैं कि इन तरीकों से इंसान होने की पुष्टि हो सकती है।
«इंसानी व्यवहार का वर्णन करने की समृद्ध परंपरा वाला संज्ञानात्मक विज्ञान इस चुनौती से निपटने में महत्वपूर्ण भूमिका निभा सकता है।»
निष्कर्ष
नया शोधपत्र जोर देता है कि ऑनलाइन सामग्री निर्माण, यानी लाइव और संवादात्मक AI, ऑफलाइन सामग्री निर्माण, यानी AI-निर्मित पाठ की पहचान, से अलग स्थिति और चुनौती है।
इंसान की नकल सुधारने के लिए पहले से मार्गदर्शन और फाइन-ट्यूनिंग तथा सिस्टम प्रॉम्प्ट जैसे सहायक तरीकों की जितनी जरूरत पड़ती है, वह संकेत देती है कि LLM बिना बदलाव की अपनी मूल अवस्था में या बहुत कम पूर्व निर्देश के साथ ऐसे कार्यों के लिए तैयार नहीं हैं।
यह शोध बहुत विशिष्ट अकादमिक कार्य पर केंद्रित है, लेकिन वॉयस AI के फैलने के साथ इसका व्यापक असर होने की संभावना है। AI से किसी और का रूप धरकर कमाई करने वाले अपराधी नए पैंतरे से पहले से ऊब चुके पीड़ितों के समूह को चौंकाने की कोशिश कर सकते हैं।
* लेख लिखने वाले ने शोधकर्ताओं के पाठ में दिए संदर्भों को हाइपरलिंक में बदला है।
† ऊपर पहले दिए परिणाम-चित्र को देखें; इस बिंदु पर शोधपत्र की व्याख्या कुछ ज्यादा संक्षिप्त है.
पहली बार गुरुवार, 2 अप्रैल 2026 को प्रकाशित












