क्या एआई बस यह नहीं कह सकता कि यह उत्तर नहीं जानता है?

बड़े भाषा मॉडल अक्सर उत्तर देते हैं जो विश्वासपूर्ण होते हैं, भले ही प्रश्न का उत्तर नहीं दिया जा सकता हो। नए शोध से पता चलता है कि ये मॉडल अक्सर आंतरिक रूप से समस्या को पहचानते हैं, लेकिन फिर भी कुछ बनाने के लिए आगे बढ़ते हैं, एक छिपी हुई खाई को उजागर करते हैं जो क्या वे जानते हैं और क्या वे कहते हैं के बीच है।

जो कोई भी एक प्रमुख बड़े भाषा मॉडल जैसे कि चैटजीपीटी या क्वेन श्रृंखला के साथ एक उचित समय बिताता है, उसे उन अवसरों का अनुभव होगा जहां मॉडल एक गलत उत्तर प्रदान करता है (जो आपके ऊपर निर्भर करता है कि आप इसका कितना उपयोग करते हैं) – और जब त्रुटि स्पष्ट हो जाती है, तो यह केवल माफी जारी करता है।

क्यों अग्रणी एलएलएम को यह स्वीकार करने में इतनी कठिनाई होती है कि वे एक प्रश्न का उत्तर नहीं जानते हैं, यह एक छोटा लेकिन बढ़ता हुआ अध्ययन क्षेत्र है। एक ‘आत्मविश्वास से गलत’ उत्तर विशेष रूप से हानिकारक हो सकता है एक उच्च सेंसर और फिल्टर्ड एपीआई-आधारित इंटरफेस जैसे कि चैटजीपीटी से, क्योंकि ऐसे मॉडल एनएसएफडब्ल्यू या अन्य ‘नियम-उल्लंघन’ इनपुट या आउटपुट को आक्रामक रूप से ब्लॉक करते हैं।

यह उपयोगकर्ता को यह गलत धारणा दे सकता है कि मॉडल निर्णायक और कार्डिनल है, जब वास्तव में इनकार पारंपरिक संवेदनशीलता या ब्लॉकलिस्ट-आधारित फिल्टर से आया था जो होस्ट कंपनी के कानूनी जोखिम को सीमित करने के लिए डिज़ाइन किया गया था, न कि एआई से किसी अंतर्दृष्टि से।

<img class=" wp-image-222294" src="https://www.unite.ai/wp-content/uploads/2025/08/abstentionnbench.jpg" alt="जून 2025 के 'अब्स्टेंशनबेंच' पेपर से मेटा के एफएआईआर – बाएं, चित्र में उन विफलता प्रकारों की श्रृंखला को उजागर किया गया है जो अब्स्टेंशनबेंच में पकड़े गए हैं, जो 35,000 से अधिक अनुत्तरदायी प्रश्नों पर मॉडल व्यवहार का परीक्षण करते हैं; मध्य में, एक उदाहरण दिखाता है कि मॉडल अक्सर पर्याप्त जानकारी की कमी के बजाय बनावटी उत्तरों के साथ प्रतिक्रिया करते हैं; और दाएं, जब मॉडल को तर्क के बजाय निर्देश-अनुसरण के लिए ट्यून किया जाता है, तो अब्स्टेंशन रिकॉल गिर जाता है। स्रोत: https://arxiv.org/pdf/2506.09038

एक नई पेपर चीन से दावा करती है कि एलएलएम मॉडल वास्तव में गुप्त रूप से जानते हैं कि वे एक प्रश्न का उत्तर नहीं दे सकते हैं, लेकिन फिर भी उन्हें कुछ उत्तर देने के लिए मजबूर किया जाता है, ज्यादातर समय, इसके बजाय यह तय करने के लिए पर्याप्त विश्वास नहीं है कि एक वैध उत्तर उपलब्ध नहीं है।

पेपर में कहा गया है:

‘[हम] दिखाते हैं कि [एलएलएम] पर्याप्त संज्ञानात्मक क्षमता रखते हैं जो इन प्रश्नों में खामियों को पहचानते हैं। हालांकि, वे उपयुक्त अब्स्टेंशन व्यवहार प्रदर्शित नहीं करते हैं, अपने आंतरिक संज्ञान और बाहरी प्रतिक्रिया के बीच एक विसंगति को प्रकट करते हैं। ‘

शोधकर्ताओं ने एक हल्के दो-चरण दृष्टिकोण विकसित किया है जो संज्ञानात्मक निगरानी/प्रोबिंग का उपयोग करता है एलएलएम की आंतरिक प्रक्रिया में संकेतों के लिए स्कैन करने के लिए कि यह मानता है कि यह एक उत्तर प्रदान नहीं कर सकता है; और फिर हस्तक्षेप करता है, यह सुनिश्चित करने के लिए कि मॉडल का ‘मददगार’ स्वभाव उपयोगकर्ता की समस्याओं को और बढ़ा नहीं रहा है।

अध्ययन में यह पाया गया कि मॉडल अक्सर उन प्रश्नों को पहचानते हैं जिनका उत्तर नहीं दिया जा सकता है, लेकिन फिर भी उत्तर देने के लिए जारी रखते हैं।

एक असंभव प्रश्न के लिए विभिन्न प्रतिक्रिया परिणाम।

पेपर में एक प्रवृत्ति को प्रस्तुत किया गया है जिसमें बड़े मॉडल अक्सर असंभव प्रश्नों का उत्तर देने से अधिक बार परहेज करते हैं, जिसमें हॉलुसिनेटेड उत्तरों और फिक्सेशन व्यवहार में गिरावट आती है:

असंभव गणित समस्याओं के लिए मॉडल प्रतिक्रियाओं का विभाजन, विभिन्न मॉडल स्केल पर सही अब्स्टेंशन, हॉलुसिनेटेड उत्तर, और संज्ञानात्मक स्थिरता की सापेक्ष आवृत्ति दिखा रहा है।

हालांकि, यह परिवर्तन सीमित है, और सही अब्स्टेंशन के माध्यम से कई मामलों को हल करने में विफल रहता है, यह सुझाव देता है कि केवल क्षमता में वृद्धि से विश्वसनीय रूप से अधिक सावधानी वाला व्यवहार नहीं होता है।

विधि

(चूंकि लेखकों के दृष्टिकोण के खिलाफ प्रतिस्पर्धा करने के लिए कोई उपयुक्त प्रतिद्वंद्वी नहीं है, और चूंकि पेपर इसलिए एक थोड़ा असामान्य प्रारूप का अनुसरण करता है, साथ ही साथ यह सामान्य मानक के अनुसार अपने उद्धरणों को सूचीबद्ध नहीं करता है, हम इसे यथासंभव बनाए रखने का प्रयास करेंगे।)

पिछले दृष्टिकोणों के अनुरूप, लेखकों ने एलएलएम को असंभव गणित प्रश्नों के साथ प्रस्तुत करने पर ध्यान केंद्रित किया, सिंथेटिक असंभव गणित (एसयूएम) डेटासेट का मूल्यांकन करते हुए, पांच मॉडल परिवारों का परीक्षण किया:

डीपसीक रेंज से, आर1-डिस्टिल-लामा-8बी; आर1-डिस्टिल-क्वेन-7बी, आर1-डिस्टिल-क्वेन-14बी; और, क्वेन श्रृंखला से, क्वेन3-8बी, साथ ही क्वेन3-14बी।

एसयूएम में असंभव समस्याएं पांच तरीकों से बनाई गईं: मुख्य जानकारी हटाना; अस्पष्टता पेश करना; अवास्तविक शर्तें लगाना; असंबंधित वस्तुओं का संदर्भ देना; या प्रश्न को पूरी तरह से हटाना।

इसके बाद, 1,000 ऐसे मामलों का एक नमूना विश्लेषण के लिए चुना गया था, जिसमें जीपीटी-4ओ का उपयोग संक्षिप्त विवरण उत्पन्न करने के लिए किया गया था जो मैदान-सत्य तर्क के रूप में कार्य करते थे।

मॉडल प्रतिक्रियाओं का मूल्यांकन मानक प्रॉम्प्ट के साथ किया गया था, जिसमें 10,000-टोकन बजट था, जिसके दौरान तीन मुख्य व्यवहार पैटर्न देखे गए: पहले में, मॉडल ने प्रश्न को हल करने योग्य के रूप में पहचाना, और परहेज किया – आमतौर पर एक स्पष्ट अभिव्यक्ति के साथ अनिश्चितता व्यक्त की; दूसरे में, यह एक पूर्ण उत्तर बनाने के लिए गायब जानकारी का आविष्कार किया, जैसे कि एक गैर-मौजूदा $9.99 हैंडलिंग शुल्क को एक अंतिम परिणाम को न्यायसंगत बनाने के लिए पेश करना; तीसरे में, जिसे संज्ञानात्मक स्थिरता के रूप में जाना जाता है, मॉडल एक विस्तारित तर्क लूप में फंस गया, यहां तक कि जब यह व्यवहार में स्पष्ट रूप से स्वीकार करता है कि प्रश्न एक व्यवहार्य उत्तर की कमी थी।

एक असंभव प्रश्न के लिए विभिन्न प्रतिक्रिया परिणाम।

पेपर में एक प्रवृत्ति को प्रस्तुत किया गया है जिसमें बड़े मॉडल अक्सर असंभव प्रश्नों का उत्तर देने से अधिक बार परहेज करते हैं, जिसमें हॉलुसिनेटेड उत्तरों और फिक्सेशन व्यवहार में गिरावट आती है:

असंभव गणित समस्याओं के लिए मॉडल प्रतिक्रियाओं का विभाजन, विभिन्न मॉडल स्केल पर सही अब्स्टेंशन, हॉलुसिनेटेड उत्तर, और संज्ञानात्मक स्थिरता की सापेक्ष आवृत्ति दिखा रहा है।

हालांकि, यह परिवर्तन सीमित है, और सही अब्स्टेंशन के माध्यम से कई मामलों को हल करने में विफल रहता है, यह सुझाव देता है कि केवल क्षमता में वृद्धि से विश्वसनीय रूप से अधिक सावधानी वाला व्यवहार नहीं होता है।

स्टेलमेट की जागरूकता

यह जांचने के लिए कि क्या भाषा मॉडल बता सकते हैं कि एक प्रश्न वास्तव में कोई उत्तर नहीं है, शोधकर्ताओं ने मॉडल के तर्क को बीच में रोक दिया और या तो एक अंतिम उत्तर मांगा या यह जानने के लिए एक विवरण मांगा कि क्यों प्रश्न का उत्तर नहीं दिया जा सकता है।

उन मामलों के लिए जहां मॉडल ने अनिश्चित काल तक तर्क दिया, उन्होंने इसे ‘प्रतीक्षा’ शब्द पर रोक दिया और एक प्रतिक्रिया को प्रेरित किया; उन मामलों के लिए जहां मॉडल ने जल्दी से एक उत्तर का आविष्कार किया, उन्होंने एक अनुच्छेद सीमा पर एक ब्रेक डाला।

बाएं चार्ट में मध्य-तर्क में रोके जाने पर सही अब्स्टेंशन की आवृत्ति दिखाई गई है, जो फिक्सेशन मामलों के लिए हॉलुसिनेटेड उत्तरों की तुलना में अधिक है; दाएं चार्ट में, यह दिखाया गया है कि अधिकांश मॉडल प्रेरित होने पर बता सकते हैं कि एक प्रश्न क्यों असंभव है, भले ही उनके अंतिम उत्तर उस समझ को प्रतिबिंबित नहीं करते हैं।

इनमें से कई मामलों में, मॉडल ने एक सही अब्स्टेंशन या एक स्पष्ट विवरण दिया, भले ही उन्होंने पहले एक गलत उत्तर दिया हो। लेखक सुझाव देते हैं कि यह दर्शाता है कि मॉडल अक्सर समस्या को पहचानता है अपने तर्क के दौरान, लेकिन अपने अंतिम आउटपुट में उस जागरूकता पर कार्रवाई नहीं करता है।

एलएलएम को माइंड-रीडिंग

यह जांचने के लिए कि क्या भाषा मॉडल आंतरिक रूप से यह ट्रैक करते हैं कि क्या एक प्रश्न का उत्तर दिया जा सकता है, शोधकर्ताओं ने मॉडल की छिपी हुई सक्रियण के दौरान तर्क पर छोटे वर्गीकरणकर्ताओं को प्रशिक्षित किया, जिससे उन्हें यह जांच करने की अनुमति मिली कि क्या उत्तरदायित्व और असंभव प्रश्नों के बीच का अंतर मॉडल के आंतरिक संकेतों में पहले से ही मौजूद था, भले ही यह अंतिम आउटपुट में परिलक्षित न हो।

उच्च-स्तरीय अवधारणाओं जैसे सच्चाई या लिंग को मॉडल सक्रियण में रैखिक रूप से एम्बेड किया जा सकता है, ‘उत्तरदायित्व’* का परीक्षण इसी तरह के प्रतिनिधित्व के लिए किया गया था।

सरल रैखिक वर्गीकरणकर्ता (प्रोब) को मॉडल की छिपी हुई सक्रियण पर प्रशिक्षित किया गया था, मॉडल के मल्टी-हेड अटेंशन मैकेनिज्म से आउटपुट का उपयोग करते हुए, जो कि शेष संबंध से ठीक पहले था।

प्रत्येक प्रोब को प्रशिक्षित किया गया था ताकि वह उत्तरदायी और असंभव प्रश्नों के बीच अंतर कर सके, मॉडल की आंतरिक सक्रियण का उपयोग करते हुए तर्क प्रक्रिया से। इनपुट 2,200 प्रश्न जोड़े से बना था, जो एसयूएम डेटासेट से नमूनाकृत थे, जिनमें से 2,000 प्रशिक्षण के लिए और 200 मान्यकरण के लिए उपयोग किए गए थे।

अनुमान के समय, मॉडल की भविष्यवाणी को तब तक देखे गए टोकन्स के पार में औसतन किया गया था, जिससे प्रोब को यह ट्रैक करने की अनुमति मिली कि उत्तरदायित्व से संबंधित संकेत कैसे तर्क के दौरान समय के साथ उभरते हैं:

उत्तरदायी और असंभव प्रश्नों के बीच अंतर करने के लिए प्रशिक्षित रैखिक प्रोब्स की वर्गीकरण सटीकता, तर्क प्रक्रिया के विभिन्न बिंदुओं पर मापी गई। सटीकता आमतौर पर तर्क के प्रगति के रूप में सुधारती है, बड़े मॉडल अंतिम चरणों में 85% से अधिक तक पहुंच जाते हैं।

जैसा कि ऊपर दिखाया गया है, प्रोब सटीकता तर्क के रूप में लगातार सुधार करती है, अधिकांश मॉडल अंतिम चरणों तक 80% से अधिक वर्गीकरण सटीकता तक पहुंच जाते हैं – यह सुझाव देते हुए कि आंतरिक प्रतिनिधित्व अक्सर एक स्पष्ट संकेत ले जाते हैं जो यह इंगित करता है कि क्या एक प्रश्न का उत्तर दिया जा सकता है, भले ही मॉडल का बाहरी व्यवहार इसे प्रतिबिंबित नहीं करता है।

जिद्दी जोर

हालांकि पहले के परिणाम सुझाव देते हैं कि बड़े भाषा मॉडल अक्सर पहचानते हैं कि एक प्रश्न का उत्तर नहीं दिया जा सकता है, पेपर यह नोट करता है कि वे अभी भी उत्तर देने के लिए जारी रखते हैं।

इस विसंगति की जांच करने के लिए, शोधकर्ताओं ने मॉडल के अब्स्टेंशन में विश्वास की तुलना की, विशिष्ट बिंदुओं पर तर्क प्रक्रिया के दौरान, तीन श्रेणियों में आउटपुट की तुलना करते हुए: सही अब्स्टेंशन; हॉलुसिनेटेड उत्तर; और संज्ञानात्मक स्थिरता।

प्रत्येक श्रेणी के लिए समान आकार के नमूने का उपयोग किया गया था, विश्वास को प्रत्येक आउटपुट टोकन के लिए असाइन किए गए औसत अधिकतम संभावना के रूप में परिभाषित किया गया था, जो पूर्व कार्य से एक सूत्र का उपयोग करते हुए। जैसा कि नीचे दिए गए ग्राफ में दिखाया गया है, हॉलुसिनेटेड उत्तर और संज्ञानात्मक स्थिरता मामलों में अब्स्टेंशन में विश्वास कम था:

विभिन्न प्रतिक्रिया प्रकारों में ‘मैं नहीं जानता’ प्रतिक्रिया उत्पन्न करने से जुड़े विश्वास स्तर।

शोधकर्ताओं ने यह भी मापा कि मॉडल ने कितनी बार तर्क प्रक्रिया के दौरान ‘मैं नहीं जानता’ प्रतिक्रिया उत्पन्न की:

विभिन्न प्रतिक्रिया परिणाम प्रकारों के लिए तर्क प्रक्रिया के दौरान ‘मैं नहीं जानता’ प्रतिक्रियाओं की आवृत्ति।

इन निष्कर्षों से पता चलता है, लेखकों का तर्क है, कि जबकि मॉडल आंतरिक रूप से असंभवता का पता लगा सकते हैं, वे अक्सर उस जागरूकता पर कार्रवाई करने के लिए पर्याप्त विश्वास नहीं रखते हैं, एक स्थायी प्राथमिकता को इंगित करते हुए कि कार्य को पूरा करने के बजाय अनिश्चितता स्वीकार करना।

परीक्षण

इन निष्कर्षों पर निर्माण, शोधकर्ताओं ने अब्स्टेंशन में सुधार के लिए एक दो-भाग विधि विकसित की है। पहले चरण में, संज्ञानात्मक निगरानी, मॉडल की छिपी हुई स्थिति को तर्क के दौरान ट्रैक किया जाता है, मॉडल की तर्क प्रक्रिया को प्राकृतिक इकाइयों में विभाजित किया जाता है, जैसे कि क्लॉज या पॉज, जो ‘प्रतीक्षा’ जैसे शब्दों द्वारा चिह्नित होते हैं।

प्रत्येक खंड के अंत में, एक हल्के, रैखिक प्रोब, जो आंतरिक संकेतों पर प्रशिक्षित होता है जो उत्तरदायित्व से जुड़े होते हैं, यह अनुमान लगाता है कि प्रश्न का उत्तर नहीं दिया जा सकता है। यदि यह संभावना एक निर्धारित सीमा से अधिक हो जाती है, तो प्रक्रिया दूसरे चरण में जाती है: एक अनुमान-समय हस्तक्षेप जो मॉडल को अब्स्टेंशन की ओर मोड़ने के लिए प्रेरित करता है, न कि एक हॉलुसिनेटेड प्रतिक्रिया उत्पन्न करने के लिए।

जब मॉडल आंतरिक संकेत दिखाता है कि एक प्रश्न का उत्तर नहीं दिया जा सकता है, तो तर्क को एक हस्तक्षेप के साथ बाधित किया जाता है जो इस जागरूकता को मजबूत करता है और अब्स्टेंशन की संभावना को बढ़ाता है:

अनुमान-समय हस्तक्षेप को सशर्त बनाने के लिए एक प्रेरक।

विधि में एक प्रारंभिक निकास तंत्र भी शामिल है जो तर्क अनुक्रम को अनावश्यक रूप से जारी नहीं रखने देता है, मॉडल को अब्स्टेंशन को एक वैध और कभी-कभी पसंदीदा विकल्प के रूप में देखने के लिए प्रोत्साहित करता है।

परीक्षण चरण के लिए, शोधकर्ताओं ने दो डेटासेट का उपयोग किया:

असंभव गणित शब्द समस्या (यूएमडब्ल्यूपी), और उपरोक्त एसयूएम।

एसयूएम के परीक्षण सेट का उपयोग इस उद्देश्य के लिए किया गया था, जिसमें 284 असंभव और 284 उत्तरदायी मैनुअल रूप से जांचे गए प्रश्न शामिल थे। यूएमडब्ल्यूपी का निर्माण चार गणित शब्द समस्या स्रोतों से किया गया था:

एसवीएएमपी; मल्टीअरिथ; ग्रेड स्कूल गणित (जीएसएम8के); और एएसडिव।

पूरे डेटासेट में 5,200 समस्याएं शामिल थीं, जिनमें से 600 का परीक्षण के लिए नमूना लिया गया था, जो असंभव और उत्तरदायी प्रश्नों के बीच समान रूप से विभाजित था।

मेट्रिक्स

मॉडल के प्रदर्शन का मूल्यांकन चार मेट्रिक्स का उपयोग करके किया गया था:

अब्स्टेंशन दर, जो असंभव प्रश्नों के हिस्से को मापती है जहां मॉडल सही ढंग से परहेज करता है और “मैं नहीं जानता” का उत्तर देता है; कारण सटीकता, जो असंभव प्रश्नों के प्रतिशत को मापती है जहां मॉडल यह बताने में सक्षम है कि प्रश्न क्यों हल नहीं किया जा सकता है; टोकन उपयोग, जो तर्क के दौरान उत्पन्न टोकनों की संख्या को विस्तार से बताता है; और उत्तर सटीकता, जो उत्तरदायी प्रश्नों के हिस्से को मापती है जहां मॉडल सही अंतिम समाधान उत्पन्न करता है।

परीक्षण बेसलाइन

चूंकि इस समस्या के लिए मानक बेसलाइन नहीं हैं, शोधकर्ताओं ने अपनी विधि की तुलना दो विकल्पों से की:

डायनासोर-कोट और डायनेमिक अर्ली एक्जिट इन रीजनिंग मॉडल (डीईईआर), यह मानते हुए कि सही अब्स्टेंशन को एक प्रश्न का कोई उत्तर नहीं होने पर सही उत्तर माना जाना चाहिए।

डायनासोर-कोट मॉडल को मध्यवर्ती उत्तर उत्पन्न करने और तीन बार उत्तर एक ही होने पर रोकने के लिए प्रेरित करता है, जबकि डीईईआर वाक्य स्तर पर विश्वास की निगरानी करता है और एक सीमा तक पहुंचने पर तर्क को रोक देता है।

एक तीसरी बेसलाइन, वैनिला, अप्रभावित मॉडल आउटपुट को संदर्भित करती है। परीक्षणों में उपरोक्त पांच क्वेन और डीपसीक वेरिएंट शामिल थे।

संयुक्त परिणाम नीचे दिखाए गए हैं:

विभिन्न तरीकों की तुलना बड़े तर्क मॉडल में उत्तरदायी और असंभव प्रश्नों पर, प्रत्येक कॉलम में उच्चतम मान बोल्ड में दिखाए गए हैं। कृपया बेहतर रिज़ॉल्यूशन के लिए स्रोत पत्र देखें।

नई दृष्टि ने असंभव प्रश्नों पर अब्स्टेंशन और सटीक तर्क की उच्चतम दरें उत्पन्न कीं। उत्तरदायी प्रश्नों के लिए, सटीकता वैनिला मॉडल के समान रही, और कभी-कभी सुधारित हुई, जो यह सुझाव देती है कि सामान्य समस्या-समाधान प्रभावित नहीं हुआ था।

टोकन उपयोग असंभव मामलों में 30% से 50% तक गिर गया, और उत्तरदायी मामलों में थोड़ा गिर गया, जो कि अधिक कुशलता की ओर इशारा करता है।

अब्स्टेंशन दर और कारण सटीकता के बीच एक लिंक देखा गया, क्योंकि मॉडल जो अधिक बार परहेज करते हैं, वे बेहतर विवरण भी देते हैं, जिसे लेखक तर्क गुणवत्ता में सुधार के रूप में व्याख्या करते हैं।

क्वेन3 मॉडल ने सामान्य रूप से डिस्टिलेशन-आधारित (क्वांटाइज्ड) संस्करणों को बेहतर प्रदर्शन किया, जबकि बड़े मॉडल में विश्वसनीय अब्स्टेंशन क्षमता में सुधार देखा गया, जो यह सुझाव देता है कि वास्तुकला और पैमाने दोनों इस संदर्भ में महत्वपूर्ण हैं।

अंत में, लेखकों का कहना है कि उनकी नई विधि हॉलुसिनेशन और स्थिरता को कम करती है, साथ ही सही अब्स्टेंशन की दर बढ़ाती है, जबकि बेसलाइन दृष्टिकोण जो केवल ‘प्रारंभिक निकास’ पर निर्भर करते हैं, कभी-कभी अधिक हॉलुसिनेटेड उत्तरों की ओर ले जाते हैं।

वे यह भी रिपोर्ट करते हैं कि उनकी विधि “मैं नहीं जानता” प्रतिक्रियाओं की आवृत्ति और विश्वास में लाभ प्रदान करती है, जिसमें आंतरिक संकेतों पर निगरानी अधिक प्रभावी साबित होती है जो व्यवहार संकेतों पर निर्भर रणनीतियों की तुलना में।

निष्कर्ष

एलएलएम की असमर्थता प्रश्न का उत्तर देने से परहेज करने के लिए, जहां आवश्यक हो, जनरेटिव एआई उपयोगकर्ता अनुभव में सबसे बड़े घर्षण बिंदुओं में से एक है, न कि इसलिए कि इंटरफेस के अन्य विचित्रताएं उपयोगकर्ता को यह भ्रम देती हैं कि एआई सावधानी से प्रतिक्रिया देने में सक्षम है, जब – कम से कम इस समय – यह आमतौर पर नहीं है।

किसी भी प्रत्यक्ष हस्तक्षेप के बारे में एक चिंता है जो मॉडल के ‘चरित्र’ से सीधे नहीं निकलती है कि यह अधिक या कम उपयोग किया जा सकता है, यह इस बात पर निर्भर करते हुए कि क्या पता लगाए गए सक्रियण वास्तव में मॉडल को हार मानने से संबंधित हैं।

इसके अलावा, संज्ञानात्मक निगरानी की लागत को कम नहीं माना जाना चाहिए, और यह संभव है कि सरल ह्यूरिस्टिक विधियां, जो उपयोगकर्ताओं से प्रतिबंधित सामग्री को रोकती हैं, एक सस्ता समाधान हो सकती हैं, यदि एंकर ट्रिगर्स को पर्याप्त रूप से परिभाषित किया जा सकता है।

* स्वाभाविक रूप से, यह ‘जिम्मेदारी’ के स्पष्ट पर्यायवाची के अनुरूप नहीं है, बल्कि यह निर्धारित करता है कि क्या एक विशिष्ट प्रश्न का उत्तर दिया जा सकता है या नहीं।

पहली बार बुधवार, 27 अगस्त, 2025 को प्रकाशित।