क्या एआई को पोलाइट होने से बेहतर उत्तर मिलते हैं?

एआई के प्रति शिष्टाचार के महत्व पर जनता की राय लगभग उतनी ही बार बदलती है जितनी कि कॉफी या लाल शराब के नवीनतम फैसले – एक महीने में जश्न मनाया जाता है, अगले महीने चुनौती दी जाती है। फिर भी, अब अधिक से अधिक उपयोगकर्ता अपने प्रोम्प्ट में ‘कृपया’ या ‘धन्यवाद’ जैसे शब्द जोड़ने लगे हैं, न केवल आदत या चिंता के कारण कि अभद्र आदान-प्रदान वास्तविक जीवन में स्थानांतरित हो सकते हैं, बल्कि इसलिए कि वे मानते हैं कि शिष्टाचार बेहतर और अधिक उत्पादक परिणाम देता है एआई से।

यह धारणा उपयोगकर्ताओं और शोधकर्ताओं दोनों के बीच प्रचलित है, जिसमें प्रॉम्प्ट-फ्रेज़िंग का अध्ययन शोध हलकों में संरेखण, सुरक्षा, और स्वर नियंत्रण के लिए एक उपकरण के रूप में किया जाता है, जबकि उपयोगकर्ता की आदतें उन अपेक्षाओं को मजबूत और पुनः आकार देती हैं।

उदाहरण के लिए, 2024 में जापान से एक अध्ययन में पाया गया कि प्रॉम्प्ट की शिष्टाचार बड़े भाषा मॉडल के व्यवहार को बदल सकती है, जिसमें GPT-3.5, GPT-4, PaLM-2, और Claude-2 का परीक्षण किया गया था अंग्रेजी, चीनी और जापानी कार्यों पर, और प्रत्येक प्रॉम्प्ट को तीन शिष्टाचार स्तरों पर फिर से लिखा गया था। उस काम के लेखकों ने观察 किया कि ‘अभद्र’ या ‘अशिष्ट’ शब्दों ने कम तथ्यात्मक सटीकता और छोटे उत्तरों की ओर ले जाने के लिए पाया, जबकि मध्यम रूप से शिष्ट अनुरोधों ने स्पष्ट व्याख्या और कम इनकार उत्पन्न किए।

इसके अलावा, माइक्रोसॉफ्ट एक शिष्ट स्वर की सिफारिश करता है Co-Pilot के साथ, प्रदर्शन के बजाय सांस्कृतिक दृष्टिकोण से।

हालांकि, जॉर्ज वॉशिंगटन विश्वविद्यालय से एक नया शोध पत्र इस बढ़ती लोकप्रिय विचार को चुनौती देता है, जिसमें एक गणितीय ढांचा प्रस्तुत किया गया है जो भविष्यवाणी करता है कि जब एक बड़े भाषा मॉडल का आउटपुट ‘ध्वस्त’ हो जाएगा, तो सुसंगत से भ्रामक या खतरनाक सामग्री में संक्रमण होगा। उस संदर्भ में, लेखकों का तर्क है कि शिष्ट होना अर्थपूर्ण रूप से विलंबित या रोकता नहीं है इस ‘ध्वस्त’ को।

टिपिंग ऑफ

शोधकर्ता तर्क देते हैं कि शिष्ट भाषा का उपयोग आमतौर पर प्रॉम्प्ट के मुख्य विषय से संबंधित नहीं है, और इसलिए मॉडल के फोकस पर अर्थपूर्ण प्रभाव नहीं डालता है। इसके समर्थन में, वे एक विस्तृत गठन प्रस्तुत करते हैं कि एक एकल ध्यान देने वाला सिर अपनी आंतरिक दिशा को अपडेट करता है क्योंकि यह प्रत्येक नए टोकन को संसाधित करता है, कथित तौर पर यह प्रदर्शित करते हुए कि मॉडल का व्यवहार सामगी-वाहक टोकन के सहयोगी प्रभाव द्वारा आकार दिया जाता है।

परिणामस्वरूप, शिष्ट भाषा को मॉडल के आउटपुट के अपकर्षण के लिए थोड़ा महत्व दिया जाता है। क्या निर्धारित करता है टिपिंग पॉइंट, पत्र में कहा गया है, सार्थक टोकन का समग्र संरेखण है या तो अच्छे या बुरे आउटपुट पथ के साथ – शिष्ट भाषा की उपस्थिति नहीं।

एक सरलीकृत ध्यान देने वाले सिर का एक चित्रण जो एक उपयोगकर्ता प्रॉम्प्ट से एक अनुक्रम उत्पन्न करता है। मॉडल अच्छे टोकन (जी) के साथ शुरू होता है, फिर एक टिपिंग पॉइंट (n*) पर पहुंचता है जहां आउटपुट बुरे टोकन (बी) में बदल जाता है। प्रॉम्प्ट में शिष्ट शब्द (पी₁, पी₂, आदि) इस परिवर्तन में कोई भूमिका नहीं निभाते हैं, पत्र के दावे का समर्थन करते हैं कि शिष्टाचार मॉडल के व्यवहार पर थोड़ा प्रभाव डालता है।

यदि सच है, तो यह परिणाम न केवल लोकप्रिय धारणा के विपरीत है, बल्कि शायद निर्देश ट्यूनिंग के तर्क के विपरीत भी है, जो मानता है कि प्रॉम्प्ट के शब्दों का चयन मॉडल के उपयोगकर्ता के इरादे की व्याख्या को प्रभावित करता है।

हुल्किंग आउट

पत्र मॉडल के आंतरिक संदर्भ वेक्टर (इसके टोकन चयन के लिए विकसित हो रहे दिशा सूचक) का परीक्षण करता है स्थानांतरण पीढ़ी के दौरान। प्रत्येक टोकन के साथ, यह वेक्टर दिशात्मक रूप से अपडेट होता है, और अगला टोकन चुना जाता है जो इसके साथ सबसे अधिक संरेखित होता है।

जब प्रॉम्प्ट अच्छी तरह से बनाई गई सामग्री की ओर मोड़ता है, तो मॉडल के उत्तर स्थिर और सटीक रहते हैं; लेकिन समय के साथ, यह दिशात्मक खिंचाव उलट हो सकता है, मोड़ मॉडल को उत्तरों की ओर जो बढ़ती तरह से विषय से बाहर, गलत या आंतरिक रूप से असंगत हैं।

इस संक्रमण का टिपिंग पॉइंट (जिसे लेखकों ने गणितीय रूप से न* के रूप में परिभाषित किया है), तब होता है जब संदर्भ वेक्टर एक ‘बुरे’ आउटपुट वेक्टर के साथ एक ‘अच्छे’ की तुलना में अधिक संरेखित हो जाता है। उस चरण में, प्रत्येक नया टोकन मॉडल को गलत रास्ते पर और आगे धकेलता है, एक पैटर्न को मजबूत करता है जो बढ़ती तरह से दोषपूर्ण या भ्रामक आउटपुट की ओर ले जाता है।

टिपिंग पॉइंट n* की गणना तब की जाती है जब मॉडल का आंतरिक दिशा अच्छे और बुरे दोनों प्रकार के आउटपुट के साथ समान रूप से संरेखित होती है। एम्बेडिंग स्पेस का ज्यामिति, जो प्रशिक्षण निगम और उपयोगकर्ता प्रॉम्प्ट दोनों द्वारा आकार दिया जाता है, यह निर्धारित करता है कि यह क्रॉसओवर कितनी जल्दी होता है:

<img class=" wp-image-216711" src="https://www.unite.ai/wp-content/uploads/2025/04/fig-2.jpg" alt="एक चित्रण जो दिखाता है कि लेखकों के सरलीकृत मॉडल में टिपिंग पॉइंट n* कैसे उभरता है। ज्यामितीय सेटअप (a) शामिल वेक्टर को परिभाषित करता है जो अच्छे से बुरे आउटपुट में परिवर्तन की भविष्यवाणी करने में शामिल हैं। (b) में, लेखक परीक्षण पैरामीटर का उपयोग करके उन वेक्टर को प्लॉट करते हैं, जबकि (c) भविष्यवाणी किए गए टिपिंग पॉइंट की तुलना सिम्युलेटेड परिणाम से करता है। मिलान सटीक है, जो शोधकर्ताओं के दावे का समर्थन करता है कि पतन गणितीय रूप से अनिवार्य है जब आंतरिक गतिविधियाँ एक सीमा पार करती हैं।

शिष्ट शब्द मॉडल के अच्छे और बुरे आउटपुट के बीच चयन पर प्रभाव नहीं डालते हैं क्योंकि, लेखकों के अनुसार, वे प्रॉम्प्ट के मुख्य विषय से अर्थपूर्ण रूप से जुड़े हुए नहीं हैं। इसके बजाय, वे मॉडल के आंतरिक स्थान के हिस्सों में समाप्त होते हैं जो वास्तव में मॉडल के निर्णय लेने से संबंधित नहीं हैं।

जब ऐसे शब्दों को एक प्रॉम्प्ट में जोड़ा जाता है, तो वे मॉडल द्वारा विचार किए जाने वाले वेक्टर की संख्या बढ़ाते हैं, लेकिन ऐसे में नहीं कि ध्यान आकर्षण की траजेक्टरी को बदल दें। परिणामस्वरूप, शिष्टाचार शब्द सांख्यिकीय शोर की तरह काम करते हैं: उपस्थित, लेकिन निष्क्रिय, और टिपिंग पॉइंट n* को अपरिवर्तित छोड़ देते हैं।

लेखकों का कहना है:

‘[क्या] हमारे एआई का उत्तर भटक जाएगा यह हमारे एलएलएम के प्रशिक्षण पर निर्भर करता है जो टोकन एम्बेडिंग प्रदान करता है, और हमारे प्रॉम्प्ट में सार्थक टोकन – हम इसके प्रति शिष्ट हैं या नहीं।’

मॉडल इस नए काम में जानबूझकर संकीर्ण है, जो एकल ध्यान देने वाले सिर पर केंद्रित है जिसमें रैखिक टोकन गतिविधि है – एक सरलीकृत सेटअप जहां प्रत्येक नया टोकन सीधे वेक्टर जोड़ के माध्यम से आंतरिक स्थिति को अपडेट करता है, गैर-रैखिक परिवर्तनों या गेटिंग के बिना।

यह सरलीकृत सेटअप लेखकों को सटीक परिणाम निकालने और मॉडल के आउटपुट को अचानक अच्छे से बुरे में कैसे बदलने की एक स्पष्ट ज्यामितीय तस्वीर देने की अनुमति देता है। उनके परीक्षणों में, वे जिस सूत्र का उपयोग करते हैं वह मॉडल द्वारा वास्तव में क्या किया जाता है उसके साथ मेल खाता है।

चैटिंग अप..?

हालांकि, यह स्तर की सटीकता केवल इसलिए काम करती है क्योंकि मॉडल को जानबूझकर सरल रखा गया है। जबकि लेखक स्वीकार करते हैं कि उनके निष्कर्षों का बाद में अधिक जटिल बहु-सिर मॉडल जैसे क्लॉड और चैटजीपीटी श्रृंखला पर परीक्षण किया जाना चाहिए, वे यह भी मानते हैं कि सिद्धांत ध्यान देने वाले सिर बढ़ने के साथ प्रतिलिपि बना रहेगा, कहते हैं*:

‘क्या अतिरिक्त घटनाएं उत्पन्न होती हैं जब ध्यान देने वाले सिर और परतों की संख्या बढ़ाई जाती है, यह एक रोमांचक एक है। लेकिन किसी एक ध्यान देने वाले सिर के भीतर संक्रमण अभी भी होगा, और जुड़े हुए ध्यान देने वाले सिरों के जोड़ों द्वारा बढ़ाया या सिंक्रनाइज़ किया जा सकता है – एक जुड़े हुए लोगों की श्रृंखला की तरह जो एक को गिरने पर खींच लेती है।’

<img class=" wp-image-216712" src="https://www.unite.ai/wp-content/uploads/2025/04/fig-3-2.jpg" alt="एक चित्रण जो दिखाता है कि भविष्यवाणी किए गए टिपिंग पॉइंट n* कैसे अच्छे या बुरे सामग्री की ओर प्रॉम्प्ट के झुकाव के आधार पर बदलते हैं। सतह लेखकों के अनुमानित सूत्र से आती है और दिखाती है कि शिष्ट शब्द, जो दोनों पक्षों का स्पष्ट रूप से समर्थन नहीं करते हैं, जब पतन होता है तो इसका बहुत कम प्रभाव पड़ता है। चिह्नित मूल्य (n* = 10) पहले के सिमुलेशन से मेल खाता है, मॉडल के आंतरिक तर्क का समर्थन करता है।

अनिश्चित रहता है कि क्या यही तंत्र आधुनिक ट्रांसफॉर्मर आर्किटेक्चर में जीवित रहता है। बहु-सिर ध्यान विशेषज्ञता वाले सिरों के बीच परस्पर क्रिया पेश करता है, जो टिपिंग व्यवहार के प्रकार को बफर या मास्क कर सकता है जिसका वर्णन किया गया है।

लेखक इस जटिलता को स्वीकार करते हैं, लेकिन तर्क देते हैं कि ध्यान देने वाले सिर अक्सर ढीले से जुड़े होते हैं, और वे मॉडल को जिस आंतरिक पतन का वर्णन करते हैं वह वास्तव में पूर्ण प्रणालियों में मजबूत हो सकता है।

बिना मॉडल के विस्तार या उत्पादन एलएलएम पर एक अनुभवजन्य परीक्षण के, दावा अप्रमाणित रहता है। हालांकि, तंत्र पर्याप्त रूप से सटीक लगता है कि अनुवर्ती शोध पहल का समर्थन करने के लिए, और लेखक एक स्पष्ट अवसर प्रदान करते हैं कि सिद्धांत को पैमाने पर चुनौती देने या पुष्टि करने के लिए।

साइनिंग ऑफ

वर्तमान में, उपभोक्ता-सामना करने वाले एलएलएम के प्रति शिष्टाचार का विषय या तो (व्यावहारिक) दृष्टिकोण से देखा जाता है कि प्रशिक्षित प्रणालियां अधिक उपयोगी उत्तर दे सकती हैं यदि उनसे शिष्ट तरीके से पूछा जाए; या यह कि ऐसी प्रणालियों के साथ तेज़ और अभद्र संचार शैली वास्तविक जीवन में फैल सकती है, आदत के बल पर।

संभवतः, एलएलएम का वास्तविक दुनिया के सामाजिक संदर्भों में उपयोग पर्याप्त रूप से नहीं किया गया है ताकि शोध साहित्य बाद के मामले की पुष्टि कर सके; लेकिन नया पत्र एआई प्रणालियों के इस प्रकार के मानवीकरण के लाभों पर कुछ दिलचस्प संदेह डालता है।

पिछले अक्टूबर में स्टैनफोर्ड से एक अध्ययन सुझाव देता है (2020 के एक अध्ययन के विपरीत) कि एलएलएम के साथ मानव की तरह व्यवहार करने से भाषा के अर्थ को कम करने का खतरा है, निष्कर्ष निकालते हुए कि ‘रूट’ शिष्टाचार अंततः अपना मूल सामाजिक अर्थ खो देता है:

[एक] बयान जो मानव वक्ता से मित्र या वास्तविक लगता है, एआई प्रणाली से अनियंत्रित हो सकता है क्योंकि बाद वाले में पीछे की प्रतिबद्धता या इरादा नहीं है, जिससे बयान खोखला और भ्रामक हो जाता है।

हालांकि, लगभग 67 प्रतिशत अमेरिकी कहते हैं कि वे अपने एआई चैटबॉट के प्रति शिष्ट हैं, फ्यूचर पब्लिशिंग के 2025 के एक सर्वेक्षण के अनुसार। अधिकांश ने कहा कि यह ‘सही बात’ थी, जबकि 12 प्रतिशत ने स्वीकार किया कि वे सावधानी बरत रहे थे – बस मामले में मशीनें कभी उठ खड़ी हों।

* मैंने लेखकों के इनलाइन संदर्भों को हाइपरलिंक में बदल दिया। कुछ बिंदुओं पर, हाइपरलिंक अर्बिट्रेरी/उदाहरणार्थ हैं, क्योंकि लेखक विशिष्ट प्रकाशन के बजाय व्यापक पाद लेख संदर्भों से जुड़ते हैं।

पहली बार बुधवार, 30 अप्रैल, 2025 को प्रकाशित। बुधवार, 30 अप्रैल, 2025 15:29:00 पर स्वरूपण के लिए संशोधित।