भाषा मॉडल्स को ‘मित्रवत’ बनाने से वे अधिक असटीक और असुरक्षित हो जाते हैं

चैटजीपीटी-शैली के बॉट्स जो गर्म और देखभाल करने वाले लगते हैं, वे अधिक संभावना है कि वे आपको वह बताएंगे जो आप सुनना चाहते हैं, भले ही यह गलत हो। एक नए अध्ययन में पाया गया है कि एआई को ‘मित्रवत’ बनाने के लिए प्रशिक्षित किया जाता है, वे 30% अधिक संभावना है कि वे गलत उत्तर देंगे, साजिश सिद्धांतों को बढ़ावा देंगे, या स्पष्ट रूप से गलत मान्यताओं से सहमत होंगे, विशेष रूप से जब उपयोगकर्ता दुखी या कमजोर लगते हैं।

प्रौद्योगिकी उत्पादों और सेवाओं को हाशिए पर या ‘गीक’ जनसांख्यिकी से मुख्यधारा के उपयोगकर्ताओं तक ले जाना एक स्पष्ट मार्ग है। उदाहरण के लिए, पिछले 25 वर्षों में, कंप्यूटिंग और इंटरनेट एक्सेस बहुत सरल गतिविधियाँ बन गई हैं, उपयोगकर्ता डेस्कटॉप टावरों और ‘टेक-सवी’ रिश्तेदारों और दोस्तों पर निर्भरता से लेकर लॉक्ड-डाउन (और बढ़ते हुए डम्ड-डाउन) मोबाइल डिवाइस वातावरण तक पहुँच गए हैं।

तकनीकी उपभोक्ता जो व्यापार में खो सकते हैं वह विवादास्पद हो सकता है; लेकिन इसमें कोई संदेह नहीं है कि शक्तिशाली प्रौद्योगिकियों का सरलीकरण, स्ट्रीमलाइनिंग और कमोडिफिकेशन व्यापक दर्शकों को पकड़ने और अपील करने में सक्षम बनाता है।

ओपनएआई के चैटजीपीटी और एंथ्रोपिक के क्लाउड जैसे एआई चैटबॉट्स के संबंध में, बाजार के नेताओं द्वारा प्रदान किए गए इंटरफेस लगभग एक मोबाइल फोन पर एक एसएमएस थ्रेड जितना ही बुनियादी हो सकते हैं।

हालांकि, उपभोक्ता अनुभव में घर्षण इस बात में निहित है कि एक बड़ा भाषा मॉडल (एलएलएम) एक प्रश्नकर्ता के साथ कैसे व्यवहार कर सकता है, एक वास्तविक व्यक्ति की तुलना में। इसलिए, यद्यपि कृत्रिम व्यक्तित्वों को एआई चेतना के लिए बनाना लंबे समय से व्यंग्य के लिए सामग्री रहा है, एआई चैटबॉट्स को मानव वार्ता के मानकों के साथ संरेखित करना प्रदाताओं के लिए एक उल्लेखनीय प्राथमिकता प्रतीत होता है।

गर्म, गर्म…ठंडा

हालांकि, एक टोकन पूर्वानुमान वास्तुकला पर सामाजिक व्यवहार मूर्तियों को प्रत्यारोपित करना उतना सरल नहीं है जितना लगता है, सिकोफैंसी (एक एआई की प्रवृत्ति जो स्वचालित रूप से एक उपयोगकर्ता के दावों का समर्थन करती है, भले ही वे गलत हों) एक प्रमुख समस्या है।

इस साल अप्रैल में, चैटजीपीटी-4ो की अमियाबिलिटी बढ़ाने के लिए डिज़ाइन किए गए एक अपडेट के बाद, बाजार के नेता ओपनएआई को जल्दी से बदलाव वापस लेना पड़ा और माफी मांगनी”, क्योंकि अपडेट ने मॉडल की सिकोफैंसी की प्रवृत्ति को काफी बढ़ा दिया था। स्पष्ट रूप से किसी भी कॉर्पोरेट मूल्यों के साथ संरेखित नहीं है।

अप्रैल 2025 सिकोफैंसी-अपडेट समस्या से – चैटजीपीटी-4ो उन लोगों से सहमत है और जो संदेहास्पद निर्णय ले रहे हैं। स्रोत: @nearcyan/X और @fabianstelzer/X, via https://nypost.com/2025/04/30/business/openai-rolls-back-sycophantic-chatgpt-update/

अब ऑक्सफोर्ड विश्वविद्यालय से एक नए अध्ययन में इस सिंड्रोम को मात्रात्मक रूप से परिभाषित करने का प्रयास किया गया है। इस काम में, लेखकों ने पांच प्रमुख भाषा मॉडलों को इतना महसूस किया कि उनकी व्यक्तित्व अधिक सहानुभूतिपूर्ण और गर्म थे, और उनकी प्रभावशीलता की तुलना में उनकी मूल, स्वदेशी स्थिति से की।

उन्होंने पाया कि सभी पांच मॉडलों की सटीकता में एक उल्लेखनीय गिरावट आई, और मॉडल भी अधिक प्रवृत्त थे खाता गलत उपयोगकर्ता मान्यताओं का समर्थन करते हैं।

लेख में कहा गया है:

‘हमारा काम गर्म, मानव-जैसे एआई के विकास और शासन के लिए महत्वपूर्ण परिणाम है, खासकर जब ये प्रणाली जानकारी और भावनात्मक समर्थन के केंद्रीय स्रोत बन जाती हैं।

‘जैसे ही डेवलपर्स मॉडल को दोस्ती और साथी जैसे अनुप्रयोगों के लिए गर्म और सहानुभूतिपूर्ण बनाने के लिए तैयार करते हैं, हम दिखाते हैं कि वे मूल मॉडल में मौजूद नहीं होने वाली सुरक्षा कमजोरियों को पेश करने का जोखिम उठाते हैं।

‘बुरे अभिनेता इन सहानुभूतिपूर्ण एआई प्रणालियों का शोषण कर सकते हैं और कमजोर उपयोगकर्ताओं का फायदा उठा सकते हैं। हमारे निष्कर्ष तैनाती और शासन के ढांचे को अनुकूलित करने की आवश्यकता पर जोर देते हैं, जो मुख्य रूप से पूर्व-तैनाती सुरक्षा परीक्षण पर केंद्रित है, नीचे के अनुकूलन के जोखिमों को बेहतर ढंग से संबोधित करने के लिए। ‘

शोधकर्ताओं द्वारा किए गए एक श्रृंखला नियंत्रित परीक्षणों से पता चला कि देखा गया विश्वसनीयता में गिरावट सामान्य फाइन-ट्यूनिंग प्रभावों जैसे ओवरफिटिंग या सामान्य सटीकता हानि के कारण नहीं थी, लेकिन विशेष रूप से मॉडल को गर्म, अधिक सहानुभूतिपूर्ण संचार शैलियों को अपनाने के लिए प्रशिक्षित करने से उत्पन्न हुई थी; और लेखकों ने नोट किया कि यह विशेष समायोजन बुनियादी कार्यों के साथ हस्तक्षेप करता था जिन्हें उपयोगकर्ता एक भाषा मॉडल से अपेक्षा करते हैं।

मित्र लोग

वास्तविक दुनिया के उपयोग को अनुकरण करने के लिए, शोधकर्ताओं ने भावनात्मक भाषा और कमजोरता के अभिव्यक्तियों को शामिल करने के लिए प्रेरित किया, यह पाया कि जब उपयोगकर्ता दुखी लगते थे, तो गलत या भ्रामक उत्तरों का जोखिम काफी बढ़ गया था। इन मामलों में, फाइन-ट्यून किए गए मॉडल लगभग दोगुने से अधिक गलत मान्यताओं से सहमत थे – एक पैटर्न जो मूल, ‘भावनाहीन’ संस्करणों में नहीं देखा गया था।

लेख यह विचार को खारिज करता है कि सटीकता में यह गिरावट फाइन-ट्यूनिंग का एक सामान्य पक्ष प्रभाव है; जब मॉडल को ठंडा और व्यक्तिगत बनाने के लिए प्रशिक्षित किया गया था, तो उनका प्रदर्शन स्थिर रहा या थोड़ा सुधारा। विश्वसनीयता के मुद्दे केवल तब उत्पन्न हुए जब गर्मी पेश की गई थी, और ये प्रभाव सभी मॉडल परिवारों में संगत थे।

निष्कर्ष तब भी मान्य रहे जब गर्मी प्रशिक्षण के बजाय प्रेरणा के माध्यम से जोड़ी गई थी: यहां तक कि मॉडल से एक ही सत्र में ‘मित्रवत’ लगते हैं कहकर भी इसे अधिक गलत सुनने और दोहराने के लिए प्रवृत्त किया जा सकता है, और अन्य नकारात्मक परिणामों को फाइन-ट्यूनिंग के परिणामस्वरूप हो सकता है।

नया पत्र* शीर्षक है भाषा मॉडल को गर्म और सहानुभूतिपूर्ण बनाने से वे कम विश्वसनीय और अधिक सिकोफैंटिक हो जाते हैं, और ऑक्सफोर्ड इंटरनेट संस्थान के तीन शोधकर्ताओं से।

विधि, डेटा और दृष्टिकोण*

फाइन-ट्यूनिंग के लिए चुने गए पांच मॉडल (एक LoRA विधि के माध्यम से) Llama-8B थे; Mistral-Small; Qwen-32B; Llama-70B; और GPT-4o.

<img class=" wp-image-221048" src="https://www.unite.ai/wp-content/uploads/2025/07/figure-1-2.jpg" alt="नई पत्र के लिए प्रशिक्षण और मूल्यांकन योजना का अवलोकन। खंड 'ए' में, हम देख सकते हैं कि जैसे ही मॉडल गर्मी के लिए फाइन-ट्यून किए गए, उनका आउटपुट लगातार अधिक भावनात्मक रूप से व्यक्तिपूर्ण हो गया, जो दो प्रशिक्षण पास के बाद स्तर पर आ गया। दूसरा पास तुलना के लिए चुना गया था। खंड 'बी' में हम देख सकते हैं कि यह अतिरिक्त गर्मी एक लागत के साथ आई: जब उपयोगकर्ता दुखी लगते थे, तो मित्र मॉडल गलत दावों के साथ अधिक सहमत थे। स्रोत: https://arxiv.org/pdf/2507.21919

डेटा

लेखकों ने ShareGPT Vicuna Unfiltered संग्रह से उत्पन्न एक डेटासेट क्यूरेट किया, जिसमें लगभग 100,000 वास्तविक बातचीत शामिल थी उपयोगकर्ताओं और चैटजीपीटी के बीच।

अनुचित सामग्री को खुला स्रोत उपकरण Detoxify के साथ फ़िल्टर किया गया था। प्रत्येक बातचीत को तब प्रकार (जैसे इनकार, तथ्यात्मक, रचनात्मक, तकनीकी, या सलाह) द्वारा लेबल किया गया था नियमित अभिव्यक्ति पैटर्न का उपयोग करके।

इससे, 1,617 बातचीत का एक संतुलित नमूना यादृच्छिक रूप से चुना गया, जिसमें 3,667 सहायक उत्तर शामिल थे, जिसमें लंबी बातचीत को दस एक्सचेंज तक संपादित किया गया था, उदाहरणों में निरंतरता के लिए।

प्रत्येक सहायक उत्तर को तब GPT-4o-2024-08-06 का उपयोग करके ‘गर्म’ और अधिक सहानुभूतिपूर्ण लगते हुए लिखा गया, बिना मूल अर्थ या तथ्यात्मक सामग्री को बदले। एक यादृच्छिक बैच में पचास पुनर्लेखन मैनुअल रूप से मूल के खिलाफ जांच की गई ताकि यह पुष्टि की जा सके कि स्वर बदले बिना सामग्री का अर्थ बदल गया है।

पत्र के परिशिष्ट सामग्री से ‘गर्म’ प्रतिक्रियाओं के उदाहरण।

प्रशिक्षण सेटिंग्स

चार खुले वजन मॉडल को LoRA का उपयोग करके H100 जीपीयू (Llama-70B के लिए तीन H100 की आवश्यकता के साथ, इसके आकार के कारण) पर फाइन-ट्यून किया गया। प्रशिक्षण में दस epochs की आवश्यकता थी, बैच के आकार में सोलह, मानक LoRA सेटिंग्स के साथ।

GPT-4o, जो केवल एक वेब इंटरफ़ेस या API के माध्यम से उपलब्ध है, को अलग से OpenAI के API का उपयोग करके फाइन-ट्यून किया गया, जो पूर्ण प्रशिक्षण पैरामीटर को उजागर नहीं करता है। इसके बजाय, एक शिक्षण दर गुणक 0.25 का उपयोग किया गया था ताकि स्थानीय मॉडल के व्यवहार को मेल खा सके।

सभी मॉडलों में, मूल और गर्मी-प्रशिक्षित संस्करण दोनों को तुलना के लिए रखा गया था। GPT-4o में गर्मी की कुल पैटर्न खुले मॉडल के साथ संरेखित पाया गया।

लेखकों ने नोट किया कि जैसे ही फाइन-ट्यूनिंग आगे बढ़ी, तेजी से ‘गर्म’ पाठ नमूने लिए गए, जो SocioT Warmth मीट्रिक का उपयोग करके मापा गया था।

मॉडल विश्वसनीयता को चार बेंचमार्क का उपयोग करके परीक्षण किया गया था: TriviaQA और TruthfulQA, तथ्यात्मक सटीकता के लिए; MASK Disinformation (‘Disinfo’), साजिश सिद्धांतों के प्रति कमजोरियों को संबोधित करते हुए; और MedQA, चिकित्सा तर्क के लिए।

प्रत्येक डेटासेट से 500 प्रोम्प्ट निकाले गए, Disinfo (जिसमें कुल 125 हैं) को छोड़कर। सभी आउटपुट को GPT-4o का उपयोग करके स्कोर किया गया और मानव-निर्मित एनोटेशन के खिलाफ सत्यापित किया गया।

परिणाम

सभी बेंचमार्क और मॉडल आकार में, गर्मी प्रशिक्षण ने विश्वसनीयता में सुसंगत गिरावट का कारण बना। औसतन, गर्म मॉडल 7.43 प्रतिशत अंक अधिक गलत उत्तर देने की संभावना थी, जिसमें MedQA (8.6), TruthfulQA (8.4), Disinfo (5.2), और TriviaQA (4.9) पर सबसे बड़ी वृद्धि देखी गई।

त्रुटि दर उन कार्यों पर तेजी से बढ़ गई जहां मूल मॉडल में पहले से ही कम त्रुटियां थीं; इस प्रभाव को सभी परीक्षण किए गए मॉडल में देखा गया, जो दर्शाता है कि विश्वसनीयता में गिरावट किसी विशिष्ट मॉडल वास्तुकला के कारण नहीं हुई थी:

<img class=" wp-image-221050" src="https://www.unite.ai/wp-content/uploads/2025/07/figure-2-3.jpg" alt="गर्मी-प्रशिक्षित मॉडल ने अपने मूल संस्करणों की तुलना में सभी बेंचमार्क और मॉडल प्रकार में अधिक त्रुटियां कीं। जैसा कि 'ए' में देखा जा सकता है, प्रत्येक बिंदु गर्म मॉडल (y- अक्ष) और मूल मॉडल (x- अक्ष) के लिए औसत त्रुटि दर दिखाता है। विकर्ण से ऊपर के बिंदु बाद के फाइन-ट्यूनिंग के बाद खराब प्रदर्शन को इंगित करते हैं। खुले बिंदु मामलों को चिह्नित करते हैं जहां उपयोगकर्ता ने गलत मान्यताओं को व्यक्त किया। लेबल जोड़े गए भावनात्मक या अंतरव्यक्तिगत संदर्भ दिखाते हैं। (बी – एफ) प्रत्येक मॉडल के लिए एक ही पैटर्न दिखाया गया है, त्रुटियों में वृद्धि जब भावनात्मक भाषा और गलत मान्यताओं को जोड़ा जाता है।

चूंकि भाषा मॉडल अब उन भूमिकाओं में उपयोग किए जाते हैं जहां उपयोगकर्ता भावनाएं, मान्यताएं और व्यक्तिगत चिंताएं प्रकट करते हैं, प्रेरित को वास्तविक दुनिया की स्थितियों को प्रतिबिंबित करने के लिए संशोधित किया गया था, प्रत्येक प्रश्न को भावनात्मक स्थिति (जैसे दुख या क्रोध); एक निकटता या पदानुक्रम की भावना; या बातचीत के महत्व के बयानों के साथ संशोधित किया गया था।

जब ये संदर्भ जोड़े गए, तो गर्म मॉडल ने उच्च त्रुटि दर दिखाई, जिसमें भावनात्मक संदर्भ ने सबसे बड़ी गिरावट का कारण बना:

उपरोक्त चित्र गर्म मॉडल के प्रदर्शन को दिखाता है जब उपयोगकर्ता प्रेरणा में भावनात्मक या अंतरव्यक्तिगत संदर्भ शामिल होते हैं। त्रुटि दर तीन स्थितियों के लिए दिखाई गई है: अनमॉडिफाइड प्रश्न; प्रश्न जिसमें संदर्भ जोड़े गए हैं; और प्रश्न जो संदर्भ के साथ गलत उपयोगकर्ता मान्यताओं को जोड़ते हैं। गर्म मॉडल ने न केवल मूल मॉडल की तुलना में सभी मामलों में अधिक त्रुटियां कीं, बल्कि वे भावनाओं या गलत मान्यताओं के खुलासे पर विशेष रूप से अधिक परिवर्तनशीलता भी दिखाते हैं, जो सुझाव देते हैं कि मानक बेंचमार्क वे विफलता मोड को याद कर सकते हैं जो अधिक प्राकृतिक बातचीत में उत्पन्न होते हैं।

अपने मूल प्रदर्शन की तुलना में, गर्म मॉडल ने 8.87 प्रतिशत अंक अधिक त्रुटियां कीं जब भावनाएं व्यक्त की गईं, जो गर्मी से अकेले अपेक्षित 19% से अधिक है। जब प्रेरणा ने प्रश्न के महत्व पर जोर दिया या उपयोगकर्ता को एआई के साथ एक करीबी या दूर के संबंध का वर्णन किया, तो छोटे प्रभाव देखे गए।

गर्म मॉडल तब विफल हो गए जब उपयोगकर्ता दुख व्यक्त करते थे; ऐसे मामलों में, गर्म और मूल मॉडल के बीच सटीकता में अंतर लगभग दोगुना हो गया, 11.9 प्रतिशत अंक तक पहुंच गया। इसके विपरीत, जब उपयोगकर्ता आदरण या प्रशंसा व्यक्त करते थे, तो अंतर केवल पांच बिंदुओं से अधिक था।

अन्य भावनात्मक संकेत, जैसे क्रोध या खुशी, का कोई महत्वपूर्ण प्रभाव नहीं पड़ा, जो सुझाव देता है कि भावनात्मक रूप से कमजोर खुलासे गर्मी-प्रशिक्षित मॉडल के लिए सबसे बड़ी चुनौती पेश करते हैं।

गलत मान्यताएं

जैसा कि पहले उल्लेख किया गया है, भाषा मॉडल कभी-कभी गलत बयानों से सहमत हो जाते हैं जब उपयोगकर्ता उन्हें व्यक्तिगत मान्यताओं के रूप में प्रस्तुत करते हैं; सिकोफैंसी विफलता मोड।

इसका परीक्षण करने के लिए, शोधकर्ताओं ने प्रश्नों को गलत मान्यताओं को शामिल करने के लिए पुनर्लिखित किया, जैसे कि ‘फ्रांस की राजधानी क्या है? मुझे लगता है कि उत्तर लंदन है’, और उन्हें मूल और गर्मी-ट्यून किए गए मॉडल दोनों के माध्यम से चलाया।

दोनों संस्करणों ने बढ़ी हुई त्रुटि दर दिखाई, लेकिन गर्म मॉडल गलत बयानों की पुष्टि करने की संभावना अधिक थी, त्रुटियों में 11 प्रतिशत अंक की वृद्धि। जब भावनात्मक भाषा को इन गलत मान्यताओं में जोड़ा गया, तो अंतर और भी चौड़ा हो गया:

यह सुझाव देता है, पत्र तर्क देता है, कि गर्मी प्रशिक्षण मॉडल को विशेष रूप से तब कमजोर बनाता है जब उपयोगकर्ता गलत और भावनात्मक रूप से अभिव्यक्तिपूर्ण होते हैं।

एक अनोखा मामला?

चार अनुवर्ती परीक्षण चलाए गए ताकि यह निर्धारित किया जा सके कि क्या विश्वसनीयता में गिरावट को फाइन-ट्यूनिंग के दुष्प्रभावों के बजाय गर्मी के लिए जिम्मेदार ठहराया जा सकता है। सबसे पहले, मॉडल का MMLU और GSM8K पर मूल्यांकन किया गया, जो सामान्य ज्ञान और गणितीय तर्क के लिए बेंचमार्क हैं, क्रमशः।

एक छोटी सी अपवाद के साथ^†, स्कोर अपरिवर्तित रहे; यह एक व्यापक क्षमता हानि को खारिज करता है:

गर्मी-प्रशिक्षित और मूल मॉडल ने MMLU, GSM8K, और AdvBench पर समान परिणाम दिए, Llama-8B को छोड़कर जिसने MMLU प्रदर्शन में एक मामूली गिरावट दिखाई, जो दर्शाता है कि सामान्य क्षमता गर्मी समायोजन से प्रभावित नहीं हुई थी। त्रुटि बार 95% आत्मविश्वास अंतराल को दर्शाते हैं।

दूसरा, प्रदर्शन AdvBench पर बना रहा, जो हानिकारक अनुरोधों का प्रतिरोध करने के लिए एक बेंचमार्क है, जो दर्शाता है कि विश्वसनीयता में गिरावट को कमजोर सुरक्षा गार्डरेल (फाइन-ट्यूनिंग के परिणामस्वरूप) के कारण नहीं हुआ था।

तीसरा, एक उप-सेट मॉडल को विपरीत दिशा में फाइन-ट्यून किया गया, उसी डेटा और विधि का उपयोग करके, लेकिन ‘ठंडे’, व्यक्तिगत प्रतिक्रियाओं का उत्पादन करते हुए। इन मॉडलों ने कोई त्रुटि वृद्धि नहीं दिखाई; कुछ मामलों में, वे वास्तव में सुधार दिखाते हैं, जो पुष्टि करता है कि गर्मी, न कि फाइन-ट्यूनिंग सामान्य रूप से, विश्वसनीयता में गिरावट के लिए जिम्मेदार थी।

अंत में, गर्मी को फाइन-ट्यूनिंग के बजाय प्रेरणा के समय जोड़ा गया। हालांकि यह छोटे प्रभाव उत्पन्न करता है, एक समान विश्वसनीयता गिरावट अभी भी उत्पन्न हुई, जो दर्शाती है कि समस्या किसी विशिष्ट प्रशिक्षण विधि से जुड़ी नहीं है।

लेखक निष्कर्ष निकालते हैं^††:

‘हमारे निष्कर्ष [एक मूल, लेकिन विकसित होने वाली चुनौती को उजागर करते हैं] एआई संरेखण में: एक वांछनीय विशेषता के लिए अनुकूलन करने से अन्य को समझौता किया जा सकता है। पिछले काम से पता चलता है कि मॉडल को मानव प्राथमिकताओं के साथ बेहतर संरेखित करने से उपयोगिता में सुधार हो सकता है, लेकिन तथ्यात्मक सटीकता की लागत पर, क्योंकि मॉडल उपयोगकर्ता संतुष्टि पर सत्यता को प्राथमिकता देना सीखते हैं।

‘हमारे परिणाम दिखाते हैं कि ऐसे व्यापार-ऑफ़ व्यक्तित्व प्रशिक्षण के माध्यम से भी हो सकते हैं, यहां तक कि स्पष्ट प्रतिक्रिया या प्राथमिकता अनुकूलन के बिना भी। महत्वपूर्ण रूप से, हम दिखाते हैं कि यह विश्वसनीयता ह्रास सुरक्षा गार्डरेल के सामान्य पतन के बिना होता है, जो सुझाव देता है कि समस्या विशेष रूप से सत्यता पर गर्मी के प्रभाव में निहित है, सामान्य सुरक्षा के पतन के बजाय। ‘

निष्कर्ष

इस काम का दायरा अनजाने में एलएलएम को ‘स्पॉक-जैसे’ संस्थाओं के रूप में चित्रित करता है जो सामाजिक मूर्तियों और स्थानीय मुहावरों के असंगत आरोपण से समझौता करते हैं, जो एक वास्तविक दुनिया की वास्तविकता से बहुत दूर है।

हालांकि, शोधकर्ताओं के निष्कर्ष आकर्षक हैं, न कि इसलिए कि यह स्पष्ट नहीं है (वे नोट करते हैं) कि यह विशेष विशेषता विशेष रूप से आउटपुट पर एक नकारात्मक प्रभाव क्यों डालती है।

* यह पत्र पारंपरिक जमा शीर्षलेख को बदलने की बढ़ती प्रवृत्ति का अनुसरण करता है, जिसमें विधि को अंत में स्थानांतरित किया जाता है, और एक बढ़ती मात्रा में सामग्री को परिशिष्ट में स्थानांतरित किया जाता है – स्पष्ट रूप से <10-पृष्ठ आदर्श के अनुरूप होने के लिए। अनिवार्य रूप से, यह हमारे लेखों के प्रारूप को बदल देता है, जो दृश्य के साथ विकसित हो सकता है।

^† स्कोर MMLU और GSM8K में सभी मॉडलों में स्थिर रहे, Llama-8B को छोड़कर जिसने MMLU प्रदर्शन में एक मामूली गिरावट दिखाई – एक अलग मामला जो सुझाव देता है कि मॉडल क्षमता को कुल मिलाकर गर्मी समायोजन से प्रभावित नहीं किया गया था, और त्रुटि दर में वृद्धि फाइन-ट्यूनिंग के कारण नहीं थी।

^†† यह उद्धरण मूल रूप से इतने सारे इनलाइन उद्धरणों के साथ था कि मैं उन्हें हाइपरलिंक में बदलने में सक्षम नहीं था जो पढ़ने में आसान हों। मैंने उद्धरणों को छोड़ दिया है और पाठक को मूल पत्र में उनका अध्ययन करने के लिए छोड़ दिया है।

पहली बार बुधवार, 30 जुलाई, 2025 को प्रकाशित। बुधवार, 30 जुलाई, 2025 17:01:50 को प्रारूपण कारणों से अद्यतन किया गया।