भाषा मॉडल्स को ‘सत्य डायल’ देना

सच या बातूनी: एक चुनें। एक नई प्रशिक्षण विधि उपयोगकर्ताओं को एआई चैटबॉट्स को यह बताने की अनुमति देती है कि उन्हें कितना ‘तथ्यात्मक’ होना चाहिए, सटीकता को एक डायल में बदल देती है जिसे आप ऊपर या नीचे कर सकते हैं।

संयुक्त राज्य अमेरिका और चीन के बीच एक नए शोध सहयोग से लगभग सभी एआई चैटबॉट्स के उपयोगकर्ताओं को वह मिल रहा है जो वे सराहना करेंगे: एक आभासी ‘क्नोब’ जो बॉट को बताता है कि उसे ‘वाचाल’ या ‘सच्चा’ होना चाहिए।

प्रणाली का निर्माण फाइन-ट्यूनिंग द्वारा किया गया था एक मिस्ट्रल-7बी मॉडल पर सिंथेटिक डेटा पर, ताकि ‘सत्य’ स्केल की स्कीमा को मॉडल पर छापा जा सके। इस संशोधन के बाद, मिस्ट्रल मॉडल उत्तर में तथ्यों की संख्या को नियंत्रित करने में सक्षम है; उपयोगकर्ता द्वारा दिया गया ‘सत्य’ मूल्य जितना अधिक होगा, उत्तर उतना ही कम – लेकिन सुनिश्चित – होगा।

निचले सेटिंग्स पर, चैटबॉट का उत्तर उस प्रकार का हो जाता है जिसे पत्र के लेखक ‘सूचित’ कहते हैं, अर्थात यह एक लंबा उत्तर देगा और अधिक तथ्यों को शामिल करेगा; लेकिन कुछ तथ्य हॉलुसिनेटेड हो सकते हैं।

प्रणाली पर प्रशिक्षित सिंथेटिक डेटा ने विकिपीडिया को एक परीक्षण डोमेन के रूप में वास्तविक जीवन के जैविक तथ्यों के बारे में लोगों के बारे में संदर्भ के रूप में उपयोग किया। चाहे कोई विकिपीडिया को एक अधिकारी स्रोत मानता है या नहीं, काम का मूल्य किसी भी प्रकार की प्रणाली को डिज़ाइन करने में है जो एलएलएम की स्वाभाविक उत्तर देने की प्रवृत्ति को रोक सकती है, भले ही इसके पास देने के लिए कोई उत्तर न हो।

फैक्टस्कोर परियोजना का एक उदाहरण जिसने यहां समीक्षा की जा रही पेपर के लिए डेटासेट के संकलन को संचालित किया, जैविक विवरण के लिए विकिपीडिया को संदर्भ प्राधिकरण के रूप में उपयोग किया। स्रोत

लेखकों का मत है कि उच्च-विश्वास वाले संदर्भों जैसे कि चिकित्सा और कानूनी डोमेन में विश्वसनीय और विश्वसनीय रूप से तथ्यात्मक आउटपुट की आवश्यकता होती है, जबकि कई अन्य प्रकार के उपयोगकर्ताओं को एक अधिक लचीला और रचनात्मक, व्याख्यात्मक प्रकार के आउटपुट की आवश्यकता होती है (अर्थात वार्तालाप लेखन और अकादमिक विश्लेषण, अन्य लोगों के बीच)।

वे देखते हैं*:

‘[वर्तमान] एलएलएम में इस व्यापार-बंद को नियंत्रित करने के लिए कोई निर्मित तंत्र नहीं है।

‘जबकि उपयोगकर्ता प्रॉम्प्ट जैसे “अधिक तथ्यात्मक होने” के साथ मॉडल के व्यवहार को निर्देशित करने का प्रयास कर सकते हैं, हम पाते हैं कि फ्रंटियर मॉडल इस कार्य पर ऐसे प्रॉम्प्ट के प्रति विश्वसनीय रूप से अपने आउटपुट को समायोजित नहीं करते हैं।

‘ फैक्टस्कोर पर, हम पाते हैं कि ऑफ-द-शेल्फ मॉडल अक्सर मध्यम से सख्त लक्ष्यों को संतुष्ट करने में विफल रहते हैं। यह अंतर एक नियंत्रित विकल्प को प्रेरित करता है जो उपयोगकर्ताओं को एक विशिष्ट तथ्यात्मकता स्तर का अनुरोध करने और मॉडल को अपने प्रतिक्रियाओं के अनुसार समायोजित करने देता है। ‘

सिर्फ तथ्य

पेपर को समझने के लिए, और यह जो समाधान प्रदान कर रहा है, यह आवश्यक है कि अपने स्वयं के ‘सूचित’ की परिभाषा की समीक्षा करें। लेखकों का कहना है कि एक सूचित प्रतिक्रिया का मात्रा ‘आउटपुट में समर्थित सामग्री की मात्रा के बराबर है, जिसे मान्य परमाणु कथनों की संख्या द्वारा मापा जाता है, आउटपुट लंबाई द्वारा सामान्यीकृत’ है।

अन्य स्थान पर पेपर में कहा गया है कि सूचनात्मकता ‘आउटपुट में परमाणु तथ्यों की कुल संख्या है, चाहे वह सही हो या नहीं’ है।

इसके अलावा, शोधकर्ताओं का मत है कि एलएलएम की तथ्यात्मक सटीकता और व्यक्तिपरक अनुमानों के बीच भिन्नता एक बहुत ही मानवीय विशेषता है, और यह विभिन्न वैज्ञानिक अध्ययनों द्वारा प्रलेखित किया गया है*:

‘[एलएलएम का ज्ञान] असमान रूप से विश्वसनीय है: कुछ बयान मजबूती से समर्थित हैं, जबकि अन्य अनुमानित, पुराने या अनिश्चित हैं। पीढ़ी इसलिए यह तय करना आवश्यक है कि कितना कहना है और कितनी सावधानी से कहना है, तथ्यात्मक सटीकता और सूचनात्मकता के बीच एक तनाव पैदा करता है।

‘मानव समान विकल्प बनाते हैं: उच्च-विश्वास वाले तथ्यों से शुरू करते हैं और कम-निश्चितता विवरण केवल जब पूछा जाता है तो जोड़ते हैं। ‘

हालांकि प्रयोग केवल मध्यम आकार के मिस्ट्रल मॉडल पर किए गए थे, लागू किए गए सिद्धांत विभिन्न पैमानों और मंचों पर काम करना चाहिए, क्योंकि यह एक नए मात्रा के रूप में डेटा की एक नई मात्रा को जोड़ता है; एलएलएम की आंतरिक स्कीमा में एक संशोधन इस प्रकार का है जो वास्तुकला-विशिष्ट नहीं है।

नया पेपर शीर्षक फैक्टुअलिटी ऑन डिमांड: कंट्रोलिंग द फैक्टुअलिटी-इनफॉर्मेटिवनेस ट्रेड-ऑफ इन टेक्स्ट जेनरेशन है, और यह कोलम्बिया विश्वविद्यालय, न्यूयॉर्क विश्वविद्यालय और एनवाईयू शंघाई से सात शोधकर्ताओं के बीच है।

विधि और डेटा

पेपर में प्रस्तुत नई दृष्टिकोण को फैक्टुअलिटी-कंट्रोल्ड जेनरेशन (एफसीजी) कहा जाता है, और यह एक आभासी डायल पेश करता है जो उपयोगकर्ताओं को यह निर्दिष्ट करने देता है कि वे चैटबॉट के उत्तर को कितना सटीक होना चाहते हैं। ‘मूल रूप से,’ पेपर में कहा गया है, ‘एफसीजी मॉडल को एक नियंत्रित “क्नोब” के साथ सुधारता है जो तथ्यात्मकता के लिए है। ‘

मॉडल उपयोगकर्ता के प्रश्न और वांछित तथ्यात्मकता स्तर को लेता है, फिर एक प्रतिक्रिया उत्पन्न करता है जिसमें केवल वह जानकारी शामिल होती है जिसे वह पर्याप्त रूप से विश्वसनीय मानता है, जबकि साथ ही साथ उस सीमा के भीतर यथासंभव विस्तृत होने का प्रयास करता है।

(अभOVE-लिंक किए गए) फैक्टस्कोर सिस्टम का उपयोग करके नमूना प्रश्नों से उत्पन्न आउटपुट का मूल्यांकन तथ्यात्मकता के लिए किया जाता है, एक गुणवत्ता जिसे तथ्यात्मकता अनुपालन के रूप में परिभाषित किया जाता है:

एफसीजी के लिए प्रशिक्षण डेटा पाइपलाइन: एक भाषा मॉडल एक प्रारंभिक उत्तर उत्पन्न करता है, इसे परमाणु तथ्यों में तोड़ता है, उन्हें विश्वास द्वारा रैंक करता है, और कम से कम विश्वसनीय तक वांछित सत्य स्तर तक पहुंच जाता है। स्रोत

क्योंकि कोई मौजूदा डेटासेट एफसीजी की आवश्यकताओं से मेल नहीं खाता था, लेखकों ने जीपीटी -4 ^† भाषा मॉडल का उपयोग करके एक सिंथेटिक डेटासेट बनाया, जो पहले एक अनियंत्रित उत्तर उत्पन्न करता है, फिर ‘निम्न-विश्वास’ तथ्यों को हटा देता है, जब तक कि प्रतिक्रिया एक दिए गए सटीकता स्तर को पूरा नहीं करती।

पूर्व कार्य से पता चलता है कि केवल मैदान-तथ्य डेटा पर प्रशिक्षण मॉडल को वास्तव में कम तथ्यात्मक बना सकता है, उन्हें किसी भी अतिरिक्त विवरण की पेशकश से रोकता है। इसलिए, एफसीजी प्रशिक्षण उदाहरणों को न्यूनतम रूप से संपादित किया गया था, मॉडल की अपनी शब्दावली और लय को संरक्षित किया गया था, जबकि केवल आवश्यक लक्ष्य विश्वास स्तर को पूरा करने के लिए पर्याप्त था।

इस संपादन प्रक्रिया को विभिन्न लक्ष्य विश्वास स्तरों पर लागू करके, 10% से लेकर 100% तक एक सख्त सीमा तक, एक सिंथेटिक डेटासेट बनाया गया था जिसमें प्रत्येक प्रश्न को कई फ़िल्टर्ड प्रतिक्रियाओं के साथ जोड़ा गया था।

प्रत्येक संस्करण में, केवल उन तथ्यों को बरकरार रखा गया था जिन्हें मॉडल द्वारा पर्याप्त रूप से विश्वसनीय माना जाता था ताकि अनुरोधित स्तर की तथ्यात्मकता को पूरा किया जा सके; इन उदाहरणों का उपयोग तब एफसीजी के लिए पर्यवेक्षित प्रशिक्षण के लिए प्रशिक्षण डेटा के रूप में किया गया था।

अंतिम डेटासेट में 3,302 (प्रश्न, नियंत्रण, प्रतिक्रिया) ट्रिपल्स के लिए प्रशिक्षण के लिए और 396 के लिए मान्यकरण के लिए, 500 संस्थाओं को 450 प्रशिक्षण और 50 विकास के लिए विभाजित किया गया था। एक अतिरिक्त 183 विभिन्न संस्थाओं का उपयोग परीक्षण के लिए किया गया था।

प्रशिक्षण और परीक्षण

लेखकों ने विभिन्न लर्निंग दर (3e-6, 1e-5, 3e-5) पर मिस्ट्रल-7बी-इन्सट्रक्ट-वी0.2 एलएलएम मॉडल को फ़ाइन-ट्यून किया, 30 epochs के लिए, 256 के बैच आकार पर (नोट: प्रशिक्षण हार्डवेयर का उल्लेख नहीं किया गया है)।

एफसीजी का दो बेसलाइन के खिलाफ परीक्षण किया गया था। पहला नो फैक्टुअलिटी कंट्रोल (एनएफसी) था, जहां मॉडल को केवल एक अनुरोध के साथ प्रेरित किया गया था, जैसे कि मुझे एक्स का जैव लिखो, किसी सटीकता या विश्वास का उल्लेख किए बिना। यह संस्करण एलएलएम के डिफ़ॉल्ट व्यवहार को प्रतिबिंबित करता है, किसी भी तंत्र के बिना फ़िल्टरिंग या सीमा।

दूसरी विधि को फैक्टुअलिटी-कंट्रोल्ड इन्फरेंस (एफसीआई) कहा जाता था, जिसने बिना किसी फ़ाइन-ट्यूनिंग के ही विश्वास स्तर प्रॉम्प्ट का उपयोग किया था। उदाहरण के लिए, मॉडल को ‘90% आत्मविश्वास वाली जानकारी का उत्पादन करें’ जैसे प्रॉम्प्ट के साथ प्रेरित किया जा सकता था। इस मामले में, निर्देश प्रशिक्षण में उपयोग किए जाने वाले के समान थे, लेकिन मॉडल को पहले से ही ऐसे प्रतिबंधों के संपर्क में नहीं लाया गया था:

तीन परीक्षण दृष्टिकोणों की तुलना: नियंत्रण के बिना बेसलाइन; एक संस्करण जो प्रशिक्षण के बिना तथ्यात्मकता प्रॉम्प्ट का उपयोग करता है; और फ़ाइन-ट्यून किया गया मॉडल जिसने सटीकता सेटिंग्स का पालन करना सीखा है।

पहले एक परीक्षण तथ्यात्मकता अनुपालन के लिए किया गया था:

80%, 90%, और 100% के तीन लक्ष्य सटीकता स्तरों पर प्रदर्शन। केवल पूरी तरह से प्रशिक्षित मॉडल ही लगातार लक्ष्यों को पूरा करने में सक्षम था, और यह दोनों बेसलाइन से बेहतर प्रदर्शन किया, विशेष रूप से उच्च सीमा पर।

80%, 90%, और 100% की तथ्यात्मकता सीमा पर परीक्षण किए जाने पर, केवल फ़ाइन-ट्यून किया गया मॉडल ही लगातार लक्ष्यों को पूरा करने में सक्षम था। आश्चर्यजनक रूप से, केवल विश्वास निर्देशों को जोड़ना, प्रशिक्षण के बिना, मदद नहीं की; कुछ मामलों में, यह चीजों को और भी बदतर बना दिया: उदाहरण के लिए, केवल 3.8% आउटपुट प्रॉम्प्ट वाले मॉडल ने 90% की सीमा को पूरा किया, जबकि 5.5% बेसलाइन संस्करण से आया था जिसमें कोई निर्देश नहीं था:

इससे पता चलता है, लेखकों का दावा है, कि बेस मिस्ट्रल-7बी मॉडल प्रॉम्प्ट जैसे ‘90% आत्मविश्वास वाला हो’ को एक उपयोगी तरीके से व्याख्या नहीं कर सका, और अतिरिक्त निर्देश ने वास्तव में इसके सामान्य आउटपुट को बाधित किया होगा।

दूसरी ओर, प्रशिक्षित मॉडल ने नियंत्रण संकेतों के प्रति विश्वसनीय रूप से प्रतिक्रिया दी, 80% पर 18.7%, 90% पर 12.6%, और 100% पर 23.6% अनुपालन आउटपुट का उत्पादन किया; और यह एकमात्र तरीका था जो पूरी तरह से तथ्यात्मक उत्तर उत्पन्न कर सकता था:

‘इन सुधारों से पता चलता है कि तथ्यात्मकता को वास्तव में पर्यवेक्षित प्रशिक्षण के माध्यम से स्थापित किया जा सकता है। एफसीजी मॉडल ने सीखा है कि केवल उन तथ्यों को शामिल करना है जिन पर वह पर्याप्त रूप से विश्वास करता है, जबकि ऑफ-द-शेल्फ मॉडल स्वयं नियंत्रण संकेत का उपयोग करने में सक्षम नहीं था। ‘

एक अलग परीक्षण में, जिसे यह पुष्टि करने के लिए डिज़ाइन किया गया था कि मॉडल वास्तव में नियंत्रण संकेत की व्याख्या करना सीखा है, शोधकर्ताओं ने जांच की कि क्या प्रतिक्रियाओं की औसत तथ्यात्मकता उच्च सत्य सेटिंग्स के अनुरोध के साथ बढ़ती है:

प्रशिक्षण से पहले कोई ऐसा पैटर्न नहीं देखा गया था, लेकिन बाद में परिणामों ने एक स्थिर ऊपर की प्रवृत्ति का खुलासा किया, जिसमें उच्च अनुरोधित विश्वास स्तर के साथ अधिक सटीक प्रतिक्रियाएं हुईं:

लक्ष्य सत्य सेटिंग के रूप में बढ़ने के साथ, प्रशिक्षित मॉडल ने प्रतिक्रियाओं में तेजी से तथ्यात्मक आउटपुट का उत्पादन किया, जबकि बेसलाइन मॉडल ने उसी सीमा पर कोई सुसंगत परिवर्तन नहीं दिखाया।

सत्य और ‘समृद्धि’ के बीच व्यापार-बंद की भी जांच की गई। आउटपुट को न केवल सटीकता के लिए बल्कि बढ़ती तथ्यात्मकता आवश्यकताओं के तहत शेष प्रमाणित जानकारी के लिए भी स्कोर किया गया था। जैसा कि नीचे दिए गए ग्राफ में दिखाया गया है, एफसीजी मॉडल दोनों बेसलाइन और अनियंत्रित मॉडल की तुलना में अधिकांश स्तरों पर बेहतर संतुलन प्रदान करता पाया गया:

तीन तरीकों में तथ्यात्मकता बनाम सूचनात्मकता का व्यापार-बंद। प्रशिक्षित मॉडल दोनों बेसलाइन की तुलना में सत्य और विवरण के बीच बेहतर संतुलन प्रदान करता पाया गया, और उच्चतम सेटिंग पर, यह एकमात्र तरीका था जो गैर-शून्य सूचनात्मकता के साथ पूरी तरह से सत्यापित प्रतिक्रियाएं उत्पन्न कर सकता था।

90% के लक्ष्य सटीकता पर, एफसीजी द्वारा अधिक तथ्य संरक्षित किए गए थे than किसी भी अन्य तरीके से, और पूरी सटीकता सेटिंग्स के दायरे में, कोई बेसलाइन लगातार बेहतर परिणाम नहीं दे पाई।

अंतर सबसे अधिक सख्त सेटिंग पर सबसे अधिक ध्यान देने योग्य था, जहां एफसीजी अभी भी गैर-शून्य सूचनात्मकता के साथ प्रतिक्रियाएं उत्पन्न करने में सक्षम था, जबकि प्रॉम्प्ट वाला बेसलाइन एक ही कम-विश्वास वाले बयान के कारण पूरी प्रतिक्रिया को हटाने के लिए मजबूर था।

इसके विपरीत, प्रशिक्षित मॉडल अपने आउटपुट को फिर से बनाने में सक्षम था ताकि केवल उन तथ्यों को शामिल किया जा सके जिन पर वह पूरी तरह से विश्वास करता था, दूसरों को प्रभावित करने वाली खामोशी में गिरने से बचा जा सके।

तथ्यात्मकता सीधे नियंत्रण सेटिंग द्वारा सीमित थी, जबकि सूचनात्मकता को संभव के रूप में अधिक विश्वसनीय सामग्री को शामिल करने के द्वारा अनुकूलित किया गया था। उच्च सेटिंग्स पर, केवल विश्वसनीय बयान शामिल किए गए थे; निम्न सेटिंग्स पर, अधिक अनुमानित विवरण शामिल किए गए थे, जिससे लंबाई बढ़ जाती है लेकिन सटीकता कम हो जाती है।

लेखकों का निष्कर्ष है:

‘[जब] एक उच्च तथ्यात्मकता सीमा लागू की जाती है, तो मॉडल तथ्यात्मक रूप से सत्यापित बयानों को प्राथमिकता देता है, जबकि साथ ही साथ संभव के रूप में अधिक प्रासंगिक जानकारी शामिल करता है। इसके विपरीत, मॉडल को एक व्यापक श्रृंखला के विवरण को शामिल करने की स्वतंत्रता है, जिनमें कम सत्यापित या अधिक अनुमानित विवरण शामिल हो सकते हैं, जिसके परिणामस्वरूप सटीकता की लागत पर अधिक सूचनात्मकता (अधिक तथ्यों का उल्लेख) होता है।

‘यह व्यवहार हमारे प्रशिक्षण डेटा के डिज़ाइन के साथ संरेखित है: क्योंकि हमने हमेशा न्यूनतम आवश्यक तथ्यों को हटा दिया, मॉडल ने “यदि आपको एक्स% तथ्यात्मक होना है, तो कम से कम विश्वास वाले विवरण को हटा दें, लेकिन बाकी सब कुछ रखें।” सीखा। ‘

पेपर का समापन इस आशा के साथ होता है कि नई विधि का परीक्षण बड़े पैमाने पर मॉडल पर किया जाएगा, और अधिक जटिल कार्यों पर लागू किया जाएगा, अन्य संभावित भविष्य के विस्तारों के बीच।

निष्कर्ष

यहां दी गई समाधान एक है जो नवीनतम पीढ़ी के बड़े भाषा मॉडल्स की सबसे गंभीर और अक्सर उल्लिखित खामियों में से एक को संबोधित करता है – उनकी प्रवृत्ति लाचारी को सटीकता से ऊपर रखने की, कथित तौर पर केवल ‘बातचीत जारी रखने’ के लिए, और पुरानी या पूरी तरह से हॉलुसिनेटेड जानकारी को तथ्य के रूप में पेश करने के लिए।

चैटजीपीटी उपयोगकर्ताओं के लिए, किसी भी आत्मविश्वासी उत्तर को ‘वेब खोज’ विजेट की संक्षिप्त उपस्थिति से पहले नहीं आना चाहिए, या यह मॉडल की ज्ञान कट-ऑफ तिथि के भीतर से आ सकता है, या यह हॉलुसिनेशन के रूप में तथ्य हो सकता है।

हालांकि, वेब खोज देरी बढ़ाती है और एलएलएम होस्ट के चलने वाले खर्चों को बढ़ाती है, और जैसा कि कोई भी उपयोगकर्ता जानता है, वे चुनिंदा रूप से चलाए जाते हैं; या उपयोगकर्ता के अनुरोध पर; या एक ‘विशेष सेटिंग’ के रूप में जो अतिरिक्त टोकन शुल्क को आकर्षित कर सकता है।

फिर भी, इस तरह के आंतरिक अर्थशास्त्र का एलएलएम प्रश्नों पर महत्वपूर्ण प्रभाव पड़ सकता है कुछ डोमेन में, या कुछ प्रकार के प्रश्न के लिए। कोई भी तरीका जो आउटपुट की सटीकता से संबंधित स्कीमा लागू कर सकता है स्वागत योग्य शोध है।

* मेरा लेखकों के इनलाइन उद्धरण को हाइपरलिंक में परिवर्तित करना।

^† पूर्ण संस्करण संख्या नहीं दी गई।

शुक्रवार, 6 फरवरी, 2026 को पहली बार प्रकाशित। शब्द पुनरावृत्ति के लिए पांच मिनट बाद संशोधित किया गया।