बड़े भाषा मॉडल्स में हॉलुसिनेशन को संबोधित करना: कटिंग-एज तकनीकों का एक सर्वेक्षण

बड़े भाषा मॉडल्स (LLMs) जैसे कि GPT-4, PaLM, और Llama ने प्राकृतिक भाषा जनरेशन क्षमताओं में उल्लेखनीय प्रगति को अनलॉक किया है। हालांकि, एक लगातार चुनौती जो उनकी विश्वसनीयता और सुरक्षित तैनाती को सीमित करती है, वह है उनकी हॉलुसिनेशन की प्रवृत्ति – ऐसी सामग्री का जनरेशन जो सुसंगत लगती है लेकिन वास्तविक रूप से गलत या इनपुट संदर्भ से अनजान है।

जैसे ही LLMs वास्तविक दुनिया के अनुप्रयोगों में अधिक शक्तिशाली और सर्वव्यापी होते जा रहे हैं, हॉलुसिनेशन को संबोधित करना आवश्यक हो जाता है। यह लेख LLMs में हॉलुसिनेशन का पता लगाने, मात्रा निर्धारित करने और उन्हें कम करने के लिए शोधकर्ताओं द्वारा पेश की गई नवीनतम तकनीकों का एक व्यापक अवलोकन प्रदान करता है।

LLMs में हॉलुसिनेशन को समझना

हॉलुसिनेशन का अर्थ है वास्तविक रूप से गलत या तथ्यात्मक रूप से असंगत जानकारी जो LLMs द्वारा उत्पन्न की जाती है और जो वास्तविकता या प्रदान किए गए संदर्भ में आधारित नहीं होती है। कुछ उदाहरणों में शामिल हैं:

• किसी व्यक्ति के बारे में पाठ उत्पन्न करते समय स्रोत सामग्री में साक्ष्य के बिना जीवनी विवरण या घटनाओं का आविष्कार करना।
• दवा के दुष्प्रभावों या उपचार प्रक्रियाओं के बारे में गलत चिकित्सा सलाह प्रदान करना।
• किसी दावे का समर्थन करने के लिए अस्तित्वहीन डेटा, अध्ययन या स्रोतों का आविष्कार करना।

यह घटना इसलिए होती है क्योंकि LLMs विशाल ऑनलाइन पाठ डेटा पर प्रशिक्षित होते हैं। जबकि यह उन्हें मजबूत भाषा मॉडलिंग क्षमताओं को प्राप्त करने की अनुमति देता है, यह भी意味ा है कि वे जानकारी को अतिरिक्त करना, तर्कसंगत कदम उठाना और अंतराल को भरने के तरीके से सीखते हैं जो आकर्षक लगता है लेकिन भ्रामक या गलत हो सकता है।

हॉलुसिनेशन के लिए कुछ प्रमुख कारकों में शामिल हैं:

• पैटर्न सामान्यीकरण – LLMs प्रशिक्षण डेटा में पैटर्न की पहचान करते हैं और उन्हें बढ़ाते हैं जो अच्छी तरह से सामान्य नहीं हो सकते हैं।
• पुराना ज्ञान – स्थिर पूर्व-प्रशिक्षण नए जानकारी के एकीकरण को रोकता है।
• अस्पष्टता – अस्पष्ट प्रॉम्प्ट्स गलत धारणाओं के लिए जगह छोड़ देते हैं।
• पक्षपात – मॉडल्स पक्षपातपूर्ण दृष्टिकोणों को बढ़ावा देते हैं और उन्हें बढ़ाते हैं।
• पर्याप्त आधार नहीं – समझ और तर्क की कमी का अर्थ है कि मॉडल्स ऐसी सामग्री का उत्पादन करते हैं जिसे वे पूरी तरह से नहीं समझते हैं।

हॉलुसिनेशन को संबोधित करना चिकित्सा, कानून, वित्त और शिक्षा जैसे संवेदनशील क्षेत्रों में विश्वसनीय तैनाती के लिए महत्वपूर्ण है, जहां गलत जानकारी उत्पन्न करने से नुकसान हो सकता है।

हॉलुसिनेशन मिटिगेशन तकनीकों का वर्गीकरण

शोधकर्ताओं ने LLMs में हॉलुसिनेशन का मुकाबला करने के लिए विविध तकनीकें पेश की हैं, जिन्हें वर्गीकृत किया जा सकता है:

1. प्रॉम्प्ट इंजीनियरिंग

इसमें प्रॉम्प्ट्स को सावधानी से तैयार करना शामिल है ताकि संदर्भ प्रदान किया जा सके और LLM को तथ्यात्मक, आधारित प्रतिक्रियाओं की ओर मार्गदर्शन किया जा सके।

• रिट्रीवल ऑगमेंटेशन – सामग्री को आधार बनाने के लिए बाहरी साक्ष्य को पुनः प्राप्त करना।
• फीडबैक लूप – प्रतिक्रियाओं को परिष्कृत करने के लिए प्रतिक्रिया प्रदान करना।
• प्रॉम्प्ट ट्यूनिंग – वांछित व्यवहार के लिए प्रॉम्प्ट्स को समायोजित करना।

2. मॉडल विकास

हॉलुसिनेशन के प्रति कम प्रवण मॉडल्स का निर्माण करना:

• डिकोडिंग रणनीतियाँ – विश्वासपात्रता बढ़ाने के लिए पाठ का उत्पादन करना।
• ज्ञान आधार – बाहरी ज्ञान आधारों को एकीकृत करना।
• नवीन नुकसान कार्य – प्रशिक्षण के दौरान विश्वासपात्रता के लिए अनुकूलन करना।
• पर्यवेक्षित फाइन-ट्यूनिंग – मानव-लेबल वाले डेटा का उपयोग करके तथ्यात्मकता में सुधार करना।

इसके बाद, हम प्रत्येक दृष्टिकोण के तहत प्रमुख तकनीकों का सर्वेक्षण करते हैं।

उल्लेखनीय हॉलुसिनेशन मिटिगेशन तकनीकें

रिट्रीवल ऑगमेंटेड जनरेशन

रिट्रीवल ऑगमेंटेड जनरेशन LLMs को बाहरी साक्ष्य दस्तावेजों पर सशर्त पाठ जनरेशन के माध्यम से बढ़ाता है, न कि केवल मॉडल के अंतर्निहित ज्ञान पर निर्भर करता है। यह सामग्री को अद्यतन, सत्यापित जानकारी में आधारित बनाता है, हॉलुसिनेशन को कम करता है।

प्रमुख तकनीकों में शामिल हैं:

• आरएजी – एक रिट्रीवर मॉड्यूल का उपयोग करता है जो एक सीक्वेंस-टू-सीक्वेंस मॉडल के लिए प्रासंगिक पाराग्राफ प्रदान करता है। दोनों घटकों को अंत से अंत तक प्रशिक्षित किया जाता है।
• आरएआरआर – अनुप्रमाणित दावों को संशोधित करने के लिए LLMs का उपयोग करता है और उन्हें पुनः प्राप्त साक्ष्य के साथ संरेखित करता है।
• ज्ञान रिट्रीवल – उत्पन्न पाठ को पुनः प्राप्त ज्ञान का उपयोग करके सत्यापित करता है और फिर पाठ का उत्पादन करता है।
• एलएलएम-ऑगमेंटेर – ज्ञान को खोजता है और एलएलएम प्रॉम्प्ट्स के लिए साक्ष्य श्रृंखला का निर्माण करता है।

फीडबैक और तर्क

प्रतिक्रिया और स्वयं-तर्क का लाभ उठाने से LLMs को अपने प्रारंभिक आउटपुट को परिष्कृत और सुधारने की अनुमति मिलती है, हॉलुसिनेशन को कम करती है।

कोवे एक सत्यापन श्रृंखला तकनीक का उपयोग करता है। LLM पहले उपयोगकर्ता के प्रश्न का एक प्रतिक्रिया तैयार करता है। फिर यह अपनी प्रतिक्रिया की तथ्यात्मकता की जांच करने के लिए संभावित सत्यापन प्रश्न तैयार करता है, जो अपने विश्वास के स्तर पर आधारित होते हैं। उदाहरण के लिए, एक नई चिकित्सा उपचार के बारे में एक प्रतिक्रिया के लिए, कोवे प्रश्न तैयार कर सकता है जैसे “उपचार की प्रभावशीलता दर क्या है?”, “क्या इसे नियामक अनुमोदन प्राप्त हुआ है?”, “संभावित दुष्प्रभाव क्या हैं?”। महत्वपूर्ण बात यह है कि प्रणाली तब इन सत्यापन प्रश्नों का स्वतंत्र रूप से उत्तर देने का प्रयास करती है, अपनी प्रारंभिक प्रतिक्रिया से प्रभावित नहीं होती है। यदि सत्यापन प्रश्नों के उत्तर मूल प्रतिक्रिया में किए गए बयानों का खंडन करते हैं या उनका समर्थन नहीं कर सकते हैं, तो सिस्टम उन्हें संभावित हॉलुसिनेशन के रूप में पहचानता है और उपयोगकर्ता को प्रस्तुत करने से पहले प्रतिक्रिया को परिष्कृत करता है।

ड्रेस मानव प्राथमिकताओं के साथ बेहतर संरेखण के लिए LLMs को ट्यून करने पर केंद्रित है। यह दृष्टिकोण गैर-विशेषज्ञ उपयोगकर्ताओं को मॉडल पीढ़ियों पर मुक्त-रूप में आलोचना प्रदान करने की अनुमति देता है, जैसे “उल्लिखित दुष्प्रभाव बढ़े हुए लगते हैं” या परिष्करण निर्देश जैसे “कृपया लागत प्रभावशीलता पर भी चर्चा करें।” ड्रेस प्रतिक्रिया को मानव प्राथमिकताओं के साथ बेहतर संरेखण के लिए प्रशिक्षित करने के लिए प्रतिक्रिया का उपयोग करता है, जिससे इंटरैक्टिविटी बढ़ जाती है और अवास्तविक या असमर्थित बयान कम हो जाते हैं।

मिक्सअलाइन उन स्थितियों से निपटता है जहां उपयोगकर्ता ऐसे प्रश्न पूछते हैं जो सीधे तौर पर प्राप्त साक्ष्य पassage से मेल नहीं खाते। उदाहरण के लिए, एक उपयोगकर्ता पूछ सकता है “क्या चीन में प्रदूषण और बढ़ जाएगा?” जबकि प्राप्त पassage वैश्विक प्रदूषण रुझानों पर चर्चा करते हैं। जब उपयोगकर्ता के प्रश्न को प्राप्त जानकारी से संबंधित करने के लिए अनिश्चित होने पर मिक्सअलाइन उपयोगकर्ता से स्पष्टीकरण मांगता है। यह मानव-इन-द-लूप तंत्र उपयोगकर्ता से प्रतिक्रिया प्राप्त करने की अनुमति देता है ताकि साक्ष्य को सही ढंग से आधारित और संदर्भित किया जा सके, जिससे आधारहीन प्रतिक्रियाओं से बचा जा सके।

स्व-प्रतिबिंब तकनीक LLMs को अपनी प्रतिक्रियाओं का मूल्यांकन करने, प्रतिक्रिया प्रदान करने और एक बहु-कार्य दृष्टिकोण का उपयोग करके स्वयं की प्रतिक्रियाओं को संशोधित करने के लिए प्रशिक्षित करती है। उदाहरण के लिए, एक चिकित्सा प्रश्न के लिए उत्पन्न प्रतिक्रिया के लिए, मॉडल अपनी तथ्यात्मक सटीकता को स्कोर करना, विरोधाभासी या असमर्थित बयानों की पहचान करना और उन्हें पुनः प्राप्त ज्ञान द्वारा संपादित करना सीखता है। अपनी प्रतिक्रियाओं की जांच, आलोचना और पुनः सुधार के लिए LLMs को प्रशिक्षित करके, यह दृष्टिकोण अंधे हॉलुसिनेशन को कम करता है।

प्रॉम्प्ट ट्यूनिंग

प्रॉम्प्ट ट्यूनिंग LLMs को वांछित व्यवहार के लिए प्रॉम्प्ट्स को समायोजित करने की अनुमति देती है।

सिंथेटिक सारांश कार्य का उपयोग करके सिंट्रा विधि हॉलुसिनेशन को कम करने के लिए मॉडल को प्रशिक्षित करती है, जिसमें मॉडल को केवल पुनः प्राप्त सामग्री के माध्यम से सारांश तैयार करने के लिए प्रशिक्षित किया जाता है, सारांशीकरण के दौरान नए जानकारी का आविष्कार किए बिना। यह मॉडल को स्रोत सामग्री पर निर्भर रहने के लिए प्रशिक्षित करता है, न कि सारांशीकरण के दौरान नई जानकारी का आविष्कार करने के लिए। सिंट्रा हॉलुसिनेशन मुद्दों को कम करने में दिखाया गया है जब मॉडल को लक्ष्य कार्यों पर तैनात किया जाता है।

यूप्राइज एक सार्वभौमिक प्रॉम्प्ट रिट्रीवर को प्रशिक्षित करता है जो अनदेखे डाउनस्ट्रीम कार्यों पर कुछ शॉट लर्निंग के लिए इष्टतम सॉफ्ट प्रॉम्प्ट प्रदान करता है। विभिन्न कार्यों पर ट्यून किए गए प्रॉम्प्ट्स को पुनः प्राप्त करके, मॉडल नए कार्यों पर सामान्यीकरण और अनुकूलन सीखता है जहां यह प्रशिक्षण उदाहरणों की कमी है। यह कार्य-विशिष्ट ट्यूनिंग की आवश्यकता के बिना प्रदर्शन में सुधार करता है।

नवीन मॉडल आर्किटेक्चर

फ्लीक एक प्रणाली है जो मानव तथ्य-जांचकर्ताओं और सत्यापनकर्ताओं की सहायता पर केंद्रित है। यह स्वचालित रूप से दिए गए पाठ में किए गए संभावित रूप से सत्यापन योग्य तथ्यात्मक दावों की पहचान करता है। फ्लीक इन जांच योग्य बयानों को सत्यापन प्रश्नों में परिवर्तित करता है, संबंधित साक्ष्य को ज्ञान आधारों से पुनः प्राप्त करता है, और इस संदर्भ जानकारी को मानव सत्यापनकर्ताओं को प्रदान करता है ताकि वे दस्तावेज़ की सटीकता और संशोधन आवश्यकताओं की प्रभावी ढंग से जांच कर सकें।

संदर्भ-जागरूक डिकोडिंग के माध्यम से सीएडी दृष्टिकोण भाषा पीढ़ी में हॉलुसिनेशन को कम करता है। विशेष रूप से, सीएडी संदर्भ पर सशर्त LLM के आउटपुट वितरण और अनशर्त रूप से उत्पन्न आउटपुट वितरण के बीच अंतर को बढ़ाता है। यह संदर्भ साक्ष्य के विरोध में हॉलुसिनेशन को प्रोत्साहित नहीं करता है, मॉडल को आधारित पीढ़ियों की ओर मार्गदर्शन करता है।

डोला तथ्यात्मक हॉलुसिनेशन को कम करने के लिए ट्रांसफॉर्मर नेटवर्क की विभिन्न परतों से लॉगिट की तुलना करके करता है। चूंकि तथ्यात्मक ज्ञान आमतौर पर मध्य परतों में स्थानीयकृत होता है, डोला के लॉगिट की तुलना करके इन तथ्यात्मक परतों से संकेतों को बढ़ाने से गलत तथ्यात्मक पीढ़ियों को कम किया जा सकता है।

संदर्भ जागरूकता को बढ़ावा देने के लिए थाम फ्रेमवर्क प्रशिक्षण के दौरान एक नियमितीकरण शब्द पेश करता है। यह मॉडल को दिए गए इनपुट संदर्भ पर निर्भर रहने और अवांछित कल्पना को कम करने में मदद करता है, जिससे अंधे हॉलुसिनेशन कम हो जाते हैं।

ज्ञान आधार

संरचित ज्ञान में LLM पीढ़ियों को आधारित करने से अंधाधुंध अनुमान और आविष्कार को रोका जा सकता है।

रोहो मॉडल संवाद संदर्भ में इकाइयों की पहचान करता है और उन्हें एक ज्ञान ग्राफ (केजी) से जोड़ता है। इन इकाइयों के बारे में संबंधित तथ्य और संबंध केजी से पुनः प्राप्त किए जाते हैं और मॉडल को प्रदान की गई संदर्भ प्रतिनिधित्व में मिलाए जाते हैं। यह ज्ञान-समृद्ध संदर्भ मार्गदर्शन प्रतिक्रियाओं को आधारित तथ्यों और उल्लिखित घटनाओं के बारे में रखता है, हॉलुसिनेशन को कम करता है।

एचएआर मॉडल-उत्पन्न हॉलुसिनेशन वाले काउंटरफैक्टUAL प्रशिक्षण डेटासेट बनाता है ताकि मॉडल को बेहतर ढंग से आधारित किया जा सके। दिए गए एक तथ्यात्मक पassage के लिए, मॉडल को हॉलुसिनेशन या विकृतियों को पेश करने के लिए प्रेरित किया जाता है, जो एक परिवर्तित काउंटरफैक्टUAL संस्करण उत्पन्न करता है। इस डेटा पर फाइन-ट्यूनिंग मॉडल को मूल तथ्यात्मक स्रोतों में सामग्री को आधारित करने के लिए मजबूर करती है, अनुमान को कम करती है।

पर्यवेक्षित फाइन-ट्यूनिंग

• कोच – एक इंटरैक्टिव फ्रेमवर्क जो उपयोगकर्ता प्रश्नों का उत्तर देता है और सुधार के लिए सुधार मांगता है।
• आर-ट्यूनिंग – इनकार जागरूक ट्यूनिंग प्रशिक्षण-डेटा ज्ञान अंतराल के माध्यम से पहचाने गए असमर्थित प्रश्नों को अस्वीकार करती है।
• ट्वीक – एक डिकोडिंग विधि जो पीढ़ियों को इनपुट तथ्यों के समर्थन के आधार पर रैंक करती है।

चुनौतियां और सीमाएं

वादा करने वाली प्रगति के बावजूद, हॉलुसिनेशन को कम करने में कुछ प्रमुख चुनौतियां बनी हुई हैं:

• तकनीक अक्सर गुणवत्ता, सुसंगतता और रचनात्मकता के लिए वास्तविकता के साथ व्यापार करती है।
• सीमित डोमेन से परे कठोर मूल्यांकन में कठिनाई। मेट्रिक्स सभी बारीकियों को पकड़ नहीं पाते हैं।
• कई विधियां गणनात्मक रूप से महंगी हैं, जिसमें व्यापक पुनर्प्राप्ति या स्व-तर्क की आवश्यकता होती है।
• वे प्रशिक्षण डेटा की गुणवत्ता और बाहरी ज्ञान स्रोतों पर भारी निर्भर हैं।
• डोमेन और मॉडलिटी में सामान्यीकरण की गारंटी देना मुश्किल है।
• हॉलुसिनेशन की मूल जड़ें, जैसे कि अति-अतिरिक्त, अभी भी हल नहीं हुई हैं।

इन चुनौतियों का सामना करने में संभवतः एक बहुस्तरीय दृष्टिकोण की आवश्यकता होगी जो प्रशिक्षण डेटा में सुधार, मॉडल आर्किटेक्चर में सुधार, विश्वासपात्रता-वृद्धि हानि और अनुमान समय तकनीकों को जोड़ती है।

आगे का रास्ता

LLMs के लिए हॉलुसिनेशन मिटिगेशन एक खुला अनुसंधान समस्या बनी हुई है जिसमें सक्रिय प्रगति हो रही है। कुछ वादा करने वाले भविष्य के दिशानिर्देशों में शामिल हैं:

• हाइब्रिड तकनीकें: पुनर्प्राप्ति, ज्ञान आधार और प्रतिक्रिया जैसे पूरक दृष्टिकोणों को मिलाना।
• कारण मॉडलिंग: समझ और तर्क को बढ़ाना।
• ऑनलाइन ज्ञान एकीकरण: विश्व ज्ञान को अद्यतन रखना।
• औपचारिक सत्यापन: मॉडल व्यवहार पर गणितीय गारंटी प्रदान करना।
• व्याख्यात्मकता: मिटिगेशन तकनीकों में पारदर्शिता बनाना।

जैसे ही LLMs उच्च जोखिम वाले डोमेन में प्रचुर मात्रा में उपयोग किए जाते हैं, हॉलुसिनेशन को कम करने के लिए मजबूत समाधान विकसित करना उनकी सुरक्षित, नैतिक और विश्वसनीय तैनाती सुनिश्चित करने के लिए महत्वपूर्ण होगा। इस लेख में सर्वेक्षित तकनीकें अब तक के प्रस्तावित तकनीकों का एक अवलोकन प्रदान करती हैं, जहां अधिक खुली अनुसंधान चुनौतियां बनी हुई हैं। कुल मिलाकर, मॉडल तथ्यात्मकता में सुधार की ओर एक सकारात्मक प्रवृत्ति है, लेकिन सीमाओं को संबोधित करने और नई दिशाओं जैसे कि कारण, सत्यापन और हाइब्रिड विधियों का अन्वेषण करने की आवश्यकता है। अनुशासनों में शोधकर्ताओं से मिलकर प्रयासों के साथ, शक्तिशाली और विश्वसनीय LLMs का सपना वास्तविकता में बदल सकता है।