बड़ी भाषा मॉडल्स में हॉलुसिनेशन को संबोधित करना: एक सर्वेक्षण कटिंग-एज तकनीकों का

बड़ी भाषा मॉडल्स (LLMs) जैसे GPT-4, PaLM, और Llama ने प्राकृतिक भाषा पीढ़ी क्षमताओं में उल्लेखनीय प्रगति को अनलॉक किया है। हालांकि, एक लगातार चुनौती जो उनकी विश्वसनीयता और सुरक्षित तैनाती को सीमित करती है, वह है उनकी हॉलुसिनेशन की प्रवृत्ति – सामग्री का उत्पादन जो सुसंगत लगता है लेकिन वास्तविक नहीं है या इनपुट संदर्भ से जुड़ा नहीं है।

जैसे ही LLMs वास्तविक दुनिया के अनुप्रयोगों में अधिक शक्तिशाली और व्यापक होते जा रहे हैं, हॉलुसिनेशन को संबोधित करना आवश्यक हो जाता है। यह लेख हॉलुसिनेशन का पता लगाने, मात्रा निर्धारित करने और उन्हें कम करने के लिए शोधकर्ताओं द्वारा पेश की गई नवीनतम तकनीकों का एक व्यापक अवलोकन प्रदान करता है।

LLMs में हॉलुसिनेशन को समझना

हॉलुसिनेशन का अर्थ है तथ्यात्मक अशुद्धियों या LLMs द्वारा उत्पन्न कल्पनाओं से जो वास्तविकता में या प्रदान किए गए संदर्भ में आधारित नहीं हैं। कुछ उदाहरणों में शामिल हैं:

• किसी व्यक्ति के बारे में पाठ उत्पन्न करते समय स्रोत सामग्री में प्रमाणित नहीं किए गए जीवनी विवरण या घटनाओं का आविष्कार करना।
• दवा के दुष्प्रभावों या उपचार प्रक्रियाओं के बारे में गलत चिकित्सा सलाह प्रदान करना जो स्रोत सामग्री में प्रमाणित नहीं है।
• किसी दावे का समर्थन करने के लिए गैर-मौजूदा डेटा, अध्ययन या स्रोतों का आविष्कार करना।

यह घटना इसलिए होती है क्योंकि LLMs विशाल ऑनलाइन पाठ डेटा पर प्रशिक्षित होते हैं। जबकि यह उन्हें मजबूत भाषा मॉडलिंग क्षमताएं प्राप्त करने की अनुमति देता है, यह भी意味ा है कि वे जानकारी को अतिरिक्त करना, तर्कसंगत छलांग लगाना और अंतराल को भरना सीखते हैं जो आकर्षक लगता है लेकिन भ्रामक या गलत हो सकता है।

कुछ प्रमुख कारक जो हॉलुसिनेशन के लिए जिम्मेदार हैं:

• पैटर्न सामान्यीकरण – LLMs प्रशिक्षण डेटा में पैटर्न की पहचान करते हैं और उन्हें बढ़ाते हैं जो अच्छी तरह से सामान्य नहीं हो सकते हैं।
• पुराना ज्ञान – स्थिर पूर्व-प्रशिक्षण नए जानकारी के एकीकरण को रोकता है।
• अस्पष्टता – अस्पष्ट प्रोम्प्ट्स गलत धारणाओं के लिए जगह छोड़ देते हैं।
• पक्षपात – मॉडल पक्षपाती दृष्टिकोणों को बढ़ावा देते हैं।
• अपर्याप्त आधार – समझ और तर्क की कमी का अर्थ है कि मॉडल ऐसी सामग्री उत्पन्न करते हैं जिसे वे पूरी तरह से नहीं समझते हैं।

हॉलुसिनेशन को संबोधित करना चिकित्सा, कानून, वित्त और शिक्षा जैसे संवेदनशील क्षेत्रों में विश्वसनीय तैनाती के लिए महत्वपूर्ण है, जहां गलत सूचना उत्पन्न करने से नुकसान हो सकता है।

हॉलुसिनेशन मिटिगेशन तकनीकों का वर्गीकरण

शोधकर्ताओं ने LLMs में हॉलुसिनेशन से निपटने के लिए विभिन्न तकनीकों को पेश किया है, जिन्हें वर्गीकृत किया जा सकता है:

1. प्रोम्प्ट इंजीनियरिंग

यह प्रोम्प्ट्स को सावधानी से तैयार करने का मामला है ताकि संदर्भ प्रदान किया जा सके और LLM को तथ्यात्मक, आधारित प्रतिक्रियाओं की ओर मार्गदर्शन किया जा सके।

• पुनर्प्राप्ति संवर्धन – सामग्री को आधार देने के लिए बाहरी साक्ष्य प्राप्त करना।
• प्रतिक्रिया लूप – प्रतिक्रिया प्रदान करने और प्रतिक्रियाओं को परिष्कृत करने के लिए पुनरावृत्ति।
• प्रोम्प्ट ट्यूनिंग – वांछित व्यवहार के लिए प्रोम्प्ट्स को समायोजित करना।

2. मॉडल विकास

मॉडल को हॉलुसिनेशन के प्रति कम अनुकूल बनाने के लिए वास्तुकला परिवर्तन।

• डीकोडिंग रणनीतियाँ – पाठ का उत्पादन करने के तरीके जो विश्वास को बढ़ाते हैं।
• ज्ञान आधार – बाहरी ज्ञान आधारों को एकीकृत करना।
• नवीन हानि कार्य – प्रशिक्षण के दौरान विश्वास के लिए अनुकूलन।
• पर्यवेक्षित फाइन-ट्यूनिंग – मानव-लेबल वाले डेटा का उपयोग तथ्यात्मकता में सुधार के लिए करना।

इसके बाद, हम प्रत्येक दृष्टिकोण के तहत प्रमुख तकनीकों का सर्वेक्षण करते हैं।

उल्लेखनीय हॉलुसिनेशन मिटिगेशन तकनीक

पुनर्प्राप्ति संवर्धित पीढ़ी

पुनर्प्राप्ति संवर्धित पीढ़ी LLMs को बाहरी साक्ष्य दस्तावेजों पर सामग्री पीढ़ी की स्थिति में सुधारती है, न कि केवल मॉडल के अंतर्निहित ज्ञान पर भरोसा करती है। यह सामग्री को अद्यतन, सत्यापित जानकारी में आधारित बनाती है, हॉलुसिनेशन को कम करती है।

प्रमुख तकनीकों में शामिल हैं:

• RAG – एक रिट्रीवर मॉड्यूल का उपयोग करके जो एक सीक्वेंस-टू-सीक्वेंस मॉडल के लिए प्रासंगिक पाराग्राफ प्रदान करता है। दोनों घटक अंत से अंत तक प्रशिक्षित होते हैं।
• RARR – LLMs को अनुसंधान करने और उत्पन्न पाठ में अनधिकृत दावों को संशोधित करने के लिए प्राप्त साक्ष्य के साथ संरेखित करने के लिए नियुक्त करता है।
• ज्ञान पुनर्प्राप्ति – अनिश्चित पीढ़ी को सत्यापित करने से पहले प्राप्त ज्ञान का उपयोग करके पाठ का उत्पादन करना।
• LLM-Augmenter – LLM प्रोम्प्ट्स के लिए साक्ष्य श्रृंखला का निर्माण करने के लिए ज्ञान की खोज करना।

प्रतिक्रिया और तर्क

प्रतिक्रिया और स्वयं तर्क का लाभ उठाने से LLMs को अपने प्रारंभिक आउटपुट को परिष्कृत और सुधारने की अनुमति मिलती है, हॉलुसिनेशन को कम करती है।

CoVe एक श्रृंखला की सत्यापन तकनीक का उपयोग करता है। LLM पहले उपयोगकर्ता के प्रश्न का उत्तर देने के लिए एक प्रतिक्रिया तैयार करता है। फिर यह अपनी प्रतिक्रिया की जांच के लिए संभावित सत्यापन प्रश्न तैयार करता है, जो अपने विश्वास के आधार पर विभिन्न बयानों के बारे में होते हैं। उदाहरण के लिए, एक नए चिकित्सा उपचार के बारे में एक प्रतिक्रिया के लिए, CoVe प्रश्न जैसे “उपचार की प्रभावशीलता दर क्या है?”, “क्या इसे नियामक अनुमोदन मिला है?”, “संभावित दुष्प्रभाव क्या हैं?” उत्पन्न कर सकता है। महत्वपूर्ण बात यह है कि LLM तब इन सत्यापन प्रश्नों का उत्तर स्वतंत्र रूप से देने का प्रयास करता है, अपनी प्रारंभिक प्रतिक्रिया से प्रभावित नहीं होता है। यदि सत्यापन प्रश्नों के उत्तर अपनी प्रारंभिक प्रतिक्रिया में किए गए बयानों का खंडन करते हैं या उनका समर्थन नहीं कर सकते हैं, तो सिस्टम उन्हें संभावित हॉलुसिनेशन के रूप में पहचानता है और उपयोगकर्ता को प्रस्तुत करने से पहले प्रतिक्रिया को परिष्कृत करता है।

DRESS LLMs को मानव प्राथमिकताओं के साथ बेहतर संरेखित करने के लिए प्राकृतिक भाषा प्रतिक्रिया पर केंद्रित है। दृष्टिकोण मानव-लेबल वाले डेटा का उपयोग करके मॉडल को प्रशिक्षित करने की अनुमति देता है ताकि यह मानव प्राथमिकताओं के साथ बेहतर संरेखित हो।

MixAlign उन स्थितियों से निपटता है जहां उपयोगकर्ता ऐसे प्रश्न पूछते हैं जो सीधे प्राप्त साक्ष्य पाराग्राफों से मेल नहीं खाते हैं। उपयोगकर्ता पूछ सकते हैं “क्या चीन में प्रदूषण और खराब होगा?” जबकि प्राप्त पाराग्राफ वैश्विक प्रदूषण रुझानों पर चर्चा करते हैं। जब सुनिश्चित नहीं होता है कि उपयोगकर्ता के प्रश्न को प्राप्त जानकारी से कैसे संबंधित किया जाए, तो MixAlign स्पष्ट रूप से उपयोगकर्ता से पूछता है। यह मानव-इन-द-लूप तंत्र उपयोगकर्ता से प्रतिक्रिया प्राप्त करने की अनुमति देता है ताकि साक्ष्य को सही ढंग से आधारित और संदर्भित किया जा सके, जिससे आधारहीन प्रतिक्रियाओं को रोका जा सके।

स्व-प्रतिबिंब तकनीक LLMs को उनकी प्रतिक्रियाओं का मूल्यांकन करने, प्रतिक्रिया प्रदान करने और स्व-प्रतिक्रिया पाश का उपयोग करके उन्हें संशोधित करने के लिए प्रशिक्षित करती है।

प्रोम्प्ट ट्यूनिंग

प्रोम्प्ट ट्यूनिंग LLMs को वांछित व्यवहार के लिए प्रोम्प्ट्स को समायोजित करने की अनुमति देती है।

SynTra एक सिंथेटिक सारांश कार्य का उपयोग करता है जो हॉलुसिनेशन को कम करने के लिए मॉडल को सारांश डेटासेट पर तैनात करने से पहले मॉडल को प्रशिक्षित करता है।

UPRISE एक सार्वभौमिक प्रोम्प्ट रिट्रीवर को प्रशिक्षित करता है जो नए, अप्रशिक्षित कार्यों पर फ़ेव-शॉट लर्निंग के लिए इष्टतम सॉफ़्ट प्रोम्प्ट प्रदान करता है।

नवीन मॉडल आर्किटेक्चर

FLEEK एक प्रणाली है जो मानव तथ्य-जांचकर्ताओं और सत्यापनकर्ताओं की सहायता करने पर केंद्रित है। यह स्वचालित रूप से दिए गए पाठ में संभावित रूप से सत्यापन योग्य तथ्यात्मक दावों की पहचान करता है।

सीडी डिकोडिंग दृष्टिकोण संदर्भ-जागरूक डिकोडिंग के माध्यम से भाषा पीढ़ी में हॉलुसिनेशन को कम करता है।

DoLA तथ्यात्मक हॉलुसिनेशन को कम करने के लिए ट्रांसफॉर्मर नेटवर्क की विभिन्न परतों से लॉगिट्स को विपरीत करने के माध्यम से करता है।

स्व-प्रतिबिंब तकनीक LLMs को उनकी प्रतिक्रियाओं का मूल्यांकन करने, प्रतिक्रिया प्रदान करने और स्व-प्रतिक्रिया पाश का उपयोग करके उन्हें संशोधित करने के लिए प्रशिक्षित करती है।

ज्ञान आधार

LLMs की पीढ़ी को संरचित ज्ञान में आधारित करने से बिना सीमा के अनुमान और कल्पना को रोका जा सकता है।

RHO मॉडल एक संवाद संदर्भ में इकाइयों की पहचान करता है और उन्हें एक ज्ञान ग्राफ (केजी) से जोड़ता है। उन इकाइयों के बारे में संबंधित तथ्य और संबंध केजी से पुनर्प्राप्त किए जाते हैं और संदर्भ प्रतिनिधित्व में एकीकृत किए जाते हैं जो LLM को प्रदान किया जाता है। यह ज्ञान-समृद्ध संदर्भ स्टीयरिंग बातचीत में प्रतिक्रियाओं को आधारित तथ्यों में रखती है, जिससे हॉलुसिनेशन कम होता है।

HAR मॉडल-उत्पन्न हॉलुसिनेशन वाले काउंटरफैक्टुअल प्रशिक्षण डेटासेट बनाता है ताकि मॉडल को बेहतर ढंग से आधार दिया जा सके।

पर्यवेक्षित फाइन-ट्यूनिंग

• कोच – एक इंटरैक्टिव फ्रेमवर्क जो उपयोगकर्ता के प्रश्नों का उत्तर देता है और सुधार के लिए सुधार मांगता है।
• आर-ट्यूनिंग – इनकार जागरूक ट्यूनिंग असमर्थित प्रश्नों को पहचानती है और उन्हें इनकार कर देती है।
• ट्वीक – एक डिकोडिंग विधि जो पीढ़ी को इनपुट तथ्यों के समर्थन के आधार पर रैंक करती है।

चुनौतियाँ और सीमाएँ

हॉलुसिनेशन को कम करने में आशाजनक प्रगति के बावजूद, कुछ प्रमुख चुनौतियाँ बनी हुई हैं:

• तकनीक अक्सर गुणवत्ता, सुसंगतता और रचनात्मकता के लिए वास्तविकता के साथ व्यापार करती है।
• मूल्यांकन में कठिनाई सीमित डोमेन से परे है। मेट्रिक्स सभी बारीकियों को कैप्चर नहीं करते हैं।
• कई तरीके गणनात्मक रूप से महंगे हैं, जिनमें व्यापक पुनर्प्राप्ति या स्व-तर्क की आवश्यकता होती है।
• वे प्रशिक्षण डेटा की गुणवत्ता और बाहरी ज्ञान स्रोतों पर बहुत अधिक निर्भर करते हैं।
• डोमेन और मोडलिटी में सामान्यीकरण की गारंटी देना मुश्किल है।
• हॉलुसिनेशन की मूल जड़ें, जैसे अति-अतिरिक्त, अभी भी हल नहीं हुई हैं।

इन चुनौतियों का सामना करने के लिए संभवतः एक बहुस्तरीय दृष्टिकोण की आवश्यकता होगी जो प्रशिक्षण डेटा में सुधार, मॉडल आर्किटेक्चर में सुधार, विश्वास बढ़ाने वाले नुकसान और अनुमान के समय तकनीकों को जोड़ती है।

आगे का रास्ता

LLMs के लिए हॉलुसिनेशन मिटिगेशन एक खुला शोध समस्या है जिसमें सक्रिय प्रगति हो रही है। कुछ आशाजनक भविष्य की दिशाएं हैं:

• हाइब्रिड तकनीक: पुनर्प्राप्ति, ज्ञान आधार और प्रतिक्रिया जैसे पूरक दृष्टिकोणों को मिलाएं।
• कारण मॉडलिंग: समझ और तर्क में सुधार करें।
• ऑनलाइन ज्ञान एकीकरण: विश्व ज्ञान को अद्यतन रखें।
• आकृति सत्यापन: मॉडल व्यवहार पर गणितीय गारंटी प्रदान करें।
• व्याख्यात्मकता: मिटिगेशन तकनीकों में पारदर्शिता बनाएं।

जैसे ही LLMs उच्च जोखिम वाले डोमेन में प्रसारित होते हैं, हॉलुसिनेशन को कम करने के लिए मजबूत समाधान विकसित करना उनकी सुरक्षित, नैतिक और विश्वसनीय तैनाती सुनिश्चित करने के लिए महत्वपूर्ण होगा। इस लेख में सर्वेक्षित तकनीकें अब तक प्रस्तावित तकनीकों का एक अवलोकन प्रदान करती हैं, जहां अधिक खुली शोध चुनौतियाँ बनी हुई हैं। कुल मिलाकर, मॉडल की तथ्यात्मकता में सुधार की ओर एक सकारात्मक प्रवृत्ति है, लेकिन प्रगति की आवश्यकता को जारी रखने के लिए सीमाओं और नई दिशाओं जैसे कारण, सत्यापन और हाइब्रिड विधियों को संबोधित करने की आवश्यकता है। अनुशासनों में शोधकर्ताओं से मिलकर प्रयासों के साथ, शक्तिशाली और विश्वसनीय LLMs का सपना वास्तविकता में बदल सकता है।