क्या आरएजी एआई हॉलुसिनेशन का समाधान हैं?

एआई, डिज़ाइन द्वारा, अपने “माइंड” का मालिक है। इसका एक नकारात्मक पहलू यह है कि जेनरेटिव एआई मॉडल कभी-कभी “एआई हॉलुसिनेशन” नामक घटना में जानकारी बनाते हैं, जिसका एक प्रारंभिक उदाहरण तब सामने आया जब एक न्यूयॉर्क जज ने फटकार लगाई वकीलों को जिन्होंने एक चैटजीपीटी-लिखित कानूनी ज्ञापन का उपयोग किया था जिसमें अस्तित्वहीन अदालती मामलों का उल्लेख किया गया था। हाल ही में, एआई-जनरेटेड सर्च इंजनों के उपयोगकर्ताओं को चट्टानों का सेवन करने के लिए स्वास्थ्य लाभ के लिए, या पिज्जा में चीज़ को चिपकाने में मदद करने के लिए गैर-विषाक्त गोंद का उपयोग करने के लिए कहा गया है।

जैसा कि जेनएआई बढ़ती हुई व्यापक होता जा रहा है, यह महत्वपूर्ण है कि अपनाने वाले यह पहचानें कि हॉलुसिनेशन, वर्तमान में, जेनएआई समाधानों का एक अपरिहार्य पहलू है। बड़े भाषा मॉडल (एलएलएम) पर आधारित, ये समाधान अक्सर विभिन्न स्रोतों से जानकारी प्राप्त करते हैं जो कम से कम कुछ असटीक या पुरानी जानकारी होने की संभावना है – ये बनाई गई प्रतिक्रियाएं एआई चैटबॉट द्वारा उपयोगकर्ता प्रॉम्प्ट के लिए उत्पन्न प्रतिक्रियाओं का 3% से 10% हिस्सा बनाती हैं। एआई की “ब्लैक बॉक्स” प्रकृति के प्रकाश में – जिसमें हम, मानव, यह जांचने में असाधारण कठिनाई का सामना करते हैं कि एआई अपने परिणामों को कैसे उत्पन्न करता है, – ये हॉलुसिनेशन विकसित करने वालों के लिए लगभग असंभव हैं जो उन्हें ट्रेस और समझने के लिए हैं।

अपरिहार्य या नहीं, एआई हॉलुसिनेशन सबसे अच्छे में निराशाजनक हैं, खतरनाक हैं, और सबसे खराब में अनैतिक हैं।

स्वास्थ्य सेवा, वित्त, और सार्वजनिक सुरक्षा सहित कई क्षेत्रों में, हॉलुसिनेशन के परिणामों में भ्रामक जानकारी फैलाना, संवेदनशील डेटा को खतरे में डालना, और यहां तक कि जीवन-धमकी भरे हादसे शामिल हैं। यदि हॉलुसिनेशनों को जांचा नहीं जाता है, तो उपयोगकर्ताओं और एआई प्रणालियों में विश्वास दोनों की भलाई खतरे में पड़ जाएगी।

इस प्रकार, यह आवश्यक है कि इस शक्तिशाली प्रौद्योगिकी के संरक्षक एआई हॉलुसिनेशन के जोखिमों को पहचानें और संबोधित करें ताकि एलएलएम-उत्पन्न आउटपुट की विश्वसनीयता सुनिश्चित की जा सके।

हॉलुसिनेशन को हल करने के लिए आरएजी एक प्रारंभिक बिंदु के रूप में

हॉलुसिनेशन को कम करने के लिए एक तरीका जो आगे बढ़ा है वह रिट्रीवल-ऑगमेंटेड जेनरेशन है, या आरएजी। यह समाधान एलएलएम विश्वसनीयता को बाहरी जानकारी के भंडारों के एकीकरण के माध्यम से बढ़ाता है – प्रश्न की प्रकृति के अनुसार चुने गए एक विश्वसनीय डेटाबेस से प्रासंगिक जानकारी निकालना – विशिष्ट प्रश्नों के लिए अधिक विश्वसनीय प्रतिक्रियाओं को सुनिश्चित करने के लिए।

कुछ उद्योग विशेषज्ञों ने तर्क दिया है कि आरएजी अकेले हॉलुसिनेशन को हल कर सकता है। लेकिन आरएजी-एकीकृत डेटाबेस अभी भी पुराने डेटा शामिल कर सकते हैं, जो झूठी या भ्रामक जानकारी उत्पन्न कर सकते हैं। कुछ मामलों में, आरएजी के माध्यम से बाहरी डेटा का एकीकरण बड़े भाषा मॉडल में हॉलुसिनेशन की संभावना को बढ़ा सकता है: यदि एक एआई मॉडल एक पुराने डेटाबेस पर असमान रूप से निर्भर करता है जिसे यह पूरी तरह से अद्यतित मानता है, तो हॉलुसिनेशन की सीमा और भी गंभीर हो सकती है।

एआई गार्डरेल – आरएजी के अंतराल को पुल करना

जैसा कि आप देख सकते हैं, आरएजी हॉलुसिनेशन को कम करने के लिए वादा रखता है। हालांकि, जो उद्योग और व्यवसाय इन समाधानों की ओर रुख करते हैं, उन्हें यह भी समझना चाहिए कि उनकी अंतर्निहित सीमाएं हैं। वास्तव में, जब आरएजी के साथ उपयोग किया जाता है, तो एलएलएम हॉलुसिनेशन को संबोधित करते समय उपयोग की जाने वाली पूरक विधियां हैं।

उदाहरण के लिए, व्यवसाय एलएलएम प्रतिक्रियाओं को सुरक्षित करने और एआई हॉलुसिनेशन को कम करने के लिए वास्तविक समय एआई गार्डरेल का उपयोग कर सकते हैं। गार्डरेल एक जाल के रूप में कार्य करता है जो एलएलएम आउटपुट को फैब्रिकेटेड, अपमानजनक, या ऑफ-विषय सामग्री के लिए उपयोगकर्ताओं तक पहुंचने से पहले जांचता है। यह प्रोएक्टिव मिडलवेयर दृष्टिकोण आरएजी प्रणालियों में पुनर्प्राप्ति की विश्वसनीयता और प्रासंगिकता को सुनिश्चित करता है, अंततः उपयोगकर्ताओं के बीच विश्वास को बढ़ाता है, और कंपनी के ब्रांड के अनुरूप सुरक्षित इंटरैक्शन सुनिश्चित करता है।

इसके अलावा, “प्रॉम्प्ट इंजीनियरिंग” दृष्टिकोण है, जिसमें इंजीनियर को बैकएंड मास्टर प्रॉम्प्ट को बदलना होता है। प्रॉम्प्ट को स्वीकार्य प्रॉम्प्ट के लिए पूर्व-निर्धारित प्रतिबंध जोड़कर – अर्थात्, यह नहीं देखा जा रहा है कि एलएलएम कहां से जानकारी प्राप्त कर रहा है, बल्कि यह भी देखा जा रहा है कि उपयोगकर्ता इसे कैसे पूछताछ कर रहे हैं – इंजीनियर प्रॉम्प्ट एलएलएम को अधिक विश्वसनीय परिणामों की ओर मार्गदर्शन कर सकते हैं। इस दृष्टिकोण का मुख्य नुकसान यह है कि इस प्रकार की प्रॉम्प्ट इंजीनियरिंग प्रोग्रामर के लिए एक अविश्वसनीय रूप से समय लेने वाला कार्य हो सकता है, जो अक्सर पहले से ही समय और संसाधनों से तनावग्रस्त होते हैं।

“फाइन-ट्यूनिंग” दृष्टिकोण में एलएलएम को विशेषज्ञता वाले डेटासेट पर प्रशिक्षित करना शामिल है ताकि प्रदर्शन को परिष्कृत किया जा सके और हॉलुसिनेशन के जोखिम को कम किया जा सके। इस विधि में कार्य-विशेषज्ञता वाले एलएलएम को विशिष्ट, विश्वसनीय डोमेन से जानकारी निकालने के लिए प्रशिक्षित किया जाता है, जो आउटपुट में सटीकता और विश्वसनीयता में सुधार करता है।

एलएलएम के तर्क कार्य प्रदर्शन पर इनपुट लंबाई के प्रभाव पर विचार करना भी महत्वपूर्ण है – वास्तव में, कई उपयोगकर्ता सोचते हैं कि उनके प्रॉम्प्ट जितना अधिक विस्तृत और पैरामीटर-भरा होगा, उतना ही सटीक आउटपुट होगा। हालांकि, एक हालिया अध्ययन से पता चला है कि एलएलएम आउटपुट की सटीकता वास्तव में इनपुट लंबाई के साथ कम हो जाती है। तदनुसार, किसी भी दिए गए प्रॉम्प्ट में निर्देशों की संख्या बढ़ाने से जनरेटिव एआई अनुप्रयोगों में विश्वसनीयता में निरंतरता की गारंटी नहीं मिलती है।

इस घटना को प्रॉम्प्ट ओवरलोडिंग के रूप में जाना जाता है, जो अत्यधिक जटिल प्रॉम्प्ट डिज़ाइन के अंतर्निहित जोखिमों पर प्रकाश डालता है – जितना अधिक व्यापक रूप से एक प्रॉम्प्ट शब्दित किया जाता है, उतने ही अधिक दरवाजे असटीक जानकारी और हॉलुसिनेशन के लिए खुलते हैं क्योंकि एलएलएम हर पैरामीटर को पूरा करने के लिए संघर्ष करता है।

प्रॉम्प्ट इंजीनियरिंग को निरंतर अद्यतन और फाइन-ट्यूनिंग की आवश्यकता होती है और अभी भी हॉलुसिनेशन या असंगत प्रतिक्रियाओं को प्रभावी ढंग से रोकने के लिए संघर्ष करती है। गार्डरेल, दूसरी ओर, अतिरिक्त जोखिम पैदा नहीं करेंगे जो फैब्रिकेटेड आउटपुट का कारण बनते हैं, जो एआई की रक्षा के लिए एक आकर्षक विकल्प बनाते हैं। प्रॉम्प्ट इंजीनियरिंग के विपरीत, गार्डरेल एक व्यापक, वास्तविक समय समाधान प्रदान करते हैं जो यह सुनिश्चित करते हैं कि जनरेटिव एआई केवल पूर्व-निर्धारित सीमाओं के भीतर से आउटपुट बनाएगा।

स्वयं में एक समाधान नहीं होने के बावजूद, उपयोगकर्ता प्रतिक्रिया हॉलुसिनेशन को कम करने में मदद कर सकती है – जैसे कि अपवोट और डाउनवोट जो मॉडल को परिष्कृत करने, आउटपुट सटीकता में सुधार करने और हॉलुसिनेशन के जोखिम को कम करने में मदद करते हैं।

स्वयं पर, आरएजी समाधान सटीक परिणाम प्राप्त करने के लिए व्यापक प्रयोग की आवश्यकता होती है। लेकिन फाइन-ट्यूनिंग, प्रॉम्प्ट इंजीनियरिंग और गार्डरेल के साथ जोड़े जाने पर, वे हॉलुसिनेशन को संबोधित करने के लिए अधिक लक्षित और कुशल समाधान प्रदान कर सकते हैं। इन पूरक रणनीतियों का अन्वेषण जेनएआई में हॉलुसिनेशन मिटाने में सुधार करना जारी रखेगा, विभिन्न अनुप्रयोगों में अधिक विश्वसनीय और विश्वसनीय मॉडल विकसित करने में मदद करेगा।

आरएजी एआई हॉलुसिनेशन का समाधान नहीं हैं

आरएजी समाधान एलएलएम में बाहरी ज्ञान के साथ समृद्धि जोड़ते हैं। लेकिन जेनरेटिव एआई के बारे में इतना कुछ अज्ञात होने के साथ, हॉलुसिनेशन एक अंतर्निहित चुनौती बने हुए हैं। उन्हें संबोधित करने की कुंजी उन्हें समाप्त करने की कोशिश करने में नहीं है, बल्कि रणनीतिक गार्डरेल, जांच प्रक्रियाओं और फाइन-ट्यून किए गए प्रॉम्प्ट के संयोजन के साथ उनके प्रभाव को कम करने में है।

जितना अधिक हम जेनएआई पर भरोसा कर सकते हैं, उतना ही अधिक प्रभावी और कुशलता से हम इसकी शक्तिशाली क्षमता का लाभ उठा पाएंगे।