एलएलएम हॉलुसिनेशन क्या हैं? कारण, नैतिक चिंता, और रोकथाम

बड़े भाषा मॉडल (एलएलएम) आर्टिफ़िशियल इंटेलिजेंस सिस्टम हैं जो मानव-जैसे पाठ का विश्लेषण और उत्पादन करने में सक्षम हैं। लेकिन उन्हें एक समस्या है – एलएलएम हॉलुसिनेट करते हैं, अर्थात्, वे चीजें बनाते हैं। एलएलएम हॉलुसिनेशन ने शोधकर्ताओं को इस क्षेत्र में प्रगति के बारे में चिंतित किया है क्योंकि यदि शोधकर्ता मॉडल के परिणाम को नियंत्रित नहीं कर सकते हैं, तो वे मानवता की सेवा के लिए महत्वपूर्ण प्रणालियों का निर्माण नहीं कर सकते हैं।

आम तौर पर, एलएलएम विशाल प्रशिक्षण डेटा और जटिल सीखने के एल्गोरिदम का उपयोग करके वास्तविक आउटपुट उत्पन्न करते हैं। कुछ मामलों में, संदर्भ सीखने का उपयोग इन मॉडलों को केवल कुछ उदाहरणों का उपयोग करके प्रशिक्षित करने के लिए किया जाता है। एलएलएम विभिन्न अनुप्रयोग क्षेत्रों में तेजी से लोकप्रिय हो रहे हैं, जिनमें मशीन अनुवाद, भावना विश्लेषण, वर्चुअल एआई सहायता, छवि अनnotation, प्राकृतिक भाषा प्रसंस्करण आदि शामिल हैं।

एलएलएम की अत्याधुनिक प्रकृति के बावजूद, वे अभी भी पूर्वाग्रहों, त्रुटियों और हॉलुसिनेशन के लिए अतिसंवेदनशील हैं। मेटा में वर्तमान मुख्य एआई वैज्ञानिक यान लेकुन ने हाल ही में एलएलएम में हॉलुसिनेशन का कारण बनने वाली केंद्रीय खामी का उल्लेख किया है: “बड़े भाषा मॉडलों को भाषा द्वारा वर्णित अंतर्निहित वास्तविकता का कोई विचार नहीं है। ये प्रणालियां ऐसा पाठ उत्पन्न करती हैं जो व्याकरण और अर्थ में ठीक लगता है, लेकिन उनका कोई वास्तविक उद्देश्य नहीं है, सिवाय प्रॉम्प्ट के साथ सांख्यिकीय संगतता को संतुष्ट करने के।”

एलएलएम में हॉलुसिनेशन

गेराल्ट अल्टमैन द्वारा पिक्साबे से छवि

हॉलुसिनेशन से तात्पर्य मॉडल द्वारा ऐसे आउटपुट के उत्पादन से है जो व्याकरण और अर्थ में सही हैं, लेकिन वास्तविकता से जुड़े नहीं हैं और झूठे धारणाओं पर आधारित हैं। हॉलुसिनेशन एलएलएम की एक प्रमुख नैतिक चिंता है, और इसके हानिकारक परिणाम हो सकते हैं क्योंकि उपयोगकर्ता जिन्हें पर्याप्त डोमेन ज्ञान नहीं है, वे इन बढ़ती रूप से आश्वस्त भाषा मॉडल पर अधिक निर्भर होने लगते हैं।

सभी स्व-सर्वोत्तम एलएलएम में एक निश्चित डिग्री हॉलुसिनेशन अपरिहार्य है। उदाहरण के लिए, एक मॉडल एक ऐसा उद्धरण जोड़ सकता है जो एक मशहूर हस्ती द्वारा कभी नहीं कहा गया था। वे किसी विशिष्ट विषय के बारे में कुछ ऐसा दावा कर सकते हैं जो तथ्यात्मक रूप से गलत है या शोध पत्रों में अस्तित्वहीन स्रोतों का हवाला दे सकते हैं, जिससे गलत सूचना फैलती है।

हालांकि, एआई मॉडल को हॉलुसिनेट करने से हमेशा हानिकारक प्रभाव नहीं पड़ता है। उदाहरण के लिए, एक नई अध्ययन सुझाव देती है कि वैज्ञानिक हॉलुसिनेटिंग एलएलएम के माध्यम से ‘नवीन प्रोटीन के साथ असीमित विशेषताओं’ का पता लगा रहे हैं।

एलएलएम हॉलुसिनेशन के कारण

एलएलएम विभिन्न कारकों के कारण हॉलुसिनेट कर सकते हैं, जिनमें ओवरफिटिंग त्रुटियां, एन्कोडिंग और डीकोडिंग त्रुटियां और प्रशिक्षण पूर्वाग्रह शामिल हैं।

ओवरफिटिंग

janjf93 द्वारा पिक्साबे से छवि

ओवरफिटिंग एक समस्या है जहां एक एआई मॉडल प्रशिक्षण डेटा को बहुत अच्छी तरह से फिट करता है, लेकिन यह पूरी श्रृंखला को पूरी तरह से प्रतिनिधित्व नहीं कर सकता है जिसका सामना यह नए, अनदेखे डेटा में आ सकता है, अर्थात् यह नई डेटा पर अपनी भविष्यवाणी शक्ति को सामान्य नहीं कर सकता। ओवरफिटिंग हॉलुसिनेटेड सामग्री के उत्पादन का कारण बन सकता है।

एन्कोडिंग और डीकोडिंग त्रुटियां

गेराल्ट द्वारा पिक्साबे से छवि

यदि पाठ और इसके बाद के प्रतिनिधित्व के एन्कोडिंग और डीकोडिंग में त्रुटियां हैं, तो यह मॉडल को अर्थहीन और त्रुटिपूर्ण आउटपुट उत्पन्न करने का कारण बन सकता है।

प्रशिक्षण पूर्वाग्रह

क्विंस क्रिएटिव द्वारा पिक्साबे से छवि

एक अन्य कारक प्रशिक्षण डेटा में कertain पूर्वाग्रहों की उपस्थिति है, जो मॉडल को उन पूर्वाग्रहों का प्रतिनिधित्व करने वाले परिणाम देने का कारण बन सकता है, न कि वास्तविक डेटा की। यह प्रशिक्षण डेटा में विविधता की कमी के समान है, जो मॉडल को नए डेटा के लिए सामान्यीकरण करने की क्षमता को सीमित करता है।

एलएलएम की जटिल संरचना इसे एआई शोधकर्ताओं और पрак्टिशनरों के लिए हॉलुसिनेशन के अंतर्निहित कारणों की पहचान, व्याख्या और सुधार करना मुश्किल बना देती है।

एलएलएम हॉलुसिनेशन के नैतिक चिंताएं

एलएलएम हॉलुसिनेशन के माध्यम से हानिकारक पूर्वाग्रहों को बढ़ावा दे सकते हैं और उपयोगकर्ताओं और समाज पर हानिकारक परिणाम हो सकते हैं। इनमें से कुछ सबसे महत्वपूर्ण नैतिक चिंताएं नीचे सूचीबद्ध हैं:

भेदभावपूर्ण और जहरीली सामग्री

ar130405 द्वारा पिक्साबे से छवि

चूंकि एलएलएम प्रशिक्षण डेटा अक्सर सामाजिक-सांस्कृतिक रूढ़िवादिता से भरा होता है, जो अंतर्निहित पूर्वाग्रहों और विविधता की कमी के कारण होता है। एलएलएम इसलिए इन हानिकारक विचारों को उत्पन्न और मजबूत कर सकते हैं जो समाज में वंचित समूहों के खिलाफ हैं।

वे जाति, लिंग, धर्म, जातीयता आदि के आधार पर भेदभावपूर्ण और घृणित सामग्री उत्पन्न कर सकते हैं।

गोपनीयता मुद्दे

JanBaby द्वारा पिक्साबे से छवि

एलएलएम विशाल प्रशिक्षण निगम पर प्रशिक्षित होते हैं जिसमें अक्सर व्यक्तियों की व्यक्तिगत जानकारी शामिल होती है। ऐसे मामले सामने आए हैं जहां ऐसे मॉडलों ने लोगों की गोपनीयता का उल्लंघन किया है। वे विशिष्ट जानकारी जैसे सामाजिक सुरक्षा संख्या, घर के पते, मोबाइल फोन नंबर और चिकित्सा विवरण लीक कर सकते हैं।

भ्रामक और गलत सूचना

गेराल्ट द्वारा पिक्साबे से छवि

भाषा मॉडल मानव-जैसी सामग्री उत्पन्न कर सकते हैं जो सटीक लगती है लेकिन वास्तव में गलत है और साक्ष्य द्वारा समर्थित नहीं है। यह दुर्भाग्यपूर्ण हो सकता है, जिससे भ्रामक सूचना फैलती है, या यह जानबूझकर गलत सूचना फैलाने के लिए किया जा सकता है। यदि यह अनियंत्रित है, तो यह हानिकारक सामाजिक-सांस्कृतिक-आर्थिक-राजनीतिक रुझानों का कारण बन सकता है।

एलएलएम हॉलुसिनेशन को रोकना

athree23 द्वारा पिक्साबे से छवि

शोधकर्ता और पрак्टिशनर एलएलएम में हॉलुसिनेशन की समस्या को हल करने के लिए विभिन्न दृष्टिकोण अपना रहे हैं। इनमें प्रशिक्षण डेटा की विविधता में सुधार, अंतर्निहित पूर्वाग्रहों को दूर करना, बेहतर नियमितीकरण तकनीकों का उपयोग करना और प्रतिपक्षी प्रशिक्षण और सुदृढ़ सीखने का उपयोग करना शामिल है:

• बेहतर नियमितीकरण तकनीकों का विकास हॉलुसिनेशन को संबोधित करने के लिए केंद्रीय है। वे ओवरफिटिंग और अन्य समस्याओं को रोकने में मदद करते हैं जो हॉलुसिनेशन का कारण बनते हैं।
• डेटा वृद्धि हॉलुसिनेशन की आवृत्ति को कम कर सकती है, जैसा कि एक शोध अध्ययन द्वारा प्रदर्शित किया गया है। डेटा वृद्धि प्रशिक्षण सेट में एक यादृच्छिक टोकन जोड़कर शामिल होती है और यह प्रशिक्षण सेट के आकार को दोगुना कर देती है और हॉलुसिनेशन की आवृत्ति में कमी आती है।
• ओपनएआई और गूगल के डीपमाइंड ने हॉलुसिनेशन समस्या को हल करने के लिए मानव प्रतिक्रिया के साथ प्रतिपक्षी सीखने (आरएलएचएफ) नामक एक तकनीक विकसित की है। इसमें एक मानव मूल्यांकनकर्ता शामिल होता है जो मॉडल की प्रतिक्रियाओं की लगातार समीक्षा करता है और उपयोगकर्ता प्रॉम्प्ट के लिए सबसे उपयुक्त का चयन करता है। यह प्रतिक्रिया तब मॉडल के व्यवहार को समायोजित करने के लिए उपयोग की जाती है। ओपनएआई के मुख्य वैज्ञानिक इल्या सुत्स्केवर ने हाल ही में उल्लेख किया है कि यह दृष्टिकोण चैटजीपीटी में हॉलुसिनेशन को हल कर सकता है: “मैं आशावादी हूं कि मानव प्रतिक्रिया से प्रतिपक्षी सीखने के बाद के चरण में सुधार करके, हम इसे हॉलुसिनेट नहीं करना सिखा सकते हैं”。
• हॉलुसिनेटेड सामग्री की पहचान करना और इसका उपयोग भविष्य के प्रशिक्षण के लिए एक उदाहरण के रूप में करना भी हॉलुसिनेशन को संबोधित करने का एक तरीका है। एक नई तकनीक हॉलुसिनेशन का पता लगाने के लिए टोकन स्तर पर हॉलुसिनेशन का पता लगाती है और भविष्यवाणी करती है कि आउटपुट में प्रत्येक टोकन हॉलुसिनेटेड है या नहीं। यह हॉलुसिनेशन डिटेक्टरों के लिए असुपरवाइज्ड लर्निंग के लिए एक विधि भी शामिल करता है।

टोकन-स्तर हॉलुसिनेशन डिटेक्शन

साधारण शब्दों में, एलएलएम हॉलुसिनेशन एक बढ़ती चिंता का विषय है। और प्रयासों के बावजूद, इस समस्या को हल करने के लिए अभी भी बहुत काम करने की आवश्यकता है। इन मॉडलों की जटिलता का अर्थ है कि हॉलुसिनेशन के अंतर्निहित कारणों की पहचान, व्याख्या और सुधार करना आमतौर पर मुश्किल है।

हालांकि, निरंतर शोध और विकास के साथ, एलएलएम में हॉलुसिनेशन को कम करना और उनके नैतिक परिणामों को कम करना संभव है।

यदि आप एलएलएम और हॉलुसिनेशन को ठीक करने के लिए विकसित की जा रही रोकथाम तकनीकों के बारे में अधिक जानना चाहते हैं, तो unite.ai पर जाएं और अपने ज्ञान का विस्तार करें।