एआई मॉडल और प्लेटफ़ॉर्म

एलएलएम हॉलुसिनेशन क्या हैं? कारण, नैतिक चिंता, और रोकथाम

Haziqa Sajid
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुयान लेकुन का कहना है कि एलएलएम भ्रमित होते हैं क्योंकि उनमें अंतर्निहित वास्तविकता की…
और देखें
  • यान लेकुन का कहना है कि एलएलएम भ्रमित होते हैं क्योंकि उनमें अंतर्निहित वास्तविकता की समझ का अभाव होता है।
  • भ्रम नकली उद्धरणों, झूठे तथ्यों और अस्तित्वहीन स्रोतों के माध्यम से गलत सूचना फैला सकते हैं।
  • ओपनएआई और डीपमाइंड चैटजीपीटी के भ्रम को कम करने के लिए मानव प्रतिक्रिया के साथ सुदृढीकरण सीखने का उपयोग करते हैं।

बड़े भाषा मॉडल (एलएलएम) आर्टिफ़िशियल इंटेलिजेंस सिस्टम हैं जो मानव-जैसे पाठ का विश्लेषण और उत्पादन करने में सक्षम हैं। लेकिन उन्हें एक समस्या है – एलएलएम हॉलुसिनेट करते हैं, अर्थात्, वे बातें गढ़ लेते हैं। एलएलएम हॉलुसिनेशन ने शोधकर्ताओं को इस क्षेत्र में प्रगति के बारे में चिंतित किया है क्योंकि यदि शोधकर्ता मॉडल के परिणाम को नियंत्रित नहीं कर सकते हैं, तो वे मानवता की सेवा के लिए महत्वपूर्ण प्रणालियों का निर्माण नहीं कर सकते हैं।

आम तौर पर, एलएलएम विशाल प्रशिक्षण डेटा और जटिल सीखने के एल्गोरिदम का उपयोग करके यथार्थपरक लगने वाले आउटपुट उत्पन्न करते हैं। कुछ मामलों में, संदर्भ सीखने का उपयोग इन मॉडलों को केवल कुछ उदाहरणों का उपयोग करके प्रशिक्षित करने के लिए किया जाता है। एलएलएम विभिन्न अनुप्रयोग क्षेत्रों में तेजी से लोकप्रिय हो रहे हैं, जिनमें मशीन अनुवाद, भावना विश्लेषण, वर्चुअल एआई सहायता, छवियों का एनोटेशन, प्राकृतिक भाषा प्रसंस्करण आदि शामिल हैं।

एलएलएम की अत्याधुनिक प्रकृति के बावजूद, वे अभी भी पूर्वाग्रहों, त्रुटियों और हॉलुसिनेशन के लिए अतिसंवेदनशील हैं। मेटा में वर्तमान मुख्य एआई वैज्ञानिक यान लेकुन ने हाल ही में एलएलएम में हॉलुसिनेशन का कारण बनने वाली केंद्रीय खामी का उल्लेख किया है: “बड़े भाषा मॉडलों को भाषा द्वारा वर्णित अंतर्निहित वास्तविकता का कोई विचार नहीं है। ये प्रणालियां ऐसा पाठ उत्पन्न करती हैं जो व्याकरण और अर्थ में ठीक लगता है, लेकिन उनका कोई वास्तविक उद्देश्य नहीं है, सिवाय प्रॉम्प्ट के साथ सांख्यिकीय संगतता को संतुष्ट करने के।”

एलएलएम में हॉलुसिनेशन

गर्ड आल्टमान द्वारा पिक्साबे से छवि

हॉलुसिनेशन से तात्पर्य मॉडल द्वारा ऐसे आउटपुट के उत्पादन से है जो व्याकरण और अर्थ में सही हैं, लेकिन वास्तविकता से जुड़े नहीं हैं और झूठे धारणाओं पर आधारित हैं। हॉलुसिनेशन एलएलएम से जुड़ी प्रमुख नैतिक चिंताओं में से एक है, और इसके हानिकारक परिणाम हो सकते हैं क्योंकि उपयोगकर्ता जिन्हें पर्याप्त डोमेन ज्ञान नहीं है, वे इन बढ़ती रूप से आश्वस्त भाषा मॉडल पर अधिक निर्भर होने लगते हैं।

सभी ऑटोरेग्रेसिव एलएलएम में एक निश्चित डिग्री हॉलुसिनेशन अपरिहार्य है। उदाहरण के लिए, एक मॉडल एक ऐसा उद्धरण जोड़ सकता है जो एक मशहूर हस्ती द्वारा कभी नहीं कहा गया था। वे किसी विशिष्ट विषय के बारे में कुछ ऐसा दावा कर सकते हैं जो तथ्यात्मक रूप से गलत है या शोध पत्रों में अस्तित्वहीन स्रोतों का हवाला दे सकते हैं, जिससे गलत सूचना फैलती है।

हालांकि, एआई मॉडल को हॉलुसिनेट करने से हमेशा हानिकारक प्रभाव नहीं पड़ता है। उदाहरण के लिए, एक नया अध्ययन संकेत देता है कि वैज्ञानिक हॉलुसिनेटिंग एलएलएम के माध्यम से ‘नवीन प्रोटीन के साथ असीमित विशेषताओं’ का पता लगा रहे हैं।

एलएलएम हॉलुसिनेशन के कारण

एलएलएम विभिन्न कारकों के कारण हॉलुसिनेट कर सकते हैं, जिनमें ओवरफिटिंग त्रुटियां, एन्कोडिंग और डीकोडिंग त्रुटियां और प्रशिक्षण पूर्वाग्रह शामिल हैं।

ओवरफिटिंग

janjf93 द्वारा पिक्साबे से छवि

ओवरफिटिंग एक समस्या है जहां एक एआई मॉडल प्रशिक्षण डेटा को बहुत अच्छी तरह से फिट करता है, लेकिन यह पूरी श्रृंखला को पूरी तरह से प्रतिनिधित्व नहीं कर सकता है जिसका सामना यह नए, अनदेखे डेटा में आ सकता है, अर्थात् यह नई डेटा पर अपनी भविष्यवाणी शक्ति को सामान्य नहीं कर सकता। ओवरफिटिंग हॉलुसिनेटेड सामग्री के उत्पादन का कारण बन सकता है।

एन्कोडिंग और डीकोडिंग त्रुटियां

गेराल्ट द्वारा पिक्साबे से छवि

यदि पाठ और इसके बाद के प्रतिनिधित्व के एन्कोडिंग और डीकोडिंग में त्रुटियां हैं, तो यह मॉडल को अर्थहीन और त्रुटिपूर्ण आउटपुट उत्पन्न करने का कारण बन सकता है।

प्रशिक्षण पूर्वाग्रह

क्विंस क्रिएटिव द्वारा पिक्साबे से छवि

एक अन्य कारक प्रशिक्षण डेटा में कुछ पूर्वाग्रहों की उपस्थिति है, जो मॉडल को उन पूर्वाग्रहों का प्रतिनिधित्व करने वाले परिणाम देने का कारण बन सकता है, न कि वास्तविक डेटा की। यह प्रशिक्षण डेटा में विविधता की कमी के समान है, जो मॉडल को नए डेटा के लिए सामान्यीकरण करने की क्षमता को सीमित करता है।

एलएलएम की जटिल संरचना इसे एआई शोधकर्ताओं और पेशेवरों के लिए हॉलुसिनेशन के अंतर्निहित कारणों की पहचान, व्याख्या और सुधार करना मुश्किल बना देती है।

एलएलएम हॉलुसिनेशन से जुड़ी नैतिक चिंताएँ

एलएलएम हॉलुसिनेशन के माध्यम से हानिकारक पूर्वाग्रहों को बढ़ावा दे सकते हैं और उपयोगकर्ताओं और समाज पर हानिकारक परिणाम हो सकते हैं। इनमें से कुछ सबसे महत्वपूर्ण नैतिक चिंताएं नीचे सूचीबद्ध हैं:

भेदभावपूर्ण और जहरीली सामग्री

ar130405 द्वारा पिक्साबे से छवि

चूंकि एलएलएम प्रशिक्षण डेटा अक्सर सामाजिक-सांस्कृतिक रूढ़िवादिता से भरा होता है, जो अंतर्निहित पूर्वाग्रहों और विविधता की कमी के कारण होता है। एलएलएम इसलिए इन हानिकारक विचारों को उत्पन्न और मजबूत कर सकते हैं जो समाज में वंचित समूहों के खिलाफ हैं।

वे नस्ल, लिंग, धर्म, जातीयता आदि के आधार पर भेदभावपूर्ण और घृणित सामग्री उत्पन्न कर सकते हैं।

गोपनीयता मुद्दे

JanBaby द्वारा पिक्साबे से छवि

एलएलएम विशाल प्रशिक्षण पाठ-संग्रह (कॉर्पस) पर प्रशिक्षित होते हैं जिसमें अक्सर व्यक्तियों की व्यक्तिगत जानकारी शामिल होती है। ऐसे मामले सामने आए हैं जहां ऐसे मॉडलों ने लोगों की गोपनीयता का उल्लंघन किया है। वे विशिष्ट जानकारी जैसे सामाजिक सुरक्षा संख्या, घर के पते, मोबाइल फोन नंबर और चिकित्सा विवरण लीक कर सकते हैं।

भ्रामक और गलत सूचना

गेराल्ट द्वारा पिक्साबे से छवि

भाषा मॉडल मानव-जैसी सामग्री उत्पन्न कर सकते हैं जो सटीक लगती है लेकिन वास्तव में गलत है और साक्ष्य द्वारा समर्थित नहीं है। यह अनजाने में हो सकता है, जिससे गलत सूचना (misinformation) फैलती है, या इसके पीछे जानबूझकर भ्रामक सूचना (disinformation) फैलाने का दुर्भावनापूर्ण उद्देश्य हो सकता है। यदि यह अनियंत्रित है, तो यह हानिकारक सामाजिक-सांस्कृतिक-आर्थिक-राजनीतिक रुझानों का कारण बन सकता है।

एलएलएम हॉलुसिनेशन को रोकना

athree23 द्वारा पिक्साबे से छवि

शोधकर्ता और पेशेवर एलएलएम में हॉलुसिनेशन की समस्या को हल करने के लिए विभिन्न दृष्टिकोण अपना रहे हैं। इनमें प्रशिक्षण डेटा की विविधता में सुधार, अंतर्निहित पूर्वाग्रहों को दूर करना, बेहतर नियमितीकरण तकनीकों का उपयोग करना और प्रतिपक्षी प्रशिक्षण और सुदृढीकरण अधिगम का उपयोग करना शामिल है:

  • बेहतर नियमितीकरण तकनीकों का विकास हॉलुसिनेशन को संबोधित करने के लिए केंद्रीय है। वे ओवरफिटिंग और अन्य समस्याओं को रोकने में मदद करते हैं जो हॉलुसिनेशन का कारण बनते हैं।
  • डेटा वृद्धि हॉलुसिनेशन की आवृत्ति को कम कर सकती है, जैसा कि एक शोध अध्ययन द्वारा प्रदर्शित किया गया है। डेटा संवर्धन में वाक्य में किसी भी स्थान पर एक यादृच्छिक टोकन जोड़कर प्रशिक्षण सेट का विस्तार किया जाता है और यह प्रशिक्षण सेट के आकार को दोगुना कर देती है और हॉलुसिनेशन की आवृत्ति में कमी आती है।
  • ओपनएआई और गूगल के डीपमाइंड ने हॉलुसिनेशन समस्या को हल करने के लिए मानव प्रतिक्रिया से सुदृढीकरण अधिगम (आरएलएचएफ) नामक एक तकनीक विकसित की है। इसमें एक मानव मूल्यांकनकर्ता शामिल होता है जो मॉडल की प्रतिक्रियाओं की लगातार समीक्षा करता है और उपयोगकर्ता प्रॉम्प्ट के लिए सबसे उपयुक्त का चयन करता है। यह प्रतिक्रिया तब मॉडल के व्यवहार को समायोजित करने के लिए उपयोग की जाती है। ओपनएआई के मुख्य वैज्ञानिक इल्या सुत्स्केवर ने हाल ही में उल्लेख किया है कि यह दृष्टिकोण चैटजीपीटी में हॉलुसिनेशन को हल कर सकता है: “मैं आशावादी हूं कि मानव प्रतिक्रिया से सुदृढीकरण अधिगम के इस बाद के चरण में सुधार करके, हम इसे हॉलुसिनेट नहीं करना सिखा सकते हैं”।
  • हॉलुसिनेटेड सामग्री की पहचान करना और इसका उपयोग भविष्य के प्रशिक्षण के लिए एक उदाहरण के रूप में करना भी हॉलुसिनेशन को संबोधित करने का एक तरीका है। एक नई तकनीक हॉलुसिनेशन का पता लगाने के लिए टोकन स्तर पर हॉलुसिनेशन का पता लगाती है और भविष्यवाणी करती है कि आउटपुट में प्रत्येक टोकन हॉलुसिनेटेड है या नहीं। यह हॉलुसिनेशन डिटेक्टरों के लिए असुपरवाइज्ड लर्निंग के लिए एक विधि भी शामिल करता है।

साधारण शब्दों में, एलएलएम हॉलुसिनेशन एक बढ़ती चिंता का विषय है। और प्रयासों के बावजूद, इस समस्या को हल करने के लिए अभी भी बहुत काम करने की आवश्यकता है। इन मॉडलों की जटिलता का अर्थ है कि हॉलुसिनेशन के अंतर्निहित कारणों की पहचान, व्याख्या और सुधार करना आमतौर पर मुश्किल है।

हालांकि, निरंतर शोध और विकास के साथ, एलएलएम में हॉलुसिनेशन को कम करना और उनके नैतिक परिणामों को कम करना संभव है।

यदि आप एलएलएम और हॉलुसिनेशन को ठीक करने के लिए विकसित की जा रही रोकथाम तकनीकों के बारे में अधिक जानना चाहते हैं, तो unite.ai पर जाएं और अपने ज्ञान का विस्तार करें।

Haziqa Sajid

हाज़िका एक डेटा साइंटिस्ट हैं जिनके पास एआई और सास कंपनियों के लिए तकनीकी सामग्री लिखने का व्यापक अनुभव है।