एआई को कहानियाँ घुमाने से रोकना: हॉलुसिनेशन को रोकने के लिए एक गाइड

एआई लगभग हर उद्योग के संचालन के तरीके को क्रांतिकारी बना रहा है। यह हमें अधिक कुशल, अधिक उत्पादक और – जब सही तरीके से लागू किया जाता है – हमारे काम में समग्र रूप से बेहतर बना रहा है। लेकिन जैसे ही हम इस नए तकनीक पर अपनी निर्भरता तेजी से बढ़ाते हैं, हमें एक सरल तथ्य की याद दिलाने की आवश्यकता है: एआई अक्षम्य नहीं है। इसके आउटपुट को सीधे तौर पर नहीं लिया जाना चाहिए क्योंकि, मनुष्यों की तरह, एआई गलतियाँ कर सकता है।

हम इन गलतियों को “एआई हॉलुसिनेशन” कहते हैं। ऐसी गलतियाँ कहीं से भी शुरू हो सकती हैं गणित की समस्या का गलत उत्तर देने से लेकर सरकारी नीतियों पर गलत जानकारी प्रदान करने तक। उच्च नियामक उद्योगों में, हॉलुसिनेशन महंगे जुर्माने और कानूनी परेशानी का कारण बन सकते हैं, छोड़ दें कि असंतुष्ट ग्राहकों को नहीं।

एआई हॉलुसिनेशन की आवृत्ति को चिंता का कारण होना चाहिए: इसका अनुमान है कि आधुनिक बड़े भाषा मॉडल (एलएलएम) 1% से 30% समय हॉलुसिनेट करते हैं। यह प्रतिदिन सैकड़ों गलत उत्तरों के उत्पादन के परिणामस्वरूप होता है, जिसका अर्थ है कि इस प्रौद्योगिकी का लाभ उठाने के लिए व्यवसायों को लागू करने के लिए जिन उपकरणों का चयन करना है, उनमें बहुत सावधानी से चयन करना होगा।

आइए देखें कि एआई हॉलुसिनेशन क्यों होते हैं, क्या दांव पर है, और हम उन्हें कैसे पहचान और सही कर सकते हैं।

कचरा में, कचरा बाहर

क्या आप बच्चे के रूप में “टेलीफोन” खेल खेलना याद रखते हैं? कैसे शुरुआती वाक्य खिलाड़ियों से खिलाड़ियों तक जाने पर विकृत हो जाता था, जिसके परिणामस्वरूप सर्कल के चारों ओर जाने पर एक完全 अलग बयान होता था?

एआई अपने इनपुट से सीखने का तरीका इसी तरह है। एलएलएम द्वारा उत्पन्न प्रतिक्रियाएं उतनी ही अच्छी हैं जितनी जानकारी वे प्राप्त करते हैं, जिसका अर्थ है कि गलत संदर्भ गलत जानकारी के उत्पादन और प्रसार का कारण बन सकता है। यदि एक एआई सिस्टम असटीक, पुराने या पूर्वाग्रहपूर्ण डेटा पर बनाया गया है, तो इसके आउटपुट उसे प्रतिबिंबित करेंगे।

इस तरह, एक एलएलएम अपने इनपुट के रूप में अच्छा है, खासकर जब मानव हस्तक्षेप या पर्यवेक्षण की कमी होती है। जैसे ही अधिक स्वायत्त एआई समाधान प्रचुर मात्रा में हो जाते हैं, यह महत्वपूर्ण है कि हम उपकरणों को सही डेटा संदर्भ प्रदान करें ताकि हॉलुसिनेशन का कारण न बनें। हमें इस डेटा के लिए कठोर प्रशिक्षण की आवश्यकता है, और/या एलएलएम को इस तरह से मार्गदर्शन करने की क्षमता है कि वे केवल प्रदान किए गए संदर्भ से प्रतिक्रिया दें, न कि इंटरनेट पर कहीं से भी जानकारी खींचें।

हॉलुसिनेशन क्यों महत्वपूर्ण हैं?

ग्राहकों के सामने आने वाले व्यवसायों के लिए, सटीकता सब कुछ है। यदि कर्मचारी ग्राहक डेटा को संश्लेषित करने या ग्राहक प्रश्नों का उत्तर देने जैसे कार्यों के लिए एआई पर निर्भर हैं, तो उन्हें विश्वास करने की आवश्यकता है कि ऐसे उपकरणों द्वारा उत्पन्न प्रतिक्रियाएं सटीक हैं।

अन्यथा, व्यवसायों को प्रतिष्ठा और ग्राहक वफादारी को नुकसान का जोखिम है। यदि ग्राहकों को एक चैटबॉट द्वारा पर्याप्त या गलत उत्तर दिए जाते हैं, या यदि वे चैटबॉट के आउटपुट की जाँच करते समय कर्मचारियों कo इंतजार करने के लिए छोड़ दिया जाता है, तो वे अपना व्यवसाय कहीं और ले जा सकते हैं। लोगों को यह चिंता करने की आवश्यकता नहीं है कि क्या वे जिस व्यवसाय के साथ बातचीत कर रहे हैं उन्हें गलत जानकारी दे रहे हैं – वे तेज़ और विश्वसनीय समर्थन चाहते हैं, जिसका अर्थ है कि इन बातचीत को सही करना सबसे महत्वपूर्ण है।
व्यवसायिक नेताओं को अपने कर्मचारियों के लिए सही एआई टूल का चयन करते समय अपना उचित परिश्रम करना होगा। एआई को कर्मचारियों के लिए उच्च-मूल्य वाले कार्यों पर ध्यान केंद्रित करने के लिए समय और ऊर्जा को मुक्त करने के लिए डिज़ाइन किया गया है; एक चैटबॉट में निवेश करना जिसके लिए लगातार मानव निरीक्षण की आवश्यकता होती है, यह गोद लेने के पूरे उद्देश्य को हरा देता है। लेकिन क्या हॉलुसिनेशन का अस्तित्व वास्तव में इतना प्रमुख है या क्या शब्द का उपयोग किसी भी प्रतिक्रिया की पहचान करने के लिए किया जाता है जिसे हम गलत मानते हैं?

एआई हॉलुसिनेशन से लड़ना

विचार करें: डायनामिक मीनिंग थ्योरी (DMT), यह अवधारणा कि दो व्यक्तियों – इस मामले में उपयोगकर्ता और एआई – के बीच एक समझ का आदान-प्रदान किया जा रहा है। लेकिन, भाषा और विषयों के ज्ञान की सीमाएं प्रतिक्रिया की व्याख्या में एक मिसालाइनमेंट का कारण बनती हैं।

एआई द्वारा उत्पन्न प्रतिक्रियाओं के मामले में, यह संभव है कि अंतर्निहित एल्गोरिदम अभी तक मानवों की अपेक्षाओं के साथ संरेखित करने के लिए सटीक रूप से व्याख्या या पाठ उत्पन्न करने के लिए पूरी तरह से सुसज्जित नहीं हैं। यह असमानता उन प्रतिक्रियाओं का कारण बन सकती है जो सतह पर सटीक लगती हैं लेकिन वास्तविक समझ के लिए आवश्यक गहराई या सूक्ष्मता की कमी है।

इसके अलावा, अधिकांश सामान्य-उद्देश्य एलएलएम केवल इंटरनेट पर सार्वजनिक रूप से उपलब्ध सामग्री से जानकारी खींचते हैं। एआई के उद्यम अनुप्रयोग तब बेहतर प्रदर्शन करते हैं जब उन्हें विशिष्ट उद्योगों और व्यवसायों के लिए डेटा और नीतियों से सूचित किया जाता है। मॉडलों को मानव प्रतिक्रिया, विशेष रूप से एजेंटिक समाधानों के साथ सुधारा जा सकता है जो टोन और वाक्य रचना का जवाब देने के लिए डिज़ाइन किए गए हैं।

ऐसे उपकरणों को उपभोक्ता-सामना करने से पहले कठोरता से परीक्षण किया जाना चाहिए। यह हॉलुसिनेशन को रोकने का एक महत्वपूर्ण हिस्सा है। पूरे प्रवाह को एलएलएम के साथ टर्न-आधारित बातचीत का उपयोग करके परीक्षण किया जाना चाहिए, जो एक व्यक्ति की भूमिका निभाता है। यह व्यवसायों को एआई मॉडल के साथ बातचीत की सामान्य सफलता को बेहतर ढंग से मानेंगे इससे पहले कि वे इसे दुनिया में जारी करें।

यह एआई प्रौद्योगिकी के विकासकर्ताओं और उपयोगकर्ताओं दोनों के लिए आवश्यक है कि वे प्राप्त प्रतिक्रियाओं में डायनामिक मीनिंग थ्योरी और भाषा के गतिविधियों के प्रति जागरूक रहें। याद रखें, संदर्भ कुंजी है। और, मनुष्यों के रूप में, हमारा अधिकांश संदर्भ अव्यक्त माध्यम से समझा जाता है, चाहे वह शरीर की भाषा हो, सामाजिक रुझान – यहां तक कि हमारी टोन। मनुष्यों के रूप में, हमारे पास प्रश्नों के उत्तर में हॉलुसिनेट करने की क्षमता है। लेकिन, हमारे वर्तमान एआई संस्करण में, मानव-से-मानव समझ इतनी आसानी से संदर्भित नहीं की जा सकती है, इसलिए हमें लिखने में दी जाने वाली संदर्भ के प्रति अधिक महत्वपूर्ण होने की आवश्यकता है।

यह कहना पर्याप्त है – सभी एआई मॉडल समान नहीं बनाए गए हैं। जैसे ही प्रौद्योगिकी अधिक जटिल कार्यों को पूरा करने के लिए विकसित होती है, यह व्यवसायों के लिए महत्वपूर्ण है जो लागू करने की तलाश में हैं कि वे ग्राहक इंटरैक्शन और अनुभवों में सुधार करने वाले उपकरणों की पहचान करें, न कि उन्हें कम करने वाले।

समाधान प्रदाताओं पर यह जिम्मेदारी नहीं है कि वे यह सुनिश्चित करने के लिए हर संभव प्रयास करें कि हॉलुसिनेशन के होने की संभावना कम हो। संभावित खरीदारों की भी अपनी भूमिका है। कठोर प्रशिक्षित और परीक्षण किए गए समाधानों को प्राथमिकता देकर और जो प्रोप्राइटरी डेटा (इंटरनेट पर किसी भी चीज़ के बजाय) से सीख सकते हैं, व्यवसाय अपने एआई निवेश से सबसे अधिक लाभ उठा सकते हैं ताकि कर्मचारियों और ग्राहकों को सफलता के लिए तैयार किया जा सके।