एआई से कहानियाँ बनाने से रोकना: हॉलुसिनेशन को रोकने के लिए एक गाइड

एआई लगभग हर उद्योग के संचालन के तरीके को क्रांतिकारी बना रहा है। यह हमें अधिक कुशल, अधिक उत्पादक बना रहा है, और – जब सही तरीके से लागू किया जाता है – हमारे काम में बेहतर बना रहा है। लेकिन जैसे ही हम इस नए तकनीक पर अपनी निर्भरता तेजी से बढ़ाते हैं, हमें एक सरल तथ्य को याद रखना होगा: एआई अक्षम्य नहीं है। इसके आउटपुट को चेहरे के मूल्य पर नहीं लिया जाना चाहिए क्योंकि एआई, मनुष्यों की तरह, गलतियाँ कर सकता है।

हम इन गलतियों को “एआई हॉलुसिनेशन” कहते हैं। ऐसी गलतियाँ कहीं से भी हो सकती हैं, जैसे कि एक गणित समस्या का गलत उत्तर देना या सरकारी नीतियों पर गलत जानकारी प्रदान करना। उच्च नियामक उद्योगों में, हॉलुसिनेशन महंगे जुर्माना और कानूनी परेशानी पैदा कर सकते हैं, न कि ग्राहकों को असंतुष्ट कर सकते हैं।

एआई हॉलुसिनेशन की आवृत्ति को चिंता का कारण माना जाना चाहिए: अनुमान है कि आधुनिक बड़े भाषा मॉडल (एलएलएम) 1% से 30% समय हॉलुसिनेट करते हैं। इसका परिणाम प्रतिदिन सैकड़ों गलत उत्तर पैदा होते हैं, जिसका अर्थ है कि व्यवसायों को इस तकनीक का लाभ उठाने के लिए जो उपकरण लागू करने हैं, उन्हें बहुत सावधानी से चुनना होगा।

आइए देखें कि एआई हॉलुसिनेशन क्यों होते हैं, क्या दांव पर है, और हम उन्हें कैसे पहचान और सही कर सकते हैं।

गार्बेज इन, गार्बेज आउट

क्या आप बचपन में “टेलीफोन” खेल खेलना याद रखते हैं? कैसे शुरुआती वाक्य खिलाड़ियों से गुजरते हुए विकृत हो जाता था, जिसके परिणामस्वरूप एक पूरी तरह से अलग बयान होता था जब यह सर्कल के चारों ओर अपना रास्ता बनाता था?

एआई अपने इनपुट से सीखने का तरीका इसी तरह का है। एलएलएम द्वारा उत्पन्न प्रतिक्रियाएं केवल उतनी ही अच्छी होती हैं जितनी जानकारी उन्हें दी जाती है, जिसका अर्थ है कि गलत संदर्भ गलत जानकारी के उत्पादन और प्रसार का कारण बन सकता है। यदि एक एआई प्रणाली असटीक, पुरानी या पूर्वाग्रहपूर्ण डेटा पर बनाई गई है, तो इसके आउटपुट उसी को प्रतिबिंबित करेंगे।

इस तरह, एक एलएलएम अपने इनपुट के रूप में अच्छा है, खासकर जब मानव हस्तक्षेप या पर्यवेक्षण की कमी होती है। जैसे ही अधिक स्वायत्त एआई समाधान प्रसारित होते हैं, यह महत्वपूर्ण है कि हम उपकरणों को सही डेटा संदर्भ प्रदान करें ताकि हॉलुसिनेशन का कारण न बनें। हमें इस डेटा के लिए कठोर प्रशिक्षण की आवश्यकता है, और/या एलएलएम को इस तरह से मार्गदर्शन करने की क्षमता है कि वे केवल उस संदर्भ से प्रतिक्रिया दें जो उन्हें दिया जाता है, न कि इंटरनेट पर कहीं से भी जानकारी खींचते हैं।

हॉलुसिनेशन क्यों मायने रखते हैं?

ग्राहकों का सामना करने वाले व्यवसायों के लिए, सटीकता सब कुछ है। यदि कर्मचारी ग्राहक डेटा को संश्लेषित करने या ग्राहक प्रश्नों का उत्तर देने जैसे कार्यों के लिए एआई पर निर्भर हैं, तो उन्हें विश्वास होना चाहिए कि ऐसे उपकरणों द्वारा उत्पन्न प्रतिक्रियाएं सटीक हैं।

अन्यथा, व्यवसायों को प्रतिष्ठा और ग्राहक वफादारी को नुकसान हो सकता है। यदि ग्राहकों को एक चैटबॉट द्वारा पर्याप्त या गलत उत्तर दिए जाते हैं, या यदि वे चैटबॉट के आउटपुट की जाँच करते समय प्रतीक्षा करते हैं, तो वे अपना व्यवसाय कहीं और ले जा सकते हैं। लोगों को यह चिंता नहीं करनी चाहिए कि क्या वे जिन व्यवसायों के साथ बातचीत करते हैं उन्हें गलत जानकारी दी जा रही है – वे तेज़ और विश्वसनीय समर्थन चाहते हैं, जिसका अर्थ है कि इन बातचीत को सही तरीके से करना अत्यंत महत्वपूर्ण है।

व्यवसायिक नेताओं को अपने कर्मचारियों के लिए सही एआई टूल चुनने में अपना उचित हिस्सा करना होगा। एआई को कर्मचारियों के लिए समय और ऊर्जा को मुक्त करने के लिए डिज़ाइन किया गया है ताकि वे उच्च मूल्य वाले कार्यों पर ध्यान केंद्रित कर सकें; एक चैटबॉट में निवेश करना जिसमें मानव निगरानी की आवश्यकता होती है, अपनाया जाने के उद्देश्य को हरा देता है। लेकिन क्या हॉलुसिनेशन का अस्तित्व वास्तव में इतना प्रमुख है या शब्द का उपयोग किसी भी प्रतिक्रिया को गलत मानने के लिए किया जाता है?

एआई हॉलुसिनेशन से लड़ना

विचार करें: डायनामिक मीनिंग थ्योरी (DMT), यह अवधारणा कि दो व्यक्तियों – इस मामले में उपयोगकर्ता और एआई – के बीच एक समझ है। लेकिन, भाषा और विषयों के ज्ञान की सीमाएं प्रतिक्रिया की व्याख्या में एक मिसालignment का कारण बनती हैं।

एआई-उत्पन्न प्रतिक्रियाओं के मामले में, यह संभव है कि अंतर्निहित एल्गोरिदम अभी तक मानवों की अपेक्षाओं के साथ संरेखित करने के लिए पाठ की व्याख्या या उत्पादन करने में पूरी तरह से सक्षम नहीं हैं। यह असमानता उन प्रतिक्रियाओं का कारण बन सकती है जो सतह पर सटीक लगती हैं लेकिन वास्तविक समझ के लिए आवश्यक गहराई या सूक्ष्मता की कमी है।

इसके अलावा, अधिकांश सामान्य-उद्देश्य एलएलएम केवल इंटरनेट पर सार्वजनिक रूप से उपलब्ध सामग्री से जानकारी खींचते हैं। एआई के उद्यम अनुप्रयोग तब बेहतर प्रदर्शन करते हैं जब वे विशिष्ट उद्योगों और व्यवसायों के लिए विशिष्ट डेटा और नीतियों से सूचित होते हैं। मॉडलों को सीधे मानव प्रतिक्रिया से भी सुधारा जा सकता है – विशेष रूप से एजेंटिक समाधान जो टोन और वाक्य रचना का जवाब देने के लिए डिज़ाइन किए गए हैं।

ऐसे उपकरणों को उपभोक्ता-सामना करने से पहले कठोरता से परीक्षण किया जाना चाहिए। यह हॉलुसिनेशन को रोकने का एक महत्वपूर्ण हिस्सा है। पूरे प्रवाह को एलएलएम के साथ टर्न-आधारित बातचीत का उपयोग करके परीक्षण किया जाना चाहिए, जो एक व्यक्ति की भूमिका निभाता है। यह व्यवसायों को बेहतर ढंग से अनुमान लगाने में मदद करता है कि एक एआई मॉडल के साथ बातचीत की सामान्य सफलता क्या होगी trước इसके जारी किए जाने के।

यह आवश्यक है कि एआई प्रौद्योगिकी के विकासकर्ता और उपयोगकर्ता दोनों प्रतिक्रियाओं में डायनामिक मीनिंग थ्योरी और भाषा के गतिविधियों के प्रति जागरूक रहें। याद रखें, संदर्भ महत्वपूर्ण है। और, मानव के रूप में, हमारा अधिकांश संदर्भ अव्यक्त माध्यम से समझा जाता है, चाहे वह शरीर की भाषा हो, सामाजिक रुझान – यहां तक कि हमारा स्वर। मानव के रूप में, हमारे पास प्रश्नों के उत्तर में हॉलुसिनेट करने की क्षमता है। लेकिन, हमारे वर्तमान एआई संस्करण में, मानव-से-मानव समझ इतनी आसानी से संदर्भित नहीं है, इसलिए हमें लिखित संदर्भ प्रदान करने में अधिक महत्वपूर्ण होने की आवश्यकता है।

यह कहना पर्याप्त है – सभी एआई मॉडल समान नहीं बनाए गए हैं। जैसे ही तकनीक अधिक जटिल कार्यों को पूरा करने के लिए विकसित होती है, यह महत्वपूर्ण है कि व्यवसायों को लागू करने के लिए देख रहे हैं उन उपकरणों की पहचान करने के लिए जो ग्राहक इंटरैक्शन और अनुभवों में सुधार करेंगे, न कि उन्हें कम करेंगे।

हॉलुसिनेशन को होने से रोकने के लिए समाधान प्रदाताओं पर ही नहीं है। संभावित खरीदारों की भी अपनी भूमिका है। समाधानों को प्राथमिकता देकर जो कठोरता से प्रशिक्षित और परीक्षण किए गए हैं और जो स्वामित्व वाले डेटा (इंटरनेट पर किसी भी चीज़ के बजाय) से सीख सकते हैं, व्यवसाय अपने एआई निवेश से अधिक लाभ उठा सकते हैं और कर्मचारियों और ग्राहकों को सफलता के लिए तैयार कर सकते हैं।