यदि आपका एआई हॉलुसिनेटिंग कर रहा है, तो एआई को दोष न दें

एआई “हॉलुसिनेशन” – वे आश्वस्त करने वाले ध्वनि लेकिन झूठे उत्तर – बहुत सारे मीडिया ध्यान आकर्षित करते हैं, जैसे कि हाल ही में न्यूयॉर्क टाइम्स के लेख में, एआई अधिक शक्तिशाली हो रहा है, लेकिन इसके हॉलुसिनेशन और भी बदतर हो रहे हैं। हॉलुसिनेशन जब आप एक उपभोक्ता चैटबॉट के साथ काम कर रहे हों तो एक वास्तविक खतरा है। व्यवसायिक अनुप्रयोगों में एआई के संदर्भ में, यह एक और भी गंभीर चिंता का विषय है। सौभाग्य से, एक व्यवसाय प्रौद्योगिकी नेता के रूप में, मेरे पास इसके नियंत्रण में अधिक नियंत्रण है। मैं सुनिश्चित कर सकता हूं कि एजेंट के पास एक अर्थपूर्ण उत्तर देने के लिए सही डेटा है।

क्योंकि यही वास्तविक समस्या है। व्यवसाय में, एआई हॉलुसिनेशन के लिए कोई बहाना नहीं है। एआई को दोष न दें। अपने आप को दोष दें कि आप एआई का सही तरीके से उपयोग नहीं कर रहे हैं।

जब जनरेटिव एआई टूल हॉलुसिनेट करते हैं, तो वे वही कर रहे हैं जो उन्हें करने के लिए डिज़ाइन किया गया है – उपलब्ध डेटा के आधार पर सबसे अच्छा उत्तर देना। जब वे कुछ बनाते हैं, तो एक ऐसा उत्तर बनाते हैं जो वास्तविकता पर आधारित नहीं है, यह इसलिए है क्योंकि वे प्रासंगिक डेटा की कमी है, इसे नहीं ढूंढ सकते हैं, या प्रश्न को नहीं समझते हैं। हाँ, नए मॉडल जैसे ओपनएआई के ओ३ और ओ४-मिनी अधिक हॉलुसिनेट कर रहे हैं, जब उन्हें एक अच्छा उत्तर नहीं मिला है तो अधिक “रचनात्मक” हो रहे हैं। हाँ, अधिक शक्तिशाली टूल अधिक हॉलुसिनेट कर सकते हैं – लेकिन वे अधिक शक्तिशाली और मूल्यवान परिणाम भी दे सकते हैं यदि हम उन्हें सफलता के लिए तैयार करते हैं।

यदि आप नहीं चाहते कि आपका एआई हॉलुसिनेट करे, तो इसे डेटा के लिए भूखा न रखें। एआई को समस्या के लिए सबसे अच्छा और सबसे प्रासंगिक डेटा दें, और यह विचलित नहीं होगा।

इसके अलावा, जब भी आप किसी भी एआई टूल के साथ काम कर रहे हों, तो मैं आपको अपनी महत्वपूर्ण सोच कौशल को बनाए रखने की सलाह देता हूं। एआई एजेंट द्वारा दिए गए परिणाम उत्पादक और सुखद हो सकते हैं, लेकिन बिंदु यह नहीं है कि आप अपने दिमाग को अनप्लग करें और सॉफ़्टवेयर को सभी सोच के लिए अनुमति दें। प्रश्न पूछते रहें। जब एक एआई एजेंट आपको एक उत्तर देता है, तो उस उत्तर को प्रश्न में रखें ताकि यह सुनिश्चित हो सके कि यह समझ में आता है और डेटा द्वारा समर्थित है। यदि ऐसा है, तो यह एक प्रोत्साहित करने वाला संकेत है कि यह आपके समय के लायक है कि आप अनुवर्ती प्रश्न पूछें।

जितना अधिक आप प्रश्न पूछते हैं, उतने ही बेहतर अंतर्दृष्टि आप प्राप्त करेंगे।

हॉलुसिनेशन क्यों होते हैं

यह कोई रहस्य नहीं है। एआई आपको धोखा देने की कोशिश नहीं कर रहा है। हर बड़े भाषा मॉडल (एलएलएम) एआई मूल रूप से संभावना के आधार पर अगले शब्द या संख्या की भविष्यवाणी कर रहा है।

एक उच्च स्तर पर, यहाँ क्या हो रहा है वह यह है कि एलएलएम वाक्य और अनुच्छेद एक शब्द एक समय में जोड़ते हैं, जो अगले शब्द की भविष्यवाणी करते हैं जो वाक्य में होना चाहिए, इसके प्रशिक्षण डेटा में अरबों अन्य उदाहरणों के आधार पर। एलएलएम के पूर्ववर्ती (क्लिपी के अलावा) टेक्स्ट संदेशों और कंप्यूटर कोड के लिए ऑटोकम्प्लीट प्रॉम्प्ट, स्वचालित मानव भाषा अनुवाद टूल, और अन्य संभावित भाषाई प्रणाली थे। बढ़ी हुई ब्रूट फोर्स कंप्यूट पावर के साथ, प्लस इंटरनेट-स्केल की मात्रा में डेटा पर प्रशिक्षण, इन प्रणालियों ने “स्मार्ट” enough हो गया है कि वे चैट पर एक पूरी बातचीत कर सकते हैं, जैसा कि दुनिया ने चैटजीपीटी की शुरुआत के साथ सीखा।

एआई निंदक इस बात पर जोर देते हैं कि यह वास्तविक “बुद्धिमत्ता” के समान नहीं है, केवल सॉफ्टवेयर जो मानव बुद्धिमत्ता को अवशोषित और पुनः उत्पन्न कर सकता है जो इसे खिलाया गया है। डेटा को एक लिखित रिपोर्ट में सारांशित करने के लिए इसे पूछें, और यह अन्य लेखकों द्वारा समान डेटा को सारांशित करने के तरीके की नकल करता है।

मुझे लगता है कि यह एक अकादमिक तर्क है जब तक कि डेटा सही है और विश्लेषण उपयोगी है।

क्या होता है अगर एआई के पास डेटा नहीं है? यह खाली जगह भर देता है। कभी-कभी यह मजाकिया है। कभी-कभी यह एक पूरी तरह से गड़बड़ है।

जब एआई एजेंट बनाते हैं, तो यह 10 गुना जोखिम है। एजेंट को कार्रवाई योग्य अंतर्दृष्टि प्रदान करने वाले होने चाहिए, लेकिन वे रास्ते में अधिक निर्णय लेते हैं। उन्होंने मल्टी-स्टेप कार्यों को निष्पादित किया, जहां चरण 1 का परिणाम चरण 2, 3, 4, 5, … 10 … 20 को सूचित करता है। यदि चरण 1 के परिणाम गलत हैं, तो त्रुटि को बढ़ाया जाएगा, जिससे चरण 20 पर आउटपुट और भी खराब हो जाएगा। विशेष रूप से, एजेंट निर्णय ले सकते हैं और चरणों को छोड़ सकते हैं।

सही तरीके से किया गया, एजेंट जिस व्यवसाय को तैनात करते हैं उसे और भी कुछ हासिल करते हैं। फिर भी, एआई उत्पाद प्रबंधकों के रूप में, हमें जोखिम को पहचानना होगा जो बड़े पुरस्कार के साथ आता है।

जो हमारी टीम ने किया। हमने जोखिम देखा, और इसे संबोधित किया। हमने केवल एक फैंसी रोबोट नहीं बनाया; हमने सुनिश्चित किया कि यह सही डेटा पर चलता है। मुझे लगता है कि हमने यह सही किया:

• एजेंट को सही प्रश्न पूछने और यह सत्यापित करने के लिए बनाएं कि उसके पास सही डेटा है। एजेंट की प्रारंभिक डेटा इनपुट प्रक्रिया वास्तव में अधिक निर्धारित है, कम “रचनात्मक”। आप चाहते हैं कि एजेंट कहे जब यह सही डेटा नहीं है और अगले चरण पर जाने के बजाय ऐसा न करे।
• अपने एजेंट के लिए एक प्लेबुक संरचित करें – सुनिश्चित करें कि यह हर बार एक नया योजना नहीं बनाता है, बल्कि एक अर्ध-संरचित दृष्टिकोण है। संरचना और संदर्भ डेटा संग्रह और विश्लेषण चरण में अत्यंत महत्वपूर्ण हैं। आप एजेंट को तब तक ढीला छोड़ सकते हैं और अधिक “रचनात्मक” हो सकते हैं जब यह तथ्यों को प्राप्त कर लेता है और सारांश लिखने के लिए तैयार होता है, लेकिन पहले तथ्यों को सही करें।
• डेटा निकालने के लिए एक उच्च गुणवत्ता वाला टूल बनाएं। यह केवल एक एपीआई कॉल से अधिक होना चाहिए। समय लें और कोड लिखें (लोग अभी भी ऐसा करते हैं) जो सही मात्रा और विविधता के डेटा को इकट्ठा करने के लिए बनाता है जो इकट्ठा किया जाएगा, प्रक्रिया में गुणवत्ता जांच बनाता है।
• एजेंट को अपना काम दिखाएं। एजेंट को अपने स्रोतों का हवाला देना चाहिए और लिंक करना चाहिए जहां उपयोगकर्ता डेटा की पुष्टि कर सकता है, मूल स्रोत से, और इसे आगे अन्वेषण कर सकता है। कोई हाथ की चाल नहीं!
• गार्डरेल: जो गलत हो सकता है उस पर विचार करें, और उन त्रुटियों के खिलाफ सुरक्षा बनाएं जिन्हें आप绝 नहीं कर सकते। हमारे मामले में, इसका अर्थ है कि जब एजेंट को बाजार का विश्लेषण करने का काम सौंपा जाता है और यह डेटा नहीं है – जिसका अर्थ है कि हमारा समानवेब डेटा, न कि वेब से खींचा गया कोई यादृच्छिक डेटा स्रोत – सुनिश्चित करना कि यह कुछ नहीं बनाता है एक आवश्यक गार्डरेल है। एजेंट को जवाब देने में असमर्थ होने से बेहतर है कि यह एक झूठा या भ्रामक उत्तर दे।

हमने इन सिद्धांतों को हमारे हाल के तीन नए एजेंटों की रिलीज में शामिल किया है, जिसके बाद और भी होंगे। उदाहरण के लिए, हमारा एआई मीटिंग प्रीप एजेंट बिक्री कर्मियों के लिए केवल लक्ष्य कंपनी का नाम नहीं पूछता है, बल्कि बैठक के लक्ष्य और इसके साथ किस के साथ होने वाली बैठक के विवरण पर भी पूछता है, जो इसे एक बेहतर उत्तर देने के लिए तैयार करता है। यह अनुमान नहीं लगाता क्योंकि यह कंपनी के डेटा, डिजिटल डेटा और कार्यकारी प्रोफाइल का उपयोग करके अपनी सिफारिशों को सूचित करता है।

क्या हमारे एजेंट परिपूर्ण हैं? नहीं। कोई भी अभी तक परिपूर्ण एआई नहीं बना रहा है, दुनिया की सबसे बड़ी कंपनियों में से भी नहीं। लेकिन समस्या का सामना करना एक बहुत बड़ा काम है जो इसे अनदेखा करने से बेहतर है।

कम हॉलुसिनेशन चाहते हैं? अपने एआई को एक अच्छा हिस्सा उच्च गुणवत्ता वाले डेटा दें।

यदि यह हॉलुसिनेट करता है, तो शायद यह एआई है जिसे ठीक करने की आवश्यकता नहीं है। शायद यह आपका दृष्टिकोण है जो इन शक्तिशाली नए क्षमताओं का लाभ उठाने के लिए समय और प्रयास के बिना सही तरीके से नहीं है।

em is a hell of a lot better than ignoring it. Want fewer hallucinations? Give your AI a nice chunk of high quality data. If it hallucinates, maybe it’s not the AI that needs fixing. Maybe it’s your approach to taking advantage of these powerful new capabilities without putting in the time and effort to get them right.