निर्णय जितना अधिक महत्वपूर्ण हो, उतना ही कम अकेले काम करना चाहिए एआई को

एआई एजेंटों की एक समस्या है जो उनके फायदों के बारे में पिच के रूप में छिपी हुई है। एजेंट आत्मविश्वास से बोलता है और सुंदर लिखता है, मानव से तेजी से जानकारी संसाधित करता है। इससे यह धारणा बन सकती है कि एआई स्वचालित रूप से काम करने के लिए तैयार है। वास्तव में, जब भी निर्णय में वास्तविक पैसा, ग्राहक की अपेक्षाएं और विश्वास शामिल होता है, तो एआई को स्वचालित प्रणाली नहीं होना चाहिए, क्योंकि यह अभी भी वयस्क पर्यवेक्षण की आवश्यकता है।

यह सबक सिद्धांत से नहीं निकाला गया था – यह परीक्षण के माध्यम से सीखा गया था, जब लक्जरी लाइफस्टाइल सेवा का एआई वास्तविक ग्राहकों के साथ बातचीत कर सकता था।

हानिकारक हो सकती है अच्छी मंशा वाली सलाह

एआई-संचालित लाइफस्टाइल प्रबंधन ऐप के प्रारंभिक परीक्षण में, प्रणाली पहली नज़र में प्रभावशाली लग रही थी। यह रेस्तरां की एक संक्षिप्त सूची तैयार कर सकता था, मनोरंजन विकल्प सुझा सकता था, स्थानीय गतिविधियों के लिए यात्रा कार्यक्रम तैयार कर सकता था, और सभी को स्पष्ट, उच्च गुणवत्ता वाली सिफारिशों में मिला सकता था। लेकिन लगभग 15% मामलों में, यह बस विवरण बना देता था – और इतना आश्वस्त था कि यह विश्वसनीय हो।

एक उदाहरण था जिसने इस समस्या को अनदेखा करना असंभव बना दिया: एआई ने दुबई में एक रेस्तरां की सिफारिश की जो आठ महीने पहले बंद हो गया था। जब उससे इसके बारे में पूछा गया, तो उसने संकोच नहीं किया या स्वीकार नहीं किया कि उसने गलती की थी। एजेंट ने एक समीक्षा बनाई और इसका हवाला दिया।

एक अन्य समय, एजेंट ने एक स्ट्रीट-साइड स्नैक बार को मिशेलिन-स्टार वाले रेस्तरां के लिए गलत समझा क्योंकि नाम कुछ समान थे। यदि एक मानव ने ऑर्डर की समीक्षा नहीं की होती, तो कॉन्सियर्ज सेवा के ग्राहक को शायद वह डिनर मिला होता जो योजना के अनुसार नहीं था।

फिर पैडल गेम की घटना हुई। एक ग्राहक ने पैडल कोर्ट वाले एक खेल क्लब के बारे में पूछा। एआई उसे एक ऐसी जगह की ओर ले जाने वाला था जिसमें केवल टेनिस कोर्ट थे। क्यों? क्योंकि स्रोत डेटा में, उसने एक समाचार लेख पाया जिसमें कहा गया था कि पैडल कोर्ट वहां बनाने की योजना है, और उसने बारीकी से “योजना” को “पहले से मौजूद” में बदल दिया। यही कारण है कि मॉडल सेवा क्षेत्र में एक जोखिम भरा प्रयोग है: भले ही एआई के पास पूरी और सटीक डेटा न हो, यह रुकता नहीं है – यह सुधारता है।

व्यवसायिक खतरा के रूप में एआई हॉलुसिनेशन

यह समस्या पर्यटन उद्योग तक ही सीमित नहीं है – यह एआई के स्वयं कार्यान्वयन में निहित है।

स्पष्ट रूप से परिभाषित पैरामीटर के भीतर, एआई बहुत अच्छा काम करता है। आप इसे संरचित डेटा, अद्यतन एपीआई प्रदान कर सकते हैं, और यह आपको एक व्यापक अंतर से पार कर देगा। यह मामलों को सत्रह मापदंडों के अनुसार वर्गीकृत करेगा, तुरंत नियमों को स्कैन करेगा, और सेकंडों में तैयार करने योग्य मसौदे तैयार करेगा। लेकिन वास्तविक दुनिया एक संरचित डेटाबेस से बहुत दूर है। वास्तविकता किनारे के मामलों, पुरानी जानकारी, अस्पष्ट वरीयताओं, अस्पष्ट शब्दों और संचालन अंतराल से भरी हुई है।

यही वह जगह है जहां हॉलुसिनेशन व्यवसायिक जोखिम पैदा करना शुरू कर देते हैं। अध्ययन बार-बार चेतावनी देते हैं कि हॉलुसिनेशन तुरंत विश्वास को नष्ट कर सकते हैं, विशेष रूप से जब ग्राहक निर्णय लेने के समय परिष्कृत लेकिन असटीक जानकारी प्राप्त करता है। लोग पहले से ही व्यापक रूप से एआई यात्रा योजनाकारों का उपयोग कर रहे हैं, लेकिन विश्वास अभी भी कम है।

एचएनडब्ल्यूआई के रूप में एआई के लिए अंतिम तनाव परीक्षण

अब हम दांव बढ़ाते हैं।

एआई आसानी से मानक कार्यों को संभालता है – एक उदाहरण ऐसा कार्य है लंदन से दुबई की यात्रा बुक करना: व्यवसाय वर्ग, तीन रातों के लिए चार सितारा होटल। वास्तविक तनाव परीक्षण एक एचएनडब्ल्यूआई से संक्षिप्त है: यह हमारी सालगिरह है। उसने अमाल्फी में एक रेस्तरां का उल्लेख किया जिसका दरवाजा नीला है। वह पियोनियों से प्यार करती है लेकिन गुलाब से नफरत करती है, और वह एक ऐसे ड्राइवर के साथ अधिक सहज महसूस करेगी जो फ्रांसीसी बोलता है।

एक अनुरोध जो इतना सुंदर लगता है, लेकिन संचालन के दृष्टिकोण से, यह एक खदान क्षेत्र है। एक एआई एजेंट निश्चित रूप से विकल्प सुझाएगा, लेकिन यह 40% गलत जानकारी भी प्रदान कर सकता है पूरे आत्मविश्वास के साथ।

विलासिता और एचएनडब्ल्यूआई खंडों में ग्राहक एआई की सीमाओं को अधिक तेजी से उजागर करते हैं क्योंकि उनके अनुरोध मानक नहीं हैं, और उनकी अपेक्षाएं भावनात्मक, संदर्भ-निर्भर और अत्यधिक विशिष्ट हैं। अधिक बार नहीं, ऐसे अनुरोध स्वचालित रूप से सत्यापित करना मुश्किल होता है।

इसके अलावा, एचएनडब्ल्यूआई ग्राहकों को प्रभावी ढंग से परोसने में विफलता का परिणाम एक सरल रिफंड के साथ समाप्त नहीं होगा। यह कंपनी की प्रतिष्ठा को नुकसान पहुंचाएगा, क्योंकि इस खंड में सिफारिशें और विश्वास अत्यधिक महत्वपूर्ण हैं।

वास्तविक कर्मचारी इन हॉलुसिनेशन के साथ रोजाना निपटते हैं। वे उस रेस्तरां को देखते हैं जो बंद हो जाता है जिस मंगलवार को क्लाइंट आता है, और पांच मिनट की तेज चलने वाली पैदल दूरी जो वास्तव में बीस पांच मिनट की पहाड़ी चढ़ाई है जिसमें सामान है। एक प्रशिक्षित विशेषज्ञ एक बुटीक होटल को नजरअंदाज नहीं करेगा जो फोटो में परिपूर्ण दिखता है लेकिन वास्तव में नवीनीकरण के कारण स्कैफोल्डिंग से ढका हुआ है।

फिनटेक को सटीकता की आवश्यकता है, गति नहीं

हम फिनटेक क्षेत्र के लिए भी इसी तर्क को लागू कर सकते हैं। एआई उत्पादों का विश्लेषण कर सकता है, विकल्पों की तुलना कर सकता है, असामान्यताएं पहचान सकता है, और सिफारिशें तेजी से और कुशलता से उत्पन्न कर सकता है। लेकिन जब पैसे की बात आती है, तो यादृच्छिक त्रुटियों के लिए शून्य सहनशीलता होती है।

फिनटेक कंपनियां अचानक स्वचालन द्वारा किए गए निर्णयों के लिए भुगतान कर रही हैं – ग्राहक विश्वास के नुकसान के रूप में। सफल कंपनियां शुरू में नियंत्रण तंत्र लागू करती हैं, न कि तब जब नुकसान पहले ही हो चुका होता है; उचित मॉडल में मानव पर्यवेक्षण शामिल है।

एआई और क्लाइंट के बीच एक अतिरिक्त सत्यापन परत की आवश्यकता है – एक चरण जहां परिणाम को彻底 सत्यापित और सुरक्षित किया जाता है। उन क्षेत्रों में जहां त्रुटि की लागत अधिक है, यह परत उत्पाद का आधार बन जाती है।

एक अधिक उपयोगी अवधारणा बुनियादी ढांचा है। एआई को संरचित कार्यों पर ध्यान केंद्रित करना चाहिए : अनुसंधान, वर्गीकरण, तुलना, और मसौदा तैयार करना। इस प्रक्रिया में, मानव को अंतिम निर्णय लेना चाहिए। समय के साथ, कुछ कार्य प्रक्रियाएं स्थिर हो जाएंगी और पूरी तरह से स्वचालित हो जाएंगी। उस बिंदु पर, यह संभव होगा कि एक बेंचमार्क स्थापित किया जा सकता है, लेकिन इसे साक्ष्य के आधार पर किया जाना चाहिए, न कि आस्था पर।

ये विचार पूरी तरह से स्वचालित भविष्य की तुलना में कम प्रेरक लग सकते हैं, लेकिन यही वह तरीका है जिससे गंभीर कंपनियां अंततः सफल होंगी।