विचार नेता
मशीन से मानव इंटरैक्शन: एंटरप्राइज एआई को पीछे रखने वाली “लास्ट माइल” समस्या
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
हाल तक, बोर्डरूम में एआई के बारे में चर्चा मॉडल्स पर केंद्रित थी। उनका आउटपुट सटीक है? प्रशिक्षण डेटा कितना साफ था? हम बायस को कैसे कम कर सकते हैं? हॉलुसिनेशन नियंत्रित हैं? वे प्रश्न अभी भी महत्वपूर्ण हैं, लेकिन आउटपुट अब एकमात्र चीज नहीं है जिस पर बोर्ड और शेयरधारक ध्यान दे रहे हैं। इसके बजाय, वे कुछ और में रुचि ले रहे हैं जो मापने में बहुत मुश्किल है – क्या एआई सिस्टम वास्तव में लोगों के साथ दिन-प्रतिदिन की बातचीत में उतनी ही प्रभावी ढंग से काम कर रहे हैं जितना वे कर सकते हैं।
इसका एक कारण यह है कि आईबीएम ने हाल ही में एक शेयरधारक प्रस्ताव का सामना किया जिसमें एआई पूर्वाग्रह और शासन के आसपास अधिक पारदर्शिता की मांग की गई थी। प्रस्ताव विशेष रूप से पूर्वाग्रह मिटाने पर केंद्रित था, लेकिन व्यापक ले था कि जब एआई निर्णय लेने की प्रक्रियाओं में गहराई से निहित हो जाता है, तो इसे अपने परिचालन जवाबदेही और मापनीय व्यवसाय परिणामों के साथ-साथ इसकी मूल क्षमता के स्तर के बजाय मापा जाता है।
मैं जो देख रहा हूं, वह यह है कि उद्यमों के साथ बातचीत में बहुत से लोग अब यह तर्क दे रहे हैं कि मॉडल्स स्वयं कितने सक्षम हैं। अधिकांश संगठनों को यह पहले से ही पता है कि ये सिस्टम आउटपुट उत्पन्न कर सकते हैं, कार्य प्रवाह को स्वचालित कर सकते हैं और असाधारण गति से अंतर्दृष्टि प्रदान कर सकते हैं। कठिन प्रश्न यह है कि क्या यह सब व्यवसाय के भीतर परिणामों में सुधार कर रहा है। कर्मचारी वास्तव में इन सिस्टम का उपयोग महत्वपूर्ण तरीके से कर रहे हैं? वे प्राप्त होने वाली सिफारिशों पर भरोसा करते हैं? निर्णय स्पष्ट, तेज़ या अधिक सुसंगत हो रहे हैं? या संगठन केवल अधिक सामग्री, अधिक विश्लेषण और अधिक शोर उत्पन्न कर रहे हैं बिना यह बदले कि लोग कैसे संचालित करते हैं? एआई क्षमता और मानव अपनाने के बीच यह अंतर यह है जिसे मैं एंटरप्राइज एआई की “अंतिम मील” कहता हूं। यह वह जगह है जहां आरओआई, विश्वास, जवाबदेही और परिचालन सुसंगतता एक साथ आते हैं, और यह वह जगह है जहां कई तैनाती ठप हो जाती है।
क्षमता बोतलनेक नहीं है – मानव संदर्भ है
आईबीएम शेयरधारक प्रस्ताव खुद पूर्वाग्रह पर केंद्रित था, एक परिचित और बढ़ती चिंता उद्योग में। संकल्प आईबीएम से अपने एआई मॉडल में पूर्वाग्रह की पहचान करने और मिटाने के लिए उपयोग की जाने वाली विधियों पर अतिरिक्त रिपोर्टिंग का उत्पादन करने का आह्वान किया, साथ ही उन मिटाने के प्रयासों से जुड़े संभावित जोखिमों के साथ। आईबीएम ने वापस धक्का दिया, यह तर्क देते हुए कि इस जानकारी का अधिकांश पहले से ही मॉडल कार्ड, शासन दस्तावेज, पारदर्शिता रिपोर्टिंग और स्टैनफोर्ड केफाउंडेशन मॉडल पारदर्शिता सूचकांकमें जमा करने के माध्यम से सार्वजनिक रूप से उपलब्ध था। अधिकांश पर्यवेक्षकों ने स्वीकार किया कि आईबीएम ने जिम्मेदार एआई प्रथाओं को परिचालन बनाने के लिए कई विक्रेताओं से अधिक किया है, जबकि यह भी मान्यता दी कि शासन और पूर्वाग्रह अभी भी उद्योग-व्यापी चुनौतियां हैं।
मुझे जो दिलचस्प लगता है वह यह नहीं है कि क्या आईबीएम की प्रतिक्रिया सही या गलत थी। यह पूरी स्थिति के बारे में क्या कहती है कि एंटरप्राइज एआई बातचीत कहां जा रही है। बोर्ड ने मुख्य रूप से निर्णय की गुणवत्ता, परिचालन प्रभाव, कर्मचारी विश्वास और व्यवसाय के भीतर दीर्घकालिक अपनाने पर केंद्रित एआई मूल्यांकन का एक नया चरण में प्रवेश किया है।
यह वह जगह है जहां एक न्यूरोसाइंस लेंस मुझे वर्तमान एंटरप्राइज एआई बातचीत के बहुत से से एक अलग निष्कर्ष पर ले जाता है। मानव तर्कसंगत इनपुट-आउटपुट मशीन नहीं हैं। हम निर्णय लेने के लिए सीमित ध्यान, उतार-चढ़ाव वाले विश्वास, संज्ञानात्मक अधिभार और लगातार बदलते इरादे के साथ दृष्टिकोण करते हैं। जब इंटरैक्शन धीमे लगते हैं, जब तैयार प्रतिक्रियाएं वास्तव में क्या अर्थ था उसे याद करती हैं, या जब लोग कुछ उपयोगी प्राप्त करने के लिए सिस्टम से लड़ना होता है, तो जुड़ाव दुर्घटनाग्रस्त हो जाता है लंबे समय से पहले कि अपनाने के आंकड़े पकड़ में आते हैं। हॉलुसिनेशन जोखिम, असंगतता और पूर्वाग्रह केवल समस्या को बढ़ाते हैं, जो मूल रूप से उत्पादकता और निर्णय लेने में सुधार करने के लिए तैयार किए गए कार्य प्रवाह के भीतर घर्षण पैदा करते हैं। यह “अंतिम मील” है जिसे अधिकांश संगठन अभी भी कम आंकते हैं: एआई मूल्य तब नहीं बनाया जाता है जब एक मॉडल एक उत्तर उत्पन्न करता है, लेकिन जब यह सही समय पर सही उत्तर देता है और मानव इस पर कार्रवाई करने के लिए पर्याप्त विश्वास कर सकते हैं कि यह उत्पादन करता है।
क्या हम वास्तविक ‘मानव इन द लूप’ – उपयोगकर्ता को अनदेखा कर रहे हैं?
हम हाल ही में “मानव-इन-द-लूप” और एआई-ड्राइवन आउटपुट पर हस्ताक्षर करने के लिए मानव की उपस्थिति के महत्व के बारे में बहुत कुछ सुन रहे हैं। लेकिन अगर सबसे महत्वपूर्ण मानव – उपयोगकर्ता – ठीक से समझा नहीं जा रहा है? मानव-से-मानव इंटरैक्शन जटिल और बहुस्तरीय है, लेकिन सीधे संचार इतनी अच्छी तरह से क्यों काम करता है क्योंकि कोई सूक्ष्मता नहीं खो जाती है। यदि कोई संकोच करता है, विश्वास खो देता है, निराश या भ्रमित हो जाता है, या उनका इरादा बदलता है, तो यह बातचीत के दौरान चलता है और बातचीत के अनुसार बदलती है। अधिकांश एआई सिस्टम अभी भी उन संकेतों को पहचानने के लिए संघर्ष करते हैं क्योंकि वे अधिक या कम “रेल” पर हैं क्योंकि वे केवल उपयोगकर्ता से अंतिम प्रॉम्प्ट का जवाब दे रहे हैं।
मेरे विचार में, यह वर्तमान एंटरप्राइज एआई तैनाती की एक परिभाषित सीमा बन रही है। हमने ऐसे सिस्टम बनाए हैं जो जानकारी उत्पन्न करने में असाधारण रूप से अच्छे हैं, जबकि यह पहचानने में सीमित हैं कि क्या वह जानकारी किसी को बेहतर निर्णय लेने में मदद कर रही है।
एक संगठन हजारों कर्मचारियों के लिए एंटरप्राइज एआई टूल तैनात कर सकता है और अभी भी उन सिस्टम का वास्तविक संरेखण हासिल करने में विफल रहा जिस तरह वे वास्तव में उपयोग किए जा रहे हैं। निस्ट एआई जोखिम प्रबंधन ढांचे, आईएसओ / आईईसी 42001 और ईयू एआई अधिनियम जैसे ढांचे संगठनों को अधिक शासन मात्रा और परिचालन जवाबदेही की ओर धकेल रहे हैं। लेकिन कागज पर शासन केवल तभी तक जाता है जब तक कि एआई के साथ कर्मचारी जुड़ाव खंडित रहता है। यदि विभिन्न टीमें पूरी तरह से अलग तरीके से एआई पर भरोसा करती हैं और इसका उपयोग करती हैं, तो आरओआई को लगातार मापना लगभग असंभव हो जाता है, और यह एक समस्या है जिसे किसी भी प्रॉम्प्टिंग की मात्रा से ठीक नहीं किया जा सकता है।
एआई अधिभार की लागत
हम अब एक चरण में प्रवेश कर रहे हैं जहां एआई पूरी तरह से एआई कार्य प्रवाह के भीतर प्रचुर मात्रा में हो रहा है। उत्पादकता सूट में कोपायलट एम्बेडेड हैं, एआई-जनरेटेड बैठक सारांश हर कॉल के बाद आ रहे हैं, डैशबोर्ड वास्तविक समय में पूर्वानुमानिक अंतर्दृष्टि प्रदान कर रहे हैं, सिफारिश इंजन कर्मचारियों को लगातार सुझाव दे रहे हैं, और स्वचालित विश्लेषण तेजी से दिखाई दे रहा है अधिकांश टीमें वास्तव में इसे संसाधित कर सकती हैं। कागज पर, यह प्रगति की तरह लगता है – व्यवसाय पहले से अधिक जानकारी का उत्पादन कर रहे हैं। लेकिन संज्ञानात्मक विज्ञान ने दशकों से स्पष्ट किया है: अधिक जानकारी स्वचालित रूप से बेहतर निर्णय नहीं लाती है।
लोग केवल इतनी जानकारी को अवशोषित कर सकते हैं इससे पहले कि अधिभार शुरू हो जाए। बहुत सारे सुझाव संकोच पैदा करते हैं। बहुत सारे अलर्ट पृष्ठभूमि शोर बन जाते हैं। बहुत सारे एआई-जनरेटेड विकल्प कर्मचारियों को संदेह के साथ छोड़ सकते हैं बजाय आत्मविश्वास से। दिलचस्प बात यह है कि एआई सिस्टम जानकारी का उत्पादन करने में अच्छे हो रहे हैं जबकि अभी भी मानव इस जानकारी को संदर्भ में कैसे प्राप्त करते हैं, व्याख्या करते हैं और प्रतिक्रिया देते हैं, इसे समझने में अपेक्षाकृत गरीब हैं। बोर्ड को यह परवाह नहीं है कि एक प्रणाली कितने सारांश, सिफारिशें या उत्पन्न अंतर्दृष्टि पैदा कर सकती है। वे परवाह करते हैं कि क्या निर्णय स्पष्ट और व्यवसाय भर में अधिक विश्वसनीय हो रहे हैं।
एआई ने जवाबदेही चरण में प्रवेश किया है
आईबीएम शेयरधारक प्रस्ताव पूर्वाग्रह के बारे में चिंताओं से आया हो सकता है, लेकिन मुझे लगता है कि यह एंटरप्राइज एआई भर में कुछ और व्यापक को दर्शाता है। एआई की नईता बीत चुकी है, और एआई निवेश पर एक ठोस रिटर्न की तलाश में उद्यम अब मॉडल क्षमता पर अकेले नहीं देख सकते हैं। प्रौद्योगिकी ने खुद को साबित किया है, लेकिन अब इसके लिए जवाबदेही का एक हिस्सा होने की आवश्यकता है। कर्मचारी इन सिस्टम का निरंतर उपयोग कर रहे हैं? निर्णय बेहतर हो रहे हैं? विश्वास और जुड़ाव समय के साथ बढ़ रहे हैं या धीरे-धीरे क्षय हो रहे हैं? जब एआई दैनिक कार्य प्रवाह में और अधिक एम्बेडेड हो जाता है, तो अगली पीढ़ी के सिस्टम मानव व्यवहार, ध्यान, विश्वास और इरादे के प्रति अधिक जागरूक होने की आवश्यकता हो सकती है यदि व्यवसायों को स्थायी अपनाने और मापनीय आरओआई की मांग है। तब तक, “अंतिम मील” एंटरप्राइज एआई अपनाने में सबसे बड़ी चुनौतियों में से एक रहेगा।
