एक्सप्लेनेबल एआई कैसे विश्वास और जवाबदेही बनाता है

व्यवसायों ने पहले से ही एआई को अपनाने के लिए तैयारी कर ली है, और वे अपने संचालन में चैटबॉट, सामग्री जनरेटर और निर्णय-समर्थन उपकरण तैनात करने के लिए दौड़ रहे हैं। मैककिंसे के अनुसार, 78% कंपनियां कम से कम एक व्यावसायिक कार्य में एआई का उपयोग करती हैं।

लागू करने की जल्दी समझ में आती है — हर कोई संभावित मूल्य देखता है। लेकिन इस भीड़ में, कई संगठन यह तथ्य नजरअंदाज कर देते हैं कि सभी न्यूरल नेटवर्क-आधारित प्रौद्योगिकियां, जिनमें आज और भविष्य में उपयोग की जाने वाली हर एलएलएम और जेनरेटिव एआई प्रणाली शामिल है, एक महत्वपूर्ण दोष साझा करती हैं: वे अप्रत्याशित और अंततः नियंत्रण से बाहर हैं।

कुछ लोगों ने सीखा है कि इसके परिणामस्वरूप वास्तविक परिणाम हो सकते हैं। एक शेवरोले डीलर जिसने अपनी वेबसाइट पर एक चैटबॉट तैनात किया था, एक ग्राहक ने चैटजीपीटी-संचालित बॉट को $58,195 शेवरोले टाहो को केवल $1 में बेचने के लिए मना लिया। एक अन्य ग्राहक ने उसी चैटबॉट को जटिल तरल गतिविधि समीकरणों के लिए एक पायथन स्क्रिप्ट लिखने के लिए प्रेरित किया, जिसे उसने खुशी से किया। डीलरशिप ने इन घटनाओं के वायरल होने के बाद बॉट्स को अक्षम कर दिया।

पिछले साल, एयर कनाडा ने एक छोटे से दावे के मामले में हार गया जब उसने तर्क दिया कि उसका चैटबॉट, जिसने एक यात्री को एक शोक सम्मान के बारे में गलत जानकारी दी थी, “एक अलग कानूनी इकाई है जो अपने कार्यों के लिए जिम्मेदार है।”

यह अप्रत्याशितता एलएलएम की मूलभूत वास्तुकला से उत्पन्न होती है। वे इतने बड़े और जटिल हैं कि यह समझना असंभव है कि वे विशिष्ट उत्तरों पर कैसे पहुंचते हैं या यह अनुमान लगाने के लिए कि वे क्या उत्पन्न करेंगे जब तक वे आउटपुट उत्पन्न नहीं करते। अधिकांश संगठन इस विश्वसनीयता समस्या का समाधान कर रहे हैं जिसे वे पूरी तरह से नहीं पहचानते हैं।

सामान्य-सense समाधान एआई परिणामों की जांच करना है, जो काम करता है लेकिन तकनीक की क्षमता को काफी सीमित करता है। जब एआई को एक व्यक्तिगत सहायक के रूप में सीमित किया जाता है — पाठ लिखना, बैठक के मिनट लिखना, दस्तावेजों का सारांश बनाना और कोडिंग में मदद करना — तो यह मामूली उत्पादकता लाभ प्रदान करता है। अर्थव्यवस्था को क्रांतिकारी बनाने के लिए पर्याप्त नहीं।

एआई के वास्तविक लाभ तब आएंगे जब हम इसे मौजूदा नौकरियों की सहायता के लिए उपयोग करने के बजाय पूरी प्रक्रियाओं, प्रणालियों और कंपनियों को एआई का उपयोग करके पुनः तार करने के लिए शुरू करेंगे। ऋण प्रसंस्करण पर विचार करें: यदि एक बैंक ऋण अधिकारियों को एक एआई सहायक प्रदान करता है जो आवेदनों का सारांश बनाता है, तो वे 20-30% तेजी से काम कर सकते हैं। लेकिन यदि एआई को पूरे निर्णय प्रक्रिया (उपयुक्त सुरक्षा उपायों के साथ) को संभालने के लिए तैनात किया जाता है, तो यह लागत को 90% से अधिक कम कर सकता है और लगभग सभी प्रसंस्करण समय को समाप्त कर सकता है। यह आंशिक सुधार और परिवर्तन के बीच का अंतर है।

विश्वसनीय एआई कार्यान्वयन के लिए मार्ग

एआई की पूरी क्षमता का दोहन करने के लिए तकनीकी दृष्टिकोण और रणनीतिक सोच का एक जटिल मिश्रण की आवश्यकता होती है। जबकि कई वर्तमान तरीके आंशिक समाधान प्रदान करते हैं, प्रत्येक में महत्वपूर्ण सीमाएं हैं।

कुछ संगठन प्रणाली को धक्का देने के माध्यम से विश्वसनीयता समस्याओं को कम करने का प्रयास करते हैं — एआई व्यवहार को वांछित दिशाओं में सूक्ष्म रूप से निर्देशित करना ताकि यह निश्चित इनपुट के लिए विशिष्ट तरीके से प्रतिक्रिया करे। एंथ्रोपिक शोधकर्ताओं ने इस दृष्टिकोण की नाजुकता का प्रदर्शन किया क्लाउड के न्यूरल नेटवर्क में एक “गोल्डन गेट ब्रिज फीचर” की पहचान करके और इसे कृत्रिम रूप से बढ़ाकर क्लाउड को एक पहचान संकट में डाल दिया। जब उनसे उनके भौतिक रूप के बारे में पूछा गया, तो क्लाउड ने स्वीकार किया कि यह कोई नहीं है, इसके बजाय यह दावा किया कि यह गोल्डन गेट ब्रिज है। इस प्रयोग ने दिखाया कि एक मॉडल के मूल कार्य को कितनी आसानी से बदला जा सकता है और प्रत्येक धक्का एक व्यापार बंद है, संभावित रूप से एक पहलू के प्रदर्शन में सुधार करता है जबकि दूसरों को कमजोर करता है।

एक अन्य दृष्टिकोण यह है कि एआई को अन्य एआई की निगरानी करने दें। जबकि यह परतदार दृष्टिकोण कुछ त्रुटियों को पकड़ सकता है, यह अतिरिक्त जटिलता का परिचय देता है और अभी भी व्यापक विश्वसनीयता से कम है। हार्ड-कोडेड गार्डरेल एक अधिक प्रत्यक्ष हस्तक्षेप है, जैसे कि निश्चित शब्दों या पैटर्न वाले प्रतिक्रियाओं को ब्लॉक करना, जैसे हथियारों के लिए पूर्ववर्ती सामग्री। जबकि ज्ञात मुद्दों के खिलाफ प्रभावी, ये गार्डरेल उन नए समस्याग्रस्त आउटपुट की भविष्यवाणी नहीं कर सकते हैं जो इन जटिल प्रणालियों से उत्पन्न होते हैं।

एक अधिक प्रभावी दृष्टिकोण यह है कि एआई-केंद्रित प्रक्रियाएं बनाई जाएं जो स्वायत्त रूप से काम कर सकती हैं, मानव निरीक्षण को रणनीतिक रूप से स्थिति दी जाए ताकि वे वास्तविक दुनिया की समस्याओं का कारण बनने से पहले विश्वसनीयता समस्याओं को पकड़ सकें। आप नहीं चाहेंगे कि एआई सीधे ऋण आवेदनों को स्वीकृत या अस्वीकृत करे, लेकिन एआई एक प्रारंभिक मूल्यांकन कर सकता है जिसे मानव ऑपरेटर समीक्षा कर सकते हैं। यह काम कर सकता है, लेकिन यह मानव सतर्कता पर निर्भर करता है ताकि एआई त्रुटियों को पकड़ सके और एआई का उपयोग करने से उत्पन्न होने वाले संभावित दक्षता लाभ को कमजोर करता है।

भविष्य के लिए निर्माण

इन आंशिक समाधानों से एक अधिक व्यापक दृष्टिकोण की ओर इशारा किया जा सकता है। जो संगठन अपने काम के तरीके को मूल रूप से पुनः सोचते हैं और मौजूदा प्रक्रियाओं में एआई सहायता जोड़ने के बजाय, उन्हें सबसे बड़ा लाभ मिलेगा। लेकिन एआई को कभी भी एक उच्च जोखिम वाली प्रक्रिया या निर्णय के अंतिम चरण में नहीं होना चाहिए, तो आगे का सबसे अच्छा तरीका क्या है?

सबसे पहले, एआई एक पुनरावृत्ति प्रक्रिया बनाता है जो विश्वसनीय और पारदर्शी रूप से सुसंगत परिणाम प्रदान करेगा। दूसरा, मानव प्रक्रिया की समीक्षा करते हैं ताकि वे यह सुनिश्चित कर सकें कि वे यह समझते हैं कि यह कैसे काम करता है और इनपुट उपयुक्त हैं। अंत में, प्रक्रिया स्वायत्त रूप से चलती है — किसी भी एआई का उपयोग किए बिना — और मानव निरीक्षण के साथ परिणामों की नियमित समीक्षा के साथ।

बीमा उद्योग पर विचार करें। पारंपरिक दृष्टिकोण में दावा प्रोसेसर को अधिक कुशलता से काम करने में मदद करने के लिए एआई सहायक जोड़ना शामिल हो सकता है। एक अधिक क्रांतिकारी दृष्टिकोण में एआई का उपयोग नए उपकरण विकसित करने के लिए किया जा सकता है — जैसे कि कंप्यूटर दृष्टि जो नुकसान की तस्वीरों का विश्लेषण करती है या बढ़ी हुई धोखाधड़ी का पता लगाने वाले मॉडल जो संदिग्ध पैटर्न की पहचान करते हैं — और फिर इन उपकरणों को स्पष्ट, समझने योग्य नियमों द्वारा शासित स्वचालित प्रणालियों में मिलाएं। मानव इन प्रणालियों को डिज़ाइन और निगरानी करेंगे, न कि व्यक्तिगत दावों को संसाधित करेंगे।

यह दृष्टिकोण सबसे महत्वपूर्ण बिंदु पर मानव निरीक्षण बनाए रखता है: प्रणाली के डिज़ाइन और सत्यापन में। यह असीमित दक्षता लाभ की अनुमति देता है जबकि यह जोखिम को समाप्त करता है कि एआई की अप्रत्याशितता व्यक्तिगत मामलों में हानिकारक परिणामों का कारण बनेगी।

एक एआई लेन-देन डेटा में ऋण पुनर्भुगतान क्षमता के संभावित संकेतक की पहचान कर सकता है, उदाहरण के लिए। मानव विशेषज्ञ इन संकेतकों का मूल्यांकन न्यायसंगतता के लिए कर सकते हैं और उनकी भविष्यसूचक शक्ति की पुष्टि के लिए स्पष्ट, समझने योग्य मॉडल बना सकते हैं।

इस दृष्टिकोण से एक्सप्लेनेबल एआई एक स्पष्ट विभाजन बनाएगा जो उन संगठनों के बीच है जो एआई का उपयोग सतही तरीके से करते हैं और जो अपने संचालन को इसके चारों ओर बदलते हैं। बाद वाले अपने उद्योगों में तेजी से आगे बढ़ेंगे, जो अपने प्रतियोगियों के लिए मेल नहीं खा सकते हैं उत्पादों और सेवाओं के मूल्य बिंदुओं पर पेशकश कर सकते हैं।

ब्लैक-बॉक्स एआई के विपरीत, एक्सप्लेनेबल एआई सिस्टम यह सुनिश्चित करते हैं कि मानव तकनीक के अनुप्रयोग पर अर्थपूर्ण निरीक्षण बनाए रखें, एक भविष्य बनाते हैं जहां एआई मानव क्षमता को बढ़ाता है, न कि केवल मानव श्रम को बदलने के लिए।