कैसे व्याख्या योग्य एआई विश्वास और जिम्मेदारी बनाता है

व्यवसायों ने पहले से ही एआई को अपनाने के लिए तेजी से काम किया है, चैटबॉट, सामग्री जनरेटर और निर्णय-समर्थन उपकरणों को अपने संचालन में तैनात करने के लिए दौड़ रहे हैं। मैकिन्से के अनुसार, 78% कंपनियां कम से कम एक व्यावसायिक कार्य में एआई का उपयोग करती हैं।

कार्यान्वयन की यह जल्दबाजी समझ में आती है — हर कोई संभावित मूल्य देखता है। लेकिन इस भागदौड़ में, कई संगठन इस तथ्य को नजरअंदाज कर देते हैं कि सभी न्यूरल नेटवर्क-आधारित प्रौद्योगिकियां, जिनमें आज और भविष्य के लिए उपयोग में आने वाले हर एलएलएम और जनरेटिव एआई सिस्टम शामिल हैं, एक महत्वपूर्ण दोष साझा करते हैं: वे अप्रत्याशित और अंततः नियंत्रण से बाहर हैं।

कुछ लोगों ने सीखा है कि इसके परिणामस्वरूप वास्तविक गिरावट हो सकती है। एक शेवरले डीलर जिसने अपनी वेबसाइट पर एक चैटबॉट तैनात किया था, एक ग्राहक ने चैटजीपीटी-संचालित बॉट को $58,195 के शेवरले टाहो को केवल $1 में बेचने के लिए मना लिया। एक अन्य ग्राहक ने उसी चैटबॉट को जटिल तरल गतिविधि समीकरणों के लिए एक पायथन स्क्रिप्ट लिखने के लिए प्रेरित किया, जिसे उसने खुशी से किया। डीलरशिप ने इन घटनाओं के वायरल होने के बाद बॉट्स को अक्षम कर दिया।

पिछले साल, एयर कनाडा ने एक छोटे से दावे के मामले में हार गई जब उसने तर्क दिया कि उसका चैटबॉट, जिसने एक यात्री को एक शोक सम्मान पर गलत जानकारी दी थी, “एक अलग कानूनी इकाई है जो अपने कार्यों के लिए जिम्मेदार है।”

यह अप्रत्याशितता एलएलएम की मूलभूत वास्तुकला से उत्पन्न होती है। वे इतने बड़े और जटिल हैं कि यह समझना असंभव है कि वे विशिष्ट उत्तरों पर कैसे पहुंचते हैं या यह अनुमान लगाने के लिए कि वे क्या उत्पन्न करेंगे जब तक वे एक आउटपुट उत्पन्न नहीं करते। अधिकांश संगठन इस विश्वसनीयता समस्या का जवाब दे रहे हैं जिसे वे पूरी तरह से नहीं पहचानते हैं।

सामान्य-सense समाधान एआई परिणामों की जांच करना है, जो काम करता है लेकिन तकनीक की क्षमता को काफी सीमित करता है। जब एआई को एक व्यक्तिगत सहायक के रूप में प्रतिबंधित किया जाता है — पाठ को मसौदा तैयार करना, बैठक के मिनट लेना, दस्तावेजों को सारांशित करना और कोडिंग में मदद करना — तो यह मामूली उत्पादकता लाभ प्रदान करता है। पर्याप्त नहीं है कि अर्थव्यवस्था को क्रांतिकारी बनाने के लिए।

एआई के वास्तविक लाभ तब आएंगे जब हम इसे मौजूदा नौकरियों में सहायता प्रदान करने के लिए उपयोग करना बंद कर देंगे और इसके बजाय पूरी प्रक्रियाओं, प्रणालियों और कंपनियों को पुनः तार करने के लिए एआई का उपयोग करेंगे जो मानव हस्तक्षेप के बिना काम करेगा। ऋण प्रसंस्करण पर विचार करें: यदि एक बैंक ऋण अधिकारियों को एक एआई सहायक प्रदान करता है जो आवेदनों को सारांशित करने में मदद करता है, तो वे 20-30% तेजी से काम कर सकते हैं। लेकिन पूरे निर्णय प्रक्रिया (उपयुक्त सुरक्षा उपायों के साथ) को संभालने के लिए एआई को तैनात करने से लागत 90% से अधिक कम हो जाएगी और लगभग सभी प्रसंस्करण समय समाप्त हो जाएगा। यह अंतर है.incremental सुधार और परिवर्तन के बीच।

विश्वसनीय एआई कार्यान्वयन का मार्ग

एआई की पूरी क्षमता का दोहन करने के लिए इसकी अप्रत्याशितता के लिए गिरने के बिना एक जटिल तकनीकी दृष्टिकोण और रणनीतिक सोच का मिश्रण आवश्यक है। जबकि कई वर्तमान तरीके आंशिक समाधान प्रदान करते हैं, प्रत्येक में महत्वपूर्ण सीमाएं हैं।

कुछ संगठन प्रणाली को प्रोत्साहित करके विश्वसनीयता समस्याओं को कम करने का प्रयास करते हैं — एआई व्यवहार को वांछित दिशाओं में बारीकी से मार्गदर्शन करते हैं ताकि यह निश्चित इनपुट के लिए विशिष्ट तरीके से प्रतिक्रिया करे। एंथ्रोपिक शोधकर्ताओं ने इस दृष्टिकोण की नाजुकता का प्रदर्शन किया क्लॉड के न्यूरल नेटवर्क में एक “गोल्डन गेट ब्रिज फीचर” की पहचान करके और इसे कृत्रिम रूप से बढ़ाकर क्लॉड को एक पहचान संकट विकसित करने का कारण बना। जब उससे उसके भौतिक रूप के बारे में पूछा गया, तो उसने स्वीकार किया कि उसमें कोई भौतिक रूप नहीं था, क्लॉड ने दावा किया कि वह स्वयं गोल्डन गेट ब्रिज था। इस प्रयोग ने दिखाया कि एक मॉडल के मूल कार्य को कितनी आसानी से बदला जा सकता है और प्रत्येक प्रोत्साहन एक व्यापार बंद है, संभावित रूप से एक पहलू में प्रदर्शन में सुधार करता है जबकि दूसरों को खराब करता है।

एक अन्य दृष्टिकोण एआई को दूसरे एआई की निगरानी करने के लिए है। जबकि यह परतदार दृष्टिकोण कुछ त्रुटियों को पकड़ सकता है, यह अतिरिक्त जटिलता पेश करता है और अभी भी व्यापक विश्वसनीयता से कम है। हार्ड-कोडेड गार्डरेल एक अधिक प्रत्यक्ष हस्तक्षेप है, जैसे कि कुछ कीवर्ड या पैटर्न वाली प्रतिक्रियाओं को अवरुद्ध करना, जैसे कि हथियारों के लिए पूर्ववर्ती सामग्री। जबकि ज्ञात मुद्दों के खिलाफ प्रभावी, ये गार्डरेल उन जटिल प्रणालियों से उत्पन्न होने वाले नए समस्याग्रस्त आउटपुट की भविष्यवाणी नहीं कर सकते हैं।

एक अधिक प्रभावी दृष्टिकोण एआई-केंद्रित प्रक्रियाओं का निर्माण करना है जो स्वायत्त रूप से काम कर सकते हैं, मानव पर्यवेक्षण को रणनीतिक रूप से स्थिति दी जाती है ताकि वे वास्तविक दुनिया की समस्याओं का कारण बनने से पहले विश्वसनीयता समस्याओं को पकड़ सकें। आप एआई को सीधे ऋण आवेदनों को मंजूरी देना या अस्वीकार करना नहीं चाहेंगे, लेकिन एआई एक मानव ऑपरेटर की समीक्षा के लिए एक प्रारंभिक मूल्यांकन कर सकता है। यह काम कर सकता है, लेकिन यह मानव सतर्कता पर निर्भर करता है कि वे एआई त्रुटियों को पकड़ लें और एआई का उपयोग करने से उत्पन्न होने वाली क्षमता की दक्षता लाभ को कम कर दें।

भविष्य के लिए निर्माण

इन आंशिक समाधानों से एक अधिक व्यापक दृष्टिकोण की ओर इशारा किया जाता है। संगठन जो अपने काम को करने के तरीके को मूल रूप से पुनः सोचते हैं न कि केवल मौजूदा प्रक्रियाओं में एआई सहायता जोड़ते हैं, वे सबसे बड़ा लाभ प्राप्त करेंगे। लेकिन एआई को कभी भी एक उच्च जोखिम वाली प्रक्रिया या निर्णय में अंतिम चरण नहीं होना चाहिए, तो आगे का सबसे अच्छा मार्ग क्या है?

पहले, एआई एक पुनरावृत्ति प्रक्रिया बनाता है जो विश्वसनीय और पारदर्शी रूप से निरंतर परिणाम प्रदान करेगा। दूसरा, मानव प्रक्रिया की समीक्षा करते हैं ताकि वे यह सुनिश्चित कर सकें कि वे जानते हैं कि यह कैसे काम करता है और इनपुट उपयुक्त हैं। अंत में, प्रक्रिया स्वायत्त रूप से चलती है — एआई का उपयोग किए बिना — आवधिक मानव परिणामों की समीक्षा के साथ।

बीमा उद्योग पर विचार करें। पारंपरिक दृष्टिकोण में दावा प्रोसेसर को अधिक कुशलता से काम करने में मदद करने के लिए एआई सहायक जोड़ना शामिल हो सकता है। एक अधिक क्रांतिकारी दृष्टिकोण एआई का उपयोग नए उपकरण विकसित करने के लिए करेगा — जैसे कि क्षति फोटो का विश्लेषण करने वाली कंप्यूटर दृष्टि या संदिग्ध पैटर्न की पहचान करने वाले बढ़े हुए धोखाधड़ी वाले मॉडल — और फिर इन उपकरणों को स्वचालित प्रणालियों में मिलाएं जो स्पष्ट, समझने योग्य नियमों द्वारा शासित हों। मानव इन प्रणालियों को डिज़ाइन और निगरानी करेंगे, न कि व्यक्तिगत दावों को संसाधित करेंगे।

यह दृष्टिकोण सबसे महत्वपूर्ण बिंदु पर मानव पर्यवेक्षण बनाए रखता है: प्रणाली के स्वयं के डिजाइन और सत्यापन। यह दक्षता में अंतर को कम करते हुए जोखिम को समाप्त करता है कि एआई की अप्रत्याशितता व्यक्तिगत मामलों में हानिकारक परिणामों का कारण बनेगी।

एक एआई लेन-देन डेटा में संभावित संकेतकों की पहचान कर सकता है जो ऋण पुनर्भुगतान क्षमता को दर्शाता है। मानव विशेषज्ञ तब इन संकेतकों का मूल्यांकन न्यायसंगतता के लिए कर सकते हैं और स्पष्ट, समझने योग्य मॉडल बना सकते हैं जो उनकी भविष्यसूचक शक्ति की पुष्टि करें।

व्याख्या योग्य एआई के लिए यह दृष्टिकोण एक स्पष्ट विभाजन बनाएगा जो उन संगठनों के बीच है जो एआई का उपयोग सतही तरीके से करते हैं और जो अपने संचालन को इसके चारों ओर बदल देते हैं। बाद वाले अपने उद्योगों में तेजी से आगे निकल जाएंगे, जो अपने प्रतिस्पर्धियों को मेल नहीं खा सकते हैं जो उत्पादों और सेवाओं को मूल्य बिंदुओं पर पेश कर सकते हैं।

ब्लैक-बॉक्स एआई के विपरीत, व्याख्या योग्य एआई प्रणाली यह सुनिश्चित करती है कि मानव एआई के अनुप्रयोग पर महत्वपूर्ण पर्यवेक्षण बनाए रखते हैं, एक भविष्य बनाते हैं जहां एआई मानव संभावना को बढ़ाता है न कि केवल मानव श्रम को प्रतिस्थापित करता है।