कैसे व्याख्यात्मक एआई विश्वसनीयता और विश्वास बढ़ाता है

क्योंकि आर्टिफ़िशियल इंटेलिजेंस (एआई) उद्यमों में लोकप्रिय हो रहा है, यह धीरे-धीरे हमारे जीवन के ताने-बाने में शामिल हो रहा है। इस लोकप्रियता का एक महत्वपूर्ण पहलू यह है कि अंतिम उपयोगकर्ताओं को एआई द्वारा उपयोग की जाने वाली प्रक्रियाओं और तंत्रों को पूरी तरह से समझने में सक्षम होना चाहिए, जो निष्कर्ष निकालने या वांछित परिणाम प्राप्त करने के लिए काम करता है। मानव के रूप में, हमें किसी भी घटना के “क्यों” और “कैसे” को उजागर करने की एक गहरी जड़ है, जिसने हमारी तकनीकी प्रगति को तेज़ किया है। एआई के संदर्भ में, इस समझ को “व्याख्यात्मकता” के रूप में जाना जाता है।

व्याख्यात्मकता की आवश्यकता क्यों है?

अधिक बार, हम एआई को एक “ब्लैक बॉक्स” के रूप में देखते हैं, जहां हमें केवल इनपुट और आउटपुट के बारे में पता होता है, लेकिन कहीं न कहीं प्रक्रियाएं हमें खो जाती हैं। इस समस्या को बढ़ाने वाली बात यह है कि जटिल गहरे शिक्षण-आधारित भविष्यवाणी प्रणालियों और प्राकृतिक भाषा प्रसंस्करण (एनएलपी) जैसे अधिकांश लोकप्रिय एआई रूपों को शक्ति देने वाले एल्गोरिदम अपने सबसे अनुभवी पрак्टिशनरों के लिए भी अत्यधिक अमूर्त हैं।

विश्वास और पारदर्शिता: एआई की भविष्यवाणियों पर विश्वास करने के लिए, इसमें कुछ स्तर की व्याख्यात्मकता होनी चाहिए। उदाहरण के लिए, यदि एक चिकित्सक को एआई की भविष्यवाणियों के आधार पर उपचार की सिफारिश करनी है, तो उन्हें भविष्यवाणी पर विश्वास होना चाहिए। एक बैंक को पूर्ण विश्वास होना चाहिए कि ऋण को अस्वीकार करने या अनुमोदन करने का निर्णय लेने और सभी हितधारकों को इसके लिए जिम्मेदार ठहराने में सक्षम होना चाहिए। एक एआई जो स्क्रीनिंग और भर्ती के लिए उपयोग किया जाता है, उसे यह साबित करना चाहिए कि अंतर्निहित तंत्र सभी आवेदकों के लिए न्यायसंगत और न्यायपूर्ण हैं।

एआई को अधिक मानवीय बनाता है और अपनाने में वृद्धि करता है: मैककिंसे की एआई की स्थिति 2020 रिपोर्ट में, हमें पता चलता है कि एक निर्माता अपने कारखाने के श्रमिकों के लिए स्वीकृति के लिए अत्यधिक पारदर्शी मॉडल का उपयोग करता है, जिन्हें एआई द्वारा उनकी सुरक्षा के बारे में किए गए निर्णयों पर विश्वास करने की आवश्यकता है। एआई को तेजी से अपनाने के लिए, हितधारकों की खरीद को प्राप्त करना एक बड़ा बाधा है जो सरल बिंदु समाधानों से उद्यम स्तर तक स्केल करने और निवेश से सबसे अधिक लाभ प्राप्त करने के लिए है। यह एक बड़े पैमाने पर तब तक कम हो जाता है जब तक कि प्रदर्शन बड़े दर्शकों के लिए व्याख्यात्मक न हो। व्यावसायिक दृष्टिकोण से, व्याख्यात्मकता समग्र उपयोगकर्ता अनुभव को बढ़ाती है और ग्राहक संतुष्टि को बढ़ाती है। आईबीएम इंस्टीट्यूट फॉर बिजनेस वैल्यू के एक सर्वेक्षण के निष्कर्षों के अनुसार, 68 प्रतिशत शीर्ष कार्यकारी अधिकारियों का मानना है कि ग्राहक भविष्य में एआई से अधिक व्याख्यात्मकता की मांग करेंगे।

पूर्वाग्रहों को उजागर करें और मॉडल प्रदर्शन में सुधार करें: एक डेवलपर को यह जानने की आवश्यकता है कि वह मॉडल के प्रदर्शन में कैसे सुधार कर सकता है और इसे कैसे डीबग और फ़ाइन-ट्यून कर सकता है। एक स्पष्ट व्याख्यात्मकता ढांचा व्यापक विश्लेषण के लिए सबसे महत्वपूर्ण उपकरणों में से एक है जो आवश्यक है।

तेज़, सुव्यवस्थित अंतर्दृष्टि प्राप्त करें: एआई द्वारा की गई किसी भी नुस्खे को पूरी तरह से समझने के लिए एक पूर्ण 360-डिग्री दृश्य की आवश्यकता है। उदाहरण के लिए, यदि एआई निवेश निर्णय लेने के लिए उपयोग किया जाता है, तो आपको यह भी जानने की आवश्यकता होगी कि इसके पीछे का तर्क क्या है, ताकि आप इस ज्ञान को अन्य क्षेत्रों में स्थानांतरित कर सकें और उस निर्णय लेने के संभावित जोखिमों को समझ सकें। एआई के संचालन की एक मजबूत समझ निर्णय लेने वालों को नए उपयोग के मामलों का पता लगाने में भी सक्षम बनाएगी।

विनियमन और जिम्मेदारी: जीडीपीआर जैसे कई विनियमों में स्पष्टीकरण के अधिकार को लागू करने की आवश्यकता है, जो स्वचालित निर्णय लेने की प्रक्रिया से उत्पन्न होने वाली जिम्मेदारी के मुद्दों को संबोधित करने के लिए है। स्वायत्त वाहनों जैसी प्रणालियों में, यदि कुछ गलत हो जाता है और जीवन और संपत्ति की हानि होती है, तो जड़ कारण के बारे में उचित ज्ञान की आवश्यकता होगी, जो एक ब्लैक-बॉक्स प्रणाली में मुश्किल होगा।

एआई को अधिक व्याख्यात्मक कैसे बनाया जा सकता है?

व्याख्यात्मक आर्टिफ़िशियल इंटेलिजेंस सिस्टम (एक्सएआई) विभिन्न तकनीकों का उपयोग करके विकसित किए जाते हैं जो या तो पूरे मॉडल की व्याख्या करने या व्यक्तिगत भविष्यवाणी के पीछे के तर्क की व्याख्या करने पर केंद्रित होते हैं, कुछ एल्गोरिदम की सहायता से।

अधिकांश व्याख्यात्मकता तकनीकें निम्नलिखित पर निर्भर करती हैं:

• मॉडल को व्यक्तिगत घटकों में विभाजित करना)
• मॉडल भविष्यवाणियों का दृश्यीकरण (उदाहरण के लिए, यदि एक मॉडल एक कार को एक निश्चित ब्रांड के रूप में वर्गीकृत करता है, तो यह उस हिस्से को हाइलाइट करता है जिसने इसे ऐसा करने का कारण बना दिया)
• व्याख्या खनन (किसी कृत्रिम बुद्धिमत्ता एल्गोरिदम की भविष्यवाणी की व्याख्या करने के लिए मशीन लर्निंग तकनीकों का उपयोग करना)

एक ऐसी तकनीक में जिसे प्रॉक्सी मॉडलिंग कहा जाता है, एक सरल और अधिक समझने योग्य मॉडल जैसे कि एक निर्णय पेड़ का उपयोग एक अधिक जटिल एआई मॉडल का अनुमान लगाने के लिए किया जाता है। ये सरलीकृत व्याख्याएं मॉडल के बारे में एक उच्च स्तर पर एक न्यायसंगत विचार देती हैं, लेकिन कभी-कभी कुछ नाजुकता को दबा सकती हैं।

एक और दृष्टिकोण “व्याख्यात्मकता द्वारा डिज़ाइन” कहा जाता है। यह दृष्टिकोण एआई नेटवर्क के डिज़ाइन और प्रशिक्षण में प्रतिबंध लगाता है, जो छोटे और अधिक व्याख्यात्मक खंडों से समग्र नेटवर्क का निर्माण करने का प्रयास करता है। इसमें सटीकता के स्तर के साथ व्याख्यात्मकता के बीच एक व्यापार होता है और डेटा वैज्ञानिक के टूलकिट से कुछ दृष्टिकोणों को सीमित करता है। यह बहुत कम्प्यूट-गहन भी हो सकता है।

एआई प्रशिक्षण और परीक्षण में एग्नोस्टिक डेटा सत्यापन तकनीकों जैसे कि स्थानीय व्याख्यात्मक मॉडल (लाइम) और शैपली एडिटिव एक्सप्लेनेशन (शाप) का भी उपयोग किया जा सकता है, और इन्हें एफ-स्कोर, सटीकता और अन्य मेट्रिक्स का उपयोग करके उच्च सटीकता हासिल करने के लिए तैयार किया जाना चाहिए। और,当然, सभी परिणामों की निगरानी और विभिन्न डेटा का उपयोग करके सत्यापन किया जाना चाहिए। लाइम का उपयोग करके, उदाहरण के लिए, संगठन गैर-पारदर्शी एल्गोरिदम जैसे कि मशीन लर्निंग की भविष्यवाणियों की नकल करने वाले अस्थायी मॉडल बना सकते हैं। ये लाइम मॉडल फिर एक दिए गए डेटा सेट और इसके संबंधित आउटपुट के आधार पर विभिन्न प्रकार के परिवर्तन बना सकते हैं, जो तब सरल और अधिक व्याख्यात्मक मॉडल को प्रशिक्षित करने के लिए उपयोग किया जा सकता है, साथ ही प्रत्येक निर्णय और/या भविष्यवाणी के लिए पूरी व्याख्या के साथ। शाप फ्रेमवर्क, जो खेल सिद्धांत और विशेष रूप से सहकारी खेल सिद्धांत से अपनी नींव रखता है, एक मॉडल है जो स्थानीय व्याख्याओं के साथ आदर्श क्रेडिट आवंटन को जोड़ती है, मूल शैपली मूल्यों का उपयोग करती है और उनके वंशज।

सिद्धांतिक संचालन

एक अधिक रणनीतिक स्तर पर, हालांकि, एआई विश्वसनीयता ढांचे को उचित परिणाम सुनिश्चित करने के लिए एक व्यापक सिद्धांतों के सेट को शामिल करना चाहिए, दोनों तैनाती की शुरुआत में और समय के साथ मॉडल के विकास के साथ बदलते परिस्थितियों की उपस्थिति में। कम से कम, इन ढांचों में निम्नलिखित शामिल होना चाहिए:

• पूर्वाग्रह का पता लगाना – सभी डेटा सेटों को पूर्वाग्रह और भेदभावपूर्ण विशेषताओं से मुक्त किया जाना चाहिए और फिर प्रशिक्षण मॉडल पर लागू होने पर उचित वजन और विवेक दिया जाना चाहिए;
• मानव भागीदारी – ऑपरेटरों को कानून प्रवर्तन और नागरिक स्वतंत्रता की रक्षा के लिए विशेष रूप से जब मॉडल का उपयोग किया जाता है, तो हमेशा एल्गोरिदम आउटपुट की जांच और व्याख्या करने में सक्षम होना चाहिए;
• स्पष्टीकरण – सभी भविष्यवाणियों को जांच के दायरे में आना चाहिए, जो स्वाभाविक रूप से बाहरी पर्यवेक्षकों को प्रक्रियाओं और मानदंडों का मूल्यांकन करने की अनुमति देने के लिए उच्च स्तर की पारदर्शिता की मांग करता है जो परिणाम उत्पन्न करने के लिए उपयोग किए जाते हैं;
• पुनरुत्पादन – विश्वसनीय एआई मॉडल को अपनी भविष्यवाणियों में संगत होना चाहिए और नए डेटा का सामना करते समय उच्च स्तर की स्थिरता प्रदर्शित करनी चाहिए।

लेकिन एक्सएआई को केवल लाभ में सुधार के साधन के रूप में नहीं देखा जाना चाहिए, बल्कि संस्थानों को यह सुनिश्चित करने के लिए जिम्मेदारी लाने के लिए कि वे अपनी रचनाओं के समाज पर पड़ने वाले प्रभाव की व्याख्या और न्यायसंगत कर सकते हैं।