एक्सप्लेनेबल एआई क्या है?

क्योंकि आर्टिफ़िशियल इंटेलिजेंस (एआई) अधिक जटिल और व्यापक रूप से समाज में अपनाया जा रहा है, एक्सप्लेनेबल एआई (एक्सएआई) जिसे कभी-कभी एक्सप्लेनेबल एआई कहा जाता है, सबसे महत्वपूर्ण प्रक्रियाओं और तरीकों में से एक है।

एक्सप्लेनेबल एआई को इस प्रकार परिभाषित किया जा सकता है:

• मानव उपयोगकर्ताओं को मशीन लर्निंग एल्गोरिदम के परिणामों को समझने और विश्वास करने में मदद करने वाली प्रक्रियाओं और तरीकों का एक सेट।

जैसा कि आप अनुमान लगा सकते हैं, यह समझने योग्यता बहुत महत्वपूर्ण है क्योंकि एआई एल्गोरिदम कई क्षेत्रों में नियंत्रण ले रहे हैं, जो पूर्वाग्रह, दोषपूर्ण एल्गोरिदम और अन्य मुद्दों के जोखिम के साथ आते हैं। समझने योग्यता के साथ पारदर्शिता प्राप्त करके, दुनिया वास्तव में एआई की शक्ति का लाभ उठा सकती है।

एक्सप्लेनेबल एआई, जैसा कि नाम से पता चलता है, एक एआई मॉडल, इसके प्रभाव और संभावित पूर्वाग्रहों का वर्णन करने में मदद करता है। यह मॉडल की सटीकता, न्यायसंगतता, पारदर्शिता और एआई-संचालित निर्णय लेने की प्रक्रियाओं में परिणामों की विशेषता में भी भूमिका निभाता है।

आज के एआई-संचालित संगठनों को उत्पादन में एआई मॉडल में विश्वास और आत्मविश्वास बनाने में मदद करने के लिए एक्सप्लेनेबल एआई प्रक्रियाओं को अपनाना चाहिए। एक्सप्लेनेबल एआई आज के एआई वातावरण में एक जिम्मेदार कंपनी बनने के लिए भी महत्वपूर्ण है।

क्योंकि आज के एआई सिस्टम इतने उन्नत हैं, मानव आमतौर पर परिणाम तक पहुंचने के लिए एल्गोरिदम द्वारा उपयोग की जाने वाली गणना प्रक्रिया को फिर से करने के लिए एक प्रक्रिया करते हैं। यह प्रक्रिया एक “ब्लैक बॉक्स” बन जाती है, जिसका अर्थ है कि यह समझना असंभव है। जब ये समझने योग्य मॉडल सीधे डेटा से विकसित किए जाते हैं, तो कोई नहीं जानता कि उनके अंदर क्या हो रहा है।

एक्सप्लेनेबल एआई के माध्यम से एआई सिस्टम के संचालन को समझने से, डेवलपर्स यह सुनिश्चित कर सकते हैं कि सिस्टम उस तरह से काम कर रहा है जैसा उसे करना चाहिए। यह यह सुनिश्चित करने में भी मदद कर सकता है कि मॉडल नियामक मानकों को पूरा करता है, और यह मॉडल को चुनौती देने या बदलने का अवसर प्रदान करता है।

छवि: डॉ मैट ट्यूरेक/डीएआरपीए

एआई और एक्सएआई के बीच अंतर

कुछ प्रमुख अंतर “नियमित” एआई और एक्सप्लेनेबल एआई को अलग करते हैं, लेकिन सबसे महत्वपूर्ण बात यह है कि एक्सएआई विशिष्ट तकनीकों और तरीकों को लागू करता है जो यह सुनिश्चित करने में मदद करते हैं कि एमएल प्रक्रिया में प्रत्येक निर्णय ट्रेसेबल और समझने योग्य है। दूसरी ओर, नियमित एआई आमतौर पर एक एमएल एल्गोरिदम का उपयोग करके अपने परिणाम तक पहुंचता है, लेकिन यह समझना असंभव है कि एल्गोरिदम परिणाम तक कैसे पहुंचा। नियमित एआई के मामले में, सटीकता की जांच करना बहुत मुश्किल है, जिससे नियंत्रण, जवाबदेही और लेखा परीक्षा की कमी होती है।

एक्सप्लेनेबल एआई के लाभ

एक्सप्लेनेबल एआई को अपनाने के लिए किसी भी संगठन के लिए कई लाभ हैं, जैसे कि:

• तेज़ परिणाम: एक्सप्लेनेबल एआई संगठनों को मॉडल की निगरानी और प्रबंधन को व्यवस्थित रूप से करने में सक्षम बनाता है ताकि व्यवसायिक परिणामों को अनुकूलित किया जा सके। यह मॉडल के प्रदर्शन का मूल्यांकन करने और मॉडल विकास को बारीक करने के लिए लगातार संभव है।
• जोखिमों को कम करें: एक्सप्लेनेबल एआई प्रक्रियाओं को अपनाने से आप यह सुनिश्चित कर सकते हैं कि आपके एआई मॉडल समझने योग्य और पारदर्शी हैं। आप नियामक, अनुपालन, जोखिम और अन्य आवश्यकताओं को प्रबंधित कर सकते हैं जबकि मैनुअल निरीक्षण के ओवरहेड को कम करते हैं। यह अनियंत्रित पूर्वाग्रह के जोखिम को कम करने में भी मदद करता है।
• विश्वास बनाएं: एक्सप्लेनेबल एआई उत्पादन एआई में विश्वास स्थापित करने में मदद करता है। एआई मॉडल तेजी से उत्पादन में लाए जा सकते हैं, आप व्याख्यात्मकता और समझने योग्यता सुनिश्चित कर सकते हैं, और मॉडल मूल्यांकन प्रक्रिया को सरल और अधिक पारदर्शी बनाया जा सकता है।

एक्सप्लेनेबल एआई के लिए तकनीक

एक्सप्लेनेबल एआई के लिए कुछ तकनीकें हैं जिन पर सभी संगठनों को विचार करना चाहिए, और वे तीन मुख्य तरीकों से मिलकर बनती हैं: सटीकता, ट्रेसेबिलिटी, और निर्णय समझ।

तीन तरीकों में से पहला, सटीकता, दैनिक कार्यों में एआई का सफलतापूर्वक उपयोग करने के लिए आवश्यक है। सिमुलेशन किए जा सकते हैं, और एक्सएआई आउटपुट को प्रशिक्षण डेटा सेट में परिणामों के साथ तुलना की जा सकती है, जो सटीकता का निर्धारण करने में मदद करता है। इसे प्राप्त करने के लिए एक लोकप्रिय तकनीक लोकल इंटरप्रेटेबल मॉडल-एग्नोस्टिक एक्सप्लेनेशन (लाइम) है, जो मशीन लर्निंग एल्गोरिदम द्वारा वर्गीकरण की भविष्यवाणी की व्याख्या करती है।

दूसरी विधि ट्रेसेबिलिटी है, जो निर्णय लेने के तरीकों को सीमित करके और मशीन लर्निंग नियमों और विशेषताओं के लिए एक संकीर्ण दायरा स्थापित करके प्राप्त की जाती है। ट्रेसेबिलिटी की सबसे सामान्य तकनीक डीपलिफ्ट, या डीप लर्निंग इम्पोर्टेंट फीचर्स है। डीपलिफ्ट प्रत्येक न्यूरॉन की सक्रियण की तुलना इसके संदर्भ न्यूरॉन से करता है, जबकि प्रत्येक सक्रिय न्यूरॉन के बीच एक ट्रेसेबल लिंक प्रदर्शित करता है। यह न्यूरॉन के बीच निर्भरता भी दिखाता है।

तीसरी और अंतिम विधि निर्णय समझ है, जो मानव-केंद्रित है, अन्य दो तरीकों के विपरीत। निर्णय समझ में संगठन, विशेष रूप से एआई के साथ काम करने वाली टीम को शिक्षित करना शामिल है ताकि वे समझ सकें कि एआई निर्णय क्यों लेता है। यह तरीका प्रणाली में विश्वास स्थापित करने के लिए महत्वपूर्ण है।

एक्सप्लेनेबल एआई के सिद्धांत

एक्सएआई और इसके सिद्धांतों को बेहतर ढंग से समझने के लिए, राष्ट्रीय मानक संस्थान (एनआईएसटी), जो अमेरिकी वाणिज्य विभाग का एक हिस्सा है, एक्सप्लेनेबल एआई के चार सिद्धांतों के लिए परिभाषाएं प्रदान करता है:

1. एक एआई सिस्टम को प्रत्येक आउटपुट के लिए साक्ष्य, समर्थन या तर्क प्रदान करना चाहिए।
2. एक एआई सिस्टम को अपने उपयोगकर्ताओं द्वारा समझे जाने वाले व्याख्याओं प्रदान करना चाहिए।
3. व्याख्या को सिस्टम द्वारा अपने आउटपुट तक पहुंचने के लिए उपयोग की जाने वाली प्रक्रिया को सटीक रूप से प्रतिबिंबित करना चाहिए।
4. एआई सिस्टम को केवल उन शर्तों के तहत काम करना चाहिए जिसके लिए यह डिज़ाइन किया गया है, और यह परिणाम में पर्याप्त विश्वास की कमी होने पर आउटपुट प्रदान नहीं करना चाहिए।

इन सिद्धांतों को और व्यवस्थित किया जा सकता है:

• अर्थपूर्ण: अर्थपूर्णता के सिद्धांत को प्राप्त करने के लिए, एक उपयोगकर्ता को प्रदान की गई व्याख्या को समझना चाहिए। यह कई व्याख्याएं हो सकती हैं यदि विभिन्न प्रकार के उपयोगकर्ता एल्गोरिदम का उपयोग कर रहे हैं। उदाहरण के लिए, एक स्व-ड्राइविंग कार के मामले में, एक व्याख्या इस तरह हो सकती है … “एआई ने सड़क में प्लास्टिक की थैली को एक पत्थर के रूप में वर्गीकृत किया और इसे मारने से बचने के लिए कार्रवाई की।” जबकि यह उदाहरण ड्राइवर के लिए काम करेगा, यह एआई समस्या को ठीक करने के लिए देख रहे डेवलपर के लिए बहुत उपयोगी नहीं होगा। उस मामले में, डेवलपर को यह समझने की जरूरत है कि गलत वर्गीकरण क्यों हुआ।
• व्याख्या सटीकता: आउटपुट सटीकता के विपरीत, व्याख्या सटीकता में एआई एल्गोरिदम को अपने आउटपुट को सटीक रूप से व्याख्या करना शामिल है। उदाहरण के लिए, यदि एक ऋण अनुमोदन एल्गोरिदम एक निर्णय को आवेदक की आय के आधार पर व्याख्या करता है जब वास्तव में यह आवेदक के निवास स्थान पर आधारित था, तो व्याख्या असटीक होगी।
• ज्ञान सीमाएं: एआई की ज्ञान सीमाएं दो तरीकों से पहुंची जा सकती हैं, और यह सिस्टम की विशेषज्ञता से बाहर के इनपुट को शामिल करता है। उदाहरण के लिए, यदि एक सिस्टम पक्षी प्रजातियों को वर्गीकृत करने के लिए बनाया गया है और इसे एक सेब की तस्वीर दी जाती है, तो यह बताने में सक्षम होना चाहिए कि इनपुट एक पक्षी नहीं है। यदि सिस्टम को एक धुंधली तस्वीर दी जाती है, तो यह बताने में सक्षम होना चाहिए कि यह छवि में पक्षी की पहचान करने में असमर्थ है या इसका विश्वास बहुत कम है।

एक्सप्लेनेबल एआई में डेटा की भूमिका

एक्सप्लेनेबल एआई के सबसे महत्वपूर्ण घटकों में से एक डेटा है।

गूगल के अनुसार, डेटा और एक्सप्लेनेबल एआई के संबंध में, “एक एआई सिस्टम को सबसे अच्छा तरीके से प्रशिक्षण डेटा और प्रशिक्षण प्रक्रिया के साथ-साथ परिणामी एआई मॉडल द्वारा समझा जा सकता है।” यह समझ डेटा को बारीकी से जांचने और प्रशिक्षित एआई मॉडल को सटीक डेटासेट से मैप करने की क्षमता पर निर्भर करता है।

मॉडल की समझने योग्यता को बढ़ाने के लिए, एल्गोरिदम को प्रशिक्षित करने के लिए उपयोग किए जाने वाले डेटा पर ध्यान देना महत्वपूर्ण है। टीमों को यह निर्धारित करना चाहिए कि डेटा का मूल क्या है, इसके प्राप्ति के आसपास कानूनी और नैतिक मुद्दे क्या हैं, डेटा में कोई संभावित पूर्वाग्रह है या नहीं, और किसी भी पूर्वाग्रह को कम करने के लिए क्या किया जा सकता है।

एक्सएआई और डेटा का एक और महत्वपूर्ण पहलू यह है कि सिस्टम के लिए अप्रासंगिक डेटा को बाहर रखा जाना चाहिए। इसे प्राप्त करने के लिए, अप्रासंगिक डेटा को प्रशिक्षण सेट या इनपुट डेटा में शामिल नहीं किया जाना चाहिए।

गूगल ने व्याख्यात्मकता और जवाबदेही प्राप्त करने के लिए एक सेट की सिफारिश की है:

• व्याख्यात्मकता का पीछा करने के लिए अपने विकल्पों की योजना बनाएं
• व्याख्यात्मकता को उपयोगकर्ता अनुभव का एक मूलभूत हिस्सा मानें
• मॉडल को व्याख्यात्मक बनाने के लिए डिज़ाइन करें
• अंतिम लक्ष्य और कार्य को प्रतिबिंबित करने वाले मेट्रिक्स चुनें
• प्रशिक्षित मॉडल को समझें
• मॉडल उपयोगकर्ताओं को व्याख्याएं संवादित करें
• सुनिश्चित करें कि एआई सिस्टम इरादे के अनुसार काम कर रहा है

इन अनुशंसित प्रथाओं का पालन करके, आपका संगठन एक्सप्लेनेबल एआई प्राप्त करने की गारंटी दे सकता है, जो आज के एआई-संचालित संगठनों के लिए महत्वपूर्ण है।