पारदर्शिता और डिबगबिलिटी को बढ़ाने के लिए Google ने नया व्याख्या योग्य AI प्रोग्राम बनाया है

अभी हाल ही में, Google ने एक नए क्लाउड प्लेटफ़ॉर्म के निर्माण की घोषणा की, जिसका उद्देश्य यह जानकारी प्राप्त करना है कि AI प्रोग्राम कैसे निर्णय लेता है, प्रोग्राम को डिबग करना आसान बनाता है और पारदर्शिता बढ़ाता है। जैसा कि रिपोर्ट किया गया है रजिस्टर, क्लाउड प्लेटफ़ॉर्म को एक्सप्लेनेबल एआई कहा जाता है, और यह Google द्वारा एआई एक्सप्लेनेबिलिटी में निवेश करने के एक बड़े प्रयास को चिह्नित करता है।

कृत्रिम तंत्रिका नेटवर्क आज दुनिया में कार्यरत कई प्रमुख एआई प्रणालियों में कार्यरत हैं, शायद अधिकांश में। प्रमुख एआई अनुप्रयोगों को चलाने वाले तंत्रिका नेटवर्क असाधारण रूप से जटिल और बड़े हो सकते हैं, और जैसे-जैसे सिस्टम की जटिलता बढ़ती है, यह समझना कठिन होता जाता है कि सिस्टम द्वारा कोई विशेष निर्णय क्यों लिया गया है। जैसा कि Google ने अपने श्वेत पत्र में बताया है, जैसे-जैसे AI सिस्टम अधिक शक्तिशाली होते जाते हैं, वे और अधिक जटिल होते जाते हैं और इसलिए उन्हें डीबग करना कठिन होता जाता है। ऐसा होने पर पारदर्शिता भी नष्ट हो जाती है, जिसका अर्थ है कि पक्षपाती एल्गोरिदम को पहचानना और संबोधित करना मुश्किल हो सकता है।

तथ्य यह है कि जो तर्क जटिल प्रणालियों के व्यवहार को संचालित करता है, उसकी व्याख्या करना इतना कठिन होता है कि अक्सर इसके गंभीर परिणाम होते हैं। एआई पूर्वाग्रह से मुकाबला करना कठिन बनाने के अलावा, यह वास्तव में महत्वपूर्ण और दिलचस्प सहसंबंधों से नकली सहसंबंधों को बताना असाधारण रूप से कठिन बना सकता है।

कई कंपनियां और अनुसंधान समूह इस बात की खोज कर रहे हैं कि एआई की "ब्लैक बॉक्स" समस्या का समाधान कैसे किया जाए और एक ऐसी प्रणाली बनाई जाए जो पर्याप्त रूप से बताए कि एआई द्वारा कुछ निर्णय क्यों लिए गए हैं। Google का एक्सप्लेनेबल AI प्लेटफ़ॉर्म इस चुनौती से निपटने के लिए अपनी बोली का प्रतिनिधित्व करता है। समझाने योग्य एआई तीन अलग-अलग उपकरणों से युक्त है। पहला टूल एक सिस्टम है जो बताता है कि एआई द्वारा किन विशेषताओं का चयन किया गया है और यह एक एट्रिब्यूशन स्कोर भी प्रदर्शित करता है जो अंतिम भविष्यवाणी पर किसी विशेष सुविधा के प्रभाव की मात्रा को दर्शाता है। टूल पर Google की रिपोर्ट यह अनुमान लगाने का एक उदाहरण देती है कि वर्षा, वर्तमान तापमान, सप्ताह का दिन और प्रारंभ समय जैसे चर के आधार पर बाइक की सवारी कितने समय तक चलेगी। नेटवर्क द्वारा निर्णय प्रस्तुत करने के बाद, फीडबैक दिया जाता है जो प्रदर्शित करता है कि किन विशेषताओं का पूर्वानुमानों पर सबसे अधिक प्रभाव पड़ा।

छवि डेटा के मामले में यह टूल ऐसी प्रतिक्रिया कैसे प्रदान करता है? इस मामले में, टूल एक ओवरले तैयार करता है जो छवि के उन क्षेत्रों को हाइलाइट करता है जो प्रस्तुत निर्णय पर सबसे अधिक भार डालते हैं।

टूलकिट में पाया जाने वाला एक अन्य उपकरण "व्हाट-इफ" टूल है, जो व्यक्तिगत विशेषताओं में हेरफेर के रूप में मॉडल के प्रदर्शन में संभावित उतार-चढ़ाव को प्रदर्शित करता है। अंत में, मानव समीक्षकों को एक सुसंगत समय-सारणी पर नमूना परिणाम देने के लिए अंतिम टूल सक्षम स्थापित किया जा सकता है।

गूगल के एआई और मशीन लर्निंग के मुख्य वैज्ञानिक डॉ. एंड्रयू मूर ने इस परियोजना की प्रेरणा का वर्णन किया। मूर ने बताया कि लगभग पाँच साल पहले अकादमिक समुदाय एआई के इस्तेमाल के हानिकारक परिणामों को लेकर चिंतित होने लगा था और गूगल यह सुनिश्चित करना चाहता था कि उनके सिस्टम का इस्तेमाल केवल नैतिक तरीकों से हो। मूर ने एक घटना का वर्णन किया जिसमें कंपनी एक कंप्यूटर विज़न प्रोग्राम डिज़ाइन करने की कोशिश कर रही थी ताकि अगर कोई हेलमेट नहीं पहने तो निर्माण श्रमिकों को अलर्ट किया जा सके, लेकिन उन्हें चिंता हुई कि निगरानी बहुत ज़्यादा हो सकती है और अमानवीय हो सकती है। मूर ने कहा कि इसी तरह की एक वजह से गूगल ने सामान्य फेस रिकग्निशन एपीआई जारी न करने का फैसला किया, क्योंकि कंपनी अपनी तकनीक के इस्तेमाल पर अधिक नियंत्रण रखना चाहती थी और यह सुनिश्चित करना चाहती थी कि इसका इस्तेमाल केवल नैतिक तरीकों से हो।

मूर ने भी प्रकाश डाला एआई के निर्णय को स्पष्ट करना इतना महत्वपूर्ण क्यों था:

"अगर आपके पास कोई सुरक्षा-महत्वपूर्ण प्रणाली या सामाजिक रूप से महत्वपूर्ण चीज़ है जिसके अनपेक्षित परिणाम हो सकते हैं, अगर आपको लगता है कि आपके मॉडल में कोई गलती हुई है, तो आपको उसका निदान करने में सक्षम होना होगा। हम सावधानीपूर्वक यह समझाना चाहते हैं कि व्याख्यात्मकता क्या कर सकती है और क्या नहीं। यह कोई रामबाण इलाज नहीं है।"