एआई मॉडल और प्लेटफ़ॉर्म
गूगल ने नए एक्सप्लेनेबल एआई प्रोग्राम को बनाया है जो पारदर्शिता और डीबगिंग को बढ़ाता है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
हाल ही में, गूगल ने एक नए क्लाउड प्लेटफ़ॉर्म की घोषणा की है जो यह जानने के लिए डिज़ाइन किया गया है कि एक एआई प्रोग्राम निर्णय कैसे लेता है, जिससे डीबगिंग आसान हो जाती है और पारदर्शिता बढ़ जाती है। द रजिस्टर की रिपोर्ट के अनुसार, क्लाउड प्लेटफ़ॉर्म को एक्सप्लेनेबल एआई कहा जाता है, और यह गूगल द्वारा एआई व्याख्या में निवेश करने का एक बड़ा प्रयास है।
कृत्रिम तंत्रिका नेटवर्क आज दुनिया में उपयोग किए जाने वाले अधिकांश एआई सिस्टम में नियोजित हैं। जो नेटवर्क बड़े एआई अनुप्रयोगों को चलाते हैं वे असाधारण रूप से जटिल और बड़े हो सकते हैं, और जैसे ही एक प्रणाली की जटिलता बढ़ती है, यह समझना कठिन हो जाता है कि एक विशेष निर्णय क्यों लिया गया है। जैसा कि गूगल अपने श्वेत पत्र में बताता है, जैसे ही एआई सिस्टम अधिक शक्तिशाली होते जाते हैं, वे अधिक जटिल हो जाते हैं और इसलिए डीबग करना मुश्किल हो जाता है। पारदर्शिता भी खो जाती है जब ऐसा होता है, जिसका अर्थ है कि पूर्वाग्रहित एल्गोरिदम को पहचानना और संबोधित करना मुश्किल हो जाता है।
जटिल प्रणालियों के व्यवहार को चलाने वाले तर्क को व्याख्या करना इतना मुश्किल होने का तथ्य अक्सर अत्यधिक परिणामों का कारण बनता है। एआई पूर्वाग्रह से निपटना मुश्किल बनाने के अलावा, यह बताना असाधारण रूप से मुश्किल हो सकता है कि कौन से संबंध वास्तव में महत्वपूर्ण और दिलचस्प हैं और कौन से संबंध वास्तव में महत्वपूर्ण और दिलचस्प हैं।
कई कंपनियां और शोध समूह यह पता लगाने के लिए काम कर रहे हैं कि एआई की “ब्लैक बॉक्स” समस्या को कैसे संबोधित किया जाए और एक प्रणाली बनाई जाए जो यह समझा सके कि एआई द्वारा कुछ निर्णय क्यों लिए गए हैं। गूगल का एक्सप्लेनेबल एआई प्लेटफ़ॉर्म इस चुनौती का सामना करने का अपना प्रयास है। एक्सप्लेनेबल एआई तीन अलग-अलग उपकरणों से बना है। पहला उपकरण एक प्रणाली है जो बताता है कि कौन सी विशेषताएं एक एआई द्वारा चुनी गई हैं और यह एक विशेषता स्कोर भी प्रदर्शित करता है जो यह दर्शाता है कि एक विशेष विशेषता का अंतिम भविष्यवाणी पर कितना प्रभाव पड़ता है। गूगल की रिपोर्ट में इस उपकरण का एक उदाहरण दिया गया है जो यह भविष्यवाणी करने के लिए उपयोग किया जाता है कि एक बाइक की सवारी कितनी देर तक चलेगी, जैसे कि वर्षा, वर्तमान तापमान, सप्ताह का दिन, और प्रारंभ समय जैसे चरों पर आधारित है। नेटवर्क निर्णय लेने के बाद, प्रतिक्रिया दी जाती है जो यह दिखाती है कि कौन सी विशेषताएं भविष्यवाणियों पर सबसे अधिक प्रभाव डालती हैं।
यह उपकरण छवि डेटा के मामले में ऐसी प्रतिक्रिया कैसे प्रदान करता है? इस मामले में, उपकरण एक ओवरले उत्पन्न करता है जो छवि के क्षेत्रों को हाइलाइट करता है जिन्होंने निर्णय पर सबसे अधिक भार डाला है।
टूलकिट में एक और उपकरण “व्हाट-इफ” उपकरण है, जो मॉडल के प्रदर्शन में संभावित उतार-चढ़ाव को प्रदर्शित करता है क्योंकि व्यक्तिगत विशेषताओं को मैनिपुलेट किया जाता है। अंत में, अंतिम उपकरण मानव समीक्षकों को एक नियमित अनुसूची पर नमूना परिणाम प्रदान करने के लिए सेट अप किया जा सकता है।
डॉ. एंड्रयू मूर, गूगल के मुख्य वैज्ञानिक एआई और मशीन लर्निंग, ने परियोजना के प्रेरणा का वर्णन किया। मूर ने बताया कि लगभग पांच साल पहले अकादमिक समुदाय ने एआई के उपयोग के हानिकारक उपोत्पादों के बारे में चिंता करना शुरू कर दिया था और गूगल चाहता था कि उनके सिस्टम का उपयोग केवल नैतिक तरीके से किया जाए। मूर ने एक घटना का वर्णन किया जहां कंपनी एक कंप्यूटर विजन प्रोग्राम डिज़ाइन करने की कोशिश कर रही थी ताकि निर्माण कार्यकर्ताओं को सूचित किया जा सके कि क्या कोई हेलमेट नहीं पहन रहा था, लेकिन वे चिंतित हो गए कि निगरानी बहुत दूर तक जा सकती है और अमानवीय हो सकती है। मूर ने कहा कि एक समान कारण था कि गूगल ने एक सामान्य चेहरा पहचान एपीआई जारी नहीं करने का फैसला किया, क्योंकि कंपनी चाहती थी कि उनकी प्रौद्योगिकी का उपयोग केवल नैतिक तरीके से किया जाए।
मूर ने यह भी बताया कि एआई के निर्णय को व्याख्या करने के लिए यह क्यों इतना महत्वपूर्ण है:
“यदि आपके पास एक सुरक्षा महत्वपूर्ण प्रणाली है या एक सामाजिक रूप से महत्वपूर्ण बात है जो आपके मॉडल की गलती के परिणामस्वरूप अनपेक्षित परिणाम हो सकते हैं, तो आपको इसे 诊断 करने में सक्षम होना चाहिए। हम यह समझाना चाहते हैं कि व्याख्या क्या कर सकती है और क्या नहीं। यह एक पैनासिया नहीं है।
