एआई शोधकर्ता तेजी से विश्वास अंतराल की गणना करने का तरीका विकसित करते हैं, जब मॉडल पर भरोसा नहीं करना चाहिए तो रिपोर्ट करते हैं

एमआईटी के शोधकर्ताओं ने हाल ही में एक तकनीक विकसित की है जो गहरे शिक्षण नेटवर्क मॉडल को तेजी से विश्वास स्तर की गणना करने में सक्षम बनाती है, जो डेटा वैज्ञानिकों और अन्य एआई उपयोगकर्ताओं को यह जानने में मदद कर सकती है कि कब मॉडल द्वारा की गई भविष्यवाणियों पर भरोसा किया जा सकता है।

कृत्रिम तंत्रिका नेटवर्क पर आधारित एआई प्रणाली इन दिनों कई निर्णयों के लिए जिम्मेदार हैं, जिनमें से कई निर्णय लोगों के स्वास्थ्य और सुरक्षा से संबंधित हैं। इसके कारण, तंत्रिका नेटवर्क को अपने आउटपुट में विश्वास का अनुमान लगाने का कुछ तरीका होना चाहिए, जिससे डेटा वैज्ञानिकों को यह बताने में मदद मिल सके कि उनकी भविष्यवाणियां कितनी विश्वसनीय हैं। हाल ही में, हार्वर्ड और एमआईटी के शोधकर्ताओं की एक टीम ने तंत्रिका नेटवर्क के लिए एक तेज़ तरीका डिज़ाइन किया है जो अपनी भविष्यवाणियों के साथ एक मॉडल के विश्वास का संकेत देता है।

पिछले दशक में, गहरे शिक्षण मॉडल अधिक से अधिक परिष्कृत हो गए हैं और अब वे डेटा वर्गीकरण कार्यों में मानवों को आसानी से पीछे छोड़ सकते हैं। गहरे शिक्षण मॉडल का उपयोग उन क्षेत्रों में किया जा रहा है जहां लोगों के स्वास्थ्य और सुरक्षा जोखिम में हो सकती है यदि वे विफल हो जाते हैं, स्वायत्त वाहनों को चलाने और चिकित्सा स्थितियों का निदान करने के लिए स्कैन से। इन मामलों में, यह पर्याप्त नहीं है कि एक मॉडल 99% सटीक है, मॉडल की विफलता के 1% समय में भी आपदा की संभावना हो सकती है। इसके परिणामस्वरूप, डेटा वैज्ञानिकों को यह जानने के लिए एक तरीका होना चाहिए कि कोई दी गई भविष्यवाणी कितनी विश्वसनीय है।

तंत्रिका नेटवर्क की भविष्यवाणियों के साथ विश्वास अंतराल का उत्पादन करने के कई तरीके हैं, लेकिन तंत्रिका नेटवर्क के लिए अनिश्चितता का अनुमान लगाने के पारंपरिक तरीके khá धीमे और गणनात्मक रूप से महंगे हैं। तंत्रिका नेटवर्क बहुत बड़े और जटिल हो सकते हैं, जिनमें अरबों पैरामीटर होते हैं। केवल भविष्यवाणियां उत्पन्न करना गणनात्मक रूप से महंगा हो सकता है और बहुत समय ले सकता है, और भविष्यवाणियों के लिए एक विश्वास स्तर उत्पन्न करना और भी लंबा समय लेता है। अधिकांश पिछले अनिश्चितता को मापने के तरीकों ने नमूनाकरण या नेटवर्क को बार-बार चलाने पर निर्भर किया है ताकि इसके विश्वास का अनुमान लगाया जा सके। यह हमेशा उच्च-गति यातायात की आवश्यकता वाले अनुप्रयोगों के लिए संभव नहीं है।

एमआईटी न्यूज के अनुसार, अलेक्जेंडर अमीनी एमआईटी और हार्वर्ड के शोधकर्ताओं के संयुक्त समूह का नेतृत्व करते हैं, और अमीनी के अनुसार उनके शोधकर्ताओं द्वारा विकसित तरीका “गहरा साक्ष्य रिग्रेशन” नामक एक तकनीक का उपयोग करके अनिश्चितता के अनुमानों की प्रक्रिया को तेज करता है। अमीनी ने एमआईटी के माध्यम से बताया कि डेटा वैज्ञानिकों को उच्च-गति मॉडल और अनिश्चितता के विश्वसनीय अनुमानों की आवश्यकता होती है ताकि अविश्वसनीय मॉडल का पता लगाया जा सके। मॉडल की गति को बनाए रखने और अनिश्चितता का अनुमान लगाने के लिए, शोधकर्ताओं ने मॉडल के एक ही रन से अनिश्चितता का अनुमान लगाने का एक तरीका डिज़ाइन किया।

शोधकर्ताओं ने तंत्रिका नेटवर्क मॉडल को इस तरह से डिज़ाइन किया कि प्रत्येक निर्णय के साथ एक संभाव्य वितरण उत्पन्न होता है। नेटवर्क प्रशिक्षण प्रक्रिया के दौरान अपने निर्णयों के लिए साक्ष्य रखता है, जो साक्ष्य के आधार पर एक संभाव्य वितरण उत्पन्न करता है। साक्ष्य वितरण मॉडल के विश्वास का प्रतिनिधित्व करता है, और यह मॉडल के अंतिम निर्णय और मूल इनपुट डेटा दोनों के लिए अनिश्चितता का प्रतिनिधित्व करता है। इनपुट डेटा और निर्णय दोनों के लिए अनिश्चितता को पकड़ना महत्वपूर्ण है, क्योंकि अनिश्चितता को कम करने के लिए अनिश्चितता के स्रोत को जानना आवश्यक है।

शोधकर्ताओं ने अपनी अनिश्चितता अनुमान तकनीक का परीक्षण एक कंप्यूटर दृष्टि कार्य पर लागू करके किया। मॉडल को एक श्रृंखला के चित्रों पर प्रशिक्षित करने के बाद, यह भविष्यवाणियां और अनिश्चितता अनुमान दोनों उत्पन्न करता है। नेटवर्क ने सही ढंग से उन उदाहरणों के लिए उच्च अनिश्चितता का प्रक्षेपण किया जहां गलत भविष्यवाणी की गई थी। “यह नेटवर्क द्वारा की गई त्रुटियों के लिए बहुत अच्छी तरह से कैलिब्रेटेड था, जो हमें लगता है कि एक नए अनिश्चितता अनुमानकर्ता की गुणवत्ता का आकलन करने में सबसे महत्वपूर्ण बात है,” अमीनी ने मॉडल के परीक्षण परिणामों के बारे में कहा।

शोध टीम ने अपने नेटवर्क आर्किटेक्चर के साथ और अधिक परीक्षण किए। तकनीक को तनाव परीक्षण करने के लिए, उन्होंने “बाहरी-वितरण” डेटा पर भी इसका परीक्षण किया, जो डेटासेट हैं जिनमें नेटवर्क ने पहले कभी नहीं देखा है। जैसा कि अपेक्षित था, नेटवर्क ने इन अनदेखे वस्तुओं के लिए उच्च अनिश्चितता की रिपोर्ट की। जब इसे इनडोर वातावरण पर प्रशिक्षित किया गया, तो नेटवर्क ने आउटडोर वातावरण की छवियों पर परीक्षण किए जाने पर उच्च अनिश्चितता प्रदर्शित की। परीक्षणों से पता चला कि नेटवर्क अपने निर्णयों में उच्च अनिश्चितता को उजागर कर सकता है और जोखिम वाली परिस्थितियों में भरोसा नहीं किया जाना चाहिए।

शोध टीम ने यह भी बताया कि नेटवर्क छवियों को संशोधित करने में सक्षम था जो छेड़छाड़ के शोर के साथ बदल दी गई थीं। जब शोध टीम ने छवियों को विरोधी शोर के साथ बदल दिया, तो नेटवर्क ने नई छवियों को उच्च अनिश्चितता अनुमानों के साथ चिह्नित किया,尽管 प्रभाव इतना सूक्ष्म था कि इसे एक औसत मानव दर्शक द्वारा देखा नहीं जा सकता था।

यदि तकनीक विश्वसनीय साबित होती है, तो गहरा साक्ष्य रिग्रेशन एआई मॉडल की सुरक्षा में सुधार कर सकता है। अमीनी के अनुसार, गहरा साक्ष्य रिग्रेशन लोगों को जोखिम भरे स्थितियों में एआई मॉडल का उपयोग करते समय सावधानी से निर्णय लेने में मदद कर सकता है। जैसा कि एमआईटी न्यूज के माध्यम से अमीनी ने बताया:

“हम देख रहे हैं कि इन [तंत्रिका नेटवर्क] मॉडलों को शोध प्रयोगशाला से बाहर निकालकर वास्तविक दुनिया में लाया जा रहा है, जो मानवों के साथ जुड़े संभावित जीवन-धमकी देने वाले परिणामों वाली स्थितियों में है। मॉडल का उपयोग करने वाला कोई भी व्यक्ति, चाहे वह एक डॉक्टर हो या वाहन के यात्री सीट में बैठा हो, किसी भी जोखिम या अनिश्चितता से अवगत होना चाहिए जो उस निर्णय से जुड़ा हो।”