नए टूल से शोधकर्ता जान सकते हैं कि जीएएन किस चीज़ को छोड़ देता है एक छवि से

हाल ही में, एमआईटी-आईबीएम वॉटसन एआई लैब के शोधकर्ताओं की एक टीम ने एक तरीका विकसित किया है जिससे पता लगाया जा सकता है कि एक जेनरेटिव एडवर्सेरियल नेटवर्क छवि को जनरेट करने के लिए कहा जाने पर क्या छोड़ देता है। इस अध्ययन को Seeing What a GAN Cannot Generate नाम दिया गया था, और यह हाल ही में इंटरनेशनल कॉन्फ्रेंस ऑन कंप्यूटर विजन में प्रस्तुत किया गया था।

जेनरेटिव एडवर्सेरियल नेटवर्क पिछले कुछ वर्षों में अधिक मजबूत, जटिल और व्यापक रूप से उपयोग किए जाने वाले हो गए हैं। वे छवियों को विस्तार से भरने में बहुत अच्छे हो गए हैं, बशर्ते कि छवि एक tương đối छोटे क्षेत्र में सीमित हो। हालांकि, जब जीएएन का उपयोग बड़े दृश्यों और परिवेशों की छवियों को जनरेट करने के लिए किया जाता है, तो वे उतना अच्छा प्रदर्शन नहीं करते हैं। जीएएन का उपयोग करके कई वस्तुओं और वस्तुओं से भरे दृश्यों की छवियों को जनरेट करने के लिए कहा जाता है, जैसे कि एक व्यस्त सड़क, जीएएन अक्सर छवि के कई महत्वपूर्ण पहलुओं को छोड़ देते हैं।

एमआईटी न्यूज के अनुसार, इस शोध को डेविड बाउ, एमआईटी के इलेक्ट्रिकल इंजीनियरिंग और कंप्यूटर साइंस विभाग में एक स्नातक छात्र द्वारा विकसित किया गया था। बाउ ने समझाया कि शोधकर्ता आमतौर पर मशीन लर्निंग सिस्टम पर ध्यान केंद्रित करते हैं और यह जानने की कोशिश करते हैं कि कertain इनपुट को कैसे मैप किया जा सकता है certain आउटपुट में। हालांकि, बाउ ने यह भी समझाया कि यह जानना कि मशीन लर्निंग मॉडल क्या डेटा को अनदेखा करते हैं, अक्सर उतना ही महत्वपूर्ण होता है और शोध टीम को उम्मीद है कि उनके टूल शोधकर्ताओं को अनदेखा किए गए डेटा पर ध्यान देने के लिए प्रेरित करेंगे।

बाउ की जीएएन में रुचि इस तथ्य से उत्पन्न हुई कि वे तंत्रिका नेटवर्क के ब्लैक-बॉक्स प्रकृति की जांच करने और यह समझने के लिए उपयोग किए जा सकते हैं कि नेटवर्क कैसे तर्क कर सकते हैं। बाउ ने पहले एक टूल पर काम किया था जो कृत्रिम न्यूरॉन क्लस्टर की पहचान कर सकता था, जिन्हें वास्तविक दुनिया की वस्तुओं जैसे किताबें, बादल और पेड़ के प्रतिनिधित्व के लिए जिम्मेदार होने के रूप में लेबल किया जा सकता था। बाउ ने जीएएनपेंट नामक एक टूल पर भी काम किया था, जो कलाकारों को जीएएन का उपयोग करके फोटो से विशिष्ट विशेषताओं को हटाने और जोड़ने की अनुमति देता है। बाउ के अनुसार, जीएएनपेंट अनुप्रयोग ने जीएएन के साथ एक संभावित समस्या का खुलासा किया, जो तब स्पष्ट हो गया जब बाउ ने छवियों का विश्लेषण किया। जैसा कि बाउ ने एमआईटी न्यूज को बताया:

“मेरे सलाहकार ने हमेशा हमें संख्याओं से परे देखने और वास्तविक छवियों की जांच करने के लिए प्रोत्साहित किया है। जब हमने देखा, तो यह घटना स्पष्ट रूप से सामने आई: लोग चयनात्मक रूप से बाहर हो गए।”

जबकि मशीन लर्निंग सिस्टम छवियों से पैटर्न निकालने के लिए डिज़ाइन किए गए हैं, वे भी प्रासंगिक पैटर्न को अनदेखा कर सकते हैं। बाउ और अन्य शोधकर्ताओं ने विभिन्न इनडोर और आउटडोर दृश्यों पर जीएएन को प्रशिक्षित करने के साथ प्रयोग किया, लेकिन विभिन्न प्रकार के दृश्यों में, जीएएन ने दृश्य में महत्वपूर्ण विवरण जैसे कि कारें, सड़क संकेत, लोग, साइकिल आदि को छोड़ दिया। यह तब भी सच था जब छोड़े गए वस्तुएं दृश्य के लिए महत्वपूर्ण थीं।

शोध टीम ने अनुमान लगाया कि जब जीएएन को छवियों पर प्रशिक्षित किया जाता है, तो जीएएन को आसानी से पैटर्न को कैप्चर करना आसान हो सकता है, जैसे कि स्टेशनरी वस्तुएं जैसे परिदृश्य और इमारतें। यह अन्य, अधिक कठिन से व्याख्या करने वाले पैटर्न की तुलना में इन पैटर्न को सीखता है, जैसे कि कारें और लोग। यह एक सामान्य ज्ञान है कि जीएएन अक्सर छवियों को जनरेट करते समय महत्वपूर्ण, अर्थपूर्ण विवरण को छोड़ देते हैं, लेकिन एमआईटी टीम का अध्ययन जीएएन को पहली बार छवि में पूरे वस्तु वर्गों को छोड़कर दिखा सकता है।

शोध टीम नोट करती है कि जीएएन अपने संख्यात्मक लक्ष्यों को प्राप्त कर सकते हैं, भले ही वे मानवों को छवियों को देखते समय परवाह करने वाली वस्तुओं को छोड़ दें। यदि जीएएन द्वारा उत्पन्न छवियों का उपयोग जटिल प्रणालियों को प्रशिक्षित करने के लिए किया जाने वाला है, जैसे कि स्व-ड्राइविंग कारें, तो छवि डेटा को बारीकी से जांचा जाना चाहिए क्योंकि एक वास्तविक चिंता है कि महत्वपूर्ण वस्तुएं जैसे कि संकेत, लोग और अन्य कारें छवियों से बाहर हो सकती हैं। बाउ ने समझाया कि उनके शोध से पता चलता है कि मॉडल के प्रदर्शन को केवल सटीकता पर आधारित नहीं होना चाहिए:

“हमें यह समझने की जरूरत है कि नेटवर्क क्या कर रहे हैं और क्या नहीं कर रहे हैं ताकि यह सुनिश्चित किया जा सके कि वे हमारी इच्छा के अनुसार निर्णय ले रहे हैं।”