एमआईटी अनुसंधान टीम ने विरोधी उदाहरणों का प्रतिरोध करने के लिए एआई नेटवर्क डिज़ाइन किया

एमआईटी के शोधकर्ताओं की एक टीम ने एक गहरे शिक्षण एल्गोरिथ्म विकसित किया है जो एआई को “विरोधी” उदाहरणों से निपटने में मदद करने के लिए है, जो एआई को गलत भविष्यवाणियां करने और गलत कार्य करने का कारण बन सकते हैं। एमआईटी टीम द्वारा डिज़ाइन किया गया एल्गोरिथ्म एआई प्रणालियों को उनकी सटीकता बनाए रखने और भ्रमित करने वाले डेटा बिंदुओं का सामना करते समय गलतियां करने से बचाने में मदद कर सकता है।

एआई प्रणालियां एक घटना की प्रतिक्रिया करने के लिए घटना की इनपुट विशेषताओं का विश्लेषण करती हैं। एक स्वायत्त वाहन को नियंत्रित करने वाला एआई वाहन के कैमरों से डेटा लेता है और उस डेटा के आधार पर कार्रवाई करने का निर्णय लेता है। हालांकि, यह संभावना है कि एआई द्वारा विश्लेषण की जाने वाली छवि डेटा वास्तविक दुनिया का सटीक प्रतिनिधित्व नहीं है। कैमरा प्रणाली में एक ग्लिच कुछ पिक्सल को बदल सकता है, जिससे एआई गलत निष्कर्ष निकाल सकता है कि उचित कार्रवाई क्या है।

“विरोधी इनपुट” एआई प्रणाली के लिए ऑप्टिकल भ्रम की तरह हैं। वे इनपुट हैं जो एआई को किसी न किसी रूप में भ्रमित करते हैं। विरोधी इनपुट को एआई को गलतियां करने के लिए बनाया जा सकता है, डेटा को ऐसे तरीके से प्रस्तुत करके जो एआई को लगता है कि उदाहरण की सामग्री एक चीज़ के बजाय दूसरी चीज़ है। उदाहरण के लिए, कंप्यूटर दृष्टि प्रणाली के लिए एक विरोधी उदाहरण बनाना संभव है जिसमें बिल्लियों की छवियों में छोटे बदलाव किए जाते हैं, जिससे एआई छवियों को कंप्यूटर मॉनिटर के रूप में गलत तरीके से वर्गीकृत करता है। एमआईटी अनुसंधान टीम ने एक एल्गोरिथ्म डिज़ाइन किया जो विरोधी उदाहरणों के खिलाफ रक्षा करने में मदद करता है, जिससे मॉडल को इनपुट प्राप्त करने के बारे में एक निश्चित “संदेह” बनाए रखने की अनुमति मिलती है।

एमआईटी शोधकर्ताओं ने अपने दृष्टिकोण को “प्रमाणित विरोधी रोबस्टनेस फॉर डीप रिन्फोर्समेंट लर्निंग” या सीएआरआरएल कहा। सीएआरआरएल में एक पुनरावृत्ति शिक्षण नेटवर्क और एक पारंपरिक गहरा तंत्रिका नेटवर्क शामिल है, जो एक साथ जुड़े हुए हैं। पुनरावृत्ति शिक्षण में “पुरस्कार” की अवधारणा का उपयोग मॉडल को प्रशिक्षित करने के लिए किया जाता है, मॉडल को उसके लक्ष्य को प्राप्त करने के करीब आने पर आनुपातिक रूप से अधिक पुरस्कार दिया जाता है। पुनरावृत्ति शिक्षण मॉडल का उपयोग एक गहरा क्यू-नेटवर्क, या डीक्यूएन को प्रशिक्षित करने के लिए किया जाता है। डीक्यूएन पारंपरिक तंत्रिका नेटवर्क की तरह काम करते हैं, लेकिन वे इनपुट मानों को एक पुरस्कार स्तर के साथ भी जोड़ते हैं, जैसे कि पुनरावृत्ति शिक्षण प्रणाली।

सीएआरआरएल इनपुट डेटा के विभिन्न संभावित मानों को मॉडलिंग करके काम करता है।

मान लें कि एआई एक बड़ी छवि में एक बिंदु की स्थिति को ट्रैक करने की कोशिश कर रहा है, एआई यह मानता है कि बिंदु की स्थिति विरोधी प्रभाव का परिणाम हो सकती है और यह उन क्षेत्रों पर विचार करता है जहां बिंदु हो सकता है। नेटवर्क तब निर्णय लेता है जो सबसे खराब स्थिति में बिंदु की स्थिति पर आधारित होता है, जो इस सबसे खराब स्थिति में सबसे अधिक पुरस्कार प्रदान करने वाली कार्रवाई पर बसता है।

विरोधी उदाहरणों से बचाव का आम तरीका एआई नेटवर्क के माध्यम से थोड़ा संशोधित इनपुट छवि चलाना है और देखना है कि क्या हमेशा एक ही निर्णय लिया जाता है। यदि छवि में परिवर्तन परिणाम को बहुत प्रभावित नहीं करते हैं, तो यह संभावना है कि नेटवर्क विरोधी उदाहरणों के प्रतिरोधी है। हालांकि, यह उन परिदृश्यों में एक व्यावहारिक रणनीति नहीं है जहां तेजी से निर्णय लेने की आवश्यकता होती है, क्योंकि वे समय लेने वाले और गणनात्मक रूप से महंगे तरीके हैं। इस कारण से, एमआईटी टीम ने एक तंत्रिका नेटवर्क बनाने का लक्ष्य रखा जो सबसे खराब मामले की धारणा पर निर्णय ले सकता है, जो सुरक्षा महत्वपूर्ण परिदृश्यों में काम कर सकता है।

एमआईटी शोधकर्ताओं ने अपने एल्गोरिथ्म का परीक्षण एक पोंग गेम खेलने वाले एआई के साथ किया। उन्होंने विरोधी उदाहरणों को शामिल किया जिसमें एआई को यह दिखाया गया कि गेंद वास्तव में थी इसके नीचे थोड़ी दूरी पर प्रदर्शित की गई थी। जैसे ही विरोधी उदाहरणों का प्रभाव बढ़ा, मानक सुधारात्मक तकनीकें विफल होने लगीं, जबकि सीएआरआरएल तुलना में अधिक खेल जीतने में सक्षम था। सीएआरआरएल का परीक्षण एक टक्कर से बचाव कार्य पर भी किया गया था। कार्य एक आभासी वातावरण में हुआ जहां दो एजेंट एक दूसरे से टकराने के बिना अपनी स्थिति बदलने की कोशिश करते थे। शोध टीम ने पहले एजेंट की दूसरे एजेंट की धारणा को बदल दिया और सीएआरआरएल पहले एजेंट को दूसरे एजेंट के चारों ओर सफलतापूर्वक मार्गदर्शन करने में सक्षम था, भले ही अनिश्चितता की स्थिति में हो, हालांकि ऐसा समय आया जब सीएआरआरएल बहुत सावधानी से चलने लगा और अंततः अपने गंतव्य से बचने लगा।

फिर भी, एमआईटी विभाग ऑफ एयरोनॉटिक्स एंड एस्ट्रोनॉटिक्स पोस्टडॉक माइकल एवरेट, जिन्होंने अध्ययन का नेतृत्व किया, ने समझाया कि शोध अस्थिर स्थितियों में रोबोटों को संभालने की उनकी क्षमता के लिए परिणाम हो सकता है। जैसा कि एवरेट ने एमआईटी न्यूज के माध्यम से समझाया:

“लोग विरोधी हो सकते हैं, जैसे कि रोबोट के सेंसर को ब्लॉक करने के लिए रोबोट के सामने खड़े होना, या उनसे बातचीत करना, जरूरी नहीं कि उनके सर्वोत्तम हित में,” एवरेट कहते हैं। “एक रोबोट कैसे सोच सकता है कि लोग क्या करने की कोशिश कर सकते हैं, और उनसे बचने की कोशिश कर सकते हैं? हम किस प्रकार के विरोधी मॉडलों के खिलाफ रक्षा करना चाहते हैं? यह कुछ ऐसा है जिस पर हम विचार कर रहे हैं कि यह कैसे करना है।”