टीम ने न्यूरल नेटवर्क्स की तुलना के लिए एक दृष्टिकोण विकसित किया

लॉस अलामोस नेशनल लेबोरेटरी में शोधकर्ताओं की एक टीम ने न्यूरल नेटवर्क्स की तुलना के लिए एक नए दृष्टिकोण को विकसित किया है। टीम के अनुसार, यह नया दृष्टिकोण कृत्रिम बुद्धिमत्ता (एआई) के “ब्लैक बॉक्स” के भीतर देखता है, और यह उन्हें न्यूरल नेटवर्क व्यवहार को समझने में मदद करता है। न्यूरल नेटवर्क, जो डेटासेट के भीतर पैटर्न को पहचानते हैं, चेहरे की पहचान प्रणाली और स्वायत्त वाहनों जैसे विभिन्न अनुप्रयोगों के लिए उपयोग किए जाते हैं।

टीम ने अपने शोध पत्र, “यदि आप एक को प्रशिक्षित कर चुके हैं तो आप उन सभी को प्रशिक्षित कर चुके हैं: इंटर-आर्किटेक्चर समानता रोबस्टनेस के साथ बढ़ती है,” को अनिश्चितता में कृत्रिम बुद्धिमत्ता पर सम्मेलन में प्रस्तुत किया।

हेडन जोन्स लॉस अलामोस में एडवांस्ड रिसर्च इन साइबर सिस्टम्स समूह में एक शोधकर्ता हैं और शोध पत्र के प्रमुख लेखक हैं।

न्यूरल नेटवर्क्स को बेहतर ढंग से समझना

“कृत्रिम बुद्धिमत्ता अनुसंधान समुदाय के पास न्यूरल नेटवर्क्स की पूरी समझ नहीं है; वे हमें अच्छे परिणाम देते हैं, लेकिन हमें नहीं पता कि वे कैसे या क्यों,” जोन्स ने कहा। “हमारी नई विधि न्यूरल नेटवर्क्स की तुलना करने में बेहतर काम करती है, जो कृत्रिम बुद्धिमत्ता के पीछे के गणित को बेहतर ढंग से समझने के लिए एक महत्वपूर्ण कदम है।

नई अनुसंधान विशेषज्ञों को मजबूत न्यूरल नेटवर्क्स के व्यवहार को समझने में भी मदद करेगा।

जबकि न्यूरल नेटवर्क्स उच्च प्रदर्शन वाले होते हैं, वे भी नाजुक होते हैं। स्थितियों में छोटे बदलाव, जैसे कि एक आंशिक रूप से ढकी हुई स्टॉप साइन जो एक स्वायत्त वाहन द्वारा संसाधित की जा रही है, न्यूरल नेटवर्क को साइन की गलत पहचान करने का कारण बन सकता है। इसका मतलब है कि यह कभी भी रुक सकता है, जो खतरनाक हो सकता है।

अधिकारी प्रशिक्षण न्यूरल नेटवर्क्स

शोधकर्ताओं ने इन प्रकार के न्यूरल नेटवर्क्स में सुधार करने के लिए नेटवर्क की मजबूती में सुधार करने के तरीकों को देखने का फैसला किया। दृष्टिकोणों में से एक में “नेटवर्क पर हमला” करना शामिल है, जहां शोधकर्ता जानबूझकर प्रशिक्षण के दौरान विचलन पेश करते हैं और एआई को उन्हें अनदेखा करने के लिए प्रशिक्षित करते हैं। इस प्रक्रिया, जिसे विरोधी प्रशिक्षण के रूप में जाना जाता है, नेटवर्क्स को धोखा देना अधिक कठिन बनाता है।

टीम ने नेटवर्क समानता के नए माप को विरोधी रूप से प्रशिक्षित न्यूरल नेटवर्क्स पर लागू किया। उन्हें यह पता लगाने में आश्चर्य हुआ कि विरोधी प्रशिक्षण कंप्यूटर दृष्टि डोमेन में न्यूरल नेटवर्क्स को समान डेटा प्रतिनिधित्व में अभिसरण करने का कारण बनता है, चाहे नेटवर्क आर्किटेक्चर कुछ भी हो, जब हमले की तीव्रता बढ़ जाती है।

“हमने पाया कि जब हम न्यूरल नेटवर्क्स को विरोधी हमलों के खिलाफ मजबूत बनाने के लिए प्रशिक्षित करते हैं, तो वे एक ही चीजें करना शुरू कर देते हैं,” जोन्स ने कहा।

यह पहली बार नहीं है जब विशेषज्ञों ने न्यूरल नेटवर्क्स के लिए सही आर्किटेक्चर खोजने का प्रयास किया है। हालांकि, नए निष्कर्ष यह दिखाते हैं कि विरोधी प्रशिक्षण की शुरुआत इस अंतर को काफी कम कर देती है, जिसका अर्थ है कि एआई अनुसंधान समुदाय को अब इतने सारे नए आर्किटेक्चर का अन्वेषण करने की आवश्यकता नहीं हो सकती है, क्योंकि यह अब ज्ञात है कि विरोधी प्रशिक्षण विभिन्न आर्किटेक्चर को समान समाधानों में अभिसरण करने का कारण बनता है।

“मजबूत न्यूरल नेटवर्क्स एक दूसरे के समान होने के तथ्य को खोजने से, हमें यह समझने में मदद मिल रही है कि मजबूत एआई वास्तव में कैसे काम कर सकता है,” जोन्स ने कहा। “हम यह भी पता लगा सकते हैं कि मानवों और अन्य जानवरों में धारणा कैसे होती है।”