टीम ने तंत्रिका नेटवर्क की तुलना के लिए दृष्टिकोण विकसित किया

लॉस एलामोस नेशनल लेबोरेटरी के शोधकर्ताओं की एक टीम ने तंत्रिका नेटवर्क की तुलना के लिए एक नया दृष्टिकोण विकसित किया है। टीम के अनुसार, यह नया दृष्टिकोण कृत्रिम बुद्धिमत्ता (एआई) के "ब्लैक बॉक्स" के भीतर दिखता है, और यह उन्हें तंत्रिका नेटवर्क व्यवहार को समझने में मदद करता है। तंत्रिका नेटवर्क, जो डेटासेट के भीतर पैटर्न को पहचानते हैं, का उपयोग चेहरे की पहचान प्रणाली और स्वायत्त वाहनों जैसे व्यापक अनुप्रयोगों के लिए किया जाता है। 

टीम ने अपना पेपर प्रस्तुत किया, "यदि आपने एक को प्रशिक्षित किया है तो आपने उन सभी को प्रशिक्षित किया है: अंतर-वास्तुकला समानता मजबूती के साथ बढ़ती है,'' आर्टिफिशियल इंटेलिजेंस में अनिश्चितता पर सम्मेलन में। 

हेडन जोन्स लॉस एलामोस में एडवांस्ड रिसर्च इन साइबर सिस्टम्स समूह में एक शोधकर्ता और शोध पत्र के प्रमुख लेखक हैं। 

तंत्रिका नेटवर्क को बेहतर ढंग से समझना 

“कृत्रिम बुद्धिमत्ता अनुसंधान समुदाय को आवश्यक रूप से इस बात की पूरी समझ नहीं है कि तंत्रिका नेटवर्क क्या कर रहे हैं; वे हमें अच्छे परिणाम देते हैं, लेकिन हम नहीं जानते कि कैसे या क्यों," जोन्स ने कहा। “हमारी नई पद्धति तंत्रिका नेटवर्क की तुलना करने का बेहतर काम करती है, जो एआई के पीछे के गणित को बेहतर ढंग से समझने की दिशा में एक महत्वपूर्ण कदम है। 

नया शोध विशेषज्ञों को मजबूत तंत्रिका नेटवर्क के व्यवहार को समझने में मदद करने में भी भूमिका निभाएगा। 

जबकि तंत्रिका नेटवर्क उच्च प्रदर्शन वाले हैं, वे नाजुक भी हैं। स्थितियों में छोटे-छोटे बदलाव, जैसे कि आंशिक रूप से ढका हुआ स्टॉप साइन, जिसे एक स्वायत्त वाहन द्वारा संसाधित किया जा रहा है, तंत्रिका नेटवर्क को साइन की गलत पहचान करने का कारण बन सकता है। इसका मतलब यह है कि यह कभी नहीं रुकेगा, जो खतरनाक साबित हो सकता है। 

प्रतिकूल प्रशिक्षण तंत्रिका नेटवर्क

शोधकर्ताओं ने नेटवर्क की मजबूती में सुधार के तरीकों पर गौर करके इस प्रकार के तंत्रिका नेटवर्क को बेहतर बनाने की योजना बनाई है। दृष्टिकोणों में से एक में प्रशिक्षण प्रक्रिया के दौरान नेटवर्क पर "हमला करना" शामिल है, जहां शोधकर्ता जानबूझकर एआई को अनदेखा करने के लिए प्रशिक्षण देते समय विपथन पेश करते हैं। यह प्रक्रिया, जिसे प्रतिकूल प्रशिक्षण कहा जाता है, नेटवर्क के लिए मूर्ख बनाना कठिन बना देती है। 

टीम ने नेटवर्क समानता की नई मीट्रिक को प्रतिकूल रूप से प्रशिक्षित तंत्रिका नेटवर्क पर लागू किया। उन्हें यह जानकर आश्चर्य हुआ कि प्रतिकूल प्रशिक्षण के कारण कंप्यूटर विज़न डोमेन में तंत्रिका नेटवर्क समान डेटा अभ्यावेदन में परिवर्तित हो जाते हैं, चाहे नेटवर्क आर्किटेक्चर कोई भी हो, क्योंकि हमले की भयावहता बढ़ जाती है। 

जोन्स ने कहा, "हमने पाया कि जब हम तंत्रिका नेटवर्क को प्रतिकूल हमलों के खिलाफ मजबूत होने के लिए प्रशिक्षित करते हैं, तो वे वही काम करना शुरू कर देते हैं।" 

यह पहली बार नहीं है कि विशेषज्ञों ने तंत्रिका नेटवर्क के लिए सही वास्तुकला खोजने की कोशिश की है। हालाँकि, नए निष्कर्ष दर्शाते हैं कि प्रतिकूल प्रशिक्षण की शुरूआत अंतर को काफी हद तक कम कर देती है, जिसका अर्थ है कि एआई अनुसंधान समुदाय को इतने सारे नए आर्किटेक्चर का पता लगाने की आवश्यकता नहीं हो सकती है क्योंकि अब यह ज्ञात है कि प्रतिकूल प्रशिक्षण के कारण विविध आर्किटेक्चर समान समाधानों में परिवर्तित हो जाते हैं। 

जोन्स ने कहा, "यह पता लगाकर कि मजबूत तंत्रिका नेटवर्क एक-दूसरे के समान हैं, हम यह समझना आसान बना रहे हैं कि एआई वास्तव में कितना मजबूत काम कर सकता है।" "हम ऐसे संकेत भी खोज सकते हैं कि मनुष्यों और अन्य जानवरों में धारणा कैसे होती है।"