नए अध्ययन में एआई में छिपी हुई कमजोरियों का पर्दाफाश

एआई के तेजी से बदलते परिदृश्य में, परिवर्तनकारी परिवर्तनों का वादा विभिन्न क्षेत्रों में फैला हुआ है, स्वायत्त वाहनों के क्रांतिकारी दृष्टिकोण से लेकर जटिल चिकित्सा छवियों की व्याख्या में एआई के सोफिस्टिकेड उपयोग तक। एआई प्रौद्योगिकियों की प्रगति एक डिजिटल पुनर्जागरण के अलावा और कुछ नहीं है, जो संभावनाओं और प्रगति से भरे भविष्य की घोषणा करता है।

हालांकि, एक हालिया अध्ययन एक चिंताजनक पहलू पर प्रकाश डालता है जिसे अक्सर अनदेखा किया जाता है: एआई प्रणालियों में लक्षित विरोधी हमलों के प्रति बढ़ी हुई कमजोरता। यह खुलासा महत्वपूर्ण क्षेत्रों में एआई अनुप्रयोगों की मजबूती पर सवाल उठाता है और इन कमजोरियों की गहरी समझ की आवश्यकता पर प्रकाश डालता है।

विरोधी हमलों की अवधारणा

एआई के क्षेत्र में विरोधी हमले एक प्रकार का साइबर खतरा है जहां हमलावर एआई प्रणाली के इनपुट डेटा को जानबूझकर बदल देते हैं ताकि यह गलत निर्णय या वर्गीकरण ले। ये हमले एआई एल्गोरिदम द्वारा डेटा को संसाधित और व्याख्या करने के तरीके में निहित कमजोरियों का फायदा उठाते हैं।

उदाहरण के लिए, एक स्वायत्त वाहन को एआई पर निर्भर करना जो यातायात संकेतों को पहचाने, एक विरोधी हमला इतना सरल हो सकता है जैसे कि एक विशेष रूप से डिज़ाइन किया गया स्टिकर एक स्टॉप साइन पर रखा जाए, जिससे एआई इसे गलत तरीके से व्याख्या करे, जो potentially विनाशकारी परिणामों का कारण बन सकता है। इसी तरह, चिकित्सा क्षेत्र में, एक हैकर एआई प्रणाली में डाले जाने वाले डेटा को बदल सकता है जो एक्स-रे छवियों का विश्लेषण करता है, जिससे गलत निदान हो सकता है। ये उदाहरण इन कमजोरियों की महत्वपूर्ण प्रकृति को रेखांकित करते हैं, विशेष रूप से उन अनुप्रयोगों में जहां सुरक्षा और मानव जीवन दांव पर है।

अध्ययन के चौंकाने वाले निष्कर्ष

अध्ययन, जिसे टियनफू वू, नॉर्थ कैरोलिना स्टेट यूनिवर्सिटी में इलेक्ट्रिकल और कंप्यूटर इंजीनियरिंग के एसोसिएट प्रोफेसर द्वारा सह-लिखा गया था, इन विरोधी कमजोरियों की व्यापकता में गहराई से उतरता है, यह उजागर करता है कि वे पहले से विश्वास किए जाने से कहीं अधिक सामान्य हैं। यह खुलासा विशेष रूप से चिंताजनक है क्योंकि एआई को महत्वपूर्ण और दैनिक प्रौद्योगिकियों में एकीकृत किया जा रहा है।

वू इस स्थिति की गंभीरता पर प्रकाश डालते हैं, कहते हैं, “हमलावर इन कमजोरियों का फायदा उठा सकते हैं ताकि एआई डेटा की व्याख्या करने के लिए जो कुछ भी वे चाहते हैं उसे मजबूर कर सकें। यह अविश्वसनीय रूप से महत्वपूर्ण है क्योंकि यदि एक एआई प्रणाली इन प्रकार के हमलों के खिलाफ मजबूत नहीं है, तो आप इसे व्यावहारिक उपयोग में नहीं डालना चाहते हैं — विशेष रूप से उन अनुप्रयोगों के लिए जो मानव जीवन को प्रभावित कर सकते हैं।”

क्वाडअटैक: कमजोरियों को उजागर करने के लिए एक उपकरण

इन निष्कर्षों के जवाब में, वू और उनकी टीम ने क्वाडअटैक, एक अग्रणी सॉफ्टवेयर विकसित किया है जो गहरे तंत्रिका नेटवर्क को विरोधी कमजोरियों के लिए व्यवस्थित रूप से परीक्षण करने के लिए डिज़ाइन किया गया है। क्वाडअटैक साफ डेटा के लिए एआई प्रणाली की प्रतिक्रिया को देखकर और सीखकर काम करता है कि यह डेटा से संबंधित निर्णय कैसे लेता है। यह तब डेटा को मैनिप्युलेट करता है ताकि एआई की कमजोरता का परीक्षण किया जा सके।

वू स्पष्ट करते हैं, “क्वाडअटैक इन ऑपरेशनों को देखता है और सीखता है कि एआई डेटा से संबंधित निर्णय कैसे ले रहा है। यह क्वाडअटैक को यह निर्धारित करने की अनुमति देता है कि डेटा को एआई को धोखा देने के लिए कैसे मैनिप्युलेट किया जा सकता है।”

प्रूफ-ऑफ-कॉन्सेप्ट परीक्षण में, क्वाडअटैक का उपयोग चार व्यापक रूप से उपयोग किए जाने वाले तंत्रिका नेटवर्क का मूल्यांकन करने के लिए किया गया था। परिणाम चौंकाने वाले थे।

“हमें यह देखकर आश्चर्य हुआ कि इनमें से सभी चार नेटवर्क विरोधी हमलों के लिए बहुत कमजोर थे,” वू कहते हैं, एआई क्षेत्र में एक महत्वपूर्ण मुद्दे पर प्रकाश डालते हैं।

ये निष्कर्ष एआई अनुसंधान समुदाय और एआई प्रौद्योगिकियों पर निर्भर उद्योगों के लिए एक जागृति कॉल के रूप में कार्य करते हैं। उजागर की गई कमजोरियों न केवल वर्तमान अनुप्रयोगों के लिए जोखिम पैदा करती हैं, बल्कि संवेदनशील क्षेत्रों में भविष्य में एआई प्रणालियों की तैनाती पर भी संदेह पैदा करती हैं।

एआई समुदाय के लिए एक कॉल टू एक्शन

क्वाडअटैक की सार्वजनिक उपलब्धता एआई प्रणालियों को सुरक्षित करने के लिए व्यापक अनुसंधान और विकास प्रयासों की दिशा में एक महत्वपूर्ण कदम को चिह्नित करती है। इस उपकरण को सुलभ बनाकर, वू और उनकी टीम ने शोधकर्ताओं और विकासकर्ताओं के लिए एक मूल्यवान संसाधन प्रदान किया है ताकि वे अपनी एआई प्रणालियों में कमजोरियों की पहचान और संबोधन कर सकें।

शोध टीम के निष्कर्ष और क्वाडअटैक टूल को न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम्स कॉन्फ्रेंस (न्यूरिप्स 2023) में प्रस्तुत किया जा रहा है। पेपर के प्राथमिक लेखक थॉमस पनियागुआ हैं, जो एनसी स्टेट में एक पीएचडी छात्र हैं, सह-लेखक रयान ग्रेन्जर के साथ, जो भी विश्वविद्यालय में एक पीएचडी छात्र हैं। यह प्रस्तुति केवल एक अकादमिक अभ्यास नहीं है, बल्कि वैश्विक एआई समुदाय के लिए सुरक्षा को एआई विकास में प्राथमिकता देने के लिए एक कॉल टू एक्शन है।

जैसा कि हम एआई नवाचार और सुरक्षा के चौराहे पर खड़े हैं, वू और उनके सहयोगियों का काम एक चेतावनी की कहानी और एक ऐसे भविष्य के लिए एक रोडमैप प्रदान करता है जहां एआई शक्तिशाली और सुरक्षित दोनों हो सकता है। आगे की यात्रा जटिल है, लेकिन हमारे डिजिटल समाज के ताने बाने में एआई के स्थायी एकीकरण के लिए यह आवश्यक है।

टीम ने क्वाडअटैक को सार्वजनिक रूप से उपलब्ध कराया है। आप इसे यहां पा सकते हैं: https://thomaspaniagua.github.io/quadattack_web/