शोधकर्ता मानते हैं कि एआई का उपयोग लोगों की गोपनीयता की रक्षा में मदद के लिए किया जा सकता है

सूचना विज्ञान के दो प्रोफेसरों ने हाल ही में द कॉन्वर्सेशन में एक लेख प्रकाशित किया है, जिसमें तर्क दिया गया है कि एआई लोगों की गोपनीयता को बनाए रखने में मदद कर सकता है, जो कुछ मुद्दों को सुधारता है जो इसने पैदा किए हैं। झियुआन चेन और आर्य गंगोपाध्याय तर्क देते हैं कि कृत्रिम बुद्धिमत्ता एल्गोरिदम लोगों की गोपनीयता की रक्षा के लिए उपयोग किए जा सकते हैं, जो अन्य एआई के उपयोग द्वारा बनाए गए कई गोपनीयता चिंताओं का मुकाबला करते हैं। चेन और गंगोपाध्याय स्वीकार करते हैं कि हम जिन कई एआई-संचालित उत्पादों का उपयोग सुविधा के लिए करते हैं, वे बड़ी मात्रा में डेटा तक पहुंच के बिना काम नहीं करेंगे, जो पहली नज़र में गोपनीयता को बनाए रखने के प्रयासों के विपरीत लगता है। इसके अलावा, क्योंकि एआई अधिक से अधिक उद्योगों और अनुप्रयोगों में फैलता है, अधिक डेटा एकत्र किया जाएगा और डेटाबेस में संग्रहीत किया जाएगा, जो डेटाबेस के उल्लंघन को आकर्षक बनाता है। हालांकि, चेन और गंगोपाध्याय मानते हैं कि जब सही तरीके से उपयोग किया जाता है, तो एआई इन मुद्दों को कम करने में मदद कर सकता है। चेन और गंगोपाध्याय अपने पोस्ट में बताते हैं कि एआई से जुड़े गोपनीयता जोखिम कम से कम दो अलग-अलग स्रोतों से आते हैं। पहला स्रोत वे बड़े डेटासेट हैं जो न्यूरल नेटवर्क मॉडल को प्रशिक्षित करने के लिए एकत्र किए जाते हैं, जबकि दूसरा गोपनीयता खतरा स्वयं मॉडल है। डेटा इन मॉडल्स से संभावित रूप से “लीक” हो सकता है, मॉडल के व्यवहार से प्रशिक्षण डेटा के बारे में विवरण दिया जा सकता है। गहरे न्यूरल नेटवर्क कई परतों के न्यूरॉन्स से बने होते हैं, जिनमें से प्रत्येक परत आसपास की परतों से जुड़ी होती है। व्यक्तिगत न्यूरॉन्स, साथ ही न्यूरॉन्स के बीच लिंक, प्रशिक्षण डेटा के विभिन्न बिट्स के लिए एन्कोड करते हैं। मॉडल प्रशिक्षण डेटा के पैटर्न को याद रखने में बहुत अच्छा साबित हो सकता है, भले ही मॉडल ओवरफिटिंग न हो। नेटवर्क में प्रशिक्षण डेटा के निशान मौजूद हैं और दुर्भाग्यपूर्ण अभिनेता प्रशिक्षण डेटा के पहलुओं का पता लगाने में सक्षम हो सकते हैं, जैसा कि कॉर्नेल विश्वविद्यालय ने अपने एक अध्ययन के दौरान पाया था। कॉर्नेल शोधकर्ताओं ने पाया कि चेहरे की पहचान एल्गोरिदम का शोषण करने वाले हमलावर चेहरे की पहचान मॉडल को प्रशिक्षित करने के लिए उपयोग किए जाने वाले चित्रों और इसलिए लोगों का खुलासा कर सकते हैं। कॉर्नेल शोधकर्ताओं ने पाया कि भले ही हमलावर के पास मूल मॉडल तक पहुंच न हो जो एप्लिकेशन को प्रशिक्षित करने के लिए उपयोग किया गया था, हमलावर अभी भी नेटवर्क की जांच कर सकता है और यह निर्धारित कर सकता है कि क्या एक विशिष्ट व्यक्ति प्रशिक्षण डेटा में शामिल था या नहीं, बस उच्च समानता वाले डेटा पर प्रशिक्षित मॉडल का उपयोग करके। कुछ एआई मॉडल वर्तमान में डेटा उल्लंघनों के खिलाफ सुरक्षा करने और लोगों की गोपनीयता सुनिश्चित करने के लिए उपयोग किए जा रहे हैं। एआई मॉडल अक्सर हैकर्स द्वारा सुरक्षा विधियों में प्रवेश करने के लिए उपयोग किए जाने वाले व्यवहार के पैटर्न को पहचानकर हैकिंग प्रयासों का पता लगाने के लिए उपयोग किए जाते हैं। हालांकि, हैकर अक्सर अपने व्यवहार को बदल देते हैं ताकि पैटर्न-विशेषज्ञ एआई को धोखा दिया जा सके। एआई प्रशिक्षण और विकास के नए तरीके एआई मॉडल और अनुप्रयोगों को हैकिंग विधियों और सुरक्षा बचाव रणनीतियों के प्रति कम असुरक्षित बनाने का लक्ष्य रखते हैं। प्रतिकूल शिक्षा एआई मॉडल को हानिकारक या हानिकारक इनपुट के सिमुलेशन पर प्रशिक्षित करने का प्रयास करती है और इस प्रकार मॉडल को शोषण के लिए अधिक मजबूत बनाती है, इसलिए नाम में “प्रतिकूल” है। चेन और गंगोपाध्याय के अनुसार, उनके शोध ने पाया है कि लोगों की निजी जानकारी चोरी करने के लिए डिज़ाइन किए गए मैलवेयर का मुकाबला करने के तरीके। दो शोधकर्ताओं ने समझाया कि उन्होंने पाया कि मॉडल में अनिश्चितता की शुरुआत मैलवेयर का विरोध करने में सबसे प्रभावी तरीकों में से एक था। लक्ष्य यह बनाना है कि बुरे अभिनेता को यह अनुमान लगाना मुश्किल हो कि मॉडल किसी भी दिए गए इनपुट के लिए कैसे प्रतिक्रिया देगा। गोपनीयता की रक्षा के लिए एआई का उपयोग करने के अन्य तरीकों में मॉडल बनाते और प्रशिक्षित करते समय डेटा एक्सपोजर को कम करना शामिल है, साथ ही नेटवर्क की कमजोरियों का पता लगाने के लिए जांच करना भी शामिल है। जब डेटा गोपनीयता को बनाए रखने की बात आती है, तो संघीय शिक्षा संवेदनशील डेटा की गोपनीयता की रक्षा में मदद कर सकती है, क्योंकि यह मॉडल को प्रशिक्षित करने की अनुमति देती है बिना प्रशिक्षण डेटा को स्थानीय उपकरणों को छोड़े जो डेटा को संग्रहीत करते हैं, जिससे डेटा और मॉडल के कई पैरामीटर को जासूसी से बचाया जा सकता है। अंततः, चेन और गंगोपाध्याय तर्क देते हैं कि जबकि एआई का प्रसार लोगों की गोपनीयता के लिए नए खतरे पैदा करता है, एआई देखभाल और विचार के साथ डिज़ाइन किए जाने पर गोपनीयता की रक्षा में मदद कर सकता है।