शोधकर्ता मानते हैं कि एआई का उपयोग लोगों की गोपनीयता की रक्षा करने के लिए किया जा सकता है

सूचना विज्ञान के दो प्रोफेसरों ने हाल ही में एक लेख में तर्क दिया है कि एआई लोगों की गोपनीयता की रक्षा करने में मदद कर सकता है, जो कि यह कुछ मुद्दों को हल कर सकता है जो यह बना चुका है।

ज़ियुआन चेन और आर्य गंगोपाध्याय का तर्क है कि कृत्रिम बुद्धिमत्ता एल्गोरिदम लोगों की गोपनीयता की रक्षा करने के लिए उपयोग किए जा सकते हैं, जो कि अन्य एआई के उपयोग से उत्पन्न कई गोपनीयता चिंताओं को दूर करने में मदद कर सकते हैं। चेन और गंगोपाध्याय स्वीकार करते हैं कि हम जिन एआई-चालित उत्पादों का उपयोग सुविधा के लिए करते हैं, वे बड़ी मात्रा में डेटा तक पहुंच के बिना काम नहीं करेंगे, जो पहली नज़र में गोपनीयता की रक्षा के प्रयासों के विपरीत लगता है। इसके अलावा, जब एआई अधिक से अधिक उद्योगों और अनुप्रयोगों में फैलता है, तो अधिक डेटा एकत्र किया जाएगा और डेटाबेस में संग्रहीत किया जाएगा, जो उन डेटाबेस के उल्लंघन को आकर्षक बना देगा। हालांकि, चेन और गंगोपाध्याय मानते हैं कि जब सही तरीके से उपयोग किया जाता है, तो एआई इन मुद्दों को कम करने में मदद कर सकता है।

चेन और गंगोपाध्याय अपने लेख में बताते हैं कि एआई से जुड़े गोपनीयता जोखिम कम से कम दो अलग-अलग स्रोतों से आते हैं। पहला स्रोत बड़े डेटासेट हैं जो न्यूरल नेटवर्क मॉडल को प्रशिक्षित करने के लिए एकत्र किए जाते हैं, जबकि दूसरा गोपनीयता खतरा मॉडल खुद है। डेटा इन मॉडल्स से “लीक” हो सकता है, जिससे मॉडल के व्यवहार से प्रशिक्षण डेटा के बारे में विवरण मिल सकते हैं।

गहरे न्यूरल नेटवर्क में कई परतें होती हैं, जिनमें से प्रत्येक परत आसपास की परतों से जुड़ी होती है। व्यक्तिगत न्यूरॉन, साथ ही न्यूरॉन के बीच के लिंक, प्रशिक्षण डेटा के विभिन्न बिट्स को एन्कोड करते हैं। मॉडल प्रशिक्षण डेटा के पैटर्न को याद रखने में बहुत अच्छा साबित हो सकता है, भले ही मॉडल ओवरफिटिंग न हो। प्रशिक्षण डेटा के निशान नेटवर्क में मौजूद होते हैं और दुर्भाग्यपूर्ण अभिनेता प्रशिक्षण डेटा के पहलुओं का पता लगाने में सक्षम हो सकते हैं, जैसा कि कॉर्नेल विश्वविद्यालय एक अध्ययन में पाया गया था। कॉर्नेल शोधकर्ताओं ने पाया कि चेहरे की पहचान एल्गोरिदम को हमलावरों द्वारा चेहरे की पहचान मॉडल को प्रशिक्षित करने के लिए उपयोग की जाने वाली छवियों को प्रकट करने के लिए शोषण किया जा सकता है, और इसलिए जिन लोगों का उपयोग किया गया था। कॉर्नेल शोधकर्ताओं ने यह भी पाया कि भले ही हमलावर के पास मूल मॉडल तक पहुंच न हो, जिसका उपयोग एप्लिकेशन को प्रशिक्षित करने के लिए किया गया था, हमलावर अभी भी नेटवर्क को छेद सकता है और यह निर्धारित कर सकता है कि क्या एक विशिष्ट व्यक्ति प्रशिक्षण डेटा में शामिल था, बस उन मॉडलों का उपयोग करके जो बहुत समान डेटा पर प्रशिक्षित थे।

कुछ एआई मॉडल वर्तमान में डेटा उल्लंघनों के खिलाफ रक्षा करने और लोगों की गोपनीयता सुनिश्चित करने के लिए उपयोग किए जा रहे हैं। एआई मॉडल अक्सर हैकिंग प्रयासों का पता लगाने के लिए उपयोग किए जाते हैं जो सुरक्षा विधियों में प्रवेश करने के लिए हैकर्स द्वारा उपयोग किए जाने वाले व्यवहार के पैटर्न को पहचानते हैं। हालांकि, हैकर अक्सर अपने व्यवहार को बदल देते हैं ताकि पैटर्न-पता लगाने वाले एआई को चकमा दिया जा सके।

एआई प्रशिक्षण और विकास के नए तरीके एआई मॉडल और अनुप्रयोगों को हैकिंग तरीकों और सुरक्षा बचाव रणनीतियों के लिए कम असुरक्षित बनाने का लक्ष्य रखते हैं। विरोधी शिक्षा एआई मॉडल को हानिकारक या हानिकारक इनपुट के सिमुलेशन पर प्रशिक्षित करने का प्रयास करती है और इस प्रकार मॉडल को शोषण के लिए अधिक मजबूत बनाती है, इसलिए “विरोधी” नाम में। चेन और गंगोपाध्याय के अनुसार, उनके शोध ने लोगों की निजी जानकारी चोरी करने के लिए डिज़ाइन किए गए मैलवेयर से लड़ने के तरीके खोजे हैं। दो शोधकर्ताओं ने समझाया कि उन्होंने जो सबसे प्रभावी तरीका पाया वह मॉडल में अनिश्चितता की शुरुआत थी। लक्ष्य यह बनाना है कि यह दुर्भाग्यपूर्ण अभिनेताओं के लिए यह अनुमान लगाना अधिक कठिन हो जाए कि मॉडल किसी भी दिए गए इनपुट के लिए कैसे प्रतिक्रिया करेगा।

गोपनीयता की रक्षा के लिए एआई का उपयोग करने के अन्य तरीकों में मॉडल बनाते और प्रशिक्षित करते समय डेटा एक्सपोजर को कम करना शामिल है, साथ ही नेटवर्क की कमजोरियों का पता लगाने के लिए छेद करना भी शामिल है। जब डेटा गोपनीयता की रक्षा की बात आती है, तो संघीय शिक्षा डेटा की गोपनीयता की रक्षा में मदद कर सकती है, क्योंकि यह मॉडल को प्रशिक्षित करने की अनुमति देती है बिना प्रशिक्षण डेटा को स्थानीय उपकरणों से बाहर निकाले जो डेटा को प्रशिक्षित करते हैं, डेटा को छिपाते हैं और मॉडल के अधिकांश पैरामीटर को जासूसी से बचाते हैं।

अंततः, चेन और गंगोपाध्याय का तर्क है कि जबकि एआई का प्रसार लोगों की गोपनीयता के लिए नए खतरे पैदा कर चुका है, एआई गोपनीयता की रक्षा में भी मदद कर सकता है जब इसे सावधानी और विचार के साथ डिज़ाइन किया जाता है।