जीएएन जनरेटर्स के लिए स्रोत डेटा की पुनः पहचान

फ्रांस से नए शोध ने सिंथेटिक रूप से उत्पन्न डेटा में योगदान देने वाली स्रोत पहचानों को ‘पुनः पहचान’ करने की एक तकनीक का प्रस्ताव दिया है, जैसे कि जीएएन-जनरेटेड ‘गैर-मौजूद लोग’ चेहरा उत्पन्न करने वाली परियोजनाओं में यह व्यक्ति मौजूद नहीं है।

इस पेपर में वर्णित विधि, जिसका शीर्षक यह व्यक्ति (संभवतः) मौजूद है। जीएएन जनरेटेड चेहरों के खिलाफ पहचान सदस्यता हमले है, को प्रशिक्षण संरचना या मॉडल डेटा तक पहुंच की आवश्यकता नहीं होती है, और इसका उपयोग विभिन्न अनुप्रयोगों के लिए किया जा सकता है जिनके लिए जेनरेटिव एडवर्सेरियल नेटवर्क (जीएएन) का उपयोग व्यक्तिगत रूप से पहचान योग्य जानकारी (पीआईआई) को अज्ञात करने या स्रोत सामग्री की रक्षा करते हुए सिंथेटिक डेटा उत्पन्न करने के तरीके के रूप में किया जा रहा है।

शोधकर्ताओं ने एक विधि का गठन किया है जिसे पहचान सदस्यता हमला कहा जाता है, जो एक योगदान देने वाले डेटासेट में एक ही पहचान के बार-बार दिखाई देने की संभावना का मूल्यांकन करता है, न कि एक पहचान की विशिष्ट विशेषताओं (यानी, मूल छवि के पिक्सेल समूहों पर) पर ध्यान केंद्रित करता है जो प्रशिक्षण मॉडल को प्रशिक्षित करने के लिए उपयोग किया गया था।

स्रोत: https://arxiv.org/pdf/2107.06018.pdf

उपरोक्त छवि में, शोध से, प्रत्येक पंक्ति स्टाइलजीएन द्वारा बनाई गई जीएएन-जनरेटेड छवि से शुरू होती है। बायें ब्लॉक की छवियां 40,000 छवियों के डेटाबेस से, मध्य ब्लॉक 80,000 से, और दायें ब्लॉक 46,000 छवियों से बनाई गई हैं। सभी छवियां वीजीजी2फेस2 डेटासेट से हैं।

कुछ नमूनों में एक क्षणभंगुर समानता है, जबकि अन्य प्रशिक्षण डेटा से मजबूत रूप से संबंधित हैं। शोधकर्ताओं ने चेहरा पहचान नेटवर्क का उपयोग करके चेहरों की सफलतापूर्वक पहचान की।

केवल चेहरे का मूल्य से अधिक

इस प्रकार की पुनः पहचान विधियों का कई शोध क्षेत्रों में कई प्रभाव हैं; नॉरमंडी में कान विश्वविद्यालय में स्थित शोधकर्ता, उनकी तकनीक को चेहरा-सेट और चेहरा उत्पन्न करने वाले जीएएन फ्रेमवर्क तक सीमित नहीं है, बल्कि यह चिकित्सा इमेजिंग डेटासेट और जैवमेट्रिक डेटा सहित अन्य संभावित हमले के क्षेत्रों में भी लागू होती है।

‘हमें लगता है कि यदि सफल होता है, तो ऐसा हमला संवेदनशील संदर्भों में जीएएन के सुरक्षित आदान-प्रदान के लिए एक गंभीर बाधा के रूप में प्रकट होगा। उदाहरण के लिए, चित्रों या अन्य कला के टुकड़ों के संदर्भ में, एक गैर-निजी जनरेटर का वितरण स्पष्ट कॉपीराइट मुद्दों के लिए नियमित हो सकता है। अधिक महत्वपूर्ण बात यह है कि एक जैवमेट्रिक कंपनी ए को अपने उपभोक्ता पहचान को उजागर करने वाला एक जनरेटर जारी करने पर विचार करें। कंपनी बी संभावित रूप से पता लगा सकती है कि उनके ग्राहकों में से कौन कंपनी ए के ग्राहक भी हैं। इसी तरह की स्थितियां चिकित्सा डेटा के लिए गंभीर मुद्दे पैदा कर सकती हैं, जहां जीएएन का खुलासा एक रोगी की बीमारी के बारे में व्यक्तिगत जानकारी का उल्लंघन कर सकता है।’

अवैध रूप से वेब-स्क्रैप्ड या निजी डेटा की पुनः पहचान

हालांकि पेपर इस विषय पर हल्के से छूता है, मूल स्रोत डेटा (जैसे जीएएन-जनरेटेड चेहरे, हालांकि यह समान रूप से एन्कोडर/डीकोडर प्रणालियों और अन्य वास्तुकला के लिए लागू होता है) से अमूर्त आउटपुट की पहचान करने की क्षमता का नोटable प्रभाव है आगामी 5-10 वर्षों में कॉपीराइट संरक्षण कार्यान्वयन के लिए।

वर्तमान में अधिकांश देश सार्वजनिक रूप से सामने आने वाले वेब डेटा को स्क्रैप करने के लिए एक लैसेज़ फेयर दृष्टिकोण पर काम कर रहे हैं ताकि वे मशीन लर्निंग अर्थव्यवस्थाओं के विकास के चरण में पीछे न रह जाएं। जैसे ही यह जलवायु व्यावसायिक होती है और समेकित होती है, ‘डेटा ट्रोल’ की एक नई पीढ़ी के लिए महत्वपूर्ण संभावना है जो ऐतिहासिक रूप से मशीन लर्निंग अल्गोरिदम में योगदान देने वाले डेटासेट में उपयोग की जाने वाली छवियों पर कॉपीराइट दावे प्रस्तुत कर सकती है।

जैसे ही विकसित अल्गोरिदम परिपक्व होते हैं और समय के साथ अधिक मूल्यवान होते हैं, किसी भी गैर-अनुमत छवि जो उनके प्रारंभिक विकास में उपयोग की जाती थी और जिसे इस फ्रांसीसी पेपर में प्रस्तावित तरीकों के समान द्वारा उनके आउटपुट से अनुमानित किया जा सकता है, एक संभावित कानूनी देयता है जो एससीओ बनाम आईबीएम (एक प्रसिद्ध रूप से लंबे समय तक चलने वाले प्रौद्योगिकी मुकदमा जो लिनक्स ऑपरेटिंग सिस्टम को अभी भी धमकी देता है) के पैमाने पर है।

विविधता बनाम आवृत्ति के मेक्सिकन स्टैंड-ऑफ का शोषण

फ्रांसीसी शोधकर्ताओं द्वारा उपयोग की जाने वाली प्राथमिक तकनीक मूल डेटासेट छवियों की आवृत्ति का शोषण करती है जो पुनः पहचान की कुंजी है। जितनी बार एक विशिष्ट पहचान डेटासेट में पाई जाती है, उतनी ही अधिक संभावना है कि मूल पहचान की पहचान करना संभव होगा, हमले के परिणामों को सार्वजनिक रूप से या निजी तौर पर उपलब्ध डेटासेट के साथ संबंधित करके।

शोधकर्ता ध्यान देते हैं कि इसे मूल डेटासेट में डेटा (जैसे चेहरों) की विविधता को शामिल करके और डेटासेट को इतनी देर तक प्रशिक्षित नहीं करने से रोका जा सकता है कि ओवरफिटिंग हो। समस्या यह है कि मॉडल को तब एक बहुत अधिक आयामी स्थान में अच्छा सabstractन प्राप्त करना होगा, और सिंथेटिक परिणाम प्राप्त करने के लिए सख्ती से आवश्यक डेटा से अधिक डेटा के साथ।

इस प्रकार के सामान्यीकरण को प्राप्त करना महंगा और समय लेने वाला है: लैटेंट स्पेस (मशीन लर्निंग मॉडल का सूत्रीय विश्लेषण भाग जिसमें डेटा फीड किया जाता है) को अधिक संसाधनों की आवश्यकता होगी; डेटासेट को अधिक क्यूरेशन की आवश्यकता होगी; और चूंकि डेटा की मात्रा महत्वपूर्ण होनी चाहिए, बैच आकार और दर अनुसूची को गुणवत्ता और उच्च स्तर के सामान्यीकरण के लिए अनुकूलित किया जाना चाहिए, न कि प्रशिक्षण की गति और अर्थव्यवस्था के लिए, जिससे विकास लागत और विकास समय अधिक होंगे।

इसके अलावा, ओवरफिटेड जेनरेटिव अल्गोरिदम उच्च वास्तविक सिंथेटिक डेटा प्राप्त कर सकते हैं, भले ही आउटपुट डेटा (यानी, चेहरे, मानचित्र, जैव चिकित्सा छवियां, आदि) पूरी तरह से अमूर्त नहीं है, लेकिन स्रोत डेटा से बड़ी विशिष्ट विशेषताएं हैं जो आदर्श से अधिक होंगी – एक प्रलोभनदायक शॉर्टकट। वर्तमान ‘वाइल्ड वेस्ट’ जलवायु में मशीन लर्निंग क्षेत्र, जहां छोटे प्रयास फांग के नेतृत्व को कम संसाधनों के साथ चुनौती देने का प्रयास कर रहे हैं (या फिर खरीदने के लिए ध्यान आकर्षित करने के लिए), यह प्रश्न उठता है कि क्या मानक हमेशा इतनी ऊंचाई तक पहुंचते हैं।

पेपर यह भी देखता है कि स्रोत डेटा बिंदुओं (जैसे चेहरों) की विविधता स्वयं ही पुनः पहचान को रोकने के लिए पर्याप्त नहीं है, क्योंकि प्रशिक्षण का जल्दी रोकना स्रोत पहचानों को पर्याप्त रूप से अमूर्त नहीं छोड़ सकता है।