वास्तविक पहचान सिंथेटिक डेटासेट से पुनर्प्राप्त की जा सकती है

यदि 2022 ने जनरेटिव एआई की विघटनकारी क्षमता को पहली बार व्यापक सार्वजनिक ध्यान में लाया, तो 2024 वह वर्ष है जब इसके अंतर्निहित डेटा की कानूनी स्थिति के बारे में प्रश्न व्यवसायों के लिए इसकी शक्ति का दोहन करने के लिए उत्सुक हो गए हैं।

संयुक्त राज्य अमेरिका का न्यायसंगत उपयोग सिद्धांत, साथ ही साथ उस अंतर्निहित अनुमानित लाइसेंस ने जो लंबे समय से अकादमिक और वाणिज्यिक अनुसंधान क्षेत्रों को जनरेटिव एआई की खोज करने की अनुमति दी थी, बढ़ते प्लेगियारिज़म के साक्ष्य के सामने बढ़ते हुए अस्थिर हो गया। इसके बाद, अमेरिका ने, इस समय के लिए, अनुमति दी एआई-जनरेटेड सामग्री को कॉपीराइट नहीं किया जा सकता है।

इन मामलों का निपटारा अभी भी दूर है; 2023 में, आंशिक रूप से बढ़ती मीडिया और सार्वजनिक चिंता के कारण एआई-जनरेटेड आउटपुट की कानूनी स्थिति के बारे में, अमेरिकी कॉपीराइट कार्यालय ने इस पहलू पर जनरेटिव एआई की जांच शुरू की, जुलाई 2024 में पहला खंड (डिजिटल प्रतिकृतियों से संबंधित) प्रकाशित किया।

इस बीच, व्यवसायिक हितों को यह संभावना से निराश किया जाता है कि वे महंगे मॉडल जिन्हें वे शोषण करना चाहते हैं वे कानूनी परिणामों के लिए उन्हें उजागर कर सकते हैं जब निश्चित कानून और परिभाषाएं अंततः उभरेंगी।

महंगा अल्पकालिक समाधान है जनरेटिव मॉडल को वैध बनाने के लिए जो कंपनियों के पास शोषण करने का अधिकार है। एडोब की टेक्स्ट-टू-इमेज (और अब टेक्स्ट-टू-वीडियो) फायरफ्लाई आर्किटेक्चर मुख्य रूप से इसके फोटोलिया स्टॉक इमेज डेटासेट की खरीद से संचालित होता है। 2014 में, पूरक कॉपीराइट-एक्सपायर्ड सार्वजनिक डोमेन डेटा का उपयोग करके *। उसी समय, शेयरधारक स्टॉक फोटो सप्लायर जैसे गेटी और शटरस्टॉक ने पूंजीकृत अपने लाइसेंस प्राप्त डेटा के नए मूल्य पर, जनरेटिव एआई प्रणालियों के विकास के लिए एक बढ़ती संख्या में सौदों के साथ या अपने स्वयं के आईपी-अनुरूप जेनएआई सिस्टम।

सिंथेटिक समाधान

चूंकि एक एआई मॉडल के प्रशिक्षित लेटेंट स्पेस से कॉपीराइट किए गए डेटा को हटाना समस्याओं से भरा हुआ है, इस क्षेत्र में गलतियां संभावित रूप से कंपनियों के लिए बहुत महंगी हो सकती हैं जो मशीन लर्निंग का उपयोग करती हैं।

एक विकल्प, और कंप्यूटर विजन सिस्टम (और भी बड़े भाषा मॉडल, या एलएलएम) के लिए बहुत सस्ता समाधान है, सिंथेटिक डेटा का उपयोग करना है, जहां डेटासेट यादृच्छिक रूप से उत्पन्न उदाहरणों से बना होता है लक्ष्य डोमेन (जैसे चेहरे, बिल्लियों, चर्चों या यहां तक कि एक अधिक सामान्य डेटासेट) का।

साइटें जैसे कि thispersondoesnotexist.com ने पहले ही यह विचार लोकप्रिय बना दिया है कि प्रामाणिक दिखने वाली ‘अवास्तविक’ लोगों की तस्वीरें सिंथेटिक की जा सकती हैं (इस मामले में, जनरेटिव एडवर्सेरियल नेटवर्क, या जीएएन के माध्यम से) वास्तविक दुनिया में वास्तव में मौजूद लोगों से कोई संबंध नहीं है।

अतः, यदि आप एक चेहरा पहचान प्रणाली या एक जनरेटिव प्रणाली को ऐसे अमूर्त और अवास्तविक उदाहरणों पर प्रशिक्षित करते हैं, तो आप सिद्धांत रूप में एक फोटोरियलिस्टिक मानक की उत्पादकता प्राप्त कर सकते हैं एक एआई मॉडल के लिए कानूनी रूप से उपयोग किए जाने वाले डेटा पर विचार किए बिना।

संतुलन कार्य

समस्या यह है कि सिंथेटिक डेटा का उत्पादन करने वाली प्रणालियां स्वयं वास्तविक डेटा पर प्रशिक्षित होती हैं। यदि उस डेटा के निशान सिंथेटिक डेटा में रिसाव होते हैं, तो यह संभावित रूप से प्रतिबंधित या अन्यथा अनधिकृत सामग्री के शोषण के लिए साक्ष्य प्रदान करता है मौद्रिक लाभ के लिए।

इससे बचने के लिए, और वास्तव में ‘यादृच्छिक’ इमेजरी का उत्पादन करने के लिए, ऐसे मॉडलों को यह सुनिश्चित करने की आवश्यकता है कि वे अच्छी तरह से सामान्यीकृत हैं। सामान्यीकरण एक प्रशिक्षित एआई मॉडल की क्षमता का माप है उच्च-स्तरीय अवधारणाओं (जैसे ‘चेहरा’, ‘पुरुष’, या ‘‘महिला’) को समझने के लिए बिना वास्तविक प्रशिक्षण डेटा की प्रतिलिपि बनाए।

दुर्भाग्य से, यह प्रशिक्षित प्रणालियों के लिए विस्तृत विवरण का उत्पादन करना (या पहचानना) मुश्किल हो सकता है जब तक कि यह एक डेटासेट पर व्यापक रूप से प्रशिक्षित न हो। यह प्रणाली को स्मृति के जोखिम के लिए उजागर करता है: एक प्रवृत्ति को पुनः उत्पन्न करने के लिए, कुछ हद तक, प्रशिक्षण डेटा के वास्तविक उदाहरण।

इसे सीखने की दर को अधिक आरामदायक सेट करके या प्रशिक्षण को उस चरण में समाप्त करके कम किया जा सकता है जहां मूल अवधारणाएं अभी भी लचीली हैं और किसी विशिष्ट डेटा बिंदु (जैसे कि एक व्यक्ति की एक विशिष्ट छवि) से जुड़ी नहीं हैं।

हालांकि, इन दोनों उपचारों के परिणामस्वरूप मॉडल में विस्तृत विवरण कम होने की संभावना है, क्योंकि प्रणाली ‘मूल बातों’ से परे नहीं बढ़ पाई और लक्ष्य डोमेन के विशिष्ट तक।

अतः, वैज्ञानिक साहित्य में, बहुत उच्च सीखने की दरें और व्यापक प्रशिक्षण अनुसूची आमतौर पर लागू की जाती हैं। जबकि शोधकर्ता आमतौर पर व्यापक अनुप्रयोग और विस्तृत विवरण के बीच समझौता करने का प्रयास करते हैं, यहां तक कि थोड़ा ‘स्मृति’ वाले प्रणाली अक्सर खुद को अच्छी तरह से सामान्यीकृत के रूप में प्रस्तुत कर सकते हैं – यहां तक कि प्रारंभिक परीक्षणों में।

चेहरा प्रकट

यह हमें स्विट्जरलैंड से एक दिलचस्प नए पत्र में ले जाता है, जो दावा करता है कि यह पहला है जो सिद्ध करता है कि सिंथेटिक डेटा से मूल, वास्तविक छवियां पुनर्प्राप्त की जा सकती हैं जो सिद्धांत रूप में पूरी तरह से यादृच्छिक होनी चाहिए:

मूल (वास्तविक) छवियों से रिसाव चेहरा छवियों का उदाहरण। ऊपरी पंक्ति में, हम मूल (वास्तविक) छवियों को देखते हैं; निचली पंक्ति में, हम यादृच्छिक रूप से उत्पन्न छवियों को देखते हैं, जो वास्तविक छवियों के साथ काफी मेल खाती हैं। स्रोत: https://arxiv.org/pdf/2410.24015

परिणाम, लेखकों का तर्क है, यह दर्शाते हैं कि ‘सिंथेटिक’ जनरेटर वास्तव में अपने प्रशिक्षण डेटा बिंदुओं में से बहुत से को स्मृति में रखा है, विस्तृत विवरण की तलाश में। वे यह भी दर्शाते हैं कि सिंथेटिक डेटा पर निर्भर प्रणालियां जो कानूनी परिणामों से एआई उत्पादकों को बचाने के लिए हैं, इस संबंध में बहुत अविश्वसनीय हो सकती हैं।

शोधकर्ताओं ने छह राज्य-ऑफ-द-आर्ट सिंथेटिक डेटासेट पर व्यापक अध्ययन किया, जिसमें दिखाया गया कि सभी मामलों में, मूल (संभावित रूप से कॉपीराइट या संरक्षित) डेटा पुनर्प्राप्त किया जा सकता है। वे टिप्पणी करते हैं:

‘हमारे प्रयोग से पता चलता है कि राज्य-ऑफ-द-आर्ट सिंथेटिक चेहरा पहचान डेटासेट में नमूने हैं जो उनके जनरेटर मॉडल के प्रशिक्षण डेटा में नमूनों के बहुत करीब हैं। कुछ मामलों में सिंथेटिक नमूने मूल छवि में छोटे बदलाव हैं, हालांकि हम देख सकते हैं कि कुछ मामलों में उत्पन्न नमूने में अधिक परिवर्तन (जैसे कि अलग मुद्रा, प्रकाश स्थिति आदि) है जबकि पहचान संरक्षित है। ‘

‘यह सुझाव देता है कि जनरेटर मॉडल प्रशिक्षण डेटा से पहचान संबंधी जानकारी सीख रहे हैं और स्मृति में रख रहे हैं और समान पहचान उत्पन्न कर सकते हैं। यह गोपनीयता-संवेदनशील कार्यों जैसे कि जैवमेट्रिक्स और चेहरा पहचान में सिंथेटिक डेटा के अनुप्रयोग के बारे में महत्वपूर्ण चिंताएं पैदा करता है।’

पत्र शीर्षक है सिंथेटिक चेहरे का पर्दाफाश: कैसे सिंथेटिक डेटासेट वास्तविक पहचान को उजागर कर सकते हैं, और मार्टिग्नी में इडियाप रिसर्च इंस्टीट्यूट, लॉज़ेन में École Polytechnique Fédérale de Lausanne (EPFL), और लॉज़ेन में Université de Lausanne (UNIL) से दो शोधकर्ताओं के बीच है।

विधि, डेटा और परिणाम

अध्ययन में स्मृति में रखे गए चेहरे सदस्यता अनुमान हमले द्वारा प्रकट किए गए थे। हालांकि यह अवधारणा जटिल लगती है, यह khá स्व-व्याख्यात्मक है: इस संदर्भ में, सदस्यता का अनुमान लगाना डेटा की तलाश में प्रणाली की जांच करने की प्रक्रिया को संदर्भित करता है जो या तो डेटा से मेल खाता है जिसे आप खोज रहे हैं या काफी मेल खाता है।

अध्ययन से प्राप्त डेटा स्रोतों के आगे के उदाहरण। इस मामले में, स्रोत सिंथेटिक छवियां डीसीफेस डेटासेट से हैं।

शोधकर्ताओं ने छह सिंथेटिक डेटासेट का अध्ययन किया जिनके लिए (वास्तविक) डेटासेट स्रोत ज्ञात था। चूंकि दोनों वास्तविक और नकली डेटासेट में बहुत अधिक छवियों की संख्या है, यह प्रभावी रूप से एक तिनके को एक हे स्टैक में खोजने जैसा है।

अतः, लेखकों ने एक ऑफ-द-शेल्फ फेसियल रिकग्निशन मॉडल^† का उपयोग किया जिसमें रेसनेट100 बैकबोन था जो एडाफेस हानि फंक्शन ( वेबफेस12एम डेटासेट पर) पर प्रशिक्षित किया गया था।

छह सिंथेटिक डेटासेट थे: डीसीफेस (एक लेटेंट डिफ्यूजन मॉडल); आईडिफ-फेस (यूनिफ़ॉर्म – एफएफएचक्यू पर आधारित एक डिफ्यूजन मॉडल); आईडिफ-फेस (टू-स्टेज – एक अलग नमूना विधि का उपयोग करने वाला एक संस्करण); जीएनडिफफेस (जेनरेटिव एडवर्सेरियल नेटवर्क और डिफ्यूजन मॉडल पर आधारित, जो स्टाइलजीएन3 का उपयोग करके प्रारंभिक पहचान उत्पन्न करता है, और फिर ड्रीमबूथ का उपयोग करके विविध उदाहरण बनाता है); आईडीनेट (एक जीएन-आधारित विधि जो स्टाइलजीएन-एडीए पर आधारित है); और एसफेस (एक पहचान-सुरक्षित ढांचा)

चूंकि जीएनडिफफेस जीएन और डिफ्यूजन दोनों विधियों का उपयोग करता है, इसलिए इसकी तुलना स्टाइलजीएन – इस नेटवर्क के ‘वास्तविक-चेहरे’ मूल के सबसे करीब से की गई थी।

लेखकों ने सीजीआई के बजाय एआई विधियों का उपयोग करने वाले सिंथेटिक डेटासेट को बाहर कर दिया, और परिणामों का मूल्यांकन करते समय बच्चों के लिए मेल खाने वाले मेलों को छोड़ दिया, क्योंकि इस संबंध में वितरण संबंधी विसंगतियां हैं, साथ ही साथ गैर-चेहरे की छवियां (जो अक्सर चेहरे की तरह वेब-स्क्रैपिंग प्रणालियों द्वारा उत्पन्न वस्तुओं या कलाकृतियों के लिए झूठे सकारात्मक परिणाम पैदा कर सकती हैं)।

कोसाइन समानता सभी पुनर्प्राप्त जोड़ियों के लिए गणना की गई और हिस्टोग्राम में जोड़ दी गई, नीचे दिखाया गया है:

विविध डेटासेट के लिए कोसाइन समानता स्कोर का एक हिस्टोग्राम प्रतिनिधित्व, साथ ही शीर्ष-k जोड़ियों के लिए समानता के मूल्य (डैश्ड ऊर्ध्वाधर रेखाएं)।

समानता की संख्या ग्राफ में स्पाइक्स में प्रतिनिधित्व की जाती है। पत्र में छह डेटासेट और उनके संबंधित अनुमानित छवियों के बीच तुलना के नमूने भी शामिल हैं, जिनमें से कुछ नीचे दिखाए गए हैं:

स्रोत पत्र में पुनरुत्पादित कई उदाहरणों के नमूने, जिसे पाठक को एक अधिक व्यापक चयन के लिए संदर्भित किया जाता है।

पत्र टिप्पणी करता है:

‘[जेनरेटेड] सिंथेटिक डेटासेट में उनके जनरेटर मॉडल के प्रशिक्षण सेट से बहुत समान छवियां हैं, जो पहचान के प्रति चिंता पैदा करती हैं।’

लेखकों का नोट है कि इस दृष्टिकोण के लिए उच्च-वॉल्यूम डेटासेट पर स्केल करना असंभव होगा, क्योंकि आवश्यक गणना अत्यधिक बोझिल होगी। वे आगे देखते हैं कि मेल खाने वाली छवियों को अनुमान लगाने के लिए दृश्य तुलना आवश्यक थी, और स्वचालित चेहरा पहचान अकेले एक बड़े कार्य के लिए पर्याप्त नहीं होगी।

निष्कर्ष

हाल ही में, मीडिया ध्यान एआई मॉडल को एआई-जनरेटेड डेटा पर प्रशिक्षित करने से प्राप्त होने वाले घटते रिटर्न पर जोर दिया गया है।

स्विस शोध, हालांकि, एक विचार को ध्यान में लाता है जो एआई का लाभ उठाने और लाभ कमाने के लिए उत्सुक बढ़ती संख्या में कंपनियों के लिए अधिक दबाव वाला हो सकता है – सिंथेटिक डेटा का उपयोग करने के बावजूद भी आईपी-संरक्षित या अनधिकृत डेटा पैटर्न का बने रहना। यदि हमें इसकी परिभाषा देनी होगी, तो यह मामले में ‘चेहरा धोना’ हो सकता है।

* हालांकि, एडोब के फैसले ने उपयोगकर्ता-अपलोडेड एआई-जनरेटेड छवियों को एडोब स्टॉक में अनुमति देने से इस डेटा की कानूनी ‘शुद्धता’ को प्रभावित किया है। ब्लूमबर्ग दावा किया अप्रैल 2024 में कि मिडजर्नी जनरेटिव एआई सिस्टम से उपयोगकर्ता-सप्लाई की गई छवियां फायरफ्लाई की क्षमताओं में शामिल की गई थीं।

^† यह मॉडल पत्र में पहचाना नहीं जाता है।

पहली बार बुधवार, 6 नवंबर, 2024 को प्रकाशित