गहरे नकली डेटा स्रोतों की पहचान करने के लिए एआई-आधारित टैगिंग का उपयोग

चीन, सिंगापुर और अमेरिका के शोधकर्ताओं के बीच एक सहयोग ने ‘टैगिंग’ चेहरे की तस्वीरों के लिए एक मजबूत प्रणाली का उत्पादन किया है जो इतनी मजबूत है कि पहचान करने वाले चिह्न गहरे नकली प्रशिक्षण प्रक्रिया के दौरान नष्ट नहीं होते हैं, जो कि कृत्रिम छवि पीढ़े प्रणालियों को अवैध रूप से स्क्रैप किए गए स्रोत डेटा को ‘अनाम’ करने की उनकी क्षमता में एक दंत बनाने के लिए आईपी दावों के लिए तरीका प्रदान करता है।

प्रणाली, जिसे फेकटेगर कहा जाता है, एक एनकोडर/डिकोडर प्रक्रिया का उपयोग करके छवियों में दृश्य रूप से अदृश्य आईडी जानकारी को एम्बेड करती है जो इतनी कम स्तर पर होती है कि इंजेक्ट की गई जानकारी को मूल चेहरे की विशेषता डेटा के रूप में व्याख्या की जाएगी, और इसलिए, उदाहरण के लिए, आंख या मुंह डेटा की तरह, अभिव्यक्ति प्रक्रियाओं के माध्यम से सुरक्षित रहेगी।

फेकटेगर आर्किटेक्चर का एक अवलोकन। स्रोत डेटा का उपयोग एक ‘अतिरिक्त’ चेहरे की विशेषता को उत्पन्न करने के लिए किया जाता है, जो एक典ल डीपफेक वर्कफ्लो में मास्क आउट होने वाले पृष्ठभूमि तत्वों को अनदेखा करता है। संदेश प्रक्रिया के दूसरे छोर पर पुनर्प्राप्त किया जा सकता है और एक उपयुक्त पहचान अल्गोरिदम के माध्यम से पहचाना जा सकता है। स्रोत: http://xujuefei.com/felix_acmmm21_faketagger.pdf

शोध चीन के वुहान में साइबर साइंस एंड इंजीनियरिंग स्कूल, चीन के शिक्षा मंत्रालय में एयरोस्पेस इंफॉर्मेशन सिक्योरिटी एंड ट्रस्टेड कंप्यूटिंग के कुंजी प्रयोगशाला, अमेरिका में अलीबाबा ग्रुप, बोस्टन में नॉर्थईस्टर्न यूनिवर्सिटी और सिंगापुर में नानयांग टेक्नोलॉजिकल यूनिवर्सिटी से आया है।

फेकटेगर के साथ प्रायोगिक परिणामों से पता चलता है कि चार सामान्य प्रकार के डीपफेक तरीकों में से लगभग 95% तक पुनः पहचान दर है: पहचान विनिमय (यानी, डीपफेसलैब, फेसस्वैप); चेहरे का पुनर्निर्माण; विशेषता संपादन; और कुल संश्लेषण।

गहरे नकली पता लगाने की कमियां

हालांकि पिछले तीन वर्षों में डीपफेक पहचान विधियों के लिए नए दृष्टिकोणों की एक फसल आई है, लेकिन इन सभी दृष्टिकोणों में डीपफेक वर्कफ्लो की दोषपूर्ण कमियों पर ध्यान केंद्रित किया जाता है, जैसे कि आंख-ग्लिंट कम प्रशिक्षित मॉडल में, और ब्लिंकिंग की कमी पहले डीपफेक में जो पर्याप्त रूप से विविध चेहरे के सेट के साथ नहीं थे। जैसे ही नए कुंजी पहचाने जाते हैं, मुक्त और ओपन सोर्स सॉफ्टवेयर रिपॉजिटरी ने उन्हें दूर कर दिया है, या तो जानबूझकर, या डीपफेक तकनीकों में सुधार के एक उप उत्पाद के रूप में।

नई पेपर यह देखती है कि फेसबुक की सबसे हाल की डीपफेक पहचान प्रतियोगिता (डीएफडीसी) से उत्पन्न सबसे प्रभावी पोस्ट-फैक्टो पता लगाने वाली विधि 70% सटीकता तक सीमित है, जंगली में डीपफेक को पहचानने के संदर्भ में। शोधकर्ता इस प्रतिनिधि विफलता को नए और नवाचार जीएन और एनकोडर/डिकोडर डीपफेक प्रणालियों के खिलाफ खराब सामान्यीकरण और अक्सर डीपफेक प्रतिस्थापन की खराब गुणवत्ता के लिए जिम्मेदार ठहराते हैं।

इस मामले में, यह डीपफेकर्स के हिस्से पर कम गुणवत्ता वाले काम के कारण हो सकता है, या जब वीडियो बैंडविथ लागत को सीमित करने के लिए साझा करने वाले प्लेटफ़ॉर्म पर अपलोड किए जाते हैं तो संपीड़न कलाकृतियों के कारण हो सकता है, और वीडियो को बहुत कम बिट दरों पर पुनः एनकोड करता है जो प्रस्तुतियों की तुलना में है। विडंबना यह है कि न केवल यह छवि डिग्रेडेशन नहीं गहरे नकली की स्पष्ट प्रामाणिकता के साथ हस्तक्षेप करता है, लेकिन यह वास्तव में भ्रम को बढ़ा सकता है, क्योंकि गहरे नकली वीडियो एक सामान्य, कम गुणवत्ता वाले दृश्य आइडियम में शामिल हो जाता है जो प्रामाणिक माना जाता है।

मॉडल इनवर्सन में सहायक के रूप में जीवित टैगिंग

मशीन लर्निंग आउटपुट से स्रोत डेटा की पहचान करना एक अपेक्षाकृत नई और बढ़ती हुई क्षेत्र है, और एक ऐसा क्षेत्र है जो आईपी-आधारित मुकदमेबाजी के एक नए युग को संभव बनाता है, क्योंकि सरकारों के वर्तमान अनुमति स्क्रीन-स्क्रैपिंग विनियमन (जो एक वैश्विक एआई ‘हथियारों की दौड’ के सामने राष्ट्रीय शोध प्रमुखता को रोकने के लिए नहीं हैं) व्यावसायीकरण के रूप में क्षेत्र में सख्त कानून में विकसित होते हैं।

मॉडल इनवर्सन सिंथेसिस प्रणालियों द्वारा उत्पन्न आउटपुट से स्रोत डेटा की पहचान और मैपिंग से संबंधित है, जिसमें प्राकृतिक भाषा पीढ़े (एनएलजी) और छवि संश्लेषण जैसे कई डोमेन शामिल हैं। मॉडल इनवर्सन विशेष रूप से प्रभावी है जो या तो धुंधले, पिक्सेलेटेड, या एक जेनरेटिव एडवर्सेरियल नेटवर्क या एनकोडर/डिकोडर ट्रांसफॉर्मेशन सिस्टम जैसे डीपफेसलैब के अभिव्यक्ति प्रक्रिया के माध्यम से गुजरे चेहरों को पुनः पहचानने में。

नई या मौजूदा चेहरे की छवियों में लक्षित टैगिंग जोड़ना मॉडल इनवर्सन तकनीकों के लिए एक संभावित नए सहायक के रूप में कार्य कर सकता है, जिसमें वॉटरमार्किंग एक उभरता हुआ क्षेत्र है।

पोस्ट-फैक्टो टैगिंग

फेकटेगर को एक पोस्ट-प्रोसेसिंग दृष्टिकोण के रूप में डिज़ाइन किया गया है। उदाहरण के लिए, जब एक उपयोगकर्ता एक सोशल नेटवर्क (जो आमतौर पर कुछ प्रकार की अनुकूलन प्रक्रिया को शामिल करता है, और शायद ही कभी मूल छवि का सीधा और अनदेखा हस्तांतरण) पर एक फोटो अपलोड करता है, तो अल्गोरिदम छवि को संसाधित करेगा ताकि चेहरे पर कथित तौर पर अविनाशी विशेषताओं को लागू किया जा सके।

वैकल्पिक रूप से, अल्गोरिदम को ऐतिहासिक छवि संग्रहों में लागू किया जा सकता है, जैसा कि पिछले बीस वर्षों में कई बार हुआ है, जब बड़े स्टॉक फोटो और व्यावसायिक छवि संग्रह साइटों ने विधियों की तलाश की है जो बिना अनुमति के पुनः उपयोग किए गए सामग्री की पहचान करने के लिए।

फेकटेगर विभिन्न गहरे नकली प्रक्रियाओं से पुनर्प्राप्त करने योग्य आईडी विशेषताओं को एम्बेड करने का प्रयास करता है।

विकास और परीक्षण

शोधकर्ताओं ने फेकटेगर का परीक्षण कई गहरे नकली सॉफ्टवेयर अनुप्रयोगों के खिलाफ किया, जिनमें सबसे व्यापक रूप से उपयोग किया जाने वाला रिपॉजिटरी, डीपफेसलैब; स्टैनफोर्ड का फेस2फेस, जो चेहरे के भावों को छवियों और पहचानों में स्थानांतरित कर सकता है; और एसटीजीएन, जो चेहरे की विशेषताओं को संपादित कर सकता है।

परीक्षण सेलेबा-एचक्यू के साथ किया गया था, जो 1024 x 1024 पिक्सेल तक विभिन्न रिज़ॉल्यूशन पर 30,000 चेहरे की छवियों वाला एक लोकप्रिय स्क्रैप्ड सार्वजनिक रिपॉजिटरी है।

एक बेसलाइन के रूप में, शोधकर्ताओं ने पहले पारंपरिक छवि वॉटरमार्किंग तकनीकों का परीक्षण किया, यह देखने के लिए कि क्या लगाए गए टैग गहरे नकली वर्कफ्लो की प्रशिक्षण प्रक्रियाओं को बचा पाएंगे, लेकिन तरीकों ने सभी चार दृष्टिकोणों में विफल रहे।

फेकटेगर के एम्बेडेड डेटा को 2015 में जारी बायोमेडिकल इमेज सेगमेंटेशन के लिए यू-नेट कन्वोल्यूशनल नेटवर्क पर आधारित एक आर्किटेक्चर का उपयोग करके फेस-सेट छवियों में एनकोडर चरण में इंजेक्ट किया गया था। इसके बाद, फ्रेमवर्क का डिकोडर खंड एम्बेडेड जानकारी को खोजने के लिए प्रशिक्षित किया गया था।

प्रक्रिया को एक जीएन सिम्युलेटर में परीक्षण किया गया था जिसने उक्त फॉस सॉफ्टवेयर/अल्गोरिदम का लाभ उठाया था, एक ब्लैक बॉक्स सेटिंग में प्रत्येक प्रणाली के वर्कफ्लो तक विशिष्ट या विशेष पहुंच के बिना। सेलिब्रिटी छवियों से संबंधित डेटा के रूप में छवियों से जुड़े यादृच्छिक संकेतों को जोड़ा गया और लॉग किया गया।

एक ब्लैक बॉक्स सेटिंग में, फेकटेगर ने चार अनुप्रयोगों के दृष्टिकोणों में 88.95% से अधिक की सटीकता हासिल की। एक समानांतर व्हाइट-बॉक्स परिदृश्य में, सटीकता लगभग 100% तक बढ़ गई। हालांकि, यह सुझाव देता है कि फेकटेगर को सीधे एकीकृत करने वाले भविष्य के डीपफेक सॉफ्टवेयर के संस्करण, यह एक निकट भविष्य में एक असंभावित परिदृश्य है।

लागत की गणना

शोधकर्ता यह नोट करते हैं कि फेकटेगर के लिए सबसे चुनौतीपूर्ण परिदृश्य पूर्ण छवि संश्लेषण है, जैसे कि सीएलआईपी-आधारित अमूर्त पीढ़े, क्योंकि इनपुट प्रशिक्षण डेटा इस मामले में गहरे स्तरों के अभिव्यक्ति के अधीन है। हालांकि, यह उन गहरे नकली वर्कफ्लो पर लागू नहीं होता है जिन्होंने पिछले कई वर्षों में हेडलाइंस को बनाया है, क्योंकि वे विश्वासपात्र चेहरे की विशेषताओं के पुनरुत्पादन पर निर्भर करते हैं।

पेपर यह भी नोट करता है कि विरोधी हमलावर संभावित रूप से फेकटेगर जैसी टैगिंग प्रणाली को विफल करने के लिए कृत्रिम शोर और ग्रेन जैसी विकृतियों को जोड़ने का प्रयास कर सकते हैं, हालांकि यह संभवतः गहरे नकली आउटपुट की प्रामाणिकता पर हानिकारक प्रभाव डालेगा।

इसके अलावा, वे यह नोट करते हैं कि फेकटेगर को एम्बेड की गई टैग की बचत सुनिश्चित करने के लिए छवियों में अतिरिक्त डेटा जोड़ने की आवश्यकता है, और यह पैमाने पर एक उल्लेखनीय गणनात्मक लागत हो सकती है।

लेखक यह नोट करते हुए निष्कर्ष निकालते हैं कि फेकटेगर को अन्य डोमेन में प्रोवेनेंस ट्रैकिंग के लिए संभावित हो सकता है, जैसे कि विरोधी बारिश हमले और अन्य प्रकार के छवि-आधारित हमले, जैसे कि विरोधी एक्सपोजर, धुंध, धुंधलापन, विगनेटिंग और रंग-जिटरिंग। और यह कि फेकटेगर में पैमाने पर एक उल्लेखनीय गणनात्मक लागत हो सकती है।