डीपफेक वीडियो कॉल्स का पता लगाना मॉनिटर प्रकाश व्यवस्था के माध्यम से

संयुक्त राज्य अमेरिका की नेशनल सिक्योरिटी एजेंसी (एनएसए) के एक शोधकर्ता और कैलिफोर्निया विश्वविद्यालय, बर्कले के बीच एक नए सहयोग से एक नई विधि का पता चला है जो लाइव वीडियो संदर्भ में डीपफेक सामग्री का पता लगाने के लिए – वीडियो कॉल के दूसरे छोर पर व्यक्ति की उपस्थिति पर मॉनिटर प्रकाश के प्रभाव को देखकर।

लोकप्रिय DeepFaceLive उपयोगकर्ता Druuzil Tech & Games अपने अनुयायियों के साथ एक लाइव सत्र में अपने खुद के क्रिस्चियन बेल DeepFaceLab मॉडल का परीक्षण करता है, जबकि प्रकाश स्रोत बदलते हैं। स्रोत: https://www.youtube.com/watch?v=XPQLDnogLKA

सिस्टम काम करता है एक ग्राफिक तत्व को उपयोगकर्ता की स्क्रीन पर रखने से जो एक संकीर्ण रंग श्रृंखला में अपने रंग को तेजी से बदलता है जो एक典型 डीपफेक सिस्टम की प्रतिक्रिया से अधिक तेजी से होता है – यहां तक कि अगर, जैसे कि वास्तविक समय डीपफेक स्ट्रीमिंग कार्यान्वयन DeepFaceLive (ऊपर चित्रित), यह कुछ क्षमता के साथ लाइव रंग स्थानांतरण और परिवेश प्रकाश के लिए खाता है।

सिस्टम का सिद्धांत यह है कि लाइव डीपफेक सिस्टम समय पर परिवर्तनों का जवाब देने में असमर्थ होते हैं जो ऑन-स्क्रीन ग्राफिक में दिखाई देते हैं, जिससे डीपफेक प्रभाव की ‘लैग’ बढ़ जाती है जो कुछ रंग स्पेक्ट्रम के हिस्सों में दिखाई देती है।

कागज़ से, एक उपयोगकर्ता के सामने मॉनिटर से प्रकाश स्थितियों में परिवर्तन का एक चित्रण, जो एक विस्तृत ‘क्षेत्र प्रकाश’ के रूप में कार्य करता है। स्रोत: https://farid.berkeley.edu/downloads/publications/cvpr22a.pdf

सिद्धांत यह है कि लाइव डीपफेक सिस्टम समय पर परिवर्तनों का जवाब देने में असमर्थ होते हैं जो ऑन-स्क्रीन ग्राफिक में दिखाई देते हैं, जिससे डीपफेक प्रभाव की ‘लैग’ बढ़ जाती है जो कुछ रंग स्पेक्ट्रम के हिस्सों में दिखाई देती है।

विश्वास का क्षरण

विरोधी-डीपफेक अनुसंधान दृश्य पिछले छह महीनों में उल्लेखनीय रूप से बदल गया है, सामान्य डीपफेक पता लगाने (अर्थात पूर्व-रिकॉर्ड की गई वीडियो और पोर्नोग्राफिक सामग्री को लक्षित करना) से ‘जीवंतता’ पता लगाने की ओर, वीडियो कॉन्फ्रेंस कॉल में डीपफेक के उपयोग की बढ़ती लहर के जवाब में और एफबीआई की हालिया चेतावनी के बारे में दूरस्थ काम के लिए ऐसी प्रौद्योगिकियों का उपयोग करने के बारे में।

यहां तक कि जहां एक वीडियो कॉल वास्तव में डीपफेक नहीं होता है, एआई-संचालित वीडियो प्रतिरूपणकर्ताओं के लिए बढ़ते अवसर पैरानोइड जेनरेट करना शुरू कर रहे हैं।

नई कागज़ के अनुसार:

‘वास्तविक समय डीप फेक [विशिष्ट खतरे पैदा करते हैं] क्योंकि लाइव वीडियो या फोन कॉल के आसपास सामान्य विश्वास की भावना है, और कॉल के समय डीप फेक का पता लगाने की चुनौती के कारण।’

अनुसंधान समुदाय ने लंबे समय से खुद को डीपफेक सामग्री के लिए अटूट संकेत खोजने का लक्ष्य निर्धारित किया है जो आसानी से मुआवजा नहीं दिया जा सकता है। हालांकि मीडिया ने आमतौर पर इसे सुरक्षा शोधकर्ताओं और डीपफेक डेवलपर्स के बीच एक प्रौद्योगिकी युद्ध के रूप में वर्णित किया है, अधिकांश पहले दृष्टिकोणों (जैसे आंख की झपकी विश्लेषण, सिर की मुद्रा का भेद, और व्यवहार विश्लेषण) को नकार दिया गया है क्योंकि डेवलपर और उपयोगकर्ता सामान्य रूप से अधिक वास्तविक डीपफेक बनाने की कोशिश कर रहे थे, न कि सुरक्षा समुदाय द्वारा पहचाने गए नवीनतम ‘टेल’ का सामना करने के लिए।

लाइव डीपफेक वीडियो पर प्रकाश डालना

लाइव वीडियो वातावरण में डीपफेक का पता लगाना खराब वीडियो कनेक्शन के लिए खाते का बोझ लेता है, जो वीडियो-कॉन्फ्रेंसिंग परिदृश्यों में बहुत आम है। यहां तक कि बिना किसी हस्तक्षेप डीपफेक परत के, वीडियो सामग्री नासा शैली की देरी, रेंडरिंग आर्टिफैक्ट, और ऑडियो और वीडियो में अन्य प्रकार के क्षय के अधीन हो सकती है। ये डीपफेकिंग आर्किटेक्चर में खुरदरी धारों को छिपाने के लिए काम कर सकते हैं, दोनों वीडियो और ऑडियो डीपफेक दोनों में।

लेखकों की नई प्रणाली 2020 प्रकाशन में प्रदर्शित परिणामों और तरीकों में सुधार करती है फिलाडेल्फिया में टेम्पल विश्वविद्यालय के नेटवर्क्ड कंप्यूटिंग सेंटर से।

2020 के कागज़ से, उपयोगकर्ता की स्क्रीन की सामग्री के रूप में चेहरे की रोशनी में परिवर्तन का अवलोकन किया जा सकता है। स्रोत: https://cis.temple.edu/~jiewu/research/publications/Publication_files/FakeFace__ICDCS_2020.pdf

नई कार्य में अंतर यह है कि यह वेबकैम के प्रति प्रकाश परिवर्तनों के प्रति प्रतिक्रिया को ध्यान में रखता है। लेखकों का वर्णन है:

‘क्योंकि सभी आधुनिक वेबकैम ऑटो एक्सपोज़र करते हैं, उच्च तीव्रता वाले सक्रिय प्रकाश व्यवस्था [पिछले कार्य में उपयोग किया जाता है] संभवतः कैमरे के ऑटो एक्सपोज़र को ट्रिगर करेगा, जो बदले में रिकॉर्ड की गई चेहरे की उपस्थिति को भ्रमित करेगा। इसे避ने के लिए, हम एक सक्रिय प्रकाश व्यवस्था का उपयोग करते हैं जिसमें एक ह्यू में एक आइसोल्यूमिनेंट परिवर्तन होता है। ‘

‘जबकि यह कैमरे के ऑटो एक्सपोज़र से बचाता है, यह कैमरे के व्हाइट बैलेंसिंग को ट्रिगर कर सकता है जो फिर से रिकॉर्ड की गई चेहरे की उपस्थिति को भ्रमित करेगा। इसेavoid करने के लिए, हम एक ह्यू श्रृंखला में काम करते हैं जिसे हमने सांख्यिकीय रूप से निर्धारित किया है जो व्हाइट बैलेंसिंग को ट्रिगर नहीं करता है।’

इस पहल के लिए, लेखकों ने इसी तरह के पिछले प्रयासों पर भी विचार किया, जैसे LiveScreen, जो एक अस्पष्ट प्रकाश पैटर्न को अंतिम उपयोगकर्ता के मॉनिटर पर मजबूर करता है ताकि डीपफेक सामग्री का पता लगाया जा सके।

हालांकि उस प्रणाली ने 94.8% सटीकता दर हासिल की, शोधकर्ता निष्कर्ष निकालते हैं कि प्रकाश पैटर्न की सूक्ष्मता एक छिपी हुई दृष्टिकोण को लागू करना मुश्किल बना देगी जो उज्ज्वल वातावरण में, और इसके बजाय प्रस्तावित करते हैं कि उनकी अपनी प्रणाली या एक समान रूप से लोकप्रिय वीडियो-कॉन्फ्रेंसिंग सॉफ़्टवेयर में एकीकृत की जा सकती है:

‘हमारा प्रस्तावित हस्तक्षेप या तो एक कॉल प्रतिभागी द्वारा हो सकता है जो अपनी स्क्रीन साझा करता है और समय-समय पर बदलते पैटर्न को प्रदर्शित करता है, या आदर्श रूप से, यह सीधे वीडियो-कॉल क्लाइंट में एकीकृत किया जा सकता है।’

परीक्षण

लेखकों ने अपने Dlib- संचालित डीपफेक डिटेक्टर का परीक्षण करने के लिए सिंथेटिक और वास्तविक दुनिया के विषयों का मिश्रण किया। सिंथेटिक परिदृश्य के लिए, उन्होंने मित्सुबा का उपयोग किया, जो लॉज़ेन में स्विस फेडरल इंस्टीट्यूट ऑफ टेक्नोलॉजी से एक आगे और उल्टा रेंडरर है।

सिम्युलेटेड परीक्षणों से नमूने, जिसमें त्वचा की टोन, प्रकाश स्रोत का आकार, परिवेश प्रकाश तीव्रता और कैमरे के पास की दूरी में भिन्नता है।

दृश्य में एक पैरामेट्रिक सीजीआई हेड शामिल है जो एक आभासी कैमरे से 90° क्षेत्र के दृश्य के साथ कब्जा कर लिया जाता है। सिर लैम्बर्टियन प्रतिबिंब और तटस्थ त्वचा की टोन की विशेषता है, और आभासी कैमरे के सामने 2 फीट दूर स्थित है।

विभिन्न त्वचा की टोन और सेटअप की एक श्रृंखला में फ्रेमवर्क का परीक्षण करने के लिए, शोधकर्ताओं ने क्रमिक रूप से विभिन्न पहलुओं को बदलकर एक श्रृंखला का संचालन किया। परिवर्तित पहलुओं में त्वचा की टोन, निकटता और प्रकाश स्रोत का आकार शामिल था।

लेखकों का टिप्पणी है:

‘सिम्युलेशन में, हमारे विभिन्न धारणाओं को संतुष्ट करने के साथ, हमारी प्रस्तावित तकनीक विभिन्न इमेजिंग कॉन्फ़िगरेशन की एक विस्तृत श्रृंखला के लिए बहुत मजबूत है।’

वास्तविक दुनिया के परिदृश्य के लिए, शोधकर्ताओं ने विभिन्न त्वचा की टोन और वातावरण में 15 स्वयंसेवकों का उपयोग किया। प्रत्येक को प्रतिबंधित ह्यू परिवर्तन के दो चक्र के अधीन किया गया था, जिसमें 30Hz डिस्प्ले रिफ्रेश दर वेबकैम के साथ सिंक्रनाइज़ की गई थी, जिसका अर्थ था कि सक्रिय प्रकाश व्यवस्था केवल एक सेकंड के लिए चलेगी। परिणाम सिंथेटिक परीक्षणों के साथ व्यापक रूप से तुलनीय थे, हालांकि अधिक प्रकाश मानों के साथ संबंध में संबंध में वृद्धि हुई।

भविष्य की दिशा

शोधकर्ताओं का स्वीकार करते हैं कि प्रणाली सामान्य चेहरे की अकल्पनीयता के लिए खाता नहीं है, जैसे कि बैंग्स, चश्मे या दाढ़ी। हालांकि, वे ध्यान देते हैं कि इस तरह की मास्किंग को बाद की प्रणालियों में जोड़ा जा सकता है (लेबलिंग और बाद के सेमांटिक सेगमेंटेशन के माध्यम से), जो लक्ष्य विषय में केवल त्वचा के क्षेत्रों से मान ले सकते हैं।

लेखक यह भी सुझाव देते हैं कि एक समान दृष्टिकोण का उपयोग डीपफेक ऑडियो कॉल का पता लगाने के लिए किया जा सकता है, और आवश्यक ध्वनि को मानव श्रवण सीमा से बाहर एक आवृत्ति में निभाया जा सकता है।

शायद सबसे दिलचस्प बात यह है कि शोधकर्ता यह भी सुझाव देते हैं कि मूल्यांकन क्षेत्र का विस्तार चेहरे से परे एक समृद्ध कैप्चर फ्रेमवर्क में डीपफेक पता लगाने की संभावना को काफी बढ़ा सकता है:

‘एक अधिक जटिल 3-डी प्रकाश का अनुमान संभवतः एक और अधिक कठिन उपस्थिति मॉडल प्रदान करेगा जो एक धोखेबाज के लिए परिहार करना मुश्किल होगा। जबकि हम केवल चेहरे पर ध्यान केंद्रित करते हैं, कंप्यूटर डिस्प्ले गर्दन, ऊपरी शरीर और आसपास की पृष्ठभूमि को भी रोशन करता है, जिससे समान माप किए जा सकते हैं। ‘

‘इन अतिरिक्त मापों के लिए धोखेबाज को पूरे 3-डी दृश्य पर विचार करना होगा, न कि केवल चेहरे पर।’

* लेखकों के इनलाइन संदर्भों को हाइपरलिंक में परिवर्तित करने के लिए मेरा रूपांतरण।

पहली बार 6 जुलाई 2022 को प्रकाशित।