डीपफेक्स कई प्रमुख चेहरे की ‘जीवंतता’ एपीआई को प्रभावी ढंग से धोखा दे सकते हैं

अमेरिका और चीन के बीच एक नए शोध सहयोग ने दुनिया की कुछ सबसे बड़ी चेहरे आधारित प्रमाणीकरण प्रणालियों की डीपफेक्स के प्रति संवेदनशीलता की जांच की है, और पाया है कि उनमें से अधिकांश विकसित और उभरते रूपों के डीपफेक हमलों के लिए कमजोर हैं।

इस शोध में एक कस्टम फ्रेमवर्क का उपयोग करके डीपफेक-आधारित घुसपैठ की गई, जो सामान्य रूप से प्रमुख विक्रेताओं द्वारा आपूर्ति की जाने वाली चेहरे की जीवंतता सत्यापन (एफएलवी) प्रणालियों के खिलाफ तैनात किया गया था, और डाउनस्ट्रीम ग्राहकों जैसे एयरलाइनों और बीमा कंपनियों को सेवा के रूप में बेचा जाता है।

पेपर से, प्रमुख प्रदाताओं में चेहरे की जीवंतता सत्यापन (एफएलवी) एपीआई के कार्य का अवलोकन। स्रोत: https://arxiv.org/pdf/2202.10673.pdf

चेहरे की जीवंतता का उद्देश्य विरोधी छवि हमलों, मास्क और पूर्व-रिकॉर्डेड वीडियो के उपयोग, सो-कॉल्ड ‘मास्टर चेहरों’ और अन्य रूपों के दृश्य आईडी क्लोनिंग जैसी तकनीकों का उपयोग करने से रोकना है।

अध्ययन में निष्कर्ष निकाला गया है कि इन प्रणालियों में तैनात डीपफेक-डिटेक्शन मॉड्यूल की संख्या सीमित है, जिनमें से अधिकांश लाखों ग्राहकों को सेवा प्रदान करते हैं, और वे अपूर्ण हो सकते हैं, और उन्हें अब पुराने डीपफेक तकनीकों पर कॉन्फ़िगर किया जा सकता है, या वे बहुत वास्तुकला-विशिष्ट हो सकते हैं।

लेखकों का उल्लेख है:

‘[विभिन्न] डीपफेक तरीकों में भी विभिन्न विक्रेताओं में भिन्नता है … विक्रेताओं के तकनीकी विवरण तक पहुंच के बिना, हम अनुमान लगाते हैं कि ऐसी भिन्नता विभिन्न विक्रेताओं द्वारा तैनात रक्षा उपायों के कारण है। उदाहरण के लिए, कुछ विक्रेता विशिष्ट डीपफेक हमलों के खिलाफ रक्षा तैनात कर सकते हैं। ‘

और जारी रखते हैं:

‘[अधिकांश] एफएलवी एपीआई में एंटी-डीपफेक डिटेक्शन का उपयोग नहीं किया जाता है; भले ही कुछ में ऐसी रक्षा है, उनकी प्रभावशीलता चिंताजनक है (उदाहरण के लिए, यह उच्च-गुणवत्ता वाले संश्लेषित वीडियो का पता लगा सकता है, लेकिन निम्न-गुणवत्ता वाले लोगों का पता लगाने में विफल रहता है)। ‘

शोधकर्ताओं का अवलोकन है कि ‘प्रामाणिकता’ सापेक्ष है:

‘[यहां तक कि] यदि एक संश्लेषित वीडियो मानवों के लिए असत्य है, तो यह अभी भी वर्तमान एंटी-डीपफेक डिटेक्शन तंत्र को बहुत उच्च सफलता दर के साथ बायपास कर सकता है। ‘

… (बाकी सामग्री यहां जारी है)