डीपफ़ेक्स फेशियल ‘लाइवनेस’ एपीआई को आसानी से धोखा दे सकते हैं

संयुक्त राज्य अमेरिका और चीन के बीच एक नए शोध सहयोग ने दुनिया की कुछ सबसे बड़ी चेहरा-आधारित प्रमाणीकरण प्रणालियों की गहरे नकल के प्रति संवेदनशीलता की जांच की है, और पाया है कि अधिकांश प्रणालियां विकसित हो रहे और उभर रहे गहरे नकल हमलों के प्रति संवेदनशील हैं।

शोध में गहरे नकल-आधारित घुसपैठ के लिए एक कस्टम फ्रेमवर्क का उपयोग किया गया था जो सामान्य रूप से प्रमुख विक्रेताओं द्वारा आपूर्ति की जाने वाली चेहरे की जीवंतता सत्यापन (FLV) प्रणालियों के खिलाफ तैनात किया गया था, और डाउनस्ट्रीम ग्राहकों जैसे एयरलाइंस और बीमा कंपनियों को सेवा के रूप में बेचा जाता था।

पेपर से, प्रमुख प्रदाताओं में FLV एपीआई के कामकाज का अवलोकन। स्रोत: https://arxiv.org/pdf/2202.10673.pdf

चेहरे की जीवंतता का उद्देश्य तकनीकों जैसे कि विरोधी छवि हमलों के उपयोग को रोकना है, मास्क और पूर्व-रिकॉर्डेड वीडियो का उपयोग, तथाकथित मास्टर चेहरे, और अन्य रूपों के दृश्य आईडी क्लोनिंग का।

अध्ययन के लेखकों का नोट है:

‘[विभिन्न] गहरे नकल तरीके विभिन्न विक्रेताओं में भिन्नता दिखाते हैं…विक्रेताओं के तकनीकी विवरण तक पहुंच के बिना, हम अनुमान लगाते हैं कि इस तरह की भिन्नता विभिन्न विक्रेताओं द्वारा तैनात रक्षा उपायों के कारण है।’

और जारी रखें:

‘[अधिकांश] FLV एपीआई में गहरे नकल का पता लगाने की कोई व्यवस्था नहीं है; यहां तक कि जिनमें ऐसी रक्षा है, उनकी प्रभावशीलता चिंताजनक है (उदाहरण के लिए, वे उच्च गुणवत्ता वाले संश्लेषित वीडियो का पता लगा सकते हैं, लेकिन कम गुणवत्ता वाले लोगों का नहीं)।’

शोधकर्ताओं का अवलोकन है कि ‘प्रामाणिकता’ सापेक्ष है:

‘[यहां तक कि] यदि एक संश्लेषित वीडियो मानवों के लिए असली नहीं है, तो यह अभी भी वर्तमान गहरे नकल का पता लगाने के तंत्र को बहुत उच्च सफलता दर के साथ बायपास कर सकता है।’

ऊपर, लेखकों के प्रयोगों में प्रमाणीकरण करने में सक्षम नमूना गहरे नकल छवियां। नीचे, कथित तौर पर अधिक वास्तविक नकली छवियां जो प्रमाणीकरण में विफल रहीं।

एक अन्य खोज यह थी कि वर्तमान सामान्य चेहरे की सत्यापन प्रणालियों की वर्तमान कॉन्फ़िगरेशन सफेद पुरुषों की ओर झुकी हुई है। इसके परिणामस्वरूप, महिला और गैर-श्वेत पहचानों को सत्यापन प्रणालियों को बायपास करने में अधिक प्रभावी पाया गया, जिससे उन श्रेणियों में ग्राहकों को गहरे नकल-आधारित तकनीकों के माध्यम से उल्लंघन का खतरा बढ़ जाता है।

रिपोर्ट में पाया गया है कि लोकप्रिय चेहरे की जीवंतता सत्यापन एपीआई द्वारा सफेद पुरुष पहचानों का सबसे कठोरता से और सटीक रूप से मूल्यांकन किया जाता है। ऊपर दी गई तालिका में, हम देखते हैं कि महिला और गैर-श्वेत पहचानों का उपयोग प्रणालियों को बायपास करने के लिए अधिक आसानी से किया जा सकता है।

लेखकों का नोट है:

‘चेहरे की जीवंतता में पूर्वाग्रह हैं, जो एक विशिष्ट समूह के लोगों के लिए महत्वपूर्ण सुरक्षा जोखिम पैदा कर सकते हैं।’

लेखकों ने चीनी सरकार, एक प्रमुख चीनी एयरलाइन, चीन में सबसे बड़ी जीवन बीमा कंपनियों में से एक, और आर360 के खिलाफ नैतिक चेहरे की सत्यापन हमलों का संचालन किया, जो दुनिया के सबसे बड़े यूनिकॉर्न निवेश समूहों में से एक है, और इन संगठनों के डाउनस्ट्रीम एपीआई के उपयोग को बायपास करने में सफलता की सूचना दी।

चीनी एयरलाइन के लिए एक सफल प्रमाणीकरण बायपास मामले में, डाउनस्ट्रीम एपीआई ने उपयोगकर्ता से ‘सिर हिलाने’ की आवश्यकता के रूप में गहरे नकल सामग्री के संभावित खतरे के खिलाफ एक प्रमाण के रूप में आवश्यकता की, लेकिन यह शोधकर्ताओं द्वारा विकसित फ्रेमवर्क के खिलाफ काम नहीं किया, जिसमें छह गहरे नकल वास्तुकलाएं शामिल हैं।

एयरलाइन के मूल्यांकन के बावजूद कि उपयोगकर्ता अपना सिर हिलाता है, गहरे नकल सामग्री परीक्षण पास करने में सक्षम थी।

लेखकों का नोट है कि उन्होंने शामिल विक्रेताओं से संपर्क किया है, जिन्होंने कथित तौर पर काम को स्वीकार किया है।

लेखकों ने वर्तमान FLV में सुधार के लिए एक स्लेट की सिफारिशें प्रदान की हैं, जिनमें एकल-छवि प्रमाणीकरण (‘इमेज-आधारित FLV’) को छोड़ना शामिल है, जहां प्रमाणीकरण एक ग्राहक के कैमरा फीड से एक एकल फ्रेम पर आधारित होता है; गहरे नकल पता लगाने वाली प्रणालियों को चित्र और आवाज के क्षेत्र में अधिक लचीला और व्यापक अद्यतन करना; उपयोगकर्ता वीडियो में लिप मूवमेंट के साथ सिंक्रोनाइज़ करने के लिए आवाज-आधारित प्रमाणीकरण की आवश्यकता; और उपयोगकर्ताओं को ऐसी गतिविधियों का प्रदर्शन करने की आवश्यकता जो वर्तमान में गहरे नकल प्रणालियों के लिए पुनरुत्पादन करना मुश्किल है (जैसे कि प्रोफ़ाइल दृश्य और चेहरे का आंशिक रूप से अस्पष्ट होना)।

लेख पेपर का शीर्षक देखा जा रहा है जीवित? गहरे नकल युग में चेहरे की जीवंतता सत्यापन की सुरक्षा पर पुनर्विचार है, और संयुक्त प्रमुख लेखक चांगजियांग ली और ली वांग, और पेंसिलवेनिया स्टेट यूनिवर्सिटी, जेजियांग यूनिवर्सिटी और शांडोंग यूनिवर्सिटी से पांच अन्य लेखकों द्वारा आयोजित किया गया है।

मुख्य लक्ष्य

शोधकर्ताओं ने ‘छह सबसे प्रतिनिधि’ चेहरे की जीवंतता सत्यापन (FLV) विक्रेताओं को लक्षित किया, जिन्हें शोध में क्रिप्टोनिम्स के साथ अनामित किया गया है।

विक्रेताओं को इस प्रकार प्रस्तुत किया गया है: ‘बीडी’ और ‘टीसी’ एक कांग्लोमरेट विक्रेता का प्रतिनिधित्व करते हैं जो चेहरे से संबंधित एपीआई कॉल की सबसे बड़ी संख्या है, और चीन की एआई क्लाउड सेवाओं में सबसे बड़ा हिस्सा है; ‘एचडब्ल्यू’ ‘विक्रेताओं में से एक है जो चीनी सार्वजनिक क्लाउड बाजार में सबसे बड़ा है’; ‘सीडब्ल्यू’ कंप्यूटर दृष्टि में सबसे तेजी से विकास दर है, और एक अग्रणी बाजार स्थिति प्राप्त कर रहा है; ‘एसटी’ कंप्यूटर दृष्टि के सबसे बड़े विक्रेताओं में से एक है; और ‘आईएफटी’ चीन में एआई सॉफ्टवेयर विक्रेताओं में से एक है।

डेटा और वास्तुकला

परियोजना को शक्ति प्रदान करने वाला अंतर्निहित डेटा चीनी पहल सेलेबा-स्पूफ से 625,537 छवियों का एक डेटासेट है, साथ ही मिशिगन स्टेट यूनिवर्सिटी के 2019 एसआईडब्ल्यू-एम डेटासेट से लाइव वीडियो हैं।

एक में छह

लेखकों द्वारा विकसित फ्रेमवर्क लाइवबगर नामक है, और इसमें FLV प्रणालियों में चार मुख्य रक्षा के खिलाफ छह राज्य-оф-द-आर्ट गहरे नकल फ्रेमवर्क शामिल हैं।

चार वेक्टर पर हमला

एक典型 FLV प्रणाली में चार हमला वेक्टर होते हैं: इमेज-आधारित FLV, जो प्रमाणीकरण टोकन के रूप में एक एकल उपयोगकर्ता-प्रदान की गई फोटो का उपयोग करता है; मौन-आधारित FLV, जो उपयोगकर्ता से एक वीडियो क्लिप अपलोड करने की आवश्यकता होती है; क्रिया-आधारित FLV, जो उपयोगकर्ता से मंच द्वारा निर्देशित क्रियाओं का प्रदर्शन करने की आवश्यकता होती है; और आवाज-आधारित FLV, जो उपयोगकर्ता की प्रेरित भाषण को प्रणाली के डेटाबेस में उस उपयोगकर्ता के भाषण पैटर्न के साथ मेल खाता है।

परिणाम

लेखकों ने पाया कि सभी छह मूल्यांकित एपीआई ने संयोजन का पता लगाने का उपयोग नहीं किया, जिससे लाइवबगर में गहरे नकल इंजन को संश्लेषित ऑडियो को गहरे नकल वीडियो के साथ सिलाई करने की अनुमति मिली, जो स्वेच्छा से योगदान देने वालों से सामग्री पर आधारित था।

निष्कर्ष

लेखकों के परिणाम और FLV एपीआई के भविष्य के लिए संकेत जटिल हैं, और लेखकों ने उन्हें एक कार्यात्मक ‘दुर्बलता की वास्तुकला’ में समाहित किया है जो FLV डेवलपर्स को कुछ मुद्दों को बेहतर ढंग से समझने में मदद कर सकता है जो उजागर हुए हैं।

लेखकों का नोट है:

‘FLV के सुरक्षा जोखिम व्यापक रूप से वास्तविक दुनिया के अनुप्रयोगों में मौजूद हैं, और इसलिए लाखों अंतिम उपयोगकर्ताओं की सुरक्षा को खतरा है।’

लेखकों का यह भी अवलोकन है कि क्रिया-आधारित FLV का उपयोग ‘हाशिए पर’ है, और उपयोगकर्ताओं को प्रदर्शन करने के लिए आवश्यक क्रियाओं की संख्या में वृद्धि ‘कोई सुरक्षा लाभ नहीं’ ला सकती है।

इसके अलावा, लेखकों का नोट है कि आवाज पहचान और क्षणिक चेहरे की पहचान (वीडियो में) का संयोजन एक व्यर्थ रक्षा है जब तक कि एपीआई प्रदाता लिप मूवमेंट को ऑडियो के साथ सिंक्रोनाइज़ करने की मांग शुरू नहीं करते।

यह पेपर एक हालिया एफबीआई चेतावनी के आलोक में आता है कि व्यवसायों को गहरे नकल धोखाधड़ी के खतरों के बारे में सावधान किया जाता है, जो कि विदेशी प्रभाव अभियानों में प्रौद्योगिकी के उपयोग की उनकी चेतावनी के लगभग एक वर्ष बाद है, और सामान्य डर है कि लाइव गहरे नकल प्रौद्योगिकी एक नए अपराध लहर को सार्वजनिक रूप से सुविधा प्रदान करेगी जो अभी भी वीडियो प्रमाणीकरण सुरक्षा वास्तुकला पर भरोसा करती है।

गहरे नकल अभी भी एक प्रमाणीकरण हमला सतह के रूप में अपने शुरुआती दिनों में हैं; 2020 में, $35 मिलियन डॉलर को एक बैंक से गहरे नकल ऑडियो प्रौद्योगिकी का उपयोग करके धोखाधड़ी से निकाला गया था, और एक यूके कार्यकारी को 2019 में $243,000 का निपटान करने के लिए धोखा दिया गया था।

पहली बार 23 फरवरी 2022 को प्रकाशित।