सौंदर्य फिल्टर गहरे नकली हमले का एक संभावित उपकरण हो सकता है

अब सौंदर्य फिल्टर केवल दाग-धब्बों को छिपाने का काम नहीं करते: वे गहरे नकली और चेहरे के रूपांतरण को पता लगाने वाली प्रणाली को चकमा देने में मदद कर सकते हैं। एक नए अध्ययन से पता चलता है कि यहां तक कि सूक्ष्म चिकनाई प्रभाव भी एआई डिटेक्टरों को भ्रमित कर सकते हैं, जिससे नकली छवियां वास्तविक और वास्तविक छवियां नकली दिखाई देती हैं। यदि यह प्रवृत्ति जारी रहती है, तो सौंदर्य फिल्टर को उच्च जोखिम वाले संदर्भों में प्रतिबंधित किया जा सकता है, सीमा नियंत्रण से लेकर कॉर्पोरेट ज़ूम कॉल तक।

2024 में स्पेन और इटली के बीच एक अकादमिक सहयोग में, शोधकर्ताओं ने बताया कि 18-30 वर्ष की आयु की 90% महिलाएं सोशल मीडिया पर छवियों को पोस्ट करने से पहले सौंदर्य फिल्टर का उपयोग करती हैं। इस अर्थ में, सौंदर्य फिल्टर एल्गोरिदमिक या एआई-सहायता प्राप्त विधियां हैं जो चेहरे की उपस्थिति को बदलने के लिए हैं ताकि यह मूल स्रोत पर सुधारा जा सके:

2024 के अध्ययन से: महिला (बाएं) और पुरुष (दाएं) चेहरे सौंदर्य फिल्टर लगाने से पहले और बाद में। फिल्टर ने त्वचा के रंग, आंखों, नाक, होंठ, ठोड़ी, और गालों जैसी विशेषताओं को सुधारने के लिए बदल दिया। स्रोत: https://arxiv.org/pdf/2407.11981

ऐसे फिल्टर लोकप्रिय वीडियो-आधारित प्रणालियों में भी मूल या ऐड-ऑन कार्यक्षमता के रूप में व्यापक रूप से उपलब्ध हैं, जिसमें स्नैपचैट और ज़ूम शामिल हैं, जो ‘अपरिपूर्ण’ त्वचा को चिकना करने और विषय की आयु को बदलने की क्षमता प्रदान करते हैं, जहां तक कि पहचान को महत्वपूर्ण रूप से बदला जा सकता है:

प्ले पर क्लिक करें: तीन महिलाएं अपने वीडियो ‘सौंदर्यीकरण’ फिल्टर बंद करती हैं, जिससे यह पता चलता है कि एल्गोरिदम या एआई द्वारा उनकी शारीरिक बनावट कितनी बदल जाती है। स्रोत: https://www.youtube.com/watch?v=gtCpea_5qxw

यह घटना तब तक जारी रही जब तक कि प्रौद्योगिकी अपेक्षाकृत परिपक्व नहीं हो गई; 2020 के एक अध्ययन से पता चलता है कि संयुक्त राज्य अमेरिका, फ्रांस और यूके में 90% युवा स्नैपचैट उपयोगकर्ता अपने ऐप्स में फिल्टर का उपयोग करते हैं, जबकि मेटा ने बताया कि उस समय 600 मिलियन से अधिक युवा लोगों ने फेसबुक या इंस्टाग्राम पर फिल्टर का उपयोग किया था।

सौंदर्य फिल्टर के मानसिक स्वास्थ्य पर हानिकारक प्रभावों का अन्वेषण करते हुए, एक पсихोलॉजी टुडे रिपोर्ट में कहा गया है कि जिन लोगों का अध्ययन किया गया था, उनमें से 90% युवा महिलाएं, जिनकी औसत आयु 20 वर्ष थी, या तो फिल्टर का उपयोग करती थीं या अपनी तस्वीरों को किसी न किसी तरह से संपादित करती थीं। सबसे लोकप्रिय फिल्टर वे थे जो त्वचा के रंग को समान बनाने के लिए उपयोग किए जाते थे; एक सुनहरी उपस्थिति देने के लिए; दांतों को सफेद करने के लिए; और यहां तक कि शरीर के आकार को कम करने के लिए भी।

चेहरे का मुकाबला

चेहरे के फिल्टर 2025 में क्रांति से लाभान्वित होने वाले हैं, और वीडियो सिंथेसिस में चल रहे शोध क्षेत्र में अधिक व्यापक रुचि से, यह संभावना है कि हम लाइव वीडियो चैट में खुद को पुनः बनाने या पुनः कल्पना करने में सक्षम होंगे। यह सुरक्षा समुदाय के चिंता के विरुद्ध है, जो धोखाधड़ी या अपराधी गहरे नकली वीडियो तकनीक के बारे में चिंतित है।

एक मुद्दा यह है कि पिछले कुछ वर्षों में विकसित ‘आसान’ परीक्षणों की श्रृंखला, जो एक वीडियो गहरे नकलीकर्ता को उजागर करने के लिए है, जो कि एक कॉर्पोरेट संदर्भ में बड़ी मात्रा में पैसे को धोखा देने का प्रयास कर सकता है, अपरिहार्य रूप से कम प्रभावी होते जा रहे हैं क्योंकि ये कमजोरियां प्रशिक्षण डेटा और अनुमान समय में खाती जा रही हैं:

प्ले पर क्लिक करें: तीन या चार साल पहले, हाथ को चेहरे के सामने लहराना एक वीडियो कॉल के लिए एक विश्वसनीय परीक्षण था, लेकिन हम देख सकते हैं कि टिक्टोक जैसे लोगों के प्रयास क्लासिक ‘बताओ’ में गहरे नकली को बनाने में सफल हो रहे हैं। स्रोत: Ibid और https://archive.is/mofRV#wavehands

अधिक महत्वपूर्ण बात यह है कि चेहरे को बदलने/संशोधित करने वाले सौंदर्य फिल्टर गहरे नकली हमले का पता लगाने वाली नई और उभरती पीढ़ी के लिए पानी को गंदा कर देते हैं, जो बोर्डरूम वीडियो चैट से धोखेबाजों को बाहर रखने और ‘अपहरण’ और ‘धोखाधड़ी’ धोखाधड़ी के потен्षियल पीड़ितों से दूर रखने का प्रयास करते हैं।

यह एक गहरे नकली को अधिक विश्वसनीय बनाने के लिए आसान है, चाहे वह फोटो हो या वीडियो, यदि छवि का रिज़ॉल्यूशन कम है या छवि किसी तरह से खराब है, क्योंकि अंतर्निहित नकली प्रणाली अपनी कमजोरियों को कनेक्टिविटी या प्लेटफ़ॉर्म मुद्दों के पीछे छिपा सकती है।

वास्तव में, सबसे लोकप्रिय सौंदर्य फिल्टर गहरे नकली की पहचान करने में सबसे उपयोगी सामग्री को हटा देते हैं, जैसे कि त्वचा की बनावट और अन्य चेहरे के विवरण – और इसके बारे में सोचा जा सकता है कि जितना अधिक एक चेहरा पुराना होगा, उतनी ही अधिक विवरण यह संभवतः होगा, और इसलिए वैनिटी डी-एजिंग फिल्टर का उपयोग ऐसे मामले में एक विशेष प्रलोभन हो सकता है।

यदि एक विवरण-मुक्त ‘एंड्रॉइड’-शैली का रूप वogue है, तो गहरे नकली पता लगाने वाले उपकरणों को वास्तविक और नकली छवियों और वीडियो व्यक्तियों के बीच अंतर करने के लिए आवश्यक सामग्री की कमी हो सकती है। स्रोत: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

रॉयल सोसाइटी के 2024 के पेपर सुंदरता अभी भी अच्छा है: सौंदर्य फिल्टर के युग में आकर्षण हैलो प्रभाव ने पुष्टि की कि फिल्टर का उपयोग दोनों लिंगों में सामान्य आकर्षण को बढ़ाता है (हालांकि सौंदर्य फिल्टर वाली महिलाओं में आकर्षण में वृद्धि के साथ बुद्धिमत्ता का अनुमान कम होता है)।

इसलिए, यह कहना उचित है कि यह एक लोकप्रिय प्रौद्योगिकी है; यह काम करता है; और यह एक संस्कृति के झटके की तरह होगा यदि यह अचानक सुरक्षा सीमाओं के अधीन हो जाए, या विविध संदर्भों में प्रतिबंधित हो।

हालांकि, एक ऐसे समय में जब वीडियो गहरे नकली वास्तविक वीडियो प्रतिभागियों से अलग नहीं हो सकते, दोनों दिखावे और भाषण में, यह संभव है कि सुरक्षा कारणों से भविष्य में सौंदर्य फिल्टर के वैश्विक ‘शोर’ को कम करने की आवश्यकता हो सकती है।

स्मूद अपराधी

मुद्दे की जांच हाल ही में एक नए पेपर में की गई है, जो इटली के कागलियारी विश्वविद्यालय से है, जिसका शीर्षक है भ्रामक सौंदर्य: सौंदर्य फिल्टर के गहरे नकली और रूपांतरण हमले के पता लगाने पर प्रभाव का मूल्यांकन।

इस नए अध्ययन में, शोधकर्ताओं ने दो बेंचमार्क डेटासेट से चेहरों पर सौंदर्य फिल्टर लगाए और कई गहरे नकली और रूपांतरण हमले के पता लगाने वालों का परीक्षण मूल और संशोधित छवियों पर किया।

लगभग हर मामले में, पता लगाने की सटीकता सौंदर्यीकरण के बाद गिर गई; सबसे नाटकीय गिरावट तब हुई जब फिल्टर ने झुर्रियों को चिकना किया, त्वचा के रंग को उज्ज्वल किया, या चेहरे की विशेषताओं को बारीकी से बदल दिया। इन परिवर्तनों ने उन संकेतों को हटा दिया या विकृत कर दिया जिन पर पता लगाने वाले मॉडल निर्भर करते हैं।

उदाहरण के लिए, मॉर्फडीबी पर शीर्ष प्रदर्शन करने वाले मॉडल ने फिल्टरिंग के बाद 9% से अधिक सटीकता खो दी, और समस्या कई पता लगाने वाले वास्तुकला में बनी रही, जो दर्शाती है कि वर्तमान प्रणाली सामान्य सौंदर्य सुधारों के लिए मजबूत नहीं हैं।

लेखकों का निष्कर्ष है:

‘[सौंदर्यीकरण] फिल्टर जैवमितीय प्रमाणीकरण और फोरेंसिक विश्लेषण प्रणालियों की अखंडता के लिए खतरा पैदा करते हैं, जो ऐसी स्थितियों में मजबूत गहरे नकली और रूपांतरण हमले के पता लगाने को एक महत्वपूर्ण खुला चुनौती बनाते हैं।

‘भविष्य के कार्य को ऐसे सूक्ष्म, वास्तविक दुनिया के परिवर्तनों के लिए डिजिटल हेरफेर का पता लगाने वाली प्रणालियों के विकास पर प्राथमिकता देनी चाहिए, जो दुर्भावनापूर्ण या नहीं, सामान्य और सुरक्षा-संबंधी संदर्भों में विश्वसनीय पहचान मान्यता और सामग्री सत्यापन सुनिश्चित करने के लिए।’

विधि और डेटा

गहरे नकली और रूपांतरण का पता लगाने पर सौंदर्य फिल्टर के प्रभाव का मूल्यांकन करने के लिए, शोधकर्ताओं ने एक प्रगतिशील चिकनाई फिल्टर लगाया और दो बेंचमार्क कॉन्वोल्यूशनल न्यूरल नेटवर्क (सीएनएन) का परीक्षण किया, जो लक्ष्य समस्या से जुड़े हुए हैं: अलेक्सनेट और वीजीजी19।

प्रत्येक बेंचमार्क डेटासेट में उपयुक्त चेहरे के हेरफेर के उदाहरण शामिल थे। पहला सेलेबडीएफ था, जो 590 वास्तविक और 5,639 जाली क्लिप वाला एक बड़े पैमाने पर वीडियो बेंचमार्क है, जो उन्नत चेहरा-स्वैप तकनीकों के माध्यम से बनाया गया है। संग्रह 59 व्यक्तियों में विभिन्न प्रकाश व्यवस्था, सिर की मुद्रा और प्राकृतिक अभिव्यक्तियों की एक विविध श्रृंखला प्रदान करता है, जो वास्तविक दुनिया के मीडिया परिदृश्यों में गहरे नकली पता लगाने वालों की लचीलापन का मूल्यांकन करने के लिए इसे अच्छी तरह से अनुकूल बनाता है:

सेलेबडीएफ से प्रभावित चेहरे की छवियों के उदाहरण। स्रोत: https://github.com/yuezunli/celeb-deepfakeforensics

दूसरा एएमएसएल (पंजीकरण आवश्यक) था, जो लंदन फेस रिसर्च लैब संग्रह से बनाया गया एक रूपांतरण हमला डेटासेट है, जिसमें वास्तविक और सिंथेटिक रूप से मिलाए गए चेहरे शामिल हैं। डेटासेट में 102 विषयों से तटस्थ और मुस्कराते हुए अभिव्यक्तियां शामिल हैं, और यह वास्तविक चुनौतियों को प्रतिबिंबित करने के लिए संरचित किया गया था जो जैवमितीय प्रमाणीकरण प्रणालियों के लिए सीमा नियंत्रण जैसे संदर्भों में उत्पन्न होती हैं।

एएमएसएल में उपयोग किए गए मूल लंदन फेस रिसर्च लैब (एफआरएल) डेटासेट से छवियां। स्रोत: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

प्रत्येक नेटवर्क को गहरे नकली या रूपांतरण डेटासेट के 80% पर प्रशिक्षित किया गया था, शेष 20% का उपयोग मान्यकरण के लिए किया गया था। सौंदर्यीकरण के प्रतिरोध का परीक्षण करने के लिए, शोधकर्ताओं ने तब परीक्षण छवियों पर एक प्रगतिशील चिकनाई फिल्टर लगाया, जिसमें चेहरे की ऊंचाई के 3% से 5% तक का धुंधलापन त्रिज्या बढ़ाया गया था:

सेलेबडीएफ (शीर्ष) और एएमएसएल (नीचे) डेटासेट से चेहरे के उदाहरण, सौंदर्य फिल्टर के आवेदन से पहले और बाद में। फिल्टर त्रिज्या को चेहरे की ऊंचाई के सापेक्ष स्केल किया गया था, जिसमें सी = 3% और सी = 5% ने प्रगतिशील रूप से मजबूत प्रभाव उत्पन्न किए।

मेट्रिक्स के संबंध में, प्रत्येक मॉडल का मूल्यांकन दोनों मूल और सौंदर्यीकृत परीक्षण नमूनों पर समान त्रुटि दर (ईईआर) का उपयोग करके किया गया था। विश्लेषण ने मूल डेटा पर सेट किए गए थ्रेशहोल्ड का उपयोग करके बोनाफाइड प्रस्तुति वर्गीकरण त्रुटि दर (बीपीसीईआर) या झूठी सकारात्मक दर, और हमला प्रस्तुति वर्गीकरण त्रुटि दर (एपीसीईआर) या झूठी नकारात्मक दर की भी रिपोर्ट की।

एएमएसएल डेटासेट से मोर्फ्ड चेहरे।

प्रदर्शन का और मूल्यांकन करने के लिए, वास्तविक और नकली छवियों के लिए स्कोर वितरण और रिसीवर ऑपरेटिंग विशेषता (एयूसी) क्षेत्र की जांच की गई।

परीक्षण

गहरे नकली पता लगाने वाले परिणामों में, दोनों नेटवर्क ने सौंदर्यीकरण तीव्रता में वृद्धि के साथ बढ़ती समान त्रुटि दर दिखाई। अलेक्सनेट की ईईआर मूल छवियों पर 22.3% से बढ़कर 28.1% हो गई, जबकि वीजीजी19 की 30.2% से 35.2% हो गई। प्रदर्शन में गिरावट प्रत्येक मामले में अलग-अलग पैटर्न का अनुसरण किया:

सेलेबडीएफ डेटासेट पर अलेक्सनेट और वीजीजी19 के साथ गहरे नकली पता लगाने वाले परिणाम। दोनों मॉडल का परीक्षण मूल और सौंदर्यीकृत छवियों पर किया गया था, जिसमें चेहरे की चिकनाई बढ़ाने के साथ-साथ बढ़ती स्तर थे। मेट्रिक्स में समान त्रुटि दर (ईईआर), बोनाफाइड प्रस्तुति वर्गीकरण त्रुटि दर (बीपीसीईआर), और हमला प्रस्तुति वर्गीकरण त्रुटि दर (एपीसीईआर) शामिल थे, जो मूल परीक्षण सेट से निर्धारित थ्रेशहोल्ड का उपयोग करते थे। पता लगाने की सटीकता सौंदर्यीकरण तीव्रता में वृद्धि के साथ कम हो गई, हालांकि प्रदर्शन में गिरावट का पैटर्न वास्तुकला के बीच भिन्न था।

सौंदर्यीकरण बढ़ने के साथ, अलेक्सनेट वास्तविक चेहरों को नकली के रूप में गलत तरीके से पहचानने की संभावना अधिक हो गई, जैसा कि इसकी झूठी सकारात्मक दर में एक स्थिर वृद्धि से देखा गया था। वीजीजी19, दूसरी ओर, मुख्य रूप से नकली को खुद पहचानने में संघर्ष किया, जिसमें एक बढ़ती झूठी नकारात्मक दर थी। दोनों मॉडल सौंदर्य फिल्टर के प्रति अलग-अलग तरीके से प्रतिक्रिया दी, जो यह दर्शाता है कि यहां तक कि अच्छी तरह से ज्ञात वास्तुकला भी सौंदर्य संबंधी परिवर्तनों के सामने विभिन्न तरीकों से विफल हो सकती है।

परिणामों को बेहतर ढंग से समझने के लिए, शोधकर्ताओं ने सौंदर्य फिल्टर को वास्तविक और नकली छवियों पर अलग-अलग लगाया और पता लगाने वाले प्रदर्शन पर प्रभाव को मापा। यह टूट-डाउन, नीचे दी गई तालिका में, प्रत्येक मॉडल की कमजोरियों का स्रोत स्पष्ट करता है:

सेलेबडीएफ डेटासेट पर अलेक्सनेट और वीजीजी19 के साथ पता लगाने वाले प्रदर्शन की तुलना आंशिक सौंदर्यीकरण के साथ। तालिका तीन परिदृश्यों की रिपोर्ट करती है: सौंदर्यीकृत वास्तविक बनाम सौंदर्यीकृत नकली (एफ-रियल बनाम एफ-फेक); सौंदर्यीकृत वास्तविक बनाम मूल नकली (एफ-रियल बनाम ओ-फेक); और मूल वास्तविक बनाम सौंदर्यीकृत नकली (ओ-रियल बनाम एफ-फेक), जिसमें प्रदर्शन में कमी को कम सटीकता के रूप में दिखाया गया था। अलेक्सनेट सबसे ज्यादा प्रभावित हुआ जब वास्तविक छवियों को सौंदर्यीकृत किया गया, जबकि वीजीजी19 को सबसे ज्यादा नकली छवियों पर सौंदर्यीकरण का परीक्षण करने पर संघर्ष हुआ।

दोनों मॉडलों के लिए, सौंदर्यीकरण के साथ पता लगाने वाले प्रदर्शन में कमी आई। अलेक्सनेट के लिए, पता लगाने वाले प्रदर्शन में गिरावट तब हुई जब वास्तविक छवियों को सौंदर्यीकृत किया गया, लेकिन जब केवल नकली छवियों को चिकना किया गया तो सुधार हुआ। वीजीजी19 के लिए, प्रदर्शन में थोड़ा सुधार हुआ जब वास्तविक छवियों को सौंदर्यीकृत किया गया, लेकिन जब गहरे नकली को फिल्टर किया गया तो यह और खराब हो गया। सभी मामलों में, मजबूत सौंदर्यीकरण सटीकता को कम कर देता है।

सेलेबडीएफ डेटासेट पर अलेक्सनेट और वीजीजी19 के साथ वास्तविक और नकली नमूनों पर आउटपुट स्कोर वितरण के बॉक्स-प्लॉट। जैसे ही स्मूदिंग तीव्रता बढ़ती है, वास्तविक और नकली छवियों के लिए स्कोर वितरण कम सेपरेबल हो जाते हैं, जो कम पता लगाने वाली विश्वसनीयता का संकेत देते हैं। अलेक्सनेट वास्तविक चेहरों की पहचान करने में कम आत्मविश्वासी हो जाता है, जबकि वीजीजी19 नकली को गलत तरीके से वर्गीकृत करने की संभावना अधिक हो जाती है।

सौंदर्यीकरण ने अलेक्सनेट के आउटपुट स्कोर को वास्तविक और नकली नमूनों दोनों में अधिक समान बना दिया, जबकि वीजीजी19 ने प्रत्येक वर्ग में अधिक फैलाव दिखाया। इन विपरीत प्रभावों के बावजूद, दोनों मॉडल सटीकता खो देते हैं। अलेक्सनेट के लिए, वास्तविक चेहरों के लिए स्कोर नकली के लिए स्कोर के करीब चले गए। वीजीजी19 के लिए, वास्तविक और नकली छवियों के लिए स्कोर ओवरलैप होने लगे, जिससे मॉडल की वास्तविक और नकली के बीच अंतर करने की क्षमता कम हो गई।

इस पत्र में कहा गया है:

‘इन परिणामों के महत्वपूर्ण निहितार्थ हैं और यह दर्शाते हैं कि गहरे नकली पता लगाने में सौंदर्य फिल्टर के संभावित उपयोग पर विचार करना आवश्यक है, क्योंकि वे प्रदर्शन पर एक अप्रत्याशित प्रभाव डाल सकते हैं। विशेष रूप से, विभिन्न वास्तुकला चेहरे के हेरफेर के प्रति अलग-अलग प्रतिक्रिया देते हैं, भले ही वे धोखा देने के इरादे से न हों।

‘उदाहरण के लिए, गहरे नकली पता लगाने वाले के आधार पर, सौंदर्य फिल्टर वास्तविक छवियों को नकली के रूप में पहचाने जाने के लिए पर्याप्त रूप से बदल सकते हैं, और, अधिक महत्वपूर्ण बात यह है, गहरे नकली को पता लगाने वाले को धोखा देने की अनुमति दे सकते हैं।

‘इसलिए, सूक्ष्म, वास्तविक दुनिया के परिवर्तनों के लिए प्रतिरोधी पता लगाने वालों के विकास पर ध्यान केंद्रित करना आवश्यक है जो दुर्भावनापूर्ण या नहीं, गहरे नकली मैनिपुलेशन के लिए एक प्रकार का प्रतिरूप बन सकते हैं। ‘

रूपांतरण हमले के परिदृश्य में, एक सिंथेटिक छवि दो व्यक्तियों के चेहरे की विशेषताओं को मिलाकर बनाई गई थी। इस छवि का उपयोग जैवमितीय प्रमाणीकरण प्रणालियों को धोखा देने के लिए किया गया था, जिससे दोनों मूल पहचानों को एक ही व्यक्ति के रूप में प्रमाणित किया जा सके। ऐसे हमले सुरक्षा सेटिंग्स में विशेष रूप से प्रासंगिक माने जाते हैं, जहां जैवमितीय प्रणालियों को धोखा दिया जा सकता है और आधिकारिक पहचान के लिए मोर्फ्ड छवि स्वीकार की जा सकती है।

एएमएसएल छवियों पर मोर्फिंग हमले का पता लगाने वाले परिणाम, सौंदर्यीकरण से पहले और बाद में। दोनों नेटवर्क ने स्मूदिंग तीव्रता में वृद्धि के साथ तेजी से त्रुटि में वृद्धि दिखाई।

रूपांतरण हमले के परिदृश्य में, प्रदर्शन में गिरावट गहरे नकली पता लगाने से अधिक तेजी से हुई। अलेक्सनेट की ईईआर 27.6% से 41.2% तक बढ़ गई, और वीजीजी19 की 19.0% से 37.3% तक, जो मुख्य रूप से झूठी सकारात्मकों द्वारा संचालित थी, जो वास्तविक चेहरों को मोर्फ्स के रूप में वर्गीकृत करते थे। 3% के स्मूदिंग त्रिज्या के साथ, वीजीजी19 की झूठी सकारात्मक दर 90% तक पहुंच गई।

यह पैटर्न तब भी बना रहा जब फिल्टर को चुनिंदा रूप से लागू किया गया था। वास्तविक चेहरों को चिकना करने से पता लगाने में कमी आई, जबकि केवल मोर्फ्ड चेहरों को चिकना करने से परिणाम में सुधार हुआ। जैसे ही स्मूदिंग तीव्रता बढ़ी, दोनों नेटवर्क ने वास्तविक और नकली स्कोर के बीच कम सेपरेशन दिखाया, वीजीजी19 विशेष रूप से अस्थिर हो गया।

लेखकों का सुझाव है कि ये निष्कर्ष बताते हैं कि सौंदर्य फिल्टर मोर्फ्स को पता लगाने से भी अधिक प्रभावी ढंग से बचने में मदद कर सकते हैं गहरे नकली, जो गंभीर सुरक्षा चिंताएं पैदा करता है।

अलेक्सनेट के वर्गीकरण में न्यूनतम सौंदर्यीकरण (3% स्मूदिंग त्रिज्या) के प्रभाव के आंशिक उदाहरण। बाएं, एक वास्तविक छवि को फिल्टरिंग के बाद हमले के रूप में गलत तरीके से वर्गीकृत किया गया है, और दाएं, एक मोर्फ्ड छवि को फिल्टरिंग के बाद बोनाफाइड के रूप में गलत तरीके से वर्गीकृत किया गया है।

अंत में, शोधकर्ताओं ने पाया कि यहां तक कि हल्के सौंदर्य फिल्टर भी राज्य-of-the-आर्ट गहरे नकली और मोर्फिंग पता लगाने वालों के प्रदर्शन को महत्वपूर्ण रूप से कम कर सकते हैं।

प्रभाव वास्तुकला के अनुसार भिन्न था, अलेक्सनेट एक क्रमिक गिरावट दिखा रहा था, जबकि वीजीजी19 न्यूनतम फिल्टरिंग के तहत ढह गया। चूंकि ये फिल्टर सामान्य और दुर्भावनापूर्ण नहीं हैं, उनकी हमलों को छिपाने की क्षमता एक व्यावहारिक खतरा प्रस्तुत करती है, विशेष रूप से जैवमितीय प्रणालियों में। पत्र जोर देता है कि सूक्ष्म छवि हेरफेर के प्रतिरोधी पता लगाने वाली प्रणालियों के विकास की आवश्यकता है।

निष्कर्ष

एक कारण यह है कि गहरे नकली पता लगाने वाली प्रणाली को प्रशिक्षित करना मुश्किल हो सकता है जो सौंदर्य फिल्टर को अनदेखा कर सकती है, सौंदर्यीकृत संस्करण की तुलना में ‘पहले’ छवि की कमी है। और, वीडियो जिसे हमने पिछले एक के रूप में एक उदाहरण के रूप में एम्बेड किया था, यह दुर्लभ है कि एक ‘पहले’ छवि को लागू किया जाए।

एक और बाधा यह है कि कई फिल्टर वास्तव में छवियों या वीडियो को सहेजते या संपीड़ित करते समय होने वाली चिकनाई के समान प्रकार का कार्य करते हैं (जो प्रदाताओं के लिए बैंडविड्थ के लिए एक वरदान है, साथ ही एक डिजिटल त्वचा मेकओवर उन लोगों के लिए है जो फिल्टर का उपयोग करते हैं)।

गहरे नकली पता लगाने वाला शोध क्षेत्र पहले से ही वास्तविक दुनिया की छवि क्षय के मुद्दों से जूझ रहा है, जैसे कि खराब गुणवत्ता वाले कैमरे, अत्यधिक संपीड़न, या चोपpy नेटवर्क कनेक्टिविटी – सभी ऐसी स्थितियां जो गहरे नकली धोखेबाजों के लिए सीधे लाभ हैं, जिन्हें उच्च गुणवत्ता वाले, उच्च-रिज़ॉल्यूशन परिदृश्य में बहुत अधिक प्रयास करने के लिए मजबूर होना पड़ता है।

क्या सौंदर्य फिल्टर अंततः सुरक्षा दायित्व के रूप में खतरा पैदा करते हैं, यह इस बात पर निर्भर करता है कि वे गहरे नकली स्क्रीनिंग विधियों के लिए बाधा के रूप में कितना साबित होते हैं, या क्या वे धोखेबाजों की तुलना में उन लोगों की रक्षा के लिए एक प्रकार की डी फैक्टो फायरवॉल का गठन करते हैं जो उन्हें लड़ रहे हैं।

पहली बार बुधवार, 24 सितंबर, 2025 को प्रकाशित