छोटे डीपफेक्स बड़ा खतरा हो सकते हैं

कॉनवर्सेशनल एआई टूल्स जैसे कि चैटजीपीटी और गूगल जेमिनी अब डीपफेक्स बनाने के लिए उपयोग किए जा रहे हैं जो चेहरे को स्वैप नहीं करते हैं, लेकिन अधिक सूक्ष्म तरीकों से पूरी कहानी को एक छवि के भीतर पुनः लिख सकते हैं। इशारों, प्रोप्स और पृष्ठभूमि को बदलकर, ये संपादन एआई डिटेक्टर्स और मानव दोनों को धोखा देते हैं, जो ऑनलाइन वास्तविक क्या है यह जानने के लिए जोखिम बढ़ाते हैं।

वर्तमान जलवायु में, विशेष रूप से महत्वपूर्ण कानून जैसे कि टेक इट डाउन अधिनियम के मद्देनजर, हम में से अधिकांश डीपफेक्स और एआई-ड्रIVEN पहचान संश्लेषण को गैर-सहमति एआई पोर्न और राजनीतिक हेरफेर के साथ जोड़ते हैं – सामान्य रूप से, ग्रॉस वास्तविकता के विकृतियाँ।

यह हमें उम्मीद करने के लिए प्रेरित करता है कि एआई-मैनिपुलेटेड छवियां हमेशा उच्च-जोखिम वाली सामग्री के लिए जाने जाती हैं, जहां रेंडरिंग की गुणवत्ता और संदर्भ का हेरफेर अल्पावधि में एक विश्वसनीयता कूप प्राप्त करने में सफल हो सकता है।

ऐतिहासिक रूप से, हालांकि, बहुत अधिक सूक्ष्म परिवर्तन अक्सर एक अधिक दुर्भाग्यपूर्ण और स्थायी प्रभाव डालते हैं – जैसे कि फोटोग्राफिक चालाकी की राज्य-ऑफ-द-आर्ट जिसने स्टालिन को उन लोगों को हटाने की अनुमति दी जो कृपा से बाहर हो गए थे, जैसा कि जॉर्ज ऑरवेल के उपन्यास नाइनटीन एटी फोर में व्यंग्य किया गया था, जहां नायक विंस्टन स्मिथ अपने दिनों को इतिहास को पुनः लिखने और फोटो बनाने, नष्ट करने और ‘संशोधित’ करने में बिताता है।

निम्नलिखित उदाहरण में, दूसरी तस्वीर के साथ समस्या यह है कि हम ‘जो हम नहीं जानते हैं उसे नहीं जानते’ – कि स्टालिन की गुप्त पुलिस के पूर्व प्रमुख, निकोलाई येज़ोव, अब सुरक्षा बाधा के स्थान पर रहते थे:

अब आप मुझे देखें, अब मैं… वाष्प हूँ. स्टालिन-युग की फोटोग्राफिक हेरफेर एक इतिहास से एक अपमानित पार्टी सदस्य को हटा देती है। स्रोत: सार्वजनिक डोमेन, https://www.rferl.org/a/soviet-airbrushing-the-censors-who-scratched-out-history/29361426.html

के माध्यम से[/caption]

इस प्रकार के प्रवाह, अक्सर दोहराए जाने वाले, कई तरह से बने रहते हैं; न केवल सांस्कृतिक रूप से, बल्कि कंप्यूटर दृष्टि में भी, जो प्रशिक्षण डेटासेट में सांख्यिकीय रूप से प्रमुख विषयों और मोटिफ्स से रुझानों को निकालता है। एक उदाहरण के रूप में, यह तथ्य कि स्मार्टफोन ने प्रवेश की बाधा को कम कर दिया है, और बड़े पैमाने पर फोटोग्राफी की लागत को कम कर दिया है, इसका अर्थ है कि उनकी प्रतीकवाद अब कई अमूर्त अवधारणाओं के साथ अविभाज्य रूप से जुड़ा हुआ है, यहां तक कि जब यह उपयुक्त नहीं है।

पारंपरिक डीपफेकिंग को ‘हमले’ के रूप में देखा जा सकता है, प्रचंड और स्थायी छोटे ऑडियो-विज़ुअल मीडिया में हेरफेर ‘गैसलाइटिंग’ के समान है। इसके अलावा, इस प्रकार के डीपफेकिंग को अनदेखा करने की क्षमता इसे राज्य-ऑफ-द-आर्ट डीपफेक डिटेक्शन सिस्टम (जो ग्रॉस परिवर्तनों की तलाश में हैं) द्वारा पहचाना जाना मुश्किल बनाती है। यह दृष्टिकोण पानी के एक पत्थर को घिसने की तुलना में एक पत्थर को सिर पर फेंकने के समान है, एक धीमी गति से चलने वाला रूप जिसमें छोटे दृश्य झूठ धीरे-धीरे जमा होते हैं।

मल्टीफेकवर्स

ऑस्ट्रेलिया के शोधकर्ताओं ने ‘सूक्ष्म’ डीपफेकिंग पर ध्यान की कमी को संबोधित करने के लिए एक महत्वपूर्ण नया डेटासेट तैयार किया है, जो व्यक्ति-केंद्रित छवि हेरफेर का संग्रह है जो संदर्भ, भावना और कथा को बदलता है बिना विषय की मूल पहचान को बदले।

नई संग्रह से नमूने, वास्तविक/नकली जोड़े, कुछ परिवर्तन दूसरों की तुलना में अधिक सूक्ष्म हैं। ध्यान दें, उदाहरण के लिए, एशियाई महिला के लिए अधिकार की हानि को नीचे दाईं ओर, जैसा कि उसका डॉक्टर का स्टेथोस्कोप एआई द्वारा हटा दिया जाता है। उसी समय, डॉक्टर के पैड के लिए क्लिपबोर्ड का प्रतिस्थापन कोई स्पष्ट सेमेंटिक कोण नहीं है। स्रोत: https://huggingface.co/datasets/parulgupta/MultiFakeVerse_preview

शीर्षक मल्टीफेकवर्स, संग्रह में 845,826 छवियां शामिल हैं जो दृष्टि-भाषा मॉडल (वीएलएम) के माध्यम से उत्पन्न की जाती हैं, जो ऑनलाइन एक्सेस की जा सकती हैं और डाउनलोड की जा सकती हैं, अनुमति के साथ।

लेखकों का कहना है:

‘यह वीएलएम-ड्रIVEN दृष्टिकोण सेमेंटिक, संदर्भ-जागरूक परिवर्तनों को सक्षम बनाता है, जैसे कि क्रियाओं, दृश्यों और मानव-वस्तु परस्पर क्रियाओं को संशोधित करना, जो मौजूदा डेटासेट में सिंथेटिक या कम-स्तरीय पहचान स्वैप और क्षेत्र-विशिष्ट संपादन की तुलना में अधिक है।

‘हमारे प्रयोगों से पता चलता है कि वर्तमान राज्य-ऑफ-द-आर्ट डीपफेक डिटेक्शन मॉडल और मानव पर्यवेक्षक इन सूक्ष्म लेकिन अर्थपूर्ण हेरफेर का पता लगाने के लिए संघर्ष करते हैं।

शोधकर्ताओं ने अपने नए डेटासेट पर मानवों और अग्रणी डीपफेक डिटेक्शन सिस्टम का परीक्षण किया ताकि यह देखा जा सके कि ये सूक्ष्म हेरफेर कितनी अच्छी तरह से पहचाने जा सकते हैं। मानव भागीदारों ने संघर्ष किया, छवियों को केवल लगभग 62% समय में वास्तविक या नकली के रूप में सही ढंग से वर्गीकृत किया।

मौजूदा डीपफेक डिटेक्टर, जो मुख्य रूप से अधिक स्पष्ट चेहरा-स्वैपिंग या इनपेंटिंग डेटासेट पर प्रशिक्षित हैं, भी खराब प्रदर्शन किया, अक्सर यह दर्ज करने में विफल रहे कि कोई हेरफेर हुआ था। यहां तक कि मल्टीफेकवर्स पर फाइन-ट्यूनिंग के बाद भी, पता लगाने की दरें कम रहीं, जो दिखाती हैं कि वर्तमान प्रणालियां इन सूक्ष्म, कथा-चालित संपादनों को कितनी खराब तरीके से संभालती हैं।

नया कागज़ शीर्षक मल्टीवर्स थ्रू डीपफेक्स: मल्टीफेकवर्स डेटासेट ऑफ पर्सन-सेंट्रिक विज़ुअल एंड कॉन्सेप्चुअल मैनिपुलेशन है, और मेलबोर्न में मोनाश विश्वविद्यालय और पर्थ में कर्टिन विश्वविद्यालय के पांच शोधकर्ताओं से आता है। कोड और संबंधित डेटा गिटहब पर जारी किया गया है, हगिंग फेस होस्टिंग के अलावा जो पहले उल्लेख किया गया था।

विधि

मल्टीफेकवर्स डेटासेट चार वास्तविक दुनिया की छवि सेट्स से बनाया गया था जो विभिन्न स्थितियों में लोगों को प्रदर्शित करता है: इमोटिक; पिस्क, पिपा, और पीआईसी 2.0. 86,952 मूल छवियों के साथ शुरू करते हुए, शोधकर्ताओं ने 758,041 हेरफेर संस्करणों का उत्पादन किया।

जेमिनी-2.0-फ्लैश और चैटजीपीटी-4ो फ्रेमवर्क का उपयोग प्रत्येक छवि के लिए छह न्यूनतम संपादनों का प्रस्ताव करने के लिए किया गया था – संपादन जो विषय को देखने वाले के दृष्टिकोण से कैसे देखा जाता है, इसे सूक्ष्म रूप से बदलने के लिए डिज़ाइन किया गया था।

मॉडल को निर्देश दिया गया था कि वे संपादन उत्पन्न करें जो विषय को निर्दोष, गर्वित, पश्चाताप, अनुभवहीन, या उदासीन दिखाई दें, या दृश्य में कुछ तथ्यात्मक तत्व को समायोजित करें। प्रत्येक संपादन के साथ, मॉडल ने एक रेफरिंग अभिव्यक्ति भी उत्पन्न की ताकि संपादन प्रक्रिया के दौरान छवि में सही व्यक्ति या वस्तु की पहचान की जा सके।

लेखकों का कहना है:

‘नोट कि रेफरिंग अभिव्यक्ति एक व्यापक रूप से अन्वेषित डोमेन है जो एक वाक्यांश को संदर्भित करता है जो एक छवि में लक्ष्य को भ्रमित कर सकता है, उदाहरण के लिए, एक छवि में दो पुरुषों के साथ एक डेस्क पर बैठे, एक फोन पर बात कर रहे हैं और दूसरा दस्तावेजों के माध्यम से देख रहे हैं, बाद के लिए एक उपयुक्त रेफरिंग अभिव्यक्ति होगी बाएं आदमी को कागज़ पकड़े हुए.’

एक बार संपादन परिभाषित हो जाने के बाद, वास्तविक छवि हेरफेर दृष्टि-भाषा मॉडल को निर्देशित किया गया था कि वे निर्दिष्ट परिवर्तनों को लागू करें और दृश्य के बाकी हिस्सों को अकेला छोड़ दें। शोधकर्ताओं ने इस कार्य के लिए तीन प्रणालियों का परीक्षण किया: जीपीटी-इमेज-1; जेमिनी-2.0-फ्लैश-इमेज-जेनरेशन; और आईसीईडिट.

बाईस हज़ार नमूना छवियों का उत्पादन करने के बाद, जेमिनी-2.0-फ्लैश सबसे अधिक संगत विधि के रूप में उभरा, जो संपादन का उत्पादन करता है जो दृश्य में प्राकृतिक रूप से मिल जाता है बिना दृश्य दोषों को पेश किए; आईसीईडिट ने अक्सर अधिक स्पष्ट झूठे उत्पादन किए, जिनमें संशोधित क्षेत्रों में दिखाई देने वाली खामियां थीं; और जीपीटी-इमेज-1 ने कभी-कभी छवि के अनजाने हिस्सों को प्रभावित किया, जो कि इसके निर्धारित आउटपुट पहलू अनुपात के कारण था।

छवि विश्लेषण

प्रत्येक हेरफेर की गई छवि की तुलना उसकी मूल छवि से की गई ताकि यह निर्धारित किया जा सके कि छवि में कितना परिवर्तन हुआ है। दो संस्करणों के बीच पिक्सेल-स्तर के अंतर की गणना की गई, छोटे यादृच्छिक शोर को फिल्टर करने के लिए अर्थपूर्ण संपादन पर ध्यान केंद्रित करने के लिए। कुछ छवियों में, केवल छोटे क्षेत्र प्रभावित हुए थे; दूसरों में, अस्सी प्रतिशत दृश्य संशोधित किया गया था।

मूल और हेरफेर की गई छवियों दोनों के लिए कैप्शन शेयरजीपीटी-4वी दृष्टि-भाषा मॉडल का उपयोग करके उत्पन्न किए गए थे।

इन कैप्शन को लॉन्ग-सीएलआईपी का उपयोग करके एम्बेडिंग में परिवर्तित किया गया, जिससे संस्करणों के बीच सामग्री कितनी दूर हो गई है, इसकी तुलना करने की अनुमति मिली। सबसे मजबूत सेमेंटिक परिवर्तन उन मामलों में देखे गए जहां व्यक्ति के करीब या सीधे जुड़े हुए वस्तुओं को बदल दिया गया था, क्योंकि ये छोटे समायोजन छवि की व्याख्या को महत्वपूर्ण रूप से बदल सकते हैं।

जेमिनी-2.0-फ्लैश का उपयोग प्रत्येक छवि में लागू किए गए प्रकार के हेरफेर को वर्गीकृत करने के लिए किया गया था, जो यह देखते हुए कि संपादन कहां और कैसे किए गए थे। हेरफेर को तीन श्रेणियों में वर्गीकृत किया गया था: व्यक्ति-स्तर संपादन में विषय के चेहरे की अभिव्यक्ति, मुद्रा, दृष्टि, कपड़े, या अन्य व्यक्तिगत विशेषताओं में परिवर्तन शामिल थे; वस्तु-स्तर संपादन में व्यक्ति से जुड़ी वस्तुओं को प्रभावित किया गया था, जैसे कि वे जो आगे की ओर पकड़े हुए थे या बातचीत कर रहे थे; और दृश्य-स्तर संपादन में पृष्ठभूमि तत्व या सेटिंग के व्यापक पहलू शामिल थे जो व्यक्ति से सीधे जुड़े नहीं थे।

मल्टीफेकवर्स डेटासेट जनरेशन पाइपलाइन वास्तविक छवियों से शुरू होती है, जहां दृष्टि-भाषा मॉडल लोगों, वस्तुओं या दृश्यों पर कथा संपादन का प्रस्ताव करते हैं। ये निर्देश तब छवि संपादन मॉडल द्वारा लागू किए जाते हैं। दाईं पैनल डेटासेट में व्यक्ति-स्तर, वस्तु-स्तर और दृश्य-स्तर के हेरफेर के अनुपात को दिखाता है। स्रोत: https://arxiv.org/pdf/2506.00868

चूंकि व्यक्तिगत छवियों में एक साथ कई प्रकार के संपादन हो सकते थे, इसलिए इन श्रेणियों का वितरण डेटासेट में मapped किया गया था। लगभग एक तिहाई संपादन केवल व्यक्ति पर लक्षित थे; लगभग एक पांचवां केवल दृश्य को प्रभावित करता था; और लगभग एक छठा वस्तुओं तक सीमित था।

संवेदी प्रभाव का मूल्यांकन

जेमिनी-2.0-फ्लैश का उपयोग छह क्षेत्रों में दर्शक की धारणा को कैसे बदल सकता है, इसका मूल्यांकन करने के लिए किया गया था: भावना, व्यक्तिगत पहचान, शक्ति गतिविधियाँ, दृश्य कथा, हेरफेर का इरादा, और नैतिक चिंताएं.

भावना के लिए, संपादन अक्सर आनंददायक, आकर्षक, या अपनाने योग्य जैसे शब्दों के साथ वर्णित किया गया था, जो यह सुझाव देते हैं कि विषयों को कैसे भावनात्मक रूप से फ्रेम किया गया था। कथात्मक शब्दों में, पेशेवर या विभिन्न जैसे शब्दों ने कथा या सेटिंग में परिवर्तन को इंगित किया:

<img class=" wp-image-218827" src="https://arxiv.org/pdf/2506.00868" alt="जेमिनी-2.0-फ्लैश को प्रत्येक हेरफेर के प्रभाव का मूल्यांकन करने के लिए प्रेरित किया गया था जो छह पहलुओं में दर्शक की धारणा को प्रभावित कर सकता है। बाएं: मॉडल के मूल्यांकन को निर्देशित करने वाले प्रॉम्प्ट संरचना का उदाहरण। दाएं: शब्द बादल जो भावना, पहचान, दृश्य कथा, इरादा, शक्ति गतिविधियों और नैतिक चिंताओं में बदलाव को सारांशित करते हैं।[/caption]

पहचान में बदलाव के विवरण में छोटा, खिलौना, और कमजोर जैसे शब्द शामिल थे, जो दिखाते हैं कि छोटे परिवर्तन कैसे व्यक्तियों को कैसे देखा जाता है। कई संपादनों के पीछे का इरादा प्रेरक, भ्रामक, या सौंदर्य के रूप में लेबल किया गया था। जबकि अधिकांश संपादन को केवल हल्के नैतिक चिंताओं के रूप में देखा गया था, एक छोटा सा हिस्सा मध्यम या गंभीर नैतिक परिणामों के रूप में देखा गया था।

<img class=" wp-image-218828" src="https://www.unite.ai/wp-content/uploads/2025/06/figures.jpg" alt="मल्टीफेकवर्स से उदाहरण जो दिखाते हैं कि छोटे संपादन दर्शक की धारणा को कैसे बदल सकते हैं। पीले बक्से संशोधित क्षेत्रों को हाइलाइट करते हैं, जो भावना, पहचान, कथा, और नैतिक चिंताओं में परिवर्तन के साथ आते हैं।

मेट्रिक्स

मल्टीफेकवर्स संग्रह की दृश्य गुणवत्ता का मूल्यांकन तीन मानक मेट्रिक्स का उपयोग करके किया गया था: पीक सिग्नल-टू-नॉइज़ अनुपात (पीएसएनआर); संरचनात्मक समानता सूचकांक (एसएसआईएम); और फ्रेचेट इन्सेप्शन दूरी (एफआईडी):

<img class=" wp-image-218829" src="https://arxiv.org/pdf/1706.08500.pdf" alt="मल्टीफेकवर्स के लिए छवि गुणवत्ता स्कोर पीएसएनआर, एसएसआईएम, और एफआईडी द्वारा मापा गया।

एसएसआईएम स्कोर 0.5774 एक मध्यम डिग्री की समानता को दर्शाता है, जो छवि को अधिकांश भाग को संरक्षित करते हुए लक्षित संपादन लागू करने के लक्ष्य के साथ संगत है। एफआईडी स्कोर 3.30 से पता चलता है कि उत्पन्न छवियां उच्च गुणवत्ता और विविधता बनाए रखती हैं; और 66.30 डेसिबल का पीएसएनआर मान यह दर्शाता है कि छवियों में संपादन के बाद अच्छी दृश्य विश्वास्यकता बनी रहती है।

उपयोगकर्ता अध्ययन

एक उपयोगकर्ता अध्ययन चलाया गया ताकि यह देखा जा सके कि मल्टीफेकवर्स में सूक्ष्म नकली को कितनी अच्छी तरह से पहचाना जा सकता है। अठारह प्रतिभागियों को पचास छवियां दिखाई गईं, जो वास्तविक और हेरफेर की गई छवियों के बीच समान रूप से विभाजित थीं, जो विभिन्न प्रकार के संपादन को कवर करती थीं। प्रत्येक व्यक्ति से छवि को वास्तविक या नकली के रूप में वर्गीकृत करने और, यदि नकली, तो लागू किए गए हेरफेर के प्रकार की पहचान करने के लिए कहा गया था।

वास्तविक बनाम नकली के बीच निर्णय लेने के लिए समग्र सटीकता 61.67 प्रतिशत थी, जिसका अर्थ है कि प्रतिभागियों ने लगभग एक तिहाई समय में छवियों को गलत वर्गीकृत किया।

लेखकों का कहना है:

‘फेक छवियों के लिए मानव पूर्वानुमानों का विश्लेषण करने से पता चलता है कि वास्तविक और अनुमानित हेरफेर स्तरों के बीच औसत इंटरसेक्शन ओवर यूनियन 24.96% है।

‘यह दिखाता है कि हमारे डेटासेट में हेरफेर के क्षेत्रों की पहचान करना मानव पर्यवेक्षकों के लिए गैर-मामूली नहीं है।

मल्टीफेकवर्स डेटासेट का निर्माण करने के लिए व्यापक गणना संसाधनों की आवश्यकता थी: संपादन निर्देशों के उत्पादन के लिए, जेमिनी और जीपीटी मॉडल को 845,000 से अधिक एपीआई कॉल किए गए थे, जिनकी लागत लगभग 1000 डॉलर थी; जेमिनी-आधारित छवियों का उत्पादन करने की लागत लगभग 2867 डॉलर थी; और जीपीटी-इमेज-1 का उपयोग करके छवियों का उत्पादन लगभग 200 डॉलर की लागत से हुआ। आईसीईडिट छवियां स्थानीय रूप से एक एनवीडिया ए6000 जीपीयू पर बनाई गईं, जो कार्य को लगभग चौबीस घंटों में पूरा करती हैं।

परीक्षण

परीक्षण से पहले, डेटासेट को विभाजित किया गया था प्रशिक्षण, सत्यापन, और परीक्षण सेट में पहले वास्तविक छवियों के 70% का चयन करके प्रशिक्षण के लिए; 10 प्रतिशत सत्यापन के लिए; और 20 प्रतिशत परीक्षण के लिए। प्रत्येक वास्तविक छवि से उत्पन्न हेरफेर की गई छवियां उसी सेट में सौंपी गईं जैसा कि उनके मूल संस्करण।

<img class=" wp-image-218830" src="https://developers.google.com/machine-learning/crash-course/training-and-test-sets/splitting-data" alt="डेटासेट से और वास्तविक (बाएं) और संशोधित (दाएं) सामग्री के उदाहरण।

नकली का पता लगाने के प्रदर्शन का मूल्यांकन छवि-स्तर की सटीकता का उपयोग करके किया गया था (क्या प्रणाली सही ढंग से पूरी छवि को वास्तविक या नकली के रूप में वर्गीकृत करती है) और एफ 1 स्कोर. हेरफेर की गई क्षेत्रों का स्थान निर्धारित करने के लिए, मूल्यांकन में क्षेत्र अंतर्गत वक्र (एयूसी), एफ 1 स्कोर, और इंटरसेक्शन ओवर यूनियन (आईओयू) का उपयोग किया गया था।

मल्टीफेकवर्स डेटासेट का उपयोग पूरे परीक्षण सेट पर अग्रणी डीपफेक डिटेक्शन सिस्टम के खिलाफ किया गया था, प्रतिद्वंद्वी फ्रेमवर्क सीएनएनस्पॉट थे; एंटीफेकप्रॉम्प्ट; ट्रुफोर; और दृष्टि-भाषा आधारित सिडा. प्रत्येक मॉडल का पहले शून्य-शॉट मोड में मूल्यांकन किया गया था, अपने मूल प्री ट्रेंड वजन का उपयोग करके बिना किसी आगे के समायोजन के।

दो मॉडल, सीएनएनस्पॉट और सिडा, को बाद में मल्टीफेकवर्स प्रशिक्षण डेटा पर फाइन-ट्यून किया गया ताकि यह देखा जा सके कि क्या पुनः प्रशिक्षण प्रदर्शन में सुधार करता है।

<img class=" wp-image-218831" src="https://archive.is/sXFdH" alt="मल्टीफेकवर्स पर डीपफेक डिटेक्शन परिणाम शून्य-शॉट और फाइन-ट्यून की स्थिति में। कोष्ठक में संख्याएं फाइन-ट्यूनिंग के बाद परिवर्तन दिखाती हैं।

इन परिणामों में, लेखकों का कहना है:

‘[द] मॉडल जो पहले इनपेंटिंग-आधारित फेक्स पर प्रशिक्षित हुए थे, हमारे वीएलएम-एडिटिंग-आधारित फोर्जरी की पहचान करने के लिए संघर्ष करते हैं, विशेष रूप से सीएनएनस्पॉट लगभग सभी छवियों को वास्तविक के रूप में वर्गीकृत करता है। एंटीफेकप्रॉम्प्ट शून्य-शॉट प्रदर्शन में 66.87% औसत वर्ग-वार सटीकता और 55.55% एफ 1 स्कोर के साथ सबसे अच्छा प्रदर्शन करता है।

‘हमारे प्रशिक्षण सेट पर फाइन-ट्यूनिंग के बाद, हम दोनों सीएनएनस्पॉट और सिडा-13बी में प्रदर्शन में सुधार देखते हैं, सीएनएनस्पॉट सिडा-13बी को दोनों औसत वर्ग-वार सटीकता (1.92% द्वारा) और एफ 1-स्कोर (1.97% द्वारा) में पार करता है।

सिडा-13बी का मूल्यांकन मल्टीफेकवर्स पर किया गया था ताकि यह मापा जा सके कि यह प्रत्येक छवि में हेरफेर की गई क्षेत्रों को कितनी सटीकता से स्थानांतरित कर सकता है। मॉडल का परीक्षण इसकी मूल अवस्था में और डेटासेट पर फाइन-ट्यूनिंग के बाद किया गया था।

इसकी मूल अवस्था में, यह 13.10 के इंटरसेक्शन ओवर यूनियन स्कोर, 19.92 के एफ 1 स्कोर, और 14.06 के एयूसी तक पहुंचा, जो कमजोर स्थानांतरण प्रदर्शन को दर्शाता है।

फाइन-ट्यूनिंग के बाद, स्कोर 24.74 में इओयू, 39.40 में एफ 1, और 37.53 में एयूसी में सुधार हुआ। हालांकि, अतिरिक्त प्रशिक्षण के साथ भी, मॉडल को अभी भी यह पता लगाने में परेशानी होती है कि संपादन कहां किया गया था, जो दिखाता है कि इन प्रकार के छोटे, लक्षित परिवर्तनों का पता लगाना कितना मुश्किल हो सकता है।

निष्कर्ष

नई अध्ययन एक अंधे धब्बे को उजागर करता है – मानव और मशीन दृष्टि दोनों में: जबकि डीपफेक्स के चारों ओर सार्वजनिक बहस मुख्य रूप से हेडलाइन-ग्रैबिंग पहचान स्वैप पर केंद्रित है, ये शांत ‘कथा-संपादन’ अधिक कठिन हैं और पता लगाने में अधिक कठिन हैं और संभावित रूप से दीर्घकालिक रूप से अधिक भ्रष्ट हैं।

जैसे ही चैटजीपीटी और जेमिनी जैसी प्रणालियां इस प्रकार की सामग्री के निर्माण में अधिक सक्रिय भूमिका निभाती हैं, और जैसे ही हम स्वयं अपनी फोटो-स्ट्रीम्स की वास्तविकता को बदलने में भाग लेते हैं, डिटेक्शन मॉडल जो केवल खुरदरे हेरफेर का पता लगाने पर भरोसा करते हैं वे अपर्याप्त रक्षा प्रदान कर सकते हैं।

मल्टीफेकवर्स यह नहीं दिखाता है कि पता लगाने में विफलता है, लेकिन यह कि समस्या का कम से कम एक हिस्सा एक अधिक कठिन, धीमी गति से चलने वाले रूप में बदल रहा है: जहां छोटे दृश्य झूठ धीरे-धीरे अनदेखा हो जाते हैं।

पहली बार गुरुवार, 5 जून, 2025 को प्रकाशित