‘प्रोबेबिलिटी’ का उपयोग डीपफ़ेक डिटेक्शन मैट्रिक के रूप में करना

यदि एआई-जनित वीडियो और ऑडियो पर्याप्त रूप से अच्छा हो जाता है, तो दृश्य कलाकृतियों या अन्य पारंपरिक संकेतों पर आधारित डीपफ़ेक डिटेक्टर अब काम नहीं करेंगे। लेकिन दिए गए तथ्य कि लोग कितनी कम बार अनुमानित व्यवहार से दूर होते हैं, शायद ‘प्रोबेबिलिटी’ को एक संकेत के रूप में अपनाया जा सकता है कि क्या एक वीडियो या समाचार अफवाह सच होने की संभावना है।

राय 1990 के दशक की शुरुआत में, सम्मानित पूर्व ब्रिटिश फुटबॉलर और टीवी स्पोर्ट्स कमेंटेटर डेविड आईके एक चैट शो पर आकस्मिक रूप से खुलासा किया कि वह ‘भगवान का पुत्र’ है – एक अजीब और अप्रत्याशित खुलासा जो आने वाले दशकों में एक स्थायी और विस्तृत साजिश सिद्धांत में विकसित होगा।

इंटरनेट की अपनाई अभी भी कुछ साल दूर थी, और सोशल मीडिया का आगमन और भी दूर था, इसलिए आईके की प्रसिद्धि और उनके नए अंतर्दृष्टि के बीच का भेदभाव ब्रिटिश जनता पर गहरा प्रभाव डाला, खासकर इसलिए कि इसके लिए कोई संदर्भ या तैयारी नहीं थी।

बीस से अधिक वर्षों के बाद, एक समान और बहुत गहरा सामाजिक सदमा हुआ, जब प्रिय धर्मार्थ अभियानकर्ता और बच्चों के टीवी होस्ट जिमी सेविल को मरणोपरांत एक श्रृंखलाबद्ध और लालची जीवन-लंबे यौन अपराधी के रूप में पाया गया, जिन्होंने अपनी सार्वजनिक छवि का उपयोग अपने अपराधों को सुविधाजनक बनाने के लिए किया था।

इसके बाद ऑपरेशन येवट्री पुलिस जांच ने यूके में कई और सेलिब्रिटी को यौन अपराधों के लंबे इतिहास के साथ उजागर किया; बाद में, हार्वे वीनस्टीन के अभियोजन ने अमेरिका में सेलिब्रिटी यौन अपराधियों की एक समान खोज की ओर ले जाया, जो #मीटू आंदोलन में विकसित हुआ, और द मॉर्निंग शो जैसे आउटिंग में स्थायी रूप से अमेरिकी संस्कृति में शामिल हो गया। ‘शॉक’ समाचार एक नए और अचानक टेम्पलेट को विकसित करने लगा, जो अंततः डीपफ़ेक हमलावरों द्वारा अपनाया जाएगा।

पारंपरिक डीपफ़ेक डिटेक्शन का अंत?

यहां तक कि अगर सोशल मीडिया और एआई 1990 के दशक में आसपास थे, तो दुनिया में कोई भविष्यवाणी प्रणाली आईके के चैट-शो के खुलासे की भविष्यवाणी नहीं कर सकती थी, जो (जैसा कि मैं अच्छी तरह से याद करता हूं) घटना से पहले के वर्षों में किसी भी तरह से पूर्वाभास नहीं था।

लेकिन फिर, अगर एआई आसपास था, तो यह एक व्यापक दर्शकों को यह समझाने में कुछ समय ले सकता था कि आईके के बयान गूगल वियो 3 या नए ब्रीड के हाइपर-रियल ऑडियो/वीडियो डीपफ़ेक फ्रेमवर्क का उत्पाद नहीं थे।

यह केवल पिछले 6-12 महीनों में है कि एआई डीपफ़ेक विधियां प्रभावी हो गई हैं और वर्षों की मीडिया दुर्भाग्य के बारे में डीपफ़ेक चुनाव हस्तक्षेप, और क्षमता के साथ उत्पन्न करने में सक्षम हैं कि तेज-स्ट्राइक प्रतिष्ठा दाग जो असत्य है, फिर भी एक बढ़ती विश्वासी संस्कृति में मिटाना मुश्किल है।

अब तक, एआई वीडियो आउटपुट वास्तविकवाद की सच्ची वास्तविकता से कम है, तकनीकी बाधाओं से सीमित है, और बढ़ती ध्रुवीकरण द्वारा पоляराइज्ड है जो प्रतिबंधित पश्चिमी मॉडल और चीन के अनियंत्रित ओपन सोर्स रिलीज़ के बीच के अंतर को चौड़ा कर रहा है।

हालांकि, मैं शोध साहित्य में एक लंबी समय से चली आ रही इस ठंडे युद्ध की एक संभावित स्वीकृति देखता हूं, जैसे कि नए पेपर डीपफ़ेक डिटेक्शन में प्रदर्शन क्षय में:

‘[हम] मान लेते हैं कि डीपफ़ेक वीडियो मशीन-लर्नेबल फीचर्स को बरकरार रखेंगे जो उन्हें वास्तविक वीडियो से विश्वसनीय रूप से अलग करते हैं। जैसा कि जनरेटिव एआई की क्षमताएं तेजी से आगे बढ़ रही हैं, यह धारणा अच्छी तरह से टूट सकती है।

‘एक ऐसे परिदृश्य में, वॉटरमार्किंग और अन्य प्रोवेनेंस ट्रैकिंग विधियां डिजिटल मीडिया में विश्वास बनाए रखने के लिए एकमात्र सहारा प्रदान करेंगी।’

हालांकि, उसी पेपर में यह स्वीकार किया जाता है कि प्रोवेनेंस-आधारित समाधान, जैसे कि एडोबी-नेतृत्व कंटेंट ऑथेंटिकिटी इनिशिएटिव (और पिछले 7-8 वर्षों में कई छोटे शोध प्रस्ताव), इतने व्यापक रूप से अपनाने की आवश्यकता होगी कि वे अवास्तविक होंगे; और पेपर एक सामान्य नोट पर समाप्त होता है, जो पीछे हटने की है, यदि नहीं तो हार की।

ज्ञान ग्राफ

यह समय लगता है कि ‘रिपोर्ट की गई घटनाओं’ के एक संकेत विशेषता के रूप में ‘प्रोबेबिलिटी’ और ‘प्लॉजिबिलिटी’ का गहराई से उपयोग करने के लिए। इसके अलावा, चूंकि वीडियो और ऑडियो जनरेटिव एआई सिस्टम एक साथ बढ़ रहे हैं, इसलिए यह समय हो सकता है कि ‘नकली समाचार’ (एक पाठ-आधारित कथा घटना के रूप में) और नकली छवि/वीडियो के अलग-अलग शोध धाराओं को भी एक साथ लाने के लिए।

एक प्रोबेबिलिटी डीपफ़ेक मेट्रिक आरएजी-सहायता प्राप्त तथ्य सत्यापन के समान नहीं है, जहां एक एआई मॉडल वर्तमान वेब परिणामों को ला सकता है ताकि घटनाओं के बारे में ज्ञान प्राप्त किया जा सके जो इसकी自己的 कट-ऑफ तिथि के बाद होते हैं, और/या अपने दावों की पुष्टि करने के लिए।

इसके बजाय, यह सामान्य रूप से संकेतक सांख्यिकीय रुझानों पर भविष्यवाणियां करेगा, जो वर्तमान पूछताछ के अनुरूप ऐतिहासिक पैटर्न से व्युत्पन्न होते हैं।

इस अर्थ में, एक प्रोबेबिलिटी विधि सांख्यिकीय विश्लेषण के करीब है niż वर्तमान मशीन लर्निंग दृश्य में अधिक आधुनिक धागे।

पहले आधुनिक ट्रांसफॉर्मर-युग के दृष्टिकोण से ग्रहण किए जाने के बावजूद, ज्ञान ग्राफ उद्यम स्थान में कुछ प्रकार की वापसी कर रहे हैं, और डीपफ़ेक डिटेक्शन में ‘प्रोबेबिलिटी’ मेट्रिक्स की संभावित तैनाती के लिए अनुकूलित लगते हैं।

एक सरल ज्ञान ग्राफ जो दिखाता है कि लोग, स्थान, कलाकृतियां और घटनाएं लेबल वाले संबंधों के माध्यम से कैसे जुड़े हुए हैं, जो मशीनों को वास्तविक दुनिया की संस्थाओं और उनके संबंधों पर तर्क करने में सक्षम बनाता है। स्रोत

एक ज्ञान ग्राफ जानकारी को वास्तविक दुनिया की चीजों जैसे लोगों, कंपनियों, घटनाओं या विचारों के एक नेटवर्क में जोड़कर व्यवस्थित करने का एक तरीका है।

प्रत्येक उप-एंटिटी एक नोड है, और उन्हें जोड़ने वाली लिंक (एज) बताती है कि वे कैसे संबंधित हैं। उदाहरण के लिए, ‘माइक्रोसॉफ्ट’ (एक नोड) को ‘ओपनएआई’ (एक अन्य नोड) से एक एज द्वारा जोड़ा जा सकता है जो कहता है ‘है एक ग्राहक’। ये कनेक्शन अक्सर ग्राफ डेटाबेस में संग्रहीत किए जाते हैं और एक विषय-वाक्य-वस्तु संरचना का पालन करते हैं, जैसे ‘माइक्रोसॉफ्ट ओपनएआई का एक ग्राहक है’।

स्थायी स्मृति

इस साल सितंबर में एक चीनी अध्ययन ने एक प्रशिक्षण-मुक्त विधि का प्रस्ताव किया जो ग्राफ-आधारित तर्क का उपयोग करके मल्टीमोडल डीपफ़ेक्स में सूक्ष्म असंगतताओं का पता लगाता है।

बड़े मॉडलों को फाइन-ट्यूनिंग या तर्क उत्पन्न करने के बजाय, सिस्टम छवि-पाठ जोड़े, एक समानता ग्राफ बनाता है, और कनेक्शन को स्कोर करता है, ताकि सबसे प्रासंगिक उदाहरण प्राप्त किए जा सकें, और वे मॉडल के निर्णय को मार्गदर्शन करने के लिए मार्गदर्शन करें।

जीएएसपी-आईसीएल फ्रेमवर्क का एक अवलोकन, जो ग्राफ-आधारित नमूना चयन के साथ संदर्भ-शिक्षा को जोड़कर डीपफ़ेक डिटेक्शन में सुधार करता है, जो एक जमे हुए दृष्टि-भाषा मॉडल को छवि/पाठ जोड़े को वास्तविक या नकली के रूप में वर्गीकृत करने की अनुमति देता है, प्रशिक्षण या फाइन-ट्यूनिंग की आवश्यकता के बिना। स्रोत

यह शायद मेरे रास्ते में आए काम के सबसे करीब है जो ‘सूचित’ और इतिहास-जागरूक दृष्टिकोण के लिए नए मीडिया आउटपुट के मूल्यांकन और सत्यापन के लिए।

विशेषता क्रीप

इस प्रकार की भविष्यवाणी प्रणाली की चुनौती यह है कि पूरी तरह से कार्य करने के लिए आवश्यक निगरानी का दायरा – कम से कम मशहूर हस्तियों और सार्वजनिक हस्तियों के विश्लेषण से परे, जिनके लिए पहले से ही सुलभ डेटा मौजूद है।

शायद सबसे समान वर्तमान धारा इस क्षेत्र में पूर्व-आपराधिक क्षेत्र है, जो विविध मल्टीमोडल खुफिया संकेतों को ‘संदिग्ध’ के रूप में लेबल करता है, और जोनाथन नोलन की पर्सन ऑफ इंटरेस्ट (2011-2016) और स्टीवन स्पीलबर्ग की माइनॉरिटी रिपोर्ट (2002) जैसे आउटिंग में एक एआई स्केयरक्रो के रूप में प्रस्तुत करता है।

एक पर्सन ऑफ इंटरेस्ट-शैली की सर्व-ग्रासिक निगरानी प्रणाली ऑप्टिमल परिणाम उत्पन्न करेगी, लेकिन यह असंभव लगता है कि पश्चिमी संस्कृति इस समय व्यक्तिगत आक्रामकता के स्तर को स्वीकार कर सकती है जो चीन के आंतरिक नेटवर्क अपने नागरिकों पर थोपते हैं।

अत:, संभावित नकली समाचार के संबंध में गैर-मशहूर हस्तियों के लिए, केवल सरकारी एजेंसियां, जैसे पुलिस (साथ ही जन्म और मृत्यु रजिस्ट्रार और कर कार्यालय),历史 जानकारी के लिए पर्याप्त प्रासंगिक जानकारी होगी जो एक ग्राफ-आधारित कार्यप्रवाह में संभावनाओं को सूचित करेगी; और उन्हें भी अपने कवरेज और विश्लेषण में औसत नागरिकों को शामिल करने के लिए सीसीपी-शैली की इच्छा, क्षमता, कानून और संसाधनों की आवश्यकता होगी।

संभावना स्कोरिंग

ऐसा लगता है कि इस प्रकार की प्रणाली की संभावित प्रभावशीलता वर्तमान में डीपफ़ेक सामग्री के लिए सबसे स्पष्ट उपयोग के मामलों तक सीमित होगी: अस्थिरता (राज्य-प्रायोजित डीपफ़ेक्स); सेलिब्रिटी और ‘अज्ञात’ पोर्न डीपफ़ेक्स (जिनमें से दोनों को दुर्भाग्यपूर्ण माना जा सकता है, हालांकि बाद का मामला गहरी मीडिया चिंता को आकर्षित करता है); धोखाधड़ी (जिसमें ऑडियो/वीडियो डीपफ़ेक्स शामिल हैं जो ‘प्रतिरूपण लूट’ करने के लिए डिज़ाइन किए गए हैं); और राजनीतिक पात्र हत्या.

एक ज्ञान-आधारित प्रणाली को विभिन्न संभावित घटनाओं के लिए एक संभावना के पैमाने की आवश्यकता होगी। स्पेक्ट्रम के एक छोर पर, मानवीय कमजोरियां जैसे संदेहास्पद वित्तीय प्रबंधन, विश्वासघात, लत, असावधानी, आदि; दूसरे छोर पर… यह बताना कि आप एक लाइव टीवी चैट शो (या समान पैमाने और प्रभाव की घटनाओं) पर भगवान के पुत्र हैं।

यहां तक कि बाद के मामले में, किसी व्यक्ति के लिए व्यक्तिगत ऐतिहासिक कारक संभावना परिणाम को भारित करेंगे: एक प्रमुख राजनीतिक हस्ती जो विवादास्पद मामलों (जैसे 1960/70 के चंद्र लैंडिंग की वास्तविकता) में सार्वजनिक रूप से टालमटोल करती है ताकि एक बढ़ती ‘वैकल्पिक रूप से सूचित’ निर्वाचन क्षेत्र के साथ पूंजी प्राप्त की जा सके, अपने अधिक शांत सहयोगियों की तुलना में पुष्टि कार्यों में अतिरिक्त वाइल्डकार्ड का दर्जा प्राप्त कर सकता है।

सेलिब्रिटी पोर्न के मामले में, पर्याप्त वास्तविक दुनिया का संदर्भ (यानी, 2012 सेलिब्रिटी फोटो लीक, अन्य – काफी दुर्लभ – घटनाओं के बीच) है जो एक मॉडरेट लायर डिविडेंड को कुछ संदर्भों में उत्पन्न करने के लिए पर्याप्त है; लेकिन चूंकि ये आउटलायर घटनाएं नियम को साबित करने वाले अपवाद के रूप में काम करती हैं, इसलिए अधिकांश वर्तमान फैलाव-आधारित सेलिब्रिटी पोर्न वीडियो को बेहद ‘असंभव’ माना जाएगा (हालांकि यह लोगों की पहचान के लिए ऐसे उद्देश्यों के लिए उपयोग किए जाने के मुद्दे को हल नहीं करता है)।

राष्ट्रीय व्यवधान के संबंध में, ‘विनाशकारी’ रिपोर्टों की संभावना का आकलन करने में मदद करने के लिए एक महत्वपूर्ण सांख्यिकीय डेटा का खजाना है। यहां तक कि प्राचीन इतिहास में, वेसुवियस जैसी अज्ञात ज्वालामुखी के 79 ईस्वी में विस्फोट जैसी घटनाएं, जो यदि आपने पर्याप्त ध्यान दिया होता, तो पहले से ही संकेत दिए गए थे; और सरकारी और गैर-सरकारी संगठनों के समर्थन वाले फीड्स की उपलब्धता के अलावा, एआई की बढ़ती क्षमता कच्चे डेटा से संरचना निकालने में संभावना स्कोरिंग के लिए अतिरिक्त ऐतिहासिक संदर्भ प्रदान कर सकती है।

निष्कर्ष

यहां तक कि एक अच्छी तरह से लागू की गई भविष्यवाणी प्रणाली भी यादृच्छिक मौका, दैवीय कृत्यों, अप्रत्याशित घटनाओं, या दूर से तैयार किए गए दुर्भाग्यपूर्ण घटनाओं के लिए खाता नहीं हो सकती है।

इसके अलावा, गैर-प्रसिद्ध लोगों के लिए भी कवरेज प्रदान करने के लिए आवश्यक डेटा की मात्रा और गहराई एक राजनीतिक अवरोध होगी – कम से कम, इस समय के लिए।

हालांकि, विकल्प सीमित होते जा रहे हैं; दृष्टि-आधारित विश्लेषण बेहतर जनरेटिव एआई के सामने विफल होने के लिए तैयार है, जबकि सत्यापन और प्रोवेनेंस योजनाएं अपनाने के खिलाफ एक बोझिल तकनीकी ऋण और घर्षण ले जाती हैं, जो एडोबी-नेतृत्व कंटेंट ऑथेंटिकिटी इनिशिएटिव और मेटाफिजिक प्रो जैसे समाधानों को लोकप्रिय बनाना मुश्किल बना देता है।

उनका मूल्य तब साबित हो सकता है जब वे एक बड़े डेटा पारिस्थितिकी तंत्र का हिस्सा बनें जो ऐतिहासिक संदर्भ से संबंधित है, जो कि वर्तमान में अधिकांश एआई रूपों के लिए चुनौतीपूर्ण है।

* 2017 में शुरू हुए प्रारंभिक ऑटोएनकोडर आउटिंग के साथ भ्रमित न हों, जो अंततः श्रेष्ठ दृष्टिकोण से प्रतिस्थापित हो गए।

^† https://arxiv.org/abs/2511.07009

^** जो आमतौर पर अधिक शक्तिशाली घरेलू पीसी पर स्वतंत्र रूप से चल सकता है, न कि केवल गेट-कीप्ड एपीआई जैसे चैटजीपीटी और वियो श्रृंखला के माध्यम से उपलब्ध है।

^††† वैध मनोरंजन उपयोगों को छोड़कर, जैसे फिल्म और टीवी उत्पादन में पेशेवर दृश्य प्रभाव।

पहली बार गुरुवार, 13 नवंबर, 2025 को प्रकाशित।