यूरोपीय और यूके के डीपफेक नियमन प्रस्ताव आश्चर्यजनक रूप से सीमित हैं

विश्लेषण उन अभियानकर्ताओं के लिए जो आशा कर रहे थे कि 2022 वह वर्ष हो सकता है जब डीपफेक्ड इमेज कानूनी दृष्टिकोण से सख्त हो सकती है, शुरुआती संकेतों से पता चलता है कि यह आशावादी नहीं है।

पिछले गुरुवार को यूरोपीय संसद ने पुष्टि की कि डिजिटल सेवा अधिनियम (DSA, 2023 में लागू होने वाले) में संशोधन किए गए हैं, जो डीपफेक्स के प्रसार से संबंधित हैं। संशोधन दो खंडों में डीपफेक्स को संबोधित करते हैं, जो दोनों ऑनलाइन विज्ञापन से संबंधित हैं: संशोधन 1709 जो अनुच्छेद 30 से संबंधित है, और अनुच्छेद 63 से संबंधित एक संबंधित संशोधन।

पहला एक पूरी तरह से नया अनुच्छेद 30a प्रस्तावित करता है, जिसका शीर्षक डीप फेक है, जो कहता है:

‘जहां एक बहुत बड़ा ऑनलाइन प्लेटफ़ॉर्म यह जानता है कि सामग्री एक उत्पन्न या हेरफेर की गई छवि, ऑडियो या वीडियो सामग्री है जो मौजूदा व्यक्तियों, वस्तुओं, स्थानों या अन्य संस्थाओं या घटनाओं के समान है और झूठे में वास्तविक या सच्चा प्रतीत होता है (डीप फेक्स), प्रदाता को सामग्री को ऐसे लेबल करना चाहिए जो सूचित करता है कि सामग्री अस्वाभाविक है और सेवा के प्राप्तकर्ता के लिए स्पष्ट रूप से दिखाई दे रही है।’

दूसरा अनुच्छेद 63 में पाठ जोड़ता है, जो मुख्य रूप से बड़े विज्ञापन मंचों की पारदर्शिता बढ़ाने से संबंधित है। प्रासंगिक पाठ कहता है:

‘इसके अलावा, बहुत बड़े ऑनलाइन प्लेटफ़ॉर्म को ज्ञात डीप फेक वीडियो, ऑडियो या अन्य फ़ाइलों को लेबल करना चाहिए।’

वास्तव में, कानूनी तौर पर यह लगता है कि ‘वैध डीपफेक्स’ की बढ़ती प्रथा के लिए तैयारी की जा रही है, जहां अनुमति दी गई है और विज्ञापन सामग्री में फेस-स्वैपिंग के लिए अधिकार सुरक्षित हैं – जैसे कि रूसी टेल्को टेलीफ़ोन का लाइसेंस्ड उपयोग ब्रूस विलिस की पहचान एक हालिया विज्ञापन अभियान में।

विधायी संकोच

DSA, अभी तक, डीपफेक तकनीकों के उपयोग के बारे में अभियानकर्ताओं की चिंताओं को संबोधित नहीं करता है, जैसा कि वे सबसे आम तौर पर उपयोग किया जाता है – अश्लील वीडियो को फिर से बनाने के लिए। न ही यह पता चलता है कि डीपफेक्स का उपयोग फिल्मों और टेलीविजन में कितना होगा, जिसे दर्शकों को उसी तरह से खुलासा करने की आवश्यकता होगी जैसे कि विज्ञापन में डीपफेक्स को यूरोप में 2023 से होगा।

DSA की पुष्टि प्रक्रिया अब यूरोपीय संघ के सदस्य देशों के साथ वार्ता के लिए आगे बढ़ती है, साथ ही डिजिटल बाजार अधिनियम (DMA) के व्यापक दायरे के साथ।

यूरोपोल की दिसंबर 2020 की रिपोर्ट मैलिशस यूज़ एंड एब्यूज़ ऑफ़ आर्टिफ़िशियल इंटेलिजेंस ने कहा कि यह यूरोपीय संघ के लिए एक गलती होगी कि विशिष्ट वर्तमान डीपफेक प्रौद्योगिकियों (जैसे डीपफेसलाइव) को संबोधित किया जाए, जो यूरोपीय संघ के कानून को नवीनतम फ्रेमवर्क या विधि के साथ पकड़ने के लिए मजबूर कर सकता है।

रिपोर्ट में कहा गया है:

‘विशेष रूप से, ये नीतियां प्रौद्योगिकी-अज्ञेय होनी चाहिए ताकि वे लंबे समय में प्रभावी हो सकें और उन्हें नियमित रूप से समीक्षा और प्रतिस्थापित करने की आवश्यकता न हो, क्योंकि डीपफेक्स के निर्माण और दुरुपयोग के पीछे की प्रौद्योगिकी विकसित होती है। ‘

‘हालांकि, ऐसे उपायों को जेनरेटिव एडवर्सेरियल नेटवर्क (GANs) के सकारात्मक अनुप्रयोगों को भी रोकना नहीं चाहिए।’

उपरोक्त उद्धरण में जेनरेटिव एडवर्सेरियल नेटवर्क (GANs) के बारे में अंतिम टिप्पणी यूरोपीय और उत्तरी अमेरिकी देशों को डीपफेक्स पर कानून लागू करने में संकोच की व्याख्या करती है, जो एक उभरते हुए क्षेत्र को प्रभावित कर सकता है जो पहले से ही एशिया से पिछड़ रहा है (जिनके अधिक निर्देशित देश डीपफेक कानून को तेजी से लागू करने में सक्षम हैं)।

उदाहरण के लिए, 2018 की एक रिपोर्ट यूके की आर्टिफ़िशियल इंटेलिजेंस पर हाउस ऑफ़ लॉर्ड्स की चयन समिति से कहती है कि कई बार जोखिम को रेखांकित किया जाता है कि यूरोपीय संघ में एआई विकास को रोकने की अनुमति देने के लिए, जो इसके शीर्षक में प्रतिबिंबित होता है: एआई इन द यूके: रेडी, विलिंग एंड एबल?। पिछले अप्रैल में, ब्रिटेन भी स्व-ड्राइविंग कारों को मोटरवे पर तैनात करने वाला पहला देश बन गया।

अमेरिका कम उत्साही नहीं है; संयुक्त राज्य अमेरिका में, ब्रुकिंग्स संस्थान ने महसूस किया है कि संयुक्त राज्य अमेरिका में एआई के लिए विनियमन बढ़ाने की आवश्यकता है, जो कानूनविदों को उनके ‘प्रतीक्षा और देखें’ दृष्टिकोण के लिए फटकार लगा रहा है मशीन लर्निंग प्रौद्योगिकियों के परिणामों पर

यूरोपीय संघ के प्रस्तावित एआई नियमन ढांचे के अलावा, जो अप्रैल 2021 में जारी किया गया था, डीपफेक्स के विषय को टाल दिया गया था और आलोचना की गई थी।

यूके में डीपफेक नियमन की कमी

डीपफेक विरोधी अभियानकर्ताओं के लिए एक अतिरिक्त निराशा, जैसे कि लेखक हेलेन मॉर्ट, जिन्होंने 2021 में नए यूके कानून के लिए प्रमुखता से अभियान चलाया था, जिसमें उन्हें अनुमति के बिना अश्लील डीपफेक वीडियो में चित्रित किया गया था, एक रिपोर्ट जो आज यूके संसद की डिजिटल, संस्कृति, मीडिया और खेल समिति द्वारा प्रकाशित की गई है, ब्रिटिश सरकार की आलोचना करती है डीपफेक्स को संबोधित करने में विफल रहने के लिए ड्राफ्ट ऑनलाइन सुरक्षा बिल में।
रिपोर्ट में ड्राफ्ट बिल के खिलाफ डीपफेक दुरुपयोग के खिलाफ वर्तमान कानूनी उपचार को ‘अस्पष्ट और व्यावहारिक’ बताया गया है, और सुझाव दिया गया है कि प्रस्तावित कानून डीपफेक्स द्वारा सुविधाजनक अश्लील वीडियो और छवि हेरफेर तकनीकों के ‘कानूनी लेकिन हानिकारक’ दर्जे को संबोधित नहीं करता है:

‘[हम] सिफारिश करते हैं कि सरकार proactively ऐसी सामग्री के प्रकारों को संबोधित करे जो तकनीकी रूप से कानूनी हैं, जैसे कि ब्रेडक्रंबिंग और महिलाओं और लड़कियों के खिलाफ ऑनलाइन हिंसा जैसे बच्चों के दुरुपयोग के क्रम में हानिकारक भाग, और तकनीकी रूप से महिलाओं को नग्न करने जैसी तकनीकी रूप से सक्षम ‘नग्नता’ और डीपफेक पोर्नोग्राफी को प्राथमिक कानून या हानिकारक सामग्री के कर्तव्यों के माध्यम से देखभाल के दायरे में लाने के लिए।’

वर्तमान में लागू कानून यूके में ‘वास्तविक’ छवियों तक सीमित है, जैसे कि प्रतिशोध पोर्नोग्राफी के मामले, जहां, उदाहरण के लिए, गोपनीय और निजी स्पष्ट सामग्री को एक पूर्व साथी द्वारा सार्वजनिक रूप से साझा किया जाता है। यदि एक उत्पीड़क डीपफेक सामग्री को बनाता है और प्रकाशित करता है जो उनके ‘लक्ष्य’ की पहचान को अश्लील सामग्री में डालता है, तो उन्हें केवल तभी दोषी ठहराया जा सकता है जब वे सीधे लक्ष्य को परेशान करते हैं या उस सामग्री को सीधे उन्हें निर्देशित करते हैं, या कॉपीराइट से संबंधित कानून के तहत।

पहले मामले में, नई डीपफेक सामग्री को ट्रैक्शन और दर्शकों को इकट्ठा करने में आसानी से लगभग निश्चित रूप से यह सुनिश्चित करती है कि पीड़ित को चिंतित दोस्तों या अन्य तीसरे पक्षों द्वारा सूचित किया जाएगा, न कि जिस व्यक्ति ने उन्हें डीपफेक किया है, जिससे डीपफेकर का काम अभी भी ‘लक्ष्य तक पहुंचता है’, जो सुरक्षा प्रदान करता है।

दूसरे मामले में, अभियोजन केवल तभी संभव होगा जब एक अनदेखी तीसरे पक्ष का अश्लील वीडियो (जिसमें पीड़ित की पहचान बाद में सुपरइम्पोज़ की जाती है) पेशेवर रूप से उत्पादित और यूके के कॉपीराइट क्षेत्र में वैध रूप से संरक्षित होगा (हालांकि एक उपयुक्त वीडियो दुनिया भर में किसी भी कानूनी क्षेत्राधिकार से स्वतंत्र रूप से सourced किया जा सकता है)। एक ‘शौकिया’ वीडियो किसी भी क्षेत्राधिकार से स्पष्ट कॉपीराइट स्थिति की कमी है, और एक वीडियो जिसे डीपफेकर ने विशेष रूप से पीड़ित को सुपरइम्पोज़ करने के लिए शूट किया है, वह स्वयं कॉपीराइट कानूनों द्वारा संरक्षित है, बशर्ते यह अन्य कानूनों के अनुरूप हो।

पीछे छूटना

दिसंबर 2021 में, यूके के कानून आयोग ने प्रस्तावित किया कि नफ़रत भरे भाषण के कानूनों का विस्तार किया जाए ताकि लिंग-आधारित शत्रुता को शामिल किया जा सके, लेकिन डीपफेक्स को इस श्रेणी में शामिल नहीं किया गया,尽管 दुनिया भर में इसके कई उदाहरण हैं (विशेष रूप से भारत में) महिला राजनेताओं और महिला कार्यकर्ताओं के खिलाफ इस प्रौद्योगिकी का हथियार बनाने के।
महिलाएं अवैध डीपफेक सामग्री का लक्ष्य होने की संभावना है, चाहे फेकर के इरादे सामाजिक हों (यानी, अपमानित करने, डी-प्लेटफ़ॉर्म करने और शक्तिहीन करने का इरादा) या केवल व्यंग्यात्मक (यानी, अश्लील) प्रकृति के हों।

संयुक्त राज्य अमेरिका में डीपफेक कानून

इसके विपरीत, संयुक्त राज्य अमेरिका अपने नागरिकों के ‘पब्लिकिटी के अधिकार’ की कुछ हद तक रक्षा करता है, हालांकि संघीय स्तर पर नहीं (वर्तमान में, ऐसे आंकड़े लगभग आधे अमेरिकी राज्यों में मौजूद हैं, जिनके व्यापक रूप से भिन्न कानूनी तंत्र हैं)।

हालांकि यूके की तुलना में डीपफेक कानूनन के मामले में सुधार है, संयुक्त राज्य अमेरिका केवल राज्य-विशिष्ट कवरेज का दावा कर सकता है, और लगता है कि यह प्रौद्योगिकी के राजनीतिक हेरफेर के संभावित को संबोधित करने से पहले निजी व्यक्तियों पर इसके प्रभाव को संबोधित करने के लिए तैयार है।

2019 में, टेक्सास राज्य ने डीपफेक्स के निर्माण या प्रसार को प्रतिबंधित कर दिया, जो राजनीतिक हैं (टेक्सास सीनेट बिल 751, एसबी 751), डीपफेक पोर्नोग्राफी के बारे में कोई बयान दिए बिना। उसी वर्ष, वर्जीनिया राज्य ने एक संशोधन जोड़ा एक मौजूदा कानून में जो अन्य की छवियों के अवैध प्रसार या बिक्री से संबंधित है, जिसमें झूठे तौर पर बनाई गई वीडियोग्राफिक या स्थिर छवि जैसे शब्द जोड़े गए हैं।

2020 में, कैलिफोर्निया राज्य ने कैलिफोर्निया असेंबली बिल 602 (एबी 602) को लागू किया, जो अश्लील डीपफेक्स के निर्माण या प्रसार को प्रतिबंधित करता है। बिल में कोई सूर्यास्त खंड नहीं है, लेकिन तीन साल की सांविधिक सीमा है, और इसके साथ एक अलग खंड है जो राजनीतिक डीपफेक्स को कवर करता है।

2020 के अंत में, न्यूयॉर्क राज्य ने सीनेट बिल एस 5959 डी पारित किया, जो न केवल अश्लील डीपफेक्स के निर्माण और/या पुनः प्रकाशन पर रोक लगाता है, बल्कि डीपफेक्स, सीजीआइ या किसी अन्य साधन से एक कंप्यूटर-जनित समानता के संबंध में एक उपयोगकर्ता के प्रचार अधिकार की रक्षा करता है, यहां तक कि मृत्यु के बाद भी (यदि व्यक्ति संबंधित समय पर न्यूयॉर्क का निवासी था)।

अंत में, मैरीलैंड राज्य ने बाल पोर्नोग्राफी के आसपास अपने कानूनों को संशोधित किया है ताकि डीपफेक्स का उपयोग शामिल किया जा सके और आपराधिक बनाया जा सके, हालांकि यह वयस्क लक्ष्यों पर डीपफेक्स के प्रभाव को संबोधित नहीं करता है।

डीपफेकगेट का इंतजार

इतिहास से पता चलता है कि एक राष्ट्र को अपनी प्रतिक्रिया तेज करने के लिए नई प्रौद्योगिकियों द्वारा होने वाले नुकसान को व्यक्तिगत रूप से महसूस करना पड़ता है। मिस्र में एक किशोर लड़की की हाल ही में मौत, जिसे कथित तौर पर अपने बारे में डीपफेक पोर्नोग्राफी के साथ धमकी दी जा रही थी, को पश्चिमी मीडिया में सीमित कवरेज मिला है, जबकि संयुक्त अरब अमीरात में $35 मिलियन डॉलर की चोरी के बारे में खुलासा, जो 2021 में सामने आया, एक ‘दूर की घटना’ का प्रतिनिधित्व करता है जो सीनेट को तेज करने के लिए पर्याप्त नहीं हो सकता है, या 45 शेष राज्यों में डीपफेक कानूनन को लागू करने के लिए आग में ईंधन नहीं डाल सकता है जिन्होंने अभी तक ऐसा नहीं किया है।

यदि संयुक्त राज्य अमेरिका डीपफेक प्रौद्योगिकी के दुरुपयोग के आसपास एक अधिक एकजुट मोर्चा अपनाता है, तो व्यापक कानूनी कार्रवाई संभवतः दूरसंचार और डेटा बुनियादी ढांचे और भंडारण के शासन को प्रभावित करेगी, जिससे दुनिया भर में अपने व्यवसाय भागीदारों पर तेजी से पकड़ लगाने वाले नीति परिवर्तन हो सकते हैं। यह तथ्य कि यूरोप के जीडीपीआर को अपनाने से उत्तरी अमेरिका में डेटा संग्रह और प्रतिधारण नीति में ‘क्रॉसओवर’ नहीं हुआ, इसका मतलब यह नहीं है कि यूरोपीय संघ डीपफेक पोर्नोग्राफी के निर्माण, भंडारण और प्रतिधारण पर अधिक प्रतिबद्ध कानूनी立场 लेने पर कम अनुपालन वाले देशों पर दबाव डाल सकता है जिनके साथ यह व्यापार करता है – यदि यह कभी डीपफेक्स पर कानूनन को लागू करने का फैसला करता है।

लेकिन कुछ तो होना चाहिए, ‘ग्राउंड जीरो’ पर; और हम अभी भी इसका इंतजार कर रहे हैं: एक बड़ा डार्कनेट हॉल của सीएसएएम द्वारा अधिकारियों द्वारा; एक प्रमुख छापेमारी जो ऑडियो और/या वीडियो-आधारित डीपफेक प्रौद्योगिकियों का उपयोग करके एक अमेरिकी कंपनी के निदेशक को बहुत बड़ी राशि का गलत निर्देशन करने के लिए; या अमेरिकी समकक्ष महिलाओं को पितृसत्तात्मक देशों में डीपफेक्स द्वारा पीड़ित करने के बढ़ते उपयोग का (जो कि संदेहास्पद है)। ये कठिन चीजें हैं जिनकी कामना करना है, और किसी अन्य तरीके से बचने के लिए अच्छी चीजें हैं, जो कि सिर्फ सिर को रेत में डालना है, या एक ‘अग्नि’ घटना का इंतजार करना है।

एक केंद्रीय समस्या यह है कि डीपफेक्स अभी भी अल्गोरिदमिक रूप से पहचानना मुश्किल हैं; अधिकांश डिटेक्शन विधियों का ढेर जो हर महीने arXiv पर आता है, वॉटरमार्किंग, ब्लॉकचेन-आधारित सत्यापन, या किसी तरह से बदलने पर निर्भर करता है हम वर्तमान में वीडियो का उपभोग करने के लिए उपयोग की जाने वाली पूरी बुनियादी ढांचे – समाधान जो वीडियो की धारणा के पुनर्मूल्यांकन का सुझाव देते हैं कि ‘सत्य’ के लिए प्रॉक्सी के रूप में। शेष को डीपफेक्स के लोकप्रिय ओपन-सोर्स रिपॉजिटरी में चल रहे उन्नति से नियमित रूप से पीछे छोड़ दिया जाता है।

एक और समस्या यह है कि प्रमुख पश्चिमी देश सही मायने में एक ही समस्याग्रस्त धागे की प्रतिक्रिया में एक नई एआई प्रौद्योगिकियों के एक समूह में से हॉट-हेडेड प्रतिबंध और विनियमन की पेशकश नहीं करने के लिए सही हैं, जो समाज और उद्योग के लिए बड़े लाभ का वादा करते हैं, और जो किसी तरह से प्रभावित हो सकते हैं यदि छवि संश्लेषण प्रणालियों के खिलाफ प्रतिक्रिया में गंभीर प्रतिबंध और विनियमन शुरू हो जाता है।

हालांकि, यह एक अच्छा विचार हो सकता है कि हम डीपफेक्स के नियमन की ओर धीमी और कभी-कभी निर्देशित यात्रा को तेज करें, और मध्य मैदान में संभावित समस्याओं से निपटने के लिए, और अपने स्वयं के शब्दों में, इसके बजाय बाद की घटनाओं द्वारा मजबूर किए जाने से पहले एक कम विचारशील प्रतिक्रिया में नहीं।

* आरोपितों पर धमकी का आरोप लगाया गया है; मिस्र में डीपफेक पोर्नोग्राफी के लिए कोई कानून नहीं है। पहली बार 24 जनवरी 2022 को प्रकाशित किया गया।