‘डीपफेक’ की अस्पष्ट परिभाषा

एक मजबूत नए अध्ययन से पता चलता है कि जर्मनी में यूरोपीय संघ के एआई अधिनियम की ‘डीपफेक’ शब्द की परिभाषा अत्यधिक अस्पष्ट है, विशेष रूप से डिजिटल छवि हेरफेर के संदर्भ में। लेखकों का तर्क है कि अधिनियम का वास्तविक लोगों या घटनाओं की सामग्री की तरह दिखने पर जोर – लेकिन संभावित रूप से नकली दिखने पर – स्पष्टता की कमी है।

वे यह भी रेखांकित करते हैं कि अधिनियम के ‘मानक संपादन’ (अर्थात कथित रूप से अल्प AI-सहायता प्राप्त छवियों में संशोधन) के अपवाद उपभोक्ता अनुप्रयोगों में एआई के व्यापक प्रभाव और कलात्मक परंपराओं की विषयगत प्रकृति को ध्यान में नहीं रखते हैं जो एआई के आगमन से पहले ही मौजूद थीं।

इन मुद्दों पर अस्पष्ट कानूनी नियमन से दो प्रमुख जोखिम उत्पन्न होते हैं: एक ‘चिलिंग प्रभाव’, जहां कानून के व्यापक व्याख्यात्मक दायरे नवाचार और नए प्रणालियों को अपनाने को दबा देते हैं; और एक ‘स्कोफलॉ प्रभाव’, जहां कानून को अत्यधिक या अप्रासंगिक माना जाता है।

दोनों मामलों में, अस्पष्ट कानून वास्तविक कानूनी परिभाषाएं स्थापित करने की जिम्मेदारी भविष्य के न्यायिक निर्णयों पर छोड़ देते हैं – एक सावधान और जोखिम-विरोधी विधायी दृष्टिकोण।

एआई-आधारित छवि-हेरफेर प्रौद्योगिकियां अभी भी कानूनी नियमन की क्षमता से आगे हैं, ऐसा लगता है। उदाहरण के लिए, एआई-संचालित ‘स्वच्छ’ पोस्ट-प्रोसेसिंग की बढ़ती लोच की एक उल्लेखनीय मिसाल, इस पेपर में देखी जा सकती है, जो हाल के सैमसंग कैमरों में ‘सीन ऑप्टिमाइज़र’ फंक्शन है, जो उपयोगकर्ता-ली गई छवियों को चंद्रमा (एक चुनौतीपूर्ण विषय) के साथ बदल सकता है:

<img class=" wp-image-210152" src="https://www.unite.ai/wp-content/uploads/2024/12/samsung-moon-photo.jpg" alt="ऊपरी बाएं, एक वास्तविक उपयोगकर्ता-ली गई चंद्रमा की छवि का एक उदाहरण, सैमसंग-वृद्ध छवि के बगल में स्वचालित रूप से सीन ऑप्टिमाइज़र के साथ बनाई गई; दाएं, सैमसंग की इस प्रक्रिया का आधिकारिक चित्रण; निचले बाएं, रेडिट उपयोगकर्ता u/ibreakphotos से उदाहरण, जो (बाएं) एक जानबूझकर धुंधली चंद्रमा की छवि और (दाएं), सैमसंग की इस छवि को फिर से कल्पना करता है – भले ही स्रोत फोटो मॉनिटर की एक तस्वीर थी, न कि वास्तविक चंद्रमा। स्रोत (ऊपरी बाएं से घड़ी की दिशा में): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https://reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

उपरोक्त छवि के निचले बाएं भाग में, हम चंद्रमा की दो छवियों को देखते हैं। बाएं छवि एक रेडिट उपयोगकर्ता द्वारा ली गई है। यहां, छवि को उपयोगकर्ता द्वारा जानबूझकर धुंधला और कम रिज़ॉल्यूशन वाला बनाया गया है।

इसके दाहिनी ओर हम एक ही क्षतिग्रस्त छवि को सैमसंग कैमरे में एआई-संचालित पोस्ट-प्रोसेसिंग के साथ लिए गए फोटो को देखते हैं। कैमरा ने स्वचालित रूप से ‘सुधारित’ चंद्रमा वस्तु को मान्यता दी है, भले ही यह वास्तविक चंद्रमा न हो।

इस प्रकार के ad hoc कार्यक्षमता के आसपास विभिन्न उपयोग के मामलों की एक व्यापक सूची तैयार करना व्यावहारिक नहीं होगा। इसलिए, परिभाषा का बोझ एक बार फिर से न्यायालयों पर पड़ता है।

लेखकों का तर्क है कि यह कानूनी परिभाषाएं स्थापित करने के लिए न्यायालयों पर निर्भर रहना एक सावधान और जोखिम-विरोधी विधायी दृष्टिकोण है।

पुराने हथकंडे

फोटोग्राफी में समय को हेरफेर करना उपभोक्ता-स्तर के एआई से बहुत पुराना है। नए पेपर के लेखकों का तर्क है कि पुरानी तकनीकों का अस्तित्व है जो ‘अस्वाभाविक’ के रूप में तर्क दिया जा सकता है, जैसे कि एक हाई डायनेमिक रेंज (एचडीआर) फोटो या एक ‘सिलाई’ पैनोरमिक फोटो में कई अनुक्रमिक छवियों का संयोजन:

वास्तव में, फोटोग्राफिक नकली के सबसे पुराने और सबसे मनोरंजक पारंपरिक रूप से स्कूली बच्चों द्वारा बनाए गए थे जो स्कूल समूह फोटोग्राफी के लिए उपयोग किए जाने वाले विशेष पैनोरमिक कैमरों के ट्रैक के सामने दौड़ते थे – जिससे छात्र एक ही छवि में दो बार दिखाई दे सकते थे:

समूह फोटो के दौरान पैनोरमिक कैमरों को चकमा देने का प्रलोभन कई छात्रों के लिए बहुत अधिक था, जो अपने स्कूल फोटो में खुद को ‘क्लोन’ करने के लिए एक बुरे सत्र में हेड के कार्यालय में जोखिम उठाने को तैयार थे। स्रोत: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

जब तक आप रॉ मोड में फोटो नहीं लेते हैं, जो कैमरा लेंस सेंसर को एक बहुत बड़े फ़ाइल में डंप करता है बिना किसी प्रकार की व्याख्या के, यह संभावना है कि आपकी डिजिटल फोटो पूरी तरह से प्रामाणिक नहीं हैं। कैमरा सिस्टम डिफ़ॉल्ट रूप से ‘सुधार’ अल्गोरिदम जैसे छवि तेज़ करना और सफेद संतुलन लागू करते हैं – और उन्होंने ऐसा उपभोक्ता-स्तर के डिजिटल फोटोग्राफी के मूल से किया है।

लेखकों का तर्क है कि यह पुराने प्रकार के डिजिटल फोटो संवर्द्धन ‘वास्तविकता’ का प्रतिनिधित्व नहीं करते हैं, क्योंकि ऐसे तरीके फोटो को अधिक ‘सुंदर’ बनाने के लिए डिज़ाइन किए गए हैं, न कि अधिक ‘वास्तविक’।

अध्ययन सुझाव देता है कि यूरोपीय संघ का एआई अधिनियम, बाद के संशोधनों के साथ, फोटोग्राफी के संदर्भ में एक साक्ष्यात्मक ढांचे में सभी फोटोग्राफिक आउटपुट को रखता है जो आजकल उत्पादित किए जाते हैं, इसके विपरीत (नाममात्र पर) सुरक्षा कैमरा फुटेज या फोरेंसिक फोटोग्राफी की वस्तुनिष्ठ प्रकृति। अधिकांश छवियां जिन्हें एआई अधिनियम संबोधित करता है वे अधिक संभावना है कि संदर्भों में उत्पन्न होंगी जहां निर्माता और ऑनलाइन प्लेटफ़ॉर्म रचनात्मक फोटो व्याख्या को बढ़ावा देते हैं, जिसमें एआई का उपयोग शामिल है।

शोधकर्ताओं का तर्क है कि फोटो ‘वास्तविकता’ का एक वस्तुनिष्ठ चित्रण कभी नहीं रहा है। कैमरे के स्थान, गहराई के क्षेत्र का चयन, और प्रकाश विकल्प, सभी एक फोटोग्राफ को गहराई से विषयगत बनाने में योगदान करते हैं।

पेपर यह भी观察 करता है कि नियमित ‘साफ़-सफ़ाई’ कार्य – जैसे कि सेंसर धूल या अवांछित बिजली लाइनों को एक अन्यथा अच्छी तरह से संरचित दृश्य से हटाना – एआई के उदय से पहले केवल अर्ध-स्वचालित थे: उपयोगकर्ताओं को एक क्षेत्र का चयन करना या एक प्रक्रिया को आरंभ करना था ताकि वे अपना वांछित परिणाम प्राप्त कर सकें।

आज, ये संचालन अक्सर उपयोगकर्ता के पाठ प्रेरक द्वारा ट्रिगर किए जाते हैं, विशेष रूप से फोटोशॉप जैसे उपकरणों में। उपभोक्ता स्तर पर, ऐसी सुविधाएं अब उपयोगकर्ता के इनपुट के बिना स्वचालित हो गई हैं – एक परिणाम जिसे निर्माताओं और प्लेटफ़ॉर्म द्वारा ‘स्पष्ट रूप से वांछनीय’ माना जाता है।

‘डीपफेक’ का पतला अर्थ

एआई-परिवर्तित और एआई-उत्पन्न छवियों के आसपास कानूनी नियमन के लिए एक केंद्रीय चुनौती ‘डीपफेक’ शब्द की अस्पष्टता है, जिसका अर्थ पिछले दो वर्षों में उल्लेखनीय रूप से विस्तारित हुआ है।

मूल रूप से, शब्द केवल उन वीडियो आउटपुट पर लागू होते थे जो ऑटोएनकोडर-आधारित सिस्टम से आते थे, जैसे कि डीपफेसलैब और फेसस्वैप, जो 2017 के अंत में रेडिट पर अनाम कोड पोस्ट किए गए थे।

2022 से, लेटेंट डिफ्यूजन मॉडल (एलडीएम) जैसे स्टेबल डिफ्यूजन और फ्लक्स के आगमन के साथ, साथ ही साथ टेक्स्ट-टू-वीडियो सिस्टम जैसे सोरा के साथ, पहचान-विनिमय और अनुकूलन की अनुमति देने वाले डिफ्यूजन-आधारित मॉडल बनाना संभव हो गया था, जो हस्तियों और राजनेताओं को चित्रित कर सकते थे।

बाद में, मीडिया और शोध साहित्य में, शब्द का अर्थ टेक्स्ट-आधारित व्यक्तिगतकरण तक भी विस्तारित हो गया था।

लेकिन चूंकि शब्द इतना आकर्षक और शक्तिशाली था, और यह एक शक्तिशाली राजनीतिक और मीडिया टचस्टोन बन गया था, यह शब्द को छोड़ना असंभव साबित हुआ। यह लेक्सिकल अस्पष्टता ही नए शोध का मुख्य फोकस है।

जैसा कि लेखकों ने देखा, यूरोपीय संघ के एआई अधिनियम के अनुच्छेद 3(60) में चार शर्तें हैं जो एक ‘डीपफेक’ को परिभाषित करती हैं।

1: सच्चा चंद्रमा

पहले, सामग्री को उत्पन्न या हेरफेर किया जाना चाहिए, अर्थात या तो एआई का उपयोग करके स्क्रैच से बनाया गया हो (उत्पादन) या मौजूदा डेटा से संशोधित किया गया हो (हेरफेर)। पेपर यह बताता है कि ‘स्वीकार्य’ छवि संपादन परिणामों और हेरफेर डीपफेक के बीच अंतर करने में कठिनाई है, यह देखते हुए कि डिजिटल फोटो वास्तव में वास्तविकता का प्रतिनिधित्व नहीं करते हैं।

पेपर यह तर्क देता है कि एक सैमसंग-उत्पन्न चंद्रमा वास्तव में प्रामाणिक है, क्योंकि चंद्रमा अपनी उपस्थिति में बदलने की संभावना नहीं है, और क्योंकि एआई-उत्पन्न सामग्री वास्तविक चंद्रमा की छवियों पर प्रशिक्षित है, इसलिए यह संभावना है कि यह सटीक होगी।

हालांकि, लेखकों का यह भी तर्क है कि चूंकि सैमसंग प्रणाली एक ‘सुधारित’ चंद्रमा की छवि उत्पन्न करने के लिए दिखाई गई है, जहां स्रोत छवि वास्तव में चंद्रमा नहीं थी, यह एक ‘डीपफेक’ माना जाएगा।

यह व्यावहारिक नहीं होगा कि इस प्रकार की ad hoc कार्यक्षमता के आसपास विभिन्न उपयोग के मामलों की एक व्यापक सूची तैयार की जाए। इसलिए, परिभाषा का बोझ एक बार फिर से न्यायालयों पर पड़ता है।

2: टेक्स्टफेक्स

दूसरे, सामग्री को छवि, ऑडियो या वीडियो के रूप में होना चाहिए। टेक्स्ट सामग्री, हालांकि अन्य पारदर्शिता दायित्वों के अधीन है, एआई अधिनियम के तहत एक डीपफेक मानी जाती नहीं है।

3: वास्तविक दुनिया की समस्याएं

तीसरे, सामग्री को मौजूदा व्यक्तियों, वस्तुओं, स्थानों, संस्थाओं या घटनाओं की तरह दिखना चाहिए। यह शर्त वास्तविक दुनिया से एक संबंध स्थापित करती है, जिसका अर्थ है कि शुद्ध रूप से कल्पनात्मक छवियां, भले ही वे फोटोरियलिस्टिक हों, डीपफेक के रूप में योग्य नहीं होंगी।

लेखकों का तर्क है कि एक एआई-उत्पन्न चेहरे को वास्तव में एक वास्तविक व्यक्ति से संबंधित होने की आवश्यकता नहीं है, या यह कि यह केवल एक वास्तविक व्यक्ति के समान होना चाहिए, इस परिभाषा को संतुष्ट करने के लिए।

उदाहरण के लिए, कैसे निर्धारित किया जा सकता है कि डोनाल्ड ट्रम्प जैसे राजनेता की फोटोरियलिस्टिक छवियों की एक श्रृंखला वास्तव में व्यक्तिगत करने का इरादा है, यदि छवियों (या संलग्न पाठ) में उन्हें विशेष रूप से उल्लेख नहीं किया गया है? चेहरे की पहचान? उपयोगकर्ता सर्वेक्षण? एक न्यायाधीश की ‘सामान्य ज्ञान’ की परिभाषा?

टेक्स्टफेक्स के मुद्दे पर लौटते हुए (ऊपर देखें), अक्सर शब्द एक दृश्य डीपफेक के कार्य में एक महत्वपूर्ण भूमिका निभाते हैं। उदाहरण के लिए, ‘व्यक्ति ए‘ की एक (अपरिवर्तित) छवि या वीडियो लेना और ‘व्यक्ति बी‘ के रूप में इसका वर्णन करना (यह मानकर कि दोनों लोग समान दिखते हैं) एक प्रभावी डीपफेक हो सकता है – बिना किसी एआई की आवश्यकता के।

इस तरह के एक कम-तकनीक वाले दृष्टिकोण से भी एक ‘डीपफेक’ बनाया जा सकता है या नहीं, यह एक प्रश्न है।

4: रीटच, रीमॉडल

अंत में, सामग्री को एक व्यक्ति के लिए प्रामाणिक या सत्यनिष्ठ दिखना चाहिए। यह शर्त मानव दर्शकों की धारणा पर जोर देती है। जो सामग्री केवल एक एल्गोरिदम द्वारा वास्तविक व्यक्ति या वस्तु का प्रतिनिधित्व करने के लिए मान्यता प्राप्त है, लेकिन मानव द्वारा नहीं, एक डीपफेक मानी जाएगी।

3(60) में सभी शर्तों में, यह वह है जो सबसे明显 रूप से बाद के न्यायिक निर्णयों को संदर्भित करता है – यह किसी भी तकनीकी या यांत्रिक साधनों के माध्यम से व्याख्या की अनुमति नहीं देता है।

इस विषयगत निर्धारण में सहमति तक पहुंचने में कुछ अंतर्निहित कठिनाइयां हैं। लेखकों का तर्क है कि विभिन्न लोग, और विभिन्न प्रकार के लोग (जैसे बच्चे और वयस्क), विभिन्न तरीकों से एक विशेष डीपफेक में विश्वास करने की संभावना रखते हैं।

लेखकों का यह भी तर्क है कि फोटोशॉप जैसे उपकरणों की उन्नत एआई क्षमताएं ‘डीपफेक’ की पारंपरिक परिभाषाओं को चुनौती देती हैं। जबकि इन प्रणालियों में विवादास्पद या निषिद्ध सामग्री के खिलाफ मूल सुरक्षा उपाय शामिल हो सकते हैं, वे छवि हेरफेर की अवधारणा को नाटकीय रूप से विस्तारित करते हैं। उपयोगकर्ता अब एक उच्च स्तर की प्रामाणिकता के साथ वस्तुओं को जोड़ या हटा सकते हैं।

लेखकों का तर्क है:

‘हम तर्क देते हैं कि एआई अधिनियम और संबंधित दायित्वों में डीप फेक्स की वर्तमान परिभाषा डीप फेक्स द्वारा प्रस्तुत चुनौतियों से निपटने के लिए पर्याप्त रूप से निर्दिष्ट नहीं है। डिजिटल फोटो के जीवन चक्र को कैमरा सेंसर से डिजिटल संपादन सुविधाओं तक विश्लेषण करके, हम पाते हैं कि:’

‘(1.) डीप फेक्स को एआई अधिनियम में अस्पष्ट रूप से परिभाषित किया गया है। परिभाषा में एक डीप फेक के लिए बहुत अधिक स्कोप छोड़ दिया गया है।’

‘(2.) यह स्पष्ट नहीं है कि गूगल की “बेस्ट टेक” जैसी संपादन सुविधाओं को पारदर्शिता दायित्वों से कैसे अपवाद माना जा सकता है। ‘

‘(3.) सामग्री के लिए अपवाद जो काफी संपादित किया गया है, यह प्रश्न उठाता है कि सामग्री में क्या गहरा संपादन है और क्या यह एक मानव द्वारा स्पष्ट रूप से दिखाई देना चाहिए।’

अपवाद लेना

यूरोपीय संघ के एआई अधिनियम में अपवाद हैं जो लेखकों का तर्क है कि बहुत अनुमति देने वाले हो सकते हैं। लेखकों का तर्क है कि अनुच्छेद 50(2) में एक अपवाद है जहां मूल स्रोत छवि का अधिकांश भाग नहीं बदला गया है। लेखकों का तर्क है:

‘क्या अनुच्छेद 50(2) में ‘सामग्री’ के अर्थ में डिजिटल ऑडियो, छवियों और वीडियो के मामले में माना जा सकता है? उदाहरण के लिए, छवियों के मामले में, क्या हमें पिक्सेल स्थान या मानव द्वारा दिखाई देने वाली दृश्य स्थान पर विचार करना चाहिए? पिक्सेल स्थान में व्यापक हेरफेर मानव धारणा को नहीं बदल सकता है, और दूसरी ओर, पिक्सेल स्थान में छोटे विक्षेप मानव धारणा को नाटकीय रूप से बदल सकते हैं।’

शोधकर्ता एक हाथगुन को एक व्यक्ति की फोटो में जोड़ने का उदाहरण प्रदान करते हैं जो किसी की ओर इशारा कर रहा है। हाथगुन जोड़कर, आप छवि के केवल 5% को बदल रहे हैं; हालांकि, परिवर्तित हिस्से का सेमेंटिक महत्व उल्लेखनीय है। इसलिए, यह अपवाद सामान्य ज्ञान की किसी भी समझ को ध्यान में नहीं रखता प्रतीत होता है कि एक छोटी सी विवरण एक छवि के समग्र महत्व को कैसे प्रभावित कर सकती है।

अनुच्छेद 50(2) में ‘मानक संपादन’ के लिए एक अपवाद भी है। चूंकि अधिनियम ‘मानक संपादन’ को परिभाषित नहीं करता है, यहां तक कि गूगल की बेस्ट टेक जैसी पोस्ट-प्रोसेसिंग सुविधाएं भी इस अपवाद द्वारा संरक्षित प्रतीत होती हैं, लेखकों का तर्क है।

निष्कर्ष

इस नए कार्य का उद्देश्य डीपफेक्स के नियमन के आसपास अंतरविषयक अध्ययन को प्रोत्साहित करना और कंप्यूटर वैज्ञानिकों और कानूनी विद्वानों के बीच नए संवाद के लिए एक प्रारंभिक बिंदु के रूप में कार्य करना है।

हालांकि, पेपर खुद को कई बिंदुओं पर तautology में गिरता है: यह अक्सर ‘डीपफेक’ शब्द का उपयोग करता है जैसे कि इसका अर्थ स्वयं स्पष्ट हो, जबकि यूरोपीय संघ के एआई अधिनियम पर हमला करता है कि यह वास्तव में एक डीपफेक क्या है, इसकी परिभाषा करने में विफल रहता है।

पहले प्रकाशित सोमवार, 16 दिसंबर, 2024