डीपफेक्स क्या हैं?

जैसे ही डीपफेक्स बनाना आसान होता जा रहा है और वे अधिक प्रचलित हो रहे हैं, उन पर अधिक ध्यान दिया जा रहा है। डीपफेक्स एआई नैतिकता, गलत सूचना, जानकारी की खुलापन और इंटरनेट, और नियमन से संबंधित चर्चाओं का केंद्र बिंदु बन गए हैं। डीपफेक्स के बारे में सूचित रहना और यह जानना कि डीपफेक्स क्या हैं, इसका महत्व है। यह लेख डीपफेक्स की परिभाषा को स्पष्ट करेगा, उनके उपयोग के मामलों की जांच करेगा, यह चर्चा करेगा कि डीपफेक्स का पता कैसे लगाया जा सकता है, और डीपफेक्स के समाज पर प्रभावों की जांच करेगा।

डीपफेक्स क्या हैं?

डीपफेक्स पर आगे चर्चा करने से पहले, यह समझना मददगार होगा कि डीपफेक्स वास्तव में क्या हैं। डीपफेक्स शब्द के बारे में बहुत भ्रम है, और अक्सर इस शब्द का उपयोग किसी भी नकली मीडिया के लिए किया जाता है, चाहे वह वास्तविक डीपफेक्स हो या नहीं। डीपफेक्स होने के लिए, नकली मीडिया को एक मशीन लर्निंग सिस्टम, विशेष रूप से एक गहरे तंत्रिका नेटवर्क के साथ उत्पन्न किया जाना चाहिए।

डीपफेक्स का मुख्य घटक मशीन लर्निंग है। मशीन लर्निंग ने कंप्यूटरों को स्वचालित रूप से वीडियो और ऑडियो उत्पन्न करने में सक्षम बनाया है। गहरे तंत्रिका नेटवर्क को वास्तविक व्यक्ति के फुटेज पर प्रशिक्षित किया जाता है ताकि नेटवर्क लोगों को लक्ष्य पर्यावरणीय परिस्थितियों में कैसे दिखते हैं और चलते हैं, यह सीख सके। प्रशिक्षित नेटवर्क का उपयोग तब दूसरे व्यक्ति की छवियों पर किया जाता है और अतिरिक्त कंप्यूटर ग्राफिक्स तकनीकों के साथ बढ़ाया जाता है ताकि नए व्यक्ति को मूल फुटेज के साथ जोड़ा जा सके। एक एनकोडर एल्गोरिदम का उपयोग मूल चेहरे और लक्ष्य चेहरे के बीच समानताओं का निर्धारण करने के लिए किया जाता है। एक बार जब चेहरों की सामान्य विशेषताओं को अलग कर लिया जाता है, तो एक दूसरा एआई एल्गोरिदम जिसे डिकोडर कहा जाता है, का उपयोग किया जाता है। डिकोडर एनकोडेड (संकुचित) छवियों की जांच करता है और मूल छवियों में विशेषताओं के आधार पर उन्हें पुनर्निर्माण करता है। दो डिकोडर्स का उपयोग किया जाता है, एक मूल विषय के चेहरे पर और दूसरा लक्ष्य व्यक्ति के चेहरे पर। स्वैप करने के लिए, मूल व्यक्ति एक्स के चेहरे पर प्रशिक्षित डिकोडर को व्यक्ति वाई की छवियों को खिलाया जाता है। परिणाम यह है कि व्यक्ति वाई का चेहरा मूल व्यक्ति एक्स के चेहरे की अभिव्यक्ति और दिशा पर पुनर्निर्माण किया जाता है।

वर्तमान में, एक डीपफेक्स बनाने में अभी भी बहुत समय लगता है। नकली बनाने वाले को मॉडल के पैरामीटर को मैन्युअल रूप से समायोजित करने में बहुत समय बिताना होता है, क्योंकि उपोत्तम पैरामीटर नकली की वास्तविक प्रकृति को दूर करने वाले दिखाई देने वाले दोषों और छवि ग्लिच का कारण बनते हैं।

हालांकि यह अक्सर माना जाता है कि अधिकांश डीपफेक्स एक प्रकार के तंत्रिका नेटवर्क के साथ बनाए जाते हैं जिसे जनरेटिव एडवर्सेरियल नेटवर्क (जीएएन) कहा जाता है, कई (शायद अधिकांश) डीपफेक्स जो आज बनाए जाते हैं वे जीएएन पर निर्भर नहीं करते हैं। जबकि जीएएन ने शुरुआती डीपफेक्स के निर्माण में एक प्रमुख भूमिका निभाई, अधिकांश डीपफेक्स वीडियो वैकल्पिक विधियों के माध्यम से बनाए जाते हैं, एसयूएनवाई बफ़ेलो के सीवेई ल्यू के अनुसार।

जीएएन को प्रशिक्षित करने के लिए बहुत अधिक प्रशिक्षण डेटा की आवश्यकता होती है, और जीएएन अक्सर अन्य छवि उत्पादन तकनीकों की तुलना में एक छवि को रेंडर करने में बहुत अधिक समय लेते हैं। जीएएन स्थिर छवियों के लिए वीडियो की तुलना में बेहतर होते हैं, क्योंकि जीएएन फ्रेम से फ्रेम तक संगति बनाए रखने में कठिनाइयों का सामना करते हैं। डीपफेक्स बनाने के लिए एक एनकोडर और कई डिकोडर का उपयोग करना अधिक सामान्य है।

डीपफेक्स का उपयोग क्या है?

ऑनलाइन पाए जाने वाले अधिकांश डीपफेक्स अश्लील प्रकृति के होते हैं। डीपट्रेस द्वारा किए गए शोध के अनुसार, एक एआई फर्म, सितंबर 2019 में लिए गए लगभग 15,000 डीपफेक्स वीडियो के नमूने में, लगभग 95% अश्लील प्रकृति के थे। इस तथ्य का एक परेशान करने वाला निहितार्थ यह है कि जैसे ही तकनीक का उपयोग करना आसान होता जा रहा है, नकली बदला पोर्न की घटनाएं बढ़ सकती हैं।

हालांकि, सभी डीप फेक्स अश्लील प्रकृति के नहीं हैं। डीपफेक तकनीक के लिए अधिक वैध उपयोग हैं। ऑडियो डीपफेक तकनीक उन लोगों की मदद कर सकती है जो बीमारी या चोट के कारण अपनी नियमित आवाज खो देते हैं या नुकसान पहुंचाते हैं। डीपफेक्स का उपयोग संवेदनशील, संभावित रूप से खतरनाक स्थितियों में लोगों के चेहरों को छुपाने के लिए किया जा सकता है, जबकि अभी भी उनके होंठों और अभिव्यक्तियों को पढ़ने की अनुमति देता है। डीपफेक तकनीक विदेशी भाषा की फिल्मों पर डबिंग में सुधार करने के लिए, पुराने और क्षतिग्रस्त मीडिया की मरम्मत में मदद करने के लिए, और यहां तक कि नए कला शैलियों का निर्माण करने के लिए भी उपयोग की जा सकती है।

नॉन-वीडियो डीपफेक्स

जबकि अधिकांश लोग डीपफेक्स शब्द सुनते ही नकली वीडियो के बारे में सोचते हैं, नकली वीडियो डीपफेक्स तकनीक द्वारा उत्पादित एकमात्र प्रकार की नकली मीडिया नहीं है। डीपफेक्स तकनीक का उपयोग फोटो और ऑडियो फेक्स बनाने के लिए भी किया जाता है। जैसा कि पहले उल्लेख किया गया है, जीएएन अक्सर नकली छवियों को उत्पन्न करने के लिए उपयोग किया जाता है। ऐसा माना जाता है कि कई नकली लिंक्डइन और फेसबुक प्रोफाइल हैं जिनकी प्रोफाइल छवियां डीपफेक्स एल्गोरिदम द्वारा उत्पन्न की जाती हैं।

ऑडियो डीपफेक्स बनाना भी संभव है। गहरे तंत्रिका नेटवर्क विभिन्न लोगों के,包括 हस्तियों और राजनेताओं के, वॉयस क्लोन/वॉयस स्किन का उत्पादन करने के लिए प्रशिक्षित किए जाते हैं। ऑडियो डीपफेक्स का एक प्रसिद्ध उदाहरण है जब एआई कंपनी डेसा ने एक एआई मॉडल का उपयोग किया, जो गैर-एआई एल्गोरिदम द्वारा समर्थित था, पॉडकास्ट होस्ट जो रोगन की आवाज को पुनर्निर्माण करने के लिए।

डीपफेक्स का पता कैसे लगाएं

जैसे ही डीपफेक्स अधिक परिष्कृत होते जा रहे हैं, वास्तविक मीडिया से उन्हें अलग करना अधिक कठिन होता जा रहा है। वर्तमान में, लोगों के लिए कुछ स्पष्ट संकेत हैं जिन्हें वे देख सकते हैं कि क्या एक वीडियो संभावित रूप से एक डीपफेक्स है, जैसे कि खराब लिप-सिंकिंग, अस्वाभाविक आंदोलन, चेहरे के किनारे पर फ्लिकरिंग, और बाल, दांत, या प्रतिबिंब जैसी विस्तृत विवरण का विकृत होना।

हालांकि ये संकेत वर्तमान में एक डीपफेक्स का पता लगाने में मदद कर सकते हैं, डीपफेक्स तकनीक में सुधार के साथ, डीपफेक्स का पता लगाने का एकमात्र विश्वसनीय तरीका अन्य प्रकार के एआई हो सकते हैं जो नकली मीडिया को वास्तविक मीडिया से अलग करने के लिए प्रशिक्षित हैं।

आर्टिफिशियल इंटेलिजेंस कंपनियां, जिनमें कई बड़ी टेक कंपनियां शामिल हैं, डीपफेक्स का पता लगाने के तरीकों पर शोध कर रही हैं। पिछले दिसंबर में, एक डीपफेक्स डिटेक्शन चैलेंज शुरू किया गया था, जिसे तीन टेक दिग्गजों द्वारा समर्थित था: अमेज़ॅन, फेसबुक और माइक्रोसॉफ्ट। दुनिया भर की शोध टीमों ने डीपफेक्स का पता लगाने के तरीकों पर काम किया, सर्वोत्तम पता लगाने वाले तरीकों को विकसित करने के लिए प्रतिस्पर्धा की। अन्य शोधकर्ताओं के समूह, जैसे कि गूगल और जिगसॉ के संयुक्त शोधकर्ता, “चेहरा फोरेंसिक” पर काम कर रहे हैं जो उन वीडियो का पता लगा सकता है जिन्हें बदल दिया गया है, उनके डेटासेट को ओपन सोर्स बना रहे हैं और दूसरों को डीपफेक्स डिटेक्शन तरीकों को विकसित करने के लिए प्रोत्साहित कर रहे हैं। उपरोक्त डेसा ने डीपफेक्स डिटेक्शन तकनीकों को परिष्कृत करने पर काम किया है, यह सुनिश्चित करने की कोशिश की है कि पता लगाने वाले मॉडल इंटरनेट पर पाए जाने वाले डीपफेक्स वीडियो पर काम करें, न कि केवल पूर्व-निर्मित प्रशिक्षण और परीक्षण डेटासेट पर, जैसे कि गूगल द्वारा प्रदान किया गया ओपन-सोर्स डेटासेट।

डीपफेक्स के प्रसार से निपटने के लिए अन्य रणनीतियां भी हैं जिनकी जांच की जा रही है। उदाहरण के लिए, वीडियो को अन्य सूचना स्रोतों के साथ संगति की जांच करना एक रणनीति है। अन्य कोणों से ली गई वीडियो की खोज की जा सकती है, या वीडियो के पृष्ठभूमि विवरण (जैसे मौसम पैटर्न और स्थान) की जांच असंगति के लिए की जा सकती है। इसके अलावा, एक ब्लॉकचेन ऑनलाइन लेजर सिस्टम वीडियो को उनके निर्माण के समय पंजीकृत कर सकता है, उनके मूल ऑडियो और छवियों को रखता है ताकि व्युत्पन्न वीडियो को हमेशा हेरफेर के लिए जांचा जा सके।

अंततः, यह महत्वपूर्ण है कि डीपफेक्स का पता लगाने के लिए विश्वसनीय तरीके बनाए जाएं और इन पता लगाने वाले तरीकों को डीपफेक्स तकनीक में नवीनतम प्रगति के साथ बनाए रखा जाए। जबकि डीपफेक्स के प्रभावों को सटीक रूप से जानना मुश्किल है, यदि डीपफेक्स (और अन्य प्रकार की नकली मीडिया) का पता लगाने के लिए विश्वसनीय तरीके नहीं हैं, तो गलत सूचना संभावित रूप से व्यापक हो सकती है और लोगों का समाज और संस्थानों पर भरोसा कम हो सकता है।

डीपफेक्स के प्रभाव

नियंत्रित किए बिना डीपफेक्स को प्रसारित करने के खतरे क्या हैं?

डीपफेक्स द्वारा वर्तमान में उत्पन्न की जाने वाली सबसे बड़ी समस्याओं में से एक गैर-सहमति पोर्नोग्राफी है, जो लोगों के चेहरों को पोर्नोग्राफिक वीडियो और छवियों के साथ मिलाकर बनाई जाती है। एआई नैतिकतावादी चिंतित हैं कि डीपफेक्स का उपयोग नकली बदला पोर्न बनाने के लिए किया जा सकता है। इसके अलावा, डीपफेक्स का उपयोग लगभग किसी को भी परेशान करने और उनकी प्रतिष्ठा को नुकसान पहुंचाने के लिए किया जा सकता है, क्योंकि वे लोगों को विवादास्पद और समझौता करने वाली स्थितियों में रखने के लिए उपयोग किए जा सकते हैं।

कंपनियों और साइबर सुरक्षा विशेषज्ञों ने डीपफेक्स का उपयोग धोखाधड़ी और उत्पीड़न को सुविधाजनक बनाने के लिए व्यक्त किया है। कथित तौर पर, डीपफेक्स ऑडियो का उपयोग कंपनी के कर्मचारियों को पैसे हस्तांतरित करने के लिए करने वाले स्कैमर्स द्वारा किया गया है।

यह संभव है कि डीपफेक्स का प्रभाव ऊपर सूचीबद्ध लोगों से परे भी हो सकता है। डीपफेक्स मीडिया में लोगों के विश्वास को कम कर सकते हैं और वास्तविक समाचार और नकली समाचार के बीच अंतर करना मुश्किल बना सकते हैं। यदि वेब पर कई वीडियो नकली हैं, तो यह सरकारों, कंपनियों और अन्य संस्थाओं के लिए वैध विवादों और अनैतिक प्रथाओं पर संदेह डालना आसान हो जाता है।

सरकारों के लिए, डीपफेक्स लोकतंत्र के संचालन के लिए खतरा पैदा कर सकते हैं। लोकतंत्र के लिए यह आवश्यक है कि नागरिक विश्वसनीय जानकारी के आधार पर राजनेताओं के बारे में सूचित निर्णय ले सकें। गलत सूचना लोकतांत्रिक प्रक्रियाओं को कमजोर करती है। उदाहरण के लिए, गैबॉन के राष्ट्रपति अली बोंगो एक वीडियो में गैबॉन के नागरिकों को आश्वस्त करने की कोशिश कर रहे थे। राष्ट्रपति को लंबे समय से बीमार माना जाता था, और उनकी अचानक एक संभावित रूप से नकली वीडियो में उपस्थिति ने एक प्रयास किए गए तख्तापलट को ट्रिगर किया। राष्ट्रपति डोनाल्ड ट्रम्प ने दावा किया कि उनके बारे में एक ऑडियो रिकॉर्डिंग, जिसमें वह महिलाओं को जननांगों से पकड़ने के बारे में बात कर रहे थे, नकली थी, हालांकि उन्होंने इसे “लॉकर रूम बात” भी कहा। प्रिंस एंड्रयू ने भी दावा किया कि एमिली मैतिलिस के वकील द्वारा प्रदान की गई एक छवि नकली थी, हालांकि वकील ने इसकी प्रामाणिकता पर जोर दिया।

अंततः, जबकि डीपफेक्स तकनीक के लिए वैध उपयोग हैं, डीपफेक्स तकनीक के दुरुपयोग से उत्पन्न होने वाले कई संभावित नुकसान हैं। इस कारण से, यह बहुत महत्वपूर्ण है कि मीडिया की प्रामाणिकता का निर्धारण करने के तरीके बनाए जाएं और रखे जाएं।