Anderson का एंगल

हॉलीवुड डीपफेक की नैतिकता पर

Martin Anderson
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
मुख्य बिंदुमेटाफिजिक.एआई का डीएनईजी के ब्रह्मा एआई में विलय हॉलीवुड डीपफेक आउटपुट में तीव्र गिरावट…
और देखें
  • मेटाफिजिक.एआई का डीएनईजी के ब्रह्मा एआई में विलय हॉलीवुड डीपफेक आउटपुट में तीव्र गिरावट के साथ मेल खाता है।
  • मनोरंजन में एआई के प्रति सार्वजनिक शत्रुता ने स्टूडियो को एआई-सहायता प्राप्त वीएफएक्स कार्य को सार्वजनिक करने में अनिच्छुक बना दिया है।
  • मेटाफिजिक के एजीटी पदार्पण के बाद एक निर्णायक व्यावसायिक हिट की कमी ने एआई वीएफएक्स को निवेशक विश्वसनीयता प्राप्त करने से रोक दिया।

हाल में टीवी और फिल्मों में डीपफेक सामग्री इतनी कम क्यों हो गई है? लेखक ने फिल्म डीपफेक की अग्रणी कंपनी Metaphysic.ai के लिए ढाई साल से अधिक काम किया, जिसमें 20 महीने पूर्णकालिक कर्मचारी के रूप में बिताए। 

राय / विशेष लेख बचपन में मैं इंडस्ट्रियल लाइट एंड मैजिक (ILM) की स्थापना की कहानियों से मोहित था। कंपनी वैन नुइस के एक साधारण गोदाम से काम करती थी और बड़ी मेहनत से मोशन-कंट्रोल वाले विजुअल इफेक्ट्स की नई पीढ़ी विकसित कर रही थी। सीजीआई आने तक ये तरीके 1980 के दशक के अधिकांश हिस्से पर छाए रहे।

1970 के दशक के मध्य में वैन नुइस स्थित ILM के आंगन में डेथ स्टार के हिस्से उड़ाए जा रहे हैं। स्रोत – https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

1970 के दशक के मध्य में वैन नुइस स्थित ILM के आंगन में डेथ स्टार के हिस्से उड़ाए जा रहे हैं। स्रोत

यह शुरुआत की एक शानदार कहानी है। मैं उन अनेक किताबों और लेखों की सिफारिश करता हूं जो बताते हैं कि स्टार वार्स (1977) के इफेक्ट्स बहुत मेहनत, परस्पर आरोपों और देरी के बाद आखिरकार कैसे पूरे हुए।

नई ILM बाद में सैन फ्रांसिस्को चली गई और फोटोकेमिकल इफेक्ट्स के उत्पादन का औद्योगिकीकरण करने लगी। 1978–79 में द एम्पायर स्ट्राइक्स बैक के वीएफएक्स पर काम के समय भी ILM अग्रणी और नवाचारी कंपनी थी, लेकिन उसमें लेखा और मानव संसाधन विभाग भी स्थापित हो चुके थे।

पर उस समय और उसके बाद भी मेरी कल्पना वैन नुइस के शुरुआती कुछ ‘कच्चे’ वर्षों में उलझी रही। मॉडल किट के पुर्जे और 1960 के दशक के ऑप्टिकल तरीके नए उपयोगों में लगाए जा रहे थे। इस तरह एक ऐसे उद्योग का लगभग आविष्कार हो रहा था जो पहले अलग-अलग लेखकीय दृष्टि रखने वाले वीएफएक्स विशेषज्ञों का क्षेत्र था।

क्रांति का चेहरा

अब भंग हो चुकी विजुअल इफेक्ट्स कंपनी Metaphysic.ai में लगभग तीन साल काम करते हुए, मेरा मानना है कि मैं 1970 के दशक के मध्य के वैन नुइस अनुभव के जितना करीब जा सकता था, गया।

उस दौरान Metaphysic ने कुछ सबसे बड़ी फिल्म शृंखलाओं के लिए एआई-आधारित और विशिष्ट पहचानों के अनुरूप इफेक्ट्स शॉट बनाए। इनमें मैड मैक्स और एलियन शामिल थे। कंपनी ने रॉबर्ट जेमेकिस की फिल्म के लिए अग्रणी, हालांकि काफी आलोचना झेलने वाला, उम्र घटाने का डीपफेक काम भी किया। वह फिल्म थी Here (2024)। इसके अलावा कई अन्य काम भी थे:

भीड़भरी Zoom बैठकों में नया तैयार फुटेज दिखाने वाली ‘डेली’ बैठकों की संख्या इतनी थी कि कोई भी व्यक्ति अपनी जिम्मेदारियां निभाते हुए उन सबमें उचित रूप से शामिल नहीं हो सकता था। स्कंकवर्क्स-शैली की छोटी बैठकें भी होती थीं, जहां चुने हुए समूह छोटे लेकिन महत्वाकांक्षी प्रयोगों पर मिलकर काम करते थे, ताकि कंपनी की तकनीकी सीमाएं आगे बढ़ें।

कई कर्मचारी सीधे ILM से आए थे या पहले वहां काम कर चुके थे*। उनके किस्सों से स्पष्ट था कि ILM और उन अन्य बड़ी वीएफएक्स कंपनियों में, जहां से कुछ लोग आए थे, वैन नुइस की भावना बहुत पहले बड़े पैमाने के युक्तिकरण को जगह दे चुकी थी। फिर भी यह संबंध मेरे लिए रोमांचकारी था।

स्टार वार्स के निर्माण के दौरान जॉर्ज लुकास, जॉन डाइकस्ट्रा, रिचर्ड एडलंड, जो जॉनस्टन और रोज़ डुइगन के साथ इफेक्ट्स शॉट की समीक्षा करते हैं। टीम व्यावहारिक वीएफएक्स और शॉट की योजना बना रही है। स्रोत – https://theasc.com/articles/star-wars-miniature-effects-dykstra

जॉर्ज लुकास, जॉन डाइकस्ट्रा, रिचर्ड एडलंड, जो जॉनस्टन और रोज़ डुइगन के साथ स्टार वार्स के निर्माण के दौरान इफेक्ट्स शॉट की समीक्षा करते हैं। स्रोत

मुझे नहीं पता कि यह कहा जा सकता है या नहीं कि Metaphysic वैन नुइस की कड़ी मेहनत वाली कार्यशाला से निकले DykstraFlex मोशन-कंट्रोल उपकरण का एआई समकक्ष ईजाद करती। लेकिन उसने एआई वीएफएक्स को पहचान दिलाई और उस अवधि में या उसके बाद किसी भी दूसरी इफेक्ट्स कंपनी या अकेली परियोजना से अधिक पेशेवर स्तर का एआई चेहरा-बदलाव और संशोधन किया।

धीमापन

यह भी कहना होगा कि कंपनी के DNEG की सहायक कंपनी Brahma AI में समाहित होने के बाद एआई विजुअल इफेक्ट्स के काम की वह नियमित धारा लगभग रुकने जैसी धीमी दिखाई देती है।

बेन अफ्लेक की एआई वीएफएक्स Netflix साझेदारी (NFLX ) और सोडरबर्ग व अरोनोफस्की जैसे प्रमुख निर्देशकों की एआई के प्रति प्रतिबद्धता जैसी खबरों के बावजूद, हाल में मैंने फिल्मों और टीवी में Metaphysic के चरम दौर की तुलना में बहुत से डीपफेक चेहरे नहीं देखे। The Capture में डीपफेक तकनीक के अनुकरण को इससे अलग रखता हूं।

इतने क्षेत्रों में एआई के विरुद्ध प्रतिक्रिया का विस्तार देखकर मैं सोचता हूं कि क्या हम सब एआई से बदली पहचानों को लेकर जनता का मूड भांपने लगे हैं। इयान होल्म को फिर जीवित दिखाना, हैरिसन फोर्ड की उम्र घटाना और जिन बेचने के लिए रैट पैक को फिर जीवित दिखाना जैसे एआई-सहायता प्राप्त काम शायद जल्द ही उस अब प्रचलित मीम को जन्म दें: ‘वह एक अलग दौर था’।

नकारात्मक जुड़ाव

कई मायनों में यह जुड़ाव का मामला है, लेकिन वैसा नहीं जैसा 2021 में Metaphysic की स्थापना के समय था।

तब डीपफेक पोर्न वायरल हो चुका था। कार्यस्थल पर देखने योग्य और अयोग्य, दोनों तरह की सारी सामग्री दो ओपन-सोर्स सॉफ्टवेयर रिपोजिटरी में से किसी एक से आती थी† । आज के विपरीत, तब फोटो जैसी वास्तविक एआई सामग्री बनाने का कोई पहुंच-नियंत्रित या सेंसर किया हुआ तरीका नहीं था।

तब दुनिया की सबसे बड़ी डीपफेक पोर्न साइट, जिसे 2025 में एक जांच के बाद बंद किया जाना था, सबसे बड़ी डीपफेक सॉफ्टवेयर रिपोजिटरी DeepFaceLab के आधिकारिक निर्देशों का ठिकाना थी। DeepFaceLab खुद Metaphysic के शुरुआती तरीकों का स्वीकार किया गया आधार भी था:

DeepFaceLab की मूल उपयोगकर्ता मार्गदर्शिका। यह एक समय दुनिया का सबसे लोकप्रिय डीपफेक सॉफ्टवेयर था और गाइड दुनिया की सबसे बड़ी डीपफेक पोर्न साइट पर थी। बाद में सॉफ्टवेयर को आर्काइव किया गया और साइट बंद हो गई। स्रोत – https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

DeepFaceLab की मूल उपयोगकर्ता मार्गदर्शिका। एक समय दुनिया का सबसे लोकप्रिय डीपफेक सॉफ्टवेयर रहा यह प्रोग्राम जिस गाइड से सिखाया जाता था, वह दुनिया की सबसे बड़ी डीपफेक पोर्न साइट पर थी। बाद में सॉफ्टवेयर को आर्काइव किया गया और साइट बंद हो गई। स्रोत

चूंकि सॉफ्टवेयर डेवलपर पोर्न और डीपफेक के बीच संबंध से स्पष्ट रूप से नहीं बच रहे थे, इससे तकनीक को उचित रूप से अपनाने की कोशिश कर रही किसी भी कंपनी पर असर पड़ना तय था।

नतीजतन, शायद खास तौर पर इसलिए कि कंपनी के संस्थापक DeepFaceLab के संस्थापक के साथ 2020 में डीपफेक पर एक Arxiv स्थिति-पत्र के सहलेखक थे और इन संबंधों पर काफी आलोचना झेल चुके थे, Metaphysic में एक समर्पित नैतिकता विभाग था। कंपनी इस विषय पर खुलकर और सार्वजनिक रूप से बोलती थी।

आज डीपफेक सामग्री को अपराध बनाने वाला वैश्विक कानून व्यापक है और लगातार बढ़ रहा है। एआई से बनी पहचानों का वह ‘दुर्भाग्यपूर्ण’ जुड़ाव पोर्न से गरीबी की ओर चला गया है। दुनिया भर के कामगारों को अलग-अलग प्रकार के एआई, आम तौर पर बड़े भाषा मॉडल या एलएलएम, सीधे खतरे में डाल रहे हैं। इसलिए वे पूरे एआई शब्द को बदनाम करने लगे हैं।

ग्रामीण विद्रोह कर रहे हैं

किसी समय, शायद 2023 के मध्य में, कंपनी की विभिन्न बैठकों में शामिल होते हुए मैंने उसकी सेवाओं के प्रति अनौपचारिक तदर्थ प्रतिरोध की बढ़ती लहर महसूस की। स्वीकार करता हूं कि यह दूसरों से मिली जानकारी पर आधारित था। यह उस शुरुआती सामाजिक उभार के साथ आया जिसमें एआई को कामगारों के अस्तित्व पर खतरा माना गया। हालांकि हॉलीवुड की यूनियनें इस मामले में अग्रिम पंक्ति में थीं।

कुछ हलकों में एआई को ‘जोखिम उठाने लायक नहीं’ समझा जाता दिखाई देता था। इसके अलावा, Metaphysic ने उत्पादन के अपने चरम में भी, कुछ सुस्त-से युवा एल्विस प्रेस्ली को अमेरिका गॉट टैलेंट में दिखाने के आश्चर्य के बाद कोई निर्विवाद सफलता वास्तव में नहीं पाई। मुख्यधारा की फिल्मों और टीवी के लिए एआई सामग्री बनाने वाली किसी भी कंपनी ने ऐसी सफलता नहीं पाई।

हमेशा नफरत का कोई कारण दिखाई देता था: लगातार मौजूद अनकैनी वैली, पोर्न से जुड़ाव, और फिर एआई-प्रेरित आर्थिक प्रलय का खतरा।

एआई का ‘टिरैनोसॉर क्षण’

लंबे समय तक मुझे लगता था कि वीएफएक्स में इंसानों को शत-प्रतिशत सटीकता से फिर बनाना एक सार्थक, बल्कि संभवतः अपरिहार्य लक्ष्य था। इस क्षेत्र में सीजीआई लंबे समय से असफल रही थी।

मैं सोचता था कि विजुअल इफेक्ट्स में एआई का विकास दर्शकों को आनंद देने वाले उद्योग के तीसरे युगांतरकारी क्षण पर पहुंचेगा। पहला 1977 में स्टार वार्स में सिर के ऊपर गरजते हुए गुजरते स्टार डिस्ट्रॉयर को पहली बार देखना था। दूसरा 1993 में जुरासिक पार्क में गुस्से में टिरैनोसॉर का अपने बाड़े से निकलना था।

दोनों ने उद्योग में बड़े बदलाव किए। दोनों से पहले शुरुआती प्रयोगकर्ता उभरती तकनीक या तरीके की सीमाएं आगे बढ़ा रहे थे।

इसलिए लगता था कि Metaphysic के लगातार काम, भले दर्शकों को अभी वह ‘टिरैनोसॉर क्षण’ न दें, अंततः वहीं ले जाएंगे। किसी दिन हम फिल्म में कुछ असंभव देखेंगे, कुछ बुनियाद से बनाया गया एआई का काम, केवल सीजीआई से ढका हुआ नहीं, जो हमें दंग कर देगा।

अब… नहीं जानता। जरूरी नहीं कि मुझे यह विश्वास न रहा हो कि सिनेमा में एआई का विस्मयकारी क्षण आएगा। न ही बात केवल उन अनेक अहम समस्याओं की है जो एआई वीडियो को पेशेवरों की मेज पर पहुंचने से पहले सुलझानी होंगी।

बल्कि मैंने एक अस्पष्ट और शायद नैतिक रूप से कायर तरीके से उस उभरती और बढ़ती सार्वजनिक भावना को साझा करना शुरू कर दिया है, जो वीएफएक्स में एआई को इस दौर में अन्य क्षेत्रों के नकारात्मक परिणामों से जोड़ती है।

इसके अलावा मैं अभी आश्वस्त नहीं हूं कि Common Crawl जैसे बिना भुगतान इस्तेमाल किए गए और मुक्त न होने वाले डेटासेट का ऐतिहासिक प्रभाव वास्तव में हिसाब में लिया गया है। पिछले लगभग 18 महीनों में सुर्खियां बटोरने वाले कई बहुप्रचारित एआई लाइसेंस सौदे मुझे कुछ हद तक बौद्धिक संपदा की धुलाई लगते हैं।

इसलिए जब पूरी तरह पुनर्निर्मित और बिना अनकैनी वैली वाले एआई रूप में मैरिलिन मुनरो या हम्फ्री बोगार्ट पर्दे पर आएंगे, मुझे लगता है कि मुझमें विस्मय और असहजता दोनों उत्पन्न होंगे। एआई के जादू का बोझ मुझे दबाने लगा है।

निष्कर्ष

पिछले दो तकनीकी बदलावों में ऐसी शर्तें नहीं थीं। ILM और मोशन-कंट्रोल रिग्स ने लगभग एक ऐसा उद्योग बनाया जो पहले कुछ चुनिंदा तदर्थ फ्रीलांसरों द्वारा पूरे किए जाने वाले छिटपुट ऑर्डरों तक सीमित था। सीजीआई ने वीएफएक्स में नौकरियों की संख्या बहुत बढ़ाई और संबंधित सॉफ्टवेयर विकास तथा विभिन्न सहायता सेवाओं में मूल्य बनाया।

कंप्यूटर विजन में मेरी रुचि कायम है, साथ ही अनेक संभावित दृश्य-श्रव्य उपयोगों में एआई की क्षमता में भी। अन्य क्षेत्रों में मशीन लर्निंग के व्यापक उपयोगों को लेकर मेरा उत्साह भी कम नहीं हुआ है।

बस चाहता हूं कि सिनेमा में एआई के उस ‘वाह’ क्षण की प्रतीक्षा करता रह सकूं।

Metaphysic के सबसे सक्रिय वर्षों की तुलना में फिल्मों और टीवी में एआई चेहरों की अचानक कमी की एक संभावना यह है कि अब प्रोडक्शन कंपनियां एआई-सहायता वाले सुधार बहुत कम या बिना किसी प्रचार के कर रही हों। यह 2022–23 की जोरदार प्रेस विज्ञप्तियों से अलग है, क्योंकि मनोरंजन में एआई नवाचार को लेकर सार्वजनिक प्रतिक्रिया हाल में इतनी शत्रुतापूर्ण हो गई है।

दूसरा, फिर कहूं: कंपनी की शुरुआत वाले AGT के बाद Metaphysic को किसी भी फिल्म या टीवी कार्यक्रम में अपने योगदान पर पूरी तरह निर्विवाद सफलता वास्तव में नहीं मिली। इंडियाना जोन्स 4 के डीपफेक या अन्य प्रोडक्शन कंपनियों के किसी काम को इतना अच्छा स्वागत या लाभ नहीं मिला कि नकल करने वालों की लहर चल पड़े या वीएफएक्स में एआई को वास्तविक विश्वसनीयता और निवेशक आकर्षण मिल जाए।

 

* सार्वजनिक LinkedIn प्रोफाइल और IMDB के क्रेडिट देखकर इसकी आसानी से पुष्टि की जा सकती है।

† DeepFaceLab और पोर्न से कम जुड़ा FaceSwap।

पहली बार प्रकाशित: सोमवार, 27 अप्रैल 2026

Martin Anderson

मशीन लर्निंग पर लेखक, मानव छवि संश्लेषण में डोमेन विशेषज्ञ। Metaphysic.ai में शोध सामग्री के पूर्व प्रमुख, जब तक यह DNEG की Brahma.ai में विलीन नहीं हो गया।
वेबसाइट: martinanderson.ai
संपर्क: martin@martinanderson.ai