क्या फिल्मों और टीवी शो में एआई के उपयोग का स्पष्ट रूप से खुलासा किया जाना चाहिए?

नेटफ्लिक्स (NFLX ) ने बताया है कि उसकी 300 फिल्मों और सीरीज़ में पहले ही जनरेटिव एआई का इस्तेमाल हो चुका है। ऐसे में हम विचार करते हैं कि क्या दर्शकों को अपने पसंदीदा टीवी शो और फिल्मों में एआई के उपयोग के बारे में बेहतर जानकारी मिलनी चाहिए।राय किसी हॉलीवुड फिल्म में पहली बार यह घोषणा कि “इस फिल्म के निर्माण में किसी जानवर को नुकसान नहीं पहुँचाया गया” 1972 में की गई थी। यह घोषणा अमेरिकी अपराध-कॉमेडी फिल्म द डोबरमैन गैंग के लिए थी, जिसमें कुत्तों की प्रमुख भूमिका थी। आठ साल बाद माइकल सिमिनो की हेवन्स गेट में पशुओं के साथ दुर्व्यवहार के आरोपों ने इस प्रथा को मानक बना दिया।

जहाँ तक मुझे जानकारी है, पशु कल्याण के बजाय जनरेटिव एआई के उपयोग के बारे में ऐसी ही घोषणा पहली बार ह्यू ग्रांट की 2024 की हॉरर फिल्म हेरेटिक में दिखाई दी:

हॉरर फिल्म ‘हेरेटिक’ शायद पहली फिल्म थी जिसमें एआई का इस्तेमाल न किए जाने की घोषणा की गई थी। स्रोत

हेरेटिक के निर्देशकों स्कॉट बेक और ब्रायन वुड्स ने कहा:

“हमें यह भ्रम नहीं है कि ‘हेरेटिक’ देखते समय लोग सोचेंगे, ‘रुको, क्या इसमें जनरेटिव एआई इस्तेमाल किया गया था?’” उन्होंने कहा। “फिल्म बिल्कुल ऐसी नहीं लगती, लेकिन हमारे लिए यह बात सामने रखना ज़रूरी था, क्योंकि हमें लगता है कि लोगों को इस पर बात शुरू करनी चाहिए।”

हालाँकि, ऐसा दृष्टिकोण दुर्लभ है। आम तौर पर टीवी और फिल्म उद्योग फिलहाल लोगों के पसंदीदा शो और नई फिल्मों में एआई के इस्तेमाल को लेकर जनता के असंतोष की लहर के थमने का इंतज़ार करते दिखते हैं; कम से कम उन्हें यही उम्मीद है।

आखिरकार, CGI का विरोध करने वाले क्वेंटिन टैरंटिनो और क्रिस्टोफर नोलन जैसे लोगों के अभियानों के बावजूद, “पारंपरिक” कंप्यूटर-जनित चित्रों के प्रति जनता की सहनशीलता अब ऐसी हो गई है जिसे केवल नियति मानकर स्वीकार करना या हार मान लेना कहा जा सकता है। लगता है कि शो और फिल्मों में एआई के उपयोग के मामले में भी यही अपेक्षा की जा रही है।

एआई की छिपी हुई परतें

फर्क यह है कि CGI के आने से बहुत कम लोगों की नौकरियाँ गईं और इसके उलट उसने पहले सीमित दायरे वाले विज़ुअल इफेक्ट्स उद्योग को बहुत बड़ा बना दिया । यह दुनिया भर में लाखों लोगों को रोजगार देने वाला विशाल मीडिया क्षेत्र बन गया। इस विकास के साथ बड़े बजट वाली VFX फिल्में बेसब्री से इंतज़ार किए जाने वाले दुर्लभ बड़े आयोजनों से बदलकर, कुछ दर्शकों के लिए, ऊब पैदा करने वाली बार-बार की घटनाएँ बन गईं।

इसके विपरीत, एआई एक ही VFX उत्पादन प्रक्रिया की कई भूमिकाएँ एक साथ अपने हाथ में लेकर विज़ुअल इफेक्ट्स कर्मचारियों के करियर पर गंभीर नकारात्मक असर डाल रहा है । इसके कारण VFX तथा फिल्म और टीवी कंपनियाँ एकजुट होकर अलग-अलग तरीकों से एआई के उपयोग पर पर्दा डाल रही हैं।

मिसाल के लिए, ड्रीमवर्क्स जैसी कंपनियाँ भले ही यह शर्त रखें कि उनकी रचनाओं का इस्तेमाल एआई को प्रशिक्षित करने के लिए नहीं किया जा सकता (नीचे चित्र देखें), लेकिन विज़ुअल इफेक्ट्स कंपनियों की जिन एआई प्रक्रियाओं का खुलासा नहीं किया जाता वे ही लोकप्रिय मीडिया में एआई के उपयोग के वास्तविक विस्तार की गलत तस्वीर पेश करती हैं*।

बैड गाइज़ 2 में ड्रीमवर्क्स की घोषणा, जो फिल्म को प्रशिक्षण सामग्री के रूप में इस्तेमाल न करने की चेतावनी देती है। स्रोत

क्रेडिट में छिपी समस्या

इस चर्चा का कारण यह है कि आज मीडिया सामग्री में एआई के उपयोग पर बहस फिर तेज़ हो गई है। नेटफ्लिक्स की एक कंपनी रिपोर्ट और उसके बाद हुए एक साक्षात्कार से पता चला कि कंपनी ने अपनी लगभग 300 फिल्मों और सीरीज़ में जनरेटिव एआई का इस्तेमाल किया है। नेटफ्लिक्स के सह-सीईओ टेड सारांडोस ने कहा कि अकेले द अमेरिकन एक्सपेरिमेंट डॉक्यूसीरीज़ में जनरेटिव एआई से तैयार 17 मिनट की सामग्री है।

यह जानकारी आपको स्पष्ट रूप से बतानी ही पड़ेगी: द अमेरिकन एक्सपेरिमेंट और एआई के उपयोग के संदर्भ में बताई गई एक अन्य नेटफ्लिक्स सीरीज़, ग्लोरी के पाँच मिनट से अधिक लंबे अंतिम क्रेडिट को ध्यान से देखने पर भी एआई के इस्तेमाल का कोई संकेत नहीं मिलता:

‘द अमेरिकन एक्सपेरिमेंट’ में कई VFX कंपनियों से संबंधित क्रेडिट।

इनमें बताए गए पदनाम कम से कम 1990 के दशक की शुरुआत के क्रेडिट में भी मौजूद हो सकते थे। एआई से जुड़ा सारा काम कहाँ है?

लगभग 2023 में Metaphysic.ai की अग्रणी उद्योगगत सफलता के बाद से एआई तकनीकें चुपचाप लंबे समय से स्थापित VFX कंपनियों में व्यापक हो गई हैं। इन कंपनियों ने जनरेटिव एआई को अपनी मौजूदा कार्यप्रणालियों में जोड़ लिया है। उस समय कंपनियाँ अपने एआई VFX कार्य के बारे में कहीं अधिक खुलकर बोलती थीं। पूर्ण पारदर्शिता के लिए बता दूँ कि मैंने वहाँ दो साल काम किया था।

इस तरह एआई बिना किसी शोर-शराबे के सामान्य निर्माण प्रक्रिया में प्रवेश कर रहा है। इसकी एक बड़ी वजह यह है कि एआई VFX टीम में उसके उपयोग का संकेत देने वाले पदनाम आम तौर पर क्रेडिट में शामिल नहीं किए जाते। यहाँ तक कि अब समाप्त हो चुकी Metaphysic.ai का नाम 2024 की एलियन: रोमुलस फिल्म के क्रेडिट में भी केवल सबसे सामान्य और “पारंपरिक” VFX भूमिकाओं के साथ आता है। जबकि उसमें डेटा समूह बनाने और संसाधित करने तथा न्यूरल नेटवर्क और अन्य मशीन लर्निंग तरीकों से दृश्य तैयार करने जैसी कई एआई-विशिष्ट भूमिकाएँ स्पष्ट रूप से दिखनी चाहिए थीं:

‘एलियन: रोमुलस’ (2024) में Metaphysic को दिए गए क्रेडिट। लेखक ने कंपनी की इस भागीदारी को 18 महीनों तक व्यक्तिगत रूप से देखा। एआई-विशिष्ट कोई पदनाम दिखाई नहीं देता।

अगर कंपनी का नाम नहीं होता, तो एलियन: रोमुलस में एआई के इस्तेमाल का कोई संकेत ही नहीं मिलता। वास्तविक दुनिया में ऐसे विशिष्ट काम के लिए डेटा की सफाई और तैयारी, मॉडल प्रशिक्षण तथा अनेक अन्य एआई-विशिष्ट कार्यों में पूरी तरह जुटे कर्मचारी चाहिए होते हैं। कंपनी के अब भी मौजूद LinkedIn पेज^† पर कई कर्मचारियों के लिए “AI artist” जैसे पदनाम इस शब्द का इस्तेमाल करने में काफी कम संकोच दिखाते हैं। वहाँ रोमुलस के ऊपर दिखाए गए क्रेडिट में शामिल एक “Digital Artist” का पदनाम भी एआई से जुड़ा हुआ है।

बेशक, क्रेडिट अब पहले से लंबे हो गए हैं, लेकिन निर्माण कंपनियों को सभी लोगों के नाम पूरी तरह सूचीबद्ध करने की बाध्यता नहीं है। Producers Guild of America (PGA) इस बारे में दिशानिर्देश जारी करता है। VFX क्रेडिट में इस्तेमाल किए गए उपकरणों का नाम देना भी अनिवार्य नहीं है, हालाँकि Flame या Houdini जैसी लोकप्रिय मालिकाना प्रणालियों और प्रसिद्ध मुक्त एवं ओपन-सोर्स सॉफ्टवेयर का अक्सर उल्लेख किया जाता है।

फिर भी, क्या टीवी और फिल्म क्रेडिट में एआई-संबंधित प्लेटफॉर्म, उपकरणों, प्रक्रियाओं और विधियों का नाम स्पष्ट रूप से न देना भविष्य के कानूनी जोखिमों से बचाव का तरीका हो सकता है, जबकि वेब-स्क्रैपिंग के विरुद्ध वैश्विक कानूनी लड़ाई आगे बढ़ रही है? या क्रेडिट से एआई की भूमिकाएँ और प्रक्रियाएँ बाहर रखने से नेटफ्लिक्स जैसी कंपनियों को एआई की बढ़ती मौजूदगी के बारे में अपनी बात अधिक सटीक ढंग से नियंत्रित करने का अवसर मिलता है?

किसे परवाह है?

एआई उसे परिभाषित और समझाने वाली भाषा से कहीं तेज़ी से विकसित होता है। उदाहरण के लिए, “डीपफेक” शब्द का अर्थ बहुत बदल और फैल गया है । शुरू में इसका इस्तेमाल 2017 के दौर के उस प्रतिबंधित सॉफ्टवेयर की सामग्री के लिए होता था, जो बाद में DeepFaceLab और DeepFaceLive के रूप में विकसित हुआ।

मुझे लगता है कि “एआई स्लॉप” शब्द के साथ भी ऐसा ही बदलाव हो रहा है। इस निंदात्मक शब्द का मूल उद्देश्य बड़े भाषा मॉडलों की सामग्री के घिसे-पिटे ढाँचों और पूर्वानुमेय दोहराव की ओर ध्यान दिलाना था। यह एआई से बने चित्रों या वीडियो की अक्सर सामान्य या अविश्वसनीय गुणवत्ता पर भी टिप्पणी करता था।

अब गुणवत्ता में सुधार के बावजूद यह शब्द राजनीतिक या आर्थिक आधार पर स्वयं एआई को नैतिक रूप से अस्वीकार करने का सरल तरीका बनता जा रहा है, चाहे उसकी बनाई सामग्री की गुणवत्ता कैसी भी हो^††।

जैसा कि मैंने पहले भी कहा है, उपभोक्ताओं के बीच “जन प्रतिरोध” की गुंजाइश वर्तमान एआई क्रांति की व्यवसायों के बीच केंद्रित प्रकृति के कारण सीमित हो सकती है। उपभोक्ता माँग से संचालित होने के बजाय यह मशीन लर्निंग प्रणालियों को बुनियादी अवसंरचना में समाहित कर रही है। नतीजतन अधिकांश अंतिम उपयोगकर्ता अपनी पसंद से नहीं, बल्कि व्यवस्था के स्वाभाविक हिस्से के रूप में एआई से जुड़ते हैं।

नेटफ्लिक्स के संदर्भ में टेड सारांडोस इस बात पर भरोसा कर रहे हैं कि उपभोक्ता अपने नए शो और फिल्मों को तैयार करने के तरीकों के प्रति उदासीन हैं। उनका सीधा मानना है कि दर्शकों को इससे फर्क नहीं पड़ता:

“मुझे लगता है कि [दर्शकों] की मुख्य दिलचस्पी कहानी से जुड़ने में होती है। मेरा कहना है कि उन्हें शायद बजट की खास परवाह नहीं होती, और शायद उसे प्रस्तुत करने वाली तकनीक की भी नहीं।”

शायद वह सही हैं। शायद आम दर्शकों की उदासीनता को कम आँककर कोई कभी दिवालिया नहीं हुआ।

इसके अलावा, कुछ लोग कह सकते हैं कि एआई इतना फैल चुका है कि Houdini के लिए एआई से बातचीत करके लिखा गया कोई प्लगइन भी फिल्म या टीवी एपिसोड में एआई के इस्तेमाल का खुलासा आवश्यक बना सकता है। इससे वही संवेदनहीन कर देने वाला असर पैदा होगा जो यूरोपीय संघ के कुकी कानून और GDPR से हुआ है।

संभव है कि अभी वैचारिक रूप से हर तरह के एआई के विरुद्ध खड़े लोग भी विरोध करते-करते थक जाएँ, भले ही वे उसे अपने या दूसरों के अस्तित्व के लिए खतरा मानते हों। मेरे परिचित अधिकांश वीगन लोग सेलुलॉइड पर फिल्माए गए टीवी शो और फिल्में देखने से खुद को नहीं रोकते, हालाँकि यह फिल्म पशु-आधारित उत्पाद है, जैसा कि एक्स-रे जाँच में इस्तेमाल होने वाला फिल्म माध्यम भी है।

कुछ लोगों के लिए एआई की किसी भी मात्रा का इस्तेमाल स्याही की उस बूँद जैसा है जो पूरे गिलास के पानी को रंग देती है और बाकी उत्पाद को भी “एआई स्लॉप” बना देती है। एआई जिस उत्पाद का हिस्सा है, उसमें वह जितनी पूर्णता से घुलता है, ऐसे दर्शक को वह पूरा उत्पाद उतना ही दूषित लगता है।

इस अर्थ में “एआई स्लॉप” गुणवत्ता नहीं, बल्कि उत्पत्ति और एक कथित खतरे के सामने एकजुटता का विषय है। भले ही यह केवल उस “संक्रमण काल” के लिए हो जिसके बाद एआई को सामान्य मानना अपरिहार्य हो जाए, लोकप्रिय टीवी और फिल्म सामग्री में उसके उपयोग के खुलासे के पक्ष में तर्क मौजूद है। यहाँ तक कि पहले से जानकारी देना भी उचित हो सकता है, जैसा कि नीचे एआई से बनाए गए नमूने में दिखाया गया है:

यह चित्र स्वयं एआई (GPT-2) से बनाया गया है और टीवी शो तथा फिल्मों की सामग्री संबंधी अनिवार्य चेतावनियों में एक संभावित अतिरिक्त सूचना दिखाता है।

जो लोग मानते हैं कि ऐसी सूचनाएँ जल्द ही अनावश्यक हो जाएँगी, उन्हें ध्यान देना चाहिए कि हिंसा, गाली-गलौज और नशीले पदार्थों का उपयोग या दुरुपयोग लंबे समय से मौजूद हैं और शायद हमेशा रहेंगे। इन विषयों वाले टीवी शो में वे बहुत बार दिखाई देते हैं। फिर भी उनके बारे में नियमित रूप से जानकारी दी जाती है, चाहे कितना भी दोहराव हो।

जिस तरह खाद्य पदार्थों के पैकेट पर सेलरी जैसे एलर्जी पैदा करने वाले तत्वों को अक्सर उभारकर बताया जाता है, उसी तरह एआई की मौजूदगी को दर्शकों के लिए एक चुनाव के रूप में पेश करना अनुचित नहीं लगता। दर्शक यह चुनाव कर सकते हैं या उससे बच सकते हैं। शायद यह जानकारी पाने के लिए उन्हें मनोरंजन समाचार पढ़ने या कंपनियों के अपडेट की सदस्यता लेने की भी आवश्यकता नहीं पड़नी चाहिए।

* मैंने कई साल एआई-केंद्रित विज़ुअल इफेक्ट्स कंपनी Metaphysic.ai में कर्मचारी के रूप में काम किया, जब तक कि उसे Brahma.ai के रूप में विशाल VFX कंपनी Double Negative (DNEG) में समाहित नहीं कर दिया गया। इस वजह से मुझे वैश्विक VFX उद्योग की एआई प्रक्रियाओं के बारे में कुछ रोचक जानकारियाँ मिलीं।

^†इस लिंक को देखने के लिए आपको लॉग इन करना होगा।

^†† इसी कारण मैंने यहाँ अपने लेखों के चित्रों को अधिक स्पष्ट रूप से एआई-जनित बताना शुरू किया है, क्योंकि अधिक से अधिक लोग अंतर स्पष्ट करने और खुलासे की माँग करते दिखाई देते हैं। इससे पहले चित्रों के एआई-जनित होने की जानकारी केवल उनके HTML टैग में होती थी।

पहली बार शुक्रवार, 17 जुलाई 2026 को प्रकाशित। अतिरिक्त खाली जगह हटाने के लिए 16:52 EET पर संशोधित।