रेडिट ने ‘एसएफडब्ल्यू’ डीपफेक समुदाय पर प्रतिबंध लगा दिया है

पिछले सप्ताहांत में, कथित तौर पर रविवार के आसपास, रेडिट ने नाममात्र के ‘एसएफडब्ल्यू’ (सुरक्षित कार्य) डीपफेक्स समुदाय को प्रतिबंधित कर दिया, जिसका शीर्षक r/deepfakesfw था। यह सबरेडिट सोशल मीडिया दिग्गज की मूल, एआई-पोर्न-से भरे r/deepfakes सब को 2018 में हटाने के प्रोम्प्ट के लिए एक प्रारंभिक प्रतिक्रिया थी।

अब सबरेडिट पर जाने वाले किसी को भी (सोमवार, 13 जून को ली गई आर्काइव स्नैपशॉट) जो कथा अब ग्रीट करती है, वह बताती है कि यह ‘रेडिट के नियमों के खिलाफ अनिच्छुक अश्लील सामग्री के उल्लंघन के कारण प्रतिबंधित किया गया था’।

r/deepfakesfw के लिए नया फ्रंट पेज।

r/deepfakesfw सबरेडिट को अक्सर लोकप्रिय संरक्षण मंचों द्वारा संग्रहीत नहीं किया गया था, लेकिन सबसे हाल का वेबैक मशीन स्नैपशॉट, जो लगभग दस दिन पहले (3 जून 2022 को) लिया गया था, यह दर्शाता है कि सबरेडिट उस समय 3,095 पाठकों के साथ था।

यह वास्तव में r/DeepFakesSFW (नोट एक्स्ट्रा ‘स’) की तुलना में अधिक ग्राहकों की संख्या है, जो वर्तमान में 2,827 पाठकों (सोमवार, 13 जून 2022 को ली गई आर्काइव स्नैपशॉट) के साथ है। सबसे लोकप्रिय ‘वैध’ एसएफडब्ल्यू डीपफेक्स समुदाय वर्तमान में r/SFWdeepfakes लगता है, जो लेखन के समय 16,636 पाठकों (सोमवार, 13 जून 2022 को ली गई आर्काइव स्नैपशॉट) के साथ है।

पूछना भी मत

जो r/deepfakesfw को बर्बाद करने के लिए प्रतीत होता है वह पोस्टिंग नहीं था, बल्कि डीपफेक पोर्नोग्राफी का अनुरोध था। रेडिट के नियम यौन स्पष्ट मीडिया पर कहते हैं:

‘[चित्र] या वीडियो किसी अन्य व्यक्ति को स्पष्ट सामग्री को नकली बनाने या “दिखने वाले” पोर्नोग्राफी (जैसे “डीपफेक्स” या “बबल पोर्न”) के लिए अनुरोध करने के विशिष्ट उद्देश्य के लिए पोस्ट किया गया है, यह नियम के खिलाफ है।’

अब प्रतिबंधित एसएफडब्ल्यू सबरेडिट से अंतिम उपलब्ध आरएसएस फीड के आधार पर, यह अनुरोध करने की प्रक्रिया है जिसने अंततः प्रतिबंध को ट्रिगर किया है:

अब मृत r/deepfakesfw सबरेडिट से कुछ अंतिम, स्पष्ट रूप से एनएसएफडब्ल्यू पोस्ट। स्रोत: इनोरेडर।

हालांकि ये आरएसएस पोस्ट जिन्हें इंगित करते हैं वे अब उपलब्ध नहीं हैं, अनुरोधकर्ताओं के प्रोफाइल लिंक (उपरोक्त छवि में धुंधले) पर क्लिक करने से पता चलता है कि कई पोस्टर एक से अधिक मंचों पर प्रतिबंधित डीपफेक सामग्री का अनुरोध कर रहे हैं और या तो कुछ सबसे चरम सामग्री की पेशकश कर रहे हैं या मांग रहे हैं, जिसमें अवैध पोर्नोग्राफी के विभिन्न रंग शामिल हैं।

यह सुझाव देता है कि शेष ‘एसएफडब्ल्यू’ रेडिट सबरेडिट्स उनके मॉडरेटरों की गति, दृढ़ता और तेज प्रतिक्रिया समय से बचते हैं, क्योंकि यह लगता है कि रेडिट अवैध डीपफेक्स के लिए एक प्रकार के ‘वर्गीकृत विज्ञापन’ मंच बनने के लिए अनिच्छुक है, जहां लोग डीएम के माध्यम से जुड़ सकते हैं और लेन-देन कर सकते हैं (जहां यह पोस्ट में स्पष्ट रूप से अनुरोध नहीं किया जा सकता है)।

यदि ऐसा है, तो अभी तक प्रतिबंधित नहीं किया गया r/DeepFakesSFW जीवित रहने के लिए उधार ले रहा हो सकता है; इसके दो वर्तमान शीर्ष पोस्ट जब मूल सबरेडिट यूआरएल के साथ ‘पुराने’ रेडिट थीम को सक्षम किया जाता है, तो विशेष रूप से ‘एनएसएफडब्ल्यू’ के रूप में चिह्नित किया गया है (एक टैग जो इस विशेष समुदाय में उपलब्ध नहीं होना चाहिए)।

कुछ परिस्थितियों के आधार पर, कुछ नियम-तोड़ने वाले पोस्ट वर्तमान में r/DeepFakesSFW सबरेडिट में दिखाई दे रहे हैं। स्रोत: https://www.reddit.com/r/DeepFakesSFW/

आप सोमवार, 13 जून 2022 (स्नैपशॉट लिया गया) को आर्काइव्ड यहां देख सकते हैं कि आज r/DeepFakesSFW फोरम में शीर्ष पर इन दो एनएसएफडब्ल्यू पोस्ट।

वास्तव में, r/DeepFakesSFW पर एक नई पोस्ट बनाते समय कोई एनएसएफडब्ल्यू ‘फ्लेयर’ उपलब्ध नहीं है, जो इसके साइडबार जानकारी के अनुसार चार साल से संचालित हो रहा है:

r/DeepFakesSFW पर पोस्टिंग के लिए उपलब्ध ‘फ्लेयर’।

इसलिए, r/DeepFakesSFW पर एनएसएफडब्ल्यू टैग या तो मंच के मॉडरेटरों द्वारा या उच्च-स्तरीय प्रशासकों द्वारा – या यहां तक कि एल्गोरिदम द्वारा भी लगाए गए प्रतीत होते हैं, संभवतः स्थानीय मॉडरेटरों द्वारा किसी भी हस्तक्षेप या विरोध के बिना। मैंने r/DeepFakesSFW के एकमात्र सूचीबद्ध मॉडरेटर से इस बारे में संपर्क किया है और किसी भी उपलब्ध अपडेट पोस्ट करूंगा।

(संपादन, मंगलवार, 14 जून 2022 – r/DeepFakesSFW के एक मॉडरेटर ने प्रतिक्रिया दी, जिसमें कहा गया है ‘यह तब होता है जब उपयोगकर्ता का खाता एनएसएफडब्ल्यू होता है’। संभवतः एसएफडब्ल्यू डीपफेक्स सबरेडिट्स में ऐसे अनुरोधों की संभावना को धीमा करने का एकमात्र तरीका उन उपयोगकर्ताओं को प्रतिबंधित करना होगा जिन्होंने इस वर्गीकरण को ‘अर्जित’ किया है।)

इस सबरेडिट और बड़े r/SFWdeepfakes में अधिकांश सामग्री लोकप्रिय फिल्मों या क्लासिक फिल्मों के अभिनेताओं को ‘पुनः कास्ट’ करने के लिए डीपफेक प्रौद्योगिकी का उपयोग करने से संबंधित है, या अन्यथा लोकप्रिय मीडिया और डीपफेक प्रौद्योगिकी के साथ कुछ अधिक हानिरहित एआई-संचालित मज़े करने से संबंधित है, और वास्तव में ‘एसएफडब्ल्यू’ के रूप में योग्य हैं।

हालांकि कई ऐसे पोस्ट कॉपीराइट-चालित प्रतिबंधों के करीब से गुजरते हैं, मेजर यूट्यूब डीपफेकर्स जैसे Ctrl-Shift-Face द्वारा ऐसे ‘आईपी-अप्रोप्रिएटेड’ गैर-पोर्नोग्राफिक डीपफेक वीडियो पोस्ट की निरंतरता एक व्यापक स्टूडियो और अधिकार धारक सहनशीलता को दर्शाती है, जो इस समय के लिए ऐसी गतिविधि के प्रति है।

डीपफेक प्रक्रिया और इकोस्ट्रक्चर की ‘निर्दोष’ उपस्थिति

दो सप्ताह पहले यह पता चला था (और बहुत चर्चा हुई) कि गूगल ने अपने लोकप्रिय कोलाब क्लाउड प्रोसेसिंग वातावरण से डीपफेक-निर्माण सॉफ्टवेयर पर suddenly प्रतिबंध लगा दिया था। यहां तक कि अब तक, कोलाब को केवल डीपफेसलैब (डीएफएल) चलाने के प्रयासों द्वारा ‘ट्रिगर’ किया जा रहा है, जो दुनिया में सबसे लोकप्रिय डीपफेक्स सॉफ्टवेयर है (और सबसे ज्यादा एआई पोर्न से जुड़ा हुआ है), कम बारंबारता वाले कार्यान्वयन जैसे फेसस्वैप के बजाय, जो बेहतर प्रतिष्ठा रखता है, हालांकि यह समान कार्य करता है।

एक हद तक, यह दृष्टिकोण कोलाब पर डीपफेक पोर्नोग्राफी के उत्पादन पर किसी भी प्रतिबंध को लागू करने का एकमात्र तरीका हो सकता था, क्योंकि वास्तविक डीपफेक प्रशिक्षण प्रक्रिया में केवल ओपन-सोर्स सॉफ्टवेयर और अत्यधिक क्रॉप किए गए चेहरे की छवियों (आमतौर पर केवल 512x512px, अक्सर कम) का उपयोग किया जाता है, जिसमें छवि पहचान एल्गोरिदम द्वारा किसी भी वास्तविक पोर्नोग्राफिक सामग्री को इंटरसेप्ट करने की लगभग शून्य संभावना है।

एक बार डीपफेक मॉडल प्रशिक्षित हो जाने के बाद, डीपफेकर को कोलाब या स्थानीय जीपीयू की भारी प्रोसेसिंग शक्ति की अब आवश्यकता नहीं होती है। अधिकांश वास्तविक रूपांतरण (अर्थात, एक वीडियो में एक चेहरा लगाने की प्रक्रिया, पोर्नोग्राफिक या अन्य), स्थानीय रूप से किया जा सकता है – कम शक्तिशाली लैपटॉप जीपीयू पर, या यहां तक कि एक सीपीयू (कुछ लंबे प्रोसेसिंग समय के साथ) पर भी। डीपफेक प्रक्रिया में कुछ पोर्नोग्राफिक होने से पहले, कोलाब लंबे समय से तस्वीर से बाहर हो गया है।

इसलिए, डीपफेक पोर्नोग्राफी निर्माताओं के बीच गुजरने वाले डीपफेक पोर्नोग्राफी के घटक तत्व आमतौर पर केवल एक छोटे से कॉपीराइट उल्लंघन का प्रतिनिधित्व करते हैं, जो ‘चेहरे के सेट’ के रूप में होते हैं, जिन्हें डीपफेक निर्माताओं ने यूट्यूब वीडियो, ब्लू-रे, टेलीविज़न साक्षात्कार, सोशल मीडिया और विभिन्न अन्य स्रोतों से निकाला है।

क्या डीपफेक समुदायों के लिए ‘स्कॉर्च्ड अर्थ’ नीति आ रही है?

डीपफेक डिस्कॉर्ड समुदायों जैसे डीपफेसलैब (जिसमें डीपफेसलाइव शामिल है), फेसस्वैप, मशीन वीडियो संपादक (एमवीई, एक जीयूआई-आधारित पर्यावरण डीएफएल के लिए, कई अतिरिक्त सुविधाओं के साथ), और नए ऑडियो-आधारित डीपफेक डिस्कॉर्ड सर्वर जैसे ऑडियो डीपफेक्स के निवासियों का सवाल है क्या वर्तमान पोर्टल और प्लेटफ़ॉर्म के मालिक जल्द ही सिद्धांत पर डीपफेक समुदायों पर प्रतिबंध लगा देंगे, न कि एनएसएफडब्ल्यू अनुयायियों और निर्माताओं के खिलाफ निरंतर मॉडरेशन के खिलाफ लड़ने का खर्च सहन करेंगे?

ब्रायन ल्योन, फेसस्वैप के विकासकर्ताओं में से एक और परियोजना के संबंधित डिस्कॉर्ड सर्वर के मालिक, ने टिप्पणी की^†:

‘हम गुप्त चैनलों या अवैध सामग्री वाले दूसरे सर्वर तक पहुंच के साथ आमंत्रण-केवल भूमिकाओं के बिना साफ-सुथरे रहते हुए डिस्कॉर्ड पर रहने में कामयाब रहे हैं। एक दो साल पहले लोकप्रिय डीपफेसलैब सर्वर का एक शुद्धिकरण हुआ था। उस पर हर कोई प्रतिबंधित था। उन्होंने गैर-सहमति पोर्नोग्राफी वाले चैनलों तक पहुंच के साथ आमंत्रण-केवल भूमिकाएं थीं।’

दुनिया के सबसे बड़े प्रौद्योगिकी होस्टिंग संसाधनों में से एक होने के नाते, गूगल ने अपने सर्वरों और जीपीयू पर डीपफेक प्रशिक्षण पर प्रतिबंध लगा दिया है, यह संभव है कि माइक्रोसॉफ्ट के स्वामित्व वाले गिटहब यह तय कर सकते हैं कि इन प्रौद्योगिकियों को सुविधाजनक बनाना* अंततः नैतिक अस्पष्टता या पर्यवेक्षण में निवेश के लायक नहीं होगा।

इस समय, डीपफेक प्रौद्योगिकियों को वैध बनाने की प्रक्रिया इतनी नई है कि यह स्पष्ट नीति दिशानिर्देश तैयार नहीं कर पा रही है जो मंचों और समुदाय होस्ट सेवाओं के लिए हैं।

* सोमवार, 13 जून 2022 को https://github.com/search?q=deepfake का आर्काइव।
† डिस्कॉर्ड पर निजी डीएम में।

सोमवार, 13 जून 2022 को पहली बार प्रकाशित। 3:08 PM UTC के लिए छवि संशोधन के लिए संपादित किया गया।
मंगलवार, 14 जून 2022 6:24am UTC को संशोधित किया गया, कुछ पोस्टर्स की एनएसएफडब्ल्यू स्थिति के बारे में रेडिट मॉडरेटर की प्रतिक्रिया जोड़ने के लिए। आरएसएस फीड्स चित्रण पर छवि संशोधन भी किया गया।