Anderson का एंगल
रेडिट ने SFW डीपफेक समुदाय पर प्रतिबंध लगाया

मुख्य बिंदुReddit ने r/deepfakesfw को अश्लील सामग्री पोस्ट करने के लिए नहीं, बल्कि अनैच्छिक…
और देखें
- Reddit ने r/deepfakesfw को अश्लील सामग्री पोस्ट करने के लिए नहीं, बल्कि अनैच्छिक पोर्नोग्राफी को बढ़ावा देने के लिए प्रतिबंधित किया।
- Google ने Colab पर डीपफेक प्रशिक्षण पर प्रतिबंध लगाया, लेकिन यह केवल DeepFaceLab पर लागू होता है, अन्य उपकरणों पर नहीं।
- वैध डीपफेक समुदाय केवल NSFW सामग्री अनुरोधों के खिलाफ सख्त मॉडरेशन के माध्यम से जीवित रहते हैं।
पिछले सप्ताहांत में, कथित तौर पर रविवार के आसपास, रेडिट ने नाममात्र के ‘एसएफडब्ल्यू’ (कार्यस्थल पर देखने योग्य सामग्री) डीपफेक्स समुदाय को प्रतिबंधित कर दिया, जिसका शीर्षक r/deepfakesfw था। यह सबरेडिट उन शुरुआती प्रतिक्रियाओं में से एक था जो सोशल मीडिया दिग्गज द्वारा 2018 में मूल r/deepfakes समुदाय को तुरंत हटाए जाने के बाद सामने आई थीं। वह मूल समुदाय एआई से बनी अश्लील सामग्री से भरा था।
अब सबरेडिट पर जाने वाले किसी को भी (सोमवार, 13 जून को ली गई आर्काइव स्नैपशॉट) जो अपेक्षाकृत सामान्य सूचना दिखाई देती है, वह बताती है कि यह ‘संबंधित व्यक्तियों की सहमति के बिना बनाई या साझा की गई अश्लील सामग्री के विरुद्ध रेडिट के नियमों के उल्लंघन के कारण प्रतिबंधित किया गया था’।
r/deepfakesfw सबरेडिट को अक्सर लोकप्रिय आर्काइव सेवाओं द्वारा संग्रहीत नहीं किया गया था, लेकिन सबसे हाल का वेबैक मशीन स्नैपशॉट, जो लगभग दस दिन पहले (3 जून 2022 को) लिया गया था, यह दर्शाता है कि सबरेडिट उस समय 3,095 पाठकों के साथ था।
यह संख्या वास्तव में r/DeepFakesSFW (अतिरिक्त ‘s’ पर ध्यान दें) से अधिक है, जिसके अभी 2,827 पाठक हैं (सोमवार, 13 जून 2022 का आर्काइव स्नैपशॉट)। सबसे लोकप्रिय ‘वैध’ एसएफडब्ल्यू डीपफेक समुदाय फिलहाल r/SFWdeepfakes लगता है, जिसके लेखन के समय 16,636 पाठक हैं (सोमवार, 13 जून 2022 का स्नैपशॉट)।
पूछना भी मत
जो r/deepfakesfw को बर्बाद करने के लिए प्रतीत होता है वह पोस्टिंग नहीं था, बल्कि डीपफेक पोर्नोग्राफी का अनुरोध था। रेडिट के नियम यौन स्पष्ट मीडिया पर कहते हैं:
‘[चित्र] या वीडियो किसी अन्य व्यक्ति को स्पष्ट सामग्री को नकली बनाने या चित्रित व्यक्ति जैसे दिखने वाले लोगों की अश्लील सामग्री (जैसे “डीपफेक्स” या “बबल पोर्न”) के लिए अनुरोध करने के विशिष्ट उद्देश्य के लिए पोस्ट किया गया है, यह नियम के खिलाफ है।’
अब प्रतिबंधित एसएफडब्ल्यू सबरेडिट से अंतिम उपलब्ध आरएसएस फीड के आधार पर, यह एनएसएफडब्ल्यू डीपफेक सामग्री को पोस्ट करने के बजाय उसकी मांग करना था, जिसके कारण अंततः प्रतिबंध लगा:
हालांकि ये आरएसएस पोस्ट जिन्हें इंगित करते हैं वे अब उपलब्ध नहीं हैं, अनुरोधकर्ताओं के प्रोफाइल लिंक (उपरोक्त छवि में धुंधले) पर क्लिक करने से पता चलता है कि कई पोस्टर एक से अधिक मंचों पर प्रतिबंधित डीपफेक सामग्री का अनुरोध कर रहे हैं और या तो कुछ सबसे चरम सामग्री की पेशकश कर रहे हैं या मांग रहे हैं, जिसमें अनाचार से संबंधित अश्लील सामग्री और बिना सहमति वाली अश्लील सामग्री के विभिन्न रूप शामिल हैं।
यह सुझाव देता है कि शेष ‘एसएफडब्ल्यू’ रेडिट सबरेडिट्स उनके मॉडरेटरों की गति, दृढ़ता और तेज प्रतिक्रिया समय से बचते हैं, क्योंकि यह लगता है कि रेडिट अवैध डीपफेक्स के लिए एक प्रकार के ‘वर्गीकृत विज्ञापन’ मंच बनने के लिए अनिच्छुक है, जहां लोग डीएम के माध्यम से जुड़ सकते हैं और लेन-देन कर सकते हैं (जहां यह पोस्ट में स्पष्ट रूप से अनुरोध नहीं किया जा सकता है)।
यदि ऐसा है, तो अभी तक प्रतिबंधित नहीं किया गया r/DeepFakesSFW का अस्तित्व अब थोड़े समय का मेहमान हो सकता है; इसके दो वर्तमान शीर्ष पोस्ट जब मूल सबरेडिट यूआरएल के साथ ‘पुराने’ रेडिट थीम को सक्षम किया जाता है, तो विशेष रूप से ‘एनएसएफडब्ल्यू’ के रूप में चिह्नित किया गया है (एक टैग जो इस विशेष समुदाय में उपलब्ध नहीं होना चाहिए)।

कुछ परिस्थितियों के आधार पर, कुछ नियम-तोड़ने वाले पोस्ट वर्तमान में r/DeepFakesSFW सबरेडिट में दिखाई दे रहे हैं। स्रोत: https://www.reddit.com/r/DeepFakesSFW/
r/DeepFakesSFW फोरम में शीर्ष पर दिखने वाली इन दो एनएसएफडब्ल्यू पोस्ट को यहां संग्रहीत रूप में देखा जा सकता है (सोमवार, 13 जून 2022 का स्नैपशॉट)।
वास्तव में, r/DeepFakesSFW पर एक नई पोस्ट बनाते समय कोई एनएसएफडब्ल्यू ‘फ्लेयर’ उपलब्ध नहीं है, जो इसके साइडबार जानकारी के अनुसार चार साल से संचालित हो रहा है:

r/DeepFakesSFW पर पोस्टिंग के लिए उपलब्ध ‘फ्लेयर’।
इसलिए, r/DeepFakesSFW पर एनएसएफडब्ल्यू टैग या तो मंच के मॉडरेटरों द्वारा या उच्च-स्तरीय प्रशासकों द्वारा – या यहां तक कि एल्गोरिदम द्वारा भी लगाए गए प्रतीत होते हैं, संभवतः स्थानीय मॉडरेटरों द्वारा किसी भी हस्तक्षेप या विरोध के बिना। मैंने r/DeepFakesSFW के एकमात्र सूचीबद्ध मॉडरेटर से इस बारे में संपर्क किया है और किसी भी उपलब्ध अपडेट पोस्ट करूंगा।
(संपादन, मंगलवार, 14 जून 2022 – r/DeepFakesSFW के एक मॉडरेटर ने प्रतिक्रिया दी, जिसमें कहा गया है ‘यह तब होता है जब उपयोगकर्ता का खाता एनएसएफडब्ल्यू होता है’। संभवतः एसएफडब्ल्यू डीपफेक्स सबरेडिट्स में ऐसे अनुरोधों की संभावना कम करने का एकमात्र तरीका उन उपयोगकर्ताओं को प्रतिबंधित करना होगा जिन्होंने इस वर्गीकरण को ‘अर्जित’ किया है।)
इस सबरेडिट और बड़े r/SFWdeepfakes में अधिकांश सामग्री लोकप्रिय फिल्मों या क्लासिक फिल्मों के अभिनेताओं को ‘पुनः कास्ट’ करने के लिए डीपफेक प्रौद्योगिकी का उपयोग करने से संबंधित है, या अन्यथा लोकप्रिय मीडिया और डीपफेक प्रौद्योगिकी के साथ कुछ अधिक हानिरहित एआई-संचालित मज़े करने से संबंधित है, और वास्तव में ‘एसएफडब्ल्यू’ के रूप में योग्य हैं।
हालांकि कई ऐसे पोस्ट कॉपीराइट-चालित प्रतिबंधों के करीब से गुजरते हैं, मेजर यूट्यूब डीपफेकर्स जैसे Ctrl-Shift-Face द्वारा दूसरों की बौद्धिक संपदा का उपयोग करने वाले ऐसे गैर-पोर्नोग्राफिक डीपफेक वीडियो पोस्ट की निरंतरता एक व्यापक स्टूडियो और अधिकार धारक सहनशीलता को दर्शाती है, जो इस समय के लिए ऐसी गतिविधि के प्रति है।
डीपफेक प्रक्रिया और इकोस्ट्रक्चर की ‘निर्दोष’ उपस्थिति
दो सप्ताह पहले यह बात सामने आई (और इस पर काफी चर्चा हुई) कि गूगल ने अपने लोकप्रिय कोलाब क्लाउड प्रोसेसिंग वातावरण में डीपफेक बनाने वाले सॉफ्टवेयर पर अचानक प्रतिबंध लगा दिया है। अब तक कोलाब में यह रोक केवल DeepFaceLab (डीएफएल) चलाने के प्रयासों पर सक्रिय होती दिखती है। यह दुनिया का सबसे लोकप्रिय डीपफेक सॉफ्टवेयर है और एआई अश्लील सामग्री से सबसे अधिक जुड़ा है। इसके विपरीत, कम उपयोग किए जाने वाले FaceSwap पर ऐसी रोक नहीं दिखती; इसकी प्रतिष्ठा बेहतर है, हालांकि यह डीएफएल जैसे ही कार्य करता है।
एक हद तक, यह दृष्टिकोण कोलाब पर डीपफेक पोर्नोग्राफी के उत्पादन पर किसी भी प्रतिबंध को लागू करने का एकमात्र तरीका हो सकता था, क्योंकि वास्तविक डीपफेक प्रशिक्षण प्रक्रिया में केवल ओपन-सोर्स सॉफ्टवेयर और अत्यधिक क्रॉप किए गए चेहरे की छवियों (आमतौर पर केवल 512x512px, अक्सर कम) का उपयोग किया जाता है, जिसमें छवि पहचान एल्गोरिदम द्वारा किसी भी वास्तविक पोर्नोग्राफिक सामग्री को इंटरसेप्ट करने की लगभग शून्य संभावना है।
एक बार डीपफेक मॉडल प्रशिक्षित हो जाने के बाद, डीपफेकर को कोलाब की भारी प्रोसेसिंग शक्ति या किसी महंगे स्थानीय जीपीयू की अब आवश्यकता नहीं होती है। अधिकांश वास्तविक रूपांतरण (अर्थात, एक वीडियो में एक चेहरा लगाने की प्रक्रिया, पोर्नोग्राफिक या अन्य), स्थानीय रूप से किया जा सकता है – कम शक्तिशाली लैपटॉप जीपीयू पर, या यहां तक कि एक सीपीयू (कुछ लंबे प्रोसेसिंग समय के साथ) पर भी। डीपफेक प्रक्रिया में कुछ पोर्नोग्राफिक होने से पहले, कोलाब लंबे समय से तस्वीर से बाहर हो गया है।
इसलिए, डीपफेक पोर्नोग्राफी निर्माताओं के बीच गुजरने वाले डीपफेक पोर्नोग्राफी के घटक तत्व आमतौर पर केवल एक छोटे से कॉपीराइट उल्लंघन का प्रतिनिधित्व करते हैं, जो ‘चेहरे के सेट’ के रूप में होते हैं, जिन्हें डीपफेक निर्माताओं ने यूट्यूब वीडियो, ब्लू-रे, टेलीविज़न साक्षात्कार, सोशल मीडिया और विभिन्न अन्य स्रोतों से निकाला है।
क्या डीपफेक समुदायों के लिए ‘स्कॉर्च्ड अर्थ’ नीति आ रही है?
डीपफेक डिस्कॉर्ड समुदायों जैसे डीपफेसलैब (जिसमें डीपफेसलाइव शामिल है), फेसस्वैप, मशीन वीडियो संपादक (एमवीई, एक जीयूआई-आधारित पर्यावरण डीएफएल के लिए, कई अतिरिक्त सुविधाओं के साथ), और नए ऑडियो-आधारित डीपफेक डिस्कॉर्ड सर्वर जैसे ऑडियो डीपफेक्स के निवासियों का सवाल है क्या वर्तमान पोर्टल और प्लेटफ़ॉर्म के मालिक जल्द ही सिद्धांत पर डीपफेक समुदायों पर प्रतिबंध लगा देंगे, न कि एनएसएफडब्ल्यू अनुयायियों और निर्माताओं के खिलाफ निरंतर मॉडरेशन के खिलाफ लड़ने का खर्च सहन करेंगे?
ब्रायन ल्योन, फेसस्वैप के विकासकर्ताओं में से एक और परियोजना के संबंधित डिस्कॉर्ड सर्वर के मालिक, ने टिप्पणी की†:
‘कई सफाई अभियानों के बावजूद हम बिल्कुल साफ-सुथरे रहकर डिस्कॉर्ड पर बने रहने में कामयाब हुए हैं। हमारे कोई छिपे चैनल या अवैध सामग्री वाला गुप्त दूसरा सर्वर नहीं है। कुछ साल पहले लोकप्रिय DeepFaceLab सर्वर पर कार्रवाई हुई थी। उस पर मौजूद हर व्यक्ति को प्रतिबंधित कर दिया गया था। वहां केवल आमंत्रण से मिलने वाली भूमिकाएं थीं, जिनसे बिना सहमति वाली अश्लील सामग्री के चैनलों तक पहुंच मिलती थी।’
दुनिया के सबसे बड़े प्रौद्योगिकी होस्टिंग संसाधनों में से एक होने के नाते, गूगल ने अपने सर्वरों और जीपीयू पर डीपफेक प्रशिक्षण पर प्रतिबंध लगा दिया है, यह संभव है कि माइक्रोसॉफ्ट के स्वामित्व वाले गिटहब यह तय कर सकते हैं कि इन प्रौद्योगिकियों को सुविधाजनक बनाना* अंततः नैतिक अस्पष्टता या पर्यवेक्षण में निवेश के लायक नहीं होगा।
इस समय, डीपफेक तकनीकों को वैध स्वीकृति दिलाने की प्रक्रिया—ताकि उनका उपयोग घर में बनी अश्लील सामग्री से हटकर फिल्म और टेलीविजन निर्माण तथा दूसरों के अधिकारों का उल्लंघन न करने वाले और गैर-आपराधिक उपयोगों की ओर बढ़े—इतनी शुरुआती अवस्था में है कि प्लेटफॉर्म और समुदायों की होस्टिंग सेवाओं के लिए स्पष्ट नीतिगत दिशानिर्देश अभी विकसित नहीं हो पाए हैं।
* सोमवार, 13 जून 2022 को https://github.com/search?q=deepfake का आर्काइव।
† डिस्कॉर्ड पर निजी डीएम में।
सोमवार, 13 जून 2022 को पहली बार प्रकाशित। 3:08 PM UTC के लिए छवि संशोधन के लिए संपादित किया गया।
मंगलवार, 14 जून 2022 6:24am UTC को संशोधित किया गया, कुछ पोस्टर्स की एनएसएफडब्ल्यू स्थिति के बारे में रेडिट मॉडरेटर की प्रतिक्रिया जोड़ने के लिए। आरएसएस फीड्स चित्रण पर छवि संशोधन भी किया गया।














