सिविटीएआई नए भुगतान प्रदाता संकट में, क्योंकि ट्रंप ने एंटी-डीपफेक अधिनियम पर हस्ताक्षर किए

राष्ट्रपति ट्रंप ने अब TAKE IT DOWN अधिनियम पर हस्ताक्षर किए हैं, जो संघीय स्तर पर अमेरिका में यौन डीपफेक्स को आपराधिक बनाता है। इस बीच, सिविटीएआई समुदाय के नियमों को ‘साफ’ करने के प्रयास के बावजूद, एनएसएफडब्ल्यू एआई और सेलिब्रिटी आउटपुट के संबंध में, यह अंततः भुगतान प्रोसेसर को प्रभावित करने में विफल रहा है, जिससे साइट को विकल्पों की तलाश करनी पड़ रही है या बंद होने का सामना करना पड़ रहा है। यह सब केवल दो सप्ताह में हुआ है जब दुनिया की सबसे पुरानी और सबसे बड़ी डीपफेक पोर्न साइट ऑफलाइन हो गई…

यह अनियमित छवि और वीडियो डीपफेकिंग की स्थिति के लिए एक महत्वपूर्ण कुछ हफ्ते रहे हैं। केवल दो हफ्ते पहले, सेलिब्रिटी डीपफेक पोर्न साझा करने के लिए समुदाय के लिए #1 डोमेन, मिस्टर डीपफेक्स,突然 ऑफलाइन हो गया, जो सात साल से अधिक समय से एक प्रमुख और अध्ययन स्थिति में था, जो वैश्विक स्तर पर यौन सेलिब्रिटी एआई सामग्री के लिए केंद्र था। जब यह ऑफलाइन हुआ, तो साइट प्रति माह पांच मिलियन से अधिक विज़िट प्राप्त कर रही थी।

पृष्ठभूमि, मिस्टर डीपफेक्स डोमेन मई की शुरुआत में; इनसेट, निलंबन नोटिस, अब 404 त्रुटि के साथ बदल दिया गया है, क्योंकि डोमेन को कथित तौर पर 4 मई, 2025 को एक अज्ञात खरीदार द्वारा खरीदा गया था (https://www.whois.com/whois/mrdeepfakes.com)। स्रोत: mrdeepfakes.com

मिस्टर डीपफेक्स की सेवाओं के समापन को आधिकारिक तौर पर एक ‘महत्वपूर्ण सेवा प्रदाता’ की वापसी के लिए जिम्मेदार ठहराया गया था (ऊपर दिए गए इनसेट छवि को देखें, जिसे डोमेन विफलता के भीतर बदल दिया गया था)। हालांकि, एक सहयोगी पत्रकारिता जांच ने मिस्टर डीपफेक्स के पीछे एक प्रमुख व्यक्ति को डी-एनोनिमाइज़ किया था, जो साइट के बंद होने से पहले ही हुआ था, जिससे यह संभावना है कि साइट व्यक्तिगत या कानूनी कारणों से बंद कर दी गई थी।

लगभग उसी समय, सिविटीएआई, जो सेलिब्रिटी और एनएसएफडब्ल्यू लोरास के लिए व्यापक रूप से उपयोग किया जाने वाला व्यावसायिक मंच, ने असामान्य और विवादास्पद आत्म-सेंसरशिप उपायों का एक सेट लागू किया। इन उपायों ने डीपफेक जनरेशन, मॉडल होस्टिंग और नए नियमों और प्रतिबंधों के एक व्यापक सेट को प्रभावित किया, जिसमें निश्चित हाशिए पर एनएसएफडब्ल्यू फेटिश और ‘अतिवादी विचारधारा’ पर पूर्ण प्रतिबंध शामिल थे।

इन उपायों को भुगतान प्रदाताओं द्वारा प्रेरित किया गया था, जो कथित तौर पर एनएसएफडब्ल्यू सामग्री और सेलिब्रिटी एआई चित्रण के संबंध में परिवर्तनों के बिना सेवाओं को वापस लेने की धमकी दे रहे थे।

सिविटीएआई कट ऑफ

आज की तारीख में, ऐसा लगता है कि सिविटीएआई द्वारा किए गए उपाय भुगतान प्रदाताओं को प्रभावित करने में विफल रहे हैं: साइट पर एक नया पोस्ट^†, सामुदायिक अभियान प्रबंधक अलास्डेयर निकोल से, यह खुलासा करता है कि कार्ड भुगतान सिविटीएआई (जिसका ‘बज़’ वर्चुअल मनी सिस्टम वास्तविक दुनिया के क्रेडिट और डेबिट कार्ड द्वारा संचालित होता है) को इस शुक्रवार (23 मई, 2025) से रोक दिया जाएगा।

यह उपयोगकर्ताओं को मासिक सदस्यता को नवीनीकृत करने या नए बज़ खरीदने से रोकेगा। हालांकि निकोल सलाह देते हैं कि उपयोगकर्ता शुक्रवार से पहले एक वार्षिक सदस्यता (जिसकी लागत 100-550 अमेरिकी डॉलर है) में बदलकर वर्तमान सदस्यता अधिकारों को बनाए रख सकते हैं, स्पष्ट रूप से डोमेन का भविष्य इस समय कुछ हद तक अनिश्चित है (यह ध्यान दिया जाना चाहिए कि वार्षिक सदस्यताएं लाइव हो गईं जब भुगतान प्रोसेसर के नुकसान के बारे में घोषणा की गई थी)।

भुगतान प्रोसेसर की कमी के बारे में, निकोल कहते हैं ‘हम उन सभी प्रदाताओं से बात कर रहे हैं जो एआई नवाचार के साथ सहज हैं।’

सिविटीएआई की नीतियों को पुनः सोचने के हाल के प्रयासों की विफलता के बारे में, निकोल पोस्ट में कहते हैं:

‘कुछ भुगतान कंपनियां जनरेटिव-एआई प्लेटफ़ॉर्म को उच्च जोखिम वाला मानती हैं, खासकर जब हम उपयोगकर्ता-जनित परिपक्व सामग्री की अनुमति देते हैं, भले ही यह कानूनी और मध्यस्थ हो। यह नीति चुनाव, उपयोगकर्ताओं द्वारा कुछ नहीं किया गया, कट ऑफ को मजबूर किया।’

एक टिप्पणी उपयोगकर्ता ‘फेइया’ से, जो कंपनी के सिविटीएआई प्रोफ़ाइल में मुख्य कर्मचारी के रूप में नामित है, इस घोषणा के लिए संदर्भ जोड़ता है:

‘सिर्फ स्पष्ट करने के लिए, हमें भुगतान प्रोसेसर द्वारा हटा दिया जा रहा है क्योंकि हमने प्लेटफ़ॉर्म से एनएसएफडब्ल्यू और वयस्क सामग्री को हटाने का विकल्प नहीं चुना। हम सभी प्रकार के निर्माताओं का समर्थन करने के लिए प्रतिबद्ध हैं और विकल्पों पर काम कर रहे हैं।’

एक पारंपरिक नई प्रौद्योगिकियों के ड्राइवर के रूप में, यह असामान्य नहीं है कि एनएसएफडब्ल्यू सामग्री का उपयोग एक डोमेन, प्रौद्योगिकी या प्लेटफ़ॉर्म में रुचि को बढ़ावा देने के लिए किया जाता है – केवल यह कि प्रारंभिक अनुयायियों को बाद में खारिज कर दिया जाता है जब पर्याप्त ‘वैध’ पूंजी और/या उपयोगकर्ता आधार स्थापित हो जाता है (अर्थात, पर्याप्त उपयोगकर्ता होते हैं जो एनएसएफडब्ल्यू संदर्भ से वंचित होने पर भी संस्था को जीवित रख सकते हैं)।

यह लगा कि सिविटीएआई टम्बलर और विभिन्न अन्य पहलों के साथ इस मार्ग पर आगे बढ़ेगा, जो एक ‘स्वच्छ’ उत्पाद की ओर बढ़ रहा था जो अपनी जड़ों को भूल जाएगा। हालांकि, एआई-जनित सामग्री किसी भी प्रकार की के आसपास बढ़ती विवाद/कलंक के कारण, यह तौलिया को बचाने में विफल होने की संभावना है। इस बीच, आधिकारिक घोषणा उपयोगकर्ताओं को वैकल्पिक भुगतान विधि के रूप में क्रिप्टो को अपनाने की सलाह देती है।

फेक आउट

राष्ट्रपति डोनाल्ड ट्रंप के उत्साहपूर्वक फेडरल टेक इट डाउन अधिनियम पर हस्ताक्षर करने की घटना से इन घटनाओं पर प्रभाव पड़ा है। यह नया कानून गैर-सहमति वाली अंतरंग छवियों के वितरण को आपराधिक बनाता है, जिसमें एआई-जनित डीपफेक्स भी शामिल हैं।

कानून मांगता है कि प्लेटफ़ॉर्म 48 घंटे के भीतर फ्लैग की गई सामग्री को हटा दें, जिसकी निगरानी संघीय व्यापार आयोग द्वारा की जाती है। कानून के आपराधिक प्रावधान तुरंत प्रभावी हो जाते हैं, जो व्यक्तियों के अभियोजन की अनुमति देते हैं जो जानबूझकर गैर-सहमति वाली अंतरंग छवियों (包括 एआई-जनित डीपफेक्स) को प्रकाशित या प्रकाशित करने की धमकी देते हैं संयुक्त राज्य अमेरिका के क्षेत्राधिकार में।

जबकि कानून को दुर्लभ द्विदलीय समर्थन मिला, साथ ही तकनीकी कंपनियों और समर्थन समूहों से भी समर्थन मिला, आलोचकों का तर्क है कि यह वैध सामग्री को दबा सकता है और गोपनीयता उपकरणों जैसे एन्क्रिप्शन को खतरा पहुंचा सकता है। पिछले महीने, इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन (ईएफएफ) ने विधेयक का विरोध किया, यह दावा करते हुए कि यह तakedown तंत्र जो इसे निर्धारित करता है वह व्यापक है सामग्री की श्रेणी – संभावित रूप से कोई भी छवियों को शामिल करने वाली अंतरंग या यौन सामग्री – कानून में कहीं और पाई जाने वाली गैर-सहमति वाली अंतरंग छवियों की संकीर्ण परिभाषा से अधिक व्यापक है।

‘टेक इट डाउन प्रावधान में तakedown एक ऐसी सामग्री की श्रेणी पर लागू होता है जो कानून में कहीं और पाई जाने वाली एनसीआईआई परिभाषाओं से अधिक व्यापक है। टेकडाउन प्रावधान में भी महत्वपूर्ण सुरक्षा की कमी है खिलवाड़ या दुर्भावनापूर्ण तakedown अनुरोधों के खिलाफ। ‘

‘सेवाएं स्वचालित फिल्टर पर निर्भर करेंगी, जो प्रसिद्ध रूप से भोंदू उपकरण हैं। वे अक्सर कानूनी सामग्री को झंडा दिखाते हैं, जिसमें उचित उपयोग टिप्पणी से लेकर समाचार रिपोर्टिंग तक शामिल है। कानून की सख्त समय सीमा के कारण, ऐप्स और वेबसाइटें 48 घंटे के भीतर भाषण को हटाने के लिए मजबूर हो जाएंगी, जो आमतौर पर यह सत्यापित करने के लिए पर्याप्त नहीं है कि भाषण वास्तव में अवैध है या नहीं। ‘

‘परिणामस्वरूप, ऑनलाइन सेवा प्रदाता, विशेष रूप से छोटे लोग, अपने भाषण को सत्यापित करने का प्रयास किए बिना भाषण को हटाने के लिए चुनेंगे, क्योंकि वे जोखिम को टालेंगे।’

प्लेटफ़ॉर्म के पास कानून के पारित होने के बाद से एक वर्ष का समय है ताकि वे एक औपचारिक नोटिस-एंड-टेकडाउन प्रक्रिया स्थापित कर सकें, जिससे प्रभावित व्यक्तियों या उनके प्रतिनिधियों को सामग्री हटाने के लिए अधिनियम को लागू करने में सक्षम बनाया जा सके।

क्या टेक इट डाउन अधिनियम एआई-जनित सेलिब्रिटी सामग्री को कवर करता है?

हालांकि टेक इट डाउन अधिनियम सभी राज्य सीमाओं को पार करता है, यह सभी एआई-चालित सेलिब्रिटी मीडिया को अवैध नहीं बनाता है। अधिनियम गैर-सहमति वाली अंतरंग छवियों के वितरण को आपराधिक बनाता है, 包括 एआई-जनित डीपफेक्स, केवल तभी जब चित्रित व्यक्ति को गोपनीयता की उचित अपेक्षा थी:

अधिनियम कहता है:

“(2) ऑथेंटिक इंटिमेट विज़ुअल डिपिक्शन्स के संबंध में अपराध।

“(ए) वयस्कों के संबंध में।

“कोई भी व्यक्ति जो जानबूझकर एक अंतरंग दृश्य चित्रण प्रकाशित करता है जो एक पहचान योग्य व्यक्ति को दर्शाता है जो एक नाबालिग नहीं है, यदि –

“(i) अंतरंग दृश्य चित्रण परिस्थितियों में प्राप्त या बनाया गया था जिसमें व्यक्ति को पता था या उचित रूप से जानता था कि पहचान योग्य व्यक्ति को गोपनीयता की उचित अपेक्षा थी;

“(ii) जो दिखाया गया है वह एक सार्वजनिक या व्यावसायिक सेटिंग में पहचान योग्य व्यक्ति द्वारा स्वेच्छा से उजागर नहीं किया गया था;

“(iii) जो दिखाया गया है वह एक सार्वजनिक चिंता का विषय नहीं है; और

“(iv) प्रकाशन –

“(I) पहचान योग्य व्यक्ति को नुकसान पहुंचाने के इरादे से किया जाता है; या

“(II) पहचान योग्य व्यक्ति को नुकसान पहुंचाता है, जिसमें मनोवैज्ञानिक, वित्तीय या प्रतिष्ठा नुकसान शामिल है।

यहाँ लागू की गई ‘गोपनीयता की उचित अपेक्षा’ स्थिति ने पारंपरिक रूप से सेलिब्रिटी के अधिकारों को पक्ष में नहीं दिया है। मामले के कानून के आधार पर जो अंततः उभरेगा, यह संभव है कि सार्वजनिक या व्यावसायिक सेटिंग्स में सार्वजनिक हस्तियों को शामिल करने वाली स्पष्ट एआई-जनित सामग्री भी अधिनियम के प्रतिबंधों के तहत नहीं आ सकती है।

हानि की सीमा के बारे में अंतिम खंड कानूनी रूप से लोचदार है, और इस अर्थ में, यह कानूनी बोझ में कुछ नया जोड़ता है। हालांकि, हानि पैदा करने का इरादा अधिनियम के दायरे को ‘बदला पोर्न’ के संदर्भ में सीमित करता है, जहां एक (अज्ञात) पूर्व साथी वास्तविक या नकली मीडिया सामग्री को प्रकाशित करता है एक अन्य (समान रूप से अज्ञात) पूर्व साथी की।

जबकि कानून की ‘हानि’ आवश्यकता एनोनिमस उपयोगकर्ताओं द्वारा सार्वजनिक हस्तियों के एआई-जनित चित्रण पोस्ट करने के मामलों में उपयुक्त प्रतीत हो सकती है, यह उत्पीड़न के दृश्यों में अधिक प्रासंगिक साबित हो सकता है, जहां एक व्यापक उत्पीड़न पैटर्न एक व्यक्ति को एक सार्वजनिक हस्ती को कई मोर्चों पर जानबूझकर और दुर्भावनापूर्ण तरीके से लक्षित करने का निष्कर्ष निकालता है।

हालांकि अधिनियम का ‘कवर्ड प्लेटफ़ॉर्म’ के संदर्भ में तakedown प्रावधान सिग्नल या ईमेल जैसे निजी चैनलों को बाहर करता है, यह केवल तakedown तंत्र को लागू करने के लिए एक वर्ष की समय सीमा के भीतर लागू होता है। यह गैर-सहमति वाली एआई या वास्तविक चित्रण को निजी संचार के माध्यम से साझा करने से नहीं रोकता है।

स्पष्ट रूप से, निजी चैनलों में रिपोर्टिंग तंत्र की कमी प्रभावित पक्षों को पुलिस को अब अवैध मानी जाने वाली सामग्री की रिपोर्ट करने से नहीं रोकती है; न ही वे साइट द्वारा उपलब्ध कराए गए पारंपरिक संपर्क तरीकों का उपयोग करके शिकायत दर्ज करने और आपत्तिजनक सामग्री को हटाने का अनुरोध करने से रोकते हैं।

पीछे छोड़े गए अधिकार

एआई-जनित सामग्री के बारे में सात साल से अधिक समय से बढ़ती सार्वजनिक और मीडिया आलोचना एक असामान्य रूप से छोटी अवधि में परिणत हुई है। हालांकि, जबकि टेक इट डाउन अधिनियम संघीय प्रतिबंध प्रदान करता है, यह हर मामले में लागू नहीं हो सकता है जिसमें एआई-जनित सिमुलेशन शामिल हैं, जिससे कुछ परिदृश्य राज्य स्तर पर गहराई से डीपफेक कानून के बढ़ते पैचवर्क द्वारा संबोधित किए जाते हैं, जहां पारित कानून अक्सर ‘स्थानीय हित’ को प्रतिबिंबित करते हैं।

उदाहरण के लिए, कैलिफोर्निया में, कैलिफोर्निया सेलिब्रिटी अधिकार अधिनियम सेलिब्रिटी की पहचान के विशेष उपयोग को स्वयं और उनके एस्टेट तक सीमित करता है, यहां तक कि उनकी मृत्यु के बाद भी; इसके विपरीत, टेनेसी का एल्विस अधिनियम संगीतकारों को अनधिकृत एआई-जनित आवाज और छवि प्रतिकृतियों से बचाता है, प्रत्येक मामले में राज्य स्तर पर प्रमुख हित समूहों के लिए एक लक्षित दृष्टिकोण को दर्शाता है।

अधिकांश राज्यों में अब कानून हैं जो यौन डीपफेक्स पर लक्षित हैं, हालांकि कई निजी व्यक्तियों और सार्वजनिक हस्तियों दोनों के लिए सुरक्षा के विस्तार को स्पष्ट नहीं करते हैं। इस बीच, राजनीतिक डीपफेक्स जो कथित तौर पर डोनाल्ड ट्रंप के नए कानून के लिए समर्थन को प्रेरित करते हैं, वास्तविक अभ्यास में संवैधानिक बाधाओं का सामना कर सकते हैं कुछ संदर्भों में।

^† संग्रहीत संस्करण: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† संग्रहीत संस्करण (मासिक मूल्य सूची नहीं): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* सिविटीएआई में सीईओ के वास्तविक ‘मुख्य कर्मचारी’ को लिंक्डइन पर एक असंबंधित नाम के तहत सूचीबद्ध किया गया है, जबकि समान ध्वनि वाला ‘फेइया’ सिविटीएआई के सबरेडिट में एक आधिकारिक स्टाफ मॉडरेटर है।

पहली बार मंगलवार, 20 मई, 2025 को प्रकाशित