CivitAI ने मास्टरकार्ड और वीजा के दबाव में डीपफेक नियमों को कस दिया है

CivitAI, संभवतः इंटरनेट पर सबसे लोकप्रिय AI मॉडल रिपॉजिटरी, ने आखिरकार मास्टरकार्ड और वीजा जैसे भुगतान सुविधा प्रदाताओं के दबाव में अपनी एनएसएफडब्ल्यू सामग्री – और विशेष रूप से अपने टीओएस के बारे में अपनी नीतियों को радिकally संशोधित करने के लिए सहमति व्यक्त की है, जो साइट की सबसे लोकप्रिय उपयोगकर्ता-सबमिट की गई सामग्री धाराओं में से एक है, जो लोगों को मुफ्त में डाउनलोड करने योग्य सहायक मॉडल जैसे LoRAs का उपयोग करके प्रसिद्ध लोगों के एआई चित्रण (包括 वीडियो चित्रण) बनाने में सक्षम बनाता है।

प्ले करने के लिए क्लिक करें। हालांकि Civit विशिष्ट आंकड़े प्रदान नहीं करता है (और गलत लेबलिंग/मिस्कैटेगराइजिंग असामान्य नहीं है, जो आंकड़ों को प्रभावित कर सकता है), प्रसिद्ध व्यक्ति एआई मॉडलों की संख्या, मुख्य रूप से LoRAs, स्पष्ट रूप से सैकड़ों या thậm chí हजारों में है, और स्पष्ट रूप से महिला विषयों द्वारा प्रभुत्व है। स्रोत: civitai.com

स्पष्ट रूप से दबाव में काम करते हुए, कंपनी के समुदाय संलग्नक प्रबंधक अलास्डेयर निकोल, जो खुद Civit में (एसएफडब्ल्यू) मॉडल के निर्माता हैं, ने स्वीकार किया कि परिवर्तन भुगतान प्रोसेसर्स के चिंताओं के कारण साइट पर थोपे गए हैं जो वयस्क सामग्री और वास्तविक लोगों के चित्रण के बारे में हैं। वह यह भी स्वीकार करता है कि प्रोसेसर्स के पीछे की प्राथमिक शक्तियां, वीजा और मास्टरकार्ड, संभवतः भविष्य में और अधिक परिवर्तनों की मांग करेंगी:

‘यह परिवर्तन हमने करने के लिए नहीं चुने हैं। यह नए और आगामी कानूनों के बारे में है। डीपफेक कानून हैं, एआई पोर्न कानून हैं… भुगतान प्रोसेसर, और अंततः वीजा और मास्टरकार्ड डरे हुए हैं; वे मुकदमा नहीं करना चाहते हैं, और वे अंततः इन परिवर्तनों को चला रहे हैं।

‘हमें दिए गए अन्य विकल्पों में से एक यह था कि हम नॉट-सेफ-फॉर-वर्क को पूरी तरह से हटा दें; एक्स और ट्रिपल-एक्स सामग्री को CivitAI से हटा दें और इसे एकpletely नए प्लेटफ़ॉर्म पर ले जाएं, और फिर उस प्लेटफ़ॉर्म को जियो-ब्लॉक कर दें, क्योंकि अमेरिका के अधिकांश राज्यों में कुछ प्रकार के पोर्न जियो-ब्लॉकिंग की आवश्यकता होती है, [साथ ही] कई एशियाई देशों और यूनाइटेड किंगडम में…

‘तीसरा विकल्प यह था कि हम पूरी तरह से क्रिप्टो में जाएं, क्रिप्टो भुगतान केवल… तो कोई अच्छा विकल्प नहीं था।’

Civit डोमेन पिछले कुछ दिनों में आवर्ती रूप से संशोधनों के लिए नीचे रहा है, जाहिर तौर पर परिवर्तनों को लागू करने के लिए। हालांकि साइट ने पहले से ही सेलिब्रिटी LoRA/मॉडल चित्रण में एनएसएफडब्ल्यू थीम का उपयोग करने पर प्रतिबंध लगा दिया था, अब यह असंभव है कि Civit के मॉडल अनुभाग को ब्राउज़ किया जाए और सेलिब्रिटी LoRA पूर्वावलोकन को बहुत बड़ी संख्या में जेनेरिक एनएसएफडब्ल्यू मॉडल के साथ देखा जाए जो परिपक्व सामग्री का उत्पादन करने के लिए डिज़ाइन किए गए हैं।

आधिकारिक घोषणा में कहा गया है:

‘वास्तविक व्यक्ति नामों (जैसे “टॉम क्रूज”) या वास्तविक व्यक्ति संसाधनों के रूप में चिह्नित सामग्री को फीड से छुपाया जाएगा।’

ट्विच सत्र में, निकोल ने प्रसिद्ध व्यक्तियों और वास्तविक लोगों की सुरक्षा के लिए डिज़ाइन किए गए उपायों के बारे में और विवरण प्रकट किए। Civit ने हमेशा वास्तविक लोगों को अनुमति दी है कि वे Civit-होस्ट किए गए एआई मॉडल को हटाने के लिए अनुरोध करें जो उन्हें चित्रित करता है, लेकिन अब निकोल एक प्रणाली का संकेत देता है जो ऐसी छवियों को पुनः अपलोड होने से रोक सकता है जो पहले से ही अस्वीकार कर दी गई हैं, जिसमें एक ‘संरक्षित’ व्यक्ति की पहचान करने की सुविधा है जिसे पहले देखी गई छवियों में भी पहचाना जा सकता है।

इस उद्देश्य के लिए, साइट अब Clavata AI मॉडरेशन सिस्टम के साथ साझेदारी कर रही है – हालांकि इन नए सुविधाओं को शक्तिशाली बनाने में Clavata की भूमिका अभी तक स्पष्ट नहीं है।

निकोल ने कहा:

‘टॉम हैंक्स ने हमसे अपनी समानता दावा की है, उदाहरण के लिए। बहुत सारे वयस्क अभिनेत्रियों ने; बहुत सारे ए-लिस्ट अभिनेता और अभिनेत्रियों ने…’

‘मुझे लगता है कि पहली बार जब हमें यह मिला था वह बारबरा एडेन, उनकी संपत्ति* – वह पहली व्यक्ति थीं जिन्होंने अपनी समानता दावा की थी, जो थोड़ी मजाकिया है, क्योंकि वह बूढ़ी हैं।’

डिफ़ॉल्ट रूप से संरक्षित?

पिछले कुछ वर्षों में, एआई वीएफएक्स कंपनी मेटाफिजिक (पूर्ण खुलासा: मैं मेटाफिजिक.एआई के लिए 2022 की शुरुआत से 2024 के अंत तक काम करता था) ने एक एक प्रोप्राइटरी सिस्टम बनाने का प्रयास किया था जो किसी को भी अपनी समानता पंजीकृत करने की अनुमति देगा, हालांकि मुख्य रूप से हॉलीवुड नामों के लिए चिंतित थे जो अपनी पहचान के एआई-आधारित अपहरण के बारे में चिंतित थे, जिसमें अभिनेताओं जैसे एएन हैथवे, ऑक्टेविया स्पेंसर और टॉम हैंक्स (जिनके साथ कंपनी ने यहाँ [2024] पर रॉबर्ट जेमेकिस के साथ काम किया था) का समर्थन किया गया था।

तार्किक रूप से, प्रणाली की उपयोगिता हमेशा मामला कानून पर निर्भर करेगी; Civit द्वारा अब लिए जा रहे उपायों के आधार पर, मेटाफिजिक द्वारा प्रस्तावित सब्सक्रिप्शन-आधारित सेवा^† डीपफेक कानूनों के तेजी से विकास और संभावित (मुफ्त) कवरेज के तहत सामान्य कानून का सामना करने में अप्रासंगिक हो सकता है। यह अभी तक ज्ञात नहीं है कि मेटाफिजिक प्रो ऑफर डबल नेगेटिव वीएफएक्स कंपनी में स्थानांतरित होगा या नहीं, जिसने पिछले साल मेटाफिजिक की संपत्ति हासिल की थी।

किसी भी मामले में, यह बढ़ती तरह से लगता है कि वैश्विक कानून और सामान्य बाजार दबाव अधिक संभावना है कि सुरक्षा और उपचार प्रदान करेगा, व्यावसायिक समाधानों के बजाय।

मेंढ़क को उबालना

2023 की एक रिपोर्ट में 404 मीडिया ध्यान आकर्षित किया Civit में सेलिब्रिटी और पोर्न एआई मॉडल की प्रवृत्ति के लिए, हालांकि साइट के संस्थापक जस्टिन मायर कम महत्व देते हैं उपयोगकर्ता-सबमिट की गई सेलिब्रिटी समानता और उनके उपयोग के बीच संबंध को पोर्नोग्राफिक सामग्री के निर्माण में।

हालांकि Civit LoRAs और अन्य उपयोगकर्ता-सबमिट की गई मॉडल के ऑन-साइट उपयोग को सुविधाजनक बनाकर पैसा कमाता है, निकोल स्पष्ट है कि यह मुख्य चिंता नहीं है जो वीजा और मास्टरकार्ड को साइट में परिवर्तनों को निर्दिष्ट करने के लिए प्रेरित करता है, ताकि यह मोनेटाइज़ किया जा सके:

‘कुछ लोग कह रहे हैं कि हम इस मुश्किल में हैं क्योंकि हम जेनरेशन की अनुमति देते हैं। यह इसमें नहीं आता है। इन मॉडलों की मेजबानी, इस सामग्री की मेजबानी, पर्याप्त है सौरोन की नजर को आकर्षित करने के लिए।’

समुदाय की टिप्पणी धागे हाल के वर्षों में यह देखा गया है कि Civit को सेलिब्रिटी समानता होस्ट करने की अनुमति दी गई है। संभावित, शायद अपरिहार्य क्लैंपडाउन की संभावना के बारे में जागरूक, कई पहलों को प्रस्तावित या लागू किया गया है ताकि LoRAs को संरक्षित किया जा सके जिन्हें Civit या उनके अपलोडर्स द्वारा हटा दिया गया है, जिसमें r/CivitaiArchives सबरेडिट शामिल है।

हालांकि कई लोगों ने सुझाव दिया है कि एक टोरेंट-आधारित पहल एक प्राकृतिक समाधान है, कोई भी अच्छी तरह से अनुसरण किया जाने वाला डोमेन अभी तक नहीं उभरा है – और किसी भी मामले में, यह स्पष्ट रूप से लगता है कि Civit और अन्य जगहों पर प्रतिबंधित गतिविधि को इंटरनेट के बाहरी इलाकों में ले जाने के लिए, वॉल्ड गार्डन में; और सबसे अधिक संभावना है, डार्क नेट में, क्योंकि अधिकांश फ्रेमवर्क जो प्रतिबंधित समानता LoRAs (जैसे रेडिट और डिस्कॉर्ड) को समायोजित कर सकते हैं या तो पहले से ही ऐसी सामग्री पर प्रतिबंध लगा दिया है या शीघ्र ही प्रतिबंध लगाने की संभावना है।

वर्तमान में, सेलिब्रिटी LoRAs को कुछ प्रतिबंधों के साथ Civit में देखा जा सकता है, हालांकि अधिकांश उत्पन्न सामग्री को डी-लिस्ट किया गया है और आकस्मिक खोज से बाहर रखा जाएगा। जो लगता है कि संभावित है, एक टिप्पणीकार ने निकोल से ट्विच सत्र में सुझाव दिया है, यह है कि क्रैकडाउन गहरा हो जाएगा (संभवतः वास्तविक लोगों के सभी समानता को हटाने की सीमा तक जो अपलोड किए गए मॉडल या चित्रण में हैं)।

निकोल ने उत्तर दिया:

‘वे यहाँ नहीं रुकेंगे, वे और अधिक और अधिक मांगेंगे’ – बिल्कुल! हाँ, बिल्कुल। यह बस दुनिया है जिसमें हम रहते हैं। एकमात्र आशा है कि हम बड़े और शक्तिशाली enough हो जाएं कि हमें जो दिया जा रहा है उसमें थोड़ा और कहने को मिलेगा…

Civit को दिए गए विकल्पों से निराश, निकोल ने जोड़ा:

‘… कोई भी बिटकॉइन खरीदने के लिए CivitAI जनरेटर का उपयोग नहीं करेगा। इसलिए हमने इसे यथासंभव पालेटेबल बनाने की कोशिश की है, और यही हमारे पास है। इसलिए, माफ़ कीजिये अगर यह कुछ ऐसा है जिसे आप सहन नहीं कर सकते हैं, लेकिन दुर्भाग्य से यही है – आपको यह करना होगा या यह अंत होगा…

‘… ये वित्तीय संस्थान, वे नहीं समझते हैं कि लोग यहाँ इसके साथ क्या कर रहे हैं। हमने उनसे बात करने की कोशिश की है, हमने उनसे बात करने की कोशिश की है, लेकिन हम वास्तव में [एनएसएफडब्ल्यू] सामग्री के अंतिम बастиون हैं।

निकोल ने कहा कि Civit ने ‘हर भुगतान प्रोसेसर के साथ संपर्क किया है:

‘यहां तक कि पोर्न साइटों द्वारा उपयोग किए जाने वाले उच्च-जोखिम वाले भुगतान प्रोसेसर भी बहुत सावधान हैं – यह एआई सामग्री है। यदि हम एक पारंपरिक पोर्न साइट होते, तो हम ठीक होते, लेकिन एआई सामग्री है जिससे वे डरते हैं।’

आगे क्या?

इस घोषणा से पहले, Civit को कुछ श्रेणियों और सामग्री के प्रकारों को हटाते हुए देखा गया था जो अब प्रतिबंधित हैं। लेखन के समय, Wan 2.1 LoRAs के लिए एक ‘आपातकालीन भंडार’ Hugging Face वेबसाइट पर स्थापित किया गया है। हालांकि वहां संग्रहीत किए गए LoRAs में से कुछ सामान्य यौन गतिविधियों को सुविधाजनक बनाने के लिए डिज़ाइन किए गए हैं जो नए वीडियो मॉडल जैसे Wan 2.1 में कम प्रशिक्षित या अनुपस्थित हैं, कई अन्य अब सख्ती से प्रतिबंधित ‘अनड्रेस’ श्रेणी (यानी, ‘न्यूडिफाइंग’) के तहत आते हैं, जिनमें कुछ मॉडल शामिल हैं जिन्हें ‘अत्यधिक’ या स्पष्ट रूप से संभावित रूप से अपमानजनक माना जा सकता है।

साहित्य में, CivitAI की एनएसएफडब्ल्यू एआई जेनरेशन की सुविधा नहीं गई है। हालांकि, सबसे अधिक उद्धृत अध्ययनों में से एक, 2024 का पेपर सिविटाई पर दुर्व्यवहार एआई मॉडल के उपयोग का अन्वेषण, इस तथ्य से बाधित है कि Civit ने अब तक सेलिब्रिटी या अवैध एआई जेनरेशन की अनुमति नहीं दी है, और शोधकर्ताओं के निर्णय से साक्ष्य खोजने के लिए Civit में ही है।

स्पष्ट रूप से, हालांकि, जो भुगतान प्रोसेसरों को चिंतित करता है वह यह नहीं है कि Civit में LoRAs के साथ क्या उत्पादित किया जा रहा है, या यहां क्या प्रकाशित किया जा रहा है, लेकिन यह कि अन्य समुदायों में क्या किया जा रहा है जो बंद हैं या सामान्य रूप से कम विनियमित हैं।

Mr. डीपफेक्स वेबसाइट, जो प्रचलित ऑटोएनकोडर-आधारित विधि के साथ जुड़ा हुआ था एनएसएफडब्ल्यू डीपफेकिंग के लिए, स्टेबल डिफ्यूजन और डिफ्यूजन-आधारित मॉडल के 2022 में आगमन तक, हाल ही में सेलिब-आधारित पोर्नोग्राफिक वीडियो के उदाहरण पोस्ट करना शुरू किया है जो नवीनतम पाठ-से-वीडियो और इमेज-से-वीडियो जनरेटर का उपयोग करते हैं, जिनमें हुन्युआन वीडियो और वान 2.1 शामिल हैं – दोनों बहुत ही हाल के रिलीज़ जिनका प्रभाव अभी तक नास्ट हो रहा है, लेकिन जो इस साल के दौरान अपने संबंधित समुदायों के विकास के दौरान विवादास्पद हेडलाइंस प्राप्त करने के लिए तैयार लगते हैं।

आवश्यक मेटाडेटा

एक दिलचस्प परिवर्तन जो भुगतान प्रोसेसर द्वारा मांगा जा रहा है, निकोल के अनुसार, यह है कि साइट पर सभी छवियों में मेटाडेटा होना चाहिए। जब एक जनरेटिव मॉडल द्वारा एक छवि या वीडियो एक टिपिकल वर्कफ्लो में उत्पन्न किया जाता है, तो आउटपुट में आमतौर पर मेटाडेटा होता है जो उपयोग किए गए मॉडल (इसके हैश के साथ-साथ इसका नाम, ताकि यदि उपयोगकर्ता द्वारा मॉडल को पुनः लेबल किया जाता है, तो इसका प्रोवेनेंस बना रहे) और कई अन्य सेटिंग्स को सूचीबद्ध करता है।

क्योंकि इन छुपी हुई डेटा बिंदुओं के कारण जो छवि बनाई गई है, उपयोगकर्ता ड्रैग कर सकते हैं एक वीडियो या छवि जो किसी और द्वारा बनाई गई है अपने स्वयं के ComfyUI वर्कफ्लो में और पूरे प्रवाह को पुनः बना सकते हैं, और किसी भी缺失 निर्भरताओं (जैसे मॉडल या घटक जो मूल रचनाकार के पास थे, जिन्हें उपयोगकर्ता को तब खोजना और डाउनलोड करना होगा) को संबोधित कर सकते हैं।

किसी भी छवि या वीडियो पीढ़ी में इस डेटा की अनुपस्थिति में, Civit ने घोषणा की है कि उन्हें 30 दिनों के भीतर हटा दिया जाएगा। उपयोगकर्ता मेटाडेटा जोड़ सकते हैं जो Civit वेबसाइट पर मैनुअल रूप से टाइप किया जा सकता है।

चूंकि मेटाडेटा का मूल्य (संभवतः) साक्ष्य है, यह स्टिप्युलेशन थोड़ा बेकार लगता है; यह मेटाडेटा को एक फ़ाइल से दूसरी फ़ाइल में कॉपी और पेस्ट करना आसान है, और एक वेब-फ़ॉर्म के माध्यम से मेटाडेटा का आविष्कार करना इस नए नियम को थोड़ा भ्रमित करने वाला बनाता है।

फिर भी, कई उपयोगकर्ताओं (जिनमें से एक ट्विच सत्र में टिप्पणी करता है) के पास Civit में अपलोड की गई हज़ारों छवियाँ हैं। उनका एकमात्र उपाय अब यह है कि वे उनमें से प्रत्येक को मैनुअल रूप से एनोटेट करें या उन्हें हटा दें और मेटाडेटा जोड़कर उनके संस्करणों को पुनः अपलोड करें – जो मूल छवियों द्वारा उत्पन्न किए गए ‘लाइक’ या ‘बज़’ या बातचीत को मिटा देगा।

नए नियम

यहाँ से Civit में लागू होने वाले परिवर्तनों का सारांश है:

• वास्तविक व्यक्तियों के नामों या वास्तविक व्यक्ति संसाधनों के रूप में चिह्नित सामग्री को सार्वजनिक फीड से छुपाया जाएगा।
• बच्चों/नाबालिगों के विषयों वाली सामग्री को फीड से फ़िल्टर किया जाएगा।
• एक्स और ट्रिपल-एक्स रेटेड सामग्री जो जेनरेशन मेटाडेटा की कमी है, को सार्वजनिक दृश्य से छुपाया जाएगा और एक चेतावनी के साथ चिह्नित किया जाएगा, जिससे अपलोडर को缺失 विवरण जोड़ने की अनुमति मिलेगी। ऐसी सामग्री को हटाया नहीं जाएगा, लेकिन तब तक दृश्यमान रहेगी जब तक कि अद्यतन नहीं किया जाता है, केवल इसके निर्माता के लिए।
• ब्रिंग योर ओन इमेज (BYOI) फीचर का उपयोग करके बनाई गई छवियों को अब कम से कम 50% शोर परिवर्तन लागू करना होगा। इसका अर्थ है कि एआई को अपलोड की गई छवि को काफी हद तक संशोधित करना होगा, जिससे वास्तविक व्यक्ति की लगभग समान प्रति बनाने की संभावना कम हो जाएगी। हालांकि, पूरी तरह से CivitAI पर बनाई गई छवियों या CivitAI सामग्री से रीमिक्स की गई छवियों के लिए यह नियम लागू नहीं होता है और वे किसी भी डीनोइज़ स्तर का उपयोग कर सकते हैं, शून्य से लेकर पूर्ण परिवर्तन तक। यह परिवर्तन BYOI टूल के दुरुपयोग को कम करने के लिए है, जिसका उपयोग वास्तविक छवियों को थोड़ा सा संशोधित करके सूक्ष्म या अदृश्य डीपफेक्स बनाने के लिए किया जा सकता है। न्यूनतम 50% परिवर्तन सुनिश्चित करता है कि एआई केवल एक वास्तविक फोटो को हल्के से संपादित नहीं कर रहा है।
• एक्स या ट्रिपल-एक्स सामग्री को सक्षम करने के साथ ब्राउज़ करते समय, सेलिब्रिटी नामों के लिए खोज परिणाम नहीं दिखाए जाएंगे। सेलिब्रिटी नामों को परिपक्व सामग्री के साथ जोड़ना अभी भी निषिद्ध है।
• वास्तविक व्यक्तियों की नकल करने वाली छवियों या संसाधनों पर विज्ञापन प्रदर्शित नहीं किए जाएंगे।
• वास्तविक व्यक्तियों को चित्रित करने वाली छवियों या संसाधनों के लिए टिपिंग (बज़) अक्षम कर दी जाएगी।
• वास्तविक लोगों की नकल करने वाले मॉडल अर्ली एक्सेस के लिए पात्र नहीं होंगे, जो एक Civitai सुविधा है जो निर्माताओं को भुगतान करने वाले समर्थकों के लिए सामग्री जारी करने की अनुमति देती है। यह वास्तविक व्यक्तियों की समानता के मोनेटाइजेशन को सीमित करता है।
• एक 2257 अनुपालन बयान जोड़ा गया है जो यह स्पष्ट करता है कि प्लेटफ़ॉर्म में कोई गैर-एआई-उत्पन्न सामग्री नहीं है। यह कानूनी सुरक्षा प्रदान करने में मदद करता है क्योंकि यह पुष्टि करता है कि सभी वयस्क सामग्री सिंथेटिक है और वास्तविक फोटोग्राफी या वीडियो पर आधारित नहीं है।
• एक नई सामग्री हटाने का अनुरोध पृष्ठ किसी को भी लॉग इन किए बिना दुर्भावनापूर्ण या अवैध सामग्री की रिपोर्ट करने की अनुमति देता है। पंजीकृत उपयोगकर्ताओं को प्रत्येक पोस्ट पर निर्मित रिपोर्टिंग टूल का उपयोग करना जारी रखना चाहिए। यह मंच से अपनी समानता हटाने के लिए मौजूदा फॉर्म से अलग है।
• CivitAI ने Clavata के साथ साझेदारी के माध्यम से एक नई मॉडरेशन प्रणाली पेश की है, जिसके छवि विश्लेषण टूल पिछले समाधानों जैसे अमेज़न रिकॉग्निशन और हाइव को पार कर गए हैं।

** मंगलवार, 20 मई, 2025 11:23:47 (यह पहले हो सकता है), ट्विच लाइव-स्ट्रीम को नीचे ले जा दिया गया है। तथ्यों की पुष्टि करने में मुझे सक्षम होने के लिए, मैं एक प्रतिलिपि बनाए रखता हूं।

* बारबरा एडेन की ‘संपत्ति’ का उल्लेख करने के बावजूद, मैं जीनी की ड्रीम ऑफ अभिनेत्री अभी भी जीवित हैं, वर्तमान में 93 वर्ष की आयु में।
^† संग्रहीत: https://archive.ph/tsMb0

पहली बार गुरुवार, 24 अप्रैल, 2025 को प्रकाशित। गुरुवार, 24 अप्रैल, 2025 14:32:28 को संशोधित: तारीखों में सुधार किया गया।
मंगलवार, 20 मई, 2025 को संशोधित किया गया ताकि ट्विच सामग्री को संदर्भ सामग्री के रूप में हटाने को प्रतिबिंबित किया जा सके।