CivitAI Își Întărește Regulile pentru Deepfake sub Presiunea Mastercard și Visa

CivitAI, probabil cel mai popular depozit de modele AI de pe internet, a cedat în sfârșit presiunii exercitate de facilitatorii de plăți MasterCard și Visa pentru a-și revizui radical politicile privind conținutul NSFW – și, în special, TOS-ul său referitor la LoRAs de celebrități, unul dintre cele mai populare fluxuri de conținut încărcat de utilizatori pe site, care permite oamenilor să utilizeze modele auxiliare gratuite, cum ar fi LoRAs, pentru a crea reprezentări AI (inclusiv reprezentări video) ale persoanelor cunoscute.

Apăsați pentru a juca. Deși Civit nu oferă cifre exacte (și etichetarea greșită sau categorisirea greșită nu este neobișnuită, ceea ce ar distorsiona cifrele), numărul de modele AI de celebrități, în principal LoRAs, este clar în sute sau chiar mii, și este clar dominat de subiecte feminine. Source: civitai.com

În mod evident, funcționând sub presiune într-un stream live pe Twitch** în numele companiei, managerul de implicare a comunității Alasdair Nicoll, el însuși un creator de modele (SFW) la Civit, a admis că schimbările au fost impuse site-ului de către procesatorii de plăți, care sunt îngrijorați de conținutul pentru adulți și de reprezentarea persoanelor reale. El a admis, de asemenea, probabilitatea ca principalele forțe care stau în spatele acestor procesatori, Visa și MasterCard, să ceară schimbări și mai mari în viitor:

‘Acestea nu sunt schimbări pe care am vrut să le facem. Acest lucru se reduce la legislația nouă și iminentă. Există legi privind deepfake-urile, există legi privind pornografia AI… procesatorii de plăți și, în cele din urmă, Visa și MasterCard sunt speriați; nu vor să fie dați în judecată și, în cele din urmă, sunt cei care impun aceste schimbări.

‘Unele dintre celelalte opțiuni pe care le-am primit au fost înlăturarea conținutului NSFW; înlăturarea conținutului X și triple-X de pe CivitAI și pe o platformă complet nouă, și apoi blocarea geografică a acestei platforme, deoarece peste jumătate din statele americane necesită o formă de blocare geografică a conținutului pentru adulți, [precum și] multe țări asiatice și Regatul Unit…

‘A treia opțiune a fost trecerea la plăți criptografice, plăți criptografice numai… deci nu existau opțiuni bune pentru aceasta.’

Domeniul Civit a fost închis periodic pentru revizuiri în ultimele zile, aparent pentru a pune în aplicare schimbările. Deși site-ul a interzis deja utilizarea temelor NSFW în reprezentările de celebrități LoRA/model, acum este imposibil să navigați prin secțiunea de modele a Civit și să vedeți previzualizări de modele LoRA de celebrități lângă numărul foarte mare de modele NSFW generice proiectate pentru a produce conținut pentru adulți.

Anunțul oficial stipulează:

‘Conținutul etichetat cu nume de persoane reale (cum ar fi “Tom Cruise”) sau marcat ca resurse de persoane reale va fi ascuns din fluxuri.’

În sesiunea Twitch, Nicoll a dezvăluit detalii suplimentare despre măsurile destinate să protejeze persoanele celebre și persoanele reale. Civit a permis întotdeauna persoanelor reale să ceară înlăturarea unui model AI care le reprezintă, găzduit de Civit, dar acum Nicoll face aluzie la un sistem care poate preveni reîncărcarea unor astfel de imagini după respingerea inițială, cu facilități pentru a identifica o “persoană protejată” chiar și în imagini pe care sistemul nu le-a văzut niciodată.

Pentru a atinge acest obiectiv, site-ul se asociază acum cu sistemul de moderare AI Clavata – deși nu se știe încă în ce măsură Clavata va fi implicată în aceste noi facilități.

Nicoll a spus:

‘Tom Hanks și-a revendicat asemănarea de la noi, de exemplu. Multe actrițe pentru adulți au făcut acest lucru; multe actrițe și actori de top au…

‘Cred că primul care a făcut acest lucru a fost Barbara Eden, moștenitorii ei* – ea a fost una dintre primele care și-a revendicat asemănarea, ceea ce este destul de amuzant, deoarece ea este bătrână.’

Protejat prin Definiție?

În ultimii doi ani, compania de efecte vizuale AI Metaphysic (cu toate că am lucrat pentru Metaphysic.ai din începutul anului 2022 până la sfârșitul anului 2024) a încercat să creeze un sistem propriu care să permită oricui să-și înregistreze propria asemănare, în primul rând destinat numelor de la Hollywood preocupate de hijacking-ul identității lor de către AI, cu sprijinul unor actori cum ar fi Anne Hathaway, Octavia Spencer și Tom Hanks (cu care compania a lucrat la filmul lui Robert Zemeckis Aici [2024]).

Logic, utilitatea sistemului ar fi depins întotdeauna de legislația din cazurile concrete; pe baza măsurilor pe care Civit este acum forțat să le ia, serviciul bazat pe abonament^† propus de Metaphysic ar putea fi redundant în fața creșterii rapide a legilor privind deepfake-urile și a posibilei (gratuite) acoperiri în temeiul legii comune. Nu se știe în prezent dacă oferta Metaphysic Pro va fi transferată către compania Double Negative VFX, care a achiziționat activele Metaphysic anul trecut.

În orice caz, pare tot mai mult că legislația globală și presiunile generale ale pieței sunt mai probabil să ofere protecție și remedii, în loc de soluții comerciale de acest fel.

Înecarea Într-Un Pot

Un raport din 2023 al 404 Media a atras atenția asupra tendinței de a utiliza modele de celebrități și porno AI la Civit, deși fondatorul site-ului, Justin Maier, a minimalizat legătura dintre asemănările de celebrități încărcate de utilizatori și utilizarea lor în generarea de material pornografic.

Deși Civit obține venituri prin facilitarea utilizării pe site a LoRAs și a altor modele furnizate de utilizatori, Nicoll este clar că acesta nu este principalul motiv care îi determină pe Visa și MasterCard să stipuleze schimbări pe site, astfel încât acesta să poată continua să fie monetizat:

‘Unii oameni spun că motivul pentru care suntem în această situație este că permitem generarea. Acest lucru nu are legătură. Găzduirea acestor modele, găzduirea acestui conținut, este suficient pentru a atrage atenția lui Sauron.’

Discuțiile din comunitate au remarcat în ultimii ani că Civit a fost permis să găzduiască asemănări de celebrități. Conștienți de posibilitatea, poate inevitabilitatea unei crize, o serie de inițiative pentru a păstra LoRAs, fie eliminate de Civit, fie de încărcătorii lor, au fost propuse sau implementate, inclusiv subreddit-ul r/CivitaiArchives, care a fost până acum destul de neglijat.

Deși mulți au sugerat că o inițiativă bazată pe torrent este soluția naturală, nu pare să fi apărut încă un domeniu bine urmărit – și, în orice caz, acest lucru pare să mute activitatea interzisă la Civit și în alte locuri către marginile exterioare ale internetului; către grădini închise; și, cel mai probabil, către dark net, deoarece majoritatea cadrului care ar putea găzdui LoRAs de asemănare interzise (cum ar fi Reddit și Discord) fie interzic deja un astfel de conținut, fie par să interzică în curând.

În acest moment, LoRAs de celebrități pot fi încă văzute cu anumite restricții la Civit, deși majoritatea conținutului generat a fost eliminat din listă și va fi exclus din descoperirea casuală. Ceea ce pare probabil, a sugerat un comentator lui Nicoll în sesiunea Twitch, este că criza se va adânci (probabil până la interzicerea tuturor asemănărilor de persoane reale în modele încărcate sau reprezentări).

Nicoll a răspuns:

‘”Nu se vor opri aici, vor cere mai mult și mai mult” – absolut! Da, absolut. Acesta este pur și simplu lumea în care trăim. Singura noastră speranță este să devenim suficient de mari și puternici pentru a avea un cuvânt mai mare în ceea ce ne este dictat […]

Dezgustat de alternativele oferite Civit, Nicoll a adăugat:

‘[…] Nimeni nu va cumpăra Bitcoin pentru a utiliza generatorul CivitAI. Deci am încercat să facem acest lucru cât mai plăcut posibil, și acesta este rezultatul. Deci, îmi cer scuze dacă acesta este ceva pe care pur și simplu nu îl puteți suporta, dar, din nefericire, acesta este ceea ce este. Am făcut tot ce am putut, am împins înapoi cât am putut, dar, în cele din urmă, ne-a fost spus că acesta este sfârșitul […]

‘[…] Aceste instituții financiare nu înțeleg ce fac oamenii aici cu el. Am încercat să le explicăm, am încercat să vorbim cu ei, dar suntem practic ultima redută a conținutului NSFW.

Nicoll a spus că Civit a contactat ‘toți procesatorii de plăți imaginabili:

‘Chiar și procesorii de plăți de risc ridicat pe care îi utilizează site-urile pentru adulți sunt foarte precauți cu conținutul AI. Acesta este problema – conținutul AI. Dacă am fi un site tradițional de porno, am fi ok, dar conținutul AI este ceea ce îi sperie.’

Unde Mai Departe?

Înainte de acest anunț, Civit a fost observat eliminând încărcări care intră sub unele dintre categoriile și tipurile de conținut care sunt acum interzise. La momentul scrierii, un “repositoriu de urgență” pentru LoRAs Wan 2.1 a fost stabilit pe site-ul Hugging Face. Deși unele dintre LoRAs arhivate aici sunt proiectate pentru a facilita activități sexuale generale care sunt slab antrenate sau lipsesc în noi modele video, cum ar fi Wan 2.1, mai multe dintre ele intră sub categoria strict interzisă “dezbrăcare” (adică “nudificare”), inclusiv unele modele care ar putea fi considerate “extreme” sau manifest potențial ofensatoare.

Subreddit-ul r/datahoarders, care a fost în fruntea păstrării literaturii online a guvernului american sub administrația lui Donald Trump, a arătat până acum dispreț pentru ideea de a salva conținutul pierdut de la CivitAI.

În literatură, facilitarea ușoară de către CivitAI a generării de conținut NSFW AI nu a trecut neobservată. Cu toate acestea, una dintre cele mai citate studii, articolul Explorarea utilizării modelelor de generare AI abuzive pe Civitai din 2024, este împiedicat de faptul că Civit nu a permis generarea de celebrități sau de conținut ilegal AI până în prezent și de hotărârea cercetătorilor de a-și găsi dovezi la Civit însuși.

În mod evident, însă, ceea ce îi preocupă pe procesatorii de plăți nu este ceea ce se produce cu LoRAs pe Civit însuși, sau ceea ce este publicat acolo, ci ceea ce se face cu aceste modele în alte comunități care sunt închise sau mai puțin reglementate.

Site-ul Mr. Deepfakes, care a fost sinonim cu metoda autoencoder de deepfaking NSFW, până la apariția Stable Diffusion și a modelelor bazate pe difuzie în 2022, a început recent să posteze exemple de videoclipuri pornografice cu celebrități, utilizând ultima undă de generatoare de text la video și de imagine la video, inclusiv Hunyuan Video și Wan 2.1 – ambele lansări foarte recente, a căror influență este în curs de dezvoltare și care par să atragă titluri incendiare pe parcursul acestui an.

Metadate Obligatorii

O schimbare interesantă care pare să fie cerută de procesatorii de plăți, potrivit lui Nicoll, este că toate imaginile de pe site trebuie să conțină metadate. Atunci când o imagine sau un videoclip este produs de un model generativ într-un flux de lucru tipic pe o platformă precum ComfyUI, ieșirea conține în general metadate care listează modelul utilizat (hash-ul său, precum și numele său, astfel încât, în cazul în care modelul este redenumit de un utilizator, proveniența sa să rămână clară) și multiple alte setări.

Deoarece aceste puncte de date ascunse despre modul în care a fost creată imaginea permit utilizatorilor să tragă un videoclip sau o imagine făcută de altcineva în fluxul de lucru ComfyUI și să recrieze întregul flux, și să adreseze orice dependențe lipsă (cum ar fi modele sau componente pe care creatorul original le-a avut, și pe care utilizatorul va trebui să le localizeze și să le descarce).

Orice imagine sau generare de videoclip lipsită de astfel de date va fi ștearsă, a anunțat Civit, în termen de treizeci de zile. Utilizatorii pot adăuga astfel de date manual, introducându-le pe site-ul Civit însuși.

Deoarece valoarea metadatelor este (presupunând) doar probatorie, această stipulare pare destul de inutilă; este trivial să copiați și să lipiți metadate de la un fișier la altul, și inventarea ad-hoc a metadatelor prin intermediul unui formular web face ca această nouă regulă să fie puțin uluitoare.

Cu toate acestea, mai mulți utilizatori (inclusiv unul care a comentat în sesiunea Twitch) au mii de imagini încărcate pe Civit. Singura lor soluție acum este să le anoteze manual pe fiecare, sau să le șteargă și să le reîncarce cu metadate adăugate – ceea ce va șterge orice “like”-uri sau “buzz” sau conversații pe care imaginile originale le-au generat.

Noile Reguli

Iată schimbările rezumate aplicabile la Civit de astăzi:

• Conținutul etichetat cu nume de persoane reale sau marcat ca resurse de persoane reale nu va mai apărea în fluxuri publice.
• Conținutul cu teme de copii/minori va fi filtrat din fluxuri.
• Conținutul cu rating X și XXX care lipsește metadatele de generare va fi ascuns din vedere publică și marcat cu un avertisment, permițând încărcătorului să adauge detaliile lipsă. Un astfel de conținut nu va fi șters, dar va rămâne vizibil numai pentru creatorul său până când va fi actualizat.
• Imaginile create folosind funcția Bring Your Own Image (BYOI) trebuie să aplice acum o alterare a zgomotului de cel puțin 50% în timpul generării. Acest lucru înseamnă că AI trebuie să modifice semnificativ imaginea încărcată, reducând șansa de a genera copii aproape identice. Cu toate acestea, imaginile create în întregime pe CivitAI sau remixate din alte conținuturi CivitAI nu sunt supuse acestei reguli și pot utiliza orice nivel de zgomot, de la nicio schimbare (0,0) la transformare completă (1,0). Această schimbare este destinată să reducă abuzul de unelte BYOI, care ar putea altfel fi utilizate pentru a produce deepfakes subtile sau nedetectabile, modificând ușor imagini reale.
• Când navigați cu conținut X sau XXX activat, căutările pentru nume de celebrități nu vor returna rezultate. Combinarea numelor de celebrități cu conținut pentru adulți rămâne interzisă.
• Reclamele nu vor apărea pe imagini sau resurse proiectate pentru a replica aspectul persoanelor reale.
• Funcția de “tipping” (Buzz) va fi dezactivată pentru imagini sau resurse care reprezintă persoane reale.
• Modelele proiectate pentru a replica persoane reale nu vor fi eligibile pentru Early Access, o funcție Civitai care permite creatorilor să lanseze conținut mai întâi pentru susținătorii plătitori. Acest lucru limitează monetizarea asemănărilor de celebrități sau a persoanelor reale.
• A fost adăugată o Declarație de conformitate 2257 pentru a clarifica că platforma nu permite niciun conținut generat non-AI. Acest lucru ajută la asigurarea protecției legale, afirmând că toate materialele explicite sunt sintetice și nu se bazează pe fotografii sau videoclipuri reale.
• A fost introdusă o nouă pagină de solicitare a ștergerii conținutului care permite oricui să raporteze conținut abuziv sau ilegal fără a fi nevoie să se autentifice. Utilizatorii înregistrați ar trebui să continue să utilizeze instrumentele de raportare integrate în fiecare post. Acesta este separat de formularul existent pentru solicitarea ștergerii unei asemănări de pe platformă.
• CivitAI a introdus un nou sistem de moderare prin parteneriat cu Clavata, ale cărui unelte de analiză a imaginilor au depășit soluții anterioare, cum ar fi Amazon Rekognition și Hive.

** Începând cu marți, 20 mai 2025, 11:23:47 (s-ar putea să fi fost eliminat mai devreme), stream-ul live Twitch a fost eliminat. Pentru a mă asigura că pot verifica faptele raportate în stream, păstrez o copie.

* În ciuda menționării “moștenitorilor” lui Barbara Eden, actrița din “Visătorul de pe plajă” este încă în viață, în vârstă de 93 de ani.
^† Arhivat: https://archive.ph/tsMb0

Publicat pentru prima dată joi, 24 aprilie 202. Revizuit joi, 24 aprilie 2025, 14:32:28: corectat date. Modificat marți, 20 mai 2025, pentru a reflecta eliminarea conținutului Twitch utilizat ca material de referință.