CivitAI Își Întărește Regulile Legate de Deepfake În Contextul Presiunilor Exercitate de Mastercard și Visa

CivitAI, posibil cel mai popular repository de modele AI de pe internet, a cedat în cele din urmă presiunilor exercitate de facilitatorii de plăți MasterCard și Visa pentru a-și revizui radical politicile privind conținutul NSFW – și, în special, TOS-ul cu privire la LoRAs celebrităților, unul dintre cele mai populare fluxuri de conținut depuse de utilizatori pe site, care permit oamenilor să utilizeze modele adjuncte gratuite, cum ar fi LoRAs pentru a crea reprezentări AI (inclusiv reprezentări video) ale unor persoane cunoscute.

Apăsați pentru a reda. Deși Civit nu oferă cifre exacte (și etichetarea greșită sau încadrarea greșită nu este neobișnuită, ceea ce ar putea distorsiona cifrele), numărul de modele AI de celebrități, în principal LoRAs, este clar în sute sau chiar mii, și este clar dominat de subiecți feminini. Source: civitai.com

În mod evident, funcționând sub presiune într-un flux live pe Twitch** în numele companiei, managerul de implicare a comunității Alasdair Nicoll, el însuși un creator de modele (SFW) la Civit, a admis că modificările au fost impuse site-ului de către procesatorii de plăți, care sunt îngrijorați de conținutul pentru adulți și de reprezentarea persoanelor reale. El admite, de asemenea, probabilitatea ca forțele principale din spatele acestor procesatori, Visa și MasterCard, să ceară modificări și mai mari în viitor:

‘Acestea nu sunt modificări pe care le-am dorit. Acest lucru se reduce la legislația nouă și iminentă. Există legi despre deepfake, există legi despre pornografie AI… procesatorii de plăți și, în cele din urmă, Visa și MasterCard sunt speriați; nu vor să fie dați în judecată și, în cele din urmă, sunt cei care impun aceste modificări.

‘Unele dintre celelalte opțiuni pe care le-am avut erau înlăturarea conținutului NSFW în întregime; înlăturarea conținutului X și XXX de pe CivitAI și pe o platformă complet nouă, și apoi blocarea geografică a acestei platforme, deoarece peste jumătate din statele americane necesită o formă de blocare geografică a conținutului pentru adulți, [precum și] multe țări asiatice și Regatul Unit…

‘A treia opțiune era trecerea la plăți crypto, plăți doar cu criptomonede… așa că nu existau opțiuni bune pentru aceasta.’

Domeniul Civit a fost închis periodic pentru revizuiri în ultimele zile, aparent pentru a efectua modificările. Deși site-ul a interzis deja utilizarea temelor NSFW în reprezentările de celebrități LoRA/model, acum este imposibil să navigați în secțiunea de modele a Civit și să vedeți previzualizări de modele de celebrități LoRA lângă numărul foarte mare de modele NSFW generice proiectate pentru a produce conținut pentru adulți.

Anunțul oficial afirmă:

‘Conținutul etichetat cu nume de persoane reale (cum ar fi “Tom Cruise”) sau marcat ca resurse POI (persoane reale) va fi ascuns din fluxuri.’

În sesiunea Twitch, Nicoll a dezvăluit detalii suplimentare despre măsurile destinate să protejeze persoanele celebre și persoanele reale. Civit a permis întotdeauna persoanelor reale să ceară înlăturarea unui model AI care le reprezintă, găzduit de Civit, dar acum Nicoll face aluzie la un sistem care poate preveni reîncărcarea unor astfel de imagini după respingerea inițială, cu facilități pentru a identifica o persoană “protejată” chiar și în imagini pe care sistemul nu le-a văzut niciodată.

În acest scop, site-ul este acum partener cu sistemul de moderare AI Clavata – deși nu este încă clar în ce măsură Clavata va alimenta aceste facilități noi.

Nicoll a spus:

‘Tom Hanks și-a revendicat asemănarea de la noi, de exemplu. Multe actrițe pentru adulți au făcut acest lucru; multe actori și actrițe de top au…

‘Cred că primul care a făcut acest lucru a fost Barbara Eden, moștenitorii ei* – ea a fost una dintre primele care și-a revendicat asemănarea, ceea ce este destul de amuzant, deoarece ea este în vârstă.’

Protejat Din Oficiu?

În ultimii doi ani, compania de efecte vizuale AI Metaphysic (cu toate că am lucrat pentru Metaphysic.ai din începutul anului 2022 până la sfârșitul anului 2024) a încercat să creeze un sistem proprietar care ar permite oricui să-și înregistreze propria asemănare, deși în principal destinat numelor de la Hollywood preocupate de hacking-ul identității bazat pe AI, cu sprijin din partea actorilor cum ar fi Anne Hathaway, Octavia Spencer și Tom Hanks (cu care compania a lucrat la filmarea lui Robert Zemeckis Aici [2024]).

Logic, utilitatea sistemului ar depinde întotdeauna de legislația cazurilor; pe baza măsurilor pe care Civit este acum forțat să le ia, serviciul bazat pe abonament^† propus de Metaphysic ar putea fi redundant în fața creșterii rapide a legilor deepfake și a acoperirii potențiale (gratuite) în temeiul legii obișnuite. Nu se știe în prezent dacă oferta Metaphysic Pro va fi transferată către compania de efecte vizuale Double Negative VFX, care a achiziționat activele Metaphysic anul trecut.

În orice caz, pare tot mai mult că legislația globală și presiunile generale ale pieței sunt mai probabil să ofere protecție și remedii, în loc de soluții comerciale de acest fel.

Încălzirea În Câine

Un raport din 2023 al 404 Media a atras atenția asupra tendinței de a crea modele AI de celebrități și conținut pentru adulți la Civit, deși fondatorul site-ului, Justin Maier, a minimalizat legătura dintre asemănările de celebrități depuse de utilizatori și utilizarea lor pentru a genera material pornografic.

Deși Civit obține venituri prin facilitarea utilizării LoRAs și a altor modele furnizate de utilizatori pe site, Nicoll este clar că acesta nu este principalul motiv care îi determină pe Visa și MasterCard să stipuleze modificări ale site-ului, astfel încât acesta să poată continua să fie monetizat:

‘Unii oameni spun că motivul pentru care suntem în această situație este că permitem generarea de conținut. Acest lucru nu are nicio legătură. Găzduirea acestor modele, găzduirea acestui conținut, este suficientă pentru a atrage atenția lui Sauron.’

Discuțiile din comunitate au remarcat în ultimii ani că Civit a fost lăsat să găzduiască asemănări de celebrități. Conștienți de posibilitate, poate de inevitabilitatea unei crack-down, o serie de inițiative pentru a păstra LoRAs eliminate de Civit sau de către utilizatorii care le-au încărcat, au fost propuse sau implementate, inclusiv subredditul r/CivitaiArchives, care a fost (până acum) destul de neglijat.

Deși mulți au sugerat că o inițiativă bazată pe torrent este soluția naturală, nu pare să fi apărut încă un domeniu bine urmărit – și, în orice caz, acest lucru pare să mute activitatea interzisă la Civit și în altă parte către marginile exterioare ale internetului; către grădini închise; și, cel mai probabil, către rețeaua întunecată, deoarece majoritatea cadrului care ar putea găzdui LoRAs interzise (cum ar fi Reddit și Discord) fie interzic deja un astfel de conținut, fie par să fie sigure de a-l interzice în curând.

În acest moment, LoRAs de celebrități pot fi încă văzute cu anumite restricții la Civit, deși majoritatea conținutului generat a fost eliminat din listă și va fi exclus din descoperirea casuală. Ceea ce pare probabil, unul dintre comentatori a sugerat lui Nicoll în sesiunea Twitch, este că crack-down-ul se va adânci (probabil până la interzicerea tuturor asemănărilor de persoane reale în modele sau reprezentări încărcate).

Nicoll a răspuns:

‘”Nu se vor opri aici, vor cere mereu și mereu” – absolut! Da, absolut. Acesta este pur și simplu lumea în care trăim. Singura noastră speranță este să devenim suficient de mari și suficient de puternici pentru a avea un cuvânt mai mare în ceea ce ne este dictat […]

Dezbrăcat de alternativele oferite Civit, Nicoll a adăugat:

‘[…] Nimeni nu va cumpăra Bitcoin pentru a utiliza generatorul CivitAI. Așa că am încercat să facem acest lucru cât mai plăcut posibil, și acesta este rezultatul. Așa că, îmi cer scuze dacă acesta este ceva pe care nu îl puteți suporta, dar, din nefericire, acesta este ceea ce este. Am încercat să facem tot posibilul, am rezistat cât am putut, dar, în cele din urmă, ne-a fost spus că acesta este sfârșitul […]’

‘[…] Aceste instituții financiare nu înțeleg ce fac oamenii aici cu el. Am încercat să le explicăm, am încercat să vorbim cu ele, dar suntem practic ultima redută a conținutului NSFW.

Nicoll a spus că Civit a contactat ‘toți procesatorii de plăți imaginabili:

‘Chiar și procesorii de plăți cu risc ridicat pe care îi utilizează site-urile pentru adulți, și ei sunt foarte, foarte precauți cu conținutul AI. Acesta este problema – conținutul AI. Dacă am fi un site tradițional de pornografie, am fi ok, dar conținutul AI este ceea ce îi sperie.’

Unde Mai Departe?

Înainte de acest anunț, Civit a fost observat eliminând încărcări care intră sub unele dintre categoriile și tipurile de conținut care sunt acum interzise. La momentul scrierii, un ‘repositoriu de urgență’ pentru Wan 2.1 LoRAs a fost stabilit pe site-ul Hugging Face. Deși unele dintre LoRAs arhivate aici sunt proiectate pentru a facilita activități sexuale generale care sunt slab antrenate sau lipsă în noile modele video, cum ar fi Wan 2.1, unele dintre ele cad sub categoria strict interzisă ‘dezbrăcare’ (adică ‘nudificare’), inclusiv unele modele care ar putea fi considerate ‘extreme’ sau manifest potențial ofensatoare.

Subredditul r/datahoarders, care a fost în fruntea conservării literaturii online a guvernului SUA sub campania de ștergere în masă a lui Donald Trump, a arătat dispreț pentru ideea de a salva conținutul pierdut CivitAI.

În literatură, facilitarea ușoară a generării de conținut NSFW AI de către CivitAI nu a trecut neobservată. Cu toate acestea, una dintre cele mai citate studii, articolul Explorarea utilizării modelelor generative abuzive AI pe Civitai din 2024, este împiedicat de faptul că Civit nu a permis generarea de celebrități sau ilegală AI până în prezent, și de determinarea cercetătorilor de a-și găsi dovezi la Civit însuși.

În mod evident, însă, ceea ce îi preocupă pe procesatorii de plăți nu este ceea ce se produce cu LoRAs pe Civit, ci ceea ce se face cu aceste modele în alte comunități care sunt închise sau mai puțin reglementate.

Site-ul Mr. Deepfakes, care a fost sinonim cu metoda autoencoder-based de deepfaking NSFW, până la apariția difuziei bazate pe Stable Diffusion și modele în 2022, a început recent să posteze exemple de videoclipuri pornografice cu celebrități, utilizând ultima undă de generatoare de text la video și imagine la video, inclusiv Hunyuan Video și Wan 2.1 – ambele lansări foarte recente, ale căror influențe sunt în curs de dezvoltare și par să atragă titluri incendiare pe parcursul acestui an.

Metadate Obligatorii

O schimbare interesantă, aparent cerută de procesatorii de plăți, conform lui Nicoll, este că toate imaginile de pe site trebuie să conțină metadate. Atunci când o imagine sau un videoclip este produs de un model generativ într-un flux de lucru tipic pe o platformă precum ComfyUI, ieșirea conține în general metadate care listează modelul utilizat (hash-ul său, precum și numele, astfel încât, în cazul în care modelul este redenumit de un utilizator, proveniența sa rămâne clară) și multiple alte setări.

Datorită acestor puncte de date ascunse despre modul în care a fost creată imaginea, utilizatorii sunt capabili să trage un videoclip sau o imagine făcută de altcineva în fluxul de lucru ComfyUI și să recrieze întregul flux, și să adreseze orice dependențe lipsă (cum ar fi modele sau componente pe care creatorul original le-a avut, pe care utilizatorul va trebui să le găsească și să le descarce).

Orice generare de imagini sau videoclipuri lipsite de aceste date vor fi șterse în termen de treizeci de zile, a anunțat Civit. Utilizatorii pot adăuga astfel de date manual, introducându-le pe site-ul Civit.

Deoarece valoarea metadatelor este (presupunând) evidențială, această stipulare pare destul de inutilă; este trivial să copiați și să lipiți metadate de la un fișier la altul, și inventarea ad-hoc a metadatelor prin intermediul unui formular web face ca această nouă regulă să fie puțin de înțeles.

Cu toate acestea, mai mulți utilizatori (inclusiv unul care a comentat în sesiunea Twitch) au mii de imagini încărcate pe Civit. Singura lor soluție acum este să le anoteze manual pe fiecare, sau să le șteargă și să le reîncarce versiuni ale imaginilor cu metadate adăugate – ceea ce va șterge orice “like”-uri sau “buzz” sau conversații pe care imaginile originale le-au generat.

Noile Reguli

Iată modificările rezumate aplicabile la Civit de astăzi:

• Conținutul etichetat cu nume de persoane reale sau marcat ca resurse POI (persoane reale) nu va mai apărea în fluxuri publice.
• Conținutul cu teme de copii/minori va fi filtrat din fluxuri.
• Conținutul X și XXX care lipsește metadatele de generare va fi ascuns din vedere publică și marcat cu un avertisment, permițând încărcătorului să adauge detalii lipsă. Un astfel de conținut nu va fi șters, dar va rămâne vizibil doar creatorului său până când va fi actualizat.
• Imaginile create utilizând funcția Bring Your Own Image (BYOI) trebuie să aplice acum o alterare a zgomotului de cel puțin 50% în timpul generării. Acest lucru înseamnă că AI trebuie să modifice semnificativ imaginea încărcată, reducând șansa de a genera copii aproape identice. Cu toate acestea, imaginile create în întregime pe CivitAI sau remixate din alte conținuturi CivitAI nu sunt supuse acestei reguli și pot utiliza orice nivel de zgomot, de la nicio schimbare (0,0) la transformare completă (1,0). Această schimbare este destinată să reducă abuzul de instrumentul BYOI, care ar putea fi utilizat altfel pentru a produce deepfakes subtile sau nedetectabile, modificând ușor imagini reale.
• Când navigați cu conținut X sau XXX activat, căutarea numelor de celebrități nu va returna rezultate. Combinația de nume de celebrități cu conținut pentru adulți rămâne interzisă.
• Reclamele nu vor apărea pe imagini sau resurse proiectate pentru a replica aspectul persoanelor reale.
• Funcția de “buzz” (tipping) va fi dezactivată pentru imagini sau resurse care reprezintă persoane reale.
• Modelele proiectate pentru a replica persoane reale nu vor fi eligibile pentru Early Access, o funcție Civitai care permite creatorilor să lanseze conținut mai întâi pentru susținătorii care plătesc. Acest lucru limitează monetizarea asemănărilor de celebrități sau a persoanelor reale.
• O Declarație de conformitate 2257 a fost adăugată pentru a clarifica că platforma nu permite niciun conținut generat non-AI. Acest lucru ajută la asigurarea protecției legale, afirmând că toate materialele explicite sunt sintetice și nu se bazează pe fotografie sau videografie reală.
• O nouă Pagină de solicitare a ștergerii conținutului permite oricui să raporteze material abuziv sau ilegal fără a fi nevoie să se autentifice. Utilizatorii înregistrați ar trebui să continue să utilizeze instrumentele de raportare integrate pe fiecare post. Acest lucru este separat de formularul existent pentru solicitarea ștergerii asemănării cuiva de pe platformă.
• CivitAI a introdus un nou sistem de moderare prin parteneriat cu Clavata, ale cărui instrumente de analiză a imaginilor au depășit soluții anterioare, cum ar fi Amazon Rekognition și Hive.

** Începând de marți, 20 mai 2025, 11:23:47 (s-ar putea să fi apărut mai devreme), fluxul live Twitch a fost eliminat. Pentru a mă asigura că pot verifica faptele raportate în flux, păstrez o copie.

* În ciuda menționării “moștenitorilor” Barbarei Eden, actrița I Dream of Jeannie este încă în viață, în vârstă de 93 de ani.
^† Arhivat: https://archive.ph/tsMb0

Publicat pentru prima dată joi, 24 aprilie 202. Revizuit joi, 24 aprilie 2025 14:32:28: corectat date.
Modificat marți, 20 mai 2025, pentru a reflecta eliminarea conținutului Twitch utilizat ca material de referință.