CivitAI în criza furnizorului de plată, pe măsură ce Trump semnează Actul Anti-Deepfake

Președintele Trump a semnat acum Actul TAKE IT DOWN, care incriminează la nivel federal în Statele Unite deepfake-urile sexuale. În același timp, comunitatea CivitAI a încercat să-și “curățe” imaginea în ceea ce privește conținutul NSFW AI și celebritățile, dar în final a eșuat în a convinge procesorii de plată, determinând site-ul să caute alternative sau să închidă. Toate acestea în doar două săptămâni de la închiderea celui mai vechi și mai mare site de deepfake pornografic din lume…

A fost o perioadă de câteva săptămâni plină de evenimente pentru starea de ne-reglementare a imaginilor și videourilor deepfake. Cu aproximativ două săptămâni în urmă, domeniul numărul unu pentru partajarea de conținut deepfake pornografic cu celebrități, Mr. Deepfakes, s-a închis brusc după mai mult de șapte ani într-o poziție dominantă și mult studiată ca locus global pentru conținutul sexualizat al celebrităților generate de inteligență artificială. La momentul închiderii, site-ul primise în medie mai mult de cinci milioane de vizite pe lună.

Fundal, domeniul Mr. Deepfakes la începutul lunii mai; inserat, notificarea de suspendare, înlocuită acum cu o eroare 404, de la data de 4 mai 2025 (https://www.whois.com/whois/mrdeepfakes.com). Sursă: mrdeepfakes.com

Încetarea serviciilor pentru Mr. Deepfakes a fost atribuită oficial retragerii unui “furnizor de servicii critice” (vezi imaginea de mai sus, care a fost înlocuită de eșecul domeniului într-o săptămână). Cu toate acestea, o investigație jurnalistică colaborativă a de-anonimizat o figură cheie din spatele Mr. Deepfakes direct înainte de închidere, permițând posibilitatea ca site-ul să fi fost închis din motive personale și/sau legale ale individului respectiv.

În jurul aceleiași perioade, CivitAI, platforma comercială utilizată pe scară largă pentru celebrități și conținut NSFW LoRAs, a impus un set de măsuri de auto-cenzură neobișnuite și controversate. Acestea au afectat generarea de deepfake, găzduirea de modele și o gamă mai largă de reguli și restricții, inclusiv interzicerea completă a anumitor fetișuri NSFW marginale și a ceea ce au numit “ideologii extremiste”.

Aceste măsuri au fost luate ca urmare a faptului că furnizorii de plată au amenințat să retragă serviciile de la domeniu, dacă nu se fac schimbări cu privire la conținutul NSFW și reprezentările AI ale celebrităților.

CivitAI Cut Off

Începând de astăzi, pare că măsurile luate de CivitAI nu au convins VISA și Mastercard: un nou articol^† de pe site, de la Managerul de implicare a comunității Alasdair Nicoll, revelează că plățile cu cardul pentru CivitAI (al cărui sistem virtual de bani “buzz” este alimentat în mare parte de carduri de credit și debit reale) vor fi oprite de vineri (23 mai 2025).

Acest lucru va împiedica utilizatorii să-și reînnoiască abonamentele lunare sau să cumpere noi “buzz”. Deși Nicoll sfătuiește utilizatorii să-și păstreze privilegiile de membru actual prin trecerea la un abonament anual (costând^†† 100-550 USD), este clar că viitorul este puțin incert pentru domeniu în acest moment (Trebuie remarcat că abonamentele anuale au devenit disponibile în același timp cu anunțul despre pierderea procesatorilor de plată).

Referitor la lipsa unui procesor de plată, Nicoll spune ‘Vorbeam cu toți furnizorii dispuși să lucreze cu inovația AI’.

În ceea ce privește eșecul eforturilor recente de a reevalua politicile site-ului cu privire la conținutul AI al celebrităților și NSFW, Nicoll afirmă în post:

‘Unele companii de plată etichetează platformele generative-AI ca fiind de risc ridicat, mai ales atunci când permitem conținut matur generat de utilizatori, chiar dacă este legal și moderat. Această alegere de politică, și nu ceea ce au făcut utilizatorii, a forțat închiderea.’

Un comentariu de la utilizatorul ‘Faeia’, desemnat ca șef de stat major al companiei în profilul CivitAI Faeia*, adaugă context acestei declarații:

‘Doar pentru a clarifica, suntem eliminați de la procesorul de plată pentru că am ales să nu înlăturăm conținutul NSFW și pentru adulți de pe platformă. Rămânem dedicați susținerii tuturor tipurilor de creatori și lucrăm la soluții alternative.’

Ca un motor tradițional al noilor tehnologii, nu este neobișnuit ca conținutul NSFW să fie utilizat pentru a stimula interesul într-un domeniu, tehnologie sau platformă – doar pentru ca adepții inițiali să fie respinși odată ce este suficient “capital legitim” și/sau o bază de utilizatori pentru ca entitatea să supraviețuiască (adică, suficienți utilizatori pentru ca entitatea să supraviețuiască, atunci când este lipsită de un context NSFW).

Părea pentru o perioadă că CivitAI va urma Tumblr și diverse alte inițiative pe această cale către un produs “sanitizat” gata să-și uite rădăcinile. Cu toate acestea, controversa și stigma în creștere în jurul conținutului generat de AI reprezintă o greutate cumulativă care pare să prevină o salvare de ultim moment, în acest caz. Între timp, anunțul oficial sfătuiește utilizatorii să adopte criptomonede ca metodă de plată alternativă.

Fake Out

Apariția președintelui Donald Trump, care a semnat cu entuziasm Actul TAKE IT DOWN, este probabil să fi influențat unele dintre aceste evenimente. Noua lege incriminează distribuția de imagini intime neconsensuale, inclusiv deepfake-urile generate de AI.

Legislația obligă platformele să elimine conținutul semnalat în termen de 48 de ore, cu aplicarea legii supravegheată de Comisia Federală pentru Comerț. Prevederile penale ale legii intră în vigoare imediat, permițând urmărirea penală a persoanelor care publică sau amenință să publice imagini intime neconsensuale (inclusiv deepfake-urile generate de AI) în sfera de aplicare a Statelor Unite.

Deși legea a primit un sprijin bipartizan rar, precum și sprijin din partea companiilor de tehnologie și a grupurilor de advocacy, criticii susțin că ar putea suprima conținutul legitim și amenința uneltele de protecție a vieții private, cum ar fi criptarea. Luna trecută, Fundația Electronic Frontier (EFF) a declarat opoziție față de proiectul de lege, afirmând că mecanismele de eliminare pe care le prevede vizează o categorie mai largă de materiale decât definiția mai restrânsă a imaginilor intime neconsensuale găsită în altă parte în legislație.

‘Prevederea de eliminare din TAKE IT DOWN se aplică unei categorii mult mai largi de conținut – potențial orice imagini care implică conținut intim sau sexual – decât definițiile mai restrânse ale imaginilor intime neconsensuale găsite în altă parte în proiectul de lege. Prevederea de eliminare lipsește, de asemenea, de garanții critice împotriva cererilor de eliminare frivole sau de rea-credință.

‘Serviciile vor depinde de filtre automate, care sunt unelte infame și blânde. Ele semnalează adesea conținutul legal, de la comentarii fair-use la raportarea știrilor. Termenul limită al legii necesită ca aplicațiile și site-urile să elimine discursul în termen de 48 de ore, rareori suficient timp pentru a verifica dacă discursul este ilegal.

‘Ca urmare, furnizorii de servicii online, în special cei mai mici, vor alege probabil să evite riscul juridic oneros prin eliminarea discursului, mai degrabă decât încercarea de a-l verifica.’

Platformele au acum până la un an de la adoptarea legii pentru a stabili un proces formal de notificare și eliminare, care să permită persoanelor afectate sau reprezentanților lor să invoce statutul în căutarea eliminării conținutului.

Acest lucru înseamnă că, deși prevederile penale sunt imediat în vigoare, platformele nu sunt obligate legal să se conformeze infrastructurii de eliminare (cum ar fi primirea și procesarea cererilor) până când această fereastră de un an nu a expirat.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Deși Actul TAKE IT DOWN traversează toate granițele statelor, nu interzice neapărat toate mediile generate de AI ale celebrităților. Actul incriminează distribuția de imagini intime neconsensuale, inclusiv deepfake-urile generate de AI, doar atunci când persoana reprezentată a avut o expectație rezonabilă de intimitate:

Actul prevede:

“(2) INFRACȚIUNE PRIVIND REPREZENTĂRI INTIME AUTENTICE.—

“(A) PRIVIND ADULȚI.—Cu excepția [scopuri de probă, raportare, etc.],

“este ilegal pentru orice persoană, în comerțul între state sau străin, să utilizeze un serviciu interactiv de calculator pentru a publica în mod conștient o reprezentare vizuală intimă a unei persoane identificabile care nu este minor, dacă—

“(i) reprezentarea vizuală intimă a fost obținută sau creată în împrejurări în care persoana a știut sau ar fi trebuit să știe că persoana identificabilă avea o expectație rezonabilă de intimitate;

“(ii) ceea ce este reprezentat nu a fost expus în mod voluntar de către persoana identificabilă într-un mediu public sau comercial

“(iii) ceea ce este reprezentat nu este o chestiune de interes public; și

“(iv) publicarea reprezentării vizuale intime—

“(I) este destinată să cauzeze prejudicii; sau

“(II) cauzează prejudicii, inclusiv prejudicii psihologice, financiare sau de reputație, persoanei identificabile.

Contingentul “expectație rezonabilă de intimitate” aplicat aici nu a favorizat în mod tradițional drepturile celebrităților. În funcție de jurisprudența care va apărea în cele din urmă, este posibil ca chiar și conținutul explicit generat de AI, care implică personalități publice în medii publice sau comerciale, să nu cadă sub interdicțiile Actului.

Clauza finală privind determinarea întinderii prejudiciului este faimos de elastică în termeni juridici și, în acest sens, nu adaugă nimic în mod deosebit la încărcătura legislativă. Cu toate acestea, intenția de a cauza prejudicii pare să limiteze domeniul de aplicare al Actului la contextul “revenge porn”, în care un fost partener publică conținut media real sau fals al unui alt fost partener.

Deși cerința de “prejudiciu” a legii poate părea nepotrivită pentru cazurile în care utilizatori anonimi postează reprezentări generate de AI ale celebrităților, ea poate fi mai relevantă în scenarii de hărțuire, în care un model mai larg de hărțuire susține concluzia că o persoană a vizat în mod deliberat și cu rea-voință o personalitate publică pe multiple fronturi.

Deși referirea Actului la “platforme acoperite” exclude canalele private, cum ar fi Signal sau e-mail, de la prevederile de eliminare, această excludere se aplică doar obligației de a implementa un mecanism formal de eliminare până în mai 2026. Ea nu înseamnă că reprezentările neconsensuale generate de AI sau reale, partajate prin comunicări private, se află în afara domeniului de aplicare a interdicțiilor penale ale legii.

Este evident că lipsa unor mecanisme de raportare pe site nu împiedică părțile afectate să raporteze conținutul ilegal poliției; nici nu le este interzis să utilizeze metodele convenționale de contact pe care site-ul le pune la dispoziție pentru a face o plângere și a cere eliminarea materialului ofensator.

Drepturile Lăsate În Urmă

Mai mult de șapte ani de critică publică și mass-media asupra conținutului deepfake par să fi culminat într-un interval de timp neobișnuit de scurt. Cu toate acestea, în timp ce Actul TAKE IT DOWN oferă interdicții federale cuprinzătoare, el nu se aplică în fiecare caz care implică simulări generate de AI, lăsând anumite scenarii să fie abordate prin legislația în creștere a statelor privind deepfake-urile, unde legile adoptate adesea reflectă “interese locale”.

De exemplu, în California, Legea privind drepturile celebrităților din California limitează utilizarea exclusivă a identității unei celebrități la sine și la moștenitorii săi, chiar și după moartea sa; invers, Legea ELVIS din Tennessee se concentrează pe protejarea muzicienilor de reproducerea neautorizată a vocii și imaginii generate de AI, fiecare caz reflectând o abordare țintită a grupurilor de interese care sunt proeminente la nivel de stat.

Majoritatea statelor au acum legi care vizează deepfake-urile sexuale, deși multe nu clarifică dacă aceste protecții se extind în mod egal la persoanele private și la celebrități. Între timp, deepfake-urile politice care au determinat sprijinul lui Donald Trump pentru noua lege federală pot, în practică, întâmpina bariere constituționale în anumite contexte.

^† Versiune arhivată: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Versiune arhivată (nu prezintă prețuri lunare): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Șeful real de stat major al CEO-ului de la CivitAI este listat pe LinkedIn sub un nume neînrudit, în timp ce “Faiona” similar sunător este un moderator oficial al personalului CivitAI pe subreddit-ul domeniului civitai.

Publicat pentru prima dată marți, 20 mai 2025