CivitAI in crisi per il nuovo fornitore di pagamento, mentre Trump firma l’Anti-Deepfake Act

Il presidente Trump ha ora firmato il Take It Down Act, che criminalizza le deepfake sessuali a livello federale negli Stati Uniti. Allo stesso tempo, la comunità di CivitAI ha cercato di “pulire il suo atto” riguardo al contenuto NSFW AI e alle immagini di celebrità, ma alla fine non è riuscita a convincere i fornitori di pagamento, costringendo il sito a cercare alternative o a rischiare la chiusura. Tutto ciò in soli due settimane dall’offline del più grande e più antico sito di deepfake pornografico del mondo…

È stato un momento cruciale per lo stato della deepfaking di immagini e video non regolamentate. Poco più di due settimane fa, il dominio numero uno per la condivisione di deepfake di celebrità, Mr. Deepfakes, si è offline dopo più di sette anni in una posizione dominante e molto studiata come locus globale per il contenuto di celebrità sessualizzato AI. Al momento della sua chiusura, il sito riceveva una media di oltre cinque milioni di visite al mese.

Sfondo, il dominio Mr. Deepfakes all’inizio di maggio; inset, l’avviso di sospensione, ora sostituito da un errore 404, dal momento che il dominio è stato apparentemente acquistato da un acquirente sconosciuto il 4 maggio 2025 (https://www.whois.com/whois/mrdeepfakes.com). Fonte: mrdeepfakes.com

La cessazione dei servizi per Mr. Deepfakes è stata ufficialmente attribuita al ritiro di un “fornitore di servizi critico” (vedi l’immagine dell’inset sopra, che è stata sostituita dal fallimento del dominio entro una settimana). Tuttavia, un’indagine giornalistica collaborativa aveva de-anonimizzato una figura chiave dietro Mr. Deepfakes direttamente prima della chiusura, permettendo la possibilità che il sito sia stato chiuso per motivi personali e/o legali di quell’individuo.

Intorno allo stesso periodo, CivitAI, la piattaforma commerciale ampiamente utilizzata per le celebrità e il contenuto NSFW LoRAs, ha imposto un insieme di misure di autocensura insolite e controverse. Queste hanno interessato la generazione di deepfake, l’hosting dei modelli e un’ampia gamma di nuove regole e restrizioni, tra cui divieti totali su alcuni marginali contenuti NSFW e “ideologie estremiste”.

Queste misure sono state promosse dai fornitori di pagamento che apparentemente minacciavano di ritirare i servizi dal dominio a meno che non fossero state apportate modifiche riguardo al contenuto NSFW e alle rappresentazioni AI delle celebrità.

CivitAI Cut Off

A partire da oggi, sembra che le misure adottate da CivitAI non abbiano convinto VISA e Mastercard: un nuovo post^† sul sito, del Community Engagement Manager Alasdair Nicoll, rivela che i pagamenti con carta di credito per CivitAI (il cui sistema di “buzz” virtuale è alimentato principalmente da carte di credito e debito reali) saranno interrotti da questa venerdì (23 maggio 2025).

Questo impedirà agli utenti di rinnovare gli abbonamenti mensili o acquistare nuovo buzz. Sebbene Nicoll consigli agli utenti di mantenere i privilegi di abbonamento attuale passando a un abbonamento annuale (costo^†† 100-550 USD), è chiaro che il futuro è piuttosto incerto per il dominio in questo momento (è necessario notare che gli abbonamenti annuali sono stati attivati allo stesso tempo in cui è stato fatto l’annuncio sulla perdita dei fornitori di pagamento).

Riguardo alla mancanza di un fornitore di pagamento, Nicoll afferma ‘Stiamo parlando con ogni fornitore disposto a innovare con l’AI’.

Riguardo al fallimento degli sforzi recenti per rivedere adeguatamente le politiche del sito riguardo al contenuto AI delle celebrità e NSFW, Nicoll afferma nel post:

‘Alcune società di pagamento etichettano le piattaforme di generative-AI come ad alto rischio, specialmente quando consentiamo contenuti maturi generati dagli utenti, anche se sono legali e moderati. Quella scelta di politica, e non qualcosa che gli utenti hanno fatto, ha forzato la disconnessione.’

Un commento dell’utente ‘Faeia’, designato come capo di stato maggiore nella sua profilo CivitAI*, aggiunge contesto a questo annuncio:

‘Solo per chiarire, stiamo venendo rimossi dal fornitore di pagamento perché abbiamo scelto di non rimuovere il contenuto NSFW e per adulti dalla piattaforma. Restiamo impegnati a supportare tutti i tipi di creatori e stiamo lavorando su soluzioni alternative.’

Come un tradizionale motore di nuove tecnologie, non è insolito che il contenuto NSFW venga utilizzato per avviare l’interesse in un dominio, tecnologia o piattaforma – solo per essere poi rifiutati una volta che venga stabilito un capitale “legittimo” e/o una base di utenti (cioè, abbastanza utenti perché l’entità possa sopravvivere, una volta privata del contesto NSFW).

Sembra che per un po’ CivitAI avrebbe seguito Tumblr e diverse altre iniziative lungo questa strada verso un prodotto “sanitizzato” pronto a dimenticare le sue radici. Tuttavia, la crescente controversia/stigma intorno al contenuto generato da AI di qualsiasi tipo rappresenta un peso cumulativo che sembra destinato a prevenire un salvataggio all’ultimo minuto, in questo caso. Nel frattempo, l’annuncio ufficiale consiglia agli utenti di adottare il crypto come metodo di pagamento alternativo.

Fake Out

L’avvento del presidente Donald Trump che firma con entusiasmo il Take It Down Act è probabilmente destinato a influenzare alcuni di questi eventi. La nuova legge criminalizza la distribuzione di immagini intime non consensuali, comprese le deepfake generate da AI.

La legislazione richiede che le piattaforme rimuovano il contenuto segnalato entro 48 ore, con l’applicazione della legge supervisionata dalla Federal Trade Commission. Le disposizioni penali della legge entrano in vigore immediatamente, consentendo la persecuzione degli individui che pubblicano o minacciano di pubblicare immagini intime non consensuali (comprese le deepfake generate da AI) nell’ambito degli Stati Uniti.

Sebbene la legge abbia ricevuto un raro sostegno bipartisan, nonché il sostegno di società tecnologiche e gruppi di difesa, i critici sostengono che potrebbe sopprimere contenuti legittimi e minacciare gli strumenti di privacy come la crittografia. Lo scorso mese, la Electronic Frontier Foundation (EFF) ha dichiarato opposizione al disegno di legge, affermando che i meccanismi di rimozione che impone mirano a una categoria più ampia di materiali rispetto alla definizione più stretta di immagini intime non consensuali trovata altrove nella legislazione.

‘La disposizione di rimozione nel TAKE IT DOWN si applica a una categoria di contenuti molto più ampia – potenzialmente qualsiasi immagine che coinvolga contenuto intimo o sessuale – rispetto alla definizione più stretta di immagini intime non consensuali trovata altrove nel disegno di legge. La disposizione di rimozione manca inoltre di salvaguardie critiche contro le richieste di rimozione frivole o di cattiva fede.

‘I servizi si affidano a filtri automatizzati, che sono strumenti infamemente ottusi. Spesso segnalano contenuti legali, dalla commento fair-use alla copertura giornalistica. Il termine stretto della legge richiede che le app e i siti web rimuovano il discorso entro 48 ore, raramente abbastanza tempo per verificare se il discorso è effettivamente illegale.

‘Di conseguenza, i fornitori di servizi online, in particolare quelli più piccoli, probabilmente sceglieranno di evitare il rischio legale oneroso semplicemente depubblicando il discorso piuttosto che tentare di verificarlo.’

Le piattaforme hanno ora fino a un anno dall’entrata in vigore della legge per stabilire un processo formale di notifica e rimozione, che consente agli individui interessati o ai loro rappresentanti di invocare lo statuto per richiedere la rimozione del contenuto.

Ciò significa che sebbene le disposizioni penali siano immediatamente in vigore, le piattaforme non sono legalmente obbligate a conformarsi alla struttura di rimozione (come la ricezione e l’elaborazione delle richieste) fino a quando non sarà trascorso quel periodo di un anno.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Sebbene il Take It Down Act valichi tutti i confini statali, non vieta necessariamente tutti i media AI-driven delle celebrità. La legge criminalizza la distribuzione di immagini intime non consensuali, compresi le deepfake generate da AI, solo quando l’individuo rappresentato aveva una ragionevole aspettativa di privacy:

La legge afferma:

“(2) REATO RELATIVO A RAPPRESENTAZIONI INTIME AUTENTICHE.—

“(A) RELATIVO AD ADULTI.—Fatto salvo [per scopi di prova, segnalazione, ecc.], è illegale per qualsiasi persona, nel commercio interstatale o estero, utilizzare un servizio di computer interattivo per pubblicare consapevolmente una rappresentazione visiva intima di un individuo identificabile che non è un minore se—

“(i) la rappresentazione visiva intima è stata ottenuta o creata in circostanze in cui la persona sapeva o avrebbe dovuto ragionevolmente sapere che l’individuo identificabile aveva una ragionevole aspettativa di privacy;

“(ii) ciò che è rappresentato non è stato esposto volontariamente dall’individuo identificabile in un ambiente pubblico o commerciale [cioè, autopubblicato porn];

“(iii) ciò che è rappresentato non è una questione di pubblico interesse; e

“(iv) la pubblicazione della rappresentazione visiva intima—

“(I) è intesa a causare danno; o

“(II) causa danno, incluso danno psicologico, finanziario o di reputazione, all’individuo identificabile.

La clausola della “ragionevole aspettativa di privacy” applicata qui non ha tradizionalmente favorito i diritti delle celebrità. A seconda della giurisprudenza che emergerà, è possibile che anche il contenuto esplicito generato da AI che coinvolge personaggi pubblici in ambienti pubblici o commerciali possa non rientrare nelle proibizioni della legge.

La clausola finale sulla determinazione della portata del danno è famosamente elastica in termini legali, e in questo senso aggiunge nulla di particolarmente nuovo al carico legislativo. Tuttavia, l’intento di causare danno sembra limitare l’ambito della legge al contesto del “revenge porn”, dove un (sconosciuto) ex partner pubblica contenuti multimediali reali o falsi di un (altrettanto sconosciuto) altro ex partner.

Sebbene il requisito di “danno” della legge possa sembrare poco adatto ai casi in cui utenti anonimi pubblicano rappresentazioni generate da AI di celebrità, potrebbe risultare più rilevante in scenari di stalking, in cui un modello più ampio di molestie sostiene la conclusione che un individuo ha deliberatamente e maliziosamente preso di mira una figura pubblica su più fronti.

Sebbene la legge escluda i canali privati come Signal o e-mail dalle disposizioni di rimozione, tale esclusione si applica solo all’obbligo di implementare un meccanismo formale di rimozione entro maggio 2026. Non significa che le rappresentazioni non consensuali AI o reali condivise attraverso comunicazioni private si trovino al di fuori dell’ambito delle proibizioni penali della legge.

È ovvio che la mancanza di meccanismi di segnalazione on-site non impedisce alle parti interessate di segnalare ciò che ora è contenuto illegale alla polizia; né sono precluse dall’utilizzare qualsiasi metodo di contatto convenzionale che un sito possa mettere a disposizione per presentare una denuncia e richiedere la rimozione del materiale offensivo.

The Rights Left Behind

Più di sette anni di critiche pubbliche e mediatiche crescenti sul contenuto deepfake sembrano essere culminati in un lasso di tempo insolitamente breve. Tuttavia, mentre il Take It Down Act offre proibizioni federali di vasta portata, potrebbe non applicarsi in ogni caso che coinvolga simulazioni generate da AI, lasciando alcune scenari da affrontare sotto la crescente patchwork di legislazione statale sui deepfake, dove le leggi approvate spesso riflettono “interessi locali”.

Ad esempio, in California, il California Celebrities Rights Act limita l’uso esclusivo dell’identità di una celebrità a se stessa e al suo patrimonio, anche dopo la sua morte; al contrario, il Tennessee’s ELVIS Act si concentra sulla salvaguardia dei musicisti da riproduzioni vocali e di immagini generate da AI non autorizzate, con ogni caso che riflette un approccio mirato agli interessi di gruppo che sono prominenti a livello statale.

La maggior parte degli stati ha ora leggi che mirano ai deepfake sessuali, sebbene molti non chiariscano se tali protezioni si estendono ugualmente ai privati e alle figure pubbliche. Nel frattempo, i deepfake politici che hanno segnalato sostegno di Donald Trump per la nuova legge federale potrebbero, nella pratica, incontrare barriere costituzionali in certi contesti.

^† Versione archiviata: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Versione archiviata (non presenta prezzi mensili): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Il vero “capo di stato maggiore” del CEO di CivitAI è elencato su LinkedIn con un nome non correlato, mentre il simile “Faiona” è un moderatore ufficiale dello staff di CivitAI nel sottoreddit del dominio.

Pubblicato per la prima volta martedì, 20 maggio 2025