CivitAI i ny betalingsleverandørkrise, mens Trump signerer anti-djupfakes-lov

President Trump har nå signert TAKE IT DOWN Act, som kriminaliserer seksuelle djupfakes på føderalt nivå i USA. Samtidig har CivitAI-samfunnets forsøk på å “rydde opp” når det gjelder NSFW AI og celeb-utgang har til slutt feilet i å tilfredsstille betalingsprosessorer, og nå søker nettstedet etter alternative løsninger eller risikerer å bli stengt. Alt dette i løpet av kun to uker siden den eldste og største djupfakes-pornonettsiden i verden gikk offline…

Det har vært en betydningsfull periode for tilstanden av uregulerte bilde- og video-djupfakes. For bare to uker siden, tok nummer #1-domene for fellesskapet som deler celebrity-djupfakes, Mr. Deepfakes, seg selv offline etter mer enn syv år i en dominant og mye-studert posisjon som det globale sentrum for seksualisert AI-celebrity-innhold. Ved tidspunktet for nedleggelsen mottok nettstedet i gjennomsnitt mer enn fem millioner besøk per måned.

Bakgrunn, Mr. Deepfakes-domene tidlig i mai; innsett, suspensjonsvarselet, nå erstattet av en 404-feil, siden domenet tilsynelatende ble kjøpt av en ukjent kjøper den 4. mai 2025 (https://www.whois.com/whois/mrdeepfakes.com). Kilde: mrdeepfakes.com

Nedleggelsen av tjenestene for Mr. Deepfakes ble offisielt tilskrevet tilbaketrekningen av en “kritisk tjenesteleverandør” (se innsett-bildet ovenfor, som ble erstattet av domenefeil innen en uke). Imidlertid hadde en samarbeidende journalistisk undersøkelse de-anonymisert en nøkkelfigur bak Mr. Deepfakes rett før nedleggelsen, og åpnet for muligheten av at nettstedet ble stengt av personlige og/eller juridiske årsaker.

Rundt samme tid innførte CivitAI, det kommersielle plattformen som hyppig brukes for celebrity og NSFW LoRAs, en rekke uvanlige og kontroversielle selvsensur-mål. Disse påvirkte djupfakes-generering, modell-vertning og en bredere rekke nye regler og begrensninger, inkludert fullstendige forbud mot bestemte marginale NSFW-fetisjer og hva de kalte ‘ekstremistiske ideologier’.

Disse tiltakene ble utløst av betalingsprosessorer som tilsynelatende truet med å trekke tilbake tjenestene fra domenet hvis ikke endringer ble gjort når det gjaldt NSFW-innhold og celebrity-AI-avbildninger.

CivitAI Cut Off

Per i dag ser det ut til at tiltakene som CivitAI har iverksatt, ikke har tilfredsstilt VISA og Mastercard: en ny post^† på nettstedet, fra Community Engagement Manager Alasdair Nicoll, avslører at kortbetalinger for CivitAI (hvis “buzz”-virtuelle pengesystem hovedsakelig drives av virkelige kreditt- og debettkort) vil bli stoppet fra denne fredagen (23. mai 2025).

Dette vil forhindre brukerne fra å fornye månedlige medlemskap eller kjøpe nye buzz. Selv om Nicoll råder brukerne til å beholde nåværende medlemsfordeler ved å bytte til et årlig medlemskap (koster^†† 100-550 USD), er fremtiden noenlunde usikker for domenet på dette tidspunktet (Det bør bemerkes at årlige medlemskap gikk live samtidig som annonseringen om tapet av betalingsprosessorer ble gjort).

Med hensyn til mangelen på en betalingsprosessor, sier Nicoll ‘Vi snakker med alle leverandører som er komfortable med AI-innovasjon’.

Om feilen i de nylige forsøkene på å tilstrekkelig omtenke nettstedets ofte-kritisiserte politikker rundt celeb-AI og NSFW-innhold, sier Nicoll i posten:

‘Noen betalingsprosessorer klassifiserer generative-AI-plattformer som høyrisiko, spesielt når vi tillater brukergenerert moden innhold, selv når det er lovlig og moderert. Denne politiske valget, ikke noe brukerne gjorde, tvang oss til å kutte tilkoblingen.’

En kommentar fra bruker ‘Faeia’, som er betegnet som selskapets stabssjef i deres CivitAI profil*, gir kontekst til denne annonseringen:

‘Bare for å klargjøre, vi blir fjernet fra betalingsprosessen fordi vi valgte ikke å fjerne NSFW- og vokseninnhold fra plattformen. Vi forblir dedikert til å støtte alle typer skapere og arbeider med alternative løsninger.’

Som en tradisjonell driver av nye teknologier, er det ikke uvanlig at NSFW-innhold brukes til å starte interesse i en domene, teknologi eller plattform – bare for at de opprinnelige tilhengerne blir avvist når nok “legitime” kapital og/eller en brukerbase er etablert (dvs. nok brukere for enheten å overleve, når den er frigjort fra en NSFW-kontekst).

Det virket en stund som om CivitAI ville følge Tumblr og diverse andre initiativer ned denne veien mot et “sanert” produkt som er klar til å glemme sine røtter. Imidlertid representerer den ekstra og voksende kontroversen/stigmatiseringen rundt AI-generert innhold av noen type en kumulativ vekt som synes å hindre en siste-minutt-redning i dette tilfelle. I mellomtiden råder den offisielle annonseringen brukerne til å bruke krypto som en alternativ betalingsmetode.

Fake Out

President Donald Trumps entusiastiske signering av den føderale TAKE IT DOWN Act, er sannsynligvis å ha påvirket noen av disse hendelsene. Den nye loven kriminaliserer distribusjonen av ikke-samtykkede intime bilder, inkludert AI-genererte djupfakes.

Loen krever at plattformene fjerner flagget innhold innen 48 timer, med gjennomføringen overvåket av Federal Trade Commission. De kriminelle bestemmelsene i loven trer i kraft umiddelbart, og tillater prosedyringen av personer som med viten publiserer eller truer med å publisere ikke-samtykkede intime bilder (inkludert AI-genererte djupfakes) innenfor USAs jurisdiksjon.

Selv om loven fikk sjelden bipartisk støtte, samt støtte fra teknologiselskaper og interessegrupper, hevder kritikere at den kan undertrykke legitimt innhold og true privatverktøy som kryptering. Forrige måned erklærte Electronic Frontier Foundation (EFF) motstand mot lovforslaget, og hevdet at fjerningsmekanismene det pålegger, rammer en bredere kategori av materiale enn den snevrere definisjonen av ikke-samtykkede intime bilder funnet andre steder i loven.

‘Fjerningsbestemmelsen i TAKE IT DOWN Act gjelder for en mye bredere kategori av innhold – potensielt alle bilder som inneholder intime eller seksuelle innhold – enn den snevrere definisjonen av ikke-samtykkede intime bilder funnet andre steder i loven. Fjerningsbestemmelsen mangler også kritiske sikkerhetsforanstaltninger mot frivillige eller ondsinnet fjerningsforespørsler.

‘Tjenestene vil avhenge av automatiske filtre, som er beryktede tumble tools. De flagger ofte lovlig innhold, fra fair-use-kommentar til nyhetsrapportering. Loven krever at apper og nettsider fjerner tale innen 48 timer, sjelden nok tid til å verifisere om tale er faktisk ulovlig.

‘Som resultat vil onlineservice-leverandører, spesielt de mindre, sannsynligvis velge å unngå den onerøse juridiske risikoen ved å depubliserer tale heller enn å forsøke å verifisere den.’

Plattformene har nå opptil ett år fra lovens ikrafttredelse til å etablere en formell varsel- og fjerningsprosess, som muliggjør at berørte personer eller deres representanter kan påberope loven for å få innhold fjernet.

Dette betyr at selv om de kriminelle bestemmelsene er umiddelbart i kraft, er plattformene ikke juridisk forpliktet til å følge fjerningsinfrastrukturen (slik som mottak og prosessering av forespørsler) før denne ett-årsperioden er utløpt.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Selv om TAKE IT DOWN Act krysser alle statsgrenser, kriminaliserer den ikke nødvendigvis all AI-drevet media av celebrities. Loven kriminaliserer distribusjonen av ikke-samtykkede intime bilder, inkludert AI-genererte djupfakes, bare når den avbildede personen hadde en rimelig forventning om privatliv:

Loven fastsetter:

“(2) FORBRYTELSE SOM OMFAATTER AUTENTISKE INTIME VISUELLE AVBILDER.

“(A) SOM OMFAATTER VOKSNE.—Unntatt [for bevis, rapporteringsformål osv.], skal det være ulovlig for noen person, i interstate eller utenlandsk handel, å bruke en interaktiv datatjeneste til å med viten publisere en intime visuell avbildning av en identifiserbar person som ikke er mindreårig hvis—

“(i) den intime visuelle avbildningen ble tilegnet eller skapt under omstendigheter hvor personen visste eller rimelig skulle ha visst at den identifiserbare personen hadde en rimelig forventning om privatliv;

“(ii) det som er avbildet ikke ble frivillig eksponert av den identifiserbare personen i en offentlig eller kommersiell setting [dvs. selv-publisert porn];

“(iii) det som er avbildet ikke er et offentlig sak;

“(iv) publiseringen av den intime visuelle avbildningen—

“(I) er ment å skade;

“(II) skader, inkludert psykiske, finansielle eller omdømmesskader, den identifiserbare personen.

Den “rimelige forventning om privatliv”-klausulen som er anvendt her, har ikke tradisjonelt favorisert rettighetene til celebrities. Avhengig av den rettspraksis som til slutt oppstår, er det mulig at selv eksplisitt AI-generert innhold som involverer offentlige personer i offentlige eller kommersielle settinger, ikke nødvendigvis faller under lovens forbud.

Den endelige klausulen om å bestemme omfanget av skade, er famøst elastisk i juridiske termer, og i denne forstand tilfører den ingenting nytt til den lovgivende byrden. Imidlertid synes hensikten å skade å begrense lovens omfang til konteksten av “hevn-porn”, hvor en (ukjent) eks-partner publiserer virkelige eller falske medieinnhold av en (like ukjent) annen eks-partner.

Lovens “skade”-krav kan synes dårlig tilpasset tilfeller hvor anonyme brukere poster AI-genererte avbildninger av celebrities, men det kan vise seg å være mer relevant i forfølgelsesscenarier, hvor en bredere mønster av trakassering støtter konklusjonen om at en person har medvitende og ondsinnet målrettede en offentlig person over flere fronter.

Lovens referanse til “dekkede plattformer” ekskluderer private kanaler som Signal eller e-post fra fjerningsbestemmelsene, men denne eksklusjonen gjelder bare for plikt til å implementere en formell fjerningsmekanisme innen mai 2026. Den betyr ikke at ikke-samtykkede AI- eller virkelige avbildninger som deles gjennom private kommunikasjoner, faller utenfor lovens kriminelle forbud.

Det er åpenbart at mangel på på nettstedets rapporteringsmekanismer ikke hindrer berørte parter fra å rapportere hva som nå er ulovlig innhold til politiet; heller ikke er slike parter forhindret fra å bruke hva som helst konvensjonelle kontaktmetoder en nettside kan gjøre tilgjengelig for å klage og be om fjerning av krenkende materiale.

The Rights Left Behind

Mer enn syv år med økende offentlig og medie-kritikk av djupfakes-innhold, synes å ha kulminert innen en usedvanlig kort tidsperiode. Imidlertid, mens TAKE IT DOWN Act tilbyr sveipende føderale forbud, kan den ikke gjelde i alle tilfeller som involverer AI-genererte simuleringer, og etterlater visse scenarier til å bli behandlet under den voksende patchwork av statlige djupfakes-lovgivning, hvor lovene ofte reflekterer “lokale interesser”.

For eksempel, i California, begrenser California Celebrities Rights Act den eksklusive bruken av en celebrities identitet til seg selv og deres bo, selv etter døden; omvendt fokuserer Tennessees ELVIS Act på å beskytte musikere mot uautoriserte AI-genererte stemme- og bilde-reproduksjoner, hvor hver sak reflekterer en målrettet tilnærming til interessegrupper som er fremtredende på statsnivå.

De fleste stater har nå lovene som målretter seksuelle djupfakes, selv om mange stopper kort av å klargjøre om disse beskyttelsene utvides like mye til private personer og offentlige personer. I mellomtiden kan de politiske djupfakes som rapporteres å ha spurt Donald Trumps støtte til den nye føderale loven, i praksis kollidere med konstitusjonelle barrierer i visse sammenhenger.

^† Arkivert versjon: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arkivert versjon (inneholder ikke månedlige priser): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Den faktiske ‘stabssjef’ til CEO-en i CivitAI er listet på LinkedIn under et ubeslektet navn, mens det lignende navnet ‘Faiona’ er en offisiell CivitAI-stabmoderator på nettstedets subreddit.

Først publisert tirsdag, 20. mai 2025