CivitAI i ny betalingsudbyderkrise, da Trump underskriver anti-dybfake-lov

Præsident Trump har nu underskrevet TAKE IT DOWN-loven, som kriminaliserer seksuelle dybfakes på føderalt niveau i USA. Samtidig har CivitAI-samfundets forsøg på at “rydde op” i sin NSFW-AI- og celeb-udsalg ultimat ikke kunnet tilfredsstille betalingsprocessorer, hvilket har ført til, at siden søger efter alternative løsninger eller risikerer lukning. Alt dette blot to uger efter, at den ældste og største dybfake-pornoside i verden gik offline…

Det har været en betydningsfuld periode for den uregulerede billed- og video-dybfake. For blot to uger siden lukkede den største domæne for fællesskabsdeling af celeb-dybfakes, Mr. Deepfakes, efter mere end syv år i en dominerende og meget-studerede position som det globale center for seksualiseret AI-celebrity-indhold. Ved lukningen modtog siden i gennemsnit mere end fem millioner besøg om måneden.

Baggrund, Mr. Deepfakes-domænet i begyndelsen af maj; indsæt, suspensionsskiltet, nu erstattet af en 404-fejl, efter at domænet åbenbart blev købt af en ukendt køber den 4. maj 2025 (https://www.whois.com/whois/mrdeepfakes.com). Kilde: mrdeepfakes.com

Lukningen af Mr. Deepfakes blev officielt tilskrevet tilbagegangen af en “kritisk serviceudbyder” (se indsæt billedet ovenfor, som blev erstattet af domænefejl inden for en uge). En samarbejdende journalistisk undersøgelse havde de-anonymiseret en nøglefigur bag Mr. Deepfakes lige før lukningen, hvilket åbnede muligheden for, at siden blev lukket af personlige og/eller juridiske årsager.

Omkring samme tid indførte CivitAI, det kommercielle platform, der bredt bruges til celeb- og NSFW- LoRAs, en række usædvanlige og kontroversielle selvcensur-mål. Disse påvirkede dybfake-generering, model-vært og en bredere palette af nye regler og begrænsninger, herunder fuldstændige forbud mod bestemte marginale NSFW-feticher og hvad de betegnede som ‘ekstremistiske ideologier’.

Disse mål var fremkaldt af betalingsudbydere, der åbenbart truede med at tilbagekalde deres tjenester fra domænet, medmindre ændringer vedrørende NSFW-indhold og celeb-AI-afbildninger blev foretaget.

CivitAI Cut Off

Pr. i dag ser det ud til, at de mål, som CivitAI har indført, ikke har kunnet tilfredsstille VISA og Mastercard: en ny post^† på siden, fra Community Engagement Manager Alasdair Nicoll, afslører, at kreditkortbetalinger for CivitAI (hvis ‘buzz’ virtuel penge-system er overvejende drevet af rigtige kredit- og debetkort) vil blive standset fra denne fredag (23. maj 2025).

Dette vil forhindre brugere i at fornye månedlige medlemskaber eller købe nye buzz. Selv om Nicoll råder brugerne til at opretholde nuværende medlemsrettigheder ved at skifte til et årligt medlemskab (kostende^†† 100-550 USD), er fremtiden noget usikker for domænet på nuværende tidspunkt (Det skal bemærkes, at årlige medlemskaber gik live samtidig med, at annonceringen om tabet af betalingsprocessorer blev offentliggjort).

Med hensyn til manglen på en betalingsprocessor siger Nicoll ‘Vi taler med alle udbydere, der er komfortable med AI-innovation’.

Med hensyn til fiaskoen for de seneste bestræbelser på at tilstrækkeligt omstrukturere sitets ofte-kritiserede politikker omkring celeb-AI- og NSFW-indhold, siger Nicoll i posten:

‘Nogle betalingsfirmaer mærker generative-AI-platforme som højrisiko, især når vi tillader bruger-genereret moden indhold, selv når det er lovligt og modereret. Denne politikvalg, ikke noget brugere har gjort, tvang afbuddet.’

En kommentar fra bruger ‘Faeia’, der er betegnet som virksomhedens chief of staff i deres CivitAI profil*, tilføjer kontekst til denne annoncering:

‘Lige for at klargøre, vi bliver fjernet fra betalingsprocessoren, fordi vi valgte ikke at fjerne NSFW- og voksenindhold fra platformen. Vi forbliver dedikeret til at støtte alle slags skabere og arbejder på alternative løsninger.’

Som en traditionel driver af nye teknologier er det ikke usædvanligt, at NSFW-indhold bruges til at starte interesse i et domæne, teknologi eller platform – kun for at de oprindelige tilhængere at blive afvist, når nok “legitimt” kapital og/eller en brugerbase er etableret (dvs. nok brugere til, at enheden kan overleve, når den er berøvet en NSFW-kontekst).

Det så ud til, at CivitAI ville følge Tumblr og diverse andre initiativer ned denne vej mod et “saneret” produkt, der er parat til at glemme sine rødder. Imidlertid repræsenterer den ekstra og voksende kontroversi/stigma omkring AI-genereret indhold af enhver art en kumulativ vægt, der synes at ville forhindre en sidste øjebliks-redning i dette tilfælde. I mellemtiden råder den officielle annoncering brugerne til at benytte krypto som en alternativ betalingsmetode.

Fake Out

Præsident Donald Trumps begejstring for at undertegne den føderale TAKE IT DOWN-lov er sandsynligvis medvirkende til disse begivenheder. Den nye lov kriminaliserer distributionen af ikke-samtykkende intime billeder, herunder AI-genererede dybfakes.

Loven kræver, at platforme fjerner markeret indhold inden for 48 timer, med gennemførelse overvåget af Federal Trade Commission. De kriminelle bestemmelser i loven træder i kraft med det samme, hvilket muliggør strafforfølgelse af personer, der bevidst offentliggør eller truer med at offentliggøre ikke-samtykkende intime billeder (herunder AI-genererede dybfakes) inden for USA’s område.

Selv om loven fik sjælden bipartisk støtte samt støtte fra tech-virksomheder og interessegrupper, mener kritikere, at den kan undertrykke legitimitet indhold og true privatlivsværktøjer som kryptering. For sidste måned erklærede Electronic Frontier Foundation (EFF) modstand over for lovforslaget, idet de hævdede, at de fjernelsesmekanismer, det pålægger, rammer en bredere kategori af indhold end den snævrere definition af ikke-samtykkende intime billeder, der findes andre steder i loven.

‘Fjernelsesbestemmelsen i TAKE IT DOWN gælder for en langt bredere kategori af indhold – potentiel any billeder, der involverer intime eller seksuelle indhold – end den snævrere definition af ikke-samtykkende intime billeder, der findes andre steder i loven. Fjernelsesbestemmelsen mangler også kritiske sikkerhedsforanstaltninger mod frivillige eller ondsindede fjernelsesanmodninger.

‘Tjenester vil afhænge af automatiserede filtre, som er berømte for at være dovne værktøjer. De markerer ofte legitimitet indhold, fra fair-brug-kommentar til nyhedsrapportering. Lovens tidsramme kræver, at apps og websites fjerner tale inden for 48 timer, sjældent nok tid til at verificere, om tale er virkelig ulovlig.

‘Som resultat vil online-tjenesteudbydere, især de mindre, sandsynligvis vælge at undgå den betydelige juridiske risiko ved simpelthen at afpublikere tale i stedet for at forsøge at verificere den.’

Platforme har nu op til et år fra lovens ikrafttræden til at etablere en formel anmeldelses- og fjernelsesproces, hvilket muliggør, at berørte personer eller deres repræsentanter kan påkalde loven for at få indhold fjernet.

Dette betyder, at selv om de kriminelle bestemmelser er i kraft med det samme, er platforme ikke juridisk forpligtet til at overholde fjernelsesinfrastrukturen (såsom modtagelse og behandling af anmodninger) før dette et-års-vindue er udløbet.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Selv om TAKE IT DOWN-loven krydser alle statsgrænser, forbryder den ikke nødvendigvis alle AI-drevne medier af celebrities. Loven kriminaliserer distributionen af ikke-samtykkende intime billeder, herunder AI-genererede dybfakes, kun når den afbillede person havde en rimelig forventning om privatliv:

Loven fastsætter:

“(2) FORBRYDELSE, DER OMFATTER ÆGTE INTIME VISUELLE AFBILLINGER.—

“(A) OMFATTENDE VOKSNE.—Undtagen [for bevis, rapporteringsformål osv.], det skal være ulovligt for enhver person, i interstate eller udenlandsk handel, at bruge en interaktiv computerservice til bevidst at offentliggøre en intime visuel afbildning af en identificerbar person, der ikke er en mindreårig, hvis—

“(i) den intime visuelle afbildning blev erhvervet eller skabt under omstændigheder, hvor personen vidste eller rimeligt burde have vidst, at den identificerbare person havde en rimelig forventning om privatliv;

“(ii) hvad der afbildes ikke blev frivilligt eksponeret af den identificerbare person i en offentlig eller kommerciel indstilling [dvs. selv-udgivet porn];

“(iii) hvad der afbildes ikke er et spørgsmål om offentlig bekymring; og

“(iv) offentliggørelse af den intime visuelle afbildning—

“(I) er ment til at forårsage skade; eller

“(II) forårsager skade, herunder psykologisk, finansielle eller rygter-relaterede skade, til den identificerbare person.

Den ‘rimelige forventning om privatliv’-kontingens, der her anvendes, har ikke traditionelt favoriseret rettighederne for celebrities. Afhængigt af den retspraksis, der til sidst opstår, er det muligt, at selv eksplicit AI-genereret indhold, der involverer offentlige figurer i offentlige eller kommercielle indstillinger, måske ikke falder under lovens forbud.

Den endelige klausul om at bestemme omfanget af skade er berømt elastisk i juridisk forstand og tilføjer i denne forstand ikke noget særligt nyt til den lovgivningsmæssige byrde. Imidlertid synes hensigten at forårsage skade at begrænse lovens omfang til konteksten af ‘hævn-porn’, hvor en (ukendt) eks-partner offentliggør virkeligt eller falsk medieindhold af en (lige så ukendt) anden eks-partner.

Selv om lovens ‘skade’-krav måske synes upassende til sager, hvor anonyme brugere offentliggør AI-genererede afbildninger af celebrities, kan det bevise sig mere relevant i forfølgelsesscenarioer, hvor en bredere mønster af chikane understøtter konklusionen, at en person bevidst og ondsindet har målrettet en offentlig figur på flere fronter.

Selv om lovens reference til ‘dækkede platforme’ udelukker private kanaler som Signal eller e-mail fra dens fjernelsesbestemmelser, gælder denne undtagelse kun for forpligtelsen til at implementere en formel fjernelsesmekanisme inden maj 2026. Det betyder ikke, at ikke-samtykkende AI- eller virkelige afbildninger, der deles gennem private kommunikationer, falder uden for lovens kriminelle forbud.

Det er åbenbart, at manglen på en fjernelsesmekanisme på siden ikke forhindrer berørte parter i at anmelde, hvad der nu er ulovligt indhold, til politiet; heller ikke er sådanne parter forhindret i at bruge hvilke som helst konventionelle kontaktemetoder, en side måtte stille til rådighed for at klage og anmode om fjernelse af krænkende materiale.

The Rights Left Behind

Over syv års voksende offentlig og medie-kritik af dybfake-indhold synes at have kulmineret inden for en usædvanligt kort tidsperiode. Imidlertid, selv om TAKE IT DOWN-loven tilbyder føderale forbud, kan den måske ikke anvendes i alle sager, der involverer AI-genererede simulationer, og efterlader visse scenarier til at blive behandlet under den voksende patchwork af statsniveau-dybfake-lovgivning, hvor love, der er vedtaget, ofte reflekterer ‘lokale interesser’.

For eksempel i Californien begrænser California Celebrities Rights Act den eksklusive brug af en celebrities identitet til sig selv og deres bo, selv efter deres død; omvendt fokuserer Tennessees ELVIS Act på at beskytte musikere mod ikke-autoriserede AI-genererede stemme- og billedreproduktioner, hvor hver sag reflekterer en målrettet tilgang til interessegrupper, der er fremtrædende på statsniveau.

De fleste stater har nu love, der retter sig mod seksuelle dybfakes, selv om mange standser kort af at klargøre, om disse beskyttelser udvides lige så meget til private personer og offentlige figurer. Imens kan de politiske dybfakes, der ifølge rapporter fremmet Donald Trumps støtte til den nye føderale lov, i praksis støde mod konstitutionelle barrierer i visse sammenhænge.

^† Arkiveret version: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arkiveret version (includerer ikke månedlige priser): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Den faktiske ‘chief of staff’ til CEO’en i CivitAI er listet på LinkedIn under et ikke-relateret navn, mens det lignende navn ‘Faiona’ er en officiel CivitAI-staff-moderator på domænets subreddit.

Først udgivet tirsdag, 20. maj 2025