CivitAI in nieuwe betalingsprovidercrisis, terwijl Trump de Anti-Deepfake-wet ondertekent

President Trump heeft nu de Take It Down Act ondertekend, waardoor seksuele deepfakes op federaal niveau in de VS strafbaar worden gesteld. Tegelijkertijd is de poging van de CivitAI-gemeenschap om haar ‘huis op orde te brengen’ met betrekking tot NSFW-AI- en celeb-inhoud uiteindelijk mislukt om betalingsverwerkers tevreden te stellen, waardoor de site alternatieven moet zoeken of moet stoppen. Alles in de twee weken sinds de oudste en grootste deepfake-pornosite ter wereld offline ging…

Het is een momentous paar weken geweest voor de staat van ongereguleerde beeld- en videodeepfaking. Net iets meer dan twee weken geleden, nam de nummer #1-domein voor de gemeenschap die celebrity deepfake-porno deelt, Mr. Deepfakes, zichzelf offline na meer dan zeven jaar in een dominante en veel bestudeerde positie als het globale centrum voor seksueel getinte AI-celebrity-inhoud. Tegen de tijd dat het offline ging, ontving de site gemiddeld meer dan vijf miljoen bezoeken per maand.

Achtergrond, de Mr. Deepfakes-domein in begin mei; inset, de opschortingskennisgeving, nu vervangen door een 404-fout, sinds de domein blijkbaar is gekocht door een onbekende koper op 4 mei 2025 (https://www.whois.com/whois/mrdeepfakes.com). Bron: mrdeepfakes.com

De stopzetting van diensten voor Mr. Deepfakes werd officieel toegeschreven aan de terugtrekking van een ‘kritieke dienstverlener’ (zie de inset-afbeelding hierboven, die binnen een week door domeinuitval werd vervangen). Echter, een gezamenlijk journalistiek onderzoek had een sleutelfiguur achter Mr. Deepfakes gede-anonimiseerd direct voor de stopzetting, waardoor de mogelijkheid bestond dat de site was gesloten vanwege persoonlijke en/of juridische redenen van die persoon.

Rond dezelfde tijd, heeft CivitAI, het commerciële platform dat breed wordt gebruikt voor celebrity- en NSFW LoRAs, een reeks ongebruikelijke en omstreden zelfcensuurmaatregelen opgelegd. Deze hebben invloed op deepfake-generatie, modelhosting en een bredere reeks nieuwe regels en beperkingen, waaronder volledige verboden op bepaalde marginale NSFW-fetisjen en wat het ‘extremistische ideologieën’ noemt.

Deze maatregelen werden genomen omdat betalingsverwerkers blijkbaar hebben gedreigd om diensten van de domein te stoppen tenzij er veranderingen werden aangebracht met betrekking tot NSFW-inhoud en celebrity-AI-afbeeldingen.

CivitAI Cut Off

Vanaf vandaag lijkt het erop dat de maatregelen die CivitAI heeft genomen, VISA en Mastercard niet hebben verzoend: een nieuwe post^† op de site, van Community Engagement Manager Alasdair Nicoll, onthult dat kaartbetalingen voor CivitAI (wiens ‘buzz’ virtueel geldsysteem grotendeels wordt aangedreven door echte credit- en debetkaarten) vanaf deze vrijdag (23 mei 2025) worden stopgezet.

Dit zal gebruikers ervan weerhouden om maandelijkse abonnementen te vernieuwen of nieuw buzz te kopen. Hoewel Nicoll gebruikers adviseert om hun huidige abonnementsrechten te behouden door over te stappen op een jaarabonnement (kostend^†† $100-$550 USD) voor vrijdag, is het duidelijk dat de toekomst enigszins onzeker is voor de domein op dit moment (Het moet worden opgemerkt dat jaarabonnementen live gingen op hetzelfde moment dat de aankondiging over het verlies van betalingsverwerkers werd gedaan).

Met betrekking tot het ontbreken van een betalingsverwerker, zegt Nicoll ‘We praten met elke provider die comfortabel is met AI-innovatie’.

Over het falen van recente pogingen om de sitebeleid rond celeb-AI- en NSFW-inhoud adequaat te heroverwegen, zegt Nicoll in de post:

‘Sommige betalingsbedrijven labelen generatieve-AI-platforms als hoogrisico, vooral wanneer we gebruikers gegenereerde volwassen inhoud toestaan, zelfs als het legaal en gemodereerd is. Die beleidskeuze, niet iets wat gebruikers deden, dwong de stopzetting af.’

Een opmerking van gebruiker ‘Faeia’, aangewezen als de chief of staff in hun CivitAI profiel*, voegt context toe aan deze aankondiging:

‘Om het even duidelijk te maken, we worden van de betalingsverwerker verwijderd omdat we ervoor kozen om NSFW- en volwassen inhoud niet van het platform te verwijderen. We blijven toegewijd aan het ondersteunen van alle soorten makers en werken aan alternatieve oplossingen.’

Als een traditionele driver van nieuwe technologieën, is het niet ongebruikelijk dat NSFW-inhoud wordt gebruikt om interesse te wekken in een domein, technologie of platform – alleen om de eerste aanhangers later te verwerpen als er genoeg ‘legitiem’ kapitaal en/of een gebruikersbasis is gevestigd (d.w.z. genoeg gebruikers voor de entiteit om te overleven als het een NSFW-context mist).

Het leek even dat CivitAI Tumblr en diverse andere initiatieven zou volgen op de weg naar een ‘gesaniteerde’ product dat zijn wortels vergeet. Echter, de extra en groeiende controverse/stigma rond AI-gegenereerde inhoud van welke aard dan ook vormt een cumulatief gewicht dat lijkt te voorkomen dat een laatste redding kan plaatsvinden in dit geval. Ondertussen adviseert de officiële aankondiging gebruikers om crypto als alternatieve betalingsmethode te gebruiken.

Fake Out

De komst van president Donald Trump die enthousiast de Take It Down Act ondertekent, zal waarschijnlijk enige invloed hebben gehad op deze gebeurtenissen. De nieuwe wet maakt de verspreiding van niet-toegestane intieme beelden, waaronder AI-gegenereerde deepfakes, strafbaar.

De wetgeving vereist dat platforms gevlagde inhoud binnen 48 uur verwijderen, met handhaving onder toezicht van de Federal Trade Commission. De strafrechtelijke bepalingen van de wet treden onmiddellijk in werking, waardoor het mogelijk is om personen te vervolgen die willens en wetens niet-toegestane intieme beelden (inclusief AI-gegenereerde deepfakes) publiceren of dreigen te publiceren binnen het bereik van de Verenigde Staten.

Hoewel de wet zeldzame bipartijensteun kreeg, evenals steun van technologiebedrijven en belangenorganisaties, beweren critici dat het legitieme inhoud kan onderdrukken en bedreigingen voor privacytools zoals encryptie kan vormen. Vorige maand verklaarde de Electronic Frontier Foundation (EFF) tegenstand tegen het wetsvoorstel, waarin werd gesteld dat de takedown-mechanisme die het voorschrijft een bredere categorie materiaal treft dan de smallere definitie van niet-toegestane intieme beelden die elders in de wetgeving wordt gevonden.

‘De takedown-bepaling in TAKE IT DOWN is van toepassing op een veel bredere categorie inhoud – potentieel elke afbeelding met intieme of seksuele inhoud – dan de smallere NCII-definities die elders in het wetsvoorstel worden gevonden. De takedown-bepaling ontbeert ook kritieke waarborgen tegen frivole of slechtgelovige takedown-verzoeken.

‘Diensten zullen afhankelijk zijn van geautomatiseerde filters, die beruchte botte instrumenten zijn. Ze markeren vaak legale inhoud, van fair-use-commentaar tot nieuwsverslaggeving. De wetgeving vereist dat apps en websites inhoud binnen 48 uur verwijderen, zelden genoeg tijd om te verifiëren of de inhoud daadwerkelijk illegaal is.

‘Als gevolg daarvan zullen online dienstverleners, vooral kleinere, waarschijnlijk kiezen voor het vermijden van de zware juridische risico’s door de inhoud simpelweg te depubliceren in plaats van zelfs maar te proberen deze te verifiëren.’

Platforms hebben nu maximaal een jaar vanaf de inwerkingtreding van de wet om een formele kennisgevings- en takedownprocedure in te stellen, waardoor getroffen personen of hun vertegenwoordigers de wetgeving kunnen inroepen om inhoud te verwijderen.

Dit betekent dat hoewel de strafrechtelijke bepalingen onmiddellijk van toepassing zijn, platforms niet wettelijk verplicht zijn om te voldoen aan de takedown-infrastructuur (zoals het ontvangen en verwerken van verzoeken) totdat die eenjarige periode is verstreken.

Does de TAKE IT DOWN Act AI-gegenereerde celebrity-inhoud dekken?

Hoewel de TAKE IT DOWN Act alle staatsgrenzen overschrijdt, verbiedt het niet noodzakelijkerwijs alle AI-gedreven media van celebrities. De act maakt de verspreiding van niet-toegestane intieme beelden, inclusief AI-gegenereerde deepfakes, strafbaar, alleen als de afgebeelde persoon een redelijke verwachting van privacy had:

De act stelt:

“(2) MISDAAD BETREFFENDE ECHTE INTIME VISUELE WEERGAVEN.—

“(A) BETREFFENDE VOLWASSENEN.—Behalve [voor bewijs-, rapportage-doeleinden, enz.], is het onwettig voor elke persoon, in interstate of buitenlandse handel, om een interactieve computerservice te gebruiken om willens en wetens een intieme visuele weergave van een identificeerbare persoon te publiceren die geen minderjarige is als—

“(i) de intieme visuele weergave onder omstandigheden is verkregen of gemaakt waarin de persoon wist of redelijkerwijs had moeten weten dat de identificeerbare persoon een redelijke verwachting van privacy had;

“(ii) wat wordt weergegeven niet vrijwillig door de identificeerbare persoon in een openbare of commerciële setting [d.w.z. zelfgepubliceerde porn];

“(iii) wat wordt weergegeven geen kwestie van openbaar belang is; en

“(iv) publicatie van de intieme visuele weergave—

“(I) is bedoeld om schade toe te brengen; of

“(II) schade veroorzaakt, waaronder psychologische, financiële of reputatieschade, aan de identificeerbare persoon.

De ‘redelijke verwachting van privacy’ die hier wordt toegepast, heeft niet traditioneel de rechten van celebrities begunstigd. Afhankelijk van de rechtspraak die uiteindelijk ontstaat, is het mogelijk dat zelfs expliciete AI-gegenereerde inhoud met betrekking tot publieke figuren in openbare of commerciële settings niet onder de verboden van de act valt.

De laatste clausule over het bepalen van de omvang van de schade is berucht elastisch in juridische termen en voegt in deze zin niets nieuws toe aan de wettelijke last. Echter, de intentie om schade toe te brengen lijkt de reikwijdte van de act te beperken tot de context van ‘wraakporno’, waar een (onbekende) ex-partner echte of valse media-inhoud van een (eveneens onbekende) ex-partner publiceert.

Hoewel de wetgeving over ‘schade’ mogelijk niet goed geschikt is voor gevallen waarin anonieme gebruikers AI-gegenereerde afbeeldingen van celebrities plaatsen, kan het relevant zijn in stalkingscenario’s, waar een bredere patroon van intimidatie de conclusie ondersteunt dat een individu opzettelijk en kwaadwillig een publieke figuur heeft gericht over meerdere fronten.

Hoewel de verwijzing van de act naar ‘gedekte platforms’ privékanalen zoals Signal of e-mail van de takedown-bepalingen uitsluit, is deze uitsluiting alleen van toepassing op de verplichting om een formele verwijderingsmechanisme te implementeren tegen mei 2026. Het betekent niet dat niet-toegestane AI- of echte afbeeldingen die via privécommunicatie worden gedeeld, buiten het bereik van de strafrechtelijke verboden van de wet vallen.

Het is duidelijk dat een gebrek aan meldingsmechanismen op de site geen belemmering vormt voor getroffen partijen om wat nu illegale inhoud is bij de politie te melden; noch worden dergelijke partijen uitgesloten van het gebruik van conventionele contactmethoden die een site ter beschikking kan stellen om een klacht in te dienen en verwijdering van inbreukmakende materiaal te verzoeken.

De Rechten Die Achterblijven

Meer dan zeven jaar van groeiende publieke en media kritiek op deepfake-inhoud lijken te zijn geëindigd in een ongewoon korte tijd. Echter, terwijl de TAKE IT DOWN Act bredere federale verboden biedt, kan het niet in elk geval van toepassing zijn met betrekking tot AI-gegenereerde simulaties, waardoor bepaalde scenario’s moeten worden aangepakt onder de groeiende patchwork van staatsniveau deepfake-wetgeving, waar de wetten die worden aangenomen vaak ‘lokale belangen’ weerspiegelen.

Om een voorbeeld te geven, in Californië, beperkt de California Celebrities Rights Act het exclusieve gebruik van een celebrity’s identiteit tot zichzelf en hun erfgenamen, zelfs na hun dood; daarentegen richt de ELVIS Act van Tennessee zich op het beschermen van muzikanten tegen ongeautoriseerde AI-gegenereerde stem- en beeldreproducties, waarbij elke zaak een gerichte aanpak weerspiegelt naar belangengroepen die op staatsniveau prominent zijn.

De meeste staten hebben nu wetten die seksuele deepfakes aanpakken, hoewel veel ervan stoppen met het verduidelijken of deze bescherming eveneens privépersonen en publieke figuren beschermt. Ondertussen kunnen de politieke deepfakes die naar verluidt Donald Trumps steun voor de nieuwe federale wet hebben gestimuleerd, in de praktijk tegen constitutionele barrières aanlopen in bepaalde contexten.

^† Gearchiveerde versie: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Gearchiveerde versie (heeft geen maandelijkse prijzen): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* De werkelijke ‘chief of staff’ bij de CEO van CivitAI is vermeld op LinkedIn onder een niet-gerelateerde naam, terwijl de soortgelijk klinkende ‘Faiona’ een officiële CivitAI-stafmoderator is op de subreddit van de domein.

First published dinsdag, 20 mei 2025