CivitAI i ny kris med betalningsleverantörer, då Trump undertecknar lagen mot deepfakes

President Trump har nu undertecknat Take It Down Act, som kriminaliserar sexuella deepfakes på federal nivå i USA. Samtidigt har CivitAI-gemenskapens försök att "städa upp" gällande NSFW AI och kändisproduktion i slutändan misslyckats med att blidka betalningsbehandlare, vilket har lett till att webbplatsen har sökt alternativ eller riskerat nedstängning. Allt detta på bara två veckor sedan världens äldsta och största deepfake-porrsajt gick offline...

Det har varit några betydelsefulla veckor för den oreglerade deepfaking-verksamheten inom bild och video. För drygt två veckor sedan tog den främsta domänen för communitydelning av kändisdeepfakeporr, Mr. Deepfakes, sig plötsligt offline efter mer än sju år i en dominerande och ... mycket studerad position som global plats för sexualiserat AI-kändisinnehåll. När webbplatsen gick ner fick den en i genomsnitt mer än fem miljoner besök en månad.

Bakgrund, Mr. Deepfakes-domänen i början av maj; infälld bild, avstängningsmeddelandet, nu ersatt av ett 404-fel, eftersom domänen tydligen köptes av en okänd köpare den 4 maj 2025 (https://www.whois.com/whois/mrdeepfakes.com). Källa: mrdeepfakes.com

Upphörandet av tjänsterna för Mr. Deepfakes blev officiellt hänföras till att en "kritisk tjänsteleverantör" (se infälld bild ovan) drogs tillbaka (vilket ersattes av domänfel inom en vecka). En gemensam journalistisk undersökning hade dock avanonymiserade en nyckelperson bakom Mr. Deepfakes direkt före nedstängningen, vilket möjliggör att webbplatsen stängdes av den individens personliga och/eller juridiska skäl.

Ungefär samtidigt, CivitAI, den kommersiella plattformen som används flitigt för kändisar och NSFW LoRAs, införde en uppsättning ovanliga och kontroversiella självcensuråtgärderDessa påverkade generering av deepfakes, modellhosting och en bredare uppsättning nya regler och restriktioner, inklusive fullständiga förbud mot vissa marginella NSFW-fetischer. och vad den kallade "extremistiska ideologier".

Dessa åtgärder föranleddes av att betalningsleverantörer tydligen hotade att dra tillbaka tjänster från domänen om inte ändringar gjordes gällande NSFW-innehåll och kändisars AI-skildringar.

CivitAI-avstängning

I dagsläget verkar det som att de åtgärder som CivitAI vidtagit inte har tillfredsställt VISA och Mastercard: nytt brev^† på webbplatsen, från Community Engagement Manager Alasdair Nicoll, avslöjar att kortbetalningar för CivitAI (vars virtuella pengasystem "buzz" mestadels drivs av verkliga kredit- och betalkort) kommer att stoppas från och med denna fredag ​​(23 maj 2025).

Detta förhindrar att användare förnya månatliga medlemskap eller köpa nya Buzz-produkter. Nicoll rekommenderar dock att användare kan behålla nuvarande medlemsprivilegier genom att byta till ett årsmedlemskap (kostnadsberäkning^†† 100–550 USD) före fredag, är framtiden uppenbarligen något osäker för domänen just nu (Det bör noteras att årliga medlemskap gick live samtidigt som tillkännagivandet om förlusten av betalningsbehandlare gjordes).

Angående avsaknaden av en betalningsleverantör säger Nicoll Vi pratar med alla leverantörer som är bekväma med AI-innovation.

Angående misslyckandet med de senaste ansträngningarna att på ett adekvat sätt ompröva webbplatsens ofta kritiseras policyer kring kändis-AI och NSFW-innehåll, skriver Nicoll i inlägget:

"Vissa betalningsföretag stämplar generativa AI-plattformar som högrisk, särskilt när vi tillåter användargenererat vuxet innehåll, även när det är lagligt och modererat. Det policyvalet, inte något användarna gjorde, tvingade fram avstängningen."

En kommentar från användaren 'Faeia', utsedd till företagets stabschef i deras CivitAI profil*, lägger till sammanhang till detta tillkännagivande:

"Bara för att klargöra, vi tas bort från betalningsleverantören eftersom vi valde att inte ta bort NSFW-innehåll och vuxeninnehåll från plattformen. Vi är fortsatt engagerade i att stödja alla typer av kreatörer och arbetar med alternativa lösningar."

Som en traditionell drivkraft för ny teknik, det är inte ovanligt att NSFW-innehåll används för att kickstarta intresset inom en domän, teknologi eller plattform – bara för att de initiala anhängarna ska avvisas när tillräckligt med "legitimt" kapital och/eller en användarbas har etablerats (dvs. tillräckligt med användare för att enheten ska överleva, när den berövats ett NSFW-sammanhang).

Det verkade ett tag som att CivitAI skulle följa efter tumblr och diverse andra initiativ på den här vägen mot en "sanerad" produkt redo att glömma sina rötter. Men den ytterligare och växande kontrovers/stigma kring AI-genererat innehåll av någon sort representerar en kumulativ vikt som i det här fallet verkar vara avsedd att förhindra en räddning i sista minuten. Under tiden rekommenderar det officiella tillkännagivandet användare att använda krypto som en alternativ betalningsmetod.

Fake Out

President Donald Trumps ankomst entusiastiskt signering den federala TA NER DEN Lagen har sannolikt påverkat några av dessa händelser. Den nya lagen kriminaliserar distribution av icke-samtyckande intima bilder, inklusive AI-genererade deepfakes.

Lagstiftningen föreskriver att plattformar ska ta bort flaggat innehåll inom 48 timmar, med Federal Trade Commission som övervakar verkställigheten. Lagens straffrättsliga bestämmelser träder i kraft omedelbart, vilket möjliggör åtal mot individer som medvetet publicerar eller hotar att publicera icke-samtyckande intima bilder (inklusive AI-genererade deepfakes) inom USA:s behörighetsområde.

Även om lagen fick sällsynt stöd från båda partierna, samt stöd från teknikföretag och intresseorganisationer, menar kritiker att den kan undertrycka legitimt innehåll och hota integritetsverktyg som kryptering. Förra månaden förklarade Electronic Frontier Foundation (EFF) motstånd mot lagförslaget, och hävdar att de borttagningsmekanismer som den föreskriver riktar sig mot ett bredare område av material än den snävare definitionen av icke-samtyckande intima bilder som finns på andra ställen i lagstiftningen.

”Bestämmelsen om borttagning i TAKE IT DOWN gäller en mycket bredare kategori av innehåll – potentiellt alla bilder som innehåller intimt eller sexuellt innehåll – än de snävare NCII-definitionerna som finns på andra ställen i lagförslaget. Bestämmelsen om borttagning saknar också viktiga skyddsåtgärder mot oseriösa eller ondskefulla begäranden om borttagning.”

Tjänsterna kommer att förlita sig på automatiserade filter, vilka är ökänt trubbiga verktyg. De flaggar ofta lagligt innehåll, från kommentarer om rättvis användning till nyhetsrapportering. Lagens snäva tidsram kräver att appar och webbplatser tar bort yttranden inom 48 timmar, vilket sällan är tillräckligt med tid för att verifiera om yttrandet faktiskt är olagligt.

"Som ett resultat kommer onlinetjänsteleverantörer, särskilt mindre sådana, sannolikt att välja att undvika den betungande juridiska risken genom att helt enkelt avpublicera talet snarare än att ens försöka verifiera det."

Plattformar har nu upp till ett år från lagens ikraftträdande på sig att etablera en formell process för anmälan och borttagning, vilket gör det möjligt för berörda individer eller deras ombud att åberopa lagen för att begära borttagning av innehåll.

Det betyder att även om de straffrättsliga bestämmelserna träder i kraft omedelbart, är plattformar inte rättsligt skyldiga att följa infrastrukturen för borttagning (såsom att ta emot och behandla förfrågningar) förrän ettårsperioden har löpt ut.

Täcker TAKE IT DOWN-lagen AI-genererat kändisinnehåll?

Även om TAKE IT DOWN-lagen går över alla delstatsgränser, förbjuder den inte nödvändigtvis all AI-driven media av kändisar. Lagen kriminaliserar distribution av icke-samtyckande intima bilder, Inklusive AI-genererade deepfakes, endast när den avbildade individen hade en rimliga förväntningar på integritet:

Lagen säger:

"(2) BROTT SOM INVÅR AUTENTISKA INTIMMA VISUELLA AVSKILJNINGAR."

"(A) ATT INVOLVERA VUXNA. — Utom [för bevisupptagning, rapporteringsändamål etc.]Det är olagligt för någon person, i handel mellan delstater eller utrikes, att använda en interaktiv datortjänst för att medvetet publicera en intim visuell skildring av en identifierbar person som inte är minderårig om—

”(i) den intima visuella skildringen erhölls eller skapades under omständigheter där personen visste eller rimligen borde ha vetat att den identifierbara individen hade en rimlig förväntan om integritet;

"(ii) det som avbildas inte frivilligt exponerades av den identifierbara individen i en offentlig eller kommersiell miljö [dvs. egenutgiven porr];

"(iii) det som avbildas inte är av allmän betydelse; och

”(iv) publicering av den intima visuella skildringen—

"(I) är avsedd att orsaka skada; eller

"(II) orsakar skada, inklusive psykisk, ekonomisk eller anseendemässig skada, för den identifierbara individen."

Villkoret "rimlig förväntan om integritet" som tillämpas här har inte traditionellt föredragen kändisars rättigheter. Beroende på den rättspraxis som så småningom framträder är det möjligt att även explicit AI-genererat innehåll som involverar offentliga personer i offentliga eller kommersiella miljöer kanske inte omfattas av lagens förbud.

Den sista klausulen om att fastställa utsträckning av skada är berömt elastisk i juridiska termer, och i denna mening tillför inget särskilt nytt till den lagstiftande bördan. Emellertid uppsåt Att orsaka skada skulle tyckas begränsa lagens tillämpningsområde till sammanhanget "hämndporr", där en (okänd) före detta partner publicerar verkligt eller falskt medieinnehåll av en (lika okänd) annan före detta partner.

Även om lagens krav på ”skadegörelse” kan verka olämpligt i fall där anonyma användare publicerar AI-genererade skildringar av kändisar, kan det visa sig vara mer relevant i stalking-scenarier, där ett bredare mönster av trakasserier stöder slutsatsen att en individ avsiktligt och illvilligt har riktat in sig på en offentlig person på flera fronter.

Även om lagens hänvisning till ”plattformar som omfattas” utesluter privata kanaler som Signal eller e-post från dess bestämmelser om borttagning, gäller detta undantag endast skyldigheten att implementera en formell borttagningsmekanism senast i maj 2026. Det betyder inte att AI utan samtycke eller verkliga avbildningar som delas genom privat kommunikation faller utanför lagens straffrättsliga förbud.

Bristen på rapporteringsmekanismer på plats hindrar givetvis inte berörda parter från att anmäla det som nu är olagligt innehåll till polisen; inte heller hindras sådana parter från att använda de konventionella kontaktmetoder som en webbplats kan erbjuda för att lämna in ett klagomål och begära borttagning av stötande material.

Rättigheterna som lämnas kvar

Mer än sju år av ökande offentlig och mediekritik mot deepfake-innehåll verkar ha kulminerat inom en ovanligt kort tidsperiod. Även om TAKE IT DOWN Act erbjuder omfattande federala förbud, kanske den inte gäller i alla fall som involverar AI-genererade simuleringar, vilket innebär att vissa scenarier måste hanteras inom ramen för det växande lapptäcket av deepfake-lagstiftning på delstatsnivå, där de lagar som antas ofta återspeglar "lokalt intresse".

Till exempel i Kalifornien, Kaliforniens kändisrättslag begränsar den exklusiva användningen av en kändis identitet till dem själva och deras egendom, även efter deras död; omvänt, Tennessees ELVIS lag fokuserar på att skydda musiker från obehörig AI-genererad röst- och bildreproduktion, där varje fall återspeglar en riktad strategi gentemot intressegrupper som är framträdande på delstatsnivå.

De flesta stater nu har lagar inriktade på sexuella deepfakes, även om många inte klargör om dessa skydd omfattar lika mycket privatpersoner som offentliga personer. Samtidigt har de politiska deepfakes som enligt uppgift hjälpt till sporre Donald Trumps stöd för den nya federala lagen kan i praktiken stöta på konstitutionella hinder i vissa sammanhang.

^† Arkiverad version: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arkiverad version (innehåller inte månadspriser): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Den faktiska 'stabschefen' för VD:n på CivitAI är listade på LinkedIn under ett annat namn, medan det liknande klingande 'Faiona' är en officiell CivitAI-moderator på domänens subreddit.

Först publicerad tisdagen den 20 maj 2025