CivitAI i ny krise med betalingsudbydere, efter at Trump underskriver en anti-deepfake-lov

Præsident Trump har nu underskrevet Take It Down Act, der kriminaliserer seksuelle deepfakes på føderalt niveau i USA. Samtidig har CivitAI-fællesskabets forsøg på at "rydde op" i forhold til NSFW AI og kendis-output i sidste ende ikke formået at tilfredsstille betalingsbehandlerne, hvilket har ført til, at siden har søgt alternativer eller står over for lukning. Alt dette på blot to uger siden, at den ældste og største deepfake-pornoside i verden gik offline...

Det har været et par skelsættende uger for den uregulerede deepfaking af billeder og videoer. For lidt over to uger siden tog det førende domæne for deling af deepfake-porno blandt kendisser, Mr. Deepfakes, pludselig sig selv offline efter mere end syv år i en dominerende og ... meget studerede position som det globale fokuspunkt for seksualiseret AI-kendisindhold. Da siden gik ned, modtog den en gennemsnit på mere end fem millioner besøg en måned.

Baggrund, Mr. Deepfakes-domænet i starten af ​​maj; indsat, suspenderingsmeddelelsen, nu erstattet af en 404-fejl, da domænet tilsyneladende blev købt af en ukendt køber den 4. maj 2025 (https://www.whois.com/whois/mrdeepfakes.com). Kilde: mrdeepfakes.com

Ophøret af tjenester for Mr. Deepfakes blev officielt tilskrives til tilbagetrækningen af ​​en 'kritisk tjenesteudbyder' (se indsat billede ovenfor, som blev erstattet af domænefejl inden for en uge). En kollaborativ journalistisk undersøgelse havde dog afanonymiserede en nøglefigur bag Mr. Deepfakes lige før nedlukningen, hvilket muliggjorde, at webstedet blev lukket af den pågældende persons personlige og/eller juridiske årsager.

Omkring samme tid blev CivitAI, den kommercielle platform, der i vid udstrækning bruges til kendis- og NSFW-brugere, udgivet. LoRA'er, indførte en række usædvanlige og kontroversielle selvcensurforanstaltningerDisse påvirkede generering af deepfakes, modelhosting og en bredere række nye regler og restriktioner, herunder fuldstændige forbud mod vis marginale NSFW-fetisher. og hvad den kaldte 'ekstremistiske ideologier'.

Disse foranstaltninger blev foranlediget af betalingsudbydere, der tilsyneladende truede med at trække tjenester tilbage fra domænet, medmindre der blev foretaget ændringer vedrørende NSFW-indhold og skildringer af kendisser med AI.

CivitAI-afbrydelse

Det ser ud til, at de foranstaltninger, som CivitAI har truffet, ikke har tilfredsstillet VISA og Mastercard: nyt opslag^† på hjemmesiden afslører Community Engagement Manager Alasdair Nicoll, at kortbetalinger for CivitAI (hvis virtuelle pengesystem 'buzz' primært drives af virkelige kredit- og betalingskort) vil blive stoppet fra denne fredag ​​(23. maj 2025).

Dette vil forhindre brugere i at forny månedlige medlemskaber eller købe nye Buzz-abonnementer. Nicoll anbefaler dog, at brugere kan bevare nuværende medlemskabsprivilegier ved at skifte til et årligt medlemskab (koster^†† $100-$550 USD) før fredag, er fremtiden tydeligvis noget usikker for domænet på nuværende tidspunkt (Det skal bemærkes, at årlige medlemskaber gik live samtidig med at annonceringen om tabet af betalingsudbydere blev fremsat).

Angående manglen på en betalingsprocessor, siger Nicoll Vi taler med alle udbydere, der er fortrolige med AI-innovation..

Hvad angår de seneste bestræbelser på at gentænke webstedets ofte kritiseret Politikker omkring kendis-AI og NSFW-indhold, skriver Nicoll i opslaget:

"Nogle betalingsvirksomheder betegner generative AI-platforme som højrisiko, især når vi tillader brugergenereret indhold for voksne, selv når det er lovligt og modereret. Det var det politiske valg, ikke noget brugerne gjorde, der tvang nedskæringen."

En kommentar fra brugeren 'Faeia', udpeget som virksomhedens stabschef i deres CivitAI profil*, tilføjer kontekst til denne meddelelse:

"Bare for at præcisere, vi bliver fjernet fra betalingssystemet, fordi vi valgte ikke at fjerne NSFW og voksenindhold fra platformen. Vi er fortsat forpligtet til at støtte alle slags skabere og arbejder på alternative løsninger."

Som en traditionel drivkraft bag nye teknologier, er det ikke ualmindeligt, at NSFW-indhold bruges til at kickstart interessen inden for et domæne, en teknologi eller en platform – kun for at de oprindelige tilhængere bliver afvist, når der er etableret tilstrækkelig 'legitim' kapital og/eller en brugerbase (dvs. nok brugere til, at enheden kan overleve, når den er frataget en NSFW-kontekst).

Det så i et stykke tid ud til, at CivitAI ville følge efter tumblr og diverse andre initiativer i denne retning mod et 'saneret' produkt, der er klar til at glemme sine rødder. Imidlertid er de yderligere og voksende kontrovers/stigmatisering omkring AI-genereret indhold af enhver art repræsenterer en kumulativ vægt, der i dette tilfælde synes at forhindre en redningsaktion i sidste øjeblik. I mellemtiden råder den officielle meddelelse brugerne til at anvende krypto som en alternativ betalingsmetode.

Falsk ud

Præsident Donald Trumps ankomst med entusiasme signering den føderale TAG DEN NED Loven har sandsynligvis påvirket nogle af disse begivenheder. Den nye lov kriminaliserer distribution af intime billeder uden samtykke, herunder AI-genererede deepfakes.

Lovgivningen kræver, at platforme fjerner markeret indhold inden for 48 timer, og håndhævelsen overvåges af Federal Trade Commission. Lovens strafferetlige bestemmelser træder i kraft med det samme og giver mulighed for retsforfølgning af personer, der bevidst offentliggør eller truer med at offentliggøre intime billeder uden samtykke (herunder AI-genererede deepfakes) inden for USA's ansvarsområde.

Selvom loven sjældent fik støtte fra begge partier, samt opbakning fra techvirksomheder og interessegrupper, argumenterer kritikere for, at den kan undertrykke legitimt indhold og true privatlivsværktøjer som kryptering. Sidste måned erklærede Electronic Frontier Foundation (EFF) modstand mod lovforslaget, der hævder, at de fjernelsesmekanismer, den pålægger, er rettet mod et bredere udvalg af materiale end den snævrere definition af ikke-samtykkelige intime billeder, der findes andre steder i lovgivningen.

Bestemmelsen om fjernelse i TAKE IT DOWN gælder for en langt bredere kategori af indhold – potentielt alle billeder, der involverer intimt eller seksuelt indhold – end de snævrere NCII-definitioner, der findes andre steder i lovforslaget. Bestemmelsen om fjernelse mangler også kritiske sikkerhedsforanstaltninger mod useriøse eller onde anmodninger om fjernelse.

Tjenesterne vil være afhængige af automatiserede filtre, som er notorisk sløve værktøjer. De markerer ofte lovligt indhold, lige fra kommentarer om fair use til nyhedsrapportering. Lovens stramme tidsramme kræver, at apps og websteder fjerner tale inden for 48 timer, hvilket sjældent er nok tid til at verificere, om talen rent faktisk er ulovlig.

"Som følge heraf vil onlineudbydere, især mindre virksomheder, sandsynligvis vælge at undgå den byrdefulde juridiske risiko ved blot at afpublicere talen i stedet for overhovedet at forsøge at verificere den."

Platforme har nu op til et år fra lovens ikrafttrædelse til at etablere en formel proces til underretning og fjernelse, der gør det muligt for berørte personer eller deres repræsentanter at påberåbe sig loven til at søge fjernelse af indhold.

Det betyder, at selvom de strafferetlige bestemmelser træder i kraft med det samme, er platforme ikke juridisk forpligtede til at overholde infrastrukturen for fjernelse (såsom modtagelse og behandling af anmodninger), før dette etårige vindue er udløbet.

Dækker TAKE IT DOWN-loven AI-genereret kendisindhold?

Selvom TAKE IT DOWN-loven krydser alle statsgrænser, forbyder den ikke nødvendigvis alle AI-drevne medier af berømtheder. Loven kriminaliserer distribution af ikke-samtykkende intime billeder, herunder AI-genererede deepfakes, kun når den afbildede person havde en rimelig forventning om privatlivets fred:

Loven siger:

"(2) FORSEELSE, DER OMFATTER AUTENTISKE INTIME VISUELLE AFSKILDRINGER."

"(A) INVOLVERER VOKSNE. — Undtagen [til bevisførelse, rapporteringsformål osv.]Det er ulovligt for enhver person i mellemstatlig eller udenlandsk handel at bruge en interaktiv computertjeneste til bevidst at offentliggøre en intim visuel skildring af en identificerbar person, der ikke er mindreårig, hvis—

"(i) den intime visuelle skildring blev opnået eller skabt under omstændigheder, hvor personen vidste eller med rimelighed burde have vidst, at den identificerbare person havde en rimelig forventning om privatliv;"

"(ii) det, der er afbildet, ikke frivilligt blev eksponeret af den identificerbare person i et offentligt eller kommercielt miljø [dvs. selvudgivet porno];

"(iii) det, der er afbildet, er ikke af offentlig interesse; og

"(iv) offentliggørelse af den intime visuelle skildring—

"(I) har til hensigt at forårsage skade; eller

"(II) forårsager skade, herunder psykisk, økonomisk eller omdømmemæssig skade, på den identificerbare person."

Den her anvendte betingelse om 'rimelig forventning om privatliv' har ikke traditionelt foretrukket berømtheders rettigheder. Afhængigt af den retspraksis, der i sidste ende fremkommer, er det muligt, at selv eksplicit AI-genereret indhold, der involverer offentlige personer i offentlige eller kommercielle sammenhænge, ​​falder muligvis ikke ind under lovens forbud.

Den sidste bestemmelse om fastlæggelse af udstrækning af skade er berømt elastisk juridisk set, og i denne forstand tilføjer det intet særligt nyt til den lovgivningsmæssige byrde. Imidlertid hensigt At forårsage skade synes at begrænse lovens anvendelsesområde til konteksten af ​​'hævnporno', hvor en (ukendt) ekspartner offentliggør ægte eller falsk medieindhold fra en (lige så ukendt) anden ekspartner.

Selvom lovens krav om "skade" kan synes uegnet til tilfælde, hvor anonyme brugere poster AI-genererede skildringer af berømtheder, kan det vise sig mere relevant i stalking-scenarier, hvor et bredere mønster af chikane understøtter konklusionen om, at en person bevidst og ondsindet har målrettet en offentlig person på flere fronter.

Selvom lovens henvisning til "omfattede platforme" udelukker private kanaler som Signal eller e-mail fra dens bestemmelser om fjernelse, gælder denne udelukkelse kun for forpligtelsen til at implementere en formel fjernelsesmekanisme senest i maj 2026. Det betyder ikke, at ikke-samtykkende kunstig intelligens eller reelle skildringer, der deles via privat kommunikation, falder uden for lovens strafferetlige forbud.

Manglen på rapporteringsmekanismer på stedet forhindrer naturligvis ikke berørte parter i at anmelde, hvad der nu er ulovligt indhold, til politiet; sådanne parter er heller ikke afskåret fra at bruge de konventionelle kontaktmetoder, som et websted måtte stille til rådighed, til at indgive en klage og anmode om fjernelse af stødende materiale.

De rettigheder, der er tilbage

Mere end syv års stigende offentlig og mediemæssig kritik af deepfake-indhold synes at være kulmineret inden for usædvanligt kort tid. Men selvom TAKE IT DOWN Act tilbyder omfattende føderale forbud, gælder den muligvis ikke i alle tilfælde, der involverer AI-genererede simuleringer, hvilket efterlader visse scenarier, der skal håndteres under det voksende kludetæppe af deepfake-lovgivning på statsniveau, hvor de vedtagne love ofte afspejler "lokal interesse".

For eksempel i Californien, Californiens lov om rettigheder for berømtheder begrænser den eksklusive brug af en berømtheds identitet til dem selv og deres ejendom, selv efter deres død; omvendt, Tennessees ELVIS lov fokuserer på at beskytte musikere mod uautoriseret AI-genereret stemme- og billedgengivelse, hvor hver sag afspejler en målrettet tilgang til interessegrupper, der er fremtrædende på statsniveau.

De fleste stater har nu love målrettet seksuelle deepfakes, selvom mange ikke præciserer, om disse beskyttelser gælder ligeligt for privatpersoner og offentlige personer. I mellemtiden er de politiske deepfakes, der angiveligt hjalp anspore Donald Trumps støtte til den nye føderale lov kan i praksis støde på konstitutionelle barrierer i visse sammenhænge.

^† Arkiveret version: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arkiveret version (uden månedlige priser): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Den faktiske 'stabschef' for administrerende direktør hos CivitAI er opført på LinkedIn under et ikke-relateret navn, mens det lignende lydende 'Faiona' er en officiel CivitAI-medarbejdermoderator på domænets subreddit.

Først udgivet tirsdag den 20. maj 2025