CivitAI joutuu uuden maksupalvelun kriisiin, kun Trump allekirjoittaa vasta-Deepfake-lain

Presidentti Trump on allekirjoittanut Take It Down -lain, joka kriminalisoi seksuaaliset deepfake-kuvat liittovaltion tasolla Yhdysvalloissa. Samaan aikaan CivitAI-yhteisön pyrkimys “puhdistaa” NSFW-ai- ja julkkis sisältö on lopulta epäonnistunut maksupalvelujen miellyttämisessä, mikä johtaa sivuston etsimään vaihtoehtoja tai käyttäjien kohtaamiseen sulkemisen kanssa. Kaikki tämä vain kahden viikon kuluttua siitä, kun maailman vanhin ja suurin deepfake-pornosivusto poistui verkosta…

On ollut merkittävä viikonloppu sääntelemättömän kuvan ja videon deepfake-tekniikan osalta. Vain kaksi viikkoa sitten, julkkisten deepfake-pornon jakamiseen keskittyvä sivusto Mr. Deepfakes poistui verkosta yli seitsemän vuoden jälkeen oltuaan johtava ja laajasti tutkittu globaali keskus seksuaalisten ai-julkkis sisällön jakamiseen. Sivusto sai silloin keskimäärin yli viisi miljoonaa kävijää kuukaudessa.

Tausta, Mr. Deepfakes -sivusto toukokuun alussa; sisäänvedettynä, keskeytysilmoitus, joka on nyt korvattu 404-virheellä, kun sivusto oli ilmeisesti myyty tuntemattomalle ostajalle 4. toukokuuta 2025 (https://www.whois.com/whois/mrdeepfakes.com). Lähde: mrdeepfakes.com

Mr. Deepfakesin palvelujen lopettamisen virallinen syy oli kriittisen palveluntarjoajan (ks. yllä oleva kuvan sisäänvedettynä, joka korvattiin verkkosivun epäonnistumisella viikon kuluessa) poisjäänti. Kuitenkin yhteistyössä tehty journalistinen tutkimus oli de-anonyymi Mr. Deepfakesin taustalla olevan avainhenkilön suoraan ennen sulkemista, jolloin sivusto saattoi olla suljettu kyseisen henkilön henkilökohtaisten ja/tai oikeudellisten syiden vuoksi.

Suunnilleen samaan aikaan CivitAI, kaupallinen alusta, jota käytetään laajasti julkkisten ja NSFW-ai- LoRAt, asetti joukon epätavallisia ja kiistanalaisia itseensänpuhdistus toimenpiteitä. Nämä vaikuttivat deepfake-kuvien luomiseen, mallien isäntäpalveluihin ja laajempaan joukkoon uusia sääntöjä ja rajoituksia, mukaan lukien täydelliset kiellot tietyistä marginaalisista NSFW-fetisseistä ja niiden määrittelemistä “ääriliikkeiden ideologioista”.

Nämä toimenpiteet johtuivat maksupalvelujen uhkaavan lopettaa palvelunsa, jos muutoksia NSFW-sisällön ja julkkis-ai-kuvausten suhteen ei tehtäisi.

CivitAI Cut Off

Tällä hetkellä näyttää siltä, että CivitAI:n toteuttamat toimenpiteet eivät ole miellyttäneet VISAa ja Mastercardia: uusi julkaisu^† sivustolla, joka on yhteisöllisen osallistumisen johtajan Alasdair Nicollin kirjoittama, paljastaa, että CivitAI:n korttimaksut (jonka “buzz” -virtuaalivaluutta perustuu pääasiassa oikeisiin luottokortteihin ja maksukortteihin) lopetetaan tulevana perjantaina (23. toukokuuta 2025).

Tämä estää käyttäjien uusimasta kuukausimaksuja tai ostamasta uutta buzzia. Vaikka Nicoll neuvoo, että käyttäjät voivat ylläpitää nykyisiä jäsenyyden etuja siirtymällä vuosittaiseen jäsenyyteen (hinta^†† 100-550 USD) ennen perjantaita, on selvää, että sivuston tulevaisuus on jonkin verran epävarma tällä hetkellä (On huomattava, että vuosittaiset jäsenyydet tulivat voimaan samaan aikaan, kun ilmoitus maksupalveluiden menetyksestä tehtiin).

Maksupalvelun puutteen suhteen Nicoll sanoo ‘Puhumme jokaisen tarjoajan kanssa, joka on mukana ai-innovaatioissa’.

Sivuston viimeaikaisten pyrkimysten epäonnistumisesta uudelleenajattelemaan sivuston usein kritisoituja käytäntöjä julkkis-ai- ja NSFW-sisällön suhteen Nicoll toteaa ilmoituksessa:

‘Jotkut maksupalvelut merkitsevät generatiivisen ai-alustat korkean riskin, erityisesti kun sallimme käyttäjien luomaa aikuisten sisältöä, vaikka se on laillista ja moderoidaan. Tämä päätös, ei mitään, mitä käyttäjät tekivät, pakotti sulkemisen.’

Käyttäjän ‘Faeia’ kommentti, joka on nimetty yhtiön johtajan sijaisena CivitAI-profiilissa*, antaa lisäkontekstia tähän ilmoitukseen:

‘Vain selventämisen vuoksi, meidät poistetaan maksupalvelusta, koska emme poistaneet NSFW- ja aikuisten sisältöä alustalta. Olemme sitoutuneita tukemaan kaikenlaisia luovia ihmisiä ja työskentelemme vaihtoehtoisten ratkaisujen parissa.’

Perinteisenä uusien teknologioiden ajuria, ei ole epätavallista, että NSFW-sisältöä käytetään kiinnostuksen herättämiseen alustalla, teknologiassa tai sivustolla – vain, että alkuperäiset kannattajat hylätään, kun riittävästi “legitiimiä” pääomaa ja/tai käyttäjäkuntaa on saavutettu (ts. riittävästi käyttäjiä, jotta yksikkö voi selviytyä, kun se on paljastettu NSFW-kontekstista).

Näytti siltä, että CivitAI seuraisi Tumblrin ja monien muiden aloitteiden jalanjäljissä tällä tiellä “puhdastettuun” tuotteeseen, joka on valmis unohtamaan juurensa. Kuitenkin ai-sisällön ympärillä kasvava kiistanalaisuus/stigma edustaa kertyvää painoa, joka näyttää estävän viimehetken pelastuksen tässä tapauksessa. Sillä aikaa virallinen ilmoitus neuvoo käyttäjien käyttämään salausvälineitä vaihtoehtoisena maksutapana.

Fake Out

Presidentti Donald Trumpin intohimoinen allekirjoitus Take It Down -lakiin on todennäköisesti vaikuttanut joihinkin näistä tapahtumista. Uusi laki kriminalisoi ei-suostuvien intiimien kuvien jakamisen, mukaan lukien ai-generoitu deepfake-kuvat.

Laki edellyttää, että alustat poistavat merkityt sisällöt 48 tunnin kuluessa, ja valvontaa valvoo Federal Trade Commission. Lakien rikokselliset määräykset tulevat voimaan välittömästi, sallien yksilöiden syytteen, jotka tietäen julkaisevat tai uhkaavat julkaista ei-suostuvia intiimejä kuvia (mukaan lukien ai-generoitu deepfake-kuvat) Yhdysvaltojen alueella.

Vaikka laki sai harvinaisen bipartisaarisen tuen, sekä teknologiayritysten ja kansalaisjärjestöjen tukemisen, kriitikot väittävät, että se voi tukahduttaa legitiimiä sisältöä ja uhata tietosuojatyökaluja, kuten salausta. Viime kuussa Electronic Frontier Foundation (EFF) ilmoitti vastustavansa lakiehdotusta, väittäen, että siinä vaaditut poistotoimenpiteet kohdistuvat laajempaan joukkoon materiaalia kuin lakiehdotuksessa määritelty kapeampi määritelmä ei-suostuvista intiimistä kuvista.

‘Poistotoimenpide Take It Down -laissa koskee laajempaa luokkaa sisältöä – potentiaalisesti mitä tahansa kuvia, jotka sisältävät intiimiä tai seksuaalista sisältöä – kuin kapeampi määritelmä ei-suostuvista intiimistä kuvista, joka on muualla lakiehdotuksessa. Poistotoimenpide puuttuu myös kriittisistä suojaustoimista huvittavien tai pahantahtoisten poistopyyntöjen varalta.

‘Palvelut turvautuvat automaattisiin suodattimiin, jotka ovat maineeltaan tylsiä työkaluja. Ne usein merkkaavat laillista sisältöä, kuten reilun käytön kommentteja tai uutisointia. Lakin tiukka aikaraja edellyttää, että sovellukset ja verkkosivustot poistavat puheen 48 tunnin kuluessa, harvoin riittävästi aikaa vahvistaa, onko puhe todella laitonta.

‘Tuloksena verkkopalvelujen tarjoajat, erityisesti pienemmät, valitsevat todennäköisesti välttämään raskasta oikeudellista riskiä poistamalla puheen sen sijaan, että yrittäisivät vahvistaa sen.’

Alustat ovat saaneet enintään vuoden ajan lakiehdotuksen hyväksymisestä perustaa virallinen ilmoitus- ja poistoprosessi, joka mahdollistaa vaikuttuneiden yksilöiden tai heidän edustajiensa kehottaa lakia sisällön poistamiseksi.

Tämä tarkoittaa, että vaikka rikokselliset määräykset ovat välittömästi voimassa, alustoja ei oikeudellisesti vaadita noudattamaan poistoinfrastruktuuria (kuten vastaanottamista ja prosessointia pyynnöistä) ennen kuin yhden vuoden aikajakso on kulunut umpeen.

Onko Take It Down -laki koskee ai-generoituja julkkis sisältöjä?

Vaikka Take It Down -laki ylittää osavaltioiden rajat, se ei välttämättä kiellä kaikkea ai-vetoinen mediaa julkkiksista. Laki kriminalisoi ei-suostuvien intiimien kuvien jakamisen, mukaan lukien ai-generoitu deepfake-kuvat, vain silloin, kun kuvattu yksilöllä on oikeutettu odotus yksityisyydestä:

Laki toteaa:

“(2) RIKOS, JOKA LIITTYY AIDON INTIIMIIN VISUAALISEEN ESITYKSEEN.

“(A) AIDOT. Poikkeuksena (esim. todisteellisista, raportointitarkoituksista jne.)

“on laitonta jokaiselle henkilölle, joka toimii valtioiden tai ulkomaisten kauppojen kanssa, käyttää interaktiivista tietokonepalvelua tietoisesti julkaistakseen intiimin visuaalisen esityksen tunnistettavasta yksilöstä, joka ei ole alaikäinen, jos –

“(i) intiimi visuaalinen esitys hankittiin tai luotiin olosuhteissa, joissa henkilö tiesi tai olisi pitänyt tietää, että tunnistettava yksilöllä oli oikeutettu odotus yksityisyydestä;

“(ii) mitä esitetään, ei ollut vapaaehtoisesti paljastettu tunnistettavalle yksilölle julkisessa tai kaupallisessa ympäristössä

“(iii) mitä esitetään, ei ole julkisen huomion kohteena; ja

“(iv) julkaisu intiimistä visuaalisesta esityksestä –

“(I) on tarkoitettu aiheuttamaan vahinkoa; tai

“(II) aiheuttaa vahinkoa, mukaan lukien psyykkistä, taloudellista tai mainetta vaarantavaa vahinkoa, tunnistettavalle yksilölle.

“Oikeutettu odotus yksityisyydestä” -ehdon soveltaminen tässä on perinteisesti suosinut julkkisten oikeuksia. Riippuen siitä, mikä laki kehittyy lopulta, on mahdollista, että jopa selkeät ai-generoitu sisältö, joka sisältää julkisia henkilöitä julkisissa tai kaupallisissa ympäristöissä, ei välttämättä kuulu lakiehdotuksen kiellettyyn sisältöön.

Lopullinen pykälä vahingon määrän määrittämisestä on kuuluisasti joustava oikeudellisissa termeissä, ja se ei lisää mitään uutta lainsäädännön taakkaan. Kuitenkin tarkoitus aiheuttaa vahinkoa näyttää rajoittavan lakiehdotuksen soveltamisalaa “kostopornon” asiayhteyteen, jossa (tuntematon) entinen puoliso julkaisee oikean tai väärän median sisällön (tuntemattomalle) toiselle entiselle puolisolle.

Vaikka lakiehdotuksen “vahinko”-vaatimus saattaa näyttää sopimattomalta anonyymien käyttäjien julkaisemien ai-generoituja julkkis-kuvausten tapauksiin, se saattaa olla merkityksellisempää stalkkaustilanteissa, joissa laajempi häirintämalli tukee johtopäätöstä, että yksilö on tietoisesti ja ilkeästi kohdannut julkisen henkilön useilla rintamilla.

Vaikka lakiehdotuksen viittaus “kattaviin alustoihin” sulkee yksityiset kanavat, kuten Signalin tai sähköpostin, pois poistotoimenpiteistä, tämä poissulku koskee vain velvollisuutta perustaa virallinen poistoprosessi vuoden 2026 toukokuuhun mennessä. Se ei tarkoita, että ei-suostuvat ai- tai oikeat kuvat, jotka jaetaan yksityisissä viestintäkanavissa, ovat lakiehdotuksen rikoksellisten kiellettyjen sisältöjen ulottumattomissa.

On selvää, että yksityisten ilmoituskanavien puute ei estä vaikuttuneita osapuolia ilmoittamasta nyt laittomaksi julistettua sisältöä poliisille; eikä heitä estetä käyttämästä mitä tahansa yleisiä yhteydenottotapoja, joita sivusto saattaa tarjota, tekemään valitusta ja pyytämään loukkaavaa materiaalia poistamaan.

The Rights Left Behind

Yli seitsemän vuoden ajan kasautunut julkisen ja median arvostelu deepfake-sisällöstä on johtanut poikkeuksellisen lyhyeen aikaan. Kuitenkin Take It Down -laki tarjoaa laajat liittovaltion kiellot, mutta se ei välttämättä sovellu jokaisessa tapauksessa, jossa on ai-generoituja simulaatioita, jättäen tietyt skenaariot osavaltiokohtaisen deepfake-lainsäädännön kasvavan patchworkin käsiteltäviksi, jossa lait, jotka on hyväksytty, usein heijastavat “paikallista etua”.

Esimerkiksi Kaliforniassa Kalifornian julkkisten oikeuksien laki rajoittaa julkkisten identiteetin yksinomaiseen käyttöön heille itselleen ja heidän perheilleen, jopa heidän kuolemansa jälkeen; toisaalta Tennesseessä ELVIS-laki keskittyy suojeluun muusikoilta ai-generoituja ääni- ja kuvatallenteita, kunkin tapauksen heijastaen kohdennetun lähestymistavan paikallisiin eturyhmiin.

Useimmat osavaltiot olla lait, jotka kohdistuvat seksuaalisiin deepfake-kuviin, vaikka monet eivät selitä, laajenevatko nämä suojaukset yksityishenkilöille ja julkisille henkilöille. Sillä aikaa poliittiset deepfake-kuvat, jotka ilmeisesti rohkaisivat Donald Trumpin tukemaan uutta liittovaltion lakia, saattavat käytännössä törmätä perustuslaillisiin esteisiin tietyissä yhteyksissä.

^† Arkistoversio: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Arkistoversio (ei sisällä kuukausihintoja): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* CivitAI:n toimitusjohtajan todellinen “johtaja” on luetteloitu LinkedInissä eri nimellä, kun taas samankaltainen “Faiona” on virallinen CivitAI:n henkilöstön moderaattori sivuston subredditissä.

Julkaistu ensimmäisen kerran tiistaina, 20. toukokuuta 2025