CivitAI v nové krizi poskytovatele plateb, zatímco Trump podepisuje zákon proti deepfake

Prezident Trump nyní podepsal zákon TAKE IT DOWN, který kriminalizuje sexuální deepfaky na federální úrovni ve Spojených státech. Ve stejnou dobu se komunita CivitAI snažila “čistit svůj akt” ohledně NSFW AI a celeb obsahu, ale nakonec se jí to nepodařilo přesvědčit poskytovatele plateb, což vede k tomu, že stránky hledají alternativy nebo čelí ukončení. To vše během pouhých dvou týdnů od chvíle, kdy nejstarší a největší deepfake pornografický web na světě byl odstaven…

Bylo to významných několik týdnů pro stav neřízeného deepfaku obrazů a videí. Před více než dvěma týdny se nejvýznamnější doména pro sdílení celebrity deepfake porna, Mr. Deepfakes, náhle odstavila po více než sedmi letech v dominantní a mnohem studovaném postavení jako globální centrum pro sexualizovaný AI celebrity obsah. V době, kdy byl odstaven, web přijímal průměrně více než pět milionů návštěv měsíčně.

Pozadí, doména Mr. Deepfakes na počátku května; vložený, oznámení o pozastavení, nyní nahrazeno chybou 404, od té doby, co doména byla zřejmě koupena neznámým kupcem 4. května 2025 (https://www.whois.com/whois/mrdeepfakes.com). Zdroj: mrdeepfakes.com

Ukončení služeb pro Mr. Deepfakes bylo oficiálně připsáno stažení “kritického poskytovatele služeb” (viz vložený obrázek výše, který byl nahrazen selháním domény do týdne). Nicméně, spolupracující novinářská vyšetřování de-anonymizovalo klíčovou postavu za Mr. Deepfakes přímo před odstavením, což umožňuje možnost, že web byl odstaven z osobních a/nebo právních důvodů této osoby.

V okolí stejného času, CivitAI, komerční platforma široce používaná pro celebrity a NSFW LoRAs, uvalila sadu neobvyklých a kontroverzních samocenzurních opatření. Tato opatření ovlivnila generování deepfaku, hosting modelů a širší řadu nových pravidel a omezení, včetně úplných zákazů na určité okrajové NSFW fetiše a co nazvala “extremistickými ideologiemi”.

Tato opatření byla vyvolána poskytovateli plateb, kteří zřejmě hrozili stažením služeb z domény, pokud nebudou provedeny změny týkající se NSFW obsahu a AI zobrazení celebrit.

CivitAI Cut Off

Od dneška se zdá, že opatření přijatá CivitAI nepotěšila VISA a Mastercard: nový článek^† na webu, od manažera komunitní angažovanosti Alasdaira Nicolla, odhaluje, že platební karty pro CivitAI (jejíž “buzz” virtuální peníze jsou většinou poháněny skutečnými kreditními a debetními kartami) budou zastaveny od této pátky (23. května 2025).

To zabrání uživatelům v prodloužení měsíčních členství nebo nákup nových buzz. Nicméně Nicoll radí, že uživatelé si mohou zachovat stávající členství, pokud přejdou na roční členství (za cenu^†† 100-550 USD), před pátkem, jasně je budoucnost poměrně nejistá pro doménu v tomto okamžiku (Mělo by se poznamenat, že roční členství vstoupila v platnost ve stejnou dobu, kdy bylo oznámeno o ztrátě poskytovatelů plateb).

Ohledně nedostatku poskytovatele plateb Nicoll říká ‘Mluvíme s každým poskytovatelem, který je komfortní s inovací AI’.

Ohledně selhání nedávných pokusů o dostatečné přehodnocení politik webu týkajících se AI a NSFW obsahu, Nicoll ve svém příspěvku uvádí:

‘Některé platební společnosti označují generativní platformy AI za vysoké riziko, zejména když dovolíme uživatelům vytvářet zralý obsah, i když je legální a moderovaný. Tato volba politiky, ne něco, co uživatelé udělali, nás donutila k odstavení.’

Komentář od uživatele ‘Faeia’, označeného jako šéf personálu ve svém profilu CivitAI*, přidává kontext k tomuto oznámení:

‘Chci pouze upřesnit, že jsme odstraněni z poskytovatele plateb, protože jsme se rozhodli neodstranit NSFW a dospělý obsah z platformy. Zůstáváme věrni podpoře všech druhů tvůrců a pracujeme na alternativních řešeních.’

Jako tradiční hnací síla nových technologií, není neobvyklé, že NSFW obsah je používán k spuštění zájmu o doménu, technologii nebo platformu – pouze pro to, aby byli původní stoupenci odmítnuti, až je získána dostatečná “legitimní” kapitál a/nebo uživatelská základna (tj. dostatečně mnoho uživatelů pro to, aby entita přežila, když je zbavena NSFW kontextu).

Zdálo se, že CivitAI bude následovat Tumblr a různé jiné iniciativy na této cestě k “sanitizovanému” produktu, který zapomene na své kořeny. Nicméně, dodatečná a rostoucí kontroverze/stigma kolem AI vygenerovaného obsahu jakéhokoli druhu představuje kumulativní váhu, která se zdá být připravena zabránit poslednímu záchranu, v tomto případě. Mezitím oficiální oznámení radí uživatelům, aby přijali kryptoměnu jako alternativní platební metodu.

Fake Out

Příchod prezidenta Donalda Trumpa, který nadšeně podepsal federální zákon TAKE IT DOWN, pravděpodobně ovlivnil některé z těchto událostí. Nový zákon kriminalizuje distribuci nezáväzných intimitních obrazů, včetně AI vygenerovaných deepfaku.

Legislativa vyžaduje, aby platformy odstranily označený obsah do 48 hodin, s vymáháním dohlíženým Federální obchodní komisí. Trestné ustanovení zákona nabývá účinku okamžitě, umožňující stíhání jednotlivců, kteří vědomě zveřejňují nebo vyhrožují zveřejněním nezáväzných intimitních obrazů (včetně AI vygenerovaných deepfaku) v rámci Spojených států.

Ačkoli zákon získal vzácnou bipartisan podporu, stejně jako podporu technologických společností a advokačních skupin, kritici tvrdí, že může potlačit legitimní obsah a ohrozit nástroje pro ochranu soukromí, jako je šifrování. Minulý měsíc Electronic Frontier Foundation (EFF) prohlásila svůj odpor k návrhu zákona, tvrdící, že mechanismy odstranění, které stanoví, cílí na širší rozsah materiálu – potenciálně jakékoli obrázky zahrnující intimitní nebo sexuální obsah – než užší definice nezáväzných intimitních obrazů nalezených jinde v legislativě.

‘Ustanovení o odstranění v TAKE IT DOWN se vztahuje na mnohem širší kategorii obsahu – potenciálně jakékoli obrázky zahrnující intimitní nebo sexuální obsah – než užší definice NCII nalezené jinde v návrhu zákona. Ustanovení o odstranění také postrádá kritické záruky proti frivolním nebo zlým úmyslům odstranění.

‘Služby budou spoléhat na automatizované filtry, které jsou infamně tupými nástroji. Často označují legální obsah, od komentářů fair-use po zpravodajské zprávy. Úzký časový rámec vyžaduje, aby aplikace a webové stránky odstranily řeč do 48 hodin, zřídka dostatečně dlouho na to, aby ověřily, zda je řeč skutečně nelegální.

‘V důsledku toho budou online poskytovatelé služeb, zejména menší, pravděpodobně zvolí vyhnutí se právním rizikům tím, že prostě odstraní řeč, místo aby se pokusili ověřit ji.’

Platformy nyní mají až jeden rok od přijetí zákona, aby zavedly formální proces oznámení a odstranění, umožňující postiženým osobám nebo jejich zástupcům využít tento zákon při žádosti o odstranění obsahu.

To znamená, že i když jsou trestné ustanovení okamžitě účinná, platformy nejsou právně povinny dodržovat infrastrukturu odstranění (jako přijímání a zpracování žádostí), dokud nevyprší jeden rok.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Ačkoli zákon TAKE IT DOWN překračuje všechny státní hranice, nezakazuje nutně všechny AI poháněné média celebrit. Zákon kriminalizuje distribuci nezáväzných intimitních obrazů, včetně AI vygenerovaných deepfaku, pouze tehdy, když zobrazená osoba měla rozumnou očekávání soukromí:

Zákon stanoví:

“(2) PŘESTUPEK ZAPOJENÝ DO AUTENTICKÝCH INTIMNÍCH VIZUÁLNÍCH DEPIKCÍ.—

“(A) ZAPOJENÝ DO DOSPĚLÝCH.—Kromě [evidenčních, zpravodajských účelů atd.], je nezákonné pro jakoukoli osobu, v mezistátním nebo zahraničním obchodu, použít interaktivní počítačovou službu k vědomému zveřejnění intimitního vizuálního zobrazení identifikovatelné osoby, která není nezletilá, pokud—

“(i) intimitní vizuální zobrazení bylo získáno nebo vytvořeno za okolností, kdy osoba věděla nebo měla rozumně vědět, že identifikovatelná osoba měla rozumné očekávání soukromí;

“(ii) co je zobrazeno nebylo dobrovolně vystaveno identifikovatelnou osobou v veřejném nebo komerčním prostředí [tj. self-published porn];

“(iii) co je zobrazeno není věcí veřejného zájmu; a

“(iv) zveřejnění intimitního vizuálního zobrazení—

“(I) je určeno k způsobení újmy; nebo

“(II) způsobuje újmu, včetně psychologické, finanční nebo reputační újmy, identifikovatelné osobě.

“Rozumné očekávání soukromí” použitá zde nepřála práva celebrit. V závislosti na případové legislativě, která nakonec vyvstane, je možné, že i explicitní AI vygenerovaný obsah zahrnující veřejně známé osoby ve veřejném nebo komerčním prostředí nemusí spadat pod zákazy zákona.

Finální klauzule o určení rozsahu újmy je slavně elastická v právních termínech a v tomto smyslu nepřidává nic nového k legislativní zátěži. Nicméně, úmysl způsobit újmu se zdá omezit rozsah zákona na kontext “pomstychtivého porna”, kde neznámý ex-partner zveřejňuje skutečný nebo falešný mediální obsah neznámého ex-partnera.

Ačkoli požadavky zákona na “újmu” se mohou zdát nevhodné pro případy, kdy anonymní uživatelé zveřejňují AI vygenerovaná zobrazení celebrit, mohou být relevantnější ve scénářích stalkingu, kde širší vzorec harašení podporuje závěr, že jedinec úmyslně a zlomyslně cílil na veřejně známou osobu na více frontách.

Ačkoli zákon odkazuje na “zakryté platformy”, které vylučují soukromé kanály, jako je Signal nebo e-mail, z ustanovení o odstranění, toto vyloučení se vztahuje pouze na povinnost zavedení formálního mechanismu odstranění do května 2026. Neznamená to, že nezáväzné AI nebo skutečné zobrazení sdílené prostřednictvím soukromých komunikací spadají mimo rozsah zákazu zákona.

Zjevně, absence mechanismů pro hlášení na webu nebrání postiženým stranám v tom, aby oznámily, co je nyní nezákonný obsah, policii; ani je nebrání v tom, aby použily konvenční kontaktní metody, které web může poskytnout, aby podaly stížnost a vyžádaly si odstranění útočného materiálu.

The Rights Left Behind

Více než sedm let rostoucí veřejné a mediální kritiky deepfake obsahu se zdá, že vyvrcholilo v neobvykle krátkém časovém úseku. Nicméně, zatímco zákon TAKE IT DOWN nabízí federální zákazy, nemusí se vztahovat na každý případ zahrnující AI vygenerované simulace, což ponechává určitá scénáře, aby byly řešeny v rámci rostoucího patchworku státních zákonů o deepfaku, kde zákony často odrážejí “lokální zájem”.

Například v Kalifornii, California Celebrities Rights Act omezuje exkluzivní použití identity celebrity pouze pro ni a její dědice, i po smrti; naopak, Tennesseeho ELVIS Act se zaměřuje na ochranu hudebníků před neautorizovanými AI vygenerovanými reprodukcemi hlasu a obrazu, přičemž každý případ odráží cílený přístup k zájmovým skupinám, které jsou prominentní na státní úrovni.

Většina států nyní má zákony, které cílí na sexuální deepfaky, i když mnohé z nich nezjednodušují, zda tyto ochrany se stejným způsobem vztahují na soukromé osoby a veřejně známé osoby. Mezitím politické deepfaky, které údajně podpořily Trumpovu podporu pro nový federální zákon, mohou v praxi narazit na ústavní bariéry v určitých kontextech.

^† Archivovaná verze: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Archivovaná verze (neprezentuje měsíční ceny): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Skutečný “šéf personálu” CEO v CivitAI je seznam na LinkedInu pod nesouvisejícím jménem, zatímco podobně znějící “Faiona” je oficiální moderátor personálu CivitAI na subredditu domény.

První zveřejnění úterý, 20. května 2025