CivitAI w nowym kryzysie dostawcy płatności, gdy Trump podpisał ustawę przeciwko głębokim fałszerstwom

Prezydent Trump podpisał właśnie ustawę TAKE IT DOWN, która kryminalizuje seksualne głębokie fałszerstwa na poziomie federalnym w USA. W tym samym czasie społeczność CivitAI, która próbowała “oczyścić swoje działania” w odniesieniu do treści NSFW i celebryckich, ostatecznie nie zdołała zadowolić dostawców płatności, co skłoniło stronę do poszukiwania alternatyw lub grozi jej zamknięciem. Wszystko to w zaledwie dwa tygodnie od momentu, gdy najstarsza i największa strona z głębokimi fałszerstwami pornograficznymi na świecie została wyłączona…

Był to doniosły okres dla stanu nieuregulowanych głębokich fałszerstw obrazów i filmów. Jakieś dwa tygodnie temu, najważniejsza domena dla społeczności dzielącej się głębokimi fałszerstwami celebryckimi, Mr. Deepfakes, nagle wyłączyła się po ponad siedmiu latach dominacji i była szeroko badana jako globalne centrum dla seksualizowanych treści AI celebryckich. Do momentu, gdy strona została wyłączona, otrzymywała średnio ponad pięć milionów odwiedzin miesięcznie.

Tło, domena Mr. Deepfakes na początku maja; wstawka, powiadomienie o zawieszeniu, teraz zastąpione przez błąd 404, od momentu, gdy domena została Apparently zakupiona przez nieznanego nabywcę 4 maja 2025 r. (https://www.whois.com/whois/mrdeepfakes.com). Źródło: mrdeepfakes.com

Wstrzymanie usług Mr. Deepfakes zostało oficjalnie przypisane do wycofania “krytycznego dostawcy usług” (patrz obrazek powyżej, który został zastąpiony przez awarię domeny w ciągu tygodnia). Jednakże wspólna dziennikarska śledztwo zdeanonimizowało kluczową postać za Mr. Deepfakes bezpośrednio przed wyłączeniem, co pozwala na możliwość, że strona została zamknięta z powodu osobistych i/lub prawnych powodów tej osoby.

Wokół tego samego czasu, CivitAI, platforma komercyjna powszechnie używana do celebryckich i NSFW LoRów, wprowadziła zestaw niezwykłych i kontrowersyjnych środków samoregulacji. Dotyczyły one generowania głębokich fałszerstw, hostowania modeli i szerszego zakresu nowych zasad i ograniczeń, w tym pełnych zakazów pewnych marginalnych fetyszy NSFW i tego, co określa się jako “ideologie ekstremistyczne”.

Te środki zostały podjęte z powodu dostawców płatności, którzy domagali się zmian w odniesieniu do treści NSFW i przedstawień AI celebryckich, w przeciwnym razie grożąc wycofaniem usług z domeny.

CivitAI Cut Off

Od dziś wydaje się, że środki podjęte przez CivitAI nie zadowoliły VISA i Mastercard: nowy post nowy post^† na stronie, od Community Engagement Managera Alasdaira Nicolla, ujawnia, że płatności kartowe dla CivitAI (którego “buzz” wirtualny system pieniędzy jest w dużej mierze napędzany przez prawdziwe karty kredytowe i debetowe) zostaną wstrzymane od tego piątku (23 maja 2025 r.).

To uniemożliwi użytkownikom odnowienie miesięcznych członkostw lub kupienie nowego buzz. Chociaż Nicoll radzi użytkownikom, aby utrzymać bieżące przywileje członkowskie, przechodząc na roczne członkostwo (kosztujące^†† 100-550 USD), jest oczywiste, że przyszłość strony jest w tej chwili dość niepewna (należy zauważyć, że roczne członkostwa weszły na rynek w tym samym czasie, gdy ogłoszono utratę dostawców płatności).

W odniesieniu do braku dostawcy płatności, Nicoll mówi ‘Rozmawiamy z każdym dostawcą, który jest komfortowy z innowacjami AI’.

Co do niepowodzenia ostatnich prób odpowiedniego przemyślenia polityki strony w odniesieniu do treści AI celebryckich i NSFW, Nicoll stwierdza w poście:

‘Niektóre firmy płatnicze uznają platformy generatywne za wysokie ryzyko, zwłaszcza gdy pozwalamy na tworzenie dojrzałych treści przez użytkowników, nawet jeśli są one legalne i moderowane. To wybór polityki, a nie coś, co zrobili użytkownicy, zmusił nas do odcięcia.’

Komentarz użytkownika “Faeia”, określany jako szef sztabu w profilu CivitAI profilu*, dodaje kontekst do tego ogłoszenia:

‘Po prostu, by wyjaśnić, zostaliśmy usunięci z dostawcy płatności, ponieważ nie zdecydowaliśmy się usunąć treści NSFW i dorosłych z platformy. Nadal jesteśmy zaangażowani w wspieranie wszystkich rodzajów twórców i pracujemy nad alternatywnymi rozwiązaniami.’

Jako tradycyjny napęd nowych technologii, nie jest rzadkością, gdy treści NSFW są używane do rozpoczęcia zainteresowania domeną, technologią lub platformą – tylko po to, by później odrzucić pierwotnych zwolenników, gdy tylko zostanie ustanowiony wystarczający “legitymowany” kapitał i/lub baza użytkowników (tj. wystarczająco wielu użytkowników, aby podmiot mógł przetrwać, gdy zostanie pozbawiony kontekstu NSFW).

Wyglądało na to, że CivitAI pójdzie w ślady Tumblr i innych inicjatyw w kierunku “oczyszczonego” produktu, gotowego zapomnieć o swoich korzeniach. Jednakże dodatkowa i rosnąca kontrowersja/stygma wokół treści generowanych przez AI każdego rodzaju stanowi kumulacyjny ciężar, który wydaje się uniemożliwiać ostateczne uratowanie w tym przypadku. Tymczasem oficjalne ogłoszenie radzi użytkownikom, aby przyjęli kryptowalutę jako alternatywny sposób płatności.

Fake Out

Nadejście prezydenta Donalda Trumpa, który z entuzjazmem podpisał federalną ustawę TAKE IT DOWN, prawdopodobnie wpłynęło na niektóre z tych wydarzeń. Nowa ustawa kryminalizuje dystrybucję niezgodnych intymnych obrazów, w tym głębokich fałszerstw AI.

Ustawa nakazuje platformom usunąć oznaczone treści w ciągu 48 godzin, z egzekwowaniem nadzorowanym przez Federalną Komisję Handlu. Przepisy karne ustawy wchodzą w życie natychmiast, umożliwiając ściganie osób, które świadomie publikują lub grożą opublikowaniem niezgodnych intymnych obrazów (w tym głębokich fałszerstw AI) w ramach Stanów Zjednoczonych.

Chociaż ustawa otrzymała rzadkie poparcie obu partii, a także wsparcie ze strony firm technologicznych i grup lobbingowych, krytycy twierdzą, że może ona tłumić uzasadnione treści i zagrażać narzędziom prywatności, takim jak szyfrowanie. W zeszłym miesiącu Electronic Frontier Foundation (EFF) ogłosiła opozycję wobec ustawy, twierdząc, że mechanizmy usunięcia, które nakazuje, dotyczą szerszego zakresu materiałów niż węższa definicja niezgodnych intymnych obrazów znaleziona gdzie indziej w ustawie.

‘Mechanizm usunięcia w TAKE IT DOWN dotyczy szerszej kategorii treści – potencjalnie każdego obrazu zawierającego intymne lub seksualne treści – niż węższa definicja niezgodnych intymnych obrazów znaleziona gdzie indziej w ustawie. Mechanizm usunięcia również nie posiada krytycznych zabezpieczeń przed frivolnymi lub złymi wnioskami o usunięcie.

‘Usługi będą polegać na automatycznych filtrach, które są infamously tępymi narzędziami. Często flagują legalne treści, od komentarzy fair-use po raporty informacyjne. Czas trwania ustawy wymaga, aby aplikacje i strony usunęły mowę w ciągu 48 godzin, co rzadko jest wystarczająco dużo czasu, aby zweryfikować, czy mowa jest naprawdę nielegalna.

‘W rezultacie dostawcy usług online, zwłaszcza mniejsze, prawdopodobnie wybiorą uniknięcie onerous prawnego ryzyka, po prostu depublikując mowę, zamiast nawet próbować ją zweryfikować.’

Platformy mają teraz do roku od wejścia w życie ustawy, aby ustanowić formalny proces powiadomienia i usunięcia, umożliwiający poszkodowanym osobom lub ich przedstawicielom wywołanie ustawy w celu usunięcia treści.

To oznacza, że chociaż przepisy karne są natychmiastowe, platformy nie są prawnie zobowiązane do przestrzegania infrastruktury usunięcia (takiej jak otrzymywanie i przetwarzanie wniosków) do momentu, gdy upłynie ten roczny okres.

Czy ustawa TAKE IT DOWN obejmuje treści AI wygenerowane z udziałem celebrytów?

Chociaż ustawa TAKE IT DOWN przekracza wszystkie granice stanowe, niekoniecznie zakazuje wszystkich mediów AI z udziałem celebrytów. Ustawa kryminalizuje dystrybucję niezgodnych intymnych obrazów, w tym głębokich fałszerstw AI, tylko wtedy, gdy osoba przedstawiona miała uzasadnione oczekiwanie prywatności:

Ustawa stanowi:

“(2) PRZESTĘPSTWO ZWIĄZANE Z AUTENTYCZNYMI INTYMNYMI WIZUALIZACJAMI.—

“(A) DOTYCZĄCE DOROSŁYCH.—Z wyjątkiem [przyczyn dowodowych, raportowania itp.], jest niezgodne z prawem dla każdej osoby, w handlu międzystanowym lub zagranicznym, używać interaktywnej usługi komputerowej do świadomego opublikowania intymnej wizualizacji identyfikowalnej osoby, która nie jest nieletnią, jeżeli—

“(i) intymna wizualizacja została uzyskana lub utworzona w okolicznościach, w których osoba wiedziała lub powinna wiedzieć, że identyfikowalna osoba miała uzasadnione oczekiwanie prywatności;

“(ii) to, co jest przedstawione, nie było dobrowolnie ujawnione przez identyfikowalną osobę w publicznym lub komercyjnym środowisku [tj. samopublikowane porno];

“(iii) to, co jest przedstawione, nie jest sprawą publicznego zainteresowania; oraz

“(iv) publikacja intymnej wizualizacji—

“(I) ma na celu spowodowanie szkody; lub

“(II) powoduje szkodę, w tym psychologiczną, finansową lub szkodę reputacyjną, identyfikowalnej osobie.

Kontyngent “uzasadnionego oczekiwania prywatności” stosowany tutaj nie tradycyjnie faworyzuje prawa celebrytów. W zależności od prawa, które ostatecznie się wyłoni, możliwe jest, że nawet jawne treści AI wygenerowane z udziałem celebrytów w publicznych lub komercyjnych środowiskach mogą nie podlegać zakazom ustawy.

Ostateczny klauzula dotyczący określenia zakresu szkody jest słynnie elastyczny w słownictwie prawnym, i w tym sensie nie dodaje nic nowego do ciężaru ustawy. Jednakże zamierzenie spowodowania szkody wydaje się ograniczać zakres ustawy do kontekstu “revenge porn”, gdzie nieznany były partner publikuje prawdziwe lub fałszywe treści medialne nieznanej innej osoby.

Chociaż wymóg “szkody” ustawy może wydawać się nieodpowiedni w przypadkach, gdy anonimowi użytkownicy publikują treści AI wygenerowane z udziałem celebrytów, może okazać się bardziej istotny w scenariuszach stalkingu, gdzie szerszy wzorzec prześladowania wspiera wniosek, że osoba celowo i złowieszczo zaatakowała celebrytę na wielu frontach.

Chociaż odniesienie ustawy do “objętych platform” wyklucza prywatne kanały, takie jak Signal lub e-mail, z mechanizmów usunięcia, nie oznacza to, że niezgodne treści AI lub prawdziwe treści udostępnione za pośrednictwem prywatnych komunikacji znajdują się poza zakresem przepisów karnych ustawy.

Oczywiście, brak mechanizmów raportowania na stronie nie utrudnia poszkodowanym osobom raportowania tego, co jest teraz nielegalne, do policji; ani nie uniemożliwia im używania konwencjonalnych metod kontaktu, które strona może udostępnić, aby złożyć skargę i poprosić o usunięcie obraźliwych materiałów.

Prawa pozostawione w tyle

Ponad siedem lat narastającej krytyki publicznej i medialnej w sprawie treści głębokich fałszerstw wydaje się, że skumulowało się w niezwykle krótkim czasie. Jednakże, chociaż ustawa TAKE IT DOWN oferuje ogólne federalne zakazy, może nie mieć zastosowania w każdym przypadku dotyczącym symulacji AI, pozostawiając pewne scenariusze, które będą rozpatrywane w ramach rosnącej mozaiki ustawodawstwa stanowego dotyczącego głębokich fałszerstw, gdzie uchwalone ustawy często odzwierciedlają “lokalne zainteresowania”.

Na przykład, w Kalifornii, Kalifornijska ustawa o prawach celebrytów ogranicza wyłączne używanie tożsamości celebryty do samej osoby i jej spadkobierców, nawet po śmierci; natomiast, ustawa Tennessee ELVIS koncentruje się na ochronie muzyków przed nieautoryzowanymi reprodukcjami głosu i obrazu AI, przy czym każdy przypadek odzwierciedla ukierunkowane podejście do grup interesu, które są wybitne na poziomie stanu.

Większość stanów ma teraz ustawy ukierunkowane na głębokie fałszerstwa seksualne, chociaż wiele z nich nie wyjaśnia, czy te ochrony są równie stosowane do osób prywatnych i publicznych. Tymczasem głębokie fałszerstwa polityczne, które podobno spowodowały poparcie Donalda Trumpa dla nowej ustawy federalnej, mogą napotkać barierę konstytucyjną w pewnych kontekstach.

^† Wersja zarchiwizowana: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Wersja zarchiwizowana (nie zawiera miesięcznych cen): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Prawdziwy “szef sztabu” CEO w CivitAI jest wylistowany na LinkedInie pod niezwiązanym nazwą, podczas gdy podobnie brzmiący “Faiona” jest oficjalnym moderatorem personelu CivitAI na subredditzie domeny.

Pierwotnie opublikowane we wtorek, 20 maja 2025