CivitAI Zaostrza Reguły Dotyczące Deepfake’ów Pod Presją Mastercard i Visa

CivitAI, być może najpopularniejszy repozytorium modeli AI w internecie, ostatecznie uległ presji ze strony firm MasterCard i Visa, aby radykalnie zmienić swoje zasady dotyczące treści NSFW – a w szczególności swoje warunki korzystania z serwisu dotyczące LoRów celebrytów, jednego z najpopularniejszych strumieni treści przesyłanych przez użytkowników, które umożliwiają ludziom korzystanie z bezpłatnie pobieralnych modeli dodatkowych, takich jak LoRy, do tworzenia przedstawień AI (w tym przedstawień wideo) znanych osób.

Kliknij, aby odtworzyć. Chociaż Civit nie podaje dokładnych liczb (a nieprawidłowe oznaczanie / nieprawidłowa kategoryzacja nie jest niczym niezwykłym, co najprawdopodobniej spowodowałoby zniekształcenie liczb), liczba modeli AI celebrytów, głównie LoR, jest wyraźnie w setkach lub nawet tysiącach i wyraźnie dominowana przez tematy kobiece. Źródło: civitai.com

Wyraźnie działając pod presją w transmisji na żywo na Twitch** w imieniu firmy, menedżer ds. zaangażowania społeczności Alasdair Nicoll, sam twórca (treści SFW) modeli w Civit, przyznał, że zmiany zostały wymuszone na stronie przez obawy płatników o treści dla dorosłych i przedstawienia prawdziwych osób. Przyznaje również, że jest prawdopodobne, iż główni motorysi tych procesorów, Visa i MasterCard, będą prawdopodobnie wymagać jeszcze większych zmian później:

‘Te zmiany nie były tym, co chcieliśmy wprowadzić. To wszystko sprowadza się do nowej i nadchodzącej legislacji. Są tam prawa dotyczące deepfake’ów, są prawa dotyczące pornografii AI… procesorzy płatniczy, a ostatecznie Visa i MasterCard są przerażeni; nie chcą być pozwani, a ostatecznie są motorem napędowym tych zmian.

‘Niektóre z innych opcji, które nam przedstawiono, to usunięcie treści niebezpiecznych dla pracy; usunięcie treści X i XXX z CivitAI i przeniesienie ich na całkowicie nową platformę, a następnie zablokowanie tej platformy, ponieważ ponad połowa stanów USA wymaga pewnej formy blokowania geograficznego, [a także] wiele krajów azjatyckich i Wielkiej Brytanii…

‘Trzecią opcją było przejście na pełną kryptowalutę, płatności tylko w kryptowalutach… więc nie było dosłownie żadnych dobrych opcji dla tego.’

Domena Civit była okresowo wyłączona w ciągu ostatnich kilku dni, najwyraźniej w celu wprowadzenia zmian. Chociaż strona już wcześniej zabroniła korzystania z tematów NSFW w przedstawieniach LoRA/modelu celebrytów, teraz jest niemożliwe przeglądanie sekcji modelu Civit i jednoczesne wyświetlanie podglądów LoR celebrytów obok bardzo dużej liczby ogólnych modeli NSFW zaprojektowanych do tworzenia treści dla dorosłych.

Oficjalne ogłoszenie stanowi:

‘Treści oznaczone nazwiskami prawdziwych osób lub oznaczone jako zasoby z prawdziwymi osobami będą ukryte z kanałów.’

W sesji na Twitch Nicoll ujawnił więcej szczegółów dotyczących środków mających na celu ochronę sławnych postaci i prawdziwych osób. Civit zawsze pozwalał prawdziwym osobom na wnioskowanie o usunięcie modelu AI hostowanego przez Civit, który ich przedstawia, ale teraz Nicoll aluzje do systemu, który może zapobiec ponownemu przesłaniu takich obrazów po odrzuceniu, z możliwością identyfikacji “chronionej” osoby nawet na obrazach, które system nigdy wcześniej nie widział.

W tym celu strona rozpoczyna współpracę z systemem moderacji AI Clavata – chociaż nie jest jeszcze jasne, w jakim stopniu Clavata będzie napędzać te nowe funkcje.

Nicoll powiedział:

‘Tom Hanks zażądał swojego wizerunku od nas, na przykład. Bardzo wiele aktorek dla dorosłych; wiele gwiazd filmowych i aktorek…

‘Myślę, że pierwszym, kto to zrobił, była Barbara Eden, jej majątek* – była jedną z pierwszych, które zażądały swojego wizerunku, co jest trochę zabawne, ponieważ jest stara.’

Chronione domyślnie?

W ciągu ostatnich dwóch lat firma AI VFX Metaphysic (pełna dyskrecja: pracowałem dla Metaphysic.ai od początku 2022 r. do końca 2024 r.) próbowała stworzyć własny system, który pozwoliłby każdemu zarejestrować swój własny wizerunek, chociaż głównie skierowany do nazw Hollywood, które są zaniepokojone AI-opisanym przejęciem ich tożsamości, przy wsparciu aktorów takich jak Anne Hathaway, Octavia Spencer i Tom Hanks (z którym firma współpracowała przy Here [2024]).

Logicznie, użyteczność systemu zawsze zależałaby od ostatecznego orzeczenia sądu; na podstawie środków, które Civit jest teraz zmuszony podjąć, usługa oparta na subskrypcji^† proponowana przez Metaphysic mogłaby być zbędna w obliczu szybkiego wzrostu praw dotyczących deepfake’ów i potencjalnego (bezpłatnego) pokrycia na podstawie prawa powszechnego. Nie jest obecnie znane, czy oferta Metaphysic Pro zostanie przeniesiona do firmy Double Negative VFX, która nabyła aktywa Metaphysic w zeszłym roku.

W każdym razie coraz bardziej wydaje się, że globalne prawo i ogólne naciski rynkowe są bardziej prawdopodobne, aby zapewnić ochronę i środki, zamiast rozwiązań komercyjnych tego rodzaju.

Gotowanie żaby

Raport z 2023 r. opracowany przez 404 Media zwrócił uwagę na skłonność modeli celebrytów i pornograficznych AI w Civit, chociaż założyciel Civit Justin Maier zbagatelizował związek między podobieństwami celebrytów przesyłanymi przez użytkowników a ich użyciem w generowaniu materiałów pornograficznych.

Chociaż Civit zarabia pieniądze, ułatwiając użytkowanie LoR i innych modeli dostarczonych przez użytkowników na stronie, Nicoll jest wyraźny, że to nie jest główny motyw, który skłonił Visę i MasterCard do określenia zmian na stronie, aby mogła być dalej monetyzowana:

‘Niektórzy ludzie mówią, że powodem, dla którego jesteśmy w tym bałaganie, jest to, że zezwalamy na generowanie. To nie ma znaczenia. Hostowanie tych modeli, hostowanie tej treści, jest wystarczające, aby przyciągnąć oko Saurona.’

Wątki komentarzy społeczności w ostatnich latach zdumiewały, że Civit mógł hostować podobieństwa celebrytów. Świadomi możliwości, a może nieuchronności nacisku, kilka inicjatyw mających na celu zachowanie LoR, które zostały usunięte przez Civit lub przez ich uploadery, zostało zaproponowanych lub wdrożonych, w tym (do tej pory) dość zaniedbany subreddit r/CivitaiArchives.

Chociaż wiele osób sugerowało, że inicjatywa oparta na torrentach jest naturalnym rozwiązaniem, nie wydaje się, aby jakiś popularny domen wyłonił się – a w każdym razie wydaje się pewne, że przeniesie działalność zakazaną w Civit i gdzie indziej do najbardziej oddalonych części internetu; do ogrodów zamkniętych; i, najprawdopodobniej, do sieci darknet, ponieważ większość ram, które mogłyby pomieścić LoRy zakazanych podobieństw (takich jak Reddit i Discord), albo już zabraniają takiej treści, albo wydaje się, że będą ją zabraniać wkrótce.

Na razie LoRy celebrytów można jeszcze zobaczyć z pewnymi ograniczeniami w Civit, chociaż większość wygenerowanej treści została usunięta z listy i zostanie wykluczona z przypadkowego odkrycia. To, co wydaje się prawdopodobne, jeden z komentatorów zasugerował Nicollowi w sesji na Twitch, to to, że nacisk będzie się pogłębiał (prawdopodobnie do stopnia zakazu wszystkich podobieństw prawdziwych osób w przesłanych modelach lub przedstawieniach).

Nicoll odpowiedział:

‘”Oni nie przestaną tutaj, będą domagać się coraz więcej” – absolutnie! Tak, absolutnie. To po prostu świat, w którym żyjemy. Jedyną nadzieją jest to, że będziemy wystarczająco duzi i wystarczająco potężni, aby mieć trochę więcej do powiedzenia w tym, co jest nam dyktowane […]

Zrezygnowany z alternatyw zaoferowanych Civit, Nicoll dodał:

‘[…] Nikt nie kupi Bitcoin, aby użyć generatora CivitAI. Więc próbowaliśmy to uczynić jak najbardziej przyjemnym, i to jest to, co się nam udało. Przepraszam, jeśli to coś, czego nie możesz znieść, ale niestety tak jest. Zrobiliśmy wszystko, co mogliśmy, i oponowaliśmy, jak mogliśmy, ale ostatecznie powiedziano nam, że to jest to – musisz to zrobić, albo będzie to koniec […]’

‘[…] Te instytucje finansowe nie rozumieją, co ludzie robią tutaj z tym. Próbujemy im to wyjaśnić, próbowaliśmy z nimi rozmawiać, ale jesteśmy praktycznie ostatnim bastionem treści NSFW.

Nicoll powiedział, że Civit skontaktował się z “każdym możliwym procesorem płatniczym”:

‘ Nawet z procesorami płatniczymi wysokiego ryzyka, których używają strony pornograficzne, i są oni bardzo, bardzo ostrożni wobec treści AI. To jest problem – treść AI. Gdybyśmy byli tradycyjną stroną pornograficzną, wszystko byłoby w porządku, ale treść AI to to, czego się boją.’

Gdzie dalej?

Przed tym ogłoszeniem Civit obserwowano usuwanie uploadów objętych niektórymi z kategorii i typów treści, które są teraz zabronione. W momencie pisania tego tekstu utworzono “awaryjne repozytorium” dla LoR Wan 2.1 na stronie Hugging Face. Chociaż niektóre z tych LoR są zaprojektowane do ułatwienia ogólnych działań seksualnych, które są słabo wyszkolone lub nieobecne w nowych modelach wideo, takich jak Wan 2.1, kilka z nich podlega teraz surowo zabronionej kategorii “rozebranie” (tj. “nagie”), w tym niektóre modele, które można by uznać za “ekstremalne” lub wyraźnie obraźliwe.

Subreddit r/datahoarders, który był na czele zachowania literatury online rządu USA podczas kampanii masowego usuwania Donalda Trumpa, dotychczas okazał lekceważenie dla pomysłu zapisania utraconej treści CivitAI.

W literaturze niezauważalne było łatwe ułatwienie generacji NSFW AI przez CivitAI. Jednak jeden z najczęściej cytowanych badań, artykuł Exploring the Use of Abusive Generative AI Models on Civitai z 2024 r., jest ograniczony tym, że Civit nie zezwalał na generowanie celebrytów ani nielegalne generacje AI do tej pory, a także decyzją badaczy, aby znaleźć dowody na Civit samym.

Wyraźnie jednak to, co niepokoi procesorów płatniczych, nie jest tym, co jest wytwarzane przy użyciu LoR na Civit, ani tym, co jest publikowane tam, ale tym, co robi się z tymi modelami w innych społecznościach, które są albo zamknięte, albo ogólnie mniej uregulowane.

Strona Mr. Deepfakes, która była synonimem powszechnego metody autoenkodera NSFW deepfaking, aż do pojawienia się Stable Diffusion i modeli opartych na dyfuzji w 2022 r., ostatnio zaczął publikować przykłady filmów pornograficznych opartych na celebrytach, wykorzystując najnowszą falę generatorów tekstu do wideo i obrazu do wideo, w tym Hunyuan Video i Wan 2.1 – oba bardzo niedawne wydania, których wpływ jest jeszcze w powijakach, ale które wydają się przeznaczone do zdobycia kontrowersyjnych nagłówków w ciągu roku.

Obowiązkowa metadane

Jedną z interesujących zmian, której domagają się płatnicy, zdaniem Nicolla, jest to, że wszystkie obrazy na stronie muszą teraz zawierać metadane. Kiedy obraz lub wideo jest wytworzone przez model generatywny w typowym przepływie pracy na platformie takiej jak ComfyUI, wynikowy obraz zawiera metadane, które wylistują model użyty (jego hash, a także jego nazwę, aby w przypadku, gdy model zostanie przemianowany przez użytkownika, jego pochodzenie pozostało jasne) i wiele innych ustawień.

Ponieważ te ukryte punkty danych dotyczące tego, jak obraz został wykonany, użytkownicy są w stanie przeciągnąć wideo lub obraz wytworzone przez kogoś innego do własnego przepływu pracy ComfyUI i odtworzyć cały przepływ, oraz rozwiązać wszelkie brakujące zależności (takie jak modele lub składniki, które miał oryginalny twórca, które użytkownik będzie musiał znaleźć i pobrać).

Wszystkie wygenerowane obrazy lub wideo, których brakuje tych danych, zostaną, jak ogłosił Civit, usunięte w ciągu trzydziestu dni. Użytkownicy mogą dodać takie dane ręcznie, wpisując je na stronie Civit.

Ponieważ wartość metadanych jest (prawdopodobnie) dowodowa, to wymaganie wydaje się dość bezsensowne; jest trywialne skopiować i wkleić metadane z jednego pliku do innego, a ad hoc wynalezienie metadanych za pomocą formularza internetowego sprawia, że ta nowa reguła jest trochę zaskakująca.

Jednak kilku użytkowników (w tym jeden komentujący w sesji na Twitch) ma wiele tysięcy obrazów przesłanych na Civit. Ich jedyną możliwością jest teraz ręczne opisanie każdego z nich lub usunięcie i ponowne przesłanie wersji obrazów z dodanymi metadanymi – co usunie wszelkie “polubienia” lub “buzz” lub rozmowy, które oryginalne obrazy wygenerowały.

Nowe reguły

Oto podsumowane zmiany obowiązujące w Civit od dziś:

• Treści oznaczone nazwiskami prawdziwych osób lub oznaczone jako zasoby z prawdziwymi osobami nie będą już wyświetlane w publicznych kanałach.
• Treści z motywami dziecka / nieletniego będą filtrowane z kanałów.
• Treści ocenione jako X i XXX, które nie mają metadanych generacji, będą ukryte z widoku publicznego i oznaczone ostrzeżeniem, umożliwiając uploadowi dodanie brakujących szczegółów. Takie treści nie zostaną usunięte, ale pozostaną widoczne tylko dla ich twórcy, aż do zaktualizowania.
• Obrazy wytworzone przy użyciu funkcji Przynieś Własny Obraz (BYOI) muszą teraz stosować co najmniej 50% zmiany szumu podczas generacji. Oznacza to, że AI musi znacznie zmodyfikować przesłany obraz, zmniejszając szansę na wygenerowanie prawie identycznych replik. Obrazy wytworzone całkowicie na CivitAI lub zmienione z innej treści CivitAI nie podlegają tej regule i mogą nadal używać dowolnego poziomu szumu, od żadnych zmian (0,0) do pełnej transformacji (1,0). Ta zmiana ma na celu ograniczenie nadużywania narzędzia BYOI, które w przeciwnym razie mogłoby być używane do tworzenia subtelnego lub niewykrywalnego deepfakes, zmieniając nieznacznie istniejące obrazy prawdziwych osób.
• Gdy przeglądasz z włączoną zawartością X lub XXX, wyszukiwanie nazwisk celebrytów nie zwróci wyników. Łączenie nazwisk celebrytów z treścią dla dorosłych nadal jest zabronione.
• Reklamy nie będą wyświetlane na obrazach lub zasobach zaprojektowanych do naśladownictwa wyglądu prawdziwych osób.
• Przyciski “Buzz” (nagradzania) będą wyłączone dla obrazów lub zasobów przedstawiających prawdziwe osoby.
• Modele zaprojektowane do naśladownictwa prawdziwych osób nie będą miały prawa do wczesnego dostępu, funkcji Civitai, która pozwala twórcom wydawać treści najpierw swoim płatnym zwolennikom. To ogranicza monetyzację podobieństw celebrytów lub prawdziwych osób.
• Dodano oświadczenie zgodności 2257, aby wyjaśnić, że platforma nie zezwala na żadną treść nie wygenerowaną przez AI. To pomaga zapewnić ochronę prawną, potwierdzając, że wszystkie materiały eksplicytne są syntetyczne i nie oparte na prawdziwej fotografii lub wideo.
• Nowa strona żądania usunięcia treści pozwala każdemu zgłaszać treści nadużywające lub nielegalne bez konieczności logowania. Zarejestrowani użytkownicy powinni nadal używać wbudowanych narzędzi do zgłaszania na każdym poście. To jest oddzielne od istniejącego formularza do żądania usunięcia swojego wizerunku z platformy.
• CivitAI wprowadził nowy system moderacji za pomocą partnerstwa z Clavata, których narzędzia do analizy obrazu przewyższają poprzednie rozwiązania, takie jak Amazon Rekognition i Hive.

** Od wtorku, 20 maja 2025 r., 11:23:47 (może to nastąpiło wcześniej), transmisja na żywo na Twitch została usunięta. Aby upewnić się, że mogę zweryfikować fakty przedstawione w transmisji, zachowuję kopię.

* Pomimo wspomnienia o “majątku” Barbary Eden, aktorka z I Dream of Jeannie wciąż żyje, obecnie w wieku 93 lat.
^† Zarchiwizowane: https://archive.ph/tsMb0

Pierwotnie opublikowane w czwartek, 24 kwietnia 202. Zmienione w czwartek, 24 kwietnia 2025 r., 14:32:28: poprawiono daty. Zmodyfikowane we wtorek, 20 maja 2025 r., aby odzwierciedlić usunięcie treści Twitch, używanej jako materiał referencyjny.