CivitAI Zaostrza Reguły Dotyczące Deepfake’ów Pod Presją Mastercard i Visa

CivitAI, prawdopodobnie najpopularniejszy repozytorium modeli AI w internecie, ostatecznie uległ presji ze strony pośredników płatności MasterCard i Visa, aby radykalnie zmienić swoje zasady dotyczące treści NSFW – a w szczególności swoje warunki korzystania z usługi dotyczące LoRAs celebrytów, jednego z najpopularniejszych strumieni treści przesyłanych przez użytkowników, które umożliwiają ludziom korzystanie z bezpłatnie pobieralnych modeli uzupełniających, takich jak LoRAs, w celu tworzenia przedstawień AI (w tym przedstawień wideo) znanych osób.

Kliknij, aby odtworzyć. Chociaż Civit nie podaje dokładnych danych (i nieprawidłowe oznaczanie / nieprawidłowa kategoryzacja nie jest rzadkością, co mogłoby zniekształcić dane), liczba modeli AI celebrytów, głównie LoRAs, jest wyraźnie w setkach lub nawet tysiącach, i wyraźnie dominuje tematyka kobieca. Źródło: civitai.com

Oczywiście działając pod presją w transmisji na żywo na Twitch** w imieniu firmy, menedżer ds. zaangażowania społeczności Alasdair Nicoll, sam twórca (SFW) modeli w Civit, przyznał, że zmiany zostały wymuszone na stronie przez obawy ich pośredników płatności dotyczące treści dla dorosłych i przedstawień prawdziwych osób. Przyznaje również, że głównymi siłami stojącymi za tymi pośrednikami, MasterCard i Visa, są prawdopodobnie wymagające jeszcze większych zmian w przyszłości:

‘To nie są zmiany, które chcieliśmy wprowadzić. To wszystko sprowadza się do nowej i nadchodzącej legislacji. Są tam prawa dotyczące deepfake’ów, są prawa dotyczące pornografii AI… pośrednicy płatności, a ostatecznie Visa i MasterCard są przerażone; nie chcą być pozwani, i ostatecznie są tymi, którzy wymuszają te zmiany.

‘Niektóre z innych opcji, które nam zostały przedstawione, to usunięcie treści niebezpiecznych dla pracy; usunięcie treści X i XXX z CivitAI i przeniesienie ich na całkowicie nową platformę, a następnie zablokowanie tej platformy, ponieważ ponad połowa stanów w USA wymaga pewnej formy blokowania treści pornograficznych, [a także] wiele azjatyckich krajów i Wielkiej Brytanii…

‘Trzecią opcją było przejście na pełne kryptowaluty, płatności tylko w kryptowalutach… więc nie było żadnych dobrych opcji dla tego.’

Domena Civit była okresowo wyłączona w ciągu ostatnich kilku dni, najwyraźniej w celu wprowadzenia tych zmian. Chociaż strona już wcześniej zabroniła używania tematów NSFW w przedstawieniach LoRA/celebrytów, teraz jest niemożliwe przeglądanie sekcji modeli Civit i widzenie podglądów modeli LoRA celebrytów obok bardzo dużej liczby ogólnych modeli NSFW zaprojektowanych do tworzenia treści dla dorosłych.

Oficjalne ogłoszenie stanowi:

‘Treści oznaczone nazwami prawdziwych osób (takimi jak “Tom Cruise”) lub oznaczone jako zasoby POI (prawdziwe osoby) będą ukryte z kanałów.’

W sesji na Twitch Nicoll ujawnił więcej szczegółów dotyczących środków mających na celu ochronę sławnych osób i prawdziwych osób. Civit zawsze pozwalał prawdziwym osobom na wnioskowanie o usunięcie modelu AI zamieszczonego na stronie, który ich przedstawia, ale teraz Nicoll aluzje do systemu, który może uniemożliwić ponowne przesłanie takich obrazów po ich odrzuceniu, z możliwością identyfikacji “chronionej” osoby nawet w obrazach, które system nigdy wcześniej nie widział.

W tym celu strona współpracuje teraz z systemem moderacji AI Clavata – chociaż nie jest jeszcze jasne, w jakim stopniu Clavata będzie napędzał te nowe funkcje.

Nicoll powiedział:

‘Tom Hanks zażądał swojego wizerunku od nas, na przykład. Bardzo wiele aktorek i aktorów z pierwszych stron gazet również; bardzo wiele aktorów i aktorek z pierwszych stron gazet również…

‘Myślę, że pierwszym, kto to zrobił, była Barbara Eden, jej spadkobiercy* – była jedną z pierwszych, które zażądały swojego wizerunku, co jest trochę zabawne, ponieważ jest stara.’

Chronione domyślnie?

W ciągu ostatnich kilku lat firma AI VFX Metaphysic (pełna dyskrecja: pracowałem dla Metaphysic.ai od początku 2022 roku do końca 2024 roku) próbowała stworzyć własny system, który pozwoliłby każdemu zarejestrować swój własny wizerunek, chociaż głównie skierowany do hollywoodzkich nazwisk, które martwią się o AI oparte na porwaniu ich tożsamości, z wsparciem aktorów takich jak Anne Hathaway, Octavia Spencer i Tom Hanks (z którym firma pracowała nad filmem Roberta Zemeckisa Here [2024]).

Logicznie, użyteczność systemu zawsze zależałaby od ostatecznego prawa; na podstawie środków, które Civit teraz jest zmuszony podjąć, usługa oparta na subskrypcji^† proponowana przez Metaphysic mogłaby być zbędna w obliczu szybkiego wzrostu praw dotyczących deepfake’ów i potencjalnego (bezpłatnego) pokrycia na podstawie prawa powszechnego. Nie jest obecnie znane, czy oferta Metaphysic Pro zostanie przeniesiona do firmy Double Negative VFX, która nabyła aktywa Metaphysic w zeszłym roku.

W każdym przypadku coraz bardziej wydaje się, że globalne prawo i ogólne naciski rynkowe są bardziej prawdopodobne, aby zapewnić ochronę i środki, a nie rozwiązania handlowe tego rodzaju.

Gotowanie żaby

Raport z 2023 roku opracowany przez 404 Media zwrócił uwagę na skłonność modeli AI celebrytów i pornograficznych na Civit, chociaż założyciel strony Justin Maier zbagatelizował związek między przesyłanymi przez użytkowników wizerunkami celebrytów a ich użyciem w generowaniu materiałów pornograficznych.

Chociaż Civit zarabia pieniądze, ułatwiając użytkowanie LoRAs i innych modeli dostarczonych przez użytkowników na stronie, Nicoll jest wyraźny, że to nie jest główny motyw, który skłania Visę i MasterCard do określania zmian na stronie, aby mogła być dalej monetyzowana:

‘Niektórzy ludzie mówią, że powodem, dla którego jesteśmy w tym bałaganie, jest to, że zezwalamy na generowanie. To nie ma znaczenia. Hostowanie tych modeli, hostowanie tej treści, jest wystarczające, aby przyciągnąć oko Saurona.’

Wątki komentarzy społeczności w ciągu ostatnich kilku lat zdumiewały, że Civit mógł hostować wizerunki celebrytów. Świadomi możliwości, a może nieuchronności zaostrzenia, kilka inicjatyw mających na celu zachowanie LoRAs usuniętych przez Civit lub przez ich uploadery, zostało zaproponowanych lub wdrożonych, w tym (do tej pory) dość zaniedbany subreddit r/CivitaiArchives.

Chociaż wielu sugerowało, że inicjatywa oparta na torrentach jest naturalnym rozwiązaniem, nie wydaje się, aby jakiś popularny domenę jeszcze się pojawił – i w każdym przypadku wydaje się to pewne, aby przenieść działalność zabronioną w Civit i gdzie indziej na najbardziej oddalone marginesy internetu; do ogrodzonych ogrodów; i najprawdopodobniej do dark netu, ponieważ większość ram, które mogłyby pomieścić zabronione LoRAs (takie jak Reddit i Discord) albo już zabraniają takiej treści, albo wydają się pewne, aby ją zabronić wkrótce.

Na razie LoRAs celebrytów można nadal zobaczyć z pewnymi ograniczeniami w Civit, chociaż większość wygenerowanej treści została usunięta z listy i zostanie wykluczona z przypadkowego odkrycia. Co się wydaje prawdopodobne, jeden z komentujących w sesji na Twitch zasugerował Nicollowi, że zaostrzenie się pogłębi (prawdopodobnie do stopnia zakazu wszystkich wizerunków prawdziwych osób w przesłanych modelach lub przedstawieniach).

Nicoll odpowiedział:

‘”Oni nie przestaną tutaj, będą żądać coraz więcej” – absolutnie! Tak, absolutnie. To po prostu świat, w którym żyjemy. Jedyną nadzieją jest to, że stanowiemy się wystarczająco duzi i wystarczająco potężni, aby mieć nieco więcej do powiedzenia w tym, co jest nam dyktowane […]

Zrezygnowany z alternatyw zaoferowanych Civit, Nicoll dodał:

‘[…] Nikt nie kupi Bitcoina, aby [użyć] generatora CivitAI. Więc próbowaliśmy to uczynić jak najbardziej przyjemnym, i to jest to, co udało nam się osiągnąć. Więc, przepraszam, jeśli to coś, czego nie możesz znieść, ale niestety to jest to, co jest. Próbowaliśmy naszego najlepszego, oponowaliśmy jak najbardziej, ale ostatecznie zostaliśmy poinformowani, że to jest to – musisz to zrobić, albo to będzie koniec […]’

‘[…] Te instytucje finansowe, one nie rozumieją, co ludzie robią tutaj z tym. Próbowaliśmy im to powiedzieć, próbowaliśmy z nimi rozmawiać, ale jesteśmy praktycznie ostatnią twierdzą [treści NSFW].

Nicoll powiedział, że Civit skontaktował się z ‘każdym możliwym pośrednikiem płatności:

‘Nawet z pośrednikami płatności wysokiego ryzyka, których używają strony pornograficzne, i są one wszystkie bardzo, bardzo ostrożne wobec treści AI. To jest problem – to treść AI. Gdybyśmy byli tradycyjną stroną pornograficzną, wszystko byłoby w porządku, ale treść AI to to, czego się boją.’

Gdzie dalej?

Przed tym ogłoszeniem Civit został zaobserwowany, gdy usuwał przesłania objęte niektórymi z kategorii i typów treści, które są teraz zabronione. W momencie pisania tego tekstu, “repozytorium awaryjne” dla Wan 2.1 LoRAs zostało utworzone na stronie Hugging Face. Chociaż niektóre z LoRAs archiwizowanych tam są zaprojektowane do ułatwienia ogólnych działań seksualnych, które są słabo wyszkolone lub nieobecne w nowych modelach wideo, takich jak Wan 2.1, kilka z nich podlega teraz surowo zabronionej kategorii “rozbieranie” (tj. “nagizowanie”), w tym niektóre modele, które można by uznać za “ekstremalne” lub wyraźnie potencjalnie obraźliwe.

Subreddit r/datahoarders, który był w awangardzie zachowania literatury rządowej USA podczas kampanii masowego usuwania danych przez Donalda Trumpa, do tej pory okazał lekceważenie dla pomysłu zapisania utraconej treści CivitAI.

Obowiązkowe metadane

Jedną z interesujących zmian, które wydają się być wymuszane przez pośredników płatności, zgodnie z oświadczeniem Nicolla, jest to, że wszystkie obrazy na stronie muszą teraz zawierać metadane. Kiedy obraz lub wideo jest wygenerowane przez model generatywny w typowym przepływie pracy na platformie takiej jak ComfyUI, wyjście zwykle zawiera metadane, które wymieniają model użyty (jego skrót hashowy, a także jego nazwę, aby w przypadku, gdy model jest przemianowany przez użytkownika, jego pochodzenie pozostawało jasne) i wiele innych ustawień.

Ponieważ te ukryte punkty danych dotyczące tego, jak obraz został wykonany, użytkownicy są w stanie przeciągnąć wideo lub obraz wykonany przez kogoś innego do własnego przepływu pracy ComfyUI i odtworzyć cały przepływ, oraz rozwiązać wszelkie brakujące zależności (takie jak modele lub składniki, które miał oryginalny twórca, które użytkownik będzie musiał znaleźć i pobrać).

Jakakolwiek generacja obrazów lub wideo pozbawiona tych danych zostanie, jak ogłosił Civit, usunięta w ciągu trzydziestu dni. Użytkownicy mogą dodać takie dane ręcznie, wpisując je na stronie Civit.

Ponieważ wartość metadanych jest (prawdopodobnie) dowodowa, to wymaganie wydaje się dość bezsensowne; jest trywialne skopiować i wkleić metadane z jednego pliku do innego, a ad hoc wymyślanie metadanych za pomocą formularza internetowego sprawia, że ta nowa reguła jest nieco zaskakująca.

Niemniej jednak, kilku użytkowników (w tym jeden komentujący w sesji na Twitch) ma wiele tysięcy obrazów przesłanych w Civit. Ich jedyną możliwością jest teraz ręczne adnotowanie każdego z nich, albo usunięcie i przesłanie wersji obrazów z dodanymi metadanymi – co usunie wszelkie “polubienia” lub “buzz” lub rozmowy, które oryginalne obrazy wygenerowały.

Nowe reguły

Oto podsumowane zmiany obowiązujące w Civit od dziś:

• Treści oznaczone nazwami prawdziwych osób lub oznaczone jako zasoby prawdziwych osób nie będą już wyświetlane w publicznych kanałach.
• Treści z motywami dziecięcymi / nieletnimi będą filtrowane z kanałów.
• Treści X i XXX, które nie posiadają metadanych generacji, będą ukryte z widoku publicznego i oznaczone ostrzeżeniem, pozwalając przesłanie danych brakujących. Takie treści nie zostaną usunięte, ale pozostaną widoczne tylko dla ich twórcy, aż do zaktualizowania.
• Obrazy wykonane przy użyciu funkcji Przynieś Własny Obraz (BYOI) muszą teraz stosować co najmniej 50% zmiany szumu podczas generacji. Oznacza to, że AI musi znacznie zmodyfikować przesłany obraz, zmniejszając szansę na wygenerowanie prawie identycznych replik. Jednak obrazy wykonane całkowicie na CivitAI lub zmienione z innych treści CivitAI nie podlegają tej reguły i mogą nadal używać dowolnego poziomu szumu, od żadnych zmian (0,0) do pełnej transformacji (1,0). Ta zmiana ma na celu zmniejszyć nadużywanie narzędzia BYOI, które w przeciwnym razie mogłoby być używane do tworzenia subtelnego lub niewykrywalnego deepfake’u przez lekkie modyfikowanie istniejących zdjęć prawdziwych osób.
• Podczas przeglądania z włączoną treścią X lub XXX, wyszukiwanie nazwisk celebrytów nie zwróci wyników. Łączenie nazwisk celebrytów z treścią dla dorosłych nadal jest zabronione.
• Reklamy nie będą wyświetlane na obrazach lub zasobach zaprojektowanych do naśladownictwa wyglądu prawdziwych osób.
• Wrzucanie (Buzz) zostanie wyłączone dla obrazów lub zasobów, które przedstawiają prawdziwe osoby.
• Modele zaprojektowane do naśladownictwa prawdziwych osób nie będą miały prawa do wczesnego dostępu, funkcji Civitai, która pozwala twórcom na pierwsze udostępnianie treści płacącym zwolennikom. To ogranicza monetyzowanie wizerunków celebrytów lub prawdziwych osób.
• Oświadczenie o zgodności 2257 zostało dodane, aby wyjaśnić, że platforma nie zezwala na żadną treść nie wygenerowaną przez AI. To pomaga zapewnić ochronę prawną, potwierdzając, że wszystkie materiały eksplicytne są syntetyczne i nie oparte na prawdziwej fotografii lub wideo.
• Nowa strona żądania usunięcia treści pozwala każdemu zgłosić nadużycia lub nielegalne materiały bez konieczności logowania. Zarejestrowani użytkownicy powinni nadal używać wbudowanych narzędzi do zgłaszania na każdym poście. To jest oddzielne od istniejącego formularza do żądania usunięcia własnego wizerunku z platformy.
• CivitAI wprowadził nowy system moderacji za pomocą partnerstwa z Clavata, którego narzędzia do analizy obrazów przewyższają poprzednie rozwiązania, takie jak Amazon Rekognition i Hive.

** Od wtorku, 20 maja 2025 r., 11:23:47 (może to nastąpiło wcześniej), transmisja na żywo na Twitch została usunięta. Aby upewnić się, że mogę zweryfikować fakty przedstawione w transmisji, zachowuję kopię.

* Pomimo wspomnienia o “spadkobiercach” Barbary Eden, aktorka z I Dream of Jeannie jest nadal żyjąca, obecnie ma 93 lata.
^† Zarchiwizowane: https://archive.ph/tsMb0

Pierwotnie opublikowane w czwartek, 24 kwietnia 202. Zmienione w czwartek, 24 kwietnia 2025 r., 14:32:28: poprawiono daty.
Zmodyfikowane we wtorek, 20 maja 2025 r., aby odzwierciedlić usunięcie zawartości Twitch używanej jako materiał referencyjny.