Reddit Zabrania Społeczności “SFW” Deepfake

W miniony weekend, prawdopodobnie w niedzielę, Reddit zbanował społeczność “SFW” (Bezpieczne dla pracy) deepfakes o nazwie r/deepfakesfw. Subreddit był jedną z pierwszych odpowiedzi na usunięcie przez giganta mediów społecznościowych oryginalnej społeczności r/deepfakes w 2018 roku.

Legenda, która teraz powita każdego, kto odwiedzi sub, wyjaśnia, że “został zbanowany z powodu naruszenia zasad Reddit’u dotyczących pornografii niechcianej”.

Nowa strona główna dla r/deepfakesfw.

Sub r/deepfakesfw nie był często archiwizowany przez popularne platformy konserwatorskie, ale najnowszy snapshot WayBack Machine, wykonany około dziesięciu dni temu (3 czerwca 2022), wskazuje, że sub miał 3095 czytelników w tym czasie.

To tak naprawdę wyższa liczba subskrybentów niż r/DeepFakesSFW (zauważ dodatkowe “s”), który obecnie ma 2827 czytelników (snapshot wykonany w poniedziałek, 13 czerwca 2022). Najpopularniejsza “legalna” społeczność SFW deepfakes wydaje się być obecnie r/SFWdeepfakes, która ma 16636 czytelników (snapshot wykonany w poniedziałek, 13 czerwca 2022).

Nie Pytaj

Co wydaje się być przyczyną upadku r/deepfakesfw, to nie sam posting, ale żądanie deepfake pornografii. Zasady Reddit’u dotyczące mediów seksualnie jawnych stanowią:

‘[Obraz] lub film innej osoby opublikowany w celu sfabrykowania treści ekspliktywnych lub nakłaniania do “podobnej” pornografii (np. “deepfakes” lub “bubble porn”) jest również sprzeczny z Regułą.’

Na podstawie ostatnich dostępnych kanałów RSS z zabronionej społeczności SFW, wydaje się, że to żądanie, a nie sam posting treści NSFW, wywołało ban:

Niektóre z ostatnich, wyraźnie NSFW postów z zabitej społeczności r/deepfakesfw. Źródło: Inoreader.

Chociaż posty, na które te RSS-y się odnoszą, nie są już dostępne, kliknięcie linków profilowych osób żądających (zaciemnionych na powyższym obrazie) ujawnia, że wiele z tych osób żąda zabronionej treści deepfake w więcej niż jednym forum i albo prosi o, albo oferuje niektóre z najbardziej ekstremalnych treści tego typu, w tym incest porn i różne odcienie tematów pornograficznych niechcianych.

To sugeruje, że pozostałe społeczności “SFW” Reddit przetrwają dzięki szybkości, sumienności i szybkiemu czasowi reakcji moderatorów, ponieważ wydaje się, że Reddit nie chce stać się rodzajem “klasyfikowanego ogłoszenia” dla osób, które chcą się połączyć i dokonać transakcji nielegalnych deepfakes za pośrednictwem DM (w przypadkach, w których nie można tego wyraźnie zażądać w poście).

Jeśli tak, to niezabita jeszcze społeczność r/DeepFakesSFW może żyć na “pożyczonym” czasie; dwa najnowsze posty, które pojawiają się, gdy wprowadza się adres URL korzenia subredditu z włączonym motywem “stary” Reddit, zostały specjalnie oznaczone jako “NSFW” (tag, który nie powinien nawet być dostępny w tej społeczności).

W zależności od okoliczności, niektóre posty naruszające zasady pojawiają się obecnie w społeczności r/DeepFakesSFW. Źródło: https://www.reddit.com/r/DeepFakesSFW/

Można zobaczyć te dwa posty NSFW na górze forum r/DeepFakesSFW, zarchiwizowanego tutaj (snapshot wykonany w poniedziałek, 13 czerwca 2022).

W rzeczywistości nie ma dostępnego tagu “NSFW”, gdy tworzy się nowy post w r/DeepFakesSFW, który działa przez cztery lata, zgodnie z informacjami na pasku bocznym:

Dostępne “flair” przy tworzeniu posta w r/DeepFakesSFW.

Dlatego tagi “NSFW” w r/DeepFakesSFW wydają się być stosowane przez moderatorów forum lub przez wyższych administratorów – lub nawet algorytmy, możliwe, bez żadnej interwencji lub dostępnej opozycji ze strony lokalnych moderatorów. Skontaktowałem się z jedynym wymienionym moderatorem r/DeepFakesSFW w tej sprawie i opublikuję jakiekolwiek dostępne aktualizacje.

(EDYCJA, wtorek, 14 czerwca 2022 – Moderator z r/DeepFakesSFW odpowiedział, stwierdzając ‘Wygląda na to, że dzieje się tak, gdy konto użytkownika jest oznaczone jako NSFW’. Prawdopodobnie jedynym sposobem, aby spowolnić prawdopodobieństwo takich żądań w społecznościach SFW deepfakes, byłoby zbanowanie użytkowników, którzy “zarobili” tę klasyfikację.)

Większość treści na tym subredditzie, a także na większym r/SFWdeepfakes, dotyczy wykorzystania technologii deepfake do “przecastowania” aktorów z popularnych lub klasycznych filmów, lub w inny sposób do zabawy z popularnymi mediami i technologią deepfake, i rzeczywiście kwalifikują się jako “SFW”.

Chociaż wiele takich postów graniczy niebezpiecznie z zakazami opartymi na prawach autorskich, ciągłe przetrwanie “przejętych IP” postów wideo deepfake przez głównych twórców YouTube, takich jak Ctrl-Shift-Face, sugeruje szeroką tolerancję studia i posiadaczy praw wobec takiej działalności, przynajmniej na razie.

Niewinny Wygląd Procesu i Ekosystemu Deepfake

Dwa tygodnie temu wynikało (i wiele dyskusji) że Google nagle zbanował oprogramowanie do tworzenia deepfakes z popularnych środowisk przetwarzania w chmurze Colab. Nawet do dzisiaj, Colab jest rzekomo “wyzwalany” tylko przez próby uruchomienia DeepFaceLab (DFL), najpopularniejszego oprogramowania do tworzenia deepfakes na świecie (i tego, które jest najbardziej związane z AI porn), a nie mniej popularnych implementacji, takich jak FaceSwap, które mają lepszą reputację, chociaż wykonują te same zadania co DFL.

Do pewnego stopnia, taki podejście mogło być jedynym sposobem, w jaki Colab mógł wprowadzić jakiekolwiek ograniczenia na produkcję deepfake pornografii, ponieważ sam proces szkolenia deepfake wykorzystuje tylko oprogramowanie open source i bardzo wycięte obrazy twarzy (zwykle o rozdzielczości 512×512 px, często mniej), z prawie zerową możliwością przechwycenia przez algorytmy rozpoznawania obrazów jakiejkolwiek treści pornograficznej.

Przez czas, gdy model deepfake jest wytrenowany, twórca deepfake nie potrzebuje już ogromnej mocy obliczeniowej Colab ani drogiego lokalnego GPU. Większość rzeczywistych przekształceń (tj. procesu nakładania twarzy na film, pornograficzny lub nie) może być wykonana lokalnie, na niskiej mocy laptopa GPU – lub nawet na CPU (z nieco dłuższym czasem przetwarzania). Przez czas, gdy coś pornograficznego dzieje się w procesie deepfake, Colab dawno temu wyszedł z obrazu.

Dlatego składniki, które przechodzą między twórcami deepfake pornografii, rzadko reprezentują więcej niż potencjalne nieznaczne naruszenie praw autorskich, w postaci przekazywania “zbiorów twarzy”, które twórcy deepfake wyodrębnili z filmów wideo na YouTube, Blu-ray, wywiadów telewizyjnych, mediów społecznościowych i innych źródeł.

Czy Polityka “Spalonej Ziemi” Nadchodzi dla Społeczności Deepfake?

Pytanie, które dręczy mieszkańców społeczności deepfake Discord, takich jak DeepFaceLab (w tym DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI- oparte środowisko dla DFL, z wieloma dodatkowymi funkcjami), i nowe serwery Discord audio deepfake, takie jak Audio Deepfakes jest Czy właściciele portali i platform wkrótce po prostu zbanują społeczności deepfake z zasady, zamiast ponosić koszty ciągłej moderacji przeciwko fali zwolenników i twórców NSFW?

Bryan Lyon, jeden z deweloperów FaceSwap i właściciel powiązanego serwera Discord, skomentował^†:

‘Udało nam się pozostać na Discord, pomimo kilku czystek, pozostając absolutnie nieskazitelnie czystymi. Nie mamy ukrytych kanałów ani tajnego drugiego serwera z nielegalną zawartością. Była czystka popularnego serwera DeepFaceLab kilka lat temu. Każdy na nim został zbanowany. Mieli role zaproszeniowe z dostępem do kanałów z niezgodną pornografią.’

Uwzględniając, że Google, jeden z największych zasobów technologicznych na świecie, zbanował szkolenie deepfake na swoich serwerach i GPU, możliwe, że Microsoft-owned GitHub może zdecydować, że ułatwianie tych technologii* nie będzie warte moralnej niepewności lub inwestycji w nadzór.

W tym czasie proces uzasadniania technologii deepfake, aby ich użycie przechodziło od domowej pornografii do produkcji filmów i telewizji, oraz niezgodnych z prawem użycia, jest zbyt wczesny, aby wytworzyć jasne wytyczne polityczne dla platform i usług hostingowych.

* Archiwum https://github.com/search?q=deepfake z poniedziałku, 13 czerwca 2022.
† W prywatnych wiadomościach DM na Discord.

Pierwotnie opublikowane 13 czerwca 2022. Edytowane 15:08 czasu UTC w celu poprawy obrazu.
Zmienione we wtorek, 14 czerwca 2022, 6:24 rano UTC, aby dodać odpowiedź moderatora Reddit dotyczącą statusu NSFW niektórych postów. Również poprawiono ilustrację kanałów RSS.