Reddit Zákazuje ‘SFW’ Deepfake Komunitu

O víkendu, zřejmě v neděli, Reddit zakázal nominálně ‘SFW’ (Safe For Work) deepfakes komunitu s názvem r/deepfakesfw. Tento subreddit byl jednou z prvních reakcí na sociální média giganta odstranění původního, AI-porn-ridden r/deepfakes sub v roce 2018.

Legenda, která nyní uvítá (archivní snímek pořízený v pondělí 13. června) každého, kdo navštíví sub, vysvětluje, že ‘byl zakázán kvůli porušení Redditových pravidel proti nevolnému pornografickému obsahu’.

Nová úvodní stránka pro r/deepfakesfw.

Sub r/deepfakesfw nebyl často archivován populárními konzervačními platformami, ale nejnovější snapshot WayBack Machine, pořízený před deseti dny (3. června 2022), ukazuje, že sub měl 3 095 čtenářů v té době.

To je vlastně vyšší počet odběratelů než r/DeepFakesSFW (pozor na extra ‘s’), který目前 má 2 827 čtenářů (archivní snímek pořízený v pondělí 13. června 2022). Nejpopulárnější ‘legitimní’ SFW deepfakes komunita se zdá být r/SFWdeepfakes, která má v době psaní tohoto článku 16 636 čtenářů (snapshot pořízený v pondělí 13. června 2022).

Nepožádejte

Co zdá se, že zničilo r/deepfakesfw, nebyla publikační činnost, ale žádost o deepfake pornografii. Redditova pravidla pro Sexually Explicit Media uvádějí:

‘[Obrázky] nebo video jiné osoby zveřejněné za účelem padělání explicitního obsahu nebo žádající „podobný“ pornografii (například „deepfakes“ nebo „bubble porn“) jsou také proti Pravidlu.’

Na základě posledního dostupného RSS feedu z nyní zakázaného SFW sub, to, co nakonec spustilo zákaz, byla žádost o NSFW deepfake obsah:

Některé z posledních, jasně NSFW příspěvků z nyní zaniklého subredditu r/deepfakesfw. Zdroj: Inoreader.

Ačkoli příspěvky, na které tyto RSS odkazy odkazují, již nejsou dostupné, kliknutí na odkazy profilů žadatelů (rozostřené na obrázku výše) odhalí, že mnoho z těchto uživatelů žádá o zakázaný deepfake obsah na více fórech a nabízí některé z nejextrémnějšího obsahu tohoto typu, včetně incestu a různých odstínů nevolné pornografické tematiky.

To naznačuje, že zbývající ‘SFW’ Reddit subs přežívají díky rychlosti, důkladnosti a rychlé reakční době svých moderátorů, protože se zdá, že Reddit není ochoten se stát jakýmsi ‘inzerčním fórem’ pro lidi, aby se spojili a transaktovali nelegitimní deepfakes prostřednictvím DM (v případech, kdy nelze explicitně požadovat v příspěvku).

Pokud ano, pak dosud nezakázaný r/DeepFakesSFW může žít na vypůjčený čas; jeho dva současné nejvýše umístěné příspěvky, když vstupujete do kořenového subredditu URL s ‘starým’ Reddit tématem, byly specificky označeny ‘NSFW’ (štítek, který by se neměl vyskytovat v této komunitě).

V závislosti na okolnostech se některé příspěvky porušující pravidla目前 objevují v subredditu r/DeepFakesSFW. Zdroj: https://www.reddit.com/r/DeepFakesSFW/

Můžete vidět tyto dva NSFW příspěvky na vrcholu dnešního fóra r/DeepFakesSFW archivovaného zde (snapshot pořízený v pondělí 13. června 2022).

Není k dispozici žádný NSFW ‘flair’, když vytváříte nový příspěvek v r/DeepFakesSFW, který je v provozu již čtyři roky, podle informací v postranním panelu:

Dostupné ‘flair’ při zveřejňování příspěvku v r/DeepFakesSFW.

Proto se zdá, že NSFW štítky v r/DeepFakesSFW byly aplikovány buď moderátory fóra nebo vyššími úrovněmi adminů – nebo dokonce algoritmy, possibly bez jakéhokoli zásahu nebo dostupného odporu místních moderátorů. Kontaktuji jediného uvedeného moderátora r/DeepFakesSFW ohledně tohoto a zveřejním jakékoli dostupné aktualizace.

(EDIT, úterý, 14. června 2022 – Moderator z r/DeepFakesSFW odpověděl, že ‘ Zdá se, že k tomu dochází, když je účet uživatele označen jako NSFW’. Přesně řečeno, jediný způsob, jak zpomalit pravděpodobnost takových žádostí v SFW deepfake subredditech, by byl zakázat uživatele, kteří získali tuto klasifikaci.)

Většina obsahu v tomto subredditu a ve větším r/SFWdeepfakes se zabývá používáním deepfake technologií k ‘přepřekreslení’ herců z populárních nebo klasických filmů, nebo jinak k tomu, aby měli nějakou neškodnou AI-poháněnou zábavu s populárními médii a deepfake technologií, a skutečně se kvalifikují jako ‘SFW’.

Ačkoli mnoho takových příspěvků se blíží nebezpečně blízko k autorským zákazům, pokračující přežití ‘IP-appropriated’ non-porn deepfake video příspěvků od hlavních YouTube deepfakers, jako je Ctrl-Shift-Face, naznačuje širokou toleranci studií a držitelů práv k takové činnosti, alespoň prozatím.

‘Nevinný’ Vzhled Deepfake Procesu a Ekosystému

Před dvěma týdny se ukázalo (a mnoho diskuse) že Google náhle zakázal deepfake-creation software z jeho populárních Colab cloud processing prostředí. Dnes je Colab zřejmě pouze ‘spuštěn’ pokusy o spuštění DeepFaceLab (DFL), nejoblíbenějšího deepfakes software na světě (a toho, který je nejvíce spojený s AI pornem), spíše než méně frekventované implementace, jako je FaceSwap, který má lepší pověst, přestože provádí přesně stejné úkoly jako DFL.

Do jisté míry může být tento přístup jediným způsobem, jak by Colab mohl implementovat jakékoli omezení výroby deepfake pornografie, protože skutečný deepfake tréninkový proces používá pouze open source software a vysoce ořezané obličejové obrázky (obvykle pouze 512x512px, často méně), s téměř nulovou možností pro algoritmy rozpoznávání obrázků, aby zachytili jakýkoli skutečný pornografický obsah.

Po dokončení deepfake modelu již deepfaker nepotřebuje enormní zpracování Colab nebo drahý místní GPU. Většina skutečných přepřekreslení (tj. procesu vkládání obličeje do videa, pornografického nebo jiného), může být provedena místně, na nízkoenergetických laptopových GPU – nebo dokonce na CPU (s mírně delší dobu zpracování). V době, kdy se něco pornografického děje v deepfake procesu, Colab již dávno opustil obraz.

Proto prvky, které procházejí mezi tvůrci deepfake porna, zřídka představují více než potenciální menší porušení autorských práv, ve formě ‘face sets’, které deepfake tvůrci extrahovali z YouTube videí, Blu-ray, televizních interview, sociálních médií a různých dalších zdrojů.

Přichází ‘Spálená Země’ Politika pro Deepfake Komunity?

Otázka, která pronásleduje obyvatele deepfake Discord komunit, jako je DeepFaceLab (včetně DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-založené prostředí pro DFL, s mnoha dalšími funkcemi), a nové audio-založené deepfake Discord servery, jako je Audio Deepfakes, je Budou současní vlastníci portálů a platforem brzy jednoduše zakázat deepfake komunity z principu, místo aby nesli náklady na stálou moderaci proti přílivu NSFW stoupenců a tvůrců?

Bryan Lyon, jeden z vývojářů FaceSwap a majitel projektu Discord serveru, komentoval^†:

‘Zůstali jsme na Discordu, navzdory několika čistkám, tím, že jsme zůstali absolutně čistí. Nemáme žádné skryté kanály nebo tajný druhý server s nelegitimním obsahem. Byla provedena čistka populárního DeepFaceLab serveru před několika lety. Všichni na něm byli zabanováni. Měli role s přístupem k kanálům s nevolnou pornografií.’

Vzhledem k tomu, že Google, jeden z největších technologických hostitelských zdrojů na světě, zakázal deepfake trénink na svých serverech a GPU, je možné, že Microsoft vlastněný GitHub může rozhodnout, že usnadňování těchto technologií* nebude nakonec stát za morální nejistotu nebo investici do dohledu.

V této době je proces legitimizace deepfake technologií tak, aby jejich použití přechází od domácího porna k filmové a televizní produkci a nezasahující/criminální použití, příliš v počátcích, aby produkoval jasná směrnice pro platformy a komunitní hostovací služby.

* Archiv https://github.com/search?q=deepfake z pondělí 13. června 2022.
† V soukromých DM na Discordu.

Poprvé publikováno 13. června 2022. Upraveno 3:08 PM UTC pro úpravu obrázku.
Upraveno v úterý, 14. června 2022, 6:24 ráno UTC, aby se přidala odpověď Reddit moderátora týkající se NSFW statusu některých posterů. Také úprava obrázku ilustrace RSS feedů.