Reddit Zákazuje ‘SFW’ Deepfake Komunitu

O víkendu, zřejmě někdy v neděli, Reddit zakázal komunitu s názvem r/deepfakesfw, která byla označena jako “bezpečná pro práci” (SFW). Tento subreddit byl jednou z prvních reakcí na rozhodnutí sociálních médií zrušit původní subreddit r/deepfakes, který obsahoval AI-pornografii, v roce 2018.

Legenda, která nyní uvítá každého, kdo navštíví tento subreddit (archivní snímek pořízený v pondělí 13. června), vysvětluje, že byl zakázán kvůli porušení pravidel Redditu proti nechtěné pornografii.

Nová úvodní stránka pro r/deepfakesfw.

Subreddit r/deepfakesfw nebyl často archivován populárními konzervačními platformami, ale nejnovější snímek WayBack Machine, pořízený před deseti dny (3. června 2022), ukazuje, že subreddit měl 3 095 čtenářů.

To je vlastně vyšší počet odběratelů než subreddit r/DeepFakesSFW (pozor, extra “s”), který目前 má 2 827 čtenářů (archivní snímek pořízený v pondělí 13. června 2022). Nejpopulárnější “legitimní” SFW deepfake komunita se zdá být subreddit r/SFWdeepfakes, který目前 má 16 636 čtenářů (snímek pořízený v pondělí 13. června 2022).

Nepřipadá Vám to divné?

Co zřejmě vedlo k zákazu r/deepfakesfw, nebyla publikační činnost, ale žádosti o deepfake pornografii. Pravidla Redditu pro Sexually Explicit Media stanoví:

‘[Obrázky] nebo videa jiné osoby zveřejněné za účelem vytvoření explicitního obsahu nebo žádosti o “podobné” pornografii (například “deepfakes” nebo “bubble porn”) jsou také proti pravidlům.’

Na základě posledních dostupných RSS feedů z nyní zakázaného SFW subredditu se zdá, že to byla žádost, nikoli publikační činnost, která nakonec vedla k zákazu:

Některé z posledních, jasně NSFW příspěvků z nyní zrušeného subredditu r/deepfakesfw. Zdroj: Inoreader.

Přestože tyto příspěvky již nejsou dostupné, kliknutí na odkazy profilů žadatelů (rozostřené v obrazu výše) odhalí, že mnozí z těchto uživatelů žádají o zakázaný deepfake obsah na více fórech a nabízí nebo žádají o některé z nejextrémnějších obsahů tohoto typu, včetně incestní pornografie a různých odstínů nechtěné pornografické tematiky.

To naznačuje, že zbývající “SFW” subreddity přežívají díky rychlosti, důkladnosti a rychlé reakční době svých moderátorů, protože se zdá, že Reddit není ochoten se stát jakýmsi “inzerčním fórem” pro lidi, aby se spojili a obchodovali s nelegitimními deepfakes prostřednictvím DM (v případech, kdy nelze explicitně požádat v příspěvku).

Jestliže ano, pak subreddit r/DeepFakesSFW možná žije na vypůjčený čas; jeho dva současné nejvýše umístěné příspěvky, když se vstupuje do kořenového adresáře subredditu s povoleným tématem “old” Reddit, byly zvlášť označeny jako “NSFW” (štítek, který by se v této komunitě neměl vůbec objevit).

V závislosti na okolnostech se v subredditu r/DeepFakesSFW objevují některé příspěvky, které porušují pravidla. Zdroj: https://www.reddit.com/r/DeepFakesSFW/

Můžete vidět tyto dva NSFW příspěvky na vrcholu dnešního fóra r/DeepFakesSFW, které jsou archivovány zde (snímek pořízený v pondělí 13. června 2022).

Ve skutečnosti není k dispozici žádný NSFW “štítek” při vytváření nového příspěvku v subredditu r/DeepFakesSFW, který funguje již čtyři roky, podle informací v postranní liště:

Dostupné štítky při příspěvku do subredditu r/DeepFakesSFW.

Tudíž se zdá, že NSFW štítky v subredditu r/DeepFakesSFW byly aplikovány buď moderátory fóra nebo vyššími úřady – nebo dokonce algoritmy, možná bez jakéhokoli zásahu nebo dostupného odporu místních moderátorů. Kontaktuji jediného uvedeného moderátora subredditu r/DeepFakesSFW ohledně tohoto a zveřejním jakékoli dostupné aktualizace.

(EDIT, úterý 14. června 2022 – Moderátor subredditu r/DeepFakesSFW odpověděl, že ” Zdá se, že k tomu dochází, když je účet uživatele označen jako NSFW”. Předpokladem je, že jediný způsob, jak zpomalit pravděpodobnost takových žádostí v SFW deepfake subredditech, by byl zákaz uživatelů, kteří získali tuto klasifikaci.)

Většina obsahu v tomto subredditu a ve větším subredditu r/SFWdeepfakes se zabývá používáním deepfake technologií k “přepřekreslení” herců z populárních nebo klasických filmů, nebo jinými slovy k tomu, aby měli nějakou neškodnou AI-poháněnou zábavu s populárními médii a deepfake technologiemi, a skutečně se kvalifikují jako “SFW”.

I když mnoho takových příspěvků se blíží nebezpečně blízko k zákazu z důvodu porušení autorských práv, pokračující přežití “vlastněných” ne-pornografických deepfake videí od hlavních YouTube deepfakers, jako je Ctrl-Shift-Face, naznačuje širokou toleranci studií a držitelů práv k takové činnosti, alespoň prozatím.

‘Nevinný’ Vzhled Deepfake Procesu a Ekosystému

Před dvěma týdny se ukázalo (a následovala diskuze), že Google náhle zakázal software pro tvorbu deepfakes v svých oblíbených cloudových prostředích Colab. I dnes je Colab zřejmě “spuštěn” pouze při pokusech o spuštění DeepFaceLab (DFL), nejpopulárnějšího softwaru pro deepfakes na světě (a toho, který je nejvíce spojen s AI pornografií), spíše než méně frekventované implementace, jako je FaceSwap, které má lepší pověst, i když provádí přesně stejné úkoly jako DFL.

Do jisté míry může být tento přístup jediným způsobem, jak by Colab mohl implementovat jakékoli omezení výroby deepfake pornografie, protože skutečný proces tvorby deepfakes používá pouze open source software a vysoce ořezané obrázky obličeje (obvykle pouze 512x512px, často méně), s téměř nulovou možností, že algoritmy rozpoznávání obrázků zachytí jakýkoli skutečný pornografický obsah.

Po dokončení školení deepfake modelu již deepfaker nepotřebuje enormní zpracování Colabu nebo drahý lokální GPU. Většina skutečných přepisů (tj. procesu vkládání obličeje do videa, pornografického nebo jiného), může být provedena lokálně, na low-power laptop GPU – nebo dokonce na CPU (s mírně delší dobou zpracování). Ve chvíli, kdy se něco pornografického děje v procesu deepfakes, Colab již dávno vypadl z obrazu.

Protože složky, které procházejí mezi tvůrci deepfake pornografie, zřídka představují více než potenciální menší porušení autorských práv, ve formě předávání “souborů obličeje”, které tvůrci deepfakes extrahovali z videí na YouTube, Blu-ray, televizních rozhovorů, sociálních médií a různých dalších zdrojů.

Přichází ‘Spálená Země’ Politika pro Deepfake Komunity?

Otázka, která trápí obyvatele deepfake komunit na Discordu, jako je DeepFaceLab (včetně DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-založené prostředí pro DFL, s mnoha dalšími funkcemi), a nové audio-založené deepfake servery Discord, jako je Audio Deepfakes, je Budou současní vlastníci portálů a platforem brzy jednoduše zakázat deepfake komunity z principu, místo aby nesli náklady na neustálou moderaci proti přílivu NSFW stoupenců a tvůrců?

Bryan Lyon, jeden z vývojářů FaceSwap a majitel projektu Discord serveru, komentoval^†:

‘Zůstali jsme na Discordu, navzdory několika čistkám, tím, že jsme zůstali absolutně čistí. Nemáme žádné skryté kanály nebo tajný druhý server s nelegitimním obsahem. Před pár lety proběhla čistka populárního serveru DeepFaceLab. Všichni na něm byli zabanováni. Měli roli s přístupem k kanálům s nelegitimní pornografií.’

Vzhledem k tomu, že Google, jeden z největších technologických hostingových zdrojů na světě, zakázal školení deepfakes na svých serverech a GPU, je dokonce možné, že Microsoft-vlastněný GitHub může rozhodnout, že usnadňování těchto technologií* nebude nakonec stát za morální dvojznačnost nebo investici do dohledu.

V tomto okamžiku je proces legitimizace deepfake technologií, aby se jejich použití přesunulo od domácí pornografie k filmové a televizní produkci a ne-porušujícím/criminálním použitím, příliš v plenkách, aby produkoval jasná směrnice pro platformy a služby hostingu komunit.

* Archiv https://github.com/search?q=deepfake z pondělí 13. června 2022.
† V soukromých DM na Discordu.

První zveřejnění 13. června 2022. Upraveno 15:08 SELČ pro opravu obrázku.
Upraveno v úterý 14. června 2022 v 6:24 SELČ, aby se přidala odpověď moderátora subredditu r/DeepFakesSFW týkající se NSFW statusu některých příspěvků. Také oprava obrázku RSS feedů.