Andersonův úhel

Reddit zakazuje komunitu deepfake označenou SFW

Martin Anderson
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyReddit zakázal r/deepfakesfw za vyžadování nedobrovolné pornografie, nikoli za její…
Zobrazit více
  • Reddit zakázal r/deepfakesfw za vyžadování nedobrovolné pornografie, nikoli za její zveřejňování.
  • Google zakázal trénink deepfake na Colabu, ale spouští se pouze u DeepFaceLab, nikoli u jiných nástrojů.
  • Legitimní komunity deepfake přežívají pouze díky přísné moderaci proti požadavkům na NSFW obsah.

O víkendu, zřejmě někdy v neděli, Reddit zakázal komunitu s názvem r/deepfakesfw, která byla označena jako vhodná ke sledování na pracovišti (SFW). Tento subreddit byl jednou z prvních reakcí na rychlé smazání původního subredditu sociální sítí r/deepfakes, který obsahoval AI-pornografii, v roce 2018.

Standardní oznámení, které nyní uvítá každého, kdo navštíví tento subreddit (archivní snímek pořízený v pondělí 13. června), vysvětluje, že byl zakázán kvůli porušení pravidel Redditu proti pornografii bez souhlasu zobrazených osob.

Nová úvodní stránka pro r/deepfakesfw.

Nová úvodní stránka pro r/deepfakesfw.

Subreddit r/deepfakesfw nebyl často archivován populárními archivačními službami, ale nejnovější snímek WayBack Machine, pořízený před deseti dny (3. června 2022), ukazuje, že subreddit měl 3 095 čtenářů.

To je vlastně vyšší počet odběratelů než subreddit r/DeepFakesSFW (pozor, extra “s”), který nyní má 2 827 čtenářů (archivní snímek pořízený v pondělí 13. června 2022). Nejpopulárnější “legitimní” SFW deepfake komunita se zdá být subreddit r/SFWdeepfakes, který nyní má 16 636 čtenářů (snímek pořízený v pondělí 13. června 2022).

Ani o to nežádejte

Co zřejmě vedlo k zákazu r/deepfakesfw, nebyla publikační činnost, ale žádosti o deepfake pornografii. Pravidla Redditu pro sexuálně explicitní média stanoví:

‘[Obrázky] nebo videa jiné osoby zveřejněné za účelem vytvoření explicitního obsahu nebo žádosti o pornografii s osobou podobnou zobrazenému člověku (například “deepfakes” nebo “bubble porn”) jsou také proti pravidlům.’

Na základě posledních dostupných RSS feedů z nyní zakázaného SFW subredditu se zdá, že to byla žádost, nikoli publikační činnost, která nakonec vedla k zákazu:

Některé z posledních, jasně NSFW příspěvků z nyní zrušeného subredditu r/deepfakesfw.

Některé z posledních, jasně NSFW příspěvků z nyní zrušeného subredditu r/deepfakesfw. Zdroj: Inoreader.

Přestože tyto příspěvky již nejsou dostupné, kliknutí na odkazy profilů žadatelů (rozostřené v obrazu výše) odhalí, že mnozí z těchto uživatelů žádají o zakázaný deepfake obsah na více fórech a nabízí nebo žádají o některé z nejextrémnějších obsahů tohoto typu, včetně incestní pornografie a různých odstínů pornografie bez souhlasu zobrazených osob.

To naznačuje, že zbývající “SFW” subreddity přežívají díky rychlosti, důkladnosti a rychlé reakční době svých moderátorů, protože se zdá, že Reddit není ochoten se stát jakýmsi “inzerčním fórem” pro lidi, aby se spojili a obchodovali s nelegitimními deepfakes prostřednictvím DM (v případech, kdy nelze explicitně požádat v příspěvku).

Jestliže ano, pak subreddit r/DeepFakesSFW možná žije na vypůjčený čas; jeho dva současné nejvýše umístěné příspěvky, když se vstupuje do kořenového adresáře subredditu s povoleným tématem “old” Reddit, byly zvlášť označeny jako “NSFW” (štítek, který by se v této komunitě neměl vůbec objevit).

V závislosti na okolnostech se v subredditu r/DeepFakesSFW objevují některé příspěvky, které porušují pravidla.

V závislosti na okolnostech se v subredditu r/DeepFakesSFW objevují některé příspěvky, které porušují pravidla. Zdroj: https://www.reddit.com/r/DeepFakesSFW/

Můžete vidět tyto dva NSFW příspěvky na vrcholu dnešního fóra r/DeepFakesSFW, které jsou archivovány zde (snímek pořízený v pondělí 13. června 2022).

Ve skutečnosti není k dispozici žádný NSFW “štítek” při vytváření nového příspěvku v subredditu r/DeepFakesSFW, který funguje již čtyři roky, podle informací v postranní liště:

Dostupné štítky při příspěvku do subredditu r/DeepFakesSFW.

Dostupné štítky při příspěvku do subredditu r/DeepFakesSFW.

Tudíž se zdá, že NSFW štítky v subredditu r/DeepFakesSFW byly aplikovány buď moderátory fóra nebo vyššími úřady – nebo dokonce algoritmy, možná bez jakéhokoli zásahu nebo dostupného odporu místních moderátorů. Kontaktuji jediného uvedeného moderátora subredditu r/DeepFakesSFW ohledně tohoto a zveřejním jakékoli dostupné aktualizace.

(EDIT, úterý 14. června 2022 – Moderátor subredditu r/DeepFakesSFW odpověděl, že ” Zdá se, že k tomu dochází, když je účet uživatele označen jako NSFW”. Předpokladem je, že jediný způsob, jak snížit pravděpodobnost takových žádostí v SFW deepfake subredditech, by byl zákaz uživatelů, kteří získali tuto klasifikaci.)

Většina obsahu v tomto subredditu a ve větším subredditu r/SFWdeepfakes se zabývá používáním deepfake technologií k novému obsazení rolí pomocí tváří herců z populárních nebo klasických filmů, nebo jinými slovy k tomu, aby měli nějakou neškodnou AI-poháněnou zábavu s populárními médii a deepfake technologiemi, a skutečně se kvalifikují jako “SFW”.

I když mnoho takových příspěvků se blíží nebezpečně blízko k zákazu z důvodu porušení autorských práv, pokračující přežití nepornografických využívajících cizí duševní vlastnictví deepfake videí od hlavních YouTube deepfakers, jako je Ctrl-Shift-Face, naznačuje širokou toleranci studií a držitelů práv k takové činnosti, alespoň prozatím.

‘Nevinný’ Vzhled Deepfake Procesu a Ekosystému

Před dvěma týdny se ukázalo (a následovala diskuze), že Google náhle zakázal software pro tvorbu deepfakes v svých oblíbených cloudových prostředích Colab. I dnes je Colab zřejmě “spuštěn” pouze při pokusech o spuštění DeepFaceLab (DFL), nejpopulárnějšího softwaru pro deepfakes na světě (a toho, který je nejvíce spojen s AI pornografií), spíše než méně frekventované implementace, jako je FaceSwap, které má lepší pověst, i když provádí přesně stejné úkoly jako DFL.

Do jisté míry může být tento přístup jediným způsobem, jak by Colab mohl implementovat jakékoli omezení výroby deepfake pornografie, protože skutečný proces trénování modelů deepfake používá pouze open source software a vysoce ořezané obrázky obličeje (obvykle pouze 512x512px, často méně), s téměř nulovou možností, že algoritmy rozpoznávání obrázků zachytí jakýkoli skutečný pornografický obsah.

Po dokončení trénování modelu deepfake již deepfaker nepotřebuje obrovský výpočetní výkon Colabu nebo drahý lokální GPU. Většina skutečných konverzí (tj. procesu vkládání obličeje do videa, pornografického nebo jiného), může být provedena lokálně, na méně výkonném GPU notebooku – nebo dokonce na CPU (s mírně delší dobou zpracování). Ve chvíli, kdy se něco pornografického děje v procesu deepfakes, Colab již dávno vypadl z obrazu.

Protože složky, které procházejí mezi tvůrci deepfake pornografie, zřídka představují více než potenciální menší porušení autorských práv, ve formě předávání “souborů obličeje”, které tvůrci deepfakes extrahovali z videí na YouTube, Blu-ray, televizních rozhovorů, sociálních médií a různých dalších zdrojů.

Přichází ‘Spálená Země’ Politika pro Deepfake Komunity?

Otázka, která trápí obyvatele deepfake komunit na Discordu, jako je DeepFaceLab (včetně DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-založené prostředí pro DFL, s mnoha dalšími funkcemi), a nové audio-založené deepfake servery Discord, jako je Audio Deepfakes, je Budou současní vlastníci portálů a platforem brzy jednoduše zakázat deepfake komunity z principu, místo aby nesli náklady na neustálou moderaci proti přílivu NSFW stoupenců a tvůrců?

Bryan Lyon, jeden z vývojářů FaceSwap a majitel projektu Discord serveru, komentoval†:

‘Zůstali jsme na Discordu, navzdory několika čistkám, tím, že jsme zůstali absolutně čistí. Nemáme žádné skryté kanály nebo tajný druhý server s nelegitimním obsahem. Před pár lety proběhla čistka populárního serveru DeepFaceLab. Všichni na něm byli zabanováni. Měli role dostupné pouze na pozvání, které umožňovaly přístup ke kanálům s pornografií bez souhlasu zobrazených osob.’

Vzhledem k tomu, že Google, jeden z největších technologických hostingových zdrojů na světě, plošně zakázal trénování modelů deepfake na svých serverech a GPU, je dokonce možné, že Microsoft-vlastněný GitHub může rozhodnout, že usnadňování těchto technologií* nebude nakonec stát za morální dvojznačnost nebo investici do dohledu.

V tomto okamžiku je proces legitimizace deepfake technologií, aby se jejich použití přesunulo od domácí pornografie k filmové a televizní produkci a použitím, která neporušují cizí práva ani nejsou trestná, příliš v plenkách, aby produkoval jasná směrnice pro platformy a služby hostingu komunit.

 

* Archiv https://github.com/search?q=deepfake z pondělí 13. června 2022.
† V soukromých DM na Discordu.

První zveřejnění 13. června 2022. Upraveno 15:08 UTC pro opravu obrázku.
Upraveno v úterý 14. června 2022 v 6:24 UTC, aby se přidala odpověď moderátora subredditu r/DeepFakesSFW týkající se NSFW statusu některých příspěvků. Také oprava obrázku RSS feedů.

Spisovatel v oblasti strojového učení, odborník na syntézu lidských obrazů. Bývalý vedoucí výzkumného obsahu ve společnosti Metaphysic.ai, až do jejího sloučení do Brahma.ai společnosti DNEG.
Webová stránka: martinanderson.ai
Kontakt: martin@martinanderson.ai