Погляд Anderson
Reddit блокує спільноту deepfake з позначкою SFW

Ключові моментиReddit заборонив r/deepfakesfw за спонукання до недобровільної порнографії, а не за її…
Показати більше
- Reddit заборонив r/deepfakesfw за спонукання до недобровільної порнографії, а не за її публікацію.
- Google заборонив навчання deepfake на Colab, але це спрацьовує лише для DeepFaceLab, а не для інших інструментів.
- Легітимні спільноти deepfake виживають лише завдяки суворій модерації запитів на вміст NSFW.
На вихідних, очевидно, десь у неділю, Reddit заборонив спільноту з назвою r/deepfakesfw, яка позиціонувала себе як з контентом, придатним для перегляду на роботі (SFW). Ця субреддіт була однією з перших відповідей на швидке видалення гігантом соціальних мереж оригінальної спільноти r/deepfakes у 2018 році, яка була насичена порнографічним контентом, створеним за допомогою штучного інтелекту.
Типове повідомлення, яке тепер зустрічає відвідувачів субреддіту (архівний знімок зроблено в понеділок, 13 червня), пояснює, що спільнота ‘була заборонена через порушення правил Reddit щодо заборони порнографічного контенту без згоди’.
Субреддіт r/deepfakesfw не часто архівувався популярними платформами збереження, але останній доступний знімок WayBack Machine, зроблений близько десяти днів тому (3 червня 2022 року), вказує на те, що на той момент у субреддіті було 3 095 читачів.
Це насправді більша кількість підписників, ніж у субреддіті r/DeepFakesSFW (з додатковою літерою ‘s’), який зараз має 2 827 читачів (сніпет архіву зроблений у понеділок, 13 червня 2022 року). Найпопулярнішою ‘легітимною’ спільнотою SFW deepfakes зараз видається r/SFWdeepfakes, яка на момент написання має 16 636 читачів (сніпет архіву зроблений у понеділок, 13 червня 2022 року).
Навіть не просіть
Що, як видається, стало причиною заборони r/deepfakesfw, було не розміщення, а запит на створення порнографічних глибоких фейків. Правила Reddit щодо явно сексуального контенту вказують:
‘[Зображення] або відео іншого особи, розміщені з метою створення явного контенту або звернення за порнографічним контентом за участю схожої на зображену людини (наприклад, “глибокі фейки” або “бульбашкові фейки”) також заборонені.’
На основі останніх доступних RSS-стрічок з забороненої субреддіті SFW, саме запит на створення, а не розміщення не-SFW контенту глибоких фейків став причиною заборони:
Хоча ці публікації більше недоступні, натискання на посилання профілю тих, хто запитував (розмиті у зображенні вище), показує, що багато з цих осіб запитують заборонений контент глибоких фейків на кількох форумах, і або запитують, або пропонують деякий з найбільш екстремального контенту цього типу, включаючи порнографію інцесту та різні відтінки тем порнографії без згоди.
Це свідчить про те, що інші ‘безпечні для роботи’ субреддіті Reddit виживають завдяки швидкості, пильності та швидкій реакції їхніх модераторів, оскільки видається, що Reddit не бажає ставати якимось видом форуму приватних оголошень для людей, щоб зв’язуватися та здійснювати незаконні глибокі фейки через приватні повідомлення (у випадках, коли це не може бути явно запитано у публікації).
Якщо так, то ще не заборонений субреддіт r/DeepFakesSFW може існувати лише до неминучого блокування; дві його поточні топ-публікації, коли ви заходите в кореневий URL субреддіту з включеною старою темою Reddit, були спеціально позначені як ‘не-SFW’ (тег, який навіть не повинен бути доступний у цій спільноті).

Залежно від обставин, деякі публікації, що порушують правила, зараз з’являються у субреддіті r/DeepFakesSFW. Джерело: https://www.reddit.com/r/DeepFakesSFW/
Ці дві не-SFW публікації зараз очолюють архів форуму r/DeepFakesSFW, зроблений тут (сніпет архіву зроблений у понеділок, 13 червня 2022 року).
Насправді немає тегу ‘не-SFW’, доступного для нової публікації у субреддіті r/DeepFakesSFW, який діє вже чотири роки, згідно з інформацією у бічній панелі:

Доступні теги при публікації у субреддіті r/DeepFakesSFW.
Отже, теги NSFW у субреддіті r/DeepFakesSFW, здається, були застосовані або модераторами форуму, або вищим рівнем адміністраторів – або навіть алгоритмами, можливо, без будь-якого втручання чи можливості опору з боку місцевих модераторів. Я зв’язався з єдиним перерахованим модератором субреддіту r/DeepFakesSFW щодо цього питання і опублікую будь-які доступні оновлення.
(РЕДАГУВАННЯ, вівторок, 14 червня 2022 року – Модератор субреддіту r/DeepFakesSFW відповів, заявивши: ‘Здається, це відбувається, коли обліковий запис користувача позначений як не-SFW’. Проблему запитів на створення забороненого контенту глибоких фейків у субреддіті SFW можна було б повільно вирішувати лише шляхом заборони користувачів, які ‘заробили’ цю класифікацію.)
Більшість контенту цього субреддіту, а також у великому субреддіті r/SFWdeepfakes, стосується використання технології глибоких фейків для заміни акторів у популярних або класичних фільмах, або для іншого безневинного AI-розважального використання популярних медіа та технології глибоких фейків, і дійсно відповідають критеріям ‘безпечного для роботи’.
Хоча багато таких публікацій небезпечно наближаються до блокування через авторські права, подальше існування непорнографічних deepfake-відео, що використовують чужу інтелектуальну власність, від провідних авторів YouTube, як-от Ctrl-Shift-Face, свідчить про широку терпимість студій і правовласників до такої діяльності, принаймні поки що.
‘Невинний’ вигляд процесу глибоких фейків та екосистеми
Два тижні тому стало відомо (і багато обговорень), що Google раптом заборонив програмне забезпечення для створення глибоких фейків у своїх популярних хмарних середовищах обробки Colab. Навіть зараз Colab, як видається, ‘спрацьовує’ лише при спробах запуску DeepFaceLab (DFL), найбільш популярного програмного забезпечення для глибоких фейків у світі (і найбільш асоційованого з AI-порнографією), а не з менш поширеними реалізаціями, такими як FaceSwap, яке має кращу репутацію, хоча виконує ті самі завдання, що й DFL.
До певної міри, такий підхід міг бути єдиним способом, яким Colab міг би реалізувати будь-які обмеження на виробництво порнографічних глибоких фейків, оскільки фактичний процес навчання глибоких фейків використовує лише відкрите програмне забезпечення та сильно обрізані зображення обличчя (зазвичай розміром лише 512×512 пікселів, часто менше), з майже нульовою можливістю для алгоритмів розпізнавання зображень перехопити будь-який фактичний порнографічний контент.
До моменту завершення навчання моделі глибоких фейків глибокий фейкер уже не потребує величезної обчислювальної потужності Colab або дорогого локального GPU. Більшість фактичних конверсій (тобто процесу імпортування обличчя у відео, порнографічного чи іншого) можна здійснити локально на низькопотужних лаптопних GPU – або навіть на CPU (з трохи довшим часом обробки). До моменту, коли відбувається щось порнографічне у процесі глибоких фейків, Colab вже давно вийшов з гри.
Отже, складові елементи, які передаються між творцями порнографічних глибоких фейків, рідко представляють щось більше, ніж потенційне незначне порушення авторських прав, у вигляді передачі ‘наборів облич’, які творці глибоких фейків витягнули з відео YouTube, Blu-ray, телевізійних інтерв’ю, соціальних медіа та різних інших джерел.
Чи очікується політика ‘спаленої землі’ для спільнот глибоких фейків?
Питання, яке турбує мешканців спільнот глибоких фейків у Discord, таких як DeepFaceLab (включаючи DeepFaceLive), FaceSwap, Machine Video Editor (MVE, графічний інтерфейс для DFL, з багатьма додатковими функціями), і нові аудіо-орієнтовані сервери Discord для глибоких фейків, таких як Audio Deepfakes, полягає в тому, чи скоро власники поточних порталів і платформ просто заборонять спільноти глибоких фейків за принципом, а не нести витрати на постійну модерацію проти хвилі не-SFW прихильників і творців?
Браян Ліон, один із розробників FaceSwap і власник пов’язаного сервера Discord, прокоментував†:
‘Ми змогли залишитися на Discord, незважаючи на кілька чисток, залишаючись абсолютно чистими. У нас немає жодних прихованих каналів чи секретного другого сервера з незаконним контентом. Було очищення популярного сервера DeepFaceLab пару років тому. Усіх на ньому забанили. У них були ролі, доступні лише за запрошенням, з доступом до каналів із порнографією без згоди зображених осіб.’
Враховуючи, що Google, одна з найбільших технологічних хостинг-ресурсів світу, заборонила навчання глибоких фейків на своїх серверах і GPU, цілком можливо, що Microsoft, який володіє GitHub, вирішить, що фасилітування цих технологій* не буде вартісним моральної двозначності або інвестицій у нагляд.
Наразі процес легітимізації технологій deepfake, щоб їхнє використання перейшло від домашньої порнографії до кіно- й телевиробництва та застосувань, які не порушують чужих прав і не є злочинними, ще надто молодий для формування чітких політик платформ і сервісів хостингу спільнот.
* Архів https://github.com/search?q=deepfake з понеділка, 13 червня 2022 року.
† У приватних повідомленнях Discord.
Перша публікація 13 червня 2022 року. Відредаговано 3:08 вечора UTC для виправлення зображення.
Відредаговано у вівторок, 14 червня 2022 року о 6:24 ранку UTC, щоб додати відповідь модератора Reddit щодо статусу не-SFW деяких постерів. Також виправлення зображення у ілюстрації RSS-стрічок.














