Reddit запретил ‘SFW’ сообщество Deepfake

В течение выходных, видимо, где-то в воскресенье, Reddit запретил номинально ‘SFW’ (Безопасно для работы) сообщество deepfakes под названием r/deepfakesfw. Этот subreddit был одним из первых ответов на удаление социальным медиа-гигантом оригинального, наполненного AI-порнографией r/deepfakes sub в 2018 году.

(relatively) стандартная легенда, которая теперь встречает (архивный снимок, сделанный в понедельник, 13 июня) всех, кто посещает sub, объясняет, что оно ‘было запрещено из-за нарушения правил Reddit против непреднамеренной порнографии’.

Новая главная страница для r/deepfakesfw.

Sub r/deepfakesfw не часто архивировался популярными платформами сохранения, но самый недавний снимок WayBack Machine, сделанный около десяти дней назад (3 июня 2022 года), указывает, что sub имел 3,095 читателей на тот момент.

Это на самом деле больше подписчиков, чем r/DeepFakesSFW (обратите внимание на дополнительную ‘s’), который в настоящее время имеет 2,827 читателей (снимок архива, сделанный в понедельник, 13 июня 2022 года). Самое популярное ‘легитимное’ SFW сообщество deepfakes, кажется, в настоящее время является r/SFWdeepfakes, который на момент написания имеет 16,636 читателей (снимок, сделанный в понедельник, 13 июня 2022 года).

Не спрашивайте

Что, кажется, обрекло r/deepfakesfw, было не размещение, а запрос deepfake порнографии. Правила Reddit о сексуально откровенном контенте гласят:

‘[Изображения] или видео другого человека, опубликованные для конкретной цели создания фальшивого контента или привлечения “похожего” порнографического контента (например, “deepfakes” или “bubble porn”), также нарушают Правила.’

На основе последних доступных лент RSS из теперь запрещенного SFW sub, это был запрос, а не размещение NSFW deepfake контента, который наконец вызвал запрет:

Некоторые из последних, явно NSFW постов из теперь мертвого subreddit r/deepfakesfw. Источник: Inoreader.

Хотя посты, на которые указывают эти ленты RSS, больше не доступны, нажатие на ссылки профилей запросов (размытые на изображении выше) показывает, что многие из постеров запрашивают запрещенный deepfake контент на нескольких форумах и либо просят, либо предлагают некоторые из наиболее экстремальных контентов этого типа, включая инцест-порнографию и различные оттенки непреднамеренных порнографических тем.

Это предполагает, что оставшиеся ‘SFW’ subreddit выживает благодаря скорости, усердию и быстрому времени ответа их модераторов, поскольку кажется, что Reddit не желает становиться своего рода ‘объявлением’ форумом для людей, чтобы связаться и совершить незаконные deepfakes через DM (в случаях, когда это явно не запрашивается в посте).

Если так, то еще не запрещенный r/DeepFakesSFW может жить на заимствованное время; его два текущих верхних поста, когда вы входите в URL корневого subreddit с включенной темой ‘old’ Reddit, были специально отмечены ‘NSFW’ (тег, который, предположительно, не должен быть доступен в этом конкретном сообществе).

В зависимости от обстоятельств, некоторые посты, нарушающие правила, в настоящее время появляются в subreddit r/DeepFakesSFW. Источник: https://www.reddit.com/r/DeepFakesSFW/

Вы можете увидеть эти два NSFW поста, возглавляющие сегодняшний форум r/DeepFakesSFW, сохраненный здесь (снимок, сделанный в понедельник, 13 июня 2022 года).

На самом деле нет NSFW ‘флера’, доступного при создании нового поста в r/DeepFakesSFW, который работает уже четыре года, согласно информации в боковой панели:

Доступные ‘флеры’ при публикации в r/DeepFakesSFW.

Следовательно, NSFW теги в r/DeepFakesSFW, кажется, были применены либо модераторами форума, либо высшими администраторами – или даже алгоритмами, возможно, без вмешательства или доступного противостояния местными модераторами. Я обратился к единственному перечисленному модератору r/DeepFakesSFW по этому поводу и опубликую любые доступные обновления.

(Редактирование, вторник, 14 июня 2022 – Модератор в r/DeepFakesSFW ответил, заявив ‘Похоже, это происходит, когда учетная запись пользователя отмечена как NSFW’. Прежде всего, единственный способ замедлить вероятность таких запросов в SFW deepfake subreddit будет заключаться в том, чтобы запретить пользователям, которые ‘заработали’ эту классификацию.)

Большинство контента в этом subreddit и в более крупном r/SFWdeepfakes связано с использованием технологии deepfake для ‘пересъемки’ актеров из популярных или классических фильмов или для того, чтобы иметь некоторое более безобидное AI-ориентированное удовольствие от популярных медиа и технологии deepfake, и действительно квалифицируются как ‘SFW’.

Даже если многие такие посты граничат с опасностью из-за авторских прав, продолжающееся существование ‘IP-аппроприированных’ некорпоративных видеопостов deepfake от крупных создателей YouTube, таких как Ctrl-Shift-Face, предполагает широкую студийную и правообладательскую терпимость к такой деятельности, по крайней мере, на данный момент.

‘Невинный’ вид процесса и экосистемы Deepfake

Две недели назад стало известно (и много обсуждений) что Google внезапно запретил программное обеспечение для создания deepfakes в своих популярных облачных средах Colab. Даже до сих пор Colab, видимо, запускается только при попытках запуска DeepFaceLab (DFL), самого популярного программного обеспечения deepfakes в мире (и того, который наиболее связан с AI-порнографией), а не менее часто используемые реализации, такие как FaceSwap, который имеет лучшую репутацию, хотя и выполняет точно такие же задачи, как DFL.

В некоторой степени этот подход может быть единственным способом, которым Colab мог бы ввести любое ограничение на производство deepfake порнографии, поскольку фактический процесс обучения deepfake использует только открытые программные средства и сильно обрезанные изображения лиц (обычно всего 512x512px, часто меньше), с почти нулевой возможностью для алгоритмов распознавания изображений перехватить любой фактический порнографический контент.

К моменту, когда модель deepfake обучена, создатель deepfake больше не нуждается в огромной мощности обработки Colab или дорогом локальном GPU. Большинство фактических конверсий (т.е. процесса наложения лица на видео, порнографического или нет), может быть выполнено локально, на низкомощных лэптопных GPU – или даже на CPU (с немного более длительным временем обработки). К моменту, когда что-то порнографическое происходит в процессе deepfake, Colab уже давно исключен из процесса.

Следовательно, составные элементы, которые передаются между создателями deepfake порнографии, редко представляют больше, чем потенциальное незначительное нарушение авторских прав, в виде передачи ‘наборов лиц’, которые создатели deepfake извлекли из видео на YouTube, Blu-ray, телевизионных интервью, социальных сетей и различных других источников.

Идет ли ‘выжженная земля’ политика для сообществ Deepfake?

Вопрос, который преследует обитателей сообществ deepfake Discord, таких как DeepFaceLab (включая DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-ориентированная среда для DFL, с множеством добавленных функций), и новые аудио-ориентированные серверы deepfake Discord, такие как Audio Deepfakes является Скоро ли владельцы текущих порталов и платформ просто запретят сообщества deepfake по принципу, а не нести расходы на постоянную модерацию против прилива NSFW последователей и создателей?.

Брайан Лайон, один из разработчиков FaceSwap и владелец сервера Discord проекта, прокомментировал^†:

‘Мы смогли остаться на Discord, несмотря на несколько чисток, оставаясь абсолютно чистыми. У нас нет скрытых каналов или секретного второго сервера с незаконным контентом. Была чистка популярного сервера DeepFaceLab пару лет назад. Все, кто был на нем, были забанены. У них были приглашенные роли с доступом к каналам с непорнографическим контентом.’

Учитывая, что Google, один из крупнейших технологических хостингов в мире, запретил обучение deepfake на своих серверах и GPU, возможно, что Microsoft-owned GitHub может решить, что обеспечение этих технологий* в конечном итоге не стоит моральной двусмысленности или инвестиций в надзор.

На данный момент процесс легитимизации технологий deepfake, чтобы их использование перешло от самодельной порнографии к производству фильмов и телевидения, и некорпоративному/преступному использованию, слишком зародышевый, чтобы производить четкие политические рекомендации для платформ и услуг хостинга сообществ.

* Архив https://github.com/search?q=deepfake от понедельника, 13 июня 2022 года.
† В частных DM на Discord.

Опубликовано впервые 13 июня 2022 года. Редактировано 3:08 PM UTC для исправления изображения.
Исправлено во вторник, 14 июня 2022 года 6:24 утра UTC, чтобы добавить ответ модератора Reddit относительно статуса NSFW некоторых постеров. Также исправлено изображение иллюстрации ленты RSS.