Reddit Запретил ‘SFW’ Сообщество Deepfake

В течение выходных, видимо, в воскресенье, Reddit заблокировал номинально ‘SFW’ (Безопасно для работы) сообщество deepfakes под названием r/deepfakesfw. Этот subreddit был одним из первых ответов на удаление социальным медиа-гигантом оригинального, наполненного AI-порнографией, сообщества r/deepfakes в 2018 году.

Легенда, которая теперь встречает (архивный снимок, сделанный в понедельник, 13 июня) всех, кто посещает этот подфорум, объясняет, что он ‘был заблокирован из-за нарушения правил Reddit против непреднамеренной порнографии’.

Новая главная страница для r/deepfakesfw.

Подфорум r/deepfakesfw не часто архивировался популярными платформами сохранения, но последний снимок WayBack Machine, сделанный около десяти дней назад (3 июня 2022 года), указывает на то, что подфорум имел 3 095 читателей на тот момент.

Это фактически больше, чем у r/DeepFakesSFW (обратите внимание на дополнительную букву ‘s’), который в настоящее время имеет 2 827 читателей (архивный снимок, сделанный в понедельник, 13 июня 2022 года). Самым популярным ‘законным’ SFW-сообществом deepfakes в настоящее время является r/SFWdeepfakes, который на момент написания имеет 16 636 читателей (снимок, сделанный в понедельник, 13 июня 2022 года).

Не Спрашивайте

Кажется, что r/deepfakesfw был обречен не из-за публикаций, а из-за запросов порнографических deepfakes. Правила Reddit, касающиеся сексуально откровенного контента, гласят:

‘[Изображения] или видео другого человека, опубликованные для конкретной цели создания фальшивого контента или привлечения “похожего” порно (например, “deepfakes” или “bubble porn”), также противоречат Правилам.’

На основе последних доступных лент RSS из теперь заблокированного SFW-подфорума, именно запросы, а не публикации NSFW-контента deepfakes, в конечном итоге спровоцировали блокировку:

Некоторые из последних, явно NSFW-постов из теперь мертвого subreddit r/deepfakesfw. Источник: Inoreader.

Хотя эти посты больше не доступны, нажатие на ссылки профиля запросов (затененные в изображении выше) показывает, что многие из постеров запрашивают запрещенный контент deepfakes на нескольких форумах и либо просят, либо предлагают некоторые из наиболее экстремального контента этого типа, включая порнографию с участием близких родственников и различные оттенки непреднамеренных порнографических тем.

Это предполагает, что оставшиеся ‘SFW’ subreddit выживают благодаря скорости, усердию и быстрому реагированию своих модераторов, поскольку кажется, что Reddit не желает становиться своего рода ‘классифайд-форумом’ для людей, чтобы связаться и совершать незаконные deepfakes через DM (в случаях, когда это не может быть явно запрошено в посте).

Если так, то еще не заблокированный r/DeepFakesSFW может жить на заемное время; его два текущих топ-поста, когда вы входите в URL subreddit с включенной темой ‘old’ Reddit, были явно помечены как ‘NSFW’ (тег, который, предположительно, не должен быть доступен в этом конкретном сообществе).

В зависимости от обстоятельств, некоторые посты, нарушающие правила, в настоящее время появляются в subreddit r/DeepFakesSFW. Источник: https://www.reddit.com/r/DeepFakesSFW/

Вы можете увидеть эти два NSFW-поста, занимающие верхние позиции в subreddit r/DeepFakesSFW, архивированные здесь (снимок, сделанный в понедельник, 13 июня 2022 года).

На самом деле нет NSFW-‘флера’, доступного при создании нового поста в r/DeepFakesSFW, который работает уже четыре года, согласно информации в его боковой панели:

Доступные ‘флеры’ при публикации в r/DeepFakesSFW.

Следовательно, NSFW-теги в r/DeepFakesSFW, кажется, были применены либо модераторами форума, либо более высокими администраторами – или даже алгоритмами, возможно, без вмешательства или доступного противостояния со стороны местных модераторов. Я обратился к единственному перечисленному модератору r/DeepFakesSFW по этому поводу и опубликую любые доступные обновления.

(РЕДАКТИРОВАНО, Вторник, 14 июня 2022 – Модератор в r/DeepFakesSFW ответил, заявив ‘Похоже, это происходит, когда учетная запись пользователя помечена как NSFW’. Предположительно, единственный способ замедлить вероятность таких запросов в SFW-сообществах deepfakes будет заключаться в том, чтобы заблокировать пользователей, которые ‘заработали’ эту классификацию.)

Большинство контента в этом subreddit и в более крупном r/SFWdeepfakes связано с использованием технологии deepfakes для ‘пересъемки’ актеров из популярных или классических фильмов, или иным образом для того, чтобы иметь некоторое более безобидное AI-обусловленное удовольствие от популярных СМИ и технологии deepfakes, и действительно квалифицируются как ‘SFW’.

Хотя многие такие посты граничат с опасностью из-за нарушений, связанных с авторскими правами, продолжающееся существование ‘приобретенных IP’ видеопостов deepfakes от крупных ютуберов, таких как Ctrl-Shift-Face, предполагает широкую терпимость студий и правообладателей к такой деятельности, по крайней мере, на данный момент.

‘Невинный’ Вид Процесса Deepfake и Экосистемы

Две недели назад стало известно (и много обсуждений) что Google внезапно заблокировал программное обеспечение для создания deepfakes из своего популярного облачного окружения Colab. Даже на данный момент Colab, видимо, срабатывает только при попытках запуска DeepFaceLab (DFL), самого популярного программного обеспечения для deepfakes в мире (и наиболее связанного с AI-порнографией), а не менее часто используемых реализаций, таких как FaceSwap, который имеет лучшую репутацию, хотя выполняет точно те же задачи, что и DFL.

В некоторой степени этот подход, возможно, был единственным способом, которым Colab мог бы ввести какие-либо ограничения на производство порнографических deepfakes, поскольку фактический процесс обучения deepfakes использует только программное обеспечение с открытым исходным кодом и сильно обрезанные изображения лиц (обычно размером 512×512 пикселей, часто меньше), с почти нулевой возможностью для алгоритмов распознавания изображений перехватить любой фактический порнографический контент.

Когда модель deepfakes обучена, создатель deepfakes больше не нуждается в огромной мощности обработки Colab или дорогом локальном GPU. Большинство фактических преобразований (т.е. процесса наложения лица на видео, порнографического или нет) может быть выполнено локально, на GPU ноутбука с низкой мощностью – или даже на CPU (с немного более длительным временем обработки). К моменту, когда происходит что-то порнографическое в процессе deepfakes, Colab уже давно исключен из процесса.

Следовательно, составляющие элементы, которые передаются между создателями порнографических deepfakes, редко представляют больше, чем потенциальное незначительное нарушение авторских прав, в виде передачи ‘наборов лиц’, которые создатели deepfakes извлекли из видео на YouTube, Blu-ray, телевизионных интервью, социальных сетей и различных других источников.

Грядет Ли ‘Выжигающая Земля’ Политика для Сообществ Deepfake?

Вопрос, который преследует обитателей сообществ deepfakes в Discord, таких как DeepFaceLab (включая DeepFaceLive), FaceSwap, Machine Video Editor (MVE, GUI-окружение для DFL, с множеством добавленных функций), и новые аудио-ориентированные серверы Discord для deepfakes, такие как Audio Deepfakes, заключается в том, Скоро ли владельцы текущих порталов и платформ просто заблокируют сообщества deepfakes по принципу, а не нести расходы на постоянную модерацию против потока NSFW-адептов и создателей?

Брайан Лайон, один из разработчиков FaceSwap и владелец связанного с проектом сервера Discord, прокомментировал^†:

‘Мы смогли остаться на Discord, несмотря на несколько чисток, оставаясь абсолютно чистыми. У нас нет скрытых каналов или секретного второго сервера с запрещенным контентом. Была чистка популярного сервера DeepFaceLab пару лет назад. Все, кто был на нем, были заблокированы. У них были приглашения только для ролей с доступом к каналам с непреднамеренной порнографией.’

Учитывая, что Google, являющийся одним из крупнейших технологических хостингов в мире, ввел полный запрет на обучение deepfakes на своих серверах и GPU, возможно, что Microsoft, владеющий GitHub, решит, что обеспечение этих технологий* в конечном итоге не стоит моральной двусмысленности или инвестиций в надзор.

На данный момент процесс легитимизации технологий deepfakes, чтобы их использование перешло от домашней порнографии к производству фильмов и телевидения, и не нарушающим/преступным использованием, слишком несовершенен, чтобы давать четкие рекомендации для платформ и услуг хостинга сообществ.

* Архив https://github.com/search?q=deepfake от понедельника, 13 июня 2022.

† В частных DM на Discord.

Опубликовано впервые 13 июня 2022. Отредактировано 15:08 по UTC для исправления изображения.

Исправлено во вторник, 14 июня 2022, 06:24 UTC, чтобы добавить ответ модератора Reddit о статусе NSFW некоторых постеров. Также исправлено изображение иллюстрации лент RSS.