Reddit заблокировал сообщество Deepfake SFW

На выходных, примерно где-то в воскресенье, Reddit запретил номинально «SFW» (Safe For Work) сообщество дипфейков под названием r/deepfakesfw. Сабреддит стал одним из первых ответов на предложение гиганта социальных сетей. удаление оригинальной подделки r/deepfakes с искусственным интеллектом в 2018 году.

(Относительно) шаблонная легенда, которая теперь приветствует (архивный снимок, сделанный в понедельник, 13 июня) любого, кто посещает подлодку, объясняет, что это был забанен из-за нарушения Reddit условиями, против недобровольной порнографии'.

Новая главная страница r/deepfakesfw.

Подпрограмма r/deepfakesfw не часто архивировалась популярными платформами сохранения, но чаще всего недавний снимок WayBack Machine, сделанный около десяти дней назад (3 июня 2022 г.), указывает на то, что в то время у подписки было 3,095 читателей.

На самом деле это больше подписчиков, чем р/DeepFakesSFW (обратите внимание на дополнительные 's'), который в настоящее время имеет Читатели 2,827 (архивный снимок сделан в понедельник, 13 июня 2022 г.). В настоящее время самым популярным «законным» сообществом дипфейков SFW является р/SFWdeepfakes, который на момент написания Читатели 16,636 (снимок сделан в понедельник, 13 июня 2022 г.).

Даже не спрашивай

Судя по всему, r/deepfakesfw погубила не публикация, а запрашивающий дипфейковой порнографии. Правила Reddit в отношении СМИ откровенно сексуального характера гласят:

«[Изображения] или видео другого лица, размещенные с конкретной целью подделки откровенного контента или вымогательства «похожей» порнографии (например, «дипфейки» или «пузырьковое порно»), также противоречат Правилу».

Основываясь на последних доступных RSS-каналах из теперь заблокированной подписки SFW, именно запрос, а не публикация дипфейкового контента NSFW, в конечном итоге спровоцировал запрет:

Некоторые из последних, явно NSFW сообщений из ныне мертвого сабреддита r/deepfakesfw. Источник: Инореадер.

Хотя сообщения, на которые указывают эти сообщения RSS, больше не доступны, нажатие на ссылки профилей запрашивающих (размытые на изображении выше) показывает, что многие из авторов запрашивают запрещенный дипфейковый контент более чем на одном форуме и либо просят, либо предлагают один из самых экстремальных материалов этого типа, включая инцест-порно и различные оттенки невольной порнографической тематики.

Это говорит о том, что оставшиеся подписчики Reddit «SFW» выживают за счет скорости, усердия и быстрого отклика их модераторов, поскольку кажется, что Reddit не желает становиться своего рода форумом «классифицированной рекламы», где люди могут подключаться и совершать нелегитимные дипфейки через DM (в случаях, когда это не может быть явно запрошено в сообщении).

Если это так, то еще не забаненный r/DeepFakesSFW может жить в долг; два его текущих верхних сообщения при вводе URL-адреса корневого субреддита с включенной «старой» темой Reddit были специально помечены как «NSFW» (тег, который, по-видимому, даже не должен быть доступен в этом конкретном сообществе).

В зависимости от обстоятельств некоторые сообщения, нарушающие правила, в настоящее время появляются в подразделе r/DeepFakesSFW. Источник: https://www.reddit.com/r/DeepFakesSFW/

Вы можете увидеть эти два сообщения NSFW, возглавляющие сегодняшний форум r/DeepFakesSFW, в архиве. здесь (снимок сделан в понедельник, 13 июня 2022 г.).

На самом деле нет «чутья» NSFW при создании нового поста на r / DeepFakesSFW, который работает уже четыре года, согласно информации на боковой панели:

Доступные «чутья» при публикации на r/DeepFakesSFW.

Следовательно Эротика теги на r/DeepFakesSFW, по-видимому, применялись либо модераторами форума, либо администраторами более высокого уровня, либо даже алгоритмами, возможно, без какого-либо вмешательства или возражений со стороны местных модераторов. Я связался с единственным указанным модератором r/DeepFakesSFW по этому поводу и опубликую все доступные обновления.

(РЕДАКТИРОВАТЬ, вторник, 14 июня 2022 г. – Модератор r/DeepFakesSFW ответил, заявив: «Похоже, это происходит, когда учетная запись пользователя является NSFW». Предположительно, единственный способ снизить вероятность таких запросов в сабреддитах дипфейков SFW — это заблокировать пользователей, которые «заслужили» эту классификацию.)

Большая часть контента в этом сабреддите и в более крупном r/SFWdeepfakes связана с использованием технологии дипфейков для «переделки» актеров из популярных или классических фильмов или иным образом для более безобидного развлечения, основанного на искусственном интеллекте, с популярными медиа и технологиями дипфейков. и действительно квалифицируются как «SFW».

Несмотря на то, что многие такие посты находятся в опасной близости от запретов, основанных на авторских правах, продолжающееся выживание «присвоенных IP» не порнографических дипфейковых видео постов от крупных дипфейкеров YouTube, таких как Ctrl-Shift-Face, предполагает широкую терпимость студии и правообладателей к такой деятельности, по крайней мере, на данный момент.

«Невинный» внешний вид процесса дипфейка и его экосистемы

Две недели назад это выяснилось (и многое обсуждение), что Google внезапно запретил программное обеспечение для создания дипфейков в своих популярных средах облачной обработки Colab. Даже на сегодняшний день Colab, по-видимому, «запускается» только попытками запустить DeepFaceLab (DFL), самое популярное в мире программное обеспечение для дипфейков (и одно из самых тесно связанный с ИИ-порно), а не менее часто используемые реализации, такие как обмен лицами, который пользуется большей репутацией, хотя выполняет те же задачи, что и DFL.

В какой-то степени этот подход мог быть единственным способом реализации Colab. любое ограничение на производство дипфейковой порнографии, так как фактический процесс обучения дипфейкам не использует ничего, кроме программного обеспечения с открытым исходным кодом и сильно обрезанных изображений лиц (обычно всего лишь 512x512 пикселей, часто меньше), с почти нулевой вероятностью алгоритмов распознавания изображений для перехвата любой реальной порнографической информации. содержание.

К тому времени, когда модель дипфейка обучена, дипфейкеру больше не нужны огромные вычислительные мощности Colab или дорогой локальный графический процессор. Самый актуальный конверсий (т. е. процесс наложения лица на видео, порнографическое или иное), может выполняться локально, на маломощных графических процессорах ноутбуков — или даже на центральном процессоре (с немного более длительным временем обработки). К тому времени, когда в процессе дипфейка происходит что-то порнографическое, Colab уже давно вычеркнут из картины.

Таким образом, составные элементы, которыми обмениваются создатели дипфейкового порно, редко представляют собой нечто большее, чем потенциально незначительное нарушение авторских прав, в виде передачи «наборов лиц», которые создатели дипфейков извлекают из видео на YouTube, Blu-ray, телеинтервью. , социальные сети и другие источники.

Грядет ли политика «выжженной земли» для сообществ дипфейков?

Вопрос, который преследует обитателей дипфейковых сообществ Discord, таких как DeepFaceLab (В том числе DeepFaceLive), обмен лицами, Машинный видеоредактор (MVE, основанный на графическом интерфейсе среда для DFL, со многими дополнительными функциями) и новые серверы Discord для дипфейков на основе аудио, такие как Аудио дипфейки is Будут ли нынешние владельцы порталов и платформ просто принципиально блокировать дипфейк-сообщества вместо того, чтобы нести расходы на постоянную модерацию против потока сторонников и создателей NSFW?

Брайан Лайон, один из разработчиков FaceSwap и владелец связанного с проектом сервера Discord, прокомментировал^†:

«Нам удалось остаться в Discord, несмотря на несколько чисток, оставаясь абсолютно чистыми. У нас нет скрытых каналов или секретного второго сервера с нелегальным контентом. Пару лет назад произошла чистка популярного сервера DeepFaceLab. Всех на нем забанили. У них были роли только по приглашению с доступом к каналам с порнографией без согласия».

Учитывая, что Google, один из крупнейших в мире технологических хостинговых ресурсов, полностью запретил обучение дипфейкам на своих серверах и графических процессорах, вполне возможно, что GitHub, принадлежащий Microsoft, может решить, что содействие этим технологиям* в конечном итоге не будет стоить моральной двусмысленности или инвестиций в надзор.

В настоящее время процесс легитимации дипфейковых технологий с тем, чтобы их использование переходило от домашнего порно к кино- и телепроизводству, а также к ненарушающему/преступному использованию, слишком зарождается, чтобы выработать четкие руководящие принципы политики для платформ и хостинг-сервисов сообщества.

* Архив https://github.com/search?q=deepfake от понедельника, 13 июня 2022 г.
† В личных сообщениях в Discord.

Впервые опубликовано 13 июня 2022 г. Отредактировано в 3:08 UTC для изменения изображения.
Внесены поправки во вторник, 14 июня 2022 г., в 6:24 утра по всемирному координированному времени, чтобы добавить ответ модератора Reddit относительно статуса NSFW некоторых постеров. Также изменение изображения на иллюстрации RSS-каналов.