Reddit заборонив спільноту ‘SFW’ Deepfake

У вікенді, очевидно, десь у неділю, Reddit заборонив спільноту з назвою r/deepfakesfw, яка позиціонувала себе як ‘безпечна для роботи’ (SFW). Ця субреддіт була однією з перших відповідей на видалення соціальною медійною гігантом оригінальної спільноти r/deepfakes у 2018 році, яка була насичена порнографічним контентом, створеним за допомогою штучного інтелекту.

Легенда, яка тепер зустрічає відвідувачів субреддіту, пояснює, що спільнота ‘була заборонена через порушення правил Reddit щодо заборони порнографічного контенту без згоди’.

Нова головна сторінка для r/deepfakesfw.

Субреддіт r/deepfakesfw не часто архівувався популярними платформами збереження, але останній доступний сніпет WayBack Machine, зроблений близько десяти днів тому (3 червня 2022 року), вказує на те, що на той момент у субреддіті було 3 095 читачів.

Це насправді більша кількість підписників, ніж у субреддіті r/DeepFakesSFW (з додатковою літерою ‘s’), який зараз має 2 827 читачів (сніпет архіву зроблений у понеділок, 13 червня 2022 року). Найпопулярнішою ‘легітимною’ спільнотою SFW deepfakes зараз видається r/SFWdeepfakes, яка на момент написання має 16 636 читачів (сніпет архіву зроблений у понеділок, 13 червня 2022 року).

Не питайте навіть

Що, як видається, стало причиною заборони r/deepfakesfw, було не розміщення, а запит на створення порнографічних глибоких фейків. Правила Reddit щодо явно сексуального контенту вказують:

‘[Зображення] або відео іншого особи, розміщені з метою створення явного контенту або звернення за “подібним” порнографічним контентом (наприклад, “глибокі фейки” або “бульбашкові фейки”) також заборонені.’

На основі останніх доступних RSS-стрічок з забороненої субреддіті SFW, саме запит на створення, а не розміщення не-SFW контенту глибоких фейків став причиною заборони:

Деякі з останніх, явно не-SFW публікацій у субреддіті r/deepfakesfw. Джерело: Inoreader.

Хоча ці публікації більше недоступні, натискання на посилання профілю тих, хто запитував (розмиті у зображенні вище), показує, що багато з цих осіб запитують заборонений контент глибоких фейків на кількох форумах, і або запитують, або пропонують деякий з найбільш екстремального контенту цього типу, включаючи порнографію інцесту та різні відтінки тем порнографії без згоди.

Це свідчить про те, що інші ‘безпечні для роботи’ субреддіті Reddit виживають завдяки швидкості, пильності та швидкій реакції їхніх модераторів, оскільки видається, що Reddit не бажає ставати якимось видом ‘класифайдного’ форуму для людей, щоб зв’язуватися та здійснювати незаконні глибокі фейки через приватні повідомлення (у випадках, коли це не може бути явно запитано у публікації).

Якщо так, то ще не заборонений субреддіт r/DeepFakesSFW може існувати на борговому часі; дві його поточні топ-публікації, коли ви заходите в кореневий URL субреддіту з включеною старою темою Reddit, були спеціально позначені як ‘не-SFW’ (тег, який навіть не повинен бути доступний у цій спільноті).

Залежно від обставин, деякі публікації, що порушують правила, зараз з’являються у субреддіті r/DeepFakesSFW. Джерело: https://www.reddit.com/r/DeepFakesSFW/

Ці дві не-SFW публікації зараз очолюють архів форуму r/DeepFakesSFW, зроблений тут (сніпет архіву зроблений у понеділок, 13 червня 2022 року).

Насправді немає тегу ‘не-SFW’, доступного для нової публікації у субреддіті r/DeepFakesSFW, який діє вже чотири роки, згідно з інформацією у бічній панелі:

Доступні теги при публікації у субреддіті r/DeepFakesSFW.

Отже, теги ‘не-SFW’ у субреддіті r/DeepFakesSFW, здається, були застосовані або модераторами форуму, або вищим рівнем адміністраторів – або навіть алгоритмами, можливо, без будь-якого втручання чи можливості опору з боку місцевих модераторів. Я зв’язався з єдиним перерахованим модератором субреддіту r/DeepFakesSFW щодо цього питання і опублікую будь-які доступні оновлення.

(РЕДАГУВАННЯ, вівторок, 14 червня 2022 року – Модератор субреддіту r/DeepFakesSFW відповів, заявивши: ‘Здається, це відбувається, коли обліковий запис користувача позначений як не-SFW’. Проблему запитів на створення забороненого контенту глибоких фейків у субреддіті SFW можна було б повільно вирішувати лише шляхом заборони користувачів, які ‘заробили’ цю класифікацію.)

Більшість контенту цього субреддіту, а також у великому субреддіті r/SFWdeepfakes, стосується використання технології глибоких фейків для ‘перезапису’ акторів у популярних або класичних фільмах, або для іншого безневинного AI-розважального використання популярних медіа та технології глибоких фейків, і дійсно відповідають критеріям ‘безпечного для роботи’.

‘Невинний’ вигляд процесу глибоких фейків та екосистеми

Два тижні тому стало відомо (і багато обговорень), що Google раптом заборонив програмне забезпечення для створення глибоких фейків у своїх популярних хмарних середовищах обробки Colab. Навіть зараз Colab, як видається, ‘спрацьовує’ лише при спробах запуску DeepFaceLab (DFL), найбільш популярного програмного забезпечення для глибоких фейків у світі (і найбільш асоційованого з AI-порнографією), а не з менш поширеними реалізаціями, такими як FaceSwap, яке має кращу репутацію, хоча виконує ті самі завдання, що й DFL.

До певної міри, такий підхід міг бути єдиним способом, яким Colab міг би реалізувати будь-які обмеження на виробництво порнографічних глибоких фейків, оскільки фактичний процес навчання глибоких фейків використовує лише відкрите програмне забезпечення та сильно обрізані зображення обличчя (зазвичай розміром лише 512×512 пікселів, часто менше), з майже нульовою можливістю для алгоритмів розпізнавання зображень перехопити будь-який фактичний порнографічний контент.

До моменту завершення навчання моделі глибоких фейків глибокий фейкер уже не потребує величезної обчислювальної потужності Colab або дорогого локального GPU. Більшість фактичних конверсій (тобто процесу імпортування обличчя у відео, порнографічного чи іншого) можна здійснити локально на низькопотужних лаптопних GPU – або навіть на CPU (з трохи довшим часом обробки). До моменту, коли відбувається щось порнографічне у процесі глибоких фейків, Colab вже давно вийшов з гри.

Отже, складові елементи, які передаються між творцями порнографічних глибоких фейків, рідко представляють щось більше, ніж потенційне незначне порушення авторських прав, у вигляді передачі ‘наборів облич’, які творці глибоких фейків витягнули з відео YouTube, Blu-ray, телевізійних інтерв’ю, соціальних медіа та різних інших джерел.

Чи очікується політика ‘спаленої землі’ для спільнот глибоких фейків?

Питання, яке турбує мешканців спільнот глибоких фейків у Discord, таких як DeepFaceLab (включаючи DeepFaceLive), FaceSwap, Machine Video Editor (MVE, графічний інтерфейс для DFL, з багатьма додатковими функціями), і нові аудіо-орієнтовані сервери Discord для глибоких фейків, таких як Audio Deepfakes, полягає в тому, чи скоро власники поточних порталів і платформ просто заборонять спільноти глибоких фейків за принципом, а не нести витрати на постійну модерацію проти хвилі не-SFW прихильників і творців?

Браян Ліон, один із розробників FaceSwap і власник пов’язаного сервера Discord, прокоментував^†:

‘Ми змогли залишитися на Discord, незважаючи на кілька чисток, залишаючись абсолютно чистими. У нас немає жодних прихованих каналів чи секретного другого сервера з незаконним контентом. Було очищення популярного сервера DeepFaceLab пару років тому. Усіх на ньому забанили. У них були запрошення лише для ролей з доступом до каналів з неконсensualною порнографією.’

Враховуючи, що Google, одна з найбільших технологічних хостинг-ресурсів світу, заборонила навчання глибоких фейків на своїх серверах і GPU, цілком можливо, що Microsoft, який володіє GitHub, вирішить, що фасилітування цих технологій* не буде вартісним моральної двозначності або інвестицій у нагляд.

На даний момент процес легітимізації технологій глибоких фейків для їхнього використання у кіно- та телевиробництві, а також у некримінальних цілях, ще занадто молодий, щоб давати чіткі керівні принципи для платформ і сервісів спільнот.

* Архів https://github.com/search?q=deepfake з понеділка, 13 червня 2022 року.

† У приватних повідомленнях Discord.

Перша публікація 13 червня 2022 року. Відредаговано 3:08 вечора UTC для виправлення зображення.

Відредаговано у вівторок, 14 червня 2022 року о 6:24 ранку UTC, щоб додати відповідь модератора Reddit щодо статусу не-SFW деяких постерів. Також виправлення зображення у ілюстрації RSS-стрічок.