Google Запретил Обучение Дипфейков в Colab

В течение последних двух недель Googlequietly изменил условия использования для своих пользователей Colab, добавив положение, согласно которому услуги Colab больше не могут быть использованы для обучения дипфейков.

Майское обновление привносит запрет на дипфейки в Colab. Источник: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Первая веб-архивированная версия из Интернет-архива, в которой представлен запрет на дипфейки, была зафиксирована в прошлый вторник, 24 мая. Последняя зафиксированная версия FAQ Colab, в которой не упоминается запрет, была 14 мая.

Из двух популярных дистрибутивов для создания дипфейков, DeepFaceLab (DFL) и FaceSwap, которые являются форками контроверсного и анонимного кода, опубликованного на Reddit в 2017 году, только более известный DFL, по-видимому, был напрямую затронут запретом. Согласно разработчику дипфейков ‘chervonij’ в Discord DFL, запуск программного обеспечения в Google Colab теперь выдает предупреждение:

‘Вы можете выполнять код, который запрещен, и это может ограничить вашу возможность использовать Colab в будущем. Пожалуйста, обратите внимание на запрещенные действия, указанные в нашем FAQ.’

Однако интересно, что пользователь в настоящее время может продолжить выполнение кода.

Новое предупреждение, которое встретили создатели дипфейков DFL при попытке запуска кода в Google Colab. Источник: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Согласно пользователю в Discord для конкурирующего дистрибутива FaceSwap, код этого проекта, по-видимому, не вызывает предупреждение, что говорит о том, что код для DeepFaceLab (а также архитектура для реального потокового создания дипфейков DeepFaceLive), который является наиболее доминирующим методом создания дипфейков, был специально нацелен на Colab.

Со-ведущий разработчик FaceSwap Matt Tora прокомментировал*:

‘Я считаю, что Google делает это не из-за каких-либо этических причин, а потому, что Colab предназначен для студентов, ученых и исследователей, чтобы они могли запускать вычислительный код на мощных GPU бесплатно. Однако я подозреваю, что значительная часть пользователей эксплуатирует этот ресурс для создания моделей дипфейков, что является вычислительным и требует значительного времени обучения для получения результатов.

‘Вы можете сказать, что Colab больше ориентирован на образовательную и исследовательскую сторону AI. Выполнение скриптов, которые требуют мало пользовательского ввода или понимания, противоречит этому. В FaceSwap мы пытаемся сосредоточиться на образовании пользователей в области AI и механизмов, участвующих в этом, а также снижать барьер для входа. Мы очень поощряем этическое использование программного обеспечения и считаем, что предоставление таких инструментов более широкой аудитории помогает людям понять, что достижимо в современном мире, а не скрывать это от избранных.’

‘К сожалению, мы не можем контролировать, как наши инструменты будут использоваться в конечном итоге, ни где они будут запущены. Мне жаль, что один из путей для экспериментов с нашим кодом был закрыт, но в плане защиты этого ресурса для его целевой аудитории я считаю это понятным.’

Нет доказательств того, что новое ограничение распространяется только на бесплатный тарифный план Google Colab – в конце списка запрещенных действий, в который теперь входят дипфейки, есть примечание ‘Дополнительные ограничения существуют для платных пользователей’, что указывает на то, что это базовые правила. В отношении запрета на дипфейки это вызвало путаницу у некоторых, поскольку ‘майнинг криптовалют’ и ‘участие в пиринговом обмене файлами’ включены в оба раздела ‘Ограничения’ для бесплатного и платного тарифных планов.

Согласно логике, все, что запрещено в разделе ‘Ограничения’ бесплатного тарифа, разрешено в версии Pro, пока версия Pro не запрещает это явно, включая ‘выполнение атак типа “отказ в обслуживании”‘ и ‘взлом паролей’. Дополнительные ограничения для тарифного плана Pro в основном связаны с тем, что нельзя ‘сдавать в аренду’ доступ к Pro Colab, несмотря на путаницу и выборочное дублирование запретов.

Google Colab – это специализированная реализация среды Jupyter Notebook, которая позволяет выполнять удаленную тренировку проектов машинного обучения на более мощных GPU, чем те, которые могут позволить себе многие пользователи.

Поскольку обучение дипфейков – это ресурсоемкое занятие, требующее много видеопамяти, и поскольку появление нехватки GPU, многие создатели дипфейков в последние годы отказались от тренировки на домашних компьютерах в пользу удаленной тренировки в Colab, где, в зависимости от случая и тарифного плана, можно тренировать модель дипфейка на мощных картах, таких как Tesla T4 (16 ГБ видеопамяти, примерно 2 тысячи долларов США), V100 (32 ГБ видеопамяти, примерно 4 тысячи долларов США) и мощный A100 (80 ГБ видеопамяти, рекомендованная цена 32 097,00 долларов США) и другие.

Запрет на тренировку дипфейков в Colab, по-видимому, уменьшит количество создателей дипфейков, которые могут тренировать модели с более высоким разрешением, где входные и выходные изображения больше, более подходят для высококачественных результатов и способны извлекать и воспроизводить больше деталей лица.

Некоторые из наиболее преданных хоббиистов и энтузиастов дипфейков, согласно постам в Discord и на форумах, вложили значительные средства в локальное оборудование за последние пару лет, несмотря на высокие цены на GPU.

Однако, учитывая высокие затраты, образовались субкультуры, которые занимаются проблемами тренировки дипфейков на Colab, где случайная распределение GPU является наиболее распространенной жалобой с тех пор, как Colab limited the use of higher-end GPUs to free users.

* В частных сообщениях на Discord

Опубликовано впервые 28 мая 2022 года.
Исправлено 7:28 утра по восточному времени, исправление опечатки в цитате.
Исправлено 12:40 дня по восточному времени – добавлена разъяснение относительно запрета на дипфейки для бесплатного и платного тарифных планов, насколько это можно понять из списков ‘бесплатного’ и ‘платного’ ограничений.