Google запретил обучение Deepfakes в Colab

В течение последних двух недель Googlequietly изменил условия обслуживания для своих пользователей Colab, добавив положение, согласно которому услуги Colab больше не могут использоваться для обучения deepfakes.

Майское обновление привносит запрет на deepfakes в Colab. Источник: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions

Первая веб-архивированная версия из Интернет-архива, в которой представлен запрет на deepfakes, была зафиксирована в прошлый вторник, 24 мая. Последняя зафиксированная версия FAQ Colab, в которой не упоминается запрет, была от 14 мая.

Из двух популярных дистрибутивов для создания deepfakes, DeepFaceLab (DFL) и FaceSwap, которые являются форками скандального и анонимного кода, опубликованного на Reddit в 2017 году, только более известный DFL, по-видимому, был напрямую затронут запретом. Согласно разработчику deepfakes ‘chervonij’ в Discord DFL, запуск программного обеспечения в Google Colab теперь выдает предупреждение:

‘Вы можете выполнять код, который запрещен, и это может ограничить вашу возможность использовать Colab в будущем. Пожалуйста, обратите внимание на запрещенные действия, указанные в нашем FAQ.’

Однако, интересно, что пользователь в настоящее время разрешено продолжить выполнение кода.

Новое предупреждение, которое встретили создатели deepfakes DFL при попытке запуска кода на Google Colab. Источник: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

Согласно пользователю в Discord для конкурирующего дистрибутива FaceSwap, код этого проекта, по-видимому, еще не вызывает предупреждение, что предполагает, что код для DeepFaceLab (также архитектура для реализации потокового воспроизведения deepfakes в реальном времени DeepFaceLive), который является наиболее доминирующим методом deepfakes, был специально нацелен на Colab.

Соведущий разработчик FaceSwap Matt Tora прокомментировал*:

‘Я считаю, что Google делает это не по какой-либо особой этической причине, а потому, что raison d’être Colab – это возможность для студентов/ученых/исследователей запускать вычислительно дорогие коды GPU в легкой и доступной форме, бесплатно. Однако я подозреваю, что не незначительное количество пользователей эксплуатируют этот ресурс для создания моделей deepfakes в большом масштабе, что является вычислительно дорогим и требует значительного времени обучения для получения результатов.’

‘Вы можете сказать, что Colab больше склоняется к образовательной, исследовательской стороне ИИ. Выполнение скриптов, которые требуют мало пользовательского ввода или понимания, идет вразрез с этим. В Faceswap мы пытаемся сосредоточиться на образовании пользователя в области ИИ и механизмов, участвующих в этом, а также снижать барьер для входа. Мы очень сильно поощряем этичное использование программного обеспечения и считаем, что предоставление этих инструментов более широкой аудитории помогает образовывать людей в отношении того, что достижимо в современном мире, а не скрывать это от избранных.’

‘К сожалению, мы не можем контролировать, как наши инструменты будут использоваться в конечном итоге, ни где они будут запущены. Мне жаль, что один из путей для экспериментов с нашим кодом был закрыт для людей, однако, в плане защиты этого ресурса, чтобы обеспечить его доступность для целевой аудитории, я считаю это понятным.’

Не существует доказательств того, что новое ограничение распространяется только на бесплатный тарифный план Google Colab – в нижней части списка запрещенных действий, к которым теперь добавлены deepfakes, есть примечание ‘Дополнительные ограничения существуют для платных пользователей’, что указывает на то, что это базовые правила. В отношении запрета на deepfakes это вызвало путаницу у некоторых, поскольку ‘добыча криптовалюты’ и ‘участие в обмене файлами между равными’ включены в оба раздела ‘Ограничения’ для бесплатного и профессионального тарифных планов.

Согласно этой логике, все, что запрещено в разделе ‘Ограничения’ для бесплатного тарифного плана, разрешено в профессиональной версии, пока профессиональная версия не запрещает это явно, включая ‘запуск атак типа “отказ в обслуживании”‘ и ‘взлом паролей’. Дополнительные ограничения для профессионального тарифного плана в основном связаны с тем, что нельзя ‘сдавать в аренду’ доступ к профессиональному Colab, несмотря на путаницу и выборочное дублирование запретов.

Google Colab – это специализированная реализация среды Jupyter notebook, которая позволяет выполнять удаленную подготовку проектов машинного обучения на гораздо более мощных GPU, чем те, которые могут позволить себе многие пользователи.

Поскольку обучение deepfakes – это занятие, требующее много видеопамяти, и поскольку появления дефицита GPU, многие создатели deepfakes в последние годы отказались от домашней подготовки в пользу удаленной подготовки в Colab, где, в зависимости от случая и тарифного плана, можно обучать модель deepfakes на мощных картах, таких как Tesla T4 (16GB видеопамяти, в настоящее время около 2 тысяч долларов США), V100 (32GB видеопамяти, около 4 тысяч долларов США), и могущественный A100 (80GB видеопамяти, рекомендованная розничная цена 32 097,00 долларов США) и другие.

Запрет на обучение в Colab, по-видимому, уменьшит количество создателей deepfakes, которые могут обучать модели с более высоким разрешением, где входные и выходные изображения больше, более подходят для высококачественных результатов и способны извлекать и воспроизводить больше деталей лица.

Некоторые из наиболее преданных хоббиистов и энтузиастов deepfakes, согласно постам в Discord и на форумах, вложили значительные средства в локальное оборудование за последние пару лет, несмотря на высокие цены на GPU.

Однако, учитывая высокие затраты, возникли субкультуры, чтобы справиться с проблемами обучения deepfakes на Colab, с случайным распределением GPU как наиболее распространенной жалобой с тех пор, как Colab ограничил использование более высококлассных GPU для бесплатных пользователей.

* В частных сообщениях на Discord

Опубликовано впервые 28 мая 2022 года.
Исправлено 7:28 утра по восточному времени, исправление опечатки в цитате.
Исправлено 12:40 дня по восточному времени – добавлена разъяснение относительно запрета на deepfakes для бесплатного и профессионального тарифных планов, насколько это можно понять из списков запретов ‘бесплатного’ и ‘профессионального’ тарифных планов.