Google запретил обучение дипфейков в Colab

Где-то за последние две недели Google незаметно изменил условия обслуживания для своих пользователей Colab, добавив условие, что сервисы Colab больше не могут использоваться для обучения дипфейкам.

Майское обновление вводит запрет на дипфейки в Colab. Источник: https://research.google.com/colaboratory/faq.html#limitations-and-restrictions.

Первая веб-архивная версия из Интернет-архива с запретом на дипфейки была захваченный в прошлый вторник, 24 мая. Последняя захваченная версия часто задаваемых вопросов Colab, в которой упомянуть, что запрет был на 14th мая.

Из двух популярных дистрибутивов для создания дипфейков DeepFaceLab (ДФЛ) и обмен лицами, оба из которых являются ответвлениями спорного и анонимного кода, опубликованного на Reddit. в 2017 году, только больше печально известный Судя по всему, запрет стал прямой мишенью для DFL. По словам разработчика дипфейка chervonij из DFL Discord, программа теперь работает в Google Colab. выдает предупреждение:

«Возможно, вы выполняете запрещенный код, и это может ограничить вашу возможность использовать Colab в будущем. Обратите внимание на запрещенные действия, указанные в нашем FAQ».

Однако, что интересно, в настоящее время пользователю разрешено продолжать выполнение кода.

Новое предупреждение, приветствовавшее дипфейкеров DFL, пытающихся запустить код в Google Colab. Источник: https://discord.com/channels/797172242697682985/797391052042010654/979823182624219136

По словам пользователя Discord для конкурирующего дистрибутива FaceSwap, код этого проекта, по-видимому, еще не вызывает предупреждение, предполагая, что код для DeepFaceLab (также подающая архитектура для реализации потоковой передачи дипфейков в реальном времени DeepFaceLive), безусловно, наиболее распространенный метод дипфейков, был специально нацелен на Colab.

Один из ведущих разработчиков FaceSwap Мэтт Тора прокомментировал*:

«Я считаю очень маловероятным, что Google делает это по каким-то конкретным этическим причинам, тем более, что смысл существования Colab заключается в том, чтобы студенты/специалисты по обработке данных/исследователи могли запускать ресурсоемкий в вычислительном отношении код графического процессора простым и доступным способом, без заряжать. Тем не менее, я подозреваю, что немалое количество пользователей использует этот ресурс для создания дипфейковых моделей в масштабе, что является дорогостоящим в вычислительном отношении и требует значительного времени обучения для получения результатов.

«Можно сказать, что Colab больше склоняется к образовательной, исследовательской стороне ИИ. Выполнение сценариев, которые требуют небольшого ввода пользователя или понимания, как правило, идут вразрез с этим. В Faceswap мы пытаемся сосредоточиться на обучении пользователей искусственному интеллекту и задействованным механизмам, одновременно снижая барьер для входа. Мы очень поощряем этичное использование программного обеспечения и считаем, что предоставление такого рода инструментов более широкой аудитории помогает обучать людей с точки зрения того, что достижимо в современном мире, а не скрывать это для немногих избранных.

«К сожалению, мы не можем контролировать, как в конечном итоге используются наши инструменты и где они работают. Меня огорчает, что людям закрыта возможность экспериментировать с нашим кодом, однако с точки зрения защиты этого конкретного ресурса, чтобы обеспечить его доступность для реальной целевой аудитории, я нахожу это понятным».

Нет никаких доказательств того, что новое ограничение ограничивается только бесплатным уровнем Google Colab — внизу списка запрещенных действий, к которым теперь добавлены дипфейки, есть примечание. «Для платных пользователей существуют дополнительные ограничения», указывая на то, что это базовые правила. Что касается запрета дипфейков, это смутило некоторых, поскольку «добыча криптовалюты» и 'участие в пиринговом обмене файлами' включены как в бесплатную, так и в профессиональную секцию «Ограничения».

По этой логике все, что запрещено в бесплатном разделе «Ограничения», разрешено в версии Pro, если в версии Pro это явно не запрещено, в том числе 'выполнение атак типа "отказ в обслуживании"' а также "взлом пароля". Дополнительные ограничения для уровня Pro в основном касаются запрета на субаренду доступа Pro Colab, несмотря на запутанные и выборочные запреты на дублирование.

Google Colab — это специальная реализация Блокнот Jupyter среды, которые позволяют удаленно обучать проекты машинного обучения на гораздо более мощных графических процессорах, чем могут себе позволить многие пользователи.

Поскольку для обучения дипфейкам требуется видеопамять, а с появлением дефицита графических процессоров многие дипфейкеры в последние годы отказались от домашнего обучения в пользу удаленного обучения в Colab, где можно, в зависимости от шанса и уровня, обучить дипфейк. модель на мощных картах, таких как Тесла Т4 (16 ГБ видеопамяти, в настоящее время около 2 тысяч долларов США), V100 (32 ГБ видеопамяти, около 4 тысяч долларов США) и мощный A100 (80 ГБ видеопамяти, MSRP в размере 32,097.00 XNUMX долларов США), среди прочего.

Запрет на обучение в Colab, вероятно, сократит количество дипфейкеров, способных обучать модели с более высоким разрешением, где входные и выходные изображения больше, больше подходят для результатов с высоким разрешением и способны извлекать и воспроизводить больше деталей лица.

Некоторые из самых преданных любителей и энтузиастов дипфейков, согласно Discord и сообщениям на форуме, за последние пару лет вложили значительные средства в местное оборудование, несмотря на высокие цены на графические процессоры.

Однако, учитывая высокие затраты, возникли подсообщества для решения проблем обучения дипфейков на Colabs, при этом случайное распределение графических процессоров является наиболее распространенной жалобой, поскольку Colab ограничил использование графических процессоров более высокого уровня бесплатными пользователями.

* В личных сообщениях в Discord

Впервые опубликовано 28 мая 2022 г.
Отредактировано в 7:28 по восточному стандартному времени, исправление опечатки в цитате.
Пересмотрено в 12:40 по восточному стандартному времени — добавлено разъяснение относительно запретов на дипфейки бесплатного и профессионального уровней, как лучше всего можно понять из списков запретов «бесплатных» и «профессиональных».