Китай предлагает увеличение регулирования глубоких подделок и других систем синтеза ИИ

Администрация киберпространства Китая (CAC) предложила новый набор проектов правил для управления системами синтеза с помощью ИИ, включая глубокие подделки, виртуальные реальности, генерацию текста, аудио и другие подотрасли синтеза ИИ-медиа – область, в которой Китай производит огромное количество академических работ и инновационных исследовательских проектов каждый месяц.

Пост (Google Translation, оригинал here) на официальном сайте CAC излагает предложенные обязательства и характеризует затронутые услуги как ‘поставщиков услуг глубокого синтеза’, приглашая граждан участвовать, предоставляя комментарии к проектам, с сроком 28 февраля.

Не только глубокие подделки

Хотя предложенные правила были сообщены в терминах их потенциального влияния на создание и распространение глубоких подделок, документ пытается охватить все аспекты способности алгоритмов генерировать любой тип контента, который можно интерпретировать в широком смысле как ‘медиа’.

Статья 2 объявляет предполагаемый объем правил в шести секторах*:

(1) Техники генерации или редактирования текстового контента, такие как генерация глав, преобразование стиля текста и диалог вопросов и ответов;

(2) Технологии генерации или редактирования голосового контента, такие как текст-в-речь, преобразование голоса и редактирование атрибутов голоса;

(3) Технологии генерации или редактирования неголосового контента, такие как генерация музыки и редактирование сценических звуков;

(4) Генерация лица, замена лица, редактирование атрибутов персонажа, манипулирование лицом, манипулирование жестами и другие технологии генерации или редактирования биометрических особенностей, таких как лица в изображениях и видеоконтенте;

(5) Техники редактирования небиологических особенностей в изображениях и видеоконтенте, таких как улучшение изображения и восстановление изображения;

(6) Технологии генерации или редактирования виртуальных сцен, таких как 3D-реконструкция.

Регулирование глубоких подделок

Китай криминализировал использование ИИ для распространения фейковых новостей в конце 2019 года, в то время когда CAC выразил обеспокоенность по поводу потенциальных последствий технологии глубоких подделок, что заставило многих считать, что китайское правительство в конечном итоге запретит технологию глубоких подделок совсем.

Однако это потребует, чтобы Китай официально отказался от одного из наиболее политически и культурно значимых разработок в истории генерации медиа, ИИ и даже политики, и отрезал себя от преимуществ глобального и открытого научного сотрудничества.

Следовательно, кажется, что Китай теперь намерен экспериментировать с контролем, а не с запретом потенциально бродячей технологии, которая, как многие считают, в конечном итоге перейдет из своей фазы ускорения порно в легитимный и эксплуатируемый набор случаев использования, особенно в области развлечений.

NeRF Included

Статья 2.6 касается генерации или редактирования виртуальных сцен, таких как 3D-реконструкция, более молодой технологии, чем глубокие подделки, и той, которая достигла наибольшей известности за последние два года благодаря появлению нейронных радиационных полей (NeRF), где фотограмметрия используется для синтеза целых сцен в исследуемом латентном пространстве моделей машинного обучения.

Однако NeRF быстро расширяет свое влияние из таблиц моделей и прогулок по окружающей среде в генерацию полноэкранного видео, и китайские исследователи добились некоторых крупных инноваций в этом отношении.

ST-NeRF Китая в действии.

Хотя NeRF произвел целый шквал новых исследований с момента его объявления в 2020 году, его реализация в системах VR или AR, или его пригодность в визуальных эффектах, все еще имеет много заметных проблем и технологических瓶목, которые необходимо преодолеть. Растущая способность NeRF воссоздавать и редактировать полные человеческие физиогномии еще не включает в себя какие-либо стандартные возможности глубоких подделок, характеризующих заголовки новостей за последние два года.

Аудио глубокие подделки – приоритет?

Если можно принять порядок списка Статьи 2 как указание на глубокие синтетические технологии, которые Китай наиболее обеспокоен контролировать и регулировать, это будет означать, что текстовые ИИ-генерируемые фейковые новости являются первоочередной задачей, а синтез голоса опережает видео глубокие подделки в плане их потенциального воздействия.

Если так, это соответствует тому факту, что глубокие видео-подделки еще не были использованы в каком-либо преступлении, не связанном с порнографией (Азия не колебалась криминализировать глубокие подделки порно), в то время как глубокие аудио-подделки были предложены как активная технология как минимум в двух крупных финансовых преступлениях, в Великобритании в 2019 году и в Объединенных Арабских Эмиратах в 2021 году.

Новые проекты правил обязывают пользователей, желающих использовать личность человека с помощью систем машинного обучения, получить письменное разрешение от этого человека. Кроме того, синтезированные СМИ должны отображать какой-либо ‘промinent’ логотип или водяной знак, или другие средства, с помощью которых человек, потребляющий материал, может быть проинформирован о том, что контент изменен или полностью фабрикован. Не совсем ясно, как это можно сделать в случае аудио глубоких подделок.

Регистрация

Если проекты правил будут ратифицированы, они будут обязывать поставщиков услуг глубокого синтеза зарегистрировать свои соответствующие приложения в государстве, в соответствии с существующими положениями об администрировании алгоритмических рекомендаций для интернет-информационных услуг, и соблюдать все необходимые процедуры подачи заявок. Поставщики глубокого синтеза также будут обязаны сотрудничать свободно в плане надзора и инспекции, и предоставлять ‘необходимую техническую и данные поддержку и помощь’ по запросу.

Кроме того, такие поставщики будут нуждаться в создании удобных порталов для жалоб и в публикации ожидаемых сроков обработки таких жалоб, а также будут обязаны предлагать ‘механизмы опровержения слухов’ – хотя проекты правил не предоставляют подробностей в отношении реализации этого.

Нарушения могут привести к штрафам в размере от 10 000 до 100 000 юаней ($1 600 и $16 000), а также могут подвергнуть правонарушительные компании гражданским и уголовным искам.

* Перевод Google Translate, см. ссылку в начале статьи.

Опубликовано впервые 28 января 2022 года.