Китай предлагает увеличение регулирования глубоких подделок и других систем синтеза ИИ

Киберадминистация Китая (CAC) предложила новый набор проектов правил, регулирующих системы синтеза с помощью ИИ, включая глубокие подделки, виртуальные реальности, генерацию текста, аудио и другие подотрасли синтеза медиа – область, в которой Китай производит большое количество академических статей и инновационных исследовательских проектов каждый месяц.

Пост (Google Translation, оригинал здесь) на официальном сайте CAC излагает предложенные обязательства и характеризует затронутые услуги как ‘поставщики услуг глубокого синтеза’, приглашая граждан участвовать, предоставляя комментарии к проектам, с сроком до 28 февраля.

Не только глубокие подделки

Хотя предложенные правила были сообщены в терминах их потенциального влияния на создание и распространение глубоких подделок, документ пытается охватить все алгоритмы, которые могут генерировать любой тип контента, который можно интерпретировать в широком смысле как ‘медиа’.

Статья 2 объявляет проектный объем правил в шести секторах*:

(1) Техники генерации или редактирования текстового контента, такие как генерация глав, конверсия стиля текста и диалог вопросов и ответов;

(2) Технологии генерации или редактирования голосового контента, такие как текст-в-речь, конверсия голоса и редактирование атрибутов голоса;

(3) Технологии генерации или редактирования неголосового контента, такие как генерация музыки и редактирование звука сцены;

(4) Генерация лица, замена лица, редактирование атрибутов персонажа, манипуляция лицом, манипуляция жестами и другие технологии генерации или редактирования биометрических особенностей, таких как лица в изображениях и видеоконтенте;

(5) Техники редактирования небиологических особенностей в изображениях и видеоконтенте, таких как улучшение изображения и восстановление изображения;

(6) Технологии генерации или редактирования виртуальных сцен, таких как 3D-реконструкция.

Регулирование глубоких подделок

Китай криминализировал использование ИИ для распространения фейковых новостей в конце 2019 года, в то время когда CAC выразил обеспокоенность по поводу потенциальных последствий технологии глубоких подделок, что заставило многих подумать, что китайское правительство в конечном итоге запретит технологию глубоких подделок полностью.

Однако это потребует, чтобы Китай официально отказался от одного из наиболее политически и культурно значимых разработок в истории генерации медиа, ИИ и даже политики, и отрезал себя от преимуществ глобального и открытого научного сотрудничества.

Следовательно, кажется, что Китай теперь намерен экспериментировать с контролем, а не запретом потенциально бунтующей технологии, которую многие считают в конечном итоге мигрирующей из своей фазы ускорения порнографии в легитимный и эксплуатируемый набор случаев использования, особенно в области развлечений.

NeRF включен

Статья 2.6 касается генерации или редактирования виртуальных сцен, таких как 3D-реконструкция, более молодой технологии, чем подделка глубоких подделок, и той, которая достигла наибольшей известности за последние два года благодаря появлению нейронных радиационных полей (NeRF), где фотограмметрия используется для синтеза целых сцен в исследуемом латентном пространстве моделей машинного обучения.

Однако NeRF быстро расширяет свое влияние из таблиц моделей и прогулок по окружению в генерацию полноэкранного видео, и китайские исследователи продвинули некоторые основные инновации в этом отношении.

ST-NeRF Китая в действии.

Хотя NeRF произвел вихрь новых исследований с момента его объявления в 2020 году, его реализация в системах VR или AR, или его пригодность в визуальных эффектах, все еще имеет много заметных проблем и технологических препятствий. Растущая способность NeRF воссоздавать и редактировать полные человеческие физиогномии еще не включила ни одну из стандартных возможностей глубоких подделок, которые характеризовали заголовки новостей за последние два года.

Аудио глубокие подделки – приоритет?

Если принять список Статьи 2 как указание на технологии глубокого синтеза, которые Китай наиболее обеспокоен контролировать и регулировать, это будет означать, что текстовая фейковая новость, сгенерированная ИИ, является первоочередной проблемой, с синтезом голоса впереди видео глубоких подделок в плане его потенциального влияния.

Если так, это соответствует тому факту, что глубокое видео подделки еще не было использовано в любом преступлении, не связанном с порнографией (Азия не колебалась криминализировать глубокие подделки порнографии), в то время как глубокие подделки аудио были предложены как активная технология в至少 двух крупных финансовых преступлениях, в Великобритании в 2019 году и в Объединенных Арабских Эмиратах в 2021 году.

Новые проекты правил обязывают пользователей, желающих использовать личность человека с помощью систем машинного обучения, получить письменное разрешение от этого человека. Кроме того, синтезированный медиа-контент должен отображать какой-либо ‘промinent’ логотип или водяной знак, или другие средства, с помощью которых человек, потребляющий материал, может понять, что контент изменен или полностью сфабрикован. Не совсем ясно, как это можно сделать в случае аудио глубоких подделок.

Регистрация

Если проекты будут ратифицированы, проекты правил будут обязывать поставщиков услуг глубокого синтеза зарегистрировать свои соответствующие приложения в государстве, в соответствии с существующими положениями об управлении алгоритмическими рекомендациями для интернет-услуг информации, и соблюдать все необходимые процедуры подачи заявок. Поставщики глубокого синтеза также будут обязаны сотрудничать свободно в плане надзора и инспекции, и производить ‘необходимую техническую и dữ hỗ trợ и помощь’ по запросу.

Кроме того, такие поставщики должны будут создать удобные порталы для жалоб и опубликовать ожидаемые сроки обработки таких жалоб, а также быть обязаны предлагать ‘механизмы опровержения слухов’ – хотя проекты правил не предоставляют деталей в отношении реализации этого.

Нарушения могут привести к штрафам в размере от 10 000 до 100 000 юаней ($1 600 и $16 000), а также подвергнуть виновные компании гражданским и уголовным искам.

* Перевод Google Translate, см. ссылку в начале статьи.

Опубликовано впервые 28 января 2022 года.