Взгляд Anderson

Китай предлагает увеличение регулирования глубоких подделок и других систем синтеза ИИ

Martin Anderson
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыПроект нормативных актов Китая направлен на регулирование шести секторов синтеза ИИ…
Показать больше
  • Проект нормативных актов Китая направлен на регулирование шести секторов синтеза ИИ, включая текст, голос и 3D-реконструкцию.
  • Поставщики обязаны наносить водяные знаки на весь синтезированный медиаконтент и получать письменное разрешение на использование персональных данных.
  • Нарушителям, не зарегистрировавшим услуги глубокого синтеза, грозят штрафы до 100 000 юаней.

Киберадминистрация Китая (CAC) предложила новый набор проектов правил, регулирующих системы синтеза с помощью ИИ, включая глубокие подделки, сцены виртуальной реальности, генерацию текста, аудио и другие подотрасли синтеза медиа – область, в которой Китай производит большое количество академических статей и инновационных исследовательских проектов каждый месяц.

Пост (Google Translation, оригинал здесь) на официальном сайте CAC излагает предложенные обязательства и характеризует затронутые услуги как ‘поставщики услуг глубокого синтеза’, приглашая граждан участвовать, предоставляя комментарии к проектам, со сроком подачи до 28 февраля.

Не только глубокие подделки

Хотя предложенные правила были сообщены в терминах их потенциального влияния на создание и распространение глубоких подделок, документ пытается охватить все алгоритмы, которые могут генерировать любой тип контента, который можно интерпретировать в широком смысле как ‘медиа’.

Статья 2 объявляет проектный объем правил в шести секторах*:

(1) Техники генерации или редактирования текстового контента, такие как генерация глав, конверсия стиля текста и диалог вопросов и ответов;

(2) Технологии генерации или редактирования голосового контента, такие как текст-в-речь, конверсия голоса и редактирование атрибутов голоса;

(3) Технологии генерации или редактирования неголосового контента, такие как генерация музыки и редактирование звука сцены;

(4) Генерация лица, замена лица, редактирование атрибутов персонажа, манипуляция лицом, манипуляция жестами и другие технологии генерации или редактирования биометрических особенностей, таких как лица в изображениях и видеоконтенте;

(5) Техники редактирования небиологических особенностей в изображениях и видеоконтенте, таких как улучшение изображения и восстановление изображения;

(6) Технологии генерации или редактирования виртуальных сцен, таких как 3D-реконструкция.

Регулирование глубоких подделок

Китай криминализировал использование ИИ для распространения фейковых новостей в конце 2019 года, в то время когда CAC выразил обеспокоенность по поводу потенциальных последствий технологии глубоких подделок, что заставило многих подумать, что китайское правительство в конечном итоге запретит технологию глубоких подделок полностью.

Однако это потребует, чтобы Китай официально отказался от одного из наиболее политически и культурно значимых достижений в истории генерации медиа, ИИ и даже политики, и отрезал себя от преимуществ глобального и открытого научного сотрудничества.

Следовательно, кажется, что Китай теперь намерен экспериментировать с контролем, а не запретом потенциально бунтующей технологии, которую многие считают в конечном итоге мигрирующей из своей фазы развития, стимулируемого порнографией в легитимный и эксплуатируемый набор случаев использования, особенно в области развлечений.

NeRF включен

Статья 2.6 касается генерации или редактирования виртуальных сцен, таких как 3D-реконструкция, более молодой технологии, чем имитация чужой личности с помощью дипфейков, и той, которая достигла наибольшей известности за последние два года благодаря появлению нейронных полей излучения (NeRF), где фотограмметрия используется для синтеза целых сцен в исследуемом латентном пространстве моделей машинного обучения.

Однако NeRF быстро расширяет свое влияние от статичных изображений моделей и виртуальных прогулок по окружению к генерации видео с изображением всего тела, и китайские исследователи продвинули некоторые основные инновации в этом отношении.

ST-NeRF

ST-NeRF Китая в действии.

Хотя NeRF произвел вихрь новых исследований с момента его объявления в 2020 году, его реализация в системах VR или AR, или его пригодность в визуальных эффектах, все еще имеет много заметных проблем и технологических препятствий. Растущая способность NeRF воссоздавать и редактировать полные человеческие физиогномии еще не включила ни одну из стандартных возможностей дипфейков по изменению личности, которые характеризовали заголовки новостей за последние два года.

Аудио глубокие подделки – приоритет?

Если принять список Статьи 2 как указание на технологии глубокого синтеза, которые Китай наиболее обеспокоен контролировать и регулировать, это будет означать, что текстовая фейковая новость, сгенерированная ИИ, является первоочередной проблемой, с синтезом голоса впереди видео глубоких подделок в плане его потенциального влияния.

Если так, это соответствует тому факту, что глубокое видео подделки еще не было использовано в любом преступлении, не связанном с порнографией (Азия не колебалась криминализировать глубокие подделки порнографии), в то время как предполагается, что технология аудиодипфейков была использована как минимум в двух крупных финансовых преступлениях, в Великобритании в 2019 году и в Объединенных Арабских Эмиратах в 2021 году.

Новые проекты правил обязывают пользователей, желающих использовать личность человека с помощью систем машинного обучения, получить письменное разрешение от этого человека. Кроме того, синтезированный медиа-контент должен отображать какой-либо ‘заметный’ логотип или водяной знак, или другие средства, с помощью которых человек, потребляющий материал, может понять, что контент изменен или полностью сфабрикован. Не совсем ясно, как это можно сделать в случае аудио глубоких подделок.

Регистрация

Если проекты будут ратифицированы, проекты правил будут обязывать поставщиков услуг глубокого синтеза зарегистрировать свои соответствующие приложения в государстве, в соответствии с существующими положениями об управлении алгоритмическими рекомендациями для интернет-услуг информации, и соблюдать все необходимые процедуры подачи заявок. Поставщики глубокого синтеза также будут обязаны сотрудничать свободно в плане надзора и инспекции, и предоставлять ‘необходимую техническую поддержку, поддержку данными и помощь’ по запросу.

Кроме того, такие поставщики должны будут создать удобные порталы для жалоб и опубликовать ожидаемые сроки обработки таких жалоб, а также быть обязаны предлагать ‘механизмы опровержения слухов’ – хотя проекты правил не предоставляют деталей в отношении реализации этого.

Нарушения могут привести к штрафам в размере от 10 000 до 100 000 юаней ($1 600 и $16 000), а также подвергнуть виновные компании гражданским и уголовным искам.

 

* Перевод Google Translate, см. ссылку в начале статьи.

Опубликовано впервые 28 января 2022 года.

Martin Anderson

Автор в области машинного обучения, специалист по синтезу человеческих изображений. Бывший руководитель отдела исследовательского контента в Metaphysic.ai, до его объединения с Brahma.ai от DNEG.
Веб‑сайт: martinanderson.ai
Контакт: martin@martinanderson.ai