Взгляд Anderson
Китай предлагает увеличение регулирования глубоких подделок и других систем синтеза ИИ
Ключевые моментыПроект нормативных актов Китая направлен на регулирование шести секторов синтеза ИИ…
Показать больше
- Проект нормативных актов Китая направлен на регулирование шести секторов синтеза ИИ, включая текст, голос и 3D-реконструкцию.
- Поставщики обязаны наносить водяные знаки на весь синтезированный медиаконтент и получать письменное разрешение на использование персональных данных.
- Нарушителям, не зарегистрировавшим услуги глубокого синтеза, грозят штрафы до 100 000 юаней.
Киберадминистрация Китая (CAC) предложила новый набор проектов правил, регулирующих системы синтеза с помощью ИИ, включая глубокие подделки, сцены виртуальной реальности, генерацию текста, аудио и другие подотрасли синтеза медиа – область, в которой Китай производит большое количество академических статей и инновационных исследовательских проектов каждый месяц.
Пост (Google Translation, оригинал здесь) на официальном сайте CAC излагает предложенные обязательства и характеризует затронутые услуги как ‘поставщики услуг глубокого синтеза’, приглашая граждан участвовать, предоставляя комментарии к проектам, со сроком подачи до 28 февраля.
Не только глубокие подделки
Хотя предложенные правила были сообщены в терминах их потенциального влияния на создание и распространение глубоких подделок, документ пытается охватить все алгоритмы, которые могут генерировать любой тип контента, который можно интерпретировать в широком смысле как ‘медиа’.
Статья 2 объявляет проектный объем правил в шести секторах*:
(1) Техники генерации или редактирования текстового контента, такие как генерация глав, конверсия стиля текста и диалог вопросов и ответов;
(2) Технологии генерации или редактирования голосового контента, такие как текст-в-речь, конверсия голоса и редактирование атрибутов голоса;
(3) Технологии генерации или редактирования неголосового контента, такие как генерация музыки и редактирование звука сцены;
(4) Генерация лица, замена лица, редактирование атрибутов персонажа, манипуляция лицом, манипуляция жестами и другие технологии генерации или редактирования биометрических особенностей, таких как лица в изображениях и видеоконтенте;
(5) Техники редактирования небиологических особенностей в изображениях и видеоконтенте, таких как улучшение изображения и восстановление изображения;
(6) Технологии генерации или редактирования виртуальных сцен, таких как 3D-реконструкция.
Регулирование глубоких подделок
Китай криминализировал использование ИИ для распространения фейковых новостей в конце 2019 года, в то время когда CAC выразил обеспокоенность по поводу потенциальных последствий технологии глубоких подделок, что заставило многих подумать, что китайское правительство в конечном итоге запретит технологию глубоких подделок полностью.
Однако это потребует, чтобы Китай официально отказался от одного из наиболее политически и культурно значимых достижений в истории генерации медиа, ИИ и даже политики, и отрезал себя от преимуществ глобального и открытого научного сотрудничества.
Следовательно, кажется, что Китай теперь намерен экспериментировать с контролем, а не запретом потенциально бунтующей технологии, которую многие считают в конечном итоге мигрирующей из своей фазы развития, стимулируемого порнографией в легитимный и эксплуатируемый набор случаев использования, особенно в области развлечений.
NeRF включен
Статья 2.6 касается генерации или редактирования виртуальных сцен, таких как 3D-реконструкция, более молодой технологии, чем имитация чужой личности с помощью дипфейков, и той, которая достигла наибольшей известности за последние два года благодаря появлению нейронных полей излучения (NeRF), где фотограмметрия используется для синтеза целых сцен в исследуемом латентном пространстве моделей машинного обучения.
Однако NeRF быстро расширяет свое влияние от статичных изображений моделей и виртуальных прогулок по окружению к генерации видео с изображением всего тела, и китайские исследователи продвинули некоторые основные инновации в этом отношении.

ST-NeRF Китая в действии.
Хотя NeRF произвел вихрь новых исследований с момента его объявления в 2020 году, его реализация в системах VR или AR, или его пригодность в визуальных эффектах, все еще имеет много заметных проблем и технологических препятствий. Растущая способность NeRF воссоздавать и редактировать полные человеческие физиогномии еще не включила ни одну из стандартных возможностей дипфейков по изменению личности, которые характеризовали заголовки новостей за последние два года.
Аудио глубокие подделки – приоритет?
Если принять список Статьи 2 как указание на технологии глубокого синтеза, которые Китай наиболее обеспокоен контролировать и регулировать, это будет означать, что текстовая фейковая новость, сгенерированная ИИ, является первоочередной проблемой, с синтезом голоса впереди видео глубоких подделок в плане его потенциального влияния.
Если так, это соответствует тому факту, что глубокое видео подделки еще не было использовано в любом преступлении, не связанном с порнографией (Азия не колебалась криминализировать глубокие подделки порнографии), в то время как предполагается, что технология аудиодипфейков была использована как минимум в двух крупных финансовых преступлениях, в Великобритании в 2019 году и в Объединенных Арабских Эмиратах в 2021 году.
Новые проекты правил обязывают пользователей, желающих использовать личность человека с помощью систем машинного обучения, получить письменное разрешение от этого человека. Кроме того, синтезированный медиа-контент должен отображать какой-либо ‘заметный’ логотип или водяной знак, или другие средства, с помощью которых человек, потребляющий материал, может понять, что контент изменен или полностью сфабрикован. Не совсем ясно, как это можно сделать в случае аудио глубоких подделок.
Регистрация
Если проекты будут ратифицированы, проекты правил будут обязывать поставщиков услуг глубокого синтеза зарегистрировать свои соответствующие приложения в государстве, в соответствии с существующими положениями об управлении алгоритмическими рекомендациями для интернет-услуг информации, и соблюдать все необходимые процедуры подачи заявок. Поставщики глубокого синтеза также будут обязаны сотрудничать свободно в плане надзора и инспекции, и предоставлять ‘необходимую техническую поддержку, поддержку данными и помощь’ по запросу.
Кроме того, такие поставщики должны будут создать удобные порталы для жалоб и опубликовать ожидаемые сроки обработки таких жалоб, а также быть обязаны предлагать ‘механизмы опровержения слухов’ – хотя проекты правил не предоставляют деталей в отношении реализации этого.
Нарушения могут привести к штрафам в размере от 10 000 до 100 000 юаней ($1 600 и $16 000), а также подвергнуть виновные компании гражданским и уголовным искам.
* Перевод Google Translate, см. ссылку в начале статьи.
Опубликовано впервые 28 января 2022 года.












