Европейские и британские предложения по регулированию дипфейков удивительно ограничены

Анализ Для активистов, надеющихся, что 2022 год может стать годом, когда дипфейковая графика попадет под более строгий правовой надзор, ранние индикаторы непromiseющие.

В прошлый четверг Европейский парламент ратифицировал поправки к Закону о цифровых услугах (DSA, который должен вступить в силу в 2023 году), в отношении распространения дипфейков. Изменения касаются дипфейков в двух разделах, каждый из которых напрямую связан с онлайн-рекламой: поправка 1709, касающаяся статьи 30, и связанная поправка к статье 63.

Первый предлагает полностью новую статью 30а, озаглавленную Дипфейки, которая гласит:

‘Если очень большая онлайн-платформа узнает, что какой-либо контент является сгенерированным или манипулированным изображением, аудио- или видеоконтентом, который заметно похож на существующих людей, объекты, места или другие сущности или события и ложно кажется человеку аутентичным или правдивым (дипфейки), поставщик должен пометить контент таким образом, чтобы информировать, что контент неаутентичен и что четко виден для получателя услуги.’

Второй добавляет текст к существующей статье 63, которая в основном касается увеличения прозрачности крупных рекламных платформ. Соответствующий текст гласит:

‘Кроме того, очень большие онлайн-платформы должны пометить любые известные дипфейк-видео, аудио или другие файлы.’

По сути, законодательство, кажется, готовится к растущей практике ‘законных дипфейков’, где разрешение было получено и права защищены для замены лица в промо- или рекламных материалах – таких как лицензированное использование идентичности Брюса Уиллиса в недавней рекламной кампании.

Колебания в законодательстве

DSA, до сих пор, не кажется решающим проблемы активистов по использованию методов дипфейков, поскольку они наиболее часто используются – для переозвучивания порнографических видео. Он также не решает вопрос о том, в какой степени, если таковое имеется, использование дипфейков в кино и на телевидении потребует раскрытия информации зрителям таким же образом, как дипфейки в рекламе будут, по крайней мере в ЕС, с 2023 года.

Процесс ратификации DSA теперь переходит к переговорам с государствами-членами ЕС, вместе с более широким объемом Закона о цифровых рынках (DMA).

Отчет Europol от декабря 2020 года отчет Малiciousные использования и злоупотребления искусственным интеллектом утверждал, что было бы ошибкой для ЕС решать конкретные текущие технологии дипфейков (такие как DeepFaceLive), что может привести к тому, что закон ЕС будет постоянно отставать от последнего фреймворка или метода.

Отчет отчет заявил:

‘В частности, такие политики должны быть технологически-нейтральными, чтобы быть эффективными в долгосрочной перспективе и избежать необходимости пересматривать и заменять их на регулярной основе, поскольку технология, лежащая в основе создания и злоупотребления дипфейками, эволюционирует. ‘

‘Однако такие меры также не должны препятствовать положительному применению ГАНов.’

Заключительное замечание в приведенной выше цитате, касающейся Генеративных противостоящих сетей (ГАНов), в целом характеризует европейскую и североамериканскую колебания в применении законов, которые могут повредить возникающему сектору ИИ, уже воспринимаемому как отстающим от Азии (чьи более дидактические страны смогли ускорить законодательство о дипфейках).

Например, отчет 2018 года отчет от Комитета по искусственному интеллекту в Палате лордов подчеркивает несколько раз риск того, что позволяет колебаниям задержать развитие ИИ в стране, как это видно в его названии: ИИ в Великобритании: готовы, желают и способны?. В прошлом апреле Великобритания также стала первой страной, разрешившей развертывание самоходных автомобилей на автомагистралях.

Америка не менее рьяна; в США Институт Брукings призвал к увеличению законодательства для ИИ в США, критикуючи законодателей за их ‘жди и увиди’ позицию по последствиям технологий машинного обучения

Помимо безразличного подхода DSA к решению социальных (а не политических) проблем вокруг дипфейков, предложенная ЕС регуляторная база для ИИ, опубликованная в апреле 2021 года, подверглась критике за свою собственную уклончивость от темы.

Скудное регулирование дипфейков в Великобритании

Как дополнительное разочарование для активистов против дипфейков, таких как автор Хелен Морт, которая кампанировала за новое законодательство Великобритании в 2021 году после того, как была изображена без согласия в порнографических дипфейках, отчет, опубликованный сегодня Комитетом по цифровой культуре, средствам массовой информации и спорту парламента Великобритании критикует британское правительство за не решающее проблему дипфейков в проекте Закона об онлайн-безопасности.

Ссылаясь на текущий правовой ответ на злоупотребление дипфейками как ‘неясный и нецелесообразный’, отчет предлагает, что предложенное законодательство не делает ничего, чтобы решить проблему ‘законного, но вредного’ статуса манипуляций с видео и изображениями с помощью ИИ:

‘[Мы] рекомендуем, чтобы правительство активно решало проблемы таких типов контента, которые технически законны, как зловещие части последовательностей жестокого обращения с детьми, такие как хлебные крошки и типы онлайн-насилия против женщин и девочек, таких как технологически облегченное ‘обнажение’ женщин и дипфейк-порнография, включая их в объем либо через основное законодательство, либо как типы вредного контента, покрытого обязанностями по уходу.’

Текущее применимое право в Великобритании ограничено распространением ‘реальных’ изображений, таких как случаи мести-порнографии, где, например, конфиденциальные и частные явные материалы публично распространяются бывшим партнером. Если преследователь совершает и публикует дипфейк-материал, который наложит идентичность своей ‘цели’ на порнографический контент, его можно преследовать только в том случае, если он напрямую преследует цель, направляя материал на них, или по законодательству, связанному с авторским правом.

В первом случае легкость, с которой новый дипфейк-контент собирает популярность и зрителей, почти неизбежно означает, что жертва будет проинформирована обеспокоенными друзьями или не связанными с этим третьими лицами, а не человеком, который создал дипфейк, позволяя вирусности такого материала защитить дипфейкера, чья работа все равно ‘достигает цели’.

Во втором случае преследование будет возможно только в том случае, если неотредактированное видео третьей стороны (в которое позже наложена идентичность жертвы) профессионально произведено и законно защищено в соответствии с британским законодательством об авторском праве (даже если подходящее видео может быть получено бесплатно из любого правового режима в мире). ‘Аматорское’ видео из любой юрисдикции не имеет четкого статуса авторского права, а заказное видео, которое дипфейкер снял специально, чтобы наложить на него жертву, (иронично) само защищено законодательством об авторском праве, если оно соответствует другим законам.

Отставание

В декабре 2021 года Комиссия по закону Великобритании предложила расширить законы о ненавистной речи, чтобы включить в них вражду на основе пола, но не предложила включения дипфейков в эту категорию, несмотря на множество примеров такого использования по всему миру (особенно в Индии) технологии, используемой против женщин-политиков и женщин-активистов. Женщины в подавляющем большинстве являются целью незаконного дипфейк-контента, будь то мотивы фейкеров открыто социальными (т.е. намерением унизить, снять с платформы и лишить власти) или просто похотливыми (т.е. порнографическими) по своей природе.

В марте 2021 года Иллинойсский Национальный обзор закона подверг британскую правовую базу критике как ‘полностью неадекватную в настоящее время для решения проблем дипфейков’, и даже не обладающую базовыми правовыми механизмами, которые защищают подобие человека.

Законы о дипфейках в США

Напротив, США до некоторой степени защищают ‘Право на публичность’ своих граждан, хотя и не на федеральном уровне (в настоящее время такие статуты существуют в приблизительно половине штатов США, с сильно различающимися правовыми механизмами).

Хотя это улучшение по сравнению с британским законодательством о дипфейках, США могут похвастаться только спорадическим, штатным покрытием и, кажется, решают технологический потенциал для политической манипуляции до того, как они доберутся до его влияния на частных лиц.

В 2019 году штат Техас запретил создание или распространение политических дипфейков, с Законом Техаса Сената 751 (SB751), опустив любое заявление о дипфейк-порнографии. В том же году штат Вирджиния добавил поправку к существующему закону о ‘Незаконном распространении или продаже изображений другого человека’, добавив термин ‘ложно созданное видеографическое или статическое изображение’.

В 2020 году штат Калифорния принял Законодательный акт Калифорнии 602 (AB 602), запрещающий генерацию или распространение порнографических дипфейков. Закон не имеет срока давности, но имеет трехлетний срок давности, и сопровождается отдельной клаузулой, касающейся политических дипфейков.

В конце 2020 года штат Нью-Йорк принял сенатский законопроект S5959D, который не только запрещает создание и/или republication порнографических дипфейков, но и активно защищает право пользователя на публичность в отношении компьютерно-генерированного подобия через дипфейки, CGI или любой другой способ, даже после смерти (если человек в вопросе был жителем Нью-Йорка на момент своей смерти).

Наконец, штат Мэриленд изменил свои законы о детской порнографии, чтобы включить и криминализировать использование дипфейков, хотя и не решая влияние дипфейков на взрослых цели.

Ожидание ‘ДипфейкГейта’

История указывает на то, что ущерб, который могут нанести новые технологии, должен стать личным для нации, чтобы ускорить ее законодательный ответ. Очень недавний смерть подростка в Египте, который якобы был шантажирован дипфейк-порнографией, получила ограниченное освещение в западных СМИ*, в то время как откровения о краже 35 миллионов долларов в Объединенных Арабских Эмиратах, которые стали известны в 2021 году, также представляют собой ‘дальний событие’, которое вряд ли ускорит сенат или зажжет огонь под оставшимися 45 штатами, которые еще не приняли законодательство о дипфейках.

Если США примут более единный фронт вокруг злоупотребления технологией дипфейков, широкое законодательство, вероятно, повлияет на аспект управления телекоммуникациями и инфраструктуры и хранения данных, что приведет к быстрым изменениям политики, навязанным их деловым партнерам по всему миру. Тот факт, что принятие GDPR в Европе не привело к ‘перекрестному’ переходу к политике сбора и хранения данных в Северной Америке, не означает, что ЕС не может получить рычаги над менее соответствующими странами, с которыми он торгует – если он когда-либо займет более приверженную законодательную позицию по генерации, хранению и хранению дипфейк-порнографии.

Но что-то должно произойти на ‘точке нуля’ сначала, в одной из этих ведущих групп стран; и мы все еще ждем этого: огромный даркнет-удар по CSAM властями; крупный ограбление с использованием аудио- и/или видео-основанных дипфейк-технологий, чтобы обмануть американского директора компании, чтобы неправильно направить очень большую сумму денег; или американский аналог растущего использования дипфейков для victimization женщин в более патриархальных странах (если, действительно, американская культура действительно оснащена для зеркального отражения этих событий, что является вопросительным). Эти вещи трудно желать, и хорошие вещи, которых следует избегать любым другим методом, чем закрывать голову в песок или ждать ‘воспламеняющего’ события.

Одной из центральных проблем, которую ЕС в настоящее время обходит, направляя свою законодательную мощь на рекламные компании, которые хотят продвигать свои умные и законные дипфейки, является то, что дипфейки остаются трудными для обнаружения алгоритмически; большинство из многочисленных методов обнаружения, которые появляются на arXiv каждый месяц, полагаются на водяные знаки, блокчейн-верификацию или каким-то образом меняют всю инфраструктуру, которую мы в настоящее время используем для свободного потребления видео – решения, которые подразумевают радикальное правовое пересмотр понятия видео как代理 ‘правды’. Остальные постоянно обгоняются продолжающимися достижениями в популярных открытых репозиториях дипфейков.

Другой проблемой является то, что крупные западные страны вполне правы, в некотором смысле, не предлагая импульсивную реакцию на одну проблемную нить в ряду новых технологий ИИ, многие из которых обещают огромную пользу обществу и промышленности, и многие из которых могли бы быть каким-то образом негативно затронуты, если горячие предписания и регулирование систем синтеза изображений начнутся всерьез, в ответ на крупное событие, и на последующий ажиотаж.

Однако, возможно, было бы хорошей идеей, по крайней мере, ускорить медленный и иногда бессмысленный шаг, который мы делаем к регулированию дипфейков, и встретить потенциальные проблемы на полпути, и на своих собственных условиях, вместо того, чтобы быть вынужденными позже событиями в менее рассмотренный ответ.

* Аллегированные преступники обвиняются в вымогательстве; нет египетского закона, касающегося дипфейк-порнографии.

Опубликовано впервые 24 января 2022 года.