Европейские и британские предложения по регулированию глубоких фейков удивительно ограничены

Анализ Для активистов, надеющихся, что 2022 год может стать годом, когда глубоко фейковые изображения попадут под более строгий правовой контроль, ранние индикаторы непromise.

В прошлый четверг Европейский парламент ратифицировал поправки к Закону о цифровых услугах (DSA, который должен вступить в силу в 2023 году), касающиеся распространения глубоких фейков. Изменения затрагивают глубокие фейки в двух разделах, каждый из которых напрямую связан с онлайн-рекламой: поправка 1709, касающаяся статьи 30, и связанная поправка к статье 63.

Первый предлагает полностью новую статью 30а, озаглавленную Глубокие фейки, которая гласит:

‘Если очень большая онлайн-платформа узнает, что контент является сгенерированным или манипулированным изображением, аудио- или видеоконтентом, который достаточно сильно напоминает существующих людей, объекты, места или другие сущности или события и ложно кажется человеку аутентичным или правдивым (глубокие фейки), поставщик должен пометить контент таким образом, чтобы информировать, что контент неаутентичен и что это явно видно для получателя услуг.’

Второй добавляет текст к существующей статье 63, которая в основном касается увеличения прозрачности крупных рекламных платформ. Соответствующий текст гласит:

‘Кроме того, очень крупные онлайн-платформы должны пометить любые известные глубокие фейковые видео, аудио или другие файлы.’

По сути, законодательство, кажется, готовится к растущей практике “законных глубоких фейков”, когда разрешение было дано и права защищены для замены лиц в промо- или рекламном материале – например, лицензированное использование идентичности Брюса Уиллиса в недавней рекламной кампании российского телекома Telefon.

Колебания в законодательстве

DSA, на данный момент, не кажется решающим проблему активистов по использованию методов глубоких фейков, как они наиболее часто используются – для пересъемки порнографических видео. Он также не решает вопрос о том, в какой степени, если таковое имеется, использование глубоких фейков в фильмах и телевидении должно быть раскрыто зрителям таким же образом, как глубокие фейки в рекламе будут, по крайней мере в ЕС, с 2023 года.

Процесс ратификации DSA теперь переходит к переговорам с государствами-членами ЕС, вместе с более широким объемом Закона о цифровых рынках (DMA).

Декабрьский отчет Europol 2020 года отчет Злонамеренное использование и злоупотребление искусственным интеллектом утверждал, что было бы ошибкой для ЕС решать конкретные текущие технологии глубоких фейков (такие как DeepFaceLive), что может привести к тому, что законодательство ЕС будет постоянно отставать от последней основы или метода.

Отчет гласил:

‘В частности, эти политики должны быть технологически независимыми, чтобы быть эффективными в долгосрочной перспективе и избежать необходимости регулярно пересматривать и заменять их по мере эволюции технологии создания и злоупотребления глубокими фейками. ‘

‘Тем не менее, такие меры также не должны препятствовать положительному применению ГАНов.’

Заключительное замечание в цитате выше, касающееся генеративных противостоящих сетей (ГАНов), в целом характеризует европейскую и североамериканскую колебания в применении законов, которые могут помешать возникающему сектору ИИ, уже воспринимаемому как отстающим от Азии (чьи более дидактические нации смогли быстро принять законодательство о глубоких фейках).

Например, отчет 2018 года отчет от Комитета по искусственному интеллекту Палаты лордов подчеркивает несколько раз риск того, что позволяет робости задержать развитие ИИ в стране, как это видно в его названии: ИИ в Великобритании: готовы, готовы и способны?. В прошлом апреле Британия также стала первой страной, разрешив развертывание самоходных автомобилей на автомагистралях.

Америка не менее рьяна; в США Институт Брукинга призвал к необходимости увеличения законодательства для ИИ в США, критикуючи законодателей за их “позицию ожидания” по поводу последствий технологий машинного обучения

Помимо слабого подхода DSA к решению социальных (а не политических) проблем вокруг глубоких фейков, предложенная ЕС регуляторная база для ИИ, опубликованная в апреле 2021 года, подверглась немедленной критике за свое уклонение от этой темы.

Скудное регулирование глубоких фейков в Великобритании

Как дополнительное разочарование для активистов против глубоких фейков, таких как автор Хелен Морт, которая активно выступала за новое законодательство Великобритании в 2021 году после того, как она была изображена без согласия в порнографических глубоких фейковых видео, отчет, опубликованный сегодня Комитетом по цифровым вопросам, культуре, средствам массовой информации и спорту парламента Великобритании критикует британское правительство за не решающее проблему глубоких фейков в проекте Закона об онлайн-безопасности.

Ссылаясь на проект закона, текущую правовую защиту от злоупотребления глубокими фейками как “неясную и нецелесообразную”, отчет предлагает, что предложенное законодательство не делает ничего, чтобы решить проблему “законного, но вредного” статуса ИИ-ассистированных порнографических видео- и изображений манипуляций:

‘[Мы] рекомендуем, чтобы правительство активно решало вопросы о типах контента, которые технически законны, таких как коварные части последовательностей детского насилия, такие как хлебные крошки и типы онлайн-насилия против женщин и девочек, таких как технологически облегченное “обнажение” женщин и глубокие фейковые порнографические материалы, включая их в объем либо через основное законодательство, либо как типы вредного контента, охватываемого обязанностями по уходу.’

Текущее применимое законодательство в Великобритании ограничивается распространением “реальных” изображений, таких как случаи мести-порнографии, где, например, конфиденциальные и частные откровенные материалы публично распространяются бывшим партнером. Если мучитель создает и распространяет глубоко фейковый материал, который наложит идентичность “цели” на порнографический контент, его можно привлечь к ответственности только в том случае, если он напрямую преследует цель, направляя материал на них, или в соответствии с законодательством, связанным с авторскими правами.

В первом случае легкость, с которой новый глубоко фейковый контент собирает обороты и зрителей, почти неизбежно означает, что жертва будет проинформирована обеспокоенными друзьями или не связанными с этим третьими лицами, а не человеком, который создал глубокий фейк, позволяя вирусности такого материала защитить глубоко фейковщика, чья работа все равно “достигает цели”.

В последнем случае преследование будет возможно только в случае, если неотредактированное видео (в которое позже наложена идентичность жертвы) является профессионально произведенным и законно защищенным по авторским правам Великобритании (хотя подходящее видео может быть получено бесплатно из любой законной юрисдикции мира). “Аматорское” видео из любой юрисдикции не имеет ясного статуса авторских прав, а видео, которое глубоко фейковщик снял специально, чтобы наложить на него идентичность жертвы, (иронично) само защищено авторскими правами, если оно соответствует другим законам.

Отставание

В декабре 2021 года Законодательная комиссия Великобритании предложила расширить законы о ненавистной речи, чтобы они покрывали сексуальную враждебность, но не предложила включения глубоких фейков в эту категорию, несмотря на множество примеров такого использования по всему миру (особенно в Индии) технологии, использованной против женщин-политиков и женщин-активистов. Женщины в подавляющем большинстве являются целью незаконного глубоко фейкового контента, будь то мотивы фейковщиков открыто социальными (т.е. намерением унизить, де-платформировать и лишить власти) или просто похотливыми (т.е. порнографическими) по своей природе.

В марте 2021 года Иллинойсский Национальный обзор права обвинил британскую правовую базу в том, что она “полностью неадекватна в настоящее время для решения проблем глубоких фейков”, и даже не имеет основных правовых механизмов, защищающих подобие человека.

Законы о глубоких фейках в Соединенных Штатах

Напротив, Соединенные Штаты в некоторой степени защищают “право на публичность” своих граждан, хотя и не на федеральном уровне (в настоящее время такие законы существуют в приблизительно половине штатов США, с сильно варьирующимися правовыми механизмами).

Хотя это улучшение по сравнению с британским законодательством о глубоких фейках, США могут похвастаться только спорадическим, пер-штатным покрытием и, кажется, решают технологическую возможность политической манипуляции до того, как они займутся ее воздействием на частных лиц.

В 2019 году штат Техас запретил создание или распространение политических глубоких фейков, с помощью Закона Техаса Сената 751 (SB751), не упомянув глубоко фейковую порнографию. В том же году штат Вирджиния добавил поправку к существующему закону о “незаконном распространении или продаже изображений другого”, добавив термин ‘ложно созданное видеографическое или статическое изображение’.

В 2020 году штат Калифорния принял Законодательный акт Калифорнии 602 (AB 602), запрещающий создание или распространение порнографических глубоких фейков. Закон не имеет срока давности, но имеет срок давности в три года и сопровождается отдельной статьей, касающейся политических глубоких фейков.

В конце 2020 года штат Нью-Йорк принял сенатский законопроект S5959D, который не только запрещает создание и/или republication порнографических глубоких фейков, но и активно защищает право пользователя на публичность в отношении компьютерно сгенерированного подобия через глубокие фейки, компьютерную графику или любые другие средства, даже после смерти (если человек, о котором идет речь, был резидентом Нью-Йорка на момент своей смерти).

Наконец, штат Мэриленд изменил свои законы вокруг детской порнографии, чтобы включить и криминализировать использование глубоких фейков, хотя и не решая вопрос о влиянии глубоких фейков на взрослых целей.

Ожидание “Глубокого фейкового скандала”

История показывает, что ущерб, который могут нанести новые технологии, должен стать личным для нации, чтобы ускорить ее законодательную реакцию. Очень недавний смерть подростка в Египте, которая, как утверждается, была шантажирована глубоко фейковыми порнографическими изображениями себя, получила ограниченное освещение в западных СМИ*, в то время как раскрытия о краже 35 миллионов долларов в Объединенных Арабских Эмиратах, которые стали известны в 2021 году, также представляют собой “удаленное событие”, которое вряд ли ускорит сенат или зажжет огонь под 45 оставшимися штатами, которые еще не приняли законодательство о глубоких фейках.

Если США примут более единный фронт вокруг злоупотребления технологией глубоких фейков, широкое законодательство, вероятно, повлияет на аспект управления телекоммуникациями и инфраструктуры и хранения данных, что приведет к быстрым изменениям политики, наложенным на их деловых партнеров по всему миру. Тот факт, что принятие ЕС GDPR не привело к “перекрестному” переходу на политику сбора и хранения данных в Северной Америке, не означает, что ЕС не мог бы получить рычаги над менее соответствующими странами, с которыми он торгует – если бы он когда-либо занял более приверженную законодательную позицию по генерации, хранению и хранению глубоко фейковых порнографических материалов.

Но что-то должно произойти на “месте событий” сначала, в одной из этих ведущих групп стран; и мы все еще ждем этого: огромную часть CSAM, изъятую властями; крупную кражу с использованием аудио- и/или видео-глубоких фейковых технологий, чтобы обмануть американского директора компании, чтобы он неправильно направил большую сумму денег; или американский аналог растущего использования глубоких фейков дляvictimизации женщин в более патриархальных странах (если американская культура действительно способна отразить эти события, что сомнительно). Это трудные вещи, которые можно пожелать, и хорошие вещи, которых можно избежать любым другим методом, чем закрывать глаза или ждать “воспламеняющего” события.

Одной из основных проблем, которую ЕС в настоящее время обходит, направляя свою законодательную мощь на рекламные компании, которые хотят продвигать свои умные и законные глубокие фейки, является то, что глубокие фейки остаются трудными для обнаружения алгоритмически; большинство из множества методов обнаружения, которые появляются на arXiv каждый месяц, полагаются на водяные знаки, блокчейн-верификацию или каким-то образом меняют всю инфраструктуру, которую мы в настоящее время используем для свободного потребления видео – решения, которые подразумевают радикальное правовое пересмотр понятия видео как прокси для “правды”. Остальные постоянно отстают от продолжающихся достижений в популярных открытом исходном коде репозиториев глубоких фейков.

Другой проблемой является то, что крупные западные страны вполне правы, в некотором смысле, не предлагая импульсивную реакцию на одну проблемную нить в наборе новых технологий ИИ, многие из которых обещают огромную пользу обществу и промышленности и многие из которых могли бы быть негативно затронуты каким-либо образом, если бы горячая голова запрета и регулирования систем синтеза изображений началась всерьез, в ответ на крупное событие и последующую реакцию.

Однако, возможно, было бы хорошей идеей ускорить медленный и иногда бессмысленный шаг, который мы делаем к регулированию глубоких фейков, и встретить потенциальные проблемы на полпути, и на наших собственных условиях, вместо того, чтобы быть вынужденными к менее рассмотренной реакции более поздними событиями.

* Аллегированные преступники обвиняются в шантаже; в Египте нет закона, регулирующего глубоко фейковую порнографию.

Опубликовано впервые 24 января 2022 года.