Неудачи проекта Закона ЕС об искусственном интеллекте

Новая юридическая критика проекта Закона ЕС об искусственном интеллекте (AI Act) предъявляет ряд критических замечаний к предложенным правилам, опубликованным в апреле, и заключает, что большая часть документа представляет собой «сшитую» из слабо применимых правил потребительского права 1980-х годов; что он фактически способствует созданию дерегулированной среды для искусственного интеллекта в Европе, а не подчиняет эту область четкому регулированию; и, среди прочего, что предложенные правила определяют будущую нормативную базу для искусственного интеллекта, которая имеет «мало смысла и значения».

Эта статья, озаглавленная Демистификация проекта Закона ЕС об искусственном интеллекте, является совместной работой исследователей из Университета Лондона и Рабауда в Неймегене.

Статья добавляется к растущему числу негативных отзывов о предложенной реализации (а не о намерениях) нормативной базы для искусственного интеллекта, включая утверждение одного из авторов проекта правил в апреле, что предложенные рекомендации «теплые, узкомысленные и намеренно расплывчатые», что характеризует документ Европейской комиссии как сторонника «фальшивой этики».

Манипулятивные системы искусственного интеллекта

Новая статья утверждает, что предложенные ограничения на «манипулятивные системы» в Законе об искусственном интеллекте ограничены расплывчатым и даже противоречивым определением «вреда», комментируя, что «циник может подумать, что Комиссия больше заинтересована в риторическом значении запретов, чем в их практическом эффекте».

Проект правил определяет два предполагаемых запрещенных практики:

(а) размещение на рынке, введение в эксплуатацию или использование системы искусственного интеллекта, которая использует сублиминальные техники за пределами сознания человека для существенного искажения поведения человека таким образом, что вызывает или может вызвать физический или психологический вред этому человеку или другому человеку;

(б) размещение на рынке, введение в эксплуатацию или использование системы искусственного интеллекта, которая использует уязвимости конкретной группы людей из-за их возраста, физической или психической инвалидности, для существенного искажения поведения человека, относящегося к этой группе, таким образом, что вызывает или может вызвать физический или психологический вред этому человеку или другому человеку;

Исследователи утверждают, что эти ограничения не решают вопрос о том, достигает ли поставщик услуг или программного обеспечения искусственного интеллекта своих целей, а только о том, страдает ли конечный пользователь от «вреда» в процессе. Они добавляют, что определение вреда в проекте ограничено индивидуальными пользователями, а не коллективным или социальным вредом, который можно разумно вывести из ряда скандалов, связанных с искусственным интеллектом в последние годы, таких как скандал с Cambridge Analytica.

Статья отмечает, что «в реальной жизни вред может накапливаться без единого события, которое превышает порог серьезности, что делает его трудным для доказательства».

Вредные системы искусственного интеллекта, разрешенные, но не для потребления в ЕС

Закон об искусственном интеллекте предлагает ввести запрет на «реальные» биометрические системы в общественных местах со стороны правоохранительных органов. Хотя некоторые общественные сомнения были направлены на исключения, которые делают предложения для анти-терроризма, торговли детьми и преследования европейского ордера на арест, исследователи отмечают, что ничего не помешает поставщикам продавать биометрические системы, нарушающие правила, репрессивным режимам.

Статья отмечает, что это уже историческая практика, как было раскрыто в отчете Amnesty International за 2020 год.

Она также заявляет, что определение «реального» биометрического системы в Законе об искусственном интеллекте является произвольным и исключает офлайн-аналитические системы, такие как последующая обработка видеозаписей с протестных мероприятий.

Кроме того, отмечается, что предложения не содержат механизма для ограничения биометрических систем, не связанных с правоохранительными органами, которые вместо этого лениво передаются в GDPR; и что GDPR сама по себе «устанавливает требование высококачественного, индивидуального согласия для каждого сканированного человека, которое фактически невозможно выполнить».

Формулировка этого раздела Закона об искусственном интеллекте также подвергается критике со стороны исследователей. Проект правил гласит, что предварительное разрешение будет необходимо для развертывания биометрических систем для «индивидуального использования» компетентными органами – но не уточняет, что означает «индивидуальное использование» в этом контексте. Статья отмечает, что спорные ордера могут быть «тематическими» и относиться к широким организациям, целям и местам.

Кроме того, проект правил не устанавливает механизм прозрачности для количества и типа выданных разрешений, что делает общественный контроль проблематичным.

Передача регулирования на «гармонизированные стандарты»

Исследование утверждает, что наиболее важные сущности в Законе об искусственном интеллекте на самом деле не упоминаются даже раз в проекте правил: CEN (Европейский комитет по стандартизации) и CENELEC (Европейский комитет по электротехнической стандартизации) – два из трех европейских организаций по стандартизации (ESO), которые Европейская комиссия может обязать разработать гармонизированные стандарты, которые во многих случаях будут оставаться основными нормативными рамками для определенных типов услуг и развертывания искусственного интеллекта.

Это фактически означает, что производители искусственного интеллекта могут выбрать следование стандартам, которые являются конкурирующими, а не дополняющими правила, вместо того, чтобы выполнять основные требования, изложенные в Законе об искусственном интеллекте. Это позволяет поставщикам более свободно интерпретировать предложенные правила, когда они вступят в силу в 2024-2025 годах.

Исследователи также считают, что вмешивающиеся годы промышленного лоббирования среди стандартных органов, вероятно, существенно переопределят эти «необходимые стандарты», и предлагают, что «идеальные» правила должны начинаться с более высокого этического уровня и законодательной ясности, если только для того, чтобы учесть этот неизбежный процесс износа.

Легитимация заблуждения систем распознавания эмоций

Закон об искусственном интеллекте содержит положения против развертывания систем распознавания и категоризации эмоций – рамок, которые могут не обязательно идентифицировать человека, но либо утверждают, что понимают, что он чувствует, либо могут категоризировать его по гендеру, этнической принадлежности и различным другим экономическим и социальным признакам.

Исследователи утверждают, что этот пункт бессмысленный, поскольку GDPR уже обязывает поставщиков таких систем предоставлять пользователям четкую информацию о использовании этих систем, чтобы пользователи могли отказаться (что может включать неиспользование онлайн-сервиса или не вход в зону, где такие системы существуют).

Более того, статья утверждает, что этот пункт легитимизирует опровергнутую технологию и характеризует системы распознавания эмоций в стиле FACS как имеющие позорную историю френологии и других gần-шаманских подходов к социальной категоризации с начала промышленной эпохи.

«Те, кто утверждает, что обнаруживает эмоции, используют упрощенные, сомнительные таксономии; неправильно предполагают универсальность во всех культурах и контекстах; и рискуют «вернуться к френологическому прошлому» анализа черт характера по структуре лица. Положения Закона об искусственном интеллекте о распознавании эмоций и биометрической категоризации кажутся недостаточными для смягчения рисков».

Слишком скромное предложение

Помимо этого, исследователи обращаются к другим воспринимаемым недостаткам Закона об искусственном интеллекте в отношении регулирования глубоких фейков, отсутствия надзора за выбросами углекислого газа систем искусственного интеллекта, дублирования нормативного надзора с другими рамками и недостаточной определенности юридических сущностей, подлежащих преследованию.

Они призывают законодателей и гражданских активистов принять меры для устранения выявленных проблем и отмечают, что даже их обширный анализ проекта правил должен был опустить многие другие области беспокойства из-за нехватки места.

Тем не менее, статья приветствует попытку Закона об искусственном интеллекте ввести систему горизонтального регулирования систем искусственного интеллекта, цитируя его многие «разумные элементы», такие как создание иерархии уровней оценки рисков, наличие обязательств по введению запретов и предложение создания публичной базы данных систем, в которую поставщики должны будут внести свой вклад, чтобы получить европейскую легитимность, хотя и отмечая юридические проблемы, которые это последнее требование, вероятно, вызовет.