Неудачи проекта Закона ЕС об искусственном интеллекте

Новая юридическая критика проекта Закона ЕС об искусственном интеллекте (AI Act) выдвигает широкий спектр критических замечаний в адрес предложенных правил опубликованных в апреле, заключая, что большая часть документа «сшита» из мало применимых правил потребительского права 1980-х годов; что он фактически способствует созданию дерегулированной среды искусственного интеллекта в Европе, а не подчиняет эту сферу согласованному регулированию; и – среди прочих критических замечаний – что предложения очерчивают будущую нормативную основу искусственного интеллекта, которая имеет «мало смысла и значения».

Названный Демистификация проекта Закона ЕС об искусственном интеллекте, предварительный вариант является совместной работой исследователей из UCL London и Radboud University в Неймегене.

Эта статья добавляется к растущему массиву негативных мнений о предложенном реализации (а не о высоко оцененном намерении) нормативной основы искусственного интеллекта, включая утверждение в апреле одного из соавторов проекта правил, что предложенные рекомендации «теплые, короткозоркие и намеренно расплывчатые», характеризующие документ Европейской комиссии как сторонника «фальшивой этики».

Манипулятивные системы искусственного интеллекта

Статья утверждает, что предложенные ограничения на «манипулятивные системы» в Законе об искусственном интеллекте ослаблены расплывчатым и даже противоречивым определением «вреда», комментируя, что «[ц]иник может подумать, что Комиссия более заинтересована в риторическом значении запретов, чем в их практическом эффекте».

Проект правил очерчивает два предполагаемых запрещенных действия:

(а) размещение на рынке, введение в эксплуатацию или использование системы искусственного интеллекта, которая использует сублиминальные техники за пределами сознания человека, чтобы существенно исказить поведение человека таким образом, что это может причинить или может причинить вред этому человеку или другому человеку физический или психологический вред;

(б) размещение на рынке, введение в эксплуатацию или использование системы искусственного интеллекта, которая использует уязвимости конкретной группы людей из-за их возраста, физической или психической инвалидности, чтобы существенно исказить поведение человека, относящегося к этой группе, таким образом, что это может причинить или может причинить вред этому человеку или другому человеку физический или психологический вред;

Исследователи утверждают, что эти ограничения не касаются того, успешны ли услуги или программное обеспечение поставщика искусственного интеллекта в продвижении своих целей, а только того, страдает ли конечный пользователь «вредом» в процессе. Они добавляют, что определение вреда в проекте ограничено только отдельными пользователями, а не тем типом коллективного или социального вреда, который можно разумно вывести из ряда скандалов, связанных с искусственным интеллектом, таких как скандал с Cambridge Analytica.

Статья отмечает, что «в реальной жизни вред может накапливаться без единого события, которое бы превысило порог серьезности, что делает трудным доказать».

Разрешенные вредные системы искусственного интеллекта, но не для потребления в ЕС

Закон об искусственном интеллекте предлагает ввести запрет на «реальные» биометрические системы в общественных местах для правоохранительных органов. Хотя некоторые общественные сомнения были направлены на исключения, которые предлагаемые правила делают для борьбы с терроризмом, торговли детьми и преследования европейского ордера на арест, исследователи отмечают, что ничего не помешает поставщикам продавать биометрические системы, нарушающие правила, репрессивным режимам.

Статья отмечает, что это уже историческая практика, как было раскрыто в отчете Amnesty International за 2020 год.

Она进一步 заявляет, что определение «реального времени» биометрической системы в Законе об искусственном интеллекте является произвольным и исключает офлайн-аналитические системы, такие как последующая обработка видеозаписей с мероприятий протестов.

Кроме того, отмечается, что предложения не предлагают механизма для ограничения биометрических систем, которые не связаны с правоохранительными органами, которые вместо этого лениво передаются в GDPR; и что GDPR сама по себе «устанавливает требование высококачественного, индивидуального согласия для каждого сканированного человека, которое практически невозможно выполнить».

Формулировка этого раздела Закона об искусственном интеллекте также подвергается критике со стороны исследователей. Проект правил规定, что предварительное разрешение будет необходимо для развертывания биометрических систем для «индивидуального использования» компетентными органами – но не уточняет, что означает «индивидуальное использование» в этом контексте. Статья отмечает, что спорные ордера могут быть тематическими и относиться к широким организациям, целям и местам.

Кроме того, проект правил не规定ает механизм прозрачности для количества и типа выдаваемых разрешений, что делает общественный контроль проблематичным.

Аутсорсинг регулирования на «гармонизированные стандарты»

Исследования утверждают, что наиболее важные сущности в Законе об искусственном интеллекте на самом деле не упоминаются даже раз в проекте правил: CEN (Европейский комитет по стандартизации) и CENELEC (Европейский комитет по электротехнической стандартизации) – два из трех европейских организаций по стандартизации (ESO), которым Европейская комиссия может поручить разработку гармонизированных стандартов, которые во многих случаях будут оставаться основными нормативными рамками для определенных типов услуг и развертывания искусственного интеллекта.

Это означает, что производители искусственного интеллекта могут выбрать следование стандартам того, что по сути являются конкурирующими, а не дополняющими правилами, вместо того, чтобы выполнять основные требования, изложенные в Законе об искусственном интеллекте. Это позволяет поставщикам более свободно интерпретировать предложенные правила, когда они вступят в силу в 2024-5 годах.

Исследователи также полагают, что вмешивающиеся годы промышленного лоббирования среди организаций по стандартизации, вероятно, существенно переопределят эти «необходимые стандарты», и предлагают, что «идеальные» правила должны начинаться с более высокого этического уровня и законодательной ясности, если только для того, чтобы учесть этот неизбежный процесс износа.

Легитимация заблуждения систем распознавания эмоций

Закон об искусственном интеллекте содержит положения против развертывания систем распознавания и категоризации эмоций – рамок, которые могут не обязательно идентифицировать отдельного человека, но либо утверждают, что они понимают, что человек чувствует, либо могут классифицировать его по гендеру, этнической принадлежности и различным другим экономическим и социальным признакам.

Исследователи утверждают, что этот пункт бессмысленный, поскольку GDPR уже обязывает поставщиков таких систем предоставлять пользователям четкую информацию о использовании этих систем, чтобы пользователи могли отказаться (что может включать неиспользование онлайн-сервиса или не вход в зону, где такие системы объявлены).

Более важным является то, что статья утверждает, что этот пункт легитимизирует опровергнутую технологию и характеризует FACS-стиль систем распознавания эмоций в свете позорной истории френологии и других gần-шаманских подходов к социальной категоризации с начала промышленной эпохи.

«Те, кто утверждает, что они обнаруживают эмоции, используют упрощенные, сомнительные таксономии; неправильно предполагают универсальность во всех культурах и контекстах; и рискуют «[вернуться] в френологическое прошлое» анализа черт характера по структуре лица. Положения Закона об искусственном интеллекте о распознавании эмоций и биометрической категоризации кажутся недостаточными для смягчения рисков».

Слишком скромное предложение

Помимо этого, исследователи рассматривают другие воспринимаемые недостатки в Законе об искусственном интеллекте в отношении регулирования глубоких фейков, отсутствия надзора за выбросами углекислого газа систем искусственного интеллекта, дублирования регулирующего надзора с другими рамками и неадекватного определения преследуемых юридических лиц.

Они призывают законодателей и гражданских активистов принять меры для исправления выявленных проблем и отмечают, что даже их обширная деконструкция проекта правил должна была опустить многие другие области беспокойства из-за нехватки места.

Тем не менее, статья приветствует попытку Закона об искусственном интеллекте ввести систему горизонтального регулирования систем искусственного интеллекта, цитируя его многие «разумные элементы», такие как создание иерархии уровней риска, обязательство ввести запреты и предложение о создании публичной базы данных систем, в которую поставщики должны будут внести свой вклад, чтобы получить европейскую легитимность, хотя и отмечают юридические дилеммы, которые это последнее требование, вероятно, вызовет.