Лидеры мнений
Да, Закон ЕС об искусственном интеллекте распространяется на агентный ИИ — вот как

Ключевые моментыАгентный ИИ уже подпадает под Закон ЕС об ИИ, поскольку соответствует определению…
Показать больше
- Агентный ИИ уже подпадает под Закон ЕС об ИИ, поскольку соответствует определению системы ИИ.
- Закон об ИИ регулирует то, что делает технология и какие риски она создает, а не называет конкретные технологии.
- Технологические гиганты, лоббирующие против Закона об ИИ, продвигают саморегулирование, которое равносильно захвату регулирования.
Сейчас широко распространено мнение, что агентный ИИ и ИИ-агенты находятся вне сферы регулирования, а Закон ЕС об искусственном интеллекте не подходит для их регулирования. Об этом писали авторитетные норвежские СМИ (Morgenbladet и Dagensnæringsliv), и эту мысль повторяли ведущие ученые (University of Oslo). Мы видим в этих утверждениях два фундаментальных изъяна… и считаем, что они основаны на страхах, а не на фактах.
Во-первых, агентный ИИ регулируется Законом ЕС об искусственном интеллекте.
Во-вторых, подобные утверждения подрывают действующие нормы регулирования. Они укрепляют представление о том, что компании, разрабатывающие ИИ, лучше других способны управлять рисками, связанными с их собственными системами. Это распространенный аргумент, ведущий к захвату регулирования.
Мы довольно тесно работаем с Законом об ИИ в качестве назначенных членов национального комитета по ИИ организации Standards Norway. Мы также участвуем в работе европейских комитетов, разрабатывающих гармонизированные стандарты для поставщиков высокорисковых систем ИИ; эти стандарты помогают компаниям выполнять требования Закона об ИИ.
Закон ЕС об искусственном интеллекте регулирует агентный ИИ несколькими способами
Европейская комиссия опубликовала несколько понятных и доступных для широкой аудитории ответов на часто задаваемые вопросы об «агентах» и «агентном ИИ» и разъяснила: да, они подпадают под действие регламента, поскольку соответствуют более широкому определению системы ИИ (Как рассматриваются ИИ-агенты в Законе об ИИ? | Справочная служба по Закону об ИИ). Вот еще несколько примеров:
- Агентный ИИ часто создается на основе больших языковых моделей, которые регулируются как модели ИИ общего назначения.
- Когда система агентного ИИ взаимодействует с людьми, начинают действовать и требования регламента к прозрачности.
- Если модель ИИ классифицируется как представляющая системный риск, к ее поставщику предъявляются дополнительные требования. В частности, он должен оценивать возможности модели, включая ее автономные и агентные функции.
В Законе об ИИ нет слова «агент», поскольку он регулирует не отдельные виды технологий. Вместо этого он регулирует то, для чего предназначена технология, и связанные с этими функциями риски.
Закон об ИИ призван защищать наши основные права
Многие критические замечания в адрес Закона об ИИ со стороны тех, кто хочет более строгого регулирования, связаны с тем, что полностью устранить риски структурно невозможно. Однако международная нормативная база в любом случае не могла бы предусмотреть все риски будущего.
Вместо этого Закон об ИИ сосредоточен на рисках, которые представляют системы ИИ и которые могут затронуть здоровье, безопасность и основные права. Об этом говорится уже в первом предложении первой статьи.

Снимок экрана с сайта EUR-Lex — 02024R1689-20260727 — EN — EUR-Lex
Важно и то, о чем не говорится в этом первом предложении: Закон об ИИ ориентирован на рынок. Он должен поощрять использование ИИ и поддерживать инновации. Иными словами, Закон об ИИ выступает за развитие ИИ. В этом контексте регулируются отдельные сферы и виды применения.
Некоторые области заранее классифицированы как высокорисковые
Вот несколько примеров областей, в которых используются системы ИИ:
- подбор персонала
- распределение жизненно важных услуг
- медицинские изделия
- системы, встроенные в критически важную инфраструктуру, где безопасность имеет первостепенное значение.
Поставщики систем ИИ — как агентных, так и прочих, — способных повлиять на наши права, обязаны внедрять комплексные системы управления рисками, в том числе оценивать, как пользователи могут неправомерно использовать систему ИИ.
Захват регулирования: когда поставщики предлагают регулировать себя сами
Если прислушаться к Anthropic, OpenAI и Meta, а также к некоторым участникам дискуссии в Норвегии, может сложиться впечатление, будто ИИ и агентный ИИ слишком сложны для регулирования Законом об ИИ. Слишком развиты для ЕС. Слишком опасны, чтобы их регулировал кто-либо, кроме самих компаний.
Следует с осторожностью относиться к заявлениям самых влиятельных технологических компаний мира, которые активно лоббировали менее жесткое применение Закона об ИИ, а теперь утверждают, что этот закон не подходит для регулирования их наиболее мощных систем. Предлагаемое ими решение — регулировать самих себя.
Это классический механизм захвата регулирования — процесса, при котором законы и нормативные акты постепенно формируются под влиянием тех самых организаций, деятельность которых они должны регулировать, причем в интересах этих организаций.
Наглядный пример этого — Соединенные Штаты (Провозглашая начало эры сверхинтеллекта — Белый дом). Соглашение Белого дома о сверхинтеллекте — это «добровольный пакт» с руководителями X, Meta, Anthropic, OpenAI и Google, в рамках которого эти компании обещают регулировать себя сами. В документе говорится, что законы могут оказаться уместными в какой-то гипотетической точке в будущем: «Со временем может иметь смысл закрепить эти меры в законах или нормативных актах». Со временем. Возможно. Возможно, регулирование стоит рассмотреть.
Пока же от американцев ожидают, что они будут доверять этим крупным технологическим компаниям и верить, что те станут регулировать себя сами.
В отличие от США, в Европе действует обязательный к исполнению закон — Закон ЕС об искусственном интеллекте.
И всё же сохраняется риск захвата регулирования, в том числе из-за подрыва доверия к этому закону. Ведь если технологическим гигантам удастся убедить людей, что Закон об ИИ недостаточно хорош, мы больше не будем поддерживать обеспечение его соблюдения. Утверждения о том, что агентный ИИ якобы просто слишком сложен, умен или опасен, чтобы Закон об ИИ мог с ним справиться, ослабляют нашу поддержку регулирования.
Когда регулирование оказывается под захватом, обратить этот процесс вспять трудно.
Мы разделяем обеспокоенность тем, что некоторые системы ИИ могут привести к последствиям, которые трудно предвидеть. Именно поэтому нам необходимы процедуры управления рисками — их требует и Закон об ИИ. (Dr. Muller входит в комитет, который почти завершил разработку гармонизированного стандарта управления рисками, 18228.)
Закон ЕС об искусственном интеллекте несовершенен, и, вероятно, его потребуется дорабатывать. Однако представление агентного ИИ как области, не подпадающей под действие Закона ЕС об искусственном интеллекте, лишь усиливает неопределённость, а не повышает безопасность.













