Лідери думок
Так, Закон ЄС про штучний інтелект поширюється на агентний ШІ — ось як

Ключові моментиАгентний ШІ вже підпадає під дію Закону ЄС про ШІ, оскільки він відповідає визначенню…
Показати більше
- Агентний ШІ вже підпадає під дію Закону ЄС про ШІ, оскільки він відповідає визначенню системи ШІ.
- Закон про ШІ регулює те, що робить технологія, і ризики, які вона створює, а не називає конкретні технології.
- Технологічні гіганти, які лобіюють проти Закону про ШІ, просувають саморегулювання, що дорівнює регуляторному захопленню.
Нині активно поширюється думка, що агентний ШІ та ШІ-агенти опинилися в певній прогалині в регулюванні й що Закон ЄС про штучний інтелект не пристосований до регулювання таких систем. Ми читали про це в авторитетних норвезьких виданнях (Morgenbladet і Dagensnæringsliv), а також чули від провідних науковців (University of Oslo). Ми бачимо в цих твердженнях дві фундаментальні хиби… і вважаємо, що вони ґрунтуються на страхах, а не на фактах.
По-перше, агентний ШІ регулюється Законом ЄС про штучний інтелект.
По-друге, такі твердження підривають чинне регулювання. Вони зміцнюють уявлення, ніби компанії, що розробляють ШІ, краще за інших здатні керувати ризиками, пов’язаними з їхніми власними системами. Це поширений аргумент, який призводить до захоплення регуляторного процесу.
Ми тісно працюємо із Законом про штучний інтелект як призначені члени національного комітету зі штучного інтелекту Standards Norway. Ми також беремо участь у роботі європейських комітетів, які розробляють гармонізовані стандарти для постачальників високоризикових систем ШІ; ці стандарти допомагають компаніям виконувати законодавчі вимоги Закону про штучний інтелект.
Закон ЄС про штучний інтелект регулює агентний ШІ в кілька способів
Європейська комісія опублікувала кілька зрозумілих і простих для читання відповідей на поширені запитання про «агентів» і «агентний ШІ» та роз’яснила: так, на них поширюється дія регламенту, адже вони відповідають ширшому визначенню системи ШІ (Як Закон про ШІ регулює ШІ-агентів? | AI Act Service Desk). Ось ще кілька прикладів:
- Агентний ШІ часто створюють на основі великих мовних моделей, які регулюються як моделі ШІ загального призначення.
- Коли система агентного ШІ взаємодіє з людьми, також починають діяти вимоги регламенту щодо прозорості.
- Якщо модель ШІ класифікують як таку, що становить системний ризик, до її постачальника застосовуються додаткові вимоги. Зокрема, вони передбачають оцінювання можливостей моделі, включно з її автономними та агентними функціями.
У Законі про штучний інтелект немає слова «агент», оскільки він не регулює конкретні види технологій. Натомість він регулює те, для чого призначена технологія, і ризики, пов’язані з її функціями.
Закон про штучний інтелект покликаний захищати наші основоположні права
Чимало критики Закону про штучний інтелект з боку тих, хто прагне посилити регулювання, зумовлено структурною неможливістю повністю усунути ризики. Однак міжнародна нормативна база не могла передбачити всі майбутні ризики.
Натомість Закон про штучний інтелект зосереджується на ризиках, які створюють системи ШІ та які можуть вплинути на здоров’я, безпеку й основоположні права. Про це йдеться вже в першому реченні першої статті.

Знімок екрана з EUR-Lex — 02024R1689-20260727 — EN — EUR-Lex
Не менш важливо й те, про що ми не згадали в цьому першому реченні: Закон про штучний інтелект орієнтований на ринок. Він має заохочувати використання ШІ. Він має підтримувати інновації. Інакше кажучи, Закон про штучний інтелект сприяє розвитку ШІ. У цьому контексті регулюються окремі сфери та способи застосування.
Деякі сфери заздалегідь класифіковано як високоризикові
Наприклад, системи ШІ, що використовуються у сферах:
- добору працівників
- розподілу основних послуг
- медичних виробів
- систем, інтегрованих у критично важливу інфраструктуру, де безпека має першочергове значення.
Постачальники систем ШІ — агентних чи будь-яких інших, — які можуть впливати на наші права, зобов’язані створити комплексні системи управління ризиками, зокрема оцінити, як користувачі можуть неправомірно використовувати систему ШІ.
Захоплення регуляторного процесу: коли постачальники пропонують саморегулювання
Якщо прислухатися до Anthropic, OpenAI і Meta, а також до деяких учасників норвезьких дискусій, може скластися враження, що ШІ й агентний ШІ надто складні для Закону про штучний інтелект. Надто передові для ЄС. Надто небезпечні, щоб їх регулював хтось, крім самих компаній.
Варто бути обережними, коли найвпливовіші технологічні компанії світу, які активно лобіювали менш суворе впровадження Закону про штучний інтелект, тепер заявляють, що цей регламент не підходить для регулювання їхніх найпотужніших систем. Запропоноване ними рішення — «регулювати» самих себе.
Це класичний механізм захоплення регуляторного процесу — процесу, у ході якого закони та нормативні акти поступово формують саме ті суб’єкти, діяльність яких вони мають регулювати, причому на власну користь.
Сполучені Штати дають наочний приклад цього (Започаткування ери надрозуму — Білий дім). Угода Білого дому про надрозум — це «добровільний пакт» із керівниками X, Meta, Anthropic, OpenAI і Google, за яким ці компанії зобов’язуються самостійно регулювати свою діяльність. У документі зазначено, що закони можуть стати доречними в якийсь гіпотетичний момент у майбутньому: «З часом може виявитися доцільним закріпити ці кроки в законах або нормативних актах». З часом. Можливо. Розгляд питання про регулювання може бути доцільним.
Поки що, однак, від американців очікують, що вони довірятимуть цим великим технологічним компаніям, які регулюватимуть себе самі.
На відміну від Сполучених Штатів, у Європі є обов’язковий до виконання закон — Акт про ШІ.
І все ж ризик регуляторного захоплення зберігається, зокрема через підрив довіри до цього закону. Адже якщо технологічні гіганти зможуть переконати людей, що Акт про ШІ недостатньо дієвий, ми більше не підтримуватимемо його виконання. Твердження, ніби агентний ШІ надто розвинений, розумний чи небезпечний, щоб Акт про ШІ міг із ним упоратися, послаблюють нашу підтримку регулювання.
Щойно регуляторне захоплення утверджується, його важко подолати.
Ми поділяємо занепокоєння, що деякі системи ШІ можуть призвести до наслідків, які важко передбачити. Саме тому нам потрібні процедури управління ризиками — цього вимагає і Акт про ШІ. (Д-р Muller працює в комітеті, який майже завершив розроблення гармонізованого стандарту управління ризиками, 18228.)
Акт ЄС про ШІ не є досконалим і, найімовірніше, потребуватиме подальшого розвитку. Однак представлення агентного ШІ як сфери, що перебуває поза межами дії Акта ЄС про ШІ, лише посилює невизначеність, а не підвищує безпеку.













