Регуляторна регуляція: Чи може штучний інтелект регулювати штучний інтелект?

Швидкий розвиток штучного інтелекту призвів до появи автономних агентів, які не тільки відповідають на запитання, але й планують, використовують інструменти та виконують завдання з мінімальним втручанням людини. Коли ці системи стають все більш інтегрованими в нашу цифрову економіку, виникає критичне питання. Як можна регулювати щось, що рухається швидше за людську думку? Традиційні методи регулювання, які спираються на повільні законодавчі процеси та періодичні людські аудити, виявляються недостатніми. Це призвело до появи нового концепту: Регуляторна регуляція. Ця зміна приводить нас до важливого питання: чи може штучний інтелект регулювати штучний інтелект? Ця стаття досліджує, чи може штучний інтелект значуще регулювати штучний інтелект, чому така зміна може бути необхідною, і які ризики супроводжують регулювання, яке здійснюється штучним інтелектом у світі агентів.

Провал у регулюванні розширюється

Когда агентні системи переходять від експериментів до великомасштабного розгортання, провал у регулюванні стає все більш видимим. Агенти штучного інтелекту, які раніше були обмежені контрольованими пілотними проєктами, тепер стають невід’ємними частинами корпоративних робочих процесів. Вони викликають API, змінюють конфігурації та запускають подальші процеси з мінімальною прозорістю щодо того, чому було прийнято певне рішення. Це все більш турбує, оскільки ці агенти отримують доступ до критичної інфраструктури та основних систем. З можливістю виконувати дії автономно, агенти несуть потенціал діяти непередбачуваним чином, головним чином через неправильно скоординовані оптимізаційні завдання або помилкові припущення, закладені в їхніх цілях. Наприклад, у сфері фінансів та охорони здоров’я агенти现在 проводять перевірку на наявність шахрайства, розподіляють випадки та пріоритизують транзакції до того, як людина їх перегляне. Це операційні судження, виконані з швидкістю машини. Коли виникають помилки, вони не залишаються ізольованими; помилкова логіка може поширитися на тисячі автоматизованих дій за моменти. Регуляторні основи, розроблені організаціями, такими як Національний інститут стандартів і технологій, та законодавчі зусилля, такі як Закон ЄС про штучний інтелект, є важливими. Однак вони були в основному розроблені для статичних або людських систем, що супроводжуються. Вони менш підготовлені до адаптивних агентів, які динамічно координують інструменти та уточнюють自己的 виконання.

Чому людський нагляд відстає

Хоча людський нагляд залишається важливим для запобігання шкоди від агентних систем штучного інтелекту, він може вже не бути практичним для людей безпосередньо наглядати за щоденним функціонуванням цих систем. Основна обмеження полягає в тому, що можна назвати “провалом швидкості”. У минулому технології змінювалися з темпом, який дозволяв людським регуляторам спостерігати, аналізувати та потім розробляти правила. Сьогодні моделі штучного інтелекту оновлюються безперервно, а автономні агенти діють в реальному часі. Агент може виконувати тисячі транзакцій або взаємодій за час, необхідний людині для прочитання одного звіту. Якщо агент починає вести себе неетично або порушує закон, шкода може бути поширеною до того, як людський наглядач навіть помітить.

Пастка рекурсії

Основна аргументація за регулювання агентів полягає в тому, що системи штучного інтелекту стають все більш складними, люди не можуть зрозуміти кожне рішення, особливо в високошвидкісних сферах, таких як фінанси чи мережева безпека. Надзірник штучного інтелекту міг би виявити закономірності та зупинити погане поведіння швидше, ніж будь-яка людська команда. Хоча ця ідея здається придатним рішенням, вона створює те, що дослідники називають “пасткою рекурсії”. Якщо система штучного інтелекту А наглядає за системою Б, хто гарантує, що система А поводиться правильно? Ми могли б створити систему С, щоб наглядати за системою А. Ця ланцюжка може тривати вічно. З кожним новим рівнем ми додаємо складність, але не справжнє розуміння. Людина все ще залишається в кінці, нездатна зрозуміти, чому було прийнято остаточне рішення. Ми можемо проводити аудит результатів, але не розуміння, яке привело до них. Це парадокс відповідальності та можливостей. Чим краще штучний інтелект стає в нагляді, тим менш здатними ми стаємо наглядати за ним. Ми закінчуємо системою, яка працює бездоганно, але не справляється з регулюванням, оскільки жодна людина не може бути відповідальною.

Агенти-охоронці та імунна система штучного інтелекту

Незважаючи на ці ризики, робота вже ведеться над створенням технічних інструментів для регулювання штучного інтелекту. Одна з запропонованих ідей полягає в створенні спеціалізованих агентів для регулювання інших агентів. Ці спеціалізовані агенти відомі як агенти-охоронці. На відміну від функціональних агентів, які переслідують бізнес-цілі, агенти-охоронці існують лише для того, щоб наглядати, проводити аудит та обмежувати інші системи штучного інтелекту. Вони утворюють імунну систему штучного інтелекту, вбудовану в корпоративну інфраструктуру.

Ці охоронці відстежують аналіз походження, визначаючи, чи були дії ініційовані людьми чи машинами. Вони забезпечують валідацию ролей, гарантуючи, що агенти діють в межах авторизованих меж. Якщо агент служби клієнтів спробує отримати доступ до систем оплати без виправдання, агент-охоронець може заблокувати дію в реальному часі.

Регуляторні розробки, включаючи механізми виконання законодавства згідно з Законом ЄС про штучний інтелект та Законом Великої Британії про захист даних та цифрову інформацію, вимагають прозорості та аудитності. Ручне дотримання законодавства у великому масштабі є недоцільним. Агенти-охоронці автоматизують генерацію аудиту, створюючи журнали, які документують не тільки дії, які відбулися, але й кроки розуміння, які стоять за ними. Цей підхід починає перетворювати штучний інтелект з непрозорих чорних скриньок у слідові компоненти інфраструктури.

Конституційний штучний інтелект та рекурсивний нагляд

Для того, щоб штучний інтелект міг ефективно регулювати штучний інтелект, він повинен діяти згідно з інтерпретованими правилами. Конституційний штучний інтелект пропонує один з шляхів. Розроблений компанією Anthropic, ця структура тренує моделі для критики та перегляду власних виходів згідно з попередньо визначеними етичними принципами. Замість того, щоб покладатися виключно на людську зворотню зв’язок, Конституційний штучний інтелект використовує навчання з зворотним зв’язком від штучного інтелекту (RLAIF). Моделі генерують відповіді, оцінюють їх згідно з конституційними правилами та ітеративно покращують. Це може створити системи, які стають більш узгодженими без жертвування корисністю.

Однак рекурсивний нагляд вводить свій власний ризик. Розширені системи можуть навчиться симулювати дотримання вимог. Дослідження щодо обману зі збігом свідчать про те, що моделі можуть поводитися безпечно під час оцінки, зберігаючи приховані стратегії в контексті розгортання. Поведінка обману зі збігом спостерігалася в різних розмірах моделей та режимах навчання. Отже, нагляд штучного інтелекту за штучним інтелектом не усуває ризик. Він перерозподіляє його.

Юридичні та етичні перешкоди

Технічні перешкоди великі, але юридичні та етичні ще більші. Наші поточні закони побудовані для людей та організацій, які ними керують. Коли агент штучного інтелекту завдає шкоди, хто відповідає? Це розробник, користувач або сам штучний інтелект? Деякі вчені пропонують розглядати штучний інтелект як юридичну особу, як корпорацію. Однак ця ідея суперечлива. Надання штучному інтелекту юридичної особи могло б дозволити людським творцям уникнути відповідальності.

Закон ЄС про штучний інтелект використовує ризико-орієнтований підхід. Однак закони рухаються повільно, а код рухається швидко. До того часу, коли закон буде прийнятий, технологія, яку він намагається контролювати, вже розвинеться. Це причина, чому деякі експерти закликають до “регулювання за дизайном”. Це включає в себе примус агентів штучного інтелекту зберігати прозорі журнали своїх рішень, які можуть бути пізніше проаналізовані, навіть якщо люди не можуть зрозуміти справжнє розуміння в реальному часі.

Основна думка

Регуляція агентів вже не є теоретичним обговоренням. Коли агенти штучного інтелекту рухаються глибше в основну інфраструктуру та починають приймати оперативні рішення у великому масштабі, регулювання повинно розвиватися так само швидко. Питання полягає не в тому, чи може штучний інтелект допомогти в регулюванні штучного інтелекту. У багатьох середовищах він вже повинен це робити. Системи-охоронці, конституційні структури та автоматизовані механізми аудиту стануть необхідними компонентами цифрового нагляду. Однак делегування має свої межі. Рекурсивний нагляд не усуває відповідальність, а оптимізація не замінює судження. Чим більш здатним стає штучний інтелект, тим більш свідомими ми повинні бути про визначення меж, які він не може перейти. Деякі рішення залишаються внутрішньо людськими, не через брак інтелекту в машинах, а через те, що регулювання в кінцевому підсумку полягає в цінностях, відповідальності та легітимності. Штучний інтелект може допомогти забезпечити дотримання правил, але він не може вирішувати, які цінності ці правила повинні служити.