Чому компанії повинні дотримуватися ціннісного підходу до управління штучним інтелектом

У вересні 2025 року всі члени Організації Об’єднаних Націй вперше зібралися, щоб обговорити міжнародне управління штучним інтелектом; багато з них були представлені знову у лютому на саміті впливу штучного інтелекту в Делі. Ця подія призвела до створення двох нових органів, орієнтованих на управління штучним інтелектом; але це був, у найкращому випадку, символічний успіх.

Нові механізми Організації Об’єднаних Націй були розроблені для забезпечення консенсусу: вони уникають спірних питань, таких як військове використання штучного інтелекту, і не мають чітких джерел фінансування та механізмів виконання. Це не повинно бути несподіванкою для досвідчених спостерігачів. Сьогоднішня Організація Об’єднаних Націй не має можливості швидко діяти чи забезпечувати універсальну згоду з її рішеннями, що робить її складним форумом для здійснення реальних змін.

Це відповідає добре встановленому шаблону. Незважаючи на роки розрізнених спроб побудувати консенсус щодо правил штучного інтелекту, не було жодних суттєвих міжнародних угод, що створило порожнину, в якій окремі країни та блоки були змушені розробити свої власні правила. Однак ефективне управління штучним інтелектом є важливим, якщо ми хочемо бачити його широке застосування, довіру громадськості та використання способами, які приносять тривалі соціальні та економічні вигоди.

Дирижабельність та ремонт

Для глобальних компаній, які будують і експлуатують системи штучного інтелекту, відсутність загальних механізмів управління є проблематичною. Вони хочуть розгорнути системи штучного інтелекту по всьому світу, але жодна з двох юрисдикцій не дотримується одних і тих же правил. Тому їм доводиться створювати загальний каркас управління навколо своєї системи, а потім перебудовувати його з нуля в кожній країні, в якій вони діють, щоб забезпечити відповідність місцевим законам і правилам. Цей підхід створює величезну кількість додаткової роботи, робить ініціативи штучного інтелекту більш дорогими і схильними до затримок, і ослаблює здатність глобальних фірм реалізовувати економію масштабу та спільно використовувати ефективні інструменти з користувачами всього світу.

Є, однак, альтернатива. Для фірм, які хочуть оптимізувати свій підхід, найкращим варіантом може бути побудова каркаса управління штучним інтелектом, який враховує загальні етичні принципи в різних регіонах, забезпечуючи те, що вони відповідають високим стандартам скрізь щодо захисту свободи, приватності та безпеки окремих осіб. Цей підхід представляє потужний спосіб для бізнесу штучного інтелекту збільшити довіру громадськості до своєї технології, зміцнити свою клієнтську базу та реалізувати потенційні вигоди штучного інтелекту для суспільства.

Шість ключових цінностей управління штучним інтелектом

Для будь-якої організації, яка цікавиться прийняттям ціннісного підходу до управління штучним інтелектом, я б порадив використовувати шість ключових цінностей, яких ми дотримуємося: підзвітність, пояснюваність, прозорість, справедливість, безпека та оскаржуваність.

Ми обрали ці цінності, оскільки вони охоплюють всі основні області життєвого циклу системи штучного інтелекту та оскільки вони вже були закодифіковані в різних міжнародних та національних стандартах, пов’язаних зі штучним інтелектом, таких як ISO/IEC 42001 та Штучний інтелект для уряду Великої Британії.

Почнімо з початку. Підзвітність означає знання того, хто відповідає за що на кожному етапі життєвого циклу штучного інтелекту. Без чіткої власності важливі контролю можуть бути пропущені, оскільки жодна особа чи команда не несе кінцевої відповідальності. Організації повинні призначити старших названих власників – таких як їхній головний офіцер штучного інтелекту – системам штучного інтелекту та ключовим етапам і використовувати модель управління на основі ризику, застосовуючи ту саму перевірку до сторонніх інструментів, що й до тих, які розроблені всередині організації. Це означає розуміння умов постачальників, обмежень та зобов’язань так само добре, як і свої власні системи.

Організація економічного співробітництва та розвитку (ОЕСР) добре відображає це у своїй посібнику з підвищення підзвітності штучного інтелекту, який рекомендує організаціям створювати «механізми для впровадження процесу управління ризиками штучного інтелекту в більш загальне управління організацією, що сприяє культурі управління ризиками як всередині організацій, так і на всьому ланцюжку вартості штучного інтелекту».

Далі йде пояснюваність. Організації повинні бути здатні показати, як система штучного інтелекту приймає рішення. Для цього потрібні механізми для документування та відстеження процесу прийняття рішень, поряд з чіткими записами про проектування системи, навчальні дані та процеси прийняття рішень. Взяті разом, це дозволяє командам зрозуміти походження інформації від початку створення системи до її розгортання.

Справедливість зосереджена на тому, щоб системи штучного інтелекту забезпечували рівноправні результати та не реплікували чи посилювали існуючі упередження. Без свідомих перевірок системи можуть завдавати шкоди, забезпечуючи перекошені результати – особливо проблематично у високоефективних галузях, таких як набір персоналу, охорона здоров’я та кримінальна юстиція. Для пом’якшення цього організації повинні реалізувати заходи виявлення упереджень, регулярно переглядати результати по відповідним групам та проектувати каркаси управління, які можуть задовольняти місцевим вимогам щодо недискримінації. На практиці це означає будівництво систем, які відповідають найвищим юридичним стандартам, з якими вони можуть зіткнутися, включаючи зобов’язання згідно з законами, такими як Закон про рівність 2010 року у Великій Британії та Хартія фундаментальних прав ЄС.

Прозорість полягає в тому, щоб забезпечити ясність як для користувачів, так і для регуляторів. Люди повинні розуміти, коли використовується штучний інтелект, яку роль він грає у процесі прийняття рішень та які дані лежать в його основі. Практичною основою є стандартизація документації по системам штучного інтелекту, підтримувана внутрішніми інструментами, такими як картки моделей: короткі документи, надані з моделями машинного навчання, які пояснюють контекст, у якому ці моделі призначені для використання, деталі процедур оцінки продуктивності та інші відповідні відомості. Без прозорості користувачі не можуть оскаржувати несправедливі результати, регулятори не можуть втрутитися ефективно, а шкідливі впливи можуть бути приховані.

Безпека полягає в захисті систем штучного інтелекту від несанкціонованого доступу, маніпулювання чи непередбачуваної поведінки. Якщо безпека слабка, штучний інтелект може поставити організації, користувачів та їхні дані під ризик, піддаючи їх фінансовій та репутаційній шкоді. Організації повинні визначити пороги продуктивності та точності, тестувати системи в реалістичних умовах та включати тестування «червоними командами», щоб виявити уразливості.

Нарешті, оскаржуваність забезпечує людям чіткий та доступний спосіб оскаржувати або апелювати рішення, прийняті штучним інтелектом. Без цього постраждалі користувачі не мають можливості оскаржувати та проблеми можуть ніколи не бути виявлені чи вирішені. Організації повинні забезпечити канали повідомлень на місці використання, призначити старших власників для управління скаргами та забезпечити, щоб системи могли бути зупинені, переглянуті або оновлені за необхідності.

Які є переваги ціннісного підходу?

Є дві потужні причини для прийняття ціннісного підходу до управління штучним інтелектом. По-перше, ті, хто будує та розгортає системи штучного інтелекту, мають етичну відповідальність перед людьми та організаціями, які постраждали від них; і, по-друге, це більш ефективний спосіб реалізації обіцяних переваг штучного інтелекту на практиці.

Користувачі систем штучного інтелекту, як корпоративні, так і індивідуальні, вкладають неявну довіру до їхніх творців, щоб не зловживати особистими даними чи піддавати їх непотрібному ризику. Коли організації порушують цю довіру, їм стає дуже складно утримувати цих користувачів. В кінцевому підсумі, якщо люди не довіряють системам штучного інтелекту чи не бачать чітких переваг, які вони приносять, вони не погодяться на їхнє впровадження. Це призведе до більшої соціальної та економічної роз’єднаності, і ми пропустимо багато можливостей, які пропонує ця технологія.

З іншого боку, компанії, які застосовують ціннісний каркас скрізь – включаючи регіони з більш розслабленими вимогами до управління – можуть продемонструвати клієнтам, інвесторам та регуляторам, що вони дотримуються вищого стандарту, ніж базовий рівень відповідності. Це будує довіру, залучення та, в кінцевому підсумі, бізнес-успіх.

Сильне управління штучним інтелектом є творцем цінності, а не тягарем для відповідності. Воно дозволяє підприємствам швидше виводити нові продукти на ринок, зменшувати свій ризик та масштабувати свої рішення на кількох ринках з впевненістю.

Звіт McKinsey «Стан штучного інтелекту» виявило, що «нагляд генерального директора за управлінням штучним інтелектом… є одним з елементів, найбільш корельованих з вищим самозвітним впливом на дно лінії організації від використання загального штучного інтелекту», підкреслюючи комерційні вигоди такого підходу. У цьому сенсі побудова сильних етичних каркасів у системи штучного інтелекту представляє собою просвітлений самозахист.

Поза цим, однак, це просто правильна справа. Ми побудували нашу глобальну етичну політику штучного інтелекту навколо того самого принципу: що передові технології повинні служити людям та суспільству, а не навпаки. Це відображає ширшу візію Society 5.0: людиноцентровану модель інновацій, яка намагається поєднати економічний прогрес із розв’язанням соціальних проблем.

Якщо передові технології, такі як штучний інтелект, мають сприяти щасливішому, гармонійнішому суспільству, вони повинні бути побудовані на сильних етичних засадах. Це починається з акценту не тільки на стандартах, яким повинні відповідати організації, але й на стандартах, яких вони хочуть досягнути.