Чому компаніям слід дотримуватись ціннісного підходу до управління ШІ

У вересні 2025 року вперше всі держави-члени Організації Об’єднаних Націй зібралися для обговорення міжнародного управління ШІ; багато з них знову були представлені в лютому на Саміті з впливу ШІ в Делі. Ця подія призвела до створення двох нових органів, зосереджених на управлінні ШІ; але це був, у кращому випадку, символічний успіх. Нові механізми ООН були розроблені для досягнення консенсусу: вони уникають суперечливих питань, таких як військове використання ШІ, і не мають чітких джерел фінансування та повноважень щодо примусу. Для досвідчених спостерігачів це не повинно бути несподіванкою. Сьогодні ООН не має здатності швидко діяти або забезпечувати загальне виконання своїх рішень, що робить її складним форумом для реалізації реальних змін. Це відповідає встановленій моделі. Незважаючи на роки розрізнених спроб побудувати консенсус щодо регулювання ШІ, значних міжнародних угод не було, що створило вакуум, в якому окремі країни та блоки були змушені розробляти власні правила. Проте ефективне управління ШІ має вирішальне значення, якщо ми хочемо, щоб воно було широко впроваджене, користувалося довірою громадськості та використовувалося способами, що приносять тривалу соціальну та економічну користь.

Вирішуй і лагодь

Для глобальних компаній, які будують та експлуатують системи ШІ, ця відсутність спільних, узгоджених механізмів управління є проблематичною. Вони хочуть впроваджувати системи ШІ по всьому світу, але жодні дві юрисдикції не дотримуються одного й того ж набору правил. Тому вони змушені замість цього створювати загальну структуру управління навколо своєї системи, а потім перебудовувати її з нуля в кожній країні, де вони працюють, щоб переконатися у відповідності місцевим законам та нормам. Такий підхід створює величезний обсяг додаткової роботи, робить ініціативи з ШІ більш дорогими та схильними до затримок, а також послаблює здатність глобальних компаній реалізовувати економію на масштабі та ділитися ефективними інструментами з користувачами скрізь. Однак існує альтернатива. Для компаній, які прагнуть оптимізувати свій підхід, найкращим варіантом може бути побудова структури управління ШІ, яка враховує загальні етичні принципи в цих різних регіонах, гарантуючи дотримання високих стандартів скрізь у питаннях захисту свобод, приватності та безпеки особистості. Ця техніка є потужним способом для бізнесу ШІ підвищити довіру громадськості до своєї технології, зміцнити свою клієнтську базу та використати потенційні переваги ШІ для суспільства.

Шість ключових цінностей для управління ШІ

Для будь-якої організації, зацікавленої у впровадженні ціннісного підходу до управління ШІ, я б запропонував використовувати шість ключових цінностей, яких ми дотримуємося: підзвітність, пояснюваність, прозорість, справедливість, безпека та оскаржуваність. Ми обрали ці цінності, оскільки вони охоплюють усі основні сфери життєвого циклу системи ШІ, а також тому, що вони вже закріплені в різних міжнародних та національних стандартах, що стосуються ШІ, таких як ISO/IEC 42001 Міжнародної організації зі стандартизації та Путівник зі штучного інтелекту для уряду Великобританії. Почнімо з першої: підзвітність означає знання того, хто за що відповідає на кожному етапі життєвого циклу ШІ. Без чіткого розподілу відповідальності життєво важливі контрольно-перевірочні заходи можуть бути пропущені, оскільки жодна окрема особа чи команда не несе остаточної відповідальності. Організації повинні призначати старших, іменних власників – таких як їхній Головний директор з питань ШІ – для систем ШІ та ключових етапів і використовувати модель управління, засновану на оцінці ризиків, застосовуючи ту саму ретельність до інструментів сторонніх розробників, що й до розроблених внутрішньо. Це означає розуміння умов постачальників, обмежень та зобов’язань так само добре, як і розуміння власних систем. Організація економічного співробітництва та розвитку (ОЕСР) добре це відображає у своєму керівництві щодо посилення підзвітності в ШІ, яке рекомендує організаціям створювати «механізми для впровадження процесу управління ризиками ШІ в ширше корпоративне управління, сприяючи культурі управління ризиками як всередині організацій, так і в усьому ланцюжку створення цінності ШІ». Далі – пояснюваність. Організації повинні вміти показувати, *як* система ШІ приймає рішення. Для цього потрібні механізми документування та відстеження процесу прийняття рішень разом із чіткими записами про дизайн системи, навчальні дані та процеси прийняття рішень. У сукупності це дозволяє командам зрозуміти походження інформації від зародження системи до її впровадження. Справедливість зосереджена на забезпеченні того, щоб системи ШІ давали справедливі результати та не відтворювали чи не посилювали існуючі упередження. Без навмисних перевірок системи можуть завдати шкоди, видаючи перекручені результати – це особлива проблема в сферах з високим впливом, таких як найм, охорона здоров’я та кримінальне правосуддя. Щоб пом’якшити це, організації повинні впроваджувати заходи виявлення упереджень, регулярно перевіряти результати серед відповідних груп та розробляти структури управління, здатні враховувати місцеві вимоги щодо ненадання переваг. На практиці це означає створення систем, що відповідають найвищим юридичним стандартам, з якими вони, ймовірно, зіткнуться, включаючи зобов’язання за такими законами, як Закон про рівність 2010 року у Великобританії та Хартія основних прав ЄС. Прозорість полягає в наданні ясності як користувачам, так і регуляторам. Люди повинні розуміти, коли використовується ШІ, яку роль він відіграє в прийнятті рішень і які дані лежать в його основі. Практичною відправною точкою є стандартизація документації для систем ШІ, підтримана внутрішніми інструментами, такими як картки моделей: короткі документи, що супроводжують моделі машинного навчання, які пояснюють контекст, в якому моделі призначені для використання, деталі процедур оцінки продуктивності та іншу відповідну інформацію. Без прозорості користувачі не можуть оскаржити несправедливі результати, регулятори не можуть ефективно втручатися, а шкідливі наслідки можуть бути замітані під килим. Безпека передбачає захист систем ШІ від несанкціонованого доступу, маніпуляцій або небажаної поведінки. Якщо безпека слабка, ШІ можуть піддавати організації, користувачів та їхні дані ризику, відкриваючи їх для фінансової та репутаційної шкоди. Організації повинні визначати пороги продуктивності та точності, тестувати системи в умовах, близьких до реальних, та включати тестування «червоними командами» для виявлення вразливостей. Нарешті, оскаржуваність гарантує, що люди мають чіткий та доступний спосіб оскаржити рішення, прийняті за допомогою ШІ. Без неї постраждалі користувачі не мають можливості звернутися за допомогою, а проблеми можуть ніколи не бути виявлені чи вирішені. Організації повинні надавати канали звітності в точці використання, призначати старших власників для управління скаргами та забезпечувати можливість призупинення, перегляду чи оновлення систем за необхідності.

Які переваги ціннісної структури?

Існують дві вагомі причини для впровадження цього ціннісного підходу до управління ШІ. По-перше, тому що ті, хто створює та впроваджує системи ШІ, несуть етичну відповідальність перед людьми та організаціями, на яких вони впливають; і, по-друге, тому що це більш ефективний спосіб реалізувати обіцяні переваги ШІ на практиці. Користувачі систем ШІ, як корпоративні, так і приватні, неявно довіряють їхнім творцям, що вони не будуть зловживати персональними даними або піддавати їх непотрібному ризику. Коли організації порушують цю довіру, їм стає дуже важко утримувати цих користувачів. Зрештою, якщо люди не довірятимуть системам ШІ і не бачитимуть чітких переваг, які вони дають, вони не підтримають їхнє впровадження. Це спричинить більше соціального та економічного розколу, і ми втратимо багато можливостей, які пропонує ця технологія. З іншого боку, компанії, які застосовують ціннісну структуру скрізь – включаючи регіони з більш м’якими вимогами до управління – можуть продемонструвати клієнтам, інвесторам та регуляторам, що вони дотримуються вищих стандартів, ніж вимагає базова відповідність. Це будує довіру, залученість і, зрештою, успіх у бізнесі. Сильне управління ШІ є творцем цінності, а не тягарем відповідності. Воно дозволяє бізнесу швидше виводити нові продукти на ринок, зменшувати ризиковість та масштабувати свої рішення на кількох ринках з упевненістю. Звіт McKinsey «Стан ШІ» <a href="https://www.mckinsey.com/~/media/mckinsey/business%20functions/quantumblack/our%20insights/the%20state%20of%20ai/2025/the-state-of-ai-how-organizations-are-rewiring-to-capture-value_final.pdf?%29%E3%82%82%E3%80%81%E3%82%B8%E3%82%A7%E3%83%8D%E3%83%AC%E3%83%BC%E3%83%86%E3%82%A3%E3%83%96AI%E3%81%8B%E3%82%89%E6%AC%A1%E3%81%AE%E3%83%95%E3%83%AD%E3%83%B3%E3%83%86%E3%82%A3%E3%82%A2%E3%81%A8%E3%81%97%E3%81%A6%E3%82%A8%E3%83%BC%E3%82%B8%E3%82%A7%E3%83%B3%E3%83%88AI%E3%81%AE%E5%AE%9F%E7%94%A8%E5%8C%96%E3%81%8C%E4%BC%81%E6%A5%AD%E4%BE%A1%E5%80%A4%E5%89%B5%E5%87%BA%E3%81%AE%E9%8D%B5%E3%81%A8%E3%81%AA%E3%82%8B%E3%81%A8%E5%A0%B1%E5%91%8A%E3%81%97%E3%81%A6%E3%81%84%E3%82%8B%E3%80%82=&utm_source=chatgpt.com