ШІ ухвалює рішення щохвилини. Та більшість систем управління досі працює поквартально

Система за допомогою ШІ може вплинути на сотні операційних рішень ще до того, як керівний комітет призначить наступне засідання. Системи управління, побудовані на щоквартальних перевірках, ніколи не були розраховані на такий темп, і саме через цю невідповідність багато програм корпоративного ШІ починають давати збій.

Ми витрачаємо величезну кількість часу на дискусії про те, які моделі впроваджувати. Водночас Gartner прогнозує, що до кінця 2026 року організації відмовляться від 60% проєктів ШІ, які не мають належної підтримки даних, готових до використання ШІ. Більшість невдалих проєктів корпоративного ШІ майже не пов’язані з самою моделлю. Причина криється в чомусь фундаментальнішому: організації не мають цілісного й достовірного уявлення про власний бізнес.

Прихована ціна даних, «готових до використання ШІ»

Більшість великих компаній недооцінює зусилля, потрібні для визначення відповідальних за дані, а також для забезпечення належного управління, довіри й контексту навколо них. Лише деякі інвестують у міжфункціональну експертизу й операційну модель, необхідні для створення систем управління, які забезпечують прозорість, пояснюваність і підзвітність, потрібні для виходу ШІ за межі пілотних проєктів.

Є простий тест, який я раджу пройти клієнтам. Чи може організація чітко пояснити, хто відповідає за дані, як вони пов’язані з бізнес-процесами, які правила регулюють їх використання та хто несе відповідальність за рішення, ухвалені за допомогою ШІ? Якщо ні, навряд чи її ініціативи у сфері ШІ будуть успішними, незалежно від того, скільки вона інвестує в платформи, інфраструктуру чи моделі.

Першим кроком на шляху впровадження ШІ в будь-якій великій компанії мають стати інвестиції в управління та практичну операційну модель, що чітко визначають відповідальних, підзвітність і повноваження щодо ухвалення рішень. Я бачу, що більшість організацій робить усе навпаки: спочатку впроваджує моделі й інфраструктуру, а вже потім створює фундамент, потрібний для використання ШІ в масштабі.

Однак рішення, ухвалені за допомогою ШІ, залежать не лише від окремих даних, а й від розуміння того, як інформація пов’язана з бізнес-процесами, політиками, розподілом відповідальності й операційним контекстом. Якщо ці зв’язки розрізнені, організації не мають дивуватися, коли рекомендації ШІ стають непослідовними.

Коли застосунки ШІ ледь не спричиняють інциденти, дають збій або видають суперечливі рекомендації, важливі запитання стосуються організації, а не технологій. Хто відповідає за дані? Хто відповідає за рішення? Хто може скасувати рішення ШІ? Як передають на розгляд виняткові випадки? Якщо на ці запитання немає відповідей, компанії ризикують автоматизувати процеси, не забезпечивши підзвітності.

Довіру вибудовують ще до впровадження

Довіра до ШІ формується задовго до запуску будь-якої моделі. Ефективне управління потребує співпраці фахівців із технологій, бізнес-підрозділів, управління ризиками, юридичного напряму, комплаєнсу й безпеки, адже системи ШІ працюють на перетині організаційних меж, тоді як відповідальність часто залишається розпорошеною між окремими підрозділами. Багато проблем з управлінням, які приписують ШІ, насправді є проявами давніших проблем із відповідальністю за дані та повноваженнями щодо ухвалення рішень, які технологія просто виявила.

У більшості організацій уже діють механізми управління: політики безпеки, нормативні рамки й процедури погодження. Проте часто їм бракує цілісного уявлення про те, як усі ці складові пов’язані між собою.

Довіра зростає, коли зацікавлені сторони розуміють обґрунтування рекомендацій, можуть покластися на дані, що лежать в їх основі, і знають, що належні засоби контролю та механізми ескалації передбачені. Нічого з цього не можна додати вже після інциденту.

Коли поквартальне управління стикається з рішеннями, що ухвалюються щохвилини

Традиційні моделі управління спираються на періодичні перевірки, засідання керівних комітетів і звітність за результатами минулої діяльності. Системи, що працюють за допомогою ШІ, безперервно й у великих масштабах генерують рекомендації. Наявні підходи не є хибними, але вони надто повільні й відірвані від ухвалення операційних рішень. Щоквартальний цикл перевірок не може забезпечити управління рішеннями, які ухвалюють щогодини, щодня.

Найкращих результатів, на мою думку, досягають організації, які вбудовують управління безпосередньо в операційні процеси за допомогою забезпечення дотримання політик, процедур погодження, моніторингу, можливості аудиту й нагляду з боку людей. Вони взяли курс на перехід від періодичного до безперервного управління, щоб у реальному часі бачити, які дані використовуються, на які рішення впливає ШІ, хто за них відповідає та коли потрібне втручання людини.

Безперервне управління — це більше, ніж моніторинг результатів роботи ШІ. Воно передбачає розуміння того, яку інформацію використовує ШІ, чи залишається вона актуальною та чи відповідають ухвалені рішення бізнес-політикам і цілям.

ШІ суперечитиме сам собі

Великі організації щодня мають узгоджувати суперечливі пріоритети. Команди з безпеки прагнуть зменшити ризики, операційні команди — забезпечити стабільність, бізнес-команди — діяти швидко, а фінансові — ефективно використовувати кошти. Тепер до цього додаються системи ШІ, навчені на різних наборах даних і з різними цілями, які природно відображатимуть ці пріоритети.

ШІ-система для безпеки може рекомендувати негайно усунути критичну вразливість, тоді як операційна команда відкладе зміни, оскільки уражена система підтримує критично важливу бізнес-послугу. Обидві позиції можуть бути обґрунтованими. Щоб розв’язати такі суперечності, потрібні чітко визначені повноваження щодо ухвалення рішень, відповідальність за ризики та шляхи ескалації.

ШІ має надавати дані, контекст і рекомендації, але відповідальність за збалансування бізнесових, операційних міркувань і ризиків має залишатися за організацією.

Як реагувати на скептицизм, коли виявляються невідповідності

Якщо ШІ надає суперечливу рекомендацію, очевидно, що надалі бізнес ставитиметься до неї скептично. Довіру можна відновити, коли заінтересовані сторони розуміють, чому було надано рекомендацію, які дані використали та хто й надалі відповідає за результат.

ШІ часто виявляє проблеми з якістю даних, прогалини у визначенні відповідальних і невідповідності в процесах, які вже існували в організації. Набагато продуктивніше сприймати такі ситуації як нагоду вдосконалити управління та робочі процедури, а не захищати технологію. З часом довіру здобувають завдяки прозорості, послідовності та відчутним результатам для бізнесу.

Надійна інформаційна основа

У розмовах про готовність до впровадження ШІ зазвичай зосереджуються на моделях, інфраструктурі та інструментах. На практиці організації, які досягають найбільших успіхів, інвестують у щось фундаментальніше — надійну інформаційну основу. Вона забезпечує бізнес-контекст, який пояснює, як інформація пов’язана з процесами, політиками, відповідальністю та операційними рішеннями, і дає ШІ міцніше підґрунтя для рекомендацій, які організації можуть розуміти, контролювати й яким можуть довіряти.

Навіть найсучасніша модель ШІ не здатна компенсувати слабке управління інформацією, нечітко визначену відповідальність чи недостатній бізнес-контекст. Організаціям потрібно створити контекст, систему управління, інституційну пам’ять і аналітику для ухвалення рішень, необхідні для відповідального й ефективного використання ШІ в масштабі.

Ця робота повільніша й менш помітна, ніж розгортання нової моделі, але зрештою саме від неї залежить, чи приноситиме модель довготривалу цінність для бізнесу.