Управління штучним інтелектом провалюється, оскільки компанії розв’язують неправильну проблему

Корпорації швидко впроваджують штучний інтелект у різні бізнес-функції – від служби kháchів до аналітики до операцій та внутрішніх робочих процесів – все це робиться для того, щоб залишатися конкурентоспроможними. Але зростання перебудови робочих місць та інвестицій у автоматизацію демонструє, як швидко організації перебудовують роботу навколо можливостей штучного інтелекту. Незважаючи на швидкість впровадження, управління лагодить позаду.

Дослідження галузі показує, що лише близько однієї третини організацій, які використовують штучний інтелект, мають офіційні стратегії відповідності або управління. Результатом є розширення розриву між інноваціями та наглядом. А виклик не полягає просто в тому, що зусилля з управління повільні або неповні. Це глибша структуральна проблема.

Багато організацій намагаються керувати результатами штучного інтелекту, не перебудовуючи спочатку системи, які генерують рішення, керовані штучним інтелектом. Управління, накладене після розгортання, невідворотно створює тертя. Але управління, вбудоване в процес прийняття рішень, стає бізнес-драйвером. Відмінність полягає в тому, чи стають рішення, керовані штучним інтелектом, конкурентною перевагою чи джерелом оперативного та репутаційного ризику.

Як можна звузити розрив між інноваціями та наглядом? Давайте детальніше розглянемо.

Розрив між інноваціями та управлінням насправді є системним розривом

В основному організації не свідомо ігнорують питання управління. Натомість вони намагаються застосовувати рамки управління в рамках традиційних організаційних структур, які ніколи не були розроблені для керування автоматизованим прийняттям рішень у великих масштабах.

Ініціативи штучного інтелекту часто рухаються швидше, ніж процеси відповідності та ризику, з кількох причин. Власність ризiku штучного інтелекту часто невизначена, з відповідальністю, розділеною між ІТ, безпекою та відповідністю. В результаті влада з прийняття рішень розпорошена серед комітетів та груп переговорів, що розсіює відповідальність. Механізми нагляду часто вступають у дію лише після розгортання систем, а не до того, як автоматизовані рішення починають впливати на клієнтів та операції.

Ці структуральні розриви призводять до передбачуваних результатів: ризик регулювання через упередженість або дефектні виходи, оперативні порушення, коли автоматизовані системи виходить з ладу тихо, та репутаційний ущерб, коли рішення штучного інтелекту суперечать цінностям компанії чи очікуванням клієнтів. Проблема не полягає в відсутності зусиль. Це питання проектування системи.

Організації не можуть покращити результати штучного інтелекту без перебудови того, як функціонують рішення, відповідальність та нагляд по всій компанії.

Управління повинно бути спрямоване на вирівнювання, а не обмеження

В той же час обговорення управління часто застряють, оскільки вони подаються як обмеження на інновації. Команди часто сприймають управління як щось, що сповільнює розгортання або додає тягар відповідності. Таке формулювання природно створює опір.

Насправді управління повинно бути спрямоване на вирівнювання. Рішення, керовані штучним інтелектом, повинні відповідати наміренням керівництва. ТOLERANСЯ ризику повинна бути явною та зрозумілою для команд. Відповідальність повинна бути призначена чітко та зроблена видимою.

Клієнти, партнери та регулюючі органи все частіше оцінюють організації за тим, як відповідально впроваджується інновація. Саме тут вступає в дію ефективне управління. Воно підтримує інновації, забезпечуючи прозорість у прийнятті рішень, встановлення чітких шляхів відповідальності та ескалації, та надання впевненості, що результати штучного інтелекту відповідають бізнес-цілям та етичним очікуванням. Коли воно правильно вбудоване, воно стає функцією управління, а не обов’язком відповідності.

Неможна прикрутити управління до пошкодженої системи

Багато підприємств починають ініціативи з управління, накладаючи політики та процеси затвердження на існуючі організаційні структури. Хоча такий підхід є доброзичним, він часто зберігає фрагментацію та сповільнює прийняття рішень, не вирішуючи根本ні проблеми. Більш ефективний шлях починається з фундаментальних питань: Хто володіє ризиками рішень штучного інтелекту? Хто має владу затверджувати або зупиняти розгортання, коли виникають ризики?

Відтоді управління може бути оперативним через практичні кроки. Організації повинні оцінити, де штучний інтелект вже впливає на рішення. Використання штучного інтелекту повинно бути відображено проти нормативних зобов’язань та бізнес-ризиків, що забезпечує перегляд ризиків та затвердження як частини робочих процесів розгортання, а не післяthought.

Необхідні також безперервний моніторинг та процеси ескалації для вчасного виявлення відмов. Командам потрібен тренінг з ризиків штучного інтелекту, відповідальності та відповідального використання, щоб управління стало частиною щоденної діяльності. Нарешті, масштабовані рамки управління та підтримуючі платформи допомагають підтримувати послідовність при розширенні використання штучного інтелекту.

Мета полягає не в тому, щоб сповільнити потоки рішень, а в тому, щоб перебудувати їх, щоб відповідальні рішення відбувалися швидше та з меншими сюрпризами.

Сильне управління змінює поведінку

Коли ініціативи штучного інтелекту провалюються, організації часто звинувачують працівників у обході політики або розгортанні інструментів без нагляду. Насправді поведінка працівників зазвичай відображає системні стимули та структуру.

Якщо команди винагороджуються за швидкість, без чіткої відповідальності, інструменти штучного інтелекту будуть розгорнуті без достатнього перегляду. Це призводить до поширення тіньового впровадження штучного інтелекту, особливо коли процеси управління невизначені або обтяжливі. Працівники природно оберуть шлях найменшого опору – який часто призводить до поганих практик управління.

Навпаки, коли відповідальність стає видимою, а влада з прийняття рішень чітко визначена, поведінка змінюється органічно. Парадоксально, організації з сильнішими структурами управління часто розгортають штучний інтелект швидше, оскільки ризики виникають раніше, влада з прийняття рішень визначена, а менші сюрпризи на пізніх етапах примушують до затримок розгортання або відкликання. Це компанії, які відкладають управління, часто переживають публічні помилки, регулюючу перевірку та дорогі зусилля з ліквідації наслідків, які в кінцевому підсумку сповільнюють інновації ще більше, ніж активне нагляд би зробив.

Управління штучним інтелектом в кінцевому підсумку є рішенням керівництва

Управління штучним інтелектом не може вдалося як накладення після інновацій. Воно повинно стати частиною того, як організації приймають рішення, призначують відповідальність та керують ризиками по всій компанії. Виконавці зараз стоять перед знайомим вибором: продовжувати оптимізувати традиційні системи управління, приймаючи повторючі провали управління, або перебудувати структури відповідальності та нагляду для підтримки операцій, керованих штучним інтелектом.

Організації, які розглядають управління як стратегічну інфраструктуру — інвестуючи в нагляд, відповідальність та масштабовані рамки — будуть розгортати штучний інтелект з більшою швидкістю та впевненістю, захищаючи довіру зацікавлених сторін. В епоху, коли штучний інтелект все частіше формує бізнес-результати, управління не є бар’єром для інновацій. Воно є основою, яка дозволяє інноваціям масштабуватися відповідально.