Управління штучним інтелектом провалюється, оскільки компанії розв’язують неправильну проблему

Підприємства швидко впроваджують штучний інтелект у різні бізнес-функції – від служби клієнтів до аналітики до операцій і внутрішніх робочих процесів – все це з метою залишатися конкурентоспроможними. Але зростання перебудови робочої сили та інвестицій в автоматизацію демонструють, як швидко організації перебудовують роботу навколо можливостей штучного інтелекту. Незважаючи на швидкість впровадження, управління відстає.

Дослідження галузі показує, що лише близько однієї третини організацій, які використовують штучний інтелект, мають офіційні стратегії відповідності або управління. Результатом є розрив між інноваціями та наглядом. А виклик не полягає лише в тому, що зусилля з управління повільні або неповні. Це глибша структуральна проблема.

Багато організацій намагаються управляти результатами штучного інтелекту, не переробляючи системи, які генерують рішення, керовані штучним інтелектом, спочатку. Управління, накладене після розгортання, неминуче створює тертя. Але управління, впроваджене в процес прийняття рішень, стає діловим енаблером. Відмінність визначає, чи стане штучний інтелект конкурентною перевагою або джерелом оперативних та репутаційних ризиків.

Так, як можна звузити розрив між інноваціями та наглядом? Давайте зануримося.

Розрив між інноваціями та управлінням насправді є розривом систем

В цілому, організації не навмисно ігнорують проблеми управління. Натомість вони намагаються застосовувати rámки управління в рамках спадкових організаційних структур, які ніколи не були розроблені для управління автоматизованим прийняттям рішень у великому масштабі.

Ініціативи штучного інтелекту часто рухаються швидше, ніж процеси відповідності та ризику, з кількох причин. Власність риску штучного інтелекту часто невизначена, з відповідальністю, розділеною між ІТ, безпекою та відповідністю. В результаті влада з прийняття рішень фрагментована серед комітетів та груп перегляду, розсіюючи відповідальність. Механізми нагляду часто вступають у дію лише після розгортання систем, а не до того, як автоматизовані рішення починають впливати на клієнтів та операції.

Ці структуральні розриви призводять до передбачуваних результатів: ризик регулювання через упередженість або помилкові результати, оперативні порушення, коли автоматизовані системи виходить з ладу тихо, та репутаційні збитки, коли рішення штучного інтелекту суперечать цінностям компанії чи очікуванням клієнтів. Проблема не полягає в відсутності зусиль. Це проблема проектування системи.

Організації не можуть покращити результати штучного інтелекту без переробки того, як функціонують рішення, відповідальність та нагляд по всій компанії.

Управління повинно бути про вирівнювання, а не обмеження

Водночас обговорення управління часто застряють, оскільки вони сформульовані як обмеження інновацій. Команди часто сприймають управління як щось, що сповільнює розгортання або додає тягар відповідності. Таке формулювання природно створює опір.

Насправді управління повинно бути про вирівнювання. Рішення, керовані штучним інтелектом, повинні відповідати намірам керівництва. Толерантність до ризику повинна бути явною та зрозумілою для команд. Відповідальність повинна бути призначена чітко та зроблена видимою.

Клієнти, партнери та регулюючі органи все частіше оцінюють організації за тим, як відповідально впроваджується інновація. Саме там ефективне управління вступає у дію. Воно підтримує інновації, забезпечуючи прозорість у прийнятті рішень, встановлення чіткої відповідальності та шляхів ескалації, та надає впевненість у тому, що результати штучного інтелекту відповідають бізнес-цілям та етичним очікуванням. Коли воно впроваджено належним чином, воно стає функцією управління, а не зобов’язанням з відповідності.

Неможна прикріпити управління до пошкодженої системи

Багато підприємств починають ініціативи з управління, накладаючи політики та процеси затвердження на існуючі організаційні структури. Хоча це і доброзичливо, такий підхід часто зберігає фрагментацію та сповільнює прийняття рішень, не вирішуючи根本ні проблеми. Більш ефективний шлях починається з фундаментальних питань: Хто володіє рішеннями щодо ризику штучного інтелекту? Хто має владу затверджувати або зупиняти розгортання, коли виникають ризики?

Відтоді управління може бути оперативізовано через практичні кроки. Організації повинні оцінити, де штучний інтелект вже впливає на рішення. Використання штучного інтелекту повинно бути відображено проти регулюючих зобов’язань та бізнес-ризиків, що забезпечує перегляд ризиків та затвердження як частини робочих процесів розгортання, а не післяthought.

Необхідні також безперервний моніторинг та процеси ескалації для виявлення відмов на ранній стадії. Командам потрібне навчання з ризику штучного інтелекту, відповідальності та відповідального використання, щоб управління стало частиною щоденної діяльності. Нарешті, масштабовані rámки управління та підтримуючі платформи допомагають підтримувати послідовність при розширенні використання штучного інтелекту.

Мета полягає не в тому, щоб сповільнити потоки рішень, а в переробці їх так, щоб відповідальні рішення відбувалися швидше та з меншими сюрпризами.

Сильне управління змінює поведінку

Коли ініціативи штучного інтелекту провалюються, організації часто звинувачують працівників у обхідних політиках або розгортанні інструментів без нагляду. Насправді поведінка працівників зазвичай відображає систему стимулів та структуру.

Якщо команди винагороджуються за швидкість, без чіткої відповідальності, інструменти штучного інтелекту будуть розгорнуті без достатнього перегляду. Це призводить до поширення тіньового прийняття рішень штучного інтелекту, особливо коли процеси управління невизначені або обтяжливі. Працівники природно оберуть шлях найменшого опору – який часто призводить до поганих практик управління.

Натомість, коли відповідальність стає видимою та влада з прийняття рішень чітко визначена, поведінка змінюється органічно. Парадоксально, організації з сильнішою структурою управління часто розгортають штучний інтелект швидше, оскільки ризики виникають раніше, влада з прийняття рішень визначена, та менше сюрпризів на пізніх стадіях примушує до затримок розгортання або відкликання. Це компанії, які відкладають управління, часто переживають публічні помилки, регулюючий аналіз та дорогі зусилля з виправлення, які в кінцевому підсумку сповільнюють інновації більше, ніж проактивний нагляд би зробив.

Управління штучним інтелектом в кінцевому підсумку є рішенням керівництва

Управління штучним інтелектом не може вдалося як наліпка, додана після того, як інновації вже відбулися. Воно повинно стати частиною того, як організації приймають рішення, призначають відповідальність та керують ризиком по всій компанії. Керівники зараз стикаються з знайомим вибором: продовжувати оптимізувати спадкові системи управління, приймаючи повторючі провали управління, або переробити структури відповідальності та нагляду для підтримки операцій, керованих штучним інтелектом.

Організації, які розглядають управління як стратегічну інфраструктуру – інвестуючи в нагляд, відповідальність та масштабовані rámки – розгортатимуть штучний інтелект з більшою швидкістю та впевненістю, захищаючи довіру зацікавлених сторін. У епоху, коли штучний інтелект все частіше формує бізнес-результати, управління не є бар’єром для інновацій. Воно є фундаментом, який дозволяє інноваціям масштабуватися відповідально.