Чому самих лише якісніших даних недостатньо для ШІ-агентів

Упродовж багатьох років одна з найпоширеніших порад щодо корпоративного ШІ полягала в тому, щоб насамперед подбати про якість даних. Логіка проста: щоб система ухвалювала корисні рішення, їй потрібна точна й доступна інформація.

Це твердження актуальне й сьогодні, але його вже недостатньо, адже ШІ-агенти переходять від відповідей на запитання та створення контенту до дій від імені працівників і організацій. Дані можуть повідомити агентові, що відомо про клієнта, транзакцію, страхову вимогу чи запит, але не обов’язково підказують, що робити далі, — і не пояснюють, якими будуть наслідки певної дії. Ця відмінність має значення, коли агент не просто надає відповідь, а схвалює запит, оновлює запис, зв’язується з клієнтом або просуває справу далі.

Від працівників компаній очікують, що вони навчаться діяти в межах системи, яка передбачає ланцюжки погоджень, бізнес-правила, залежності, винятки та шляхи ескалації; агентам потрібен спосіб робити те саме. З огляду на те, що Gartner прогнозує: до кінця 2026 року цільові ШІ-агенти виконуватимуть завдання у 40% корпоративних застосунків проти менш ніж 5% у 2025 році, — прогалини в знаннях агентів буде дедалі важче ігнорувати. 

Gartner також прогнозує, що до 2028 року на спеціалізованих агентів, орієнтованих на конкретні галузі, припадатиме 80% відчутної рентабельності інвестицій у агентний ШІ. Спеціалізація важлива, але вона розв’язує лише частину проблеми. Знання певної галузі не підказують агентові автоматично, де починається й закінчується його відповідальність, як його завдання вписується в ширший процес і хто має перебрати роботу, якщо вона виходить за межі його повноважень. Щоб агенти стали надійними учасниками корпоративної роботи, їм потрібні і контекст робочих процесів, і бізнес-дані.

Якісні дані не підказують агентові, що робити далі

Розгляньмо заявку на кредит: агент може мати доступ до фінансової історії заявника, інформації про його працевлаштування та інших відповідних записів. Ці дані допоможуть йому зрозуміти зміст заявки, але не пояснять, як організація її опрацьовує.

Які перевірки потрібно виконати насамперед? Що змінюється, якщо заявник відповідає одній умові, але не іншій? Які дані обов’язкові, перш ніж можна буде продовжити розгляд справи? Які рішення можна ухвалювати автоматично, а які потрібно передати кредитному андеррайтеру?

Більшість корпоративних процесів передбачає чимало таких умовних сценаріїв. Процес може просуватися автоматично за виконання певних критеріїв, зупинитися для збору додаткової інформації або піти зовсім іншим шляхом у разі виняткової ситуації. Наступна доречна дія залежить не лише від наявної інформації, а й від поточного етапу роботи та вже здійснених кроків.

Це змінює уявлення про те, що означає надійність корпоративного агента. Точної відповіді недостатньо, якщо наступна дія неправильна. Агент може правильно інтерпретувати наявну інформацію, але все одно перевести справу не на той етап, пропустити обов’язкове погодження або діяти, перш ніж буде виконано необхідну попередню дію.

McKinsey нещодавно поділилася результатами роботи з компанією, що виробляє медичні технології: там з’ясували, що використовувана платформа ШІ не підтримувала кілька основних правил робочих процесів. Замість того щоб відкласти запуск і усунути ці недоліки, компанія продовжила роботу за планом і зрештою не змогла реалізувати приблизно 30% очікуваної цінності ШІ. Цей приклад підкреслює, що компаніям потрібно враховувати процес, у якому виконується завдання, а не лише інформацію, необхідну для його виконання. 

Узгоджуйте запобіжні механізми з рішеннями, які може ухвалювати агент

Що більше агентів здатні діяти самостійно, то конкретнішими мають бути механізми управління ними. Агент, який знаходить документ із правилами, не становить такого самого ризику, як той, що змінює обліковий запис клієнта, схвалює платіж або ініціює транзакцію. Однак організації легко впадають в одну з двох крайнощів: дозволяють агентам діяти надто вільно або вимагають схвалення людини майже для кожного кроку.

Заходи контролю агента мають відповідати рішенням, які він може ухвалювати, та їхнім можливим наслідкам. Низькоризикову повторювану дію може бути доречно виконувати самостійно. Для іншої дії може знадобитися погодження, якщо її сума перевищує певний поріг. Незвичну справу, можливо, доведеться негайно передати працівникові.

Нагляд людини найкорисніший, коли він цілеспрямований. Якщо людина має погоджувати кожен звичайний крок, значна частина переваг від запровадження агента зникає. Але усунення контрольних етапів у рішеннях, які справді потребують розсуду або підзвітності, створює іншу проблему.

IBM Research виступає за чіткі правила щодо дій, які дозволено виконувати агентам, і моментів, коли необхідний людський нагляд. Ці засоби контролю також повинні враховувати процес, у якому бере участь агент. Повноваження агента не обов’язково залишаються статичними від початку до кінця справи. Те, що він може безпечно робити, може залежати від етапу процесу, інформації, яка вже перевірена, рішень, прийнятих раніше, і наслідків наступної дії.

Це означає, що організаціям потрібно вбудувати механізми управління безпосередньо в робочий процес. Замість того щоб надавати агенту широкий набір дозволів і покладатися на нього всюди, вони можуть визначити, де йому дозволено діяти самостійно, де потрібно виконати додаткові умови, а де відповідальність має перейти до людини. Тож питання полягає вже не стільки в тому, чи є агент автономним, скільки в тому, де автономність доречна в межах процесу.

Агенти мають працювати в уже наявному бізнес-середовищі

Контекст процесу стає ще важливішим, коли агент має взаємодіяти з рештою організації. Організації починають не з чистого аркуша. Один запит клієнта вже може проходити через CRM, сховище документів, платформу керування справами та ERP-систему, залучаючи працівників із кількох відділів.

Впровадження агента в окрему частину такого середовища саме по собі не робить весь процес ефективнішим. Агент може бездоганно виконати своє завдання, але якщо потім працівникові доводиться копіювати його результат в інший застосунок, визначати, кому він потрібен далі, або вручну перезапускати процес деінде, вузьке місце просто переміщується.

Саме тому підприємствам потрібно розглядати агентів як учасників ширшого процесу, а не як ізольовані інструменти. Що запускає агента? Яку інформацію він отримує? За що він відповідає? Куди переходить робота після того, як він її завершив? І що відбувається, якщо він не може виконати завдання?

Ці питання стають іще важливішими, коли організації впроваджують кілька спеціалізованих агентів. Deloitte визначила оркестрацію як одну з ключових вимог для компаній, що переходять до мультиагентних систем, у яких різні агенти можуть виконувати окремі ролі й координувати роботу. Оркестрація на рівні підприємства має охоплювати те, як агенти спілкуються та координують свої дії між собою, а не лише те, як вони працюють окремо. Без такого нагляду агенти ризикують діяти на основі неповного контексту, запускати суперечливі дії або обходити встановлені бізнес-правила й процедури погодження. Агенти й надалі працюють в організаціях, де є наявні застосунки, працівники, бізнес-правила та процеси, які можуть тривати днями, тижнями або місяцями.

Почніть із процесу, який потрібно завершити, і визначте, яке місце в ньому займають агенти, люди та наявні системи. Один агент може самостійно виконувати окремий етап, інший — проводити спеціалізовану перевірку, працівник — ухвалювати рішення на власний розсуд, а наявна система — виконувати остаточну операцію. Важливо, щоб робота могла переходити від одного учасника до іншого без втрати контексту.

Автономність потребує структури

Надання агентам більшої структурованості не означає, що кожну дію потрібно обмежувати ще одним рівнем контролю. Насправді може бути навпаки. Чіткі процеси допомагають організаціям упевненіше визначати, де агенти можуть діяти самостійно, адже межі, винятки та точки ескалації вже встановлено. Агенту не потрібна необмежена свобода, щоб приносити відчутну користь. Йому потрібно мати достатньо відповідальності, щоб просувати роботу вперед, достатньо контексту, щоб розуміти, що робити далі, і чітке розуміння того, коли відповідальність має перейти до когось іншого.

Кращі дані й надалі розширюватимуть можливості агентів. Але самих лише можливостей недостатньо, щоб агент був корисним у межах підприємства. Справжня перевірка полягає в тому, чи може він виконати правильну дію в потрібний момент процесу та в межах, установлених бізнесом.