Пропуск довіри Agentic AI – це справжня загроза досвіду клієнта

Обіцянка агентського штучного інтелекту трансформувати досвід клієнта (CX) є непопереднім. Платформи CX, що використовують штучний інтелект, швидко розширюються на глобальний ринок, і прогнози передбачають, що до 2034 року вони досягнуть 117,8 мільярдів доларів США, що стимулюється попитом на автоматизовані системи, які забезпечують персоналізацію та підвищення оперативної ефективності.

Але агентський штучний інтелект вводить невизначеність. У живих середовищах CX розмови можуть розвиватися у нескінченному напрямку, залежно від контексту, даних та прийняття рішень в режимі реального часу, яке жоден статичний тестовий сценарій не може повністю передбачити.

Організації починають розуміти, що здатність штучного інтелекту сама по собі не перекладається на довіру клієнтів, лояльність чи створення цінності. Найбільша перешкода, яка заважає агентському штучному інтелекту досягти свого потенціалу, існує окремо від продуктивності моделі та швидкості впровадження. Ця перешкода – це довіра клієнтів.

Знайома схема з ранньої епохи Інтернету

Бум штучного інтелекту слідує схемі знайомого розділу історії технологій. У перші дні Інтернету організації поспішали випускати програмне забезпечення швидше, ніж могли забезпечити його безпеку, масштабованість або керування його режимами відмов. Інновації випереджали інфраструктуру, і якість обслуговування стала після думкою. Ця прогалина в кінцевому підсумку призвела до порушень безпеки, збоїв у роботі та болісного перезавантаження навколо управління та тестування.

Агентський штучний інтелект ризикує повторити цей цикл. Підприємства впроваджують усе більш автономні системи у клієнтські потоки без перевірки того, як ці системи поводяться в реальних умовах. Багато агентів штучного інтелекту працюють добре в контрольованих демонстраціях та обмежених тестових середовищах, але потім відмовляються, коли мають справу з заплутаними вхідними даними клієнтів, неорганізованими даними клієнтів, обмеженнями щодо дотримання вимог та міжканальними передачами.

Через ці відмови виникла розбіжність у довірі між клієнтами та брендами. Клієнти відчувають ці відмови відразу, тоді як лідери бачать їх лише після того, як відбувається відтік клієнтів, ескалації або пошкодження репутації.

Клієнти втрачають терпіння через відмови штучного інтелекту

Недавні дослідження споживачів підкреслюють, наскільки крихкою стала довіра до досвіду клієнта, що базується на штучному інтелекті. Нові дослідження Cyara показують, що 79% споживачів звертаються до людини-агента після того, як бот відмовляється лише один раз, а 61% вважають, що помилки штучного інтелекту більш розчаровують, ніж помилки людини.

Результати досліджень розкривають глибшу правду. Клієнти не відкидають автоматизацію зовсім. Вони відкидають ненадійну автоматизацію. Коли система штучного інтелекту відмовляється, вона не отримує того ж ступеня милості, який клієнти часто надають людині-агенту, яка допускає помилку. Вітрина терпимості до автоматичних відмов значно менша.

Ця втрата довіри безпосередньо впливає на результати діяльності підприємств та зацікавлених сторін. Уникнутий відтік клієнтів коштує підприємствам США 136 мільярдів доларів щороку, згідно з дослідженнями CallMiner. Витрати на відмови штучного інтелекту продовжують зростати, створюючи додаткову трение, повторювані взаємодії та примусові ескалації клієнтів.

Персоналізація без надійності зазнає поразки

Персоналізація залишається одним із найсильніших драйверів інвестицій у CX. Дослідження Twilio показало, що 89% лідерів бізнесу вважають персоналізацію важливою для забезпечення успіху протягом наступних трьох років. Штучний інтелект відіграє центральну роль у масштабуванні персоналізації на мільйони взаємодій.

Ризик персоналізації стає більш серйозним, коли організації не мають надійних систем для підтримки операцій. Персоналізована відповідь, яка не відповідає ситуації або “галлюцинує”, відчувається більш інвазивною, ніж загальна. Системи штучного інтелекту, які демонструють самовпевненість у своїх відповідях, втрачають довіру клієнтів, коли вони дають неправильні або суперечливі результати.

Дослідження HubSpot підтверджують цю чутливість. Згідно з HubSpot, 90% клієнтів вважають “негайну” відповідь важливою або дуже важливою, коли вони мають питання щодо обслуговування клієнтів. Системи штучного інтелекту, які змушують клієнтів до повторних автентифікацій, повторюваних передач або зайвих передач, порушують цю очікування.

Коли штучний інтелект марнує час клієнта, він підкрадається до тих самих вигод з ефективності, яких сподіваються досягти організації.

Ілюзія контролю всередині підприємств

Всередині великих організацій агентський штучний інтелект часто охоплює кілька команд, постачальників та каналів. Одна система обробляє виявлення намірів. Інша керує комунікаціями. Третя запускає робочі процеси або затвердження.

Індивідуальне тестування кожної команди створює ілюзію контролю та не доводить повністю клієнтського шляху, який залишається в основному невалідованим. Лідери не мають видимості того, як автономні системи поводяться, коли все взаємодіє одночасно під реальним тиском клієнтів.

Рівень ризику в регульованих галузях ще вищий. У сфері охорони здоров’я агенти штучного інтелекту повинні орієнтуватися в правилах конфіденційності, вимогах щодо дотримання законодавства та бренд-специфічних політиках під час реагування в режимі реального часу. Одна помилка може створити юридичну відповідальність або ризик для репутації, який перевищує будь-які вигоди з ефективності. Наприклад, одна інстанція “галюцинації” штучного інтелекту при наданні рекомендацій щодо дозування може привести до ризиків для безпеки клієнтів.

Без безперервної валідації організації фактично довіряють системам штучного інтелекту, сподіваючись, що вони поведуться правильно лише через те, що їх запустили.

Обробка штучного інтелекту як критичної системи місії

Бізнесу потрібно змінити свій спосіб мислення про епоху агентського штучного інтелекту. Штучний інтелект потребує такого самого рівня обробки, як і інші критичні системи, які працюють безперервно, а не як окреме впровадження.

Критичні системи:

• Захищені безперервним тестуванням та валідациєю
• Моніторяться у виробництві та не вважаються стабільними
• Контролюються з чіткою відповідальністю, а не розподіляються з невизначеністю

Агентський штучний інтелект працює завдяки своїй здатності створювати динамічні відповіді. Моделі вчаться, адаптуються та взаємодіють з непередбачуваними вхідними даними. Це означає, що поточні методи тестування до запуску продукту не дають достатніх результатів. Що має значення, так це те, як штучний інтелект працює з часом через різні канали під час періодів високого тиску.

Організації, які досягнуть успіху, валідуватимуть продуктивність штучного інтелекту по всьому клієнтському шляху, а не оцінюватимуть моделі в ізоляції. Вони перевірять, як агенти штучного інтелекту реагують, коли системи відмовляються, коли клієнти змінюють намір під час розмови, або коли регуляторні межі викликаються.

Довіра – це справжній мультиплікатор цінності

Незважаючи на швидку інновацію, розбіжність між обіцянками штучного інтелекту та його впливом зберігається, оскільки довіра не трималася. Клієнти довіряють системам, які є надійними, передбачуваними та поважають їхній час. Працівники довіряють системам, які вони можуть зрозуміти та налаштувати при необхідності. Регулятори довіряють системам, які є аудитованими та контрольованими.

Без довіри впровадження штучного інтелекту застряє, розчарування клієнтів зростає, працівники перевіряють автоматизацію, а лідери втрачають віру в свої власні розгортання.

Компанії, які закриють цю розбіжність у довірі, відкриють справжню вартість агентського штучного інтелекту. Прогрес залежатиме від дисциплінованого підходу до надійності, коли системи штучного інтелекту стають усе більш автономними, та глибших практик валідації, які безперервно тестують, моніторять та оптимізують клієнтські шляхи по всіх каналах – концепцію, відому як забезпечення CX.

Розгортання агентського штучного інтелекту зустрічає найбільший ризик, коли експериментальне управління зберігається в клієнтських середовищах. Наступна фаза зрілості штучного інтелекту буде визначена організаціями, які оперціоналізують довіру як дисципліну. У досвіді клієнта ця дисципліна визначає, чи залишаються системи стійкими, коли очікування зростають та збільшується контроль.