Пропуск довіри агентських ІІ є справжньою загрозою досвіду клієнта

Обіцянка агентських ІІ трансформувати досвід клієнта (CX) є незаперечною. Платформи CX, що використовують ІІ, швидко розширюються на глобальному ринку, і прогнози передбачають, що до 2034 року вони досягнуть 117,8 мільярдів доларів США, що стимулюється попитом на автоматизовані системи, які забезпечують персоналізацію та підвищення операційної ефективності.

Але агентські ІІ вводять невизначеність. У живих середовищах CX розмови можуть розгалужуватися у безліч напрямків, керуючись контекстом, даними та прийняттям рішень в реальному часі, яке жоден статичний тестовий сценарій не може повністю передбачити.

Організації починають виявляти, що здатність ІІ сама по собі не перекладується на довіру клієнта, лояльність чи створення цінності. Найбільша перепона, яка зупиняє агентські ІІ від досягнення свого потенціалу, існує окремо від продуктивності моделі та швидкості впровадження. Ця перепона – довіра клієнта.

Знайома схема з ранньої епохи Інтернету

Бум ІІ слідує за схемою знайомого розділу в історії технологій. У перші дні Інтернету організації поспішали випускати програмне забезпечення швидше, ніж вони могли його захистити, масштабувати чи керувати його режимами відмов. Інновації випереджали інфраструктуру, і якість обслуговування стала післяthought. Ця пропуск eventually привела до порушень безпеки, збоїв у роботі та болісної переорієнтації навколо управління та тестування.

Агентські ІІ ризикують повторити цей цикл. Підприємства розгортають усе більш автономні системи в клієнтських шляхах без перевірки того, як ці системи поводяться в реальних умовах. Багато агентів ІІ працюють добре в контрольованих демонстраціях та обмежених тестових середовищах, але потім відмовляються при роботі з заплутаними клієнтськими вхідними даними, неорганізованими клієнтськими даними, обмеженнями щодо дотримання вимог та передачею між каналами.

Через ці відмови виникла розширювана пропуск довіри між клієнтами та брендами. Клієнти відчувають ці відмови негайно, тоді як лідери бачать їх лише після того, як з’являються відплив, ескалації чи шкода репутації.

Клієнти втрачають терпіння через відмови ІІ

Недавні дослідження споживачів підкреслюють, наскільки хиткою стала довіра до клієнтського досвіду, керованого ІІ. Нове дослідження Cyara показує, що 79% споживачів переходять до людини-агента після того, як бот відмовляється лише один раз, а 61% кажуть, що помилки ІІ більш розчаровують, ніж помилки людини.

Результати дослідження розкривають глибшу правду. Клієнти не відкидають автоматизацію зовсім. Вони відкидають ненадійну автоматизацію. Коли система ІІ відмовляється, вона не отримує того самого милосердя, яке клієнти часто надають людині-агенту, який допускає помилку. Вітрило терпіння для автоматичних відмов значно менше.

Ця втрата довіри безпосередньо впливає на результати бізнесу та зацікавлених сторін. Уникнутий клієнтський відплив коштує підприємствам США 136 мільярдів доларів щороку, згідно з дослідженням CallMiner. Витрати на відмови ІІ продовжують зростати, створюючи додаткову трение, повторювані взаємодії та примусові клієнтські ескалації.

Персоналізація без надійності зазнає поразки

Персоналізація залишається одним із найсильніших драйверів інвестицій у CX. Дослідження Twilio виявило, що 89% лідерів бізнесу вважають персоналізацію важливою для забезпечення успіху протягом наступних трьох років. ІІ відіграє центральну роль у масштабуванні персоналізації на мільйони взаємодій.

Ризик персоналізації стає більш серйозним, коли організації не мають надійних систем для підтримки операцій. Персоналізована відповідь, яка не відповідає ситуації або “галюцинує”, відчувається більш вторгливою, ніж загальна. Системи ІІ, які демонструють самовпевненість через свої відповіді, втрачають довіру клієнта, коли вони дають неправильні або суперечливі результати.

Дослідження HubSpot підтверджує цю чутливість. Згідно з HubSpot, 90% клієнтів вважають “негайну” відповідь важливою або дуже важливою, коли вони мають питання щодо обслуговування клієнтів. Системи ІІ, які змушують клієнтів до циклів, повторної автентифікації або непотрібних передач, порушують це очікування.

Коли ІІ марнує час клієнта, це підкрадається під самі ефективні вигоди, яких сподіваються досягти організації.

Ілюзія контролю всередині підприємств

Всередині великих організацій агентські ІІ часто охоплюють кілька команд, постачальників та каналів. Одна система обробляє виявлення намірів. Інша керує комунікаціями. Третя спрацьовує робочі процеси або затвердження.

Індивідуальне тестування кожної команди створює ілюзію контролю та не доводить повний клієнтський шлях, який залишається в основному невалідованим. Лідери не мають видимості того, як автономні системи поводяться, коли все взаємодіє одночасно під тиском клієнта.

Рівень ризику в регульованих галузях ще вищий. У сфері охорони здоров’я агенти ІІ повинні орієнтуватися в правилах конфіденційності, вимогах щодо дотримання законодавства та бренд-специфічних політиках під час реагування в реальному часі. Одна відмова ІІ може створити юридичну загрозу або ризик для репутації, який переважує будь-які вигоди від ефективності. Наприклад, лише один випадок “галюцинації” ІІ при наданні рекомендацій щодо дозування може привести до ризику для безпеки клієнта.

Без безперервної валідації організації фактично довіряють системам ІІ поводитися правильно лише тому, що вони були запущені.

Розгляд ІІ як критичної системи місії

Бізнес повинен змінити свій спосіб мислення про еру агентів. ІІ вимагає такого самого рівня лікування, як і інші критичні системи, які працюють безперервно, а не як окрема реалізація.

Критичні системи місії:

• Захищені безперервним тестуванням та валідациєю
• Моніторяться у виробництві та не вважаються стабільними
• Контролюються з чіткою відповідальністю, а не розподіляються з невизначеністю

Агентські ІІ працюють завдяки своїй здатності створювати динамічні відповіді. Моделі вчаться, адаптуються та взаємодіють з непередбачуваними вхідними даними. Це означає, що поточні методи тестування до запуску продукту не дають адекватних результатів. Що має значення, так це те, як ІІ працює з часом через різні канали під час періодів високого тиску.

Організації, які успішно працюють, валідують продуктивність ІІ по всьому клієнтському шляху, а не оцінюють моделі в ізоляції. Вони будуть тестувати, як агенти ІІ реагують, коли системи відмовляються, коли клієнти змінюють намір під час розмови або коли викликаються межі регулювання.

Довіра – справжній мультиплікатор цінності

Незважаючи на швидку інновацію, розрив між обіцянкою ІІ та впливом ІІ триває, оскільки довіра не зберігає темп. Клієнти довіряють системам, які є надійними, передбачуваними та поважають їхній час. Працівники довіряють системам, які вони можуть зрозуміти та налаштувати при необхідності. Регулятори довіряють системам, які є аудитованими та контрольованими.

Без довіри впровадження ІІ зупиняється, клієнтська незадоволеність ескалується, працівники перевершують автоматизацію, а лідери втрачають віру в свої власні розгортання.

Компанії, які закривають цю пропуск довіри, відкриють справжню вартість агентських ІІ. Прогрес залежатиме від дисциплінованого підходу до надійності, коли системи ІІ стають більш автономними, та глибших практик валідації, які безперервно тестують, моніторять та оптимізують клієнтські шляхи по всіх каналах – концепцію, відому як забезпечення CX.

Розгортання агентських ІІ зустрічають свій найбільший ризик, коли експериментальне управління триває в клієнтських середовищах. Наступна фаза зрілості ІІ буде визначена організаціями, які операціоналізують довіру як дисципліну. У клієнтському досвіді ця дисципліна визначає, чи залишаються системи стійкими, коли очікування зростають та збільшується увага.