Пробел доверия в агентском ИИ – это реальная угроза опыту клиентов

Обещание агентского ИИ трансформировать опыт клиентов (CX) неоспоримо. Платформы CX, работающие на основе ИИ, быстро расширяются на глобальный рынок, и прогнозы говорят о том, что он достигнет 117,8 миллиарда долларов США к 2034 году, благодаря спросу на автоматизированные системы, которые обеспечивают персонализацию и повышение операционной эффективности.

Но агентский ИИ вводит неопределенность. В живых средах CX разговоры могут развиваться в бесконечных направлениях, под влиянием контекста, данных и принятия решений в режиме реального времени, которые не могут быть полностью предсказаны никаким статическим тестовым сценарием.

Организации начинают понимать, что способность ИИ сама по себе не переводится в доверие клиентов, лояльность или создание ценности. Самая большая преграда, которая не позволяет агентскому ИИ достичь своего потенциала, существует отдельно от производительности модели и скорости внедрения. Эта преграда – доверие клиентов.

Знакомый шаблон из ранней эпохи Интернета

Бум ИИ следует шаблону знакомой главы в истории технологий. В ранние дни Интернета организации спешили выпускать программное обеспечение быстрее, чем могли обеспечить его безопасность, масштабировать его или управлять его режимами сбоя. Инновации обогнали инфраструктуру, и качество обслуживания стало после мысли. Этот разрыв в конечном итоге привел к нарушениям безопасности, сбоям в обслуживании и болезненному сбросу вокруг управления и тестирования.

Агентский ИИ рискует повторить этот цикл. Предприятия развертывают все более автономные системы в путешествиях клиентов без проверки того, как эти системы ведут себя в реальных условиях. Многие агенты ИИ работают хорошо в контролируемых демонстрациях и ограниченных средах тестирования, но затем терпят неудачу, когда имеют дело с запутанными входными данными клиентов, неорганизованными данными клиентов, ограничениями по соблюдению требований и передачами между каналами.

Из-за этих неудач образовался разрыв доверия между клиентами и брендами. Клиенты испытывают эти неудачи сразу, в то время как лидеры видят их только после отказов, эскалаций или ущерба репутации.

Клиенты теряют терпение из-за неудач ИИ

Недавние исследования потребителей подчеркивают, насколько хрупким стало доверие к опыту клиентов, основанному на ИИ. Новое исследование Cyara показывает, что 79% потребителей переходят на человеческого агента после одной неудачи бота, и 61% говорят, что ошибки ИИ более раздражают, чем ошибки человека.

Результаты исследования открывают более глубокую истину. Клиенты не отвергают автоматизацию сразу. Они отвергают ненадежную автоматизацию. Когда система ИИ терпит неудачу, она не получает того же снисходения, которое клиенты часто предоставляют человеческому агенту, который совершает ошибку. Окно терпимости к автоматическим неудачам намного меньше.

Эта потеря доверия напрямую влияет на бизнес-результаты и заинтересованные стороны. Избежание неудач клиентов стоит бизнесу США 136 миллиардов долларов каждый год, согласно исследованию CallMiner. Расходы на неудачи ИИ продолжают расти, создавая дополнительную трение, повторяющиеся взаимодействия и вынужденные эскалации клиентов.

Персонализация без надежности обостряет ситуацию

Персонализация остается одним из сильнейших драйверов инвестиций в CX. Исследование Twilio показало, что 89% лидеров бизнеса считают персонализацию важной для достижения успеха в течение следующих трех лет. ИИ играет центральную роль в том, чтобы сделать персонализацию масштабируемой на миллионы взаимодействий.

Риск персонализации становится более серьезным, когда организации не имеют надежных систем для поддержки операций. Персонализированный ответ, который не соответствует ситуации или “галлюцинирует”, кажется более навязчивым, чем общий. Системы ИИ, которые демонстрируют самоуверенность в своих ответах, потеряют доверие клиентов, когда они производят неправильные или противоречивые результаты.

Исследование HubSpot подтверждает эту чувствительность. Согласно HubSpot, 90% клиентов считают “немедленный” ответ важным или очень важным, когда у них есть вопрос о обслуживании клиентов. Системы ИИ, которые заставляют клиентов ожидать, повторять аутентификацию или ненужные передачи, нарушают это ожидание.

Когда ИИ тратит время клиентов, он подрывает самые выгоды от эффективности, которых надеются достичь организации.

Иллюзия контроля внутри предприятий

Внутри крупных организаций агентский ИИ часто охватывает несколько команд, поставщиков и каналов. Одна система обрабатывает обнаружение намерений. Другая управляет коммуникациями. Третья запускает рабочие процессы или утверждения.

Индивидуальное тестирование каждой команды создает иллюзию контроля и не доказывает полного пути клиента, который остается в значительной степени невалидированным. Лидеры не имеют видимости того, как автономные системы ведут себя, когда все взаимодействуют одновременно под реальным давлением клиентов.

Уровень риска в регулируемых отраслях еще выше. В здравоохранении агенты ИИ должны ориентироваться в правилах конфиденциальности, требованиях к соблюдению и политике бренда, одновременно реагируя в режиме реального времени. Одна ошибка ИИ может создать юридическую угрозу или риск для репутации, который перевешивает любые выгоды от эффективности. Например, одна ошибка ИИ при рекомендации дозировки может привести к рискам для безопасности клиентов.

Без непрерывной проверки организации фактически доверяют системам ИИ вести себя правильно только потому, что они были запущены.

Отношение к ИИ как к миссионно-kritическому системе

Бизнесу необходимо изменить свой способ мышления об эпохе агентского ИИ. ИИ требует такого же уровня отношения, как и другие важные системы, которые работают непрерывно, а не как отдельная реализация.

Миссионно-kritические системы:

• Защищены непрерывным тестированием и проверкой
• Отслеживаются в производстве и не предполагаются стабильными
• Контролируются с четкой ответственностью, а не распределены с неопределенностью

Агентский ИИ работает через свою способность создавать динамические ответы. Модели учатся, адаптируются и взаимодействуют с непредсказуемыми входными данными. Это означает, что текущие методы тестирования перед запуском продукта не дают достаточных результатов. Что имеет значение, так это то, как ИИ работает со временем через различные каналы в периоды высокого давления.

Организации, которые преуспеют, проверят производительность ИИ на протяжении всего пути клиента, а не оценивают модели в изоляции. Они будут проверять, как агенты ИИ реагируют, когда системы терпят неудачу, когда клиенты меняют намерения в середине разговора или когда границы регулирования подвергаются сомнению.

Доверие – это реальный умножитель ценности

Несмотря на быструю инновацию, разрыв между обещанием ИИ и его влиянием сохраняется, потому что доверие не поспевает за ним. Клиенты доверяют системам, которые надежны, предсказуемы и уважают их время. Сотрудники доверяют системам, которые они могут понять и отрегулировать при необходимости. Регуляторы доверяют системам, которые можно проверить и контролировать.

Без доверия внедрение ИИ застревает, недовольство клиентов усиливается, сотрудники обходят автоматизацию, и лидеры теряют уверенность в своих собственных развертываниях.

Компании, которые закроют этот разрыв доверия, обнаружат реальную ценность агентского ИИ. Прогресс будет зависеть от дисциплинированного подхода к надежности, когда системы ИИ становятся более автономными, и более глубоких практик проверки, которые непрерывно тестируют, отслеживают и оптимизируют пути клиентов на всех каналах – концепцию, известную как CX-ассуранс.

Развертывания агентского ИИ сталкиваются с наибольшим риском, когда экспериментальное управление сохраняется в средах, ориентированных на клиентов. Следующая фаза зрелости ИИ будет определяться организациями, которые операционализируют доверие как дисциплину. В опыте клиентов эта дисциплина определяет, остаются ли системы устойчивыми, когда ожидания растут и внимание увеличивается.