Брешь доверия в агентском ИИ – это реальная угроза опыту клиентов

Обещание агентского ИИ трансформировать опыт клиентов (CX) неоспоримо. Платформы CX, оснащенные ИИ, быстро расширяются на глобальный рынок, и прогнозы предполагают, что к 2034 году он достигнет 117,8 миллиардов долларов США, что обусловлено спросом на автоматизированные системы, которые обеспечивают персонализацию и повышенную операционную эффективность.

Но агентский ИИ вводит неопределенность. В живых средах CX разговоры могут развиваться в бесконечном направлении, обусловленном контекстом, данными и принятием решений в реальном времени, которые никакой статический тестовый сценарий не может полностью предсказать.

Организации начинают обнаруживать, что способность ИИ сама по себе не переводится в доверие клиентов, лояльность или создание ценности. Самая большая преграда, которая мешает агентскому ИИ достичь своего потенциала, существует отдельно от производительности модели и скорости внедрения. Эта преграда – доверие клиентов.

Знакомая закономерность из ранней эпохи интернета

Бум ИИ следует знакомой главе в истории технологий. В ранние дни интернета организации спешили выпускать программное обеспечение быстрее, чем они могли обеспечить его безопасность, масштабировать или управлять его режимами отказа. Инновации опережали инфраструктуру, и качество обслуживания стало после мысли. Этот разрыв в конечном итоге привел к нарушениям безопасности, сбоям в обслуживании и болезненному перезапуску вокруг управления и тестирования.

Агентский ИИ рискует повторить этот цикл. Предприятия развертывают все более автономные системы в клиентских путях без проверки того, как эти системы ведут себя в реальных условиях. Многие агенты ИИ работают хорошо в контролируемых демонстрациях и ограниченных тестовых средах, но затем терпят неудачу, когда имеют дело с запутанными входными данными клиентов, неорганизованными данными клиентов, ограничениями по соблюдению требований и передачами между каналами.

Из-за этих неудач образовался разрыв доверия между клиентами и брендами. Клиенты испытывают эти неудачи сразу, в то время как лидеры видят их только после того, как происходит отказ, эскалация или ущерб репутации.

Клиенты теряют терпение с неудачами ИИ

Недавние исследования потребителей подчеркивают, насколько хрупким стало доверие к опыту клиентов, обусловленному ИИ. Новое исследование Cyara показывает, что 79% потребителей переходят на человеческого агента после одной неудачи бота, и 61% говорят, что ошибки ИИ более раздражают, чем ошибки человека.

Результаты исследования раскрывают более глубокую истину. Клиенты не отвергают автоматизацию вообще. Они отвергают ненадежную автоматизацию. Когда система ИИ терпит неудачу, она не получает того же снисходительного отношения, которое клиенты часто проявляют к человеческому агенту, который совершает ошибку. Окно терпимости к автоматическим неудачам намного меньше.

Эта потеря доверия напрямую влияет на бизнес-результаты и заинтересованные стороны. Избегаемый отказ клиентов стоит бизнесу США 136 миллиардов долларов каждый год, согласно исследованию CallMiner. Расходы на неудачи ИИ продолжают расти, создавая дополнительную трение, повторяющиеся взаимодействия и вынужденные эскалации клиентов.

Персонализация без надежности обратно действует

Персонализация остается одним из самых сильных драйверов инвестиций в CX. Исследование Twilio показало, что 89% лидеров бизнеса считают персонализацию важной для достижения успеха в течение следующих трех лет. ИИ играет центральную роль в том, чтобы сделать персонализацию масштабируемой на миллионы взаимодействий.

Риск персонализации становится более серьезным, когда организации не имеют надежных систем для поддержки операций. Персонализированный ответ, который не соответствует ситуации или “галлюцинирует”, кажется более навязчивым, чем общий. Системы ИИ, которые демонстрируют уверенность в своих ответах, потеряют доверие клиентов, когда они производят неправильные или противоречивые результаты.

Исследование HubSpot подтверждает эту чувствительность. Согласно HubSpot, 90% клиентов считают “немедленный” ответ важным или очень важным, когда у них есть вопрос о обслуживании клиентов. Системы ИИ, которые заставляют клиентов входить в цикл, повторную аутентификацию или ненужные передачи, нарушают это ожидание.

Когда ИИ тратит время клиента, он подрывает саму эффективность, которую организации надеются достичь.

Иллюзия контроля внутри предприятий

Внутри крупных организаций агентский ИИ часто охватывает несколько команд, поставщиков и каналов. Одна система обрабатывает обнаружение намерений. Другая управляет коммуникациями. Третья запускает рабочие процессы или утверждения.

Индивидуальное тестирование каждой команды создает иллюзию контроля и не доказывает полного пути клиента, который остается в значительной степени невалидированным. Лидеры не имеют видимости того, как автономные системы ведут себя, когда все взаимодействуют одновременно под реальным давлением клиентов.

Уровень риска в регулируемых отраслях еще выше. В здравоохранении агенты ИИ должны ориентироваться в правилах конфиденциальности, требованиях к соблюдению и бренд-специфических политиках, одновременно реагируя в реальном времени. Одна неудача может создать юридическую угрозу или риск репутации, который перевешивает любые выгоды от эффективности. Например, даже один случай “галлюцинации” ИИ при предоставлении рекомендаций по дозировке может привести к рискам безопасности клиентов.

Без непрерывной проверки организации фактически доверяют системам ИИ вести себя правильно просто потому, что они были запущены.

Отношение к ИИ как к критически важной системе

Бизнесу необходимо изменить свой способ мышления об агентской эпохе. ИИ требует такого же уровня отношения, как и другие важные системы, которые работают непрерывно, а не как отдельная реализация.

Критически важные системы:

• Защищены непрерывным тестированием и проверкой
• Отслеживаются в производстве и не предполагаются стабильными
• Контролируются с четкой ответственностью, а не распределены с неопределенностью

Агентский ИИ работает через свою способность создавать динамические ответы. Модели учатся, адаптируются и взаимодействуют с непредсказуемыми входными данными. Это означает, что текущие методы тестирования до запуска продукта не дают достаточных результатов. То, что имеет значение, – это то, как ИИ работает со временем через различные каналы в периоды высокого давления.

Организации, которые преуспеют, проверят производительность ИИ на протяжении всего пути клиента, а не оценивают модели в изоляции. Они будут тестировать, как агенты ИИ реагируют, когда системы терпят неудачу, когда клиенты меняют намерение в середине разговора или когда границы регулирования оспариваются.

Доверие – это реальный умножитель ценности

Несмотря на быстрые инновации, разрыв между обещанием ИИ и воздействием ИИ сохраняется, потому что доверие не поспевает. Клиенты доверяют системам, которые надежны, предсказуемы и уважают их время. Сотрудники доверяют системам, которые они могут понять и отрегулировать при необходимости. Регуляторы доверяют системам, которые можно проверить и контролировать.

Без доверия внедрение ИИ застревает, недовольство клиентов усиливается, сотрудники обходят автоматизацию, и лидеры теряют уверенность в своих собственных развертываниях.

Компании, которые закроют этот разрыв доверия, обнаружат реальную ценность агентского ИИ. Прогресс будет зависеть от дисциплинированного подхода к надежности, когда системы ИИ становятся более автономными, и более глубоких практик проверки, которые непрерывно тестируют, отслеживают и оптимизируют пути клиентов на всех каналах – концепцию, известную как CX-ассуранс.

Развертывания агентского ИИ сталкиваются с наибольшим риском, когда экспериментальное управление сохраняется в средах, ориентированных на клиентов. Следующая фаза зрелости ИИ будет определяться организациями, которые операционализируют доверие как дисциплину. В опыте клиентов эта дисциплина определяет, остаются ли системы устойчивыми, когда ожидания растут и внимание увеличивается.