Промывание ИИ – это то, что готовит предприятия к провалу

Каждое предприятие сегодня чувствует давление, чтобы иметь историю ИИ. Совет директоров хочет видеть это. Инвесторы ожидают этого. Клиенты спрашивают об этом. Но это давление создало растущую волну “промывания ИИ” – когда автоматизация становится “ИИ”, аналитика ребрендируется как “машинное обучение”, а сценарные чат-боты внезапно становятся “агентным ИИ”.

Я уже видел это раньше. Сегодняшний ландшафт ИИ напоминает ранние дни внедрения облачных технологий, когда компании маркировали системы на месте “родными для облака” задолго до того, как их архитектура или модель эксплуатации были готовы. Та же схема разворачивается сейчас, и последствия будут хуже.

С промыванием облака недостатком была неэффективность и расточительность. С промыванием ИИ недостатком является взаимодействие с клиентами. Мы не развертываем инфраструктуру бэк-офиса, которая выходит из строя с ошибкой или кодом ошибки. Мы развертываем системы, которые взаимодействуют напрямую с клиентами – и эти системы выходят из строя тихо, уверенно и часто в тех случаях, которые имеют наибольшее значение.

Это может быть причиной того, что, согласно исследованию MIT Sloan, подавляющее большинство пилотных проектов ИИ никогда не доходят до производства. И те, которые доходят, часто недооценивают — не потому, что ИИ не способен, а потому, что организации, развертывающие его, пропускают тяжелую работу по тестированию, проверке и операционной готовности.

Настоящие движущие силы промывания ИИ

Страх быть воспринятым как отсталый от времени движет большую часть этого поведения. Организации позиционируют ИИ как сигнал инноваций, а не как отражение реальной способности. Они обходят тестирование и проверку, чтобы уложиться в сроки запуска продукта, без четкой цели разработки, специально предназначенной для потребностей клиентов.

Ожидания инвесторов усиливают проблему. Публичные и венчурные компании сталкиваются с сроками демонстрации интеграции ИИ и историй роста, обусловленных ИИ. Фактически, 90% руководителей сообщают о давлении со стороны инвесторов на принятие ИИ. Это давление побуждает компании ребрендировать существующие возможности как ИИ, а не создавать真正vably новые, родные для ИИ предложения.

Результатом являются ложные ожидания повсюду — для инвесторов, для клиентов и для внутренних команд, которым поручено сделать все это работать. Это создает иллюзию инноваций, когда на самом деле это всего лишь брендинг.

Почему агентный ИИ разрушает иллюзию

Агентный ИИ — это то место, где ажиотаж разрушается. И с 68% организаций, которые ожидают интеграции агентов ИИ в этом году, расплата приближается быстро.

Вот фундаментальная проблема, с которой большинство предприятий еще не справились: традиционное программное обеспечение является детерминированным. Одни и те же входные данные, один и тот же выход, каждый раз. Вы можете написать тест, воспроизвести ошибку и предсказать поведение. Агенты ИИ являются недетерминированными — один и тот же вопрос может дать разный ответ каждый раз. Это не ошибка. Это архитектура. И это меняет все, как вы тестируете, контролируете и доверяете этим системам.

Вся ваша инфраструктура QA была построена на предположении воспроизводимости. С генеративным ИИ это предположение исчезает. Вы можете запустить один и тот же тест сто раз и получить сто разных ответов — некоторые правильные, некоторые незначительно неправильные, некоторые опасно неправильные. Тестовые фреймворки, которые работали для IVR и сценарных чат-ботов, не переносятся на агентный ИИ. И большинство предприятий еще не построили новые.

Это то место, где промывание ИИ раскрывается. Одно дело — провести отполированную демонстрацию с отобранными входными данными и предсказуемыми путями. Другое дело — справиться с реальным клиентом, который прерывает, противоречит себе, говорит на сломанном английском и звонит в 23:00 по поводу спора с оплатой, которого он не полностью понимает. Модели обучаются на данных, а не на эмоциональной, беспорядочной, непредсказуемой реальности человеческого взаимодействия.

Когда эти системы выходят из строя, они не выходят из строя как традиционное программное обеспечение. Нет краха. Нет кода ошибки. ИИ звучит уверенно, будучи неправильным. Он обрабатывает 95% случаев нормально и катастрофически обрабатывает 5% случаев, которые имеют наибольшее значение. И в отличие от сломанной веб-формы, эти сбои воспроизводятся на тысячах клиентов, прежде чем кто-либо заметит.

Где скрываются неудачи ИИ

Опыт клиента — одна из самых сложных сред для агентного ИИ — и где промывание ИИ наиболее четко раскрывается. Gartner недавно предсказал, что более 40% проектов агентного ИИ будут отменены к концу 2027 года из-за растущих затрат, недостаточных контролей риска или неясной бизнес-ценности. CX является одной из основных причин этого.

Путь клиента редко включает одну систему. Он проходит через разговорный ИИ, системы IVR, базы знаний, платформы CRM и человеческих агентов. Гибридные пути являются распространенными — каждое взаимодействие, скорее всего, пересекает несколько систем, прежде чем достигнет разрешения.

Вот что я видел повторно: каждая система кажется работающей правильно самостоятельно, но конечный путь все равно выходит из строя. Агент ИИ интерпретирует вопрос правильно, но CRM имеет устаревшую информацию и доставляет неправильный ответ. ИИ обвиняется, но реальная проблема заключается в фрагментированных данных и фрагментированном владении.

Фрагментированные стэки технологий также означают фрагментированную видимость. Нет единого вида пути клиента. В отличие от традиционного программного обеспечения с четкими сигналами ошибок, когда агентный ИИ выходит из строя, он кажется уверенным, независимо от точности. Правила эскалации срабатывают слишком поздно. Клиенты попадают в петли. Система продолжает работать — и сбой становится видимым только через разочарование клиента или отказ.

Это проблема тихого сбоя. ИИ не выходит из строя. Он уверенно разрушает доверие, одно взаимодействие за раз, в масштабе.

Переход от ажиотажа ИИ к операционной дисциплине

Ответ на промывание ИИ не заключается в лучшем маркетинге. Это фундаментальный сдвиг в том, как организации относятся к ИИ, от функции, которую они объявляют, к инфраструктуре, которую они эксплуатируют.

Я провел 25 лет, строя и масштабируя корпоративные системы, включая основание компании по тестированию автоматизации ИИ. Схема, которую я видел на каждой технологической волне, одна и та же. Компании, которые побеждают, не являются теми, кто принимает первым. Они являются теми, кто лучше всего операционализирует. Вот, как это выглядит для ИИ:

Измерять производительность в производстве, а не производительность демонстрации

Оценка ИИ на основе контролируемых сред не говорит вам ничего о поведении в реальном мире. Метрики, которые имеют значение, — это точность эскалации, показатели разрешения, соблюдение политики и удовлетворенность клиентов на тысячах не сценарных взаимодействий — а не отобранные демонстрационные сценарии.

Исправить основу, прежде чем масштабировать

ИИ не решает сломанные рабочие процессы — он усиливает их. Несовместимая маршрутизация, неполные базы знаний, устаревшие данные CRM — эти проблемы не исчезают, когда вы добавляете ИИ. Они становятся хуже, быстрее и в масштабе. Готовность рабочего процесса должна предшествовать развертыванию ИИ, а не следовать за ним.

Тестировать полный путь, а не отдельные компоненты

Большинство предприятий проверяют отдельные системы в изоляции, но сбои появляются в передачах. Тестирование полного пути на голосовых, цифровых и каналах ИИ — единственный способ поймать сбои интеграции, которые клиенты фактически испытывают.

Строить доверие, а не только эффективность

Пользователи откажутся от ИИ, который ловит их в тупиковые петли, предоставляет неправильные ответы или делает невозможным достижение человека. Предприятия, которые оптимизируют эффективность за счет доверия, потеряют клиентов, которых они пытаются обслужить дешевле.

Конец промывания ИИ

По мере того, как ИИ глубже внедряется в операционные рабочие процессы, предприятия больше не смогут скрываться за ажиотажем. Более половины инвесторов теперь ожидают ROI от ИИ в течение шести месяцев. Такой график невозможен без систем, предназначенных для беспорядочного, непредсказуемого реального мира — а не отполированной демонстрационной среды.

Требование эволюционирует от простого наличия ИИ как функции продукта к доказательству того, что он работает, когда это имеет наибольшее значение, в масштабе, в производстве, с реальными клиентами.

Промывание ИИ может выиграть короткосрочное внимание. Но оно не переживет контакт с реальностью.