Когда «Чат-бот» – грязное слово: 3 заблуждения бизнес-лидеров о разговорном ИИ

Распространение моделей LLM, таких как ChatGPT от OpenAI, Llama от Meta и Claude от Anthropic, привело к созданию чат-ботов для любой ситуации. Есть чат-боты для карьерного консультирования, чат-боты, которые позволяют вам общаться со своим будущим я, и даже чат-бот курицы, который дает советы по приготовлению.

Но эти чат-боты не являются теми же, что и чат-боты десятилетней давности – тогда они были ограничены узкими, жесткими «диалогами», часто основанными на большом потоке с несколькими вариантами ответов. По сути, они были лишь немного более сложными, чем прединтернетные телефонные меню IVR.

Сегодняшние «чат-боты», с другой стороны, чаще всего относятся к разговорному ИИ, инструменту с гораздо более широкими возможностями и случаями использования. И поскольку мы сейчас находимся в середине цикла ажиотажа вокруг генеративного ИИ, все три этих термина используются взаимозаменяемо. К сожалению, в результате существует много недоразумений вокруг рисков, случаев использования и ROI инвестиций в разговорный ИИ среди бизнес-лидеров, особенно в высоко регулируемых отраслях, таких как финансы.

Итак, я хотел бы прояснить некоторые общие заблуждения вокруг «чат-ботов», когда мы на самом деле обсуждаем разговорный ИИ.

Миф 1: Клиенты ненавидят чат-ботов

Потребителям задавали вопрос в течение лучшей части последнего десятилетия, предпочитают ли они человеческих агентов или чат-ботов – что похоже на вопрос, предпочитают ли они профессиональный массаж или сидение в массажном кресле торгового центра.

Но дебют ChatGPT в 2022 году (вместе со всеми инструментами, которые от него произошли) полностью изменил наше представление о возможностях чат-бота. Как упоминалось выше, старые чат-боты работали на основе скриптов, так что любое отклонение от их предопределенных путей часто приводило к путанице и неэффективным ответам. Не способные понимать контекст и намерения пользователя, ответы были часто общими и бесполезными, и у них была ограниченная способность собирать, хранить и предоставлять информацию.

Напротив, разговорный ИИ вовлекает людей в естественные разговоры, которые отражают человеческую речь, позволяя более плавному и интуитивному обмену. Он демонстрирует замечательную гибкость и адаптивность к непредвиденным результатам. Он способен понимать контекст, окружающий намерения пользователя, обнаруживать эмоции и реагировать сочувственно.

Этот более глубокий уровень понимания позволяет современному ИИ эффективно направлять пользователей по логическим путям к их целям. Это включает в себя быструю передачу клиентов человеческим помощникам, когда это необходимо. Кроме того, разговорный ИИ использует передовые фильтры информации, механизмы извлечения и способность сохранять релевантные данные, значительно улучшая их способности к решению проблем, что делает пользовательский опыт лучше.

Итак, это не то, что клиенты слепо ненавидят чат-ботов, что они ненавидят, так это плохой сервис, который предыдущие версии чат-ботов были определенно виновны в предоставлении. Сегодняшние разговорные агенты так много более сложные, что более четверти потребителей не чувствуют уверенности в своей способности различать человеческих и ИИ-агентов, и некоторые даже воспринимают ИИ-чат-ботов как лучших в выполнении определенных задач, чем их человеческие аналоги.

В тестовых пилотных проектах моя компания видела, как ИИ-агенты утрояли коэффициент конверсии лидов, что является довольно мощным указанием на то, что это не о том, является ли это ботом или нет – это о качестве выполненной работы.

Миф 2: Чат-боты слишком рискованны

В обсуждениях с бизнес-лидерами об ИИ часто возникают опасения вокруг галлюцинаций, защиты данных и предвзятости, которые потенциально могут привести к нарушениям правил. Хотя эти риски являются законными, их можно смягчить с помощью нескольких подходов: тонкой настройки, Retrieval-Augmented Generation (RAG) и инженерии подсказок.

Хотя тонкая настройка не доступна на всех моделях LLM, она может специализировать предварительно обученную модель для конкретной задачи или области, в результате чего ИИ лучше подходит для конкретных потребностей. Например, компания здравоохранения может тонко настроить модель для лучшего понимания и ответа на медицинские запросы.

RAG повышает точность чат-бота, динамически интегрируя внешние знания. Это позволяет чат-боту получать актуальную информацию из внешних баз данных. Например, чат-бот финансовых услуг может использовать RAG, чтобы предоставить ответы в реальном времени о ценах акций.

Наконец, инженерия подсказок оптимизирует модели LLM, создавая подсказки, которые направляют чат-бота на производство более точных или контекстно-осведомленных ответов. Например, платформа электронной коммерции может использовать адаптированные подсказки, чтобы помочь чат-боту предоставить персонализированные рекомендации по продуктам на основе предпочтений и истории поиска клиентов.

Помимо использования одного или нескольких из этих подходов, вы также можете контролировать «температуру» творчества разговорного ИИ, чтобы помочь предотвратить галлюцинации. Установка более низкой температуры в вызовах API ограничивает ИИ, обеспечивая более определенные и последовательные ответы, особенно при сочетании с базой знаний, которая гарантирует, что ИИ черпает информацию из указанных, надежных наборов данных. Чтобы еще больше смягчить риски, избегайте развертывания ИИ в ролях принятия решений, где предвзятость или дезинформация могут привести к юридическим проблемам.

Что касается конфиденциальности данных, убедитесь, что внешние поставщики ИИ соответствуют правилам, или развертывайте модели с открытым исходным кодом на своей собственной инфраструктуре, чтобы сохранить полный контроль над своими данными, что важно для соблюдения GDPR.

Наконец, всегда мудро инвестировать в профессиональное страхование ответственности, которое может предложить дополнительную защиту, покрывая бизнес в маловероятных сценариях, таких как попытки судебных разбирательств. С помощью этих мер бизнес может уверенно использовать ИИ, сохраняя при этом безопасность бренда и клиентов.

Миф 3: Чат-боты не готовы к сложным задачам

После того, как вы увидели проблемы, с которыми сталкиваются крупные технологические компании, развертывая инструменты ИИ, может показаться наивным думать, что SME будет иметь легче. Но ИИ сейчас находится на этапе, когда фраза «джек всех торгов и мастер ни одного» не слишком неточна. Это в основном потому, что эти инструменты просят выполнить слишком много разных задач в средах, которые еще не предназначены для эффективного развертывания ИИ. Другими словами, это не то, что они не способны, это то, что их просят кататься на коньках на пруду с тонким, растрескавшимся льдом.

Например, организации, полные разрозненных и/или неорганизованных данных, будут более склонны к тому, что ИИ выдаст устаревшую, неточную или противоречивую информацию. Иронично, что это является следствием их сложности! В то время как старые чат-боты просто воспроизводили базовую информацию линейным образом, разговорный ИИ может анализировать обширные наборы данных, учитывая несколько влияющих факторов одновременно, чтобы проложить наиболее подходящий путь вперед.

Следовательно, успех с разговорным ИИ зависит от строгих параметров и чрезвычайно ясных границ относительно источников данных и задач. С правильными данными для обучения и экспертно разработанными подсказками функциональность разговорного ИИ может распространиться далеко за пределы объема простого чат-бота. Например, он может собирать и фильтровать данные из разговоров с клиентами и использовать их для автоматического обновления CRM. Это не только оптимизирует административные задачи, но и гарантирует, что информация о клиентах всегда точна и актуальна. Автоматизируя такие задачи, бизнес может сосредоточиться на стратегических действиях, а не на административных бременах.

Если мы продолжим использовать термин «чат-бот», важно различать платформы, которые включают передовой разговорный ИИ, и те, которые все еще предлагают ограниченные инструменты вчерашнего дня. Так же, как сегодня слово «телефон» чаще вызывает образ сенсорного смартфона, чем спиралевидного проводного стационарного телефона, я считаю, что мы не далеко от того, чтобы «чат-бот» был заменен идеей продвинутых ИИ-агентов, а не неуклюжими аватарами с несколькими вариантами выбора.