Когда «Чат-бот» – грязное слово: 3 заблуждения бизнес-лидеров о разговорном ИИ

Распространение моделей типа LLM, таких как ChatGPT от OpenAI, Llama от Meta и Claude от Anthropic, привело к созданию чат-ботов для любого случая. Существуют чат-боты для карьерного консультирования, чат-боты, которые позволяют вам общаться со своим будущим я, и даже чат-бот курицы, который дает советы по приготовлению.

Но эти чат-боты не похожи на те, которые были десять лет назад – в то время они были ограничены узкими, жесткими «диалогами», часто основанными на большом потоке с множественным выбором или эквивалентными ответами. По сути, они были только немного более сложными, чем телефонные меню до интернета.

Сегодня «чат-боты» чаще всего относятся к разговорному ИИ, инструменту с гораздо более широкими возможностями и случаями использования. И поскольку мы сейчас находимся в середине цикла ажиотажа вокруг генеративного ИИ, все три этих термина используются взаимозаменяемо. К сожалению, в результате существует много недоразумений вокруг рисков, случаев использования и ROI инвестиций в разговорный ИИ среди бизнес-лидеров, особенно в высоко регулируемых отраслях, таких как финансы.

Итак, я хотел бы прояснить некоторые распространенные заблуждения вокруг «чат-ботов», когда мы на самом деле обсуждаем разговорный ИИ.

Миф 1: Клиенты ненавидят чат-ботов

Потребителям задавали вопрос в течение последнего десятилетия, предпочитают ли они человеческих агентов или чат-ботов – это похоже на вопрос, предпочитают ли они профессиональный массаж или сидение в массажном кресле в торговом центре.

Но дебют ChatGPT в 2022 году (вместе со всеми инструментами, которые от него произошли) полностью изменил наше представление о возможностях чат-бота. Как упоминалось выше, старые чат-боты работали на основе сценариев, так что любое отклонение от их предписанных путей часто приводило к путанице и неэффективным ответам. Не способные понять контекст и намерения пользователя, ответы были часто бессмысленными и не полезными, и они имели ограниченную способность собирать, хранить и предоставлять информацию.

Напротив, разговорный ИИ вовлекает людей в естественные разговоры, которые отражают человеческую речь, позволяя более жидкому и интуитивному обмену. Он демонстрирует замечательную гибкость и адаптивность к неожиданным результатам. Он способен понять контекст, окружающий намерения пользователя, обнаружить эмоции и ответить сочувственно.

Этот более глубокий уровень понимания позволяет современному ИИ эффективно направлять пользователей по логическим путям к их целям. Это включает в себя быструю передачу клиентов человеческим ассистентам, когда это необходимо. Кроме того, разговорный ИИ использует передовые фильтры информации, механизмы извлечения и способность сохранять актуальные данные, значительно улучшая их способности к решению проблем, что делает пользовательский опыт лучше.

Итак, это не то, что клиенты слепо ненавидят чат-ботов, что они ненавидят, – это плохая служба, которой были виноваты предыдущие версии чат-ботов. Сегодняшние разговорные агенты гораздо более сложные, и более четверти потребителей не уверены в своей способности различать человеческих и ИИ-агентов, и некоторые даже считают ИИ-чат-ботов лучше в определенных задачах, чем их человеческие аналоги.

В тестовых пилотных проектах моя компания увидела, как ИИ-агенты утройлили конверсию лидов, что является довольно мощным указанием на то, что это не о том, является ли это ботом или нет – это о качестве выполненной работы.

Миф 2: Чат-боты слишком рискованны

В обсуждениях с бизнес-лидерами об ИИ часто возникают опасения вокруг «галлюцинаций», защиты данных и предвзятости, которые потенциально могут привести к нарушениям регулирования. Хотя эти риски являются законными, их можно смягчить с помощью нескольких подходов: тонкой настройки, Retrieval-Augmented Generation (RAG) и инженерии подсказок.

Хотя тонкая настройка не доступна для всех LLM, она может специализировать предварительно обученную модель для конкретной задачи или области, в результате чего ИИ лучше подходит для конкретных потребностей. Например, компания здравоохранения может тонко настроить модель для лучшего понимания и ответа на медицинские запросы.

RAG повышает точность чат-бота, динамически интегрируя внешние знания. Это позволяет чат-боту получать актуальную информацию из внешних баз данных. Например, чат-бот финансовых услуг может использовать RAG, чтобы предоставить актуальные ответы о ценах акций.

Наконец, инженерия подсказок оптимизирует LLM, создавая подсказки, которые направляют чат-бота на более точные или контекстно-осведомленные ответы. Например, платформа электронной коммерции может использовать настроенные подсказки, чтобы помочь чат-боту предоставить персонализированные рекомендации по продуктам на основе предпочтений и истории поиска клиентов.

В дополнение к использованию одного или нескольких этих подходов вы также можете контролировать «температуру» творчества разговорного ИИ, чтобы помочь предотвратить «галлюцинации». Установка более низкой температуры в вызовах API ограничивает ИИ, обеспечивая более детерминированные и последовательные ответы, особенно при комбинации с базой знаний, которая гарантирует, что ИИ черпает из указанных, надежных наборов данных. Чтобы еще больше смягчить риски, избегайте развертывания ИИ в ролях принятия решений, где предвзятость или дезинформация могут привести к юридическим проблемам.

Что касается защиты данных, убедитесь, что внешние провайдеры ИИ соответствуют правилам, или развертывайте модели с открытым исходным кодом на своей инфраструктуре, чтобы сохранить полный контроль над своими данными, что важно для соблюдения GDPR.

Наконец, всегда мудро инвестировать в профессиональное страхование ответственности, которое может предложить дополнительную защиту, покрывая бизнес в маловероятных сценариях, таких как попытки судебных разбирательств. Через эти меры бизнес может уверенно использовать ИИ, сохраняя при этом безопасность бренда и клиентов.

Миф 3: Чат-боты не готовы к сложным задачам

После того, как крупные технологические компании столкнулись с проблемами при развертывании инструментов ИИ, может показаться наивным думать, что малый или средний бизнес будет иметь легче. Но ИИ сейчас находится на стадии, когда фраза «джек-оф-олл-трейдс и мастер-оф-нан» не совсем неточна. Это в основном потому, что эти инструменты запрашивают выполнение слишком многих разных задач в средах, которые еще не предназначены для эффективного развертывания ИИ. Другими словами, это не то, что они не способны, это то, что их просят фигурно кататься на льду, полном тонкого, разбитого льда.

Например, организации, полные разрозненных и/или неорганизованных данных, будут более склонны к тому, что ИИ выдаст устаревшую, неточную или противоречивую информацию. Иронично, что это является следствием их сложности! В то время как старые чат-боты просто воспроизводили базовую информацию в линейной форме, разговорный ИИ может анализировать мощные наборы данных, учитывая несколько факторов одновременно, чтобы проложить наиболее подходящий путь вперед.

Следовательно, успех с разговорным ИИ зависит от строгих параметров и очень четких границ в отношении источников данных и задач. С правильными данными для обучения и экспертно разработанными подсказками функциональность разговорного ИИ может распространиться далеко за пределы простого чат-бота. Например, он может собирать и фильтровать данные из разговоров клиентов и использовать их для автоматического обновления CRM. Это не только оптимизирует административные задачи, но и гарантирует, что информация о клиентах всегда точна и актуальна. Автоматизируя такие задачи, бизнес может сосредоточиться на стратегических мероприятиях, а не на административных бремени.

Если мы собираемся продолжать использовать термин «чат-бот», важно различать платформы, которые включают передовой разговорный ИИ, и те, которые все еще предлагают ограниченные инструменты вчерашнего дня. Как сегодня слово «телефон» чаще вызывает образ сенсорного смартфона, чем спирально-шнурного стационарного телефона, я считаю, что мы не далеко от того, чтобы «чат-бот» был заменен идеей передовых ИИ-агентов, а не неуклюжими аватарами с несколькими вариантами выбора.