Коли «Чат-бот» — це брудне слово: 3 помилкові уявлення бізнес-лідерів про розмовний AI

Поширення моделей LLM, таких як ChatGPT від OpenAI, Llama від Meta та Claude від Anthropic, призвело до створення чат-бота для кожної нагоди. Є чат-боти для порад щодо кар’єри, чат-боти, які дозволяють вам розмовляти зі своїм майбутнім «я», та навіть чат-бот для курки, який надає поради щодо приготування.

Але ці чат-боти не схожі на ті, які були десять років тому – тоді вони були обмежені вузько визначеними, жорсткими «розмовами», часто заснованими на великому потоці діаграм з多ходовими виборами або еквівалентними відповідями. По суті, вони були тільки трохи більш складними, ніж меню телефонних систем перед інтернетом.

Сучасні «чат-боти», з іншого боку, частіше називаються розмовним AI, інструментом з набагато ширшими можливостями та випадками використання. І оскільки ми зараз опиняємося в центрі гіпциклу генерації AI, всі три цих термінів використовуються взаємозамінно. На жаль, внаслідок цього існує багато недорозумінь щодо ризиків, випадків використання та ROI інвестицій у розмовний AI серед бізнес-лідерів, особливо в високо регульованих галузях, таких як фінанси.

Тому я хотів би виправити деякі поширені недорозуміння щодо «чат-ботів», коли насправді ми обговорюємо розмовний AI.

Міф 1: Клієнти ненавидять чат-боти

Споживачам протягом останнього десятиліття ставили питання про те, чи віддають вони перевагу людським агентам чи чат-ботам – це схоже на те, коли вас запитують, чи хочете ви професійний масаж чи сидіти в масажному кріслі торгового центру.

Але дебют ChatGPT у 2022 році (разом з усіма інструментами, які з нього виникли) повністю змінив наше сприйняття можливостей чат-бота. Як згадувалося вище, старіші чат-боти працювали на основі сценаріїв, так що будь-яке відхилення від їхніх визначених шляхів часто призводило до плутанини та неефективних відповідей. Нездатність зрозуміти контекст та наміри користувача призводила до того, що відповіді були часто загальними та недопоможними, а також мали обмежену здатність зібрати, зберігати та надавати інформацію.

Натомість розмовний AI вступає у природні розмови, які віддзеркалюють людську мову, що дозволяє здійснювати більш плавний та інтуїтивний обмін. Він демонструє вражаючу гнучкість та адаптивність до несподіваних результатів. Він здатний зрозуміти контекст, що оточує наміри користувача, виявити емоції та відповісти співчутливо.

Цей глибший рівень розуміння дозволяє сучасному AI ефективно направляти користувачів логічними шляхами до їхніх цілей. Це включає швидке передавання клієнтів людині-асистенту, коли це необхідно. Крім того, розмовний AI використовує просунуті фільтри інформації, механізми пошуку та здатність зберігати відповідні дані, суттєво підвищуючи їхню здатність вирішувати проблеми, що забезпечує краще сприйняття користувачем.

Тому не те, що клієнти сліпо ненавидять чат-боти, а те, що вони ненавидять погану службу, якої старіші чат-боти були безумовно винні. Сучасні чат-боти настільки більш складні, що більше чверті клієнтів не впевнені у своїй здатності розрізнити людського та AI-агента, а деякі навіть сприймають AI-чатботи як кращих у виконанні певних завдань, ніж їхні людські колеги.

У наших тестових пілотних проєктах ми бачили, як AI-агенти потроїли кількість конверсій лідів, що є досить потужним свідченням того, що це не залежить від того, чи це чат-бот, а від якості виконаної роботи.

Міф 2: Чат-боти надто ризиковані

Під час обговорень з бізнес-лідерами щодо AI часто виникають питання щодо галюцинацій, захисту даних та потенційного порушення регуляторних вимог. Хоча ці ризики є легітимними, їх можна пом’якшити за допомогою кількох підходів: тонкої настройки, генерації з підтримкою пошуку (RAG) та інженерії запитів.

Хоча тонка настройка не доступна для всіх моделей LLM, вона може спеціалізувати попередньо навчену модель для конкретного завдання або галузі, внаслідок чого AI краще підходить для конкретних потреб. Наприклад, компанія з охорони здоров’я могла б донастроїти модель для кращого розуміння та відповіді на медичні запитання.

RAG підвищує точність чат-бота шляхом динамічного інтегрування зовнішніх знань. Це дозволяє чат-боту отримувати актуальну інформацію з зовнішніх баз даних. Наприклад, чат-бот фінансових послуг міг би використовувати RAG для надання відповідей у реальному часі про ціни акцій.

Нарешті, інженерія запитів оптимізує моделі LLM, створюючи запити, які спрямовують чат-бот на генерацію більш точних або контекстно-чутливих відповідей. Наприклад, платформа електронної комерції могла б використовувати спеціально створені запити для того, щоб чат-бот надавав персоналізовані рекомендації продуктів на основі вподобань клієнтів та історії пошуку.

Крім використання одного або кількох цих підходів, ви також можете контролювати «температуру» творчості розмовного AI, щоб допомогти запобігти галюцинаціям. Встановлення нижчої температури в API-дзвінках обмежує AI більш детермінованими та послідовними відповідями, особливо коли це поєднується з базою знань, яка забезпечує те, що AI черпає з визначених, надійних наборів даних. Щоб ще більше пом’якшити ризики, уникайте розгортання AI у ролях прийняття рішень, де упередженість або дезінформація могла б призвести до юридичних проблем.

Що стосується захисту даних, переконайтеся, що зовнішні постачальники AI відповідають регуляторним вимогам, або розгорніть відкриті моделі на власній інфраструктурі, щоб зберегти повний контроль над своїми даними, що є важливим для відповідності GDPR.

Нарешті, завжди мудро інвестувати в професійне страхування відповідальності, яке може пропонувати додатковий захист, покриваючи компанії в малоймовірних сценаріях, таких як спроби судових позовів. За допомогою цих заходів компанії можуть впевнено використовувати AI, зберігаючи при цьому безпеку бренду та клієнтів.

Міф 3: Чат-боти не готові до складних завдань

Після того, як великі технологічні компанії мають проблеми з розгортанням інструментів AI, може здатися наївним думати, що мале підприємство матиме легше. Але AI зараз знаходиться на стадії, коли фраза «універсальний солдат і майстер ніде» не дуже неточна. Це в основному тому, що ці інструменти запитуються щодо виконання занадто багатьох різних завдань в середовищах, які ще не спроектовані для ефективного розгортання AI. Інакше кажучи, це не те, що вони не здатні, а те, що їх просять кататися на ковзанах на ставку, повному тонкого, розбитого льоду.

Наприклад, організації, повні сілованої та/або неорганізованої інформації, будуть більш схильні до того, що AI висуне застарілу, неточну або суперечливу інформацію. Іронічно, це є наслідком їхньої складності! Якщо старіші чат-боти просто повторювали базову інформацію лінійним способом, розмовний AI може аналізувати потужні набори даних, розглядаючи кілька впливових факторів одночасно, щоб намітити найбільш підходящий шлях вперед.

Отже, успіх з розмовним AI залежить від суворих параметрів та надзвичайно чітких меж щодо джерел даних та завдань. З правильними навчальними даними та експертно розробленими запитами функціональність розмовного AI може розширитися далеко за межі простого чат-бота. Наприклад, він може зібрати та відфільтрувати дані з розмов клієнтів та використовувати їх для автоматичного оновлення CRM. Це не лише спрощує адміністративні завдання, але й забезпечує те, що інформація про клієнтів завжди є точною та актуальною. Автоматизуючи такі завдання, компанії можуть зосередитися на стратегічних діяльності, а не на адміністративних навантаженнях.

Якщо ми продовжимо використовувати термін «чат-бот», то важливо розрізняти платформи, які інтегрують передові розмовні AI, та ті, які все ще пропонують обмежені інструменти минулого. Так само, як сьогодні слово «телефон» частіше викликає образ сенсорного смартфона, ніж телефону з спіральною шнуркою, я вважаю, що ми не далеко від того, щоб «чат-бот» був замінений ідеєю розмовних AI-агентів, а не незграбних аватарів з多ходовими виборами.