Перестаньте звинувачувати дані. Почніть виправляти свої цілі

Штучний інтелект вчиться у нас. І ми упереджені.

Через те, що штучний інтелект тренується на здебільшого створеному людьми контенті, він підхоплює наші упередження та впікає їх. Тому більшість розмов про упередження штучного інтелекту зосереджені на поганих даних. Сміття у вході, сміття на виході. Достатньо просто. Але навіть з чистими даними упередження все одно просовується.

Більш тонка та часто непомічена проблема – це об’єктивне упередження. Воно менш помітне, ніж проблема з набором даних, і є однією з найбільших проблем для орієнтованих на клієнта випадків використання штучного інтелекту.

У цій статті я розберу, як виглядає об’єктивне упередження як частина досвіду клієнта (CX), чому воно має значення та що бренди можуть зробити з цим.

Визначення об’єктивного упередження

Об’єктивне упередження не стосується пошкоджених даних. Воно стосується пошкодженої наміри. Штучний інтелект робить саме те, що йому кажуть робити, і якщо йому кажуть максимізувати дохід, він зробить це, навіть якщо це означає пошкодження відносин з клієнтом.

Візьміть, наприклад, авіакомпанію Delta. Недавно вони оголосили про ціни на авіаквитки, які будуть визначені штучним інтелектом. Це ідеальний приклад об’єктивного упередження. Система не тренується на допомогу клієнту у пошуку хорошої пропозиції. Вона тренується на підвищення конверсії та зниження операційних витрат.

Наприклад, якщо ви бронюєте поїздку до Парижа. Ви хочете найкращу ціну, але система хоче найкращий маржу. Штучний інтелект може запропонувати рейс за 800 доларів, коли є рейс за 400 доларів. Не тому, що штучний інтелект помиляється, а тому, що він робить свою роботу.

Це не зовсім той вид персоналізації, про який клієнти просили …

Чому це неминуче

Об’єктивне упередження є відображенням цінностей вашого бренду, культури та пріоритетів. Воно вплетене у тканину вашого штучного інтелекту. Головне питання – у який бік воно “нахилений”? Чи віддає воно перевагу цілям клієнта чи цілям доходу?

Різні команди, регіони та культури мають різні мінталітети та будуть тренувати модель штучного інтелекту по-різному. Якщо команда продажів бере на себе керівництво, вона буде нахилена до конверсії. Якщо команда CX керує, вона може бути краще узгоджена з обслуговуванням та збереженням.

Сама архітектура, різні результати.

Рішення не полягає у видаленні упередження зовсім – а у тому, щоб спрямувати його у правильному напрямку. Упереджуйте свій штучний інтелект на довгострокову лояльність, а не на короткострокові перемоги.

Наслідки неправильного штучного інтелекту

Найбільший ризик, з яким стикаються бренди, коли мова йде про об’єктивне упередження, – це втрата довіри.

Клієнти вже розчарувалися у загальних, неважливих взаємодіях з брендами. Коли штучний інтелект робить ці досвіди гіршими, він розчаровує та відштовхує клієнта.

Якщо великі мови моделі (LLM) тренуються на упереджених, заснованих на припущеннях даних, вони будуть виробляти особистісні відповіді. В результаті клієнти будуть відчувати, що бренд не турбується про них. Вони можуть купити у вас сьогодні, але будуть менше схильні залишитися з вашим брендом у довгостроковій перспективі.

Досвід зараз рухає лояльність. Багато клієнтів навіть готові платити більше за це. Тому, коли штучний інтелект намагається продати високодоларовий продукт, який не відповідає потребам клієнта, вони помічають. Вони відмовляються. Вони не повертаються.

Проблема агентного штучного інтелекту

Цей ризик зростає, коли ми дивимося на агентний штучний інтелект.

Агентний штучний інтелект створений для дії самостійно. Він може виконувати багатоступеневі робочі процеси без участі людини. Але якщо логіка штучного інтелекту є пошкодженою або тренування є неправильним, шкода зростає.

Експерти погоджуються, що агентний штучний інтелект має довгий шлях. Насправді, недавній звіт показує, що хоча майже всі фінансові директори знають про агентний штучний інтелект, лише 15% серйозно розглядають його. Відповідні дані вказують на те, що можливість точно моніторити та запобігати упередженню була ключевим бар’єром для впровадження.

Більшість агентських систем все ще борються з неоднозначністю, постійною пам’яттю та підзвітністю. Це небезпечна комбінація, коли немає чіткого способу діагностувати або виправити помилки чи упередження під час їх виникнення.

Бренди не повинні сидіти на стороні, але їм потрібно діяти стратегічно.

Як бренди можуть мінімізувати об’єктивне упередження

Давайте буде ясно: ви не можете ліквідувати упередження. Ви Є упередженням.

Ваш бренд формує поведінку штучного інтелекту – на краще чи на гірше. Ці упередження вже існують у ваших поточних взаємодіях з клієнтами. Вони існують у тертях вашого потоку скасування, прозорості умов та темних патернах на вашому сайті.

Різниця полягає в тому, що штучний інтелект може посилити ці рішення швидше та з меншим наглядом, що буде підірвати довгострокові цілі, такі як лояльність бренду та життєва цінність.

Тому вам потрібно вийти вперед:

1. Задавайте правильні питання

Перед тим, як розпочати свій шлях штучного інтелекту, зупиніться та задайте питання: “Чи маємо ми все, що потрібно, щоб зробити це правильно? Чи можемо ми це зробити без ризику для клієнта та нашого бренду?”

Занадто багато брендів починають використовувати штучний інтелект, тому що не хочуть відставати. Але намагатися не відставати від інших – це погана стратегія.

Чи маєте ви правильні дані клієнтів, інтеграції та управління, щоб підтримувати орієнтований на клієнта випадок використання штучного інтелекту без збільшення упередження? Чи повністю розумієте ви цілі клієнтів?

Якщо відповідь – ні, або навіть “трохи”, ви не готові.

2. Балансуйте цілі

Щоб ефективно балансувати цілі клієнта та бізнес-цілі, подумайте про потреби клієнта як про мету, а ваші бізнес-цілі – як про межі. Ваш штучний інтелект повинен діяти всередині цих меж, але спрямовувати на клієнто-орієнтований результат. Ви також можете розглядати це як баланс між короткостроковим та довгостроковим мисленням.

Короткострокові метрики, такі як дохід на взаємодію, важливі. Але вони часто конфліктують з довгостроковою цінністю. Навіть “батько штучного інтелекту” попередив про штучний інтелект, керований короткостроковою прибутковістю, тому що така думка не масштабується.

Ваш штучний інтелект може досягти метрики доходу сьогодні, але чи готові ви пожертвувати лояльністю клієнта заради швидкого зisku?

Розгляньте приклад Delta знову. Стратегія технічно розумна та узгоджена з бізнесом. Але клієнти не були у захваті від ідеї платити більше за авіаквитки, і бренд отримав удар.

Думайте у п’ятирічних межах. Вам потрібно зростати довгострокову цінність повільно та стабільно.

3. Розумійте еволюційні потреби клієнтів

Не тільки загалом, а й у кожному випадку використання. Що вони намагаються досягти?

Якщо ви не розумієте цього, ваш штучний інтелект буде просто здогадуватися. Тому ваші клієнтські профайли повинні бути актуальними, повними та конкретними, як на високому рівні, так і на індивідуальному рівні.

Широкі сегменти та застарілі припущення не підійдуть. Вам потрібно дані, які представляють реальну людину на іншому кінці взаємодії. Це приведе до глибшого розуміння клієнта та утворить основу для навчання вашої моделі LLM.

Моделі генерації з підтримкою відновлення (RAG) також допомагають тут, витягуючи з кураторських, актуальних даних, щоб надати клієнту кращий досвід для конкретної задачі, яку він намагається виконати.

Але це не одне разове завдання. Цілі клієнтів зсуваються, а очікування змінюються. Бренди повинні оновлювати свої системи штучного інтелекту регулярно, щоб відображати останні розробки. Це означає перегляд навчальних даних та забезпечення постійного навчання, а не просто тонке налаштування виходів.

4. Критично оцінюйте постачальників штучного інтелекту

Не всі постачальники створені рівними, а великі обіцянки не завжди означають великі результати. Виберіть партнерів з реальним світовим досвідом та доведеною репутацією, а не просто флеш-демо. Постачальники з десятилітнім досвідом у галузі можуть використовувати його для кращого навчання моделей порівняно з новим брендом, який покладається на узагальнені набори даних.

Ваш клієнт може помітити різницю у глибині даних, коли йому потрібно спеціалізована підтримка.

І пам’ятайте, якщо штучний інтелект не спрацьовує у дикій природі, ваш бренд буде страждати. Просто запитайте людей, які постраждали від аварії CrowdStrike 2024 року. Середній клієнт не звинувачував постачальника. Він звинувачував бренди, які розгорнули технологію.

Шукайте постачальників, які робили це раніше, у вашій галузі, з вашими випадками використання. Доменне знання перемагає амбіції кожен раз.

5. Будуйте управління

Якщо ви не визначите логіку чітко та послідовно, ваш штучний інтелект почне приймати рішення на основі закономірностей, а не політики. Ці закономірності можуть не представляти ваш бренд, ваші цінності чи ваші юридичні зобов’язання.

Централізована оркестрація та налаштування правил є критичними для забезпечення того, щоб штучний інтелект робив те, що він повинен робити – кожен раз, у кожній взаємодії з клієнтом. Без такого управління одна модель може обробляти питання з оплати одним способом, а інша – зовсім іншим.

Дотримуйтесь найкращих практик галузі та спирайтесь на рамки управління ризиками, щоб захистити бренд. Добре управління не сповільнить вас. Воно врятує вас від подальшої очистки.

6. Розгляньте агентний штучний інтелект з обережністю

ЗМІ роблять так, ніби агентні системи – це майбутнє всього. Насправді більшість брендів не готові, і це нормально.

Почніть з малого. Партнеруйте з технологічним постачальником, який робив це раніше та може проводити вас через цей процес. Пріоритезуйте низькоризикові робочі процеси з чітко визначеними кроками, де рівень агентності можна довіряти – ідеально, якщо він належить одній команді. Ці випадки використання зазвичай мають чітку логіку, підзвітність та нагляд. Тоді ви можете навчатися та масштабувати з цього.

Якщо декілька команд залучені або процес не має структури, не очікуйте, що прийняття рішень машиною буде працювати для вашого клієнта.

Щоб бути真正ньо успішним, агентний штучний інтелект потребує доступу до повного та актуального клієнтського профайлу. Без реального контексту навіть найкращі моделі будуть виробляти відірвані, упереджені досвіди.

Упередження – це дзеркало, а не несправність

Штучний інтелект не винайшов упередження. Воно відображає те, що йому кажуть через дані, тренування та бізнес-пріоритети. Тому узгодження має значення. Якщо ваші системи не спроектовані навколо клієнта, штучний інтелект тільки посилить роз’єднання.

Об’єктивне упередження не можна повністю видалити, але його можна керувати.

Зробіть довгострокову лояльність вашою основною метою. Все інше буде слідувати. Коли кожне рішення моделі фільтрується через утримання, життєву цінність та довіру, інші пріоритети (управління, розуміння клієнта, збалансовані цілі) природно впадають на місце.

Шорти для сьогодні майже завжди коштують вам завтра, але продовжуйте з лояльністю в серці вашої стратегії, і штучний інтелект переходить від зобов’язання до переваги.