Перестаньте звинувачувати дані. Почніть виправляти свої цілі

AI вчиться у нас. І ми упереджені.

Бо AI тренується в основному на створеному людьми контенті, він вчиться на наших упередженнях і включає їх у себе. Тому більшість розмов про упередження AI зосереджені на поганих даних. Сміття вхід, сміття вихід. Достатньо просто. Але навіть з чистими даними упередження все одно проникають.

Більш тонка і часто непомічена проблема – це упередження цілей. Воно менш помітне, ніж проблема з набором даних, і є однією з найбільших проблем для клієнто-орієнтованого використання AI.

У цій статті я розберу, як виглядає упередження цілей як частина досвіду клієнта (CX), чому це важливо і що бренди можуть зробити з цим.

Визначення упередження цілей

Упередження цілей не пов’язане з пошкодженими даними. Воно пов’язане з пошкодженою інтентією. AI робить саме те, що йому сказано, і якщо йому сказано максимізувати дохід, він це зробить – навіть якщо це означає пошкодження відносин з клієнтом.

Візьмімо, наприклад, Delta Air Lines. Вони недавно оголосили про AI-програму ціноутворення, призначену для визначення максимальної суми, яку споживач готовий заплатити. Це ідеальний приклад упередження цілей. Система не тренується для того, щоб допомогти вам знайти хорошу пропозицію. Вона тренується для підвищення конверсії та зниження операційних витрат.

Наприклад, якщо ви бронюєте поїздку до Парижа. Ви хочете найкращу ціну, але система хоче найкращий маржу. AI може запропонувати рейс за 800 доларів, коли доступний рейс за 400 доларів. Не тому, що AI помиляється, а тому, що він робить свою роботу.

Не зовсім той вид персоналізації, про який споживачі просять …

Чому це неминуче

Упередження цілей є відображенням цінностей вашого бренду, культури та пріоритетів. Воно вплетене у тканину вашого AI. Реальне питання полягає в тому, в якому напрямку воно “нахиляється”? Чи віддає воно перевагу цілям клієнта чи цілям доходу?

Різні команди, регіони та культури мають різні способи мислення і будуть тренувати модель AI по-різному. Якщо продажі беруть на себе керівництво, воно буде нахилатися до конверсії. Якщо група CX керує цим, воно може бути краще узгоджено з обслуговуванням та збереженням.

Та сама архітектура, різні результати.

Рішення не полягає в тому, щоб повністю видалити упередження – а в тому, щоб спрямувати його в правильному напрямку. Упереджуйте свій AI для довгострокової лояльності, а не короткострокових перемог.

Наслідки неправильного AI

Найбільший ризик, з яким стикаються бренди, коли мова йде про упередження цілей, – це втрата довіри.

Споживачі вже втомилися від загальних, нерелевантних взаємодій з брендами. Коли AI робить ці досвіди гіршими, це розчаровує та відштовхує вашого покупця.

Якщо великі мовні моделі (LLM) тренуються на упереджених, заснованих на припущеннях даних, вони будуть виробляти імперсональні відповіді. В результаті клієнти будуть відчувати, що бренд не може позаботиться про них. Вони можуть купити у вас сьогодні, але менше ймовірно, що залишаються з вашим брендом у довгостроковій перспективі.

Досвід зараз керує лояльністю. Багато клієнтів навіть готові платити більше за це. Тому, коли AI намагається просунути високодоларовий продукт, який не відповідає потребам, вони помічають. Вони відмовляються. Вони не повертаються.

Проблема агентного AI

Цей ризик збільшується, коли ми розглядаємо агентний AI.

Агентний AI побудований для дії самостійно. Він може виконувати багаторівневі робочі процеси без участі людини. Але якщо логіка AI є пошкодженою або тренування є неправильним, шкода зростає.

Експерти погоджуються, що агентний AI має довгий шлях. Насправді, недавній звіт показує, що хоча майже всі фінансові директори знають про агентний AI, лише 15% серйозно розглядають його. Відповідні дані свідчать про те, що можливість точно моніторити та запобігати упередженості була ключовим бар’єром для впровадження.

Більшість агентських систем все ще борються з неоднозначністю, постійною пам’яттю та підзвітністю. Це небезпечна комбінація, коли немає чіткого способу діагностувати або виправляти помилки чи упередження під час їх виникнення.

Бренди не повинні сидіти на стороні, але їм потрібно рухатися стратегічно.

Як бренди можуть мінімізувати упередження цілей

Давайте будемо чіткими: ви не можете усунути упередження. Ви Є упередженням.

Ваш бренд формує те, як поводиться AI – на краще чи на гірше. Ці упередження вже існують у ваших поточних взаємодіях з клієнтами. Вони є в тертях у вашому потоці скасування, прозорості ваших умов та умов або темних патернах на вашому сайті.

Різниця з упередженням AI полягає в масштабі. AI може посилити ці рішення швидше та з меншим наглядом, що буде підтримувати довгострокові цілі, такі як лояльність бренду та життєва цінність.

Тому вам потрібно вийти вперед:

1. Задавайте правильні питання

Перед тим, як розпочати свій шлях з AI, зупиніться та запитайте: “Чи маємо ми все, що потрібно, щоб зробити це правильно? Чи можемо ми зробити це без ризику для споживача та нашого бренду?”

Занадто багато брендів вступають в AI, бо не хочуть відставати. Але намагатися не відставати від Джонсів – це погана стратегія.

Чи маєте ви правильні дані клієнтів, інтеграції та управління, щоб підтримувати клієнто-орієнтований випадок використання AI без збільшення упередження? Чи повністю розумієте ви цілі клієнтів?

Якщо відповідь – ні, або навіть “кілька”, ви не готові.

2. Балансуйте цілі

Щоб ефективно балансувати цілі клієнта та бізнес-цілі, подумайте про потреби клієнта як про мету, а ваші бізнес-цілі – як про межі. Ваш AI повинен працювати всередині цих меж, але спрямовувати на клієнто-орієнтований результат. Ви також можете розглядати це як баланс між короткостроковим та довгостроковим мисленням.

Короткострокові метрики, такі як дохід на взаємодію, важливі. Але вони часто вступають у конфлікт з довгостроковою цінністю. Навіть “батько AI” попередив проти AI, керованого короткостроковою прибутковістю, бо такий спосіб мислення не масштабується.

Ваш AI може досягти метрики доходу сьогодні, але ви готові обміняти лояльність клієнта на швидкий зиск?

Розгляньте знову приклад Delta. Стратегія технічно розумна та узгоджена з бізнесом. Але споживачі не були в захваті від ідеї платити більше за авіаквитки, і бренд отримав удар.

Розміркуйте у п’ятирічній перспективі. Вам потрібно зростати лояльність повільно та сталими темпами.

3. Розумійте, які змінюються потреби клієнтів

Не тільки загалом, а й у кожному випадку використання. Що вони намагаються досягти?

Якщо ви не розумієте цього, ваш AI буде просто здогадуватися. Тому ваші клієнтські профайли повинні бути актуальними, повними та конкретними, як на високому рівні, так і на індивідуальному рівні.

Широкі сегменти та застарілі припущення не будуть достатніми. Вам потрібні дані, які представляють реальну людину на іншому кінці взаємодії. Це приведе до глибшого розуміння клієнта та стане основою для навчання вашої LLM.

Моделі генерації з підтримкою пошукових запитів (RAG) також допомагають тут, витягуючи з кураторських, релевантних даних, щоб надати споживачеві кращий досвід для конкретної задачі, яку він намагається виконати.

Але це не одне разове завдання. Цілі клієнтів зсуваються, а очікування змінюються. Бренди повинні оновлювати свої системи AI регулярно, щоб відображати останні розробки. Це означає перегляд навчальних даних та забезпечення безперервного навчання, а не просто донастройку виведення.

4. Суворо перевіряйте постачальників AI

Не всі постачальники створені рівними, а великі обіцянки не завжди означають великі результати. Виберіть партнерів з реальним світовим досвідом та доведеним послужним списком, а не просто флеш-демо. Постачальники з десятилітнім домен-специфічним даними можуть використовувати його для кращого навчання моделей порівняно з новим брендом, який покладається на загальні набори даних.

Ваш клієнт може помітити різницю в глибині даних, коли йому потрібна спеціалізована підтримка.

І пам’ятайте, якщо AI зазнає невдачі в дикій природі, ваш бренд буде страждати. Просто запитайте людей, які постраждали від аварії CrowdStrike 2024 року. Середній споживач не звинувачував постачальника. Вони звинувачували бренди, які розгорнули цю технологію.

Шукайте постачальників, які робили це раніше, у вашій галузі, з вашими випадками використання. Доменне знання перемагає амбіції кожен раз.

5. Будуйте управління

Якщо ви не визначите логіку чітко та послідовно, ваш AI буде приймати рішення на основі шаблонів, а не політики. Ці шаблони можуть не представляти ваш бренд, ваші цінності чи ваші юридичні зобов’язання.

Централізована оркестрація та налаштування правил є критичними для забезпечення того, щоб AI робив те, що йому призначено – кожен раз, у кожній взаємодії з клієнтом. Без такого управління одна модель може обробляти запит на рахунок одним способом, а інша – зовсім інакшим.

Дотримуйтесь найкращих галузевих практик та спирайтесь на рамки управління ризиками, щоб захистити бренд. Добре управління не сповільнить вас. Воно врятує вас від подальших проблем.

6. Обмежте агентний AI з обережністю

ЗМІ роблять так, ніби агентні системи – це майбутнє всього. Насправді більшість брендів не готові, і це нормально.

Почніть з малого. Партнеруйте з технологічним постачальником, який робив це раніше та може провести вас через цей процес. Приоритезуйте низькоризиковані робочі процеси з чітко визначеними кроками, де рівень агентності можна довіряти – ідеально, якщо він належить однієї команді. Ці випадки використання зазвичай мають чітку логіку, підзвітність та нагляд. Тоді ви можете навчатися та масштабуватися з цього.

Упередження – це дзеркало, а не несправність

AI не винайшло упередження. Воно відображає те, що йому сказано через дані, навчання та бізнес-пріоритети. Тому узгодженість має значення. Якщо ваші системи не спроектовані навколо клієнта, AI тільки збільшить розрив.

Упередження цілей не можна повністю видалити, але його можна керувати.

Зробіть довгострокову лояльність вашою основною метою. Все інше буде слідувати. Коли кожне рішення моделі фільтрується через утримання, життєву цінність та довіру, інші пріоритети (управління, розуміння клієнта, збалансовані цілі) природно впорядковуються.

Шорткати для сьогодні майже завжди коштують вам завтра, але рухайтеся з лояльністю в серці вашої стратегії, і AI перейде від зобов’язання до переваги.