Перестаньте обвинять данные. Начните исправлять свои цели

AI учится у нас. И мы предвзяты.

Поскольку AI обучается в основном на контенте, созданном человеком, он воспринимает наши предубеждения и включает их в себя. Поэтому большинство разговоров об предубеждениях AI сосредоточены на плохих данных. Мусор на входе, мусор на выходе. Достаточно просто.

Более тонкая и часто упускаемая из виду проблема – это предубеждение цели. Оно менее заметно, чем проблема с набором данных, и является одним из самых больших вызовов для использования AI, ориентированного на клиентов.

В этой статье я расскажу о том, как выглядит предубеждение цели как часть опыта клиента (CX), почему это важно и что бренды могут сделать с этим.

Определение предубеждения цели

Предубеждение цели не связано с ошибочными данными. Оно связано с ошибочной намеренностью. AI делает именно то, что ему говорят, и если ему говорят максимизировать доход, он сделает это – даже если это означает нанесение ущерба отношениям с клиентом.

Возьмем пример Delta Air Lines. Они недавно объявили о ценах на авиабилеты, определяемых с помощью AI. Это идеальный пример предубеждения цели. Система не обучена помогать вам найти хорошую сделку. Она обучена увеличить конверсию и снизить операционные затраты.

Допустим, вы бронировали поездку в Париж. Вы хотите лучшую цену, но система хочет лучшую прибыль. AI может предложить вам билет за 800 долларов, когда есть билет за 400 долларов. Не потому, что AI ошибается, а потому, что он делает свою работу.

Не совсем тот вид персонализации, о котором потребители просят …

Почему это неизбежно

Предубеждение цели является отражением ценностей, культуры и приоритетов вашего бренда. Оно вплетено в ткань вашего AI. Реальный вопрос в том, в каком направлении оно “наклоняется”? Считает ли оно цели клиента или цели дохода?

Разные команды, регионы и культуры имеют разные образы мышления и будут обучать модель AI по-разному. Если продажи берут на себя управление, она будет наклоняться в сторону конверсии. Если группа CX находится у руля, она может быть лучше согласована с сервисом и экономией.

Та же архитектура, разные результаты.

Решение не состоит в том, чтобы полностью исключить предубеждение – а в том, чтобы направить его в правильном направлении. Сделайте свое AI предвзятым в пользу долгосрочной лояльности, а не краткосрочных побед.

Последствия неправильно выровненного AI

Самый большой риск, с которым сталкиваются бренды при использовании AI с предубеждением цели, – это потеря доверия.

Клиенты уже устали от общих, нерелевантных взаимодействий с брендами. Когда AI делает эти впечатления хуже, это раздражает и отталкивает вашего покупателя.

Если крупные языковые модели (LLM) обучаются на предубежденных, основанных на предположениях данных, они будут производить безличные ответы. В результате клиенты будут чувствовать, что бренд не заботится о них. Они могут купить у вас сегодня, но менее вероятно, что они останутся с вашим брендом в долгосрочной перспективе.

Опыт сейчас стимулирует лояльность. Многие клиенты даже готовы платить больше за это. Итак, когда AI пытается продать высокоценный продукт, который не соответствует потребностям, они замечают. Они отказываются. Они не возвращаются.

Проблема агентного AI

Этот риск увеличивается, когда мы рассматриваем агентный AI.

Агентный AI построен для действий самостоятельно. Он может выполнить многоступенчатые рабочие процессы без участия человека. Но если логика AI ошибочна или обучение неправильно, ущерб растет.

Эксперты согласны с тем, что агентный AI имеет долгий путь. Фактически, недавний отчет показывает, что хотя почти все финансовые директора знают об агентном AI, только 15% серьезно рассматривают его. Сопутствующие данные указывают на то, что возможность точно контролировать и предотвратить предубеждения была ключевым барьером для принятия.

Большинство агентных систем все еще борются с неоднозначностью, постоянной памятью и подотчетностью. Это опасная комбинация, когда нет четкого способа диагностировать или исправить ошибки или предубеждения по мере их возникновения.

Бренды не должны сидеть на стороне, но они должны действовать стратегически.

Как бренды могут минимизировать предубеждение цели

Давайте будем ясны: вы не можете исключить предубеждение. Вы ЕСТЬ предубеждение.

Ваш бренд формирует поведение AI – к лучшему или худшему. Эти предубеждения уже существуют в ваших текущих взаимодействиях с клиентами. Они есть в трении вашего потока отмены, прозрачности ваших условий и положений или темных паттернах на вашем сайте.

Разница с предубеждением AI заключается в масштабе. AI может усилить эти решения быстрее и с меньшим контролем, что будет подрывать долгосрочные цели, такие как лояльность бренда и стоимость клиента.

Это почему вам нужно опережать это:

1. Задайте правильные вопросы

Прежде чем начать свое путешествие с AI, остановитесь и задайте вопрос: “У нас есть все, что нужно, чтобы сделать это правильно? Можем ли мы сделать это без риска для потребительского опыта и нашего бренда?”

Слишком многие бренды прыгают в AI, потому что они не хотят отстать. Но попытка не отстать от Джонсов – это плохая стратегия.

У вас есть правильные данные клиентов, интеграции и управление, чтобы поддержать использование AI, ориентированного на клиентов, без увеличения предубеждения? Полностью ли вы понимаете цели своих клиентов?

Если ответ – нет или “как-то”, вы не готовы.

2. Сбалансируйте цели

Чтобы эффективно сбалансировать цели клиента и бизнеса, подумайте о потребностях клиента как о цели, а ваши бизнес-цели – как о границах. Ваш AI должен работать внутри этих границ, но стремиться к клиенто-ориентированному результату. Вы также можете рассматривать это как баланс между краткосрочным и долгосрочным мышлением.

Краткосрочные метрики, такие как доход на взаимодействие, важны. Но они часто конфликтуют с долгосрочной ценностью. Даже “крестный отец AI” предупреждал против AI, движимого краткосрочной прибылью, потому что этот образ мышления не масштабируется.

Ваш AI может достичь своей цели дохода сегодня, но готовы ли вы обменять лояльность клиента на быстрый доллар?

Рассмотрите пример Delta снова. Стратегия технически умна и согласована с бизнесом. Но потребители не были в восторге от идеи платить больше за авиабилеты, и бренд получил удар.

Думайте в перспективе пяти лет. Вам нужно расти лояльность медленно и устойчиво.

3. Понимайте эволюционирующие потребности своих клиентов

Не только в целом, но и в каждом случае использования. Что они пытаются достичь?

Если вы не понимаете этого, ваш AI будет просто угадывать. Поэтому ваши профили клиентов должны быть актуальными, полными и конкретными, как на высоком уровне, так и на индивидуальной основе.

Широкие сегменты и устаревшие предположения не подойдут. Вам нужны данные, представляющие реального человека на другой стороне взаимодействия. Это приведет к более глубокому пониманию клиента и станет основой для обучения вашей LLM.

Модели генерации с помощью извлечения (RAG) также помогают здесь, извлекая из отобранных, релевантных данных, чтобы дать потребителю лучший опыт для конкретной задачи, которую он выполняет.

Но это не разовое упражнение. Цели клиентов меняются, и ожидания меняются. Бренды должны обновлять свои системы AI регулярно, чтобы отразить последние разработки. Это означает пересмотр обучающих данных и обеспечение непрерывного обучения, а не просто настройку выходных данных.

4. Тщательно изучите поставщиков AI

Не все поставщики созданы равными, и большие обещания не всегда означают большие результаты. Выберите партнеров с реальным опытом и доказанной репутацией, а не просто эффектными демонстрациями. Поставщики с десятилетиями доменной специфической данных могут использовать их для лучшего обучения моделей по сравнению с новым брендом, полагающимся на общие наборы данных.

Ваш клиент может заметить разницу в глубине данных, когда ему нужна специализированная поддержка.

И помните, если AI терпит неудачу в реальных условиях, ваш бренд пострадает. Просто спросите людей, пострадавших от аварии CrowdStrike в 2024 году. Средний потребитель не обвинил поставщика. Они обвинили бренды, которые развернули технологию.

Ищите поставщиков, которые делали это раньше, в вашей отрасли, с вашими случаями использования. Знание области побеждает амбиции каждый раз.

5. Постройте управление

Если вы не определяете логику четко и последовательно, ваш AI начнет принимать решения на основе закономерностей, а не политики. Эти закономерности могут не представлять ваш бренд, ваши ценности или ваши юридические обязательства.

Централизованная оркестрация и настройка правил имеют решающее значение для обеспечения того, чтобы AI делал то, что он должен – каждый раз, во каждом взаимодействии с клиентом. Без этого рода управления одна модель может обработать вопрос о выставлении счета одним способом, а другая даст совершенно другой ответ.

Придерживайтесь лучших практик отрасли и полагайтесь на рамки управления рисками, чтобы защитить бренд. Хорошее управление не замедлит вас. Оно спасет вас от очистки позже.

6. Ограничьте агентный AI с осторожностью

СМИ делают это звучание так, как будто агентные системы – это будущее всего. На самом деле большинство брендов не готовы, и это нормально.

Поскольку нет много доказательств, начните с малого. Партнер с технологическим поставщиком, который сделал это раньше и может направлять вас на пути. Отдавайте приоритет низкорисковым рабочим процессам с четко определёнными шагами, где уровень агентности можно доверять – идеально, принадлежащий одной команде. Эти случаи использования обычно имеют четкую логику, подотчетность и контроль. Затем вы можете учиться и масштабироваться оттуда.

Если несколько команд участвуют или процесс не имеет структуры, не ожидайте, что принятие решений машиной будет работать для ваших клиентов.

Чтобы действительно добиться успеха, агентный AI требует доступа к полному и актуальному профилю клиента. Без реального контекста даже лучшие модели будут производить оторванные, предвзятые впечатления.

Предубеждение – это зеркало, а не неисправность

AI не изобретает предубеждение. Оно отражает то, что ему говорят через данные, обучение и бизнес-приоритеты. Это почему согласование имеет значение. Если ваши системы не спроектированы вокруг клиента, AI только усилит разрыв.

Предубеждение цели не может быть полностью удалено, но оно может быть управляемо.

Сделайте долгосрочную лояльность своей основной целью. Остальное последует. Когда каждое решение модели фильтруется через удержание, стоимость клиента и доверие, остальные приоритеты (управление, понимание клиента, сбалансированные цели) естественно встанут на место.

Обходные пути для сегодняшнего дня почти всегда стоят вам завтра, но если вы будете действовать с лояльностью в сердце своей стратегии, AI перейдет от обязанности к преимуществу.