Три способа построить «эмоциональную инфраструктуру» в продуктах GenAI и завоевать доверие потребителей

В недавнем разговоре с потенциальным инвестором меня спросили, знаю ли я самый эффективный секрет масштабирования. Для меня это было очевидно – это эмоция. Инвестор, однако, усомнился. Как и многие в мире технологий, он считал, что логика масштабируема, но эмоция – нет.

Хотя мы спорили некоторое время, я не смог изменить его мнение (или получить его инвестиции). Но я проработал более десяти лет в области спортивного маркетинга – вы никогда не сможете убедить меня, что логика является тем, что заполняет стадионы истеричными фанатами. Это все эмоция.

Хотя некоторые могут возразить, что сравнение технологий со спортом подобно сравнению яблок и апельсинов, я бы сказал, что технологии могут научиться у индустрии спорта урок или два. Потому что когда речь идет о многих технологических продуктах, не учитывая человеческие эмоции – это работает против нас. Этот узкий взгляд – это то, что привело к худшим аспектам социальных сетей в прошлом и что сейчас подогревает наиболее вредоносные заголовки о генеративном ИИ сегодня.

Если технологические предприниматели хотят завоевать доверие потребителей в обещании и потенциале ИИ, нам нужно проектировать продукты, которые построены с так называемой «эмоциональной инфраструктурой». Вот как.

Используйте память для поддержки, а не эксплуатации

Обширные функции, обещанные агентами ИИ, будут возможны благодаря улучшенным возможностям памяти – но это также означает хранение более личных данных, и, к сожалению, пользовательские данные исторически в основном использовались для того, чтобы попытаться манипулировать пользователями и тратить деньги.

Проектирование ИИ с эмоциональной инфраструктурой, однако, вместо этого использует память о данных пользователя для заполнения пробелов в знаниях, которые пользователь может не осознавать, что они пропускают.

Например, если пользователь спрашивает у агента ИИ, какие местные пляжи подходят для собак, как это сейчас, большинство агентов выдают список пляжей и, возможно, спрашивают, заинтересован ли пользователь также в списке ближайших ресторанов, где можно взять питомца.

Однако агент, спроектированный с эмоциональной инфраструктурой, включает дополнительный слой эмоционального интеллекта. В этом случае он помнит, что вакцинация собаки была накануне и уведомляет пользователя, что взять собаку в воду слишком рано может привести к инфекции, истощению или непредвиденным побочным эффектам.

Таким образом, агенты ИИ будут вести себя более как доверенные консультанты, которые готовы возразить, когда простое выполнение команд может привести к менее чем оптимальным результатам. Делать так также более вероятно построит большее доверие пользователей, что приведет к увеличению использования.

Стройте доход через доверие, а не нацеливание

Ранние пользователи генеративного ИИ уже имели доступ к крупнейшим игрокам на рынке в течение многих лет, бесплатно. Это может заманить основателей стартапов ИИ B2C думать, что единственный путь к прибыльности – это бесплатный продукт, который зарабатывает деньги, продавая данные третьим лицам или через продажу рекламы.

Но переход к этой бизнес-модели может поставить под угрозу уже хрупкое доверие потребителей, если пользователи не будут behand как с высоким уровнем уважения, заботы и ответственности. Возьмите последнюю историю о приложении Meta AI, где пользователи, казалось, непреднамеренно публиковали очень личные запросы в публичной ленте.

Не все продукты имеют социальные элементы, но этот пример иллюстрирует уровень личной информации, которую пользователи готовы поделиться с агентами ИИ. И учитывая исследования показывают, что чат-боты лучше могут убедить человеческих собеседников, когда они оснащены личной информацией, реклама в этих платформах может быть сделана неэтично – как сообщения о том, что Meta показывает рекламу красоты после того, как подростковые пользователи удалили селфи.

Вместо этого эмоциональная инфраструктура оптимизирует заботу над кликами. Это не обязательно должно происходить за счет дохода.

ИИ может сделать эти trải nghiệm еще более эффективными, только показывая рекламу, которая аутентично соответствует реальным потребностям пользователей: плащ в дождливую погоду, планы страхования питомцев в пределах бюджета для нового котенка, добавки витамина С при первых признаках простуды.

Но настоящая забота – это не только точное нацеливание – как и в примере с пляжем выше, настоящая забота заполняет пробелы, которые пользователи не осознают, что они пропускают. Например, трекер здоровья питомца может уведомить пользователя, что его порода склонна к дефициту витамина B12, и поэтому порекомендовать марку корма, которая лучше соответствует потребностям его собаки. Раскрытие этих типов упущенных деталей – это то, где ИИ может действительно сиять и принести реальную ценность конечным пользователям.

Около половины глобальных потребителей готовы поделиться личными данными, если это означает лучший пользовательский опыт, но это число упало до 15% на рынке США. Предприниматели ИИ имеют реальную возможность изменить это восприятие через эмоционально интеллектуальный дизайн.

Проектируйте эмоциональные ограждения, которые ставят людей на первое место

Самый важный аспект эмоциональной инфраструктуры – это создание ограждений, которые защищают интересы пользователей. Это предполагает тщательный выбор типа контента, который может быть сгенерирован ИИ, четкую маркировку сгенерированного ИИ материала и проектирование четких вмешательств, когда пользователи входят в эмоционально рискованную территорию.

Например, когда мы строили приложение для ухода за питомцами, моя команда и я решили, что мы не будем использовать ИИ для любого контента, связанного со здоровьем или питанием. Риск галлюцинаций или дезинформации был слишком велик, поэтому мы приняли решение заплатить профессиональному ветеринару за написание и курирование этих статей. Конечно, это был более дорогой выбор, но когда на кону стоят человеческие жизни, это достойная инвестиция.

Не только это придает авторитет нашему продукту, но и сохраняет наших пользователей и их питомцев в безопасности. Это также то, чего хотят потребители – 79% согласны с тем, что использование ИИ должно быть раскрыто компаниями.

Наконец, в интересах компаний ИИ проектировать свои продукты так, чтобы они четко сообщали о своих ограничениях и направляли пользователей к человеческим вмешательствам, когда это уместно. Уже были истории об эмоционально уязвимых пользователях, которые обращались к самоповреждению или суициду из-за отсутствия адекватных ограждений в чат-ботах, и понятно, что эти истории привели к судебным искам.

Хотя я считаю, что будущее ИИ в нашей жизни светлое, мы должны быть честными о том, где его слабости сейчас лежат, и не позволять давлению скорости и конкуренции иметь приоритет над безопасностью. Если мы это сделаем, мы потеряем доверие потребителей, которых мы утверждаем, что хотим обслужить. Игнорирование этой ответственности наносит вред всей экосистеме.