Три способи побудувати «емоційну інфраструктуру» у продуктах GenAI та здобути довіру споживачів

У недавній розмові з потенційним інвестором мене запитали, чи знаю я найефективніший секрет масштабування. Для мене це було очевидно – це емоція. Інвестор, однак, посміхнувся. Як і багато хто в світі технологій, він вважав, що логіка масштабується, але емоція – ні.

Хоча ми сперечалися протягом деякого часу, я не зміг змінити його думку (або здобути його інвестиції). Але я понад десяти років працював у сфері спортивного маркетингу – ви ніколи не переконаєте мене, що логіка заповнює стадіони гіперболічними фанатами. Це все емоція.

Хоча деякі можуть заперечити, що порівнювання технологій зі спортом – це порівнювання яблук з апельсинами, я б сказав, що технології можуть вивчити кілька уроків у спортивного сектора. Адже коли мова йде про так багато технологічних продуктів, не врахування людської емоції працює проти нас. Ця короткозорість призвела до найгірших аспектів соціальних медіа в минулому та зараз підживлює найбільш шкідливі заголовки щодо генеративного ІІ сьогодні.

Якщо технологічні підприємці хочуть здобути довіру споживачів у обіцянках та потенціалі ІІ, нам потрібно розробляти продукти, які будуються з того, що я називаю «емоційною інфраструктурою». Ось як.

Використовуйте пам’ять для підтримки, а не експлуатації

Багаті функції, обіцяні агентами ІІ, будуть здійснені завдяки покращеним можливостям пам’яті – але це також означає зберігання більшої кількості особистих даних, і, на жаль, дані користувачів історично здебільшого використовувалися для спроб маніпулювати користувачами щодо витрат коштів.

Розробка ІІ з емоційною інфраструктурою, однак, замість цього використовуватиме пам’ять даних користувача для заповнення прогалин знань, яких користувач може не усвідомлювати.

Наприклад, якщо користувач запитає у агента ІІ, які місцеві пляжі є дружніми до собак, як це є зараз, більшість агентів видасть список пляжів і, можливо, запитає, чи хоче користувач також список найближчих ресторанів, дружніх до тварин.

Однак агент, розроблений з емоційною інфраструктурою, включає додатковий шар емоційного інтелекту. У цьому випадку він запам’ятає, що вакцинація собаки була попереднього дня, і повідомить користувача, що взяття собаки у воду занадто скоро може привести до інфекції, втоми або непередбачуваних побічних ефектів.

Цим чином агенти ІІ будуть поводитися більш як довірені консультанти, які готові протидіяти, коли просте виконання наказів може привести до менш оптимальних результатів. Це також більш імовірно сприятиме більшій довірі користувачів, що сприятиме збільшенню використання.

Будуйте дохід через довіру, а не націлювання

Ранні приймачі генеративного ІІ вже мали доступ до найбільших гравців на ринку протягом років безкоштовно. Це може спокусити засновників стартапів ІІ B2C думати, що єдиний шлях до прибутковості – це безкоштовний продукт, який заробляє гроші, продавши дані третім сторонам або через продаж реклами.

Однак звернення до цієї бізнес-моделі може загрозити вже хиткій довірі споживачів, якщо користувачів не будуть поводитися з набагато вищим рівнем поваги, турботи та відповідальності. Взять останню історію про додаток Meta ІІ, у якому користувачі, схоже, ненавмисно публікували дуже особисті запитання на публічному каналі.

Не всі продукти мають соціальні елементи, але цей приклад показує рівень особистих деталей, які користувачі готові поділитися з агентами ІІ. І якщо дослідження показують, що чат-боти краще переконують людських співрозмовників, коли вони оснащені особистими даними, то реклама в цих платформах може здійснюватися неетичними способами – як повідомлення про те, що Meta подавала рекламу краси після того, як підліткові користувачі видалили свої селфі.

Натомість емоційна інфраструктура оптимізуватиме турботу над кліками. Це не обов’язково має відбуватися за рахунок доходу.

ІІ може зробити ці досвіди ще більш ефективними, тільки подавши рекламу, яка справжнім чином відповідає реальним потребам користувача: плащ у погану погоду, плани страхування домашніх тварин у межах бюджету для нового котенка, добавки вітаміну С на ранньому етапі симптомів застуди.

Але справжня турбота не лише про точне націлювання – як і приклад з пляжем вище, справжня турбота заповнює прогалини, яких користувач не усвідомлює. Наприклад, трекер здоров’я домашніх тварин може повідомити користувача, що його порода схильна до дефіциту вітаміну В12, і тому рекомендувати бренд корму, який краще відповідає потребам його собаки. Виявлення таких деталей, яких не вистачає, – це те, де ІІ може справді сяяти і приносити справжню цінність кінцевим користувачам.

Про половину глобальних споживачів готових поділитися особистими даними, якщо це означає кращий досвід користувача, але це число впало до всього 15% на ринку США. Підприємці ІІ мають реальну можливість змінити це сприйняття через емоційно інтелектуальний дизайн.

Розробіть емоційні гардііли, які ставлять людей на перше місце

Найважливішим аспектом емоційної інфраструктури є будівництво гардііл, які захищають найкращі інтереси користувачів. Це включає в себе ретельний відбір типу контенту, який може бути сгенерований ІІ, чітке маркування матеріалів, сгенерованих ІІ, та розробку чітких втручань, коли користувачі заходять у емоційно ризиковану територію.

Наприклад, коли ми будували додаток для догляду за домашніми тваринами, моя команда та я вирішили, що ми не звернемося до ІІ для жодного змісту, пов’язаного зі здоров’ям чи харчуванням. Ризик галюцинацій чи дезінформації був занадто великий, тому ми вирішили заплатити професійному ветеринару за написання та кураторство цих статей. Очевидно, це був більш дорогий вибір, але коли на кону стоять справжні життя, це є гідна інвестиція.

Це не лише надає нашому продукту авторитетності, а й тримає наших користувачів та їхніх тварин у безпеці. Це також те, чого хочуть споживачі – 79% погоджуються, що використання ІІ повинно бути розкрито компаніями.

Нарешті, це в інтересах компаній ІІ розробляти свої продукти так, щоб вони чітко повідомляли про свої обмеження та вказували користувачам на людські втручання, коли це доречно. Вже були історії про емоційно вразливих користувачів, які зверталися до самознищення через відсутність адекватних гардііл у чат-ботах, і зрозуміло, що це привело до судових позовів.

Хоча я вважаю, що майбутнє ІІ в нашому житті яскраве, нам потрібно бути чесними щодо його слабкостей на даний момент і не дозволяти тискам швидкості та конкуренції мати пріоритет над безпекою. Якщо ми це зробимо, ми втратимо довіру споживачів, яких ми хочемо обслуговувати. Ігнорування цієї відповідальності шкодить цілої екосистемі.