Trzy sposoby budowania “infrastruktury emocjonalnej” w produktach GenAI i zdobywania zaufania konsumentów

W niedawnym rozmowie z potencjalnym inwestorem, zostałem zapytany, czy wiem, jaki jest najskuteczniejszy sekret sukcesu. Dla mnie było to oczywiste – emocje. Inwestor jednak zaśmiał się. Jak wielu ludzi w świecie techniki, wierzył, że logika jest skalowalna, ale emocje nie.

Chociaż spieraliśmy się przez jakiś czas, nie zmieniłem jego zdania (ani nie zdobyłem jego inwestycji). Ale spędziłem ponad dekadę pracując w marketingu sportowym – nigdy nie przekonasz mnie, że to logika wypełnia stadiony hysterią fanów. To wszystko emocje.

Niektórzy mogliby twierdzić, że porównywanie techniki do sportu jest jak porównywanie jabłek do pomarańczy, ale uważam, że technika mogłaby się wiele nauczyć od branży sportowej. Ponieważ, gdy chodzi o wiele produktów technologicznych, nie branie pod uwagę ludzkich emocji jest przeciwne naszym interesom. To wąskie spojrzenie jest tym, co doprowadziło do najgorszych aspektów mediów społecznościowych w przeszłości i co obecnie napędza najbardziej szkodliwe nagłówki dotyczące sztucznej inteligencji dzisiaj.

Jeśli przedsiębiorcy technologiczni chcą zdobyć zaufanie konsumentów w obietnicach i potencjale AI, musimy projektować produkty, które są zbudowane z tym, co nazywam “infrastrukturą emocjonalną”. Oto jak.

Wykorzystuj pamięć, aby wspierać, a nie wykorzystywać

Ogromne funkcje oferowane przez agenty AI będą możliwe dzięki udoskonalonym możliwościom pamięci – ale to również oznacza przechowywanie większej ilości danych osobowych, a niestety, dane użytkowników były historycznie wykorzystywane do manipulowania użytkownikami, aby wydawać pieniądze.

Budowanie AI z infrastrukturą emocjonalną wymagałoby jednak wykorzystania pamięci danych użytkowników, aby wypełnić luki wiedzy, których użytkownik może nie zdawać sobie sprawy.

Na przykład, jeśli użytkownik spyta agenta AI, które lokalne plaże są przyjazne dla psów, jak dotąd, większość agentów wypluje listę plaż i może zapytać, czy użytkownik byłby również zainteresowany listą pobliskich restauracji przyjaznych zwierzętom.

Jednak agent zaprojektowany z infrastrukturą emocjonalną uwzględnia dodatkową warstwę inteligencji emocjonalnej. W tym przypadku zapamiętałby, że wizyta u weterynarza psa była dzień wcześniej i powiadomiłby użytkownika, że zabranie psa do wody zbyt szybko może prowadzić do infekcji, wyczerpania lub nieoczekiwanych skutków ubocznych.

W ten sposób agenci AI zachowywaliby się bardziej jak zaufani konsultanci, którzy są skłonni sprzeciwić się, gdy prosty przestrzeganie poleceń może prowadzić do mniej optymalnych wyników. Robienie tego jest również bardziej prawdopodobne, aby zbudować większe zaufanie użytkowników, powodując zwiększone użytkowanie.

Buduj przychody poprzez zaufanie, a nie targetowanie

Wczesni adopterzy genAI mieli już dostęp do największych graczy na rynku przez lata, bezpłatnie. To może skusić założycieli startupów AI B2C do myślenia, że jedyną drogą do zysku jest bezpłatny produkt, który zarabia na sprzedaży danych podmiotom trzecim lub za pośrednictwem sprzedaży reklam.

Ale domyślny model biznesowy może zagrozić już niepewnemu zaufaniu konsumentów, jeśli użytkownicy nie są traktowani z znacznie wyższym poziomem szacunku, troski i odpowiedzialności. Weźmy najnowszą historię aplikacji Meta AI, w której użytkownicy wydawało się, że nieumyślnie publikowali bardzo osobiste zapytania na publicznym kanale.

Nie wszystkie produkty mają elementy społeczne, ale ten przykład ilustruje poziom osobistych szczegółów, które użytkownicy są skłonni udostępnić agentom AI. I biorąc pod uwagę badania pokazują, że czatboty są lepiej przekonywujące ludzi, gdy są wyposażone w dane osobowe, reklamy w ramach tych platform mogą być wykonywane w etycznie wątpliwy sposób – jak relacje o tym, że Meta wyświetlała reklamy produktów piękności po tym, jak nastolatki usunęły zdjęcia siebie.

Zamiast tego, infrastruktura emocjonalna optymalizowałaby troskę nad kliknięciami. Nie musi to jednak następować kosztem przychodu.

AI mogłoby uczynić te doświadczenia jeszcze bardziej skutecznymi, tylko wyświetlając reklamy, które autentycznie spełniają prawdziwe potrzeby użytkowników: płaszcz przeciwdeszczowy, gdy nadchodzi zła pogoda, plany ubezpieczenia dla nowego kota w ramach budżetu, suplementy witaminy C na początku objawów przeziębienia.

Ale prawdziwa troska nie polega tylko na dokładnym targetowaniu – podobnie jak w przykładzie z plażą powyżej, prawdziwa troska wypełnia luki, których użytkownicy nie zdają sobie sprawy. Na przykład, śledzik zdrowia psa może powiadomić użytkownika, że jego rasa jest podatna na niedobory witaminy B12 i zaleci markę karmy, która lepiej spełnia potrzeby psa. Ujawnianie tego rodzaju pomijanych szczegółów jest tym, gdzie AI może naprawdę błyszczeć i przynieść prawdziwą wartość końcowym użytkownikom.

Około połowa globalnych konsumentów jest skłonna udostępnić dane osobowe, jeśli oznacza to lepsze doświadczenia użytkowników, ale ta liczba spadła do zaledwie 15% na rynku amerykańskim. Przedsiębiorcy AI mają prawdziwą okazję, aby odwrócić tę percepcję poprzez projektowanie emocjonalnie inteligentne.

Zaprojektuj emocjonalne bariery ochronne, które stawiają ludzi na pierwszym miejscu

Najważniejszym aspektem infrastruktury emocjonalnej jest budowanie barier ochronnych, które chronią najlepsze interesy użytkowników. Obejmuje to staranne wybieranie rodzaju treści, które mogą być generowane przez AI, jasne oznaczanie materiałów wygenerowanych przez AI i projektowanie wyraźnych interwencji, gdy użytkownicy wkraczają w emocjonalnie niebezpieczne terytorium.

Na przykład, budując aplikację opiekującą się zwierzętami, moja ekipa i ja zdecydowaliśmy, że nie będziemy korzystać z AI do żadnych treści związanych ze zdrowiem lub żywieniem. Ryzyko halucynacji lub dezinformacji było zbyt duże, więc zdecydowaliśmy się zapłacić profesjonalnemu weterynarzowi, aby pisał i kuratorował te artykuły. Oczywiście, było to droższe, ale gdy literalne życie jest na szali, jest to godna inwestycja.

Nie tylko daje to wiarygodność naszemu produktowi, ale także utrzymuje naszych użytkowników i ich zwierzęta bezpieczne. To również to, czego chcą konsumenci – 79% zgadza się, że użycie AI powinno być ujawnione przez firmy.

Wreszcie, jest w najlepszym interesie firm AI, aby zaprojektować swoje produkty w taki sposób, aby komunikowały swoje ograniczenia wyraźnie i wskazywały użytkownikom na interwencje ludzkie, gdy jest to odpowiednie. Już były historie o emocjonalnie wrażliwych użytkownikach, którzy zwrócili się ku samookaleczeniu lub samobójstwu z powodu braku odpowiednich barier ochronnych w czatbotach, i zrozumiale, te doprowadziły do pozwów.

Chociaż wierzę, że przyszłość AI w naszym życiu jest jasna, musimy być szczerzy co do słabości, które obecnie występują, i nie pozwolić, aby presja szybkości i konkurencji miała pierwszeństwo przed bezpieczeństwem. Jeśli tak się stanie, stracimy zaufanie konsumentów, których twierdzimy, że chcemy służyć. Ignorowanie tej odpowiedzialności szkodzi całemu ekosystemowi.