Tři způsoby, jak vybudovat „emocionální infrastrukturu“ v produktech GenAI a získat důvěru spotřebitelů

V nedávné konverzaci s potenciálním investorem jsem byl požádán, zda vím, co je nejúčinnějším tajemstvím škálování. Pro mě to bylo jasné – je to emoce. Investor se však zasmál. Jako mnoho lidí v technologickém světě věřil, že logika je škálovatelná, ale emoce nejsou.

Ačkoli jsme argumentovali po nějakou dobu, nemohl jsem změnit jeho názor (nebo získat jeho investici). Ale strávil jsem přes deset let prací ve sportovním marketingu – nikdy mě nepřesvědčíte, že logika je to, co zaplňuje stadiony hysterickými fanoušky. To je vše emoce.

Zatímco někteří by mohli namítnout, že srovnání technologií se sportem je jako srovnání jablek a pomerančů, já bych řekl, že technologie by se mohla něco naučit ze sportovního průmyslu. Protože když jde o tolik technologických produktů, nepřijímání lidské emoce do úvahy je proti nám. Tento úzký pohled je to, co vedl k nejhorším aspektům sociálních médií v minulosti a co目前 pohání poškozující tituly týkající se generativní umělé inteligence dnes.

Pokud chtějí technologičtí podnikatelé získat důvěru spotřebitelů v slib a potenciál umělé inteligence, musíme navrhnout produkty, které jsou postaveny s tím, co jsem rád nazývám „emocionální infrastrukturou“. Zde je, jak to udělat.

Použijte paměť k podpoře, ne k využívání

Široké funkce slibované umělými inteligencemi budou možné díky vylepšeným schopnostem paměti – ale to také znamená ukládání více osobních údajů, a bohužel, uživatelská data byla historicky většinou využívána k tomu, aby se uživatelé manipulovali do utraty peněz.

Navrhování umělé inteligence s emocionální infrastrukturou by však místo toho využívalo paměť uživatelských údajů k vyplnění znalostních mezer, kterých si uživatel možná není vědom.

Například, pokud uživatel požádá umělou inteligenci, které místní pláže jsou vhodné pro psy, jak tomu je nyní, většina agentů vrátí seznam pláží a možná se zeptá, zda uživatel bude mít zájem o seznam blízkých restaurací, které jsou vhodné pro psy.

Nicméně, agent navrhný s emocionální infrastrukturou zahrnuje další vrstvu emocionální inteligence. V tomto případě by si vzpomněl, že očkování psa bylo den předtím a upozornil by uživatele, že brzy po očkování by mohlo dojít k infekci, únavě nebo neočekávaným vedlejším účinkům.

Tímto způsobem by se umělá inteligence chovala více jako důvěryhodní poradci, kteří jsou ochotni zpochybnit, když jednoduše následování pokynů by mohlo vést k méně než optimálním výsledkům. Tímto způsobem je také více pravděpodobné, že se zvýší důvěra uživatelů, což povede ke zvýšenému použití.

Vybudujte příjem prostřednictvím důvěry, ne prostřednictvím cílení

Raní adopteři generativní umělé inteligence již měli přístup k největším hráčům na trhu po několik let zdarma. To by mohlo svést zakladatele B2C startupů do myšlení, že jediným způsobem, jak dosáhnout ziskovosti, je nabízet zdarma produkty, které vydělávají peníze prodejem údajů třetím stranám nebo prostřednictvím prodeje reklam.

Ale použití tohoto obchodního modelu by mohlo ohrozit již křehkou důvěru spotřebitelů, pokud uživatelé nejsou léčeni s mnohem vyšším stupněm respektu, péče a odpovědnosti. Vezměme si poslední příběh o aplikaci Meta AI, ve které uživatelé zdánlivě neschválně zveřejňovali velmi osobní dotazy na veřejném fóru.

Ne všechny produkty mají sociální prvky, ale tento příklad ilustruje úroveň osobních detailů, které uživatelé jsou ochotni sdílet s umělou inteligencí. A vzhledem k výzkum ukazuje, že chatboty jsou lépe schopny přesvědčit lidské protějšky, když jsou vybaveny osobními údaji, reklama v těchto platformách by mohla být prováděna eticky sporným způsobem – jako například případy Meta, které zobrazovaly reklamy na krásné produkty po teenagerech, kteří smazali selfies.

Místo toho by emocionální infrastruktura optimalizovala péči nad kliky. To nemusí být na úkor příjmů.

Umělá inteligence by mohla učinit tyto zkušenosti ještě účinnějšími tím, že pouze zobrazuje reklamy, které autenticky splňují skutečné potřeby uživatelů: deštník, když je na cestě špatné počasí, pojistné plány pro psy, které jsou v rozpočtu pro nového štěňátka, vitamín C doplňky na začátku příznaků nachlazení.

Ale skutečná péče není jen o přesném cílení – stejně jako v případě pláže výše, skutečná péče vyplňuje mezery, kterých si uživatelé nejsou vědomi. Například sledovač zdraví psa by mohl upozornit uživatele, že jeho konkrétní plemeno je náchylné k deficitu vitaminu B12 a proto doporučit značku krmiva, která by lépe splňovala potřeby psa. Odhalení těchto druhů přehlížených detailů je tam, kde může umělá inteligence skutečně zářit a přinést skutečnou hodnotu koncovým uživatelům.

Přibližně půl globálních spotřebitelů je ochotno sdílet osobní údaje, pokud to znamená lepší uživatelské zkušenosti, ale toto číslo kleslo na pouhých 15 % na trhu USA. Zakladatelé umělé inteligence mají skutečnou příležitost otočit tento názor prostřednictvím emocionálně inteligentního designu.

Navrhněte emocionální zábrany, které dávají lidem přednost

Nejdůležitějším aspektem emocionální infrastruktury je budování zábran, které chrání nejlepší zájmy uživatelů. To zahrnuje pečlivé výběr typu obsahu, který může být vygenerován umělou inteligencí, jasně označování vygenerovaného materiálu a navrhování jasných zásahů, když uživatelé vstupují do emocionálně rizikového území.

Například, když jsme budovali aplikaci pro péči o psy, moje tým a já jsme se rozhodli, že nebudeme používat umělou inteligenci pro žádný obsah související se zdravím nebo výživou. Riziko halucinací nebo nesprávných informací bylo příliš velké, takže jsme se rozhodli zaplatit profesionálnímu veterináři, aby napsal a kurátoroval tyto články. Zjevně to byla dražší volba, ale když jsou na hře skutečné životy, je to hodná investice.

Nejenže to dodává naší produktu důvěryhodnost, ale také udržuje naše uživatele a jejich psy v bezpečí. To je také to, co chtějí spotřebitelé – 79 % souhlasí, že použití umělé inteligence by mělo být zveřejněno společnostmi.

Nakonec je v nejlepším zájmu společností umělé inteligence navrhnout své produkty tak, aby jasně komunikovaly své omezení a směřovaly uživatele k lidským zásahům, když je to vhodné. Už byly případy emocionálně zranitelných uživatelů, kteří se obrátili k sebeújmům nebo sebevraždám kvůli nedostatku dostatečných zábran v chatbootech, a pochopitelně, tyto vedly k žalobám.

Ačkoli věřím, že budoucnost umělé inteligence v našich životech je jasná, musíme být upřímní o tom, kde jsou její slabosti a nesmíme dovolit tlakům rychlosti a konkurence, aby měly přednost před bezpečností. Pokud to uděláme, ztratíme důvěru spotřebitelů, které tvrdíme, že chceme sloužit. Ignorování této odpovědnosti poškozuje celý ekosystém.