Tre sätt att bygga “emotionell infrastruktur” i GenAI-produkter och vinna konsumenternas förtroende

I ett nyligt samtal med en potentiell investerare frågade han mig om jag visste vad den mest effektiva hemligheten till skalbarhet var. För mig var det inget problem – det är känslor. Investoren, å andra sidan, höll inte med. Liksom många i tech-världen trodde han att logik var skalbar, men känslor var det inte.

Även om vi diskuterade en stund, lyckades jag inte övertyga honom (eller vinna hans investering). Men jag har arbetat i över ett decennium inom sportmarknadsföring – du kommer aldrig att övertyga mig om att logik är det som fyller arenor med hysteriska fans. Det är allt känslor.

Medan vissa kanske invänder att att jämföra tech med sport är som att jämföra äpplen och apelsiner, skulle jag säga att tech kan lära sig några lärdomar från idrottsindustrin. För när det gäller så många tech-produkter, inte att ta hänsyn till mänskliga känslor är att arbeta mot oss. Denna korta syn är vad som ledde till de sämsta aspekterna av sociala medier i det förflutna och vad som för närvarande driver de mest skadliga rubrikerna om generativ AI idag.

Om tech-entreprenörer vill vinna konsumenternas förtroende för AI:s löfte och potential, måste vi designa produkter som är byggda med vad jag kallar “emotionell infrastruktur”. Här är hur.

Använd minne för att stödja, inte utnyttja

De omfattande funktionerna som erbjuds av AI-agenter kommer att bli möjliga tack vare förbättrade minnesförmågor – men det innebär också att lagra mer personlig data, och tyvärr har användardata historiskt sett i stor utsträckning använts för att försöka manipulera användare till att spendera pengar.

Att bygga AI med emotionell infrastruktur skulle istället utnyttja minnet av användardata för att fylla i de kunskapsluckor som användaren kanske inte inser att de saknar.

Till exempel, om en användare frågar en AI-agent vilka lokala stränder som är hundvänliga, som det är nu, kommer de flesta agenter att mata tillbaka en lista med stränder och kanske fråga om användaren också är intresserad av en lista med närliggande hundvänliga restauranger.

Men en agent som är utformad med emotionell infrastruktur inkorporerar ett tillagt lager av emotionell intelligens. I det här fallet skulle den komma ihåg att hundens vaccinering var dagen innan och meddela användaren att det kan leda till infektion, utmattning eller oväntade bieffekter om hunden tas in i vatten för tidigt.

På detta sätt kommer AI-agenter att bete sig mer som betrodda konsulter som är villiga att ifrågasätta när att bara följa order kan leda till mindre än optimala resultat. Att göra så är också mer sannolikt att bygga större användarförtroende, vilket leder till ökad användning.

Bygg intäkter genom förtroende, inte riktning

De tidiga genAI-adoptörerna har redan haft tillgång till de största spelarna på marknaden under flera år, utan kostnad. Detta kan fresta B2C AI-startup-grundare till att tro att den enda vägen till lönsamhet är en gratisprodukt som tjänar pengar genom att sälja data till tredjepartsleverantörer eller via annonsförsäljning.

Men att förlita sig till den här affärsmodellen kan äventyra det redan bräckliga konsumentförtroendet om användarna inte behandlas med en mycket högre nivå av respekt, omsorg och ansvar. Ta den senaste historien om Meta AI:s app, där användare tycktes oavsiktligt publicera mycket personliga frågor på en offentlig feed.

Inte alla produkter har sociala element, men det här exemplet visar den nivå av personlig information som användare är villiga att dela med AI-agenter. Och med tanke på forskning visar att chatbots är bättre på att övertyga mänskliga motparter när de är utrustade med personlig information, kan annonsering inom dessa plattformar göras på etiskt tvivelaktiga sätt – som till exempel Meta som serverar annonser för skönhetsprodukter efter att tonårsanvändare raderat selfies.

Istället skulle emotionell infrastruktur optimera för omsorg över klick. Det behöver inte komma på bekostnad av intäkter, heller.

AI kunde göra dessa upplevelser ännu mer effektiva genom att bara servera annonser som äkta möter verkliga användarbehov: en regnrock när dåligt väder är på väg, hundförsäkringsplaner inom budget för en ny valp, C-vitamintillskott vid de tidigaste tecknen på förkylningssymptom.

Men sann omsorg handlar inte bara om korrekt riktning – liknande strandexemplet ovan, sann omsorg fyller i luckor som användarna inte inser att de saknar. Till exempel kan en hundhälso-spårare varna en användare att deras specifika ras är benägen för B12-brist och rekommendera en märke av hundfoder som bättre tillgodoser hundens behov. Att avslöja sådana här förbisedda detaljer är där AI verkligen kan lysa och ge verkligt värde till slutanvändare.

Omkring hälften av världens konsumenter är villiga att dela personlig data om det innebär bättre användarupplevelser, men den siffran sjönk till bara 15% på den amerikanska marknaden. AI-entreprenörer har en verklig möjlighet att vända den uppfattningen genom emotionellt intelligent design.

Designa emotionella skyddsräcken som sätter människor först

Det viktigaste aspekten av emotionell infrastruktur är att bygga skyddsräcken som skyddar användarnas bästa intressen. Det innebär att noggrant välja den typ av innehåll som kan genereras av AI, tydligt märka AI-genererat material och designa tydliga ingripanden när användare är på väg in i emotionellt riskfylld terräng.

Till exempel, när vi byggde en hundvårdsapp, bestämde min team och jag att vi inte skulle använda AI för något hälso- eller näringsrelaterat innehåll. Risken för hallucinationer eller felinformation var för stor, så vi beslutade att betala en professionell veterinär för att skriva och kurera dessa artiklar. Det var förvisso ett dyrare val, men när liv är på spel, är det en värdig investering.

Det ger inte bara legitimitet till vår produkt, utan håller också våra användare och deras hundar säkra. Det är också vad konsumenterna vill ha – 79% är överens om att AI-användning bör avslöjas av företag.

Till slut är det i AI-företagens bästa intresse att designa sina produkter för att kommunicera sina begränsningar tydligt och peka användare mot mänskliga ingripanden när det är lämpligt. Det har redan funnits berättelser om emotionellt sårbara användare som vänt sig till självskada eller självmord på grund av bristen på tillräckliga skyddsräcken i chatbots, och förståeligt, har det lett till stämningar.

Även om jag tror att framtiden för AI i våra liv är ljus, måste vi vara ärliga om var dess svagheter för närvarande ligger och inte låta trycket från hastighet och konkurrens ta över prioritet över säkerhet. Om vi gör det, kommer vi att förlora konsumenternas förtroende som vi påstår att vi vill tjäna. Att ignorera det ansvaret skadar hela ekosystemet.