Tre måder at bygge ’emotionel infrastruktur’ i GenAI-produkter og vinde forbrugerens tillid

I en recent samtale med en potentiel investor blev jeg spurgt, om jeg vidste, hvad den mest effektive hemmelighed til at skala op var. For mig var det en no-brainer – det er emotion. Investoren, derimod, lo. Ligesom så mange i tech-verdenen troede han, at logik var skalerbar, men emotion var det ikke.

Selvom vi diskuterede det i en rum tid, ændrede jeg ikke hans mening (eller vandt hans investering). Men jeg har arbejdet i mere end et årti med sportsmarkedsføring – du vil aldrig overbevise mig om, at logik er det, der fylder stadioner med hysteriske fans. Det er alt sammen emotion.

Nogle måske vil modsige, at sammenligning af tech med sport er som at sammenligne æbler og oranger, men jeg ville sige, at tech kunne lære en lære eller to fra sportsindustrien. For når det kommer til så mange tech-produkter, ikke at tage menneskelig emotion i betragtning er arbejde imod os. Denne snævre perspektiv er det, der har ført til de værste aspekter af sociale medier i fortiden, og det er det, der i øjeblikket driver de mest skadefulde overskrifter omkring generativ AI i dag.

Hvis tech-entrepreneurs vil vinde forbrugerens tillid i løftet og potentialet i AI, må vi designe produkter, der er bygget med, hvad jeg kalder “emotionel infrastruktur.” Her er hvordan.

Brug hukommelse til at støtte, ikke udnytte

De omfattende funktioner, der er lovet af AI-agenter, vil blive muliggjort takket være forbedrede hukommelsesfunktioner – men det indebærer også at gemme mere personlige data, og desværre, har brugerdata historisk set været udnyttet til at forsøge at manipulere brugere til at bruge penge.

At bygge AI med emotionel infrastruktur ville derimod udnytte hukommelsen af brugerdata til at udfylde de vidensgapper, som brugeren måske ikke er klar over, at de mangler.

For eksempel, hvis en bruger spørger en AI-agent, hvilke lokale strande er venligsindede over for hunde, vil agenten, som det er i dag, sandsynligvis returnere en liste over strande og måske spørge, om brugeren også er interesseret i en liste over nærliggende restauranter, der er venligsindede over for kæledyr.

Men en agent designet med emotionel infrastruktur inkorporerer et ekstra lag af emotionel intelligens. I dette tilfælde ville det huske, at hundens vaccinationsaftale var dagen før, og underrette brugeren om, at det at tage hunden i vand for tidligt kunne føre til infektion, udmattelse eller uventede bivirkninger.

På denne måde ville AI-agenter opføre sig mere som tillidsværdige rådgivere, der er villige til at modsætte sig, når blot at følge ordrer kunne føre til mindre end optimale resultater. Dette er også mere sandsynligt at bygge større brugertillid, hvilket vil føre til øget brug.

Bygge indtægt gennem tillid, ikke målretning

De tidlige adopterer af genAI har allerede haft adgang til de største spillere på markedet i årevis, gratis. Dette kan friste B2C AI-startup-chefer til at tro, at den eneste vej til profitabilitet er et gratis produkt, der tjener penge ved at sælge data til tredjeparts-virksomheder eller via annonce-salg.

Men at falde tilbage på denne forretningsmodel kunne true allerede sårbar forbrugertillid, hvis brugere ikke behandles med en meget højere niveau af respekt, omsorg og ansvar. Tag den seneste historie om Meta AI’s app, hvor brugere syntes at ufrivilligt postede meget personlige spørgsmål på en offentlig feed.

Ikke alle produkter har sociale elementer, men dette eksempel illustrerer niveauet af personlige detaljer, som brugere er villige til at dele med AI-agenter. Og når forskning viser, at chatbots er bedre til at overtale menneskelige modparter, når de er udstyret med personlige detaljer, kan annoncering inden for disse platforme være gjort på etisk tvivlsomt vis – som eksempler på, at Meta server annoncer for skønhedsprodukter efter, at teenage-brugere slettede selfies.

I stedet ville emotionel infrastruktur optimere for omsorg over klik. Dette behøver ikke at komme på bekostning af indtægt.

AI kunne gøre disse oplevelser endnu mere effektive ved kun at servere annoncer, der ægte møder brugernes reelle behov: en regnfrakke, når dårligt vejr er på vej, forsikringsplaner for kæledyr inden for budget for en ny killling, vitamin C-supplementer ved de tidligste tegn på forkølelsessymptomer.

Men sand omsorg handler ikke kun om præcis målretning – ligesom strand-eksemplet ovenfor, sand omsorg udfylder de huller, som brugere ikke er klar over, at de mangler. For eksempel kan en sundheds-tracker for kæledyr underrette en bruger om, at deres bestemte race er tilbøjelig til vitamin B12-mangel og derfor anbefale en mærke af kibble, der bedre møder hundens behov.

Omkring halvdelen af verdens forbrugere er villige til at dele personlige data, hvis det betyder bedre brugeroplevelser, men dette tal faldt til kun 15% på det amerikanske marked. AI-entrepreneurs har en reel mulighed for at ændre denne opfattelse gennem emotionelt intelligent design.

Design emotionelle sikkerhedsforanstaltninger, der sætter mennesker først

Det mest kritiske aspekt af emotionel infrastruktur er at bygge sikkerhedsforanstaltninger, der beskytter brugernes bedste interesser. Dette indebærer omhyggeligt at vælge den type indhold, der kan være AI-genereret, tydeligt at mærke AI-genereret materiale og at designe tydelige interventioner, når brugere bevæger sig ind i emotionelt risikabelt territorium.

For eksempel, da jeg byggede en app til kæledyrspleje, besluttede mit hold og jeg, at vi ikke ville bruge AI til noget sundheds- eller ernæringsrelateret indhold. Risikoen for hallucinationer eller misinformationsfejl var for stor, så vi besluttede at betale en professionel dyrlæge for at skrive og kuraterer disse artikler. Det var naturligvis en dyrere valg, men når liv er på spil, er det en værdig investering.

Det giver ikke kun troværdighed til vores produkt, men det holder også vores brugere og deres kæledyr sikre. Det er også, hvad forbrugere ønsker – 79% er enige om, at AI-brug skal afsløres af virksomheder.

Til sidst er det i bedste interesse for AI-virksomheder at designe deres produkter til at kommunikere deres begrænsninger tydeligt og at pege brugere i retning af menneskelige interventioner, når det er passende. Der har allerede været historier om emotionelt sårbare brugere, der er vendt til selvskade eller selvmord på grund af manglen på tilstrækkelige sikkerhedsforanstaltninger i chatbots, og forståeligt, har det ført til sager.

Selvom jeg tror, at fremtiden for AI i vores liv er lys, må vi være ærlige om, hvor svaghederne ligger i øjeblikket, og ikke lade presset fra hastighed og konkurrence tage prioritet over sikkerhed. Hvis vi gør, vil vi miste tilliden fra de forbrugere, vi påstår at ville tjene. At ignorere denne ansvar skader hele økosystemet.