Tre måter å bygge «emotional infrastruktur» i GenAI-produkter og vinne forbrukertillit

I en nylig samtale med en potensiell investor, ble jeg spurt om jeg visste hva den mest effektive hemmeligheten til å skala opp var. For meg var dette en enkel sak – det er emosjon. Investor, derimot, latter og trodde at logikk var skalerbar, men emosjon var ikke.

Selv om vi diskuterte i en stund, klarte jeg ikke å endre hans mening (eller vinne hans investering). Men jeg har arbeidet i over ett tiår med sportsmarkedsføring – du vil aldri overbevise meg om at logikk er det som fyller stadioner med hysteriske fans. Det er all emosjon.

Noen kan hevde at å sammenligne teknologi med idrett er som å sammenligne epler og appelsiner, men jeg ville si at teknologi kan lære en eller to ting fra idrettsindustrien. For når det gjelder så mange teknologiske produkter, ikke å ta menneskelig emosjon med i betraktningen, arbeider det mot oss. Dette snævre perspektivet er hva som har ført til de verste aspektene av sosiale medier i fortiden, og hva som nå driver de mest skadelige overskrifter om generativ AI i dag.

Hvis teknologi-entrepreneurer ønsker å vinne forbrukertillit til løftene og potensialet i AI, må vi designe produkter som er bygget med hva jeg liker å kalle «emotional infrastruktur». Her er hvordan.

Bruk minne til å støtte, ikke utnytte

De omfattende funksjonene som lovet av AI-agenter vil bli mulig takket være forbedret minnekapasitet – men det innebærer også å lagre mer personlige data, og dessverre, har brukerdata historisk sett vært brukt til å prøve å manipulere brukerne til å bruke penger.

Å bygge AI med emotional infrastruktur, derimot, ville heller bruke minne av brukerdata til å fylle i kunnskapsgapene som brukeren kanskje ikke er klar over at de mangler.

For eksempel, hvis en bruker spør en AI-agent hvilke lokale strender som er venlige for hunder, vil de fleste agenter returnere en liste over strender og kanskje spørre om brukeren også er interessert i en liste over nærliggende restauranter som er venlige for hunder.

Men en agent designet med emotional infrastruktur inkorporerer et ekstra lag av emosjonell intelligens. I dette tilfelle ville det huske at hundens vaksinasjonsdato var dagen før og varsle brukeren om at å ta hunden i vann for tidlig kunne føre til infeksjon, utmattelse eller uventede bivirkninger.

På denne måten ville AI-agenter oppføre seg mer som troverdige konsulenter som er villige til å motsette seg når å bare følge ordre kunne føre til mindre enn optimale resultater. Dette er også mer sannsynlig å bygge større brukertillit, og føre til økt bruk.

Bygg inntekter gjennom tillit, ikke målretting

Tidlige genAI-adopterer har allerede hatt tilgang til de største aktørene på markedet i flere år nå, uten kostnad. Dette kan friste B2C AI-startup-grunnleggere til å tro at den eneste veien til lønnsomhet er et gratis produkt som tjener penger på å selge data til tredjepartsleverandører eller via annonse-salg.

Men å standardisere til denne forretningsmodellen kunne true allerede skjøre forbrukertillit hvis brukerne ikke behandles med en mye høyere nivå av respekt, omsorg og ansvar. Se på den siste historien om Meta AI-applikasjonen hvor brukerne syntes å være ufrivillig å poste svært personlige spørsmål på en offentlig feed.

Ikke alle produkter har sosiale elementer, men dette eksemplet illustrerer nivået av personlige detaljer brukerne er villige til å dele med AI-agenter. Og når forskning viser at chatboter er bedre i stand til å overtale menneskelige motparter når de er utstyrt med personlige detaljer, kan annonsering innenfor disse plattformene bli gjort på etisk tvilsomt vis – som eksempler på Meta som serverer annonser for skjønnhetsprodukter etter at tenåringsbrukerne slettet selfies.

I stedet ville emotional infrastruktur optimalisere for omsorg over klikk. Dette trenger ikke å komme på bekostning av inntekter, heller.

AI kunne gjøre disse erfaringene enda mer effektive ved kun å servere annonser som ekte møter virkelige brukerbehov: en regnjakke når dårlig vær er på vei, forsikringsplaner for hunder innenfor budsjett for en ny valp, vitamin C-supplementer ved de tidligste tegn på forkjølelsessymptomer.

Men ekte omsorg er ikke bare om nøyaktig målretting – likesom strand-eksemplet ovenfor, ekte omsorg fyller i de hullene brukerne ikke er klar over at de mangler. For eksempel, en helse-tracker for hunder kan varsle en bruker om at deres spesifikke rase er utsatt for vitamin B12-mangel og derfor anbefale en merkevare av hundemat som bedre møter hundens behov. Å avdekke slike oversette detaljer er der AI virkelig kan skille seg ut og bringe virkelig verdi til sluttbrukerne.

Om halvparten av verdens forbrukere er villige til å dele personlige data hvis det betyr bedre brukeropplevelser, men dette tallet falt til bare 15% i den amerikanske markedet. AI-entrepreneurer har en virkelig mulighet til å snu denne oppfatningen rundt gjennom emosjonelt intelligent design.

Design emosjonelle retningslinjer som setter mennesker først

Det viktigste aspektet av emotional infrastruktur er å bygge retningslinjer som beskytter brukernes beste interesser. Dette innebærer å velge nøye typen innhold som kan være AI-generert, å klart merke AI-generert materiale og å designe klare inngrep når brukerne er på vei inn i emosjonelt risikabelt territorium.

For eksempel, når vi bygget en app for hundehelse, bestemte mitt team og jeg oss for å ikke bruke AI for noen helse- eller ernæringsrelatert innhold. Risikoen for hallucinasjoner eller feilinformasjon var for stor, så vi bestemte oss for å betale en profesjonell veterinær for å skrive og kurere disse artiklene. Det var selvsagt et dyrere valg, men når liv er på spill, er det en verdig investering.

Ikke bare gir det kredibilitet til vårt produkt, men det holder også våre brukere og deres hunder trygge. Det er også hva forbrukerne ønsker – 79% er enige om at AI-bruk bør være åpenbart for selskaper.

Til slutt er det i beste interesse for AI-selskaper å designe sine produkter til å kommunisere sine begrensninger tydelig og peke brukerne mot menneskelige inngrep når det er nødvendig. Det har allerede vært historier om emosjonelt sårbare brukere som har vendt seg mot selvskade eller selvmord på grunn av mangelen på tilstrekkelige retningslinjer i chatboter, og forståelig, har dette ført til søksmål.

Selv om jeg tror at fremtiden for AI i våre liv er lys, må vi være ærlige om hvor svakhetene ligger i dag og ikke la presset fra hastighet og konkurranse få prioritet over sikkerhet. Hvis vi gjør det, vil vi tape tillit fra forbrukerne vi hevder å ville tjene. Å ignorere denne ansvarligheten skader hele økosystemet.