Michael Schrage, forfatter av Recommendation Engines (The MIT Press) – Intervju-serie

Michael Schrage er en forskningsfellow ved MIT Sloan School of Managements initiativ for den digitale økonomien. En ettertraktet ekspert på innovasjon, målinger og nettverkseffekter, er han forfatter av Hvem ønsker du at dine kunder skal bli? , Hypotesen til innovatøren: Hvordan billig eksperimenter er verdt mer enn gode ideer (MIT Press), og andre bøker.

I dette intervjuet diskuterer vi hans bok “Recommendation Engines” som utforsker historien, teknologien, forretnings- og sosiale effektene av online anbefalingsmotorer.

Hva inspirerte deg til å skrive en bok om et så smalt emne som “Anbefalingsmotorer”?

Rammen rundt din spørsmål avslører spillet ….. Når jeg ser seriøst på de digitale teknologiene og berøringsflatene som virkelig påvirker menneskers liv over hele verden, finner jeg nesten alltid en ‘anbefalingsmotor’ som driver beslutninger. Spotifys anbefalinger bestemmer musikken og sangene folk hører; TikToks anbefalingsmotorer definerer ‘virusvideoene’ folk setter sammen og deler; Netflixs anbefalinger er arkitekturert for å fasilitere ‘binge-seing’ og ‘binge-seere’; Google Maps og Waze anbefaler de beste og / eller raskeste og / eller enkleste måtene å komme dit på; Tinder og Match.com anbefaler hvem du kanskje liker å være med eller, du vet, ‘være’ med; Stitch Fix (SFIX ) anbefaler hva du kanskje ønsker å ha på deg som gjør deg ‘deg’; Amazon (AMZN ) vil anbefale hva du virkelig bør kjøpe; Akademia og ResearchGate anbefaler den mest relevante forskningen du bør være oppdatert på …. Jeg kunne fortsette – og gjør det i boken – men både teknisk og konseptuelt er ‘anbefalingsmotorer’ motsatsen til ‘smalt’. Deres poeng og formål dekker hele menneskelige ønsker og beslutninger.

Et sitat i din bok er som følger: “Anbefalinger ikke bare om hva vi kanskje kan kjøpe, men om hvem vi kanskje ønsker å bli”. Hvordan kan dette bli misbrukt av bedrifter eller dårlige aktører?

Det er ingen tvil eller tvil om at anbefalinger kan bli misbrukt. Den ‘klassiske’ klassiske spørsmålet – Cui bono? – ‘Hvem har nytte?’ – gjelder. Er anbefalingene virkelig ment å være til nytte for mottakeren eller enheten / bedriften som gir anbefalingen? Like lett som det er for en kollega, bekjent eller ‘venn’ som kjenner deg å gi råd som ikke er i dine beste interesse, er det en digital snap for ‘data-drevne’ anbefalinger å foreslå at du kjøper noe som øker ‘deres’ fortjeneste på bekostning av ‘din’ nytte eller tilfredshet. På ett nivå er jeg svært bekymret for muligheten – og virkeligheten – av misbruk. På den andre siden, tror jeg at de fleste menneskene innser ganske raskt når de blir utnyttet eller manipulert av mennesker eller teknologi. Bedrag meg en gang, skam på deg; bedrag meg to eller tre ganger, skam på meg. Anbefaling er ett av disse spesielle områdene hvor det er smart å være etisk og etisk å være smart.

Er ekko-kamre hvor brukerne bare får servert hva de ønsker å se, uavhengig av nøyaktighet, et samfunnsproblem?

Eli Pariser myntet den utmerkede frasen ‘filterboblen’ for å beskrive dette fenomenet og patologien. Jeg er i stor grad enig i hans perspektiv. I virkeligheten tror jeg det nå er rettferdig å si at ‘bekreftelsesforvrengning’ – ikke sex – er det som virkelig driver de fleste voksenmenneskers atferd. De fleste menneskene søker etter enighet de fleste gangene. Anbefalinger må navigere en forsiktig kurs mellom nyskaping, mangfold, relevans og overraskelse fordi – mens for mye bekreftelse er kjedelig og redundant – for mye nyskaping og utfordring kan irritere og fornærme. Så, ja, jakten på bekreftelse er både et personlig og et samfunnsmessig problem. Det sagt, tror jeg at anbefalinger tilbyr en relativt ubesværet måte å bringe alternative perspektiver og valg til menneskers oppmerksomhet., Men jeg undrer meg faktisk om regulering og juridisk gjennomgang vil øke definere anbefalingens fremtid.

Filterbobler begrenser nå eksponeringen for motsigelser, motsigelser og / eller utfordrende / synspunkter. Bør det være noen type regulering som avskrekker denne type over-filtrering?

Jeg foretrekker lett-til-heavy-handed regulering. De fleste plattformene jeg ser gjør en ganske dårlig jobb med å merke ‘falske nyheter’ eller etablere kvalitetskontroll. Jeg ville like å se mer innovative mekanismer utforsket: sveip til venstre for en motsatt synspunkt; innlemme lenker som utdyper historier eller videoer på måter som dypper innforståelse eller dekontekstualiserer ‘forvrengningen’ som bekreftes. Men la oss være klare: valgarkitekturer som ‘avskrekker’ eller ‘skaper’ friksjoner krever forskjellige data og design-sensibiliteter enn de som ‘forbyr’ eller ‘sensurerer’ eller ‘forhinder.’ Jeg tror dette er et svært hardt problem for mennesker og maskiner alike. Det som gjør det særlig hardt er at mennesker – i virkeligheten – er mindre forutsigbare enn mange psykologer og sosiale forskere tror. Det er mange konkurrerende ‘teorier om sinnet’ og ‘byrå’ disse dager. Jo mer personlige anbefalinger og anbefalinger blir, jo mer utfordrende og anakronistiske ‘en størrelse passer alle’ -tilnærminger blir. Det er en av mange grunner til at dette området interesserer meg så mye.

Bør sluttbrukere og samfunnet kreve forklarbarhet for hvorfor bestemte anbefalinger gjøres?

Ja, ja og ja. Ikke bare ‘forklarbarhet’, men ‘synlighet’, ‘gjennomsiktighet’ og ‘tolkbarhet’ også. Mennesker bør ha retten til å se og forstå teknologiene som brukes til å påvirke dem. De bør kunne verdsette algoritmene som brukes til å skubbe og overtale dem. Tenk på dette som den algoritmiske motparten til ‘informert samtykke’ i medisin. Pasienter har retten til å få – og leger har plikten til å gi – grunnene og rasjonale for å velge ‘denne’ kursen til ‘den’ en. I virkeligheten argumenterer jeg for at ‘informert samtykke’ – og dens fremtid – i medisin og helsevesen tilbyr en god mal for fremtiden til ‘informert samtykke’ for anbefalingsmotorer.

Tror du det er mulig å “hake” på menneskehjernen ved hjelp av anbefalingsmotorer?

Hjernen eller sinnet? Ikke spøk. Er vi materielt – elektrisk og kjemisk – hakker på neuroner og lapper? Eller bruker vi mindre invasiv sansestimuli til å fremkalle forutsigbare atferd? Bluntly, tror jeg at noen hjerner – og noen sinn – er hakbare noen ganger. Men tror jeg at mennesker er bestemt til å bli ‘kjøtt-dukker’ som danser til anbefalingens toner? Jeg gjør det ikke. Se, noen mennesker blir avhengige. Noen mennesker mister autonomi og selvkontroll. Og, ja, noen mennesker ønsker å utnytte andre. Men overveiende bevis gjør meg ikke bekymret for ‘våpeniseringen av anbefaling.’ Jeg er mer bekymret for misbruk av tillit.

Et sitat i en forskningsrapport av Jason L. Harman og Jason L. Harman sier følgende: “Tilliten som mennesker plasserer på anbefalinger er nøkkel til suksessen for anbefalingsystemer”. Tror du at sosiale medier har forrådt denne tilliten?

Jeg tror på det sitatet. Jeg tror at tillit er, i virkeligheten, nøkkel. Jeg tror at smarte og etiske mennesker virkelig forstår og verdsetter viktigheten av tillit. Med unnskyld til Churchills kommentar om mot, er tillit dyden som muliggjør sunn menneskelig tilknytning og vekst. Det sagt, er jeg komfortabel med å argumentere for at de fleste sosiale medier-plattformene – ja, Twitter og Facebook (META ), jeg ser på dere! – ikke er bygget rundt eller basert på tillit. De er bygget rundt å fasilitere og skalerer selv-uttrykk. Evnen til å uttrykke seg selv i skala har bokstavelig talt ingenting å gjøre med å skape eller bygge tillit. Det var ingenting å forråde. Med anbefaling, er det.

Du uttrykker din tro på at fremtiden for anbefalingsmotorer vil inneholde de beste anbefalingene for å forbedre ens sinn. Er det noen anbefalingsmotorer som for tiden arbeider med et slikt system?

Ikke ennå. Jeg ser på det som det neste trillion-dollarmarkedet. Jeg tror at Amazon og Google og Alibaba og Tencent ønsker å komme dit. Men, hvem vet, det kan være en entreprenør-innovatør som overrasker oss alle: kanskje en Spotify som inkorporerer mindfulness og akkurat-i- tid whispered ‘råd’ kan være den sinn-forbedrende gjennombruddet.

Hvordan ville du sammenfatte hvordan anbefalingsmotorer muliggjør at brukerne bedre forstår seg selv?

Anbefalinger er om gode valg …. noen ganger, selv store valg. Hva er valgene du omfavner? Hva er valgene du ignorerer? Hva er valgene du avviser? Å ha motet til å spørre – og svare – disse spørsmålene gir deg bemerkelsesverdig innsikt i hvem du er og hvem du kanskje ønsker å bli. Vi er valgene vi gjør; hva som påvirker disse valgene har bemerkelsesverdig innvirkning og innflytelse på oss.

Er det noe annet du ønsker å dele om din bok?

Ja – i første og siste analyse, er min bok om fremtiden for råd og fremtiden for hvem du ‘virkelig’ ønsker å bli. Det er om fremtiden for ‘deg’ – din ‘selv.’ Jeg tror at det er både et spennende og viktig emne, ikke sant?

Takk for at du tok deg tid til å dele dine synspunkter.

Til våre lesere anbefaler vi denne boken, den er nå tilgjengelig på Amazon i Kindle eller paperback. Du kan også se flere bestillingsalternativer på MIT Press-siden.