Michael Schrage, forfatter av Recommendation Engines (The MIT Press) – Intervju-serie

Michael Schrage er en forskningsfellow ved MIT Sloan School of Management’s initiativ for den digitale økonomien. En ettertraktet ekspert på innovasjon, metrikker og nettverkseffekter, er han forfatter av Who Do You Want Your Customers to Become?, The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press), og andre bøker.

I dette intervjuet diskuterer vi hans bok “Recommendation Engines” som utforsker historien, teknologien, forretnings- og samfunnsimpakt av online-anbefalingsmotorer.

Hva inspirerte deg til å skrive en bok om et så smalt emne som “Recommendation Engines”?

Rammen rundt din spørsmål avslører spillet….. Når jeg ser seriøst på de digitale teknologiene og berøringspunktene som virkelig påvirker menneskers liv over hele verden, finner jeg nesten alltid en ‘anbefalingsmotor’ som driver beslutning. Spotify’s anbefalere bestemmer musikken og sangene folk hører; TikTok’s anbefalingsmotorer definerer de ‘viruslignende videoene’ folk setter sammen og deler; Netflix’s anbefalere er utformet for å fasilitere ‘binge-seing’ og ‘binge-seere’; Google Maps og Waze anbefaler de beste og/eller raskeste og/eller enkleste måtene å komme dit; Tinder og Match.com anbefaler hvem du kanskje liker å være med eller, du vet, ‘være’ med; Stitch Fix anbefaler hva du kanskje ønsker å ha på deg som gjør deg ‘deg’; Amazon vil anbefale hva du virkelig bør kjøpe; Academia og ResearchGate vil anbefale den mest relevante forskningen du bør være oppdatert på…. Jeg kunne fortsette – og gjør det, i boken – men både teknisk og konseptuelt, er ‘anbefalingsmotorer’ motsatsen til ‘smalt’. Deres poeng og formål dekker hele menneskelige ønsker og beslutninger.

Et sitat i din bok er som følger: “Anbefalere er ikke bare om hva vi kanskje kan kjøpe, men om hvem vi kanskje ønsker å bli”. Hvordan kan dette misbrukes av bedrifter eller dårlige aktører?

Det er ingen tvil eller tvil om at anbefaling kan misbrukes. Den ‘klassiske’ klassiske spørsmålet – Cui bono? – ‘Hvem har nytte?’ – gjelder. Er anbefalingene virkelig ment å være til nytte for mottakeren eller enheten/bedriften som gjør anbefalingen? Likevel som det er lett for en kollega, bekjent eller ‘venn’ som kjenner deg til å tilby råd som ikke er i dine beste interesser, er det en digital snap for ‘data-drevne’ anbefalere å foreslå at du kjøper noe som øker ‘deres’ fortjeneste på bekostning av ‘din’ nytte eller tilfredshet. På ett nivå er jeg svært bekymret for muligheten – og virkeligheten – av misbruk. På den andre siden, tror jeg at de fleste mennesker innser ganske raskt når de blir utnyttet eller manipulert av mennesker eller teknologi. Bedrag meg en gang, skam på deg; bedrag meg to eller tre ganger, skam på meg. Anbefaling er ett av de spesielle domenene der det er smart å være etisk og etisk å være smart.

Er ekko-kamre der brukerne bare får servert hva de ønsker å se, uansett nøyaktighet, et samfunnsproblem?

Eli Pariser myntet den utmerkede frasen ‘filterboblen’ for å beskrive denne fenomenet og patologien. Jeg er i stor grad enig i hans perspektiv. I virkeligheten tror jeg nå at det er rettferdig å si at ‘bekreftelsesforvrengning’ – ikke sex – er hva som virkelig driver de fleste voksnes atferd. De fleste mennesker søker etter enighet de fleste gangene. Anbefalere må navigere en forsiktig kurs mellom nyskaping, mangfold, relevans og tilfeldighet, fordi – selv om for mye bekreftelse er kjedelig og redundant – for mye nyskaping og utfordring kan irritere og fornærme. Så, ja, jakten på bekreftelse er både et personlig og et samfunnsproblem. Det sagt, tror jeg at anbefalere tilbyr en relativt uanstrengt måte å bringe alternative perspektiver og valg til menneskers oppmerksomhet., Men jeg undrer meg faktisk om regulering og juridisk gjennomgang vil øke definere anbefalingsframtiden.

Filterbobler begrenser nå eksponeringen av motsigelser, motstridende og/eller utfordrende/synspunkter. Bør det være en type regulering som oppmuntre til å begrense denne type over-filtering?

Jeg foretrekker lett-berørings- til tung-hånd-regulering. De fleste plattformene jeg ser, gjør en ganske dårlig jobb med å merke ‘falske nyheter’ eller etablere kvalitetskontroll. Jeg ville like å se mer innovative mekanismer utforsket: sveip til venstre for en motsatt synspunkt; innlemme lenker som forklarer historier eller videoer på måter som dypper innforståelse eller dekontekstualiserer ‘forvrengningen’ som bekreftes. Men la oss være klare: valg-arkitekturer som ‘oppmuntre’ eller skaper ‘friksjoner’ krever forskjellige data og design-følsomheter enn de som ‘forbyr’ eller ‘sensurerer’ eller ‘forhinder.’ Jeg tror dette er et svært vanskelig problem for mennesker og maskiner alike. Hva gjør det spesielt vanskelig er at menneskelige vesener – i virkeligheten – er mindre forutsigbare enn mange psykologer og samfunnsforskere tror. Det er mange konkurrerende ‘teorier om sinnet’ og ‘agent’ disse dagene. Jo mer personlige anbefalinger og anbefalere blir, jo mer utfordrende og anakronistiske ‘en størrelse passer alle’-tilnærminger blir. Det er en av mange grunner til at dette domenet interesserer meg så.

Bør sluttbrukere og samfunnet kreve forklarbarhet for hvorfor bestemte anbefalinger gjøres?

Ja, ja og ja. Ikke bare ‘forklarbarhet’, men ‘synlighet’, ‘gjennomsiktighet’ og ‘tolkbarhet’ også. Mennesker bør ha retten til å se og forstå teknologiene som påvirker dem. De bør kunne verdsette algoritmene som brukes til å påvirke og overbevise dem. Tenk på dette som den algoritmiske motparten til ‘informert samtykke’ i medisin. Pasienter har retten til å få – og leger har plikten til å gi – grunnene og rasjonalene for å velge ‘denne’ kursen til ‘den’ en. Faktisk, argumenterer jeg for at ‘informert samtykke’ – og dens fremtid – i medisin og helsevesen tilbyr en god mal for fremtiden til ‘informert samtykke’ for anbefalingsmotorer.

Tror du det er mulig å “hake” det menneskelige hjernen ved hjelp av anbefalingsmotorer?

Hjernen eller sinnet? Ikke spøk. Er vi materielt – elektrisk og kjemisk – hakker neuroner og lapper? Eller bruker vi mindre invasive sanselige stimuli for å fremkalle forutsigbare atferd? Bluntly, tror jeg at noen hjerner – og noen sinn – er hakbare noen ganger. Men tror jeg at mennesker er bestemt til å bli ‘kjøtt-marionetter’ som danser til anbefalings-toner? Jeg gjør det ikke. Se, noen mennesker blir avhengige. Noen mennesker mister autonomi og selvkontroll. Og, ja, noen mennesker ønsker å utnytte andre. Men bevisene gjør meg ikke bekymret for ‘våpenisering av anbefaling.’ Jeg er mer bekymret for misbruk av tillit.

Et sitat i en forskningsrapport av Jason L. Harman og Jason L. Harman sier følgende: “Tilliten som mennesker plasserer på anbefalinger er nøkkel til suksessen for anbefalingssystemer”. Tror du at sosiale medier har forrådt denne tilliten?

Jeg tror på det sitatet. Jeg tror at tillit er, faktisk, nøkkel. Jeg tror at smarte og etiske mennesker virkelig forstår og verdsetter viktigheten av tillit. Med unnskyld til Churchills kommentar om mot, er tillit den dyden som muliggjør sunn menneskelig tilknytning og vekst. Det sagt, er jeg komfortabel med å argumentere for at de fleste sosiale medie-plattformene – ja, Twitter og Facebook, jeg ser på dere! – ikke er bygget rundt eller basert på tillit. De er bygget rundt å fasilitere og skalerer selv-uttrykk. Evnen til å uttrykke seg selv i skala har bokstavelig talt ingenting å gjøre med å skape eller bygge tillit. Det var ingenting å forråde. Med anbefaling, er det.

Du uttrykker din tro på at fremtiden for anbefalingsmotorer vil inneholde de beste anbefalingene for å forbedre en persons sinn. Er det noen anbefalingsmotorer som for tiden arbeider med et slikt system?

Ikke ennå. Jeg ser på det som det neste trillion-dollarmarkedet. Jeg tror at Amazon og Google og Alibaba og Tencent ønsker å komme dit. Men, hvem vet, det kan være en entreprenøriell innovatør som overrasker oss alle: kanskje en Spotify som inkorporerer mindfulness og just-in-time hvisket ‘råd’ kan være det sinn-forbedrende gjennombruddet.

Hvordan ville du sammenfatte hvordan anbefalingsmotorer muliggjør brukerne å forbedre seg selv?

Anbefalinger er om gode valg…. noen ganger, sogar store valg. Hva er valgene du omfavner? Hva er valgene du ignorerer? Hva er valgene du avviser? Å ha motet til å spørre – og svare – på disse spørsmålene gir deg bemerkelsesverdig innsikt i hvem du er og hvem du kanskje ønsker å bli. Vi er valgene vi gjør; hva som påvirker disse valgene har bemerkelsesverdig innvirkning og innflytelse på oss.

Er det noe annet du ville like å dele om din bok?

Ja – i den første og siste analysen, er min bok om fremtiden for råd og fremtiden for hvem du ‘virkelig’ ønsker å bli. Det er om fremtiden for ‘deg’ – ditt ‘selv.’ Jeg tror at det er både et spennende og viktig emne, ikke sant?

Takk for at du tok tiden til å dele dine synspunkter.

Til våre lesere anbefaler jeg sterkt denne boken, den er nå tilgjengelig på Amazon i Kindle eller paperback. Du kan også se flere bestillingsalternativer på MIT Press-siden.