Michael Schrage, forfatter til Recommendation Engines (The MIT Press) – Interviewserie

Michael Schrage er en forskningsmedarbejder ved MIT Sloan School of Managements initiativ om den digitale økonomi. Som en meget efterspurgt ekspert på innovation, metrikker og netværkseffekter er han forfatter til Hvem vil du have, at dine kunder skal blive?, The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press) og andre bøger.

I denne interview diskuterer vi hans bog “Recommendation Engines“, som udforsker historien, teknologien, forretnings- og sociale effekter af online-anbefalingsmotorer.

Hvad inspirerede dig til at skrive en bog om et så snævert emne som “Recommendation Engines”?

Rammen omkring dit spørgsmål afslører spillet ….. Når jeg så alvorligt på de digitale teknologier og berøringspunkter, der virkelig påvirker menneskers liv over hele verden, fandt jeg næsten altid en ‘anbefalingsmotor’ bag beslutningen. Spotifys anbefalinger bestemmer, hvilken musik og sange folk hører; TikToks anbefalingsmotorer definerer de ‘viralet videoer’, folk samler og deler; Netflixs anbefalinger er arkitekteret til at facilitere ‘binge-watching’ og ‘binge-seere’; Google Maps og Waze anbefaler den bedste og/eller hurtigste og/eller enkleste måde at komme dertil; Tinder og Match.com anbefaler, hvem du måske kunne lide at være sammen med eller, du ved, ‘være’ sammen med; Stitch Fix anbefaler, hvad du måske vil have på, for at gøre dig til ‘dig’; Amazon vil anbefale, hvad du virkelig skal købe; Academia og ResearchGate vil anbefale den mest relevante forskning, du skal være opdateret på …. Jeg kunne fortsætte – og gør det i bogen – men både teknisk og konceptuelt er ‘anbefalingsmotorer’ det modsatte af ‘snævert’. Deres formål og formål dækker hele spektret af menneskeligt ønske og beslutning.

Et citat i din bog lyder således: “Anbefalinger handler ikke kun om, hvad vi måske kan købe, men om, hvem vi måske vil være”. Hvordan kan dette misbruges af virksomheder eller dårlige aktører?

Der er ingen tvivl eller tvivl om, at anbefalinger kan misbruges. Den ‘klassiske’ klassiske spørgsmål – Cui bono? – ‘Hvem har gavn?’ – gælder. Er anbefalingerne virkelig tiltænkt at gavne modtageren eller den enhed/virksomhed, der laver anbefalingen? Ligesom det er let for en kollega, bekendt eller ‘ven’, der kender dig, at tilbyde råd, der ikke er i din bedste interesse, er det en digital snap for ‘data-drevne’ anbefalinger at foreslå, at du køber noget, der øger ‘deres’ profit på bekostning af ‘din’ nytte eller tilfredshed. På ét niveau er jeg meget bekymret over det potentielle – og den faktiske – misbrug. På den anden side tror jeg, at de fleste mennesker hurtigt finder ud af, når de bliver udnyttet eller manipuleret af mennesker eller teknologi. Føl mig én gang, skam på dig; føl mig to eller tre gange, skam på mig. Anbefaling er et af de særlige områder, hvor det er klogt at være etisk og etisk at være klogt.

Er ekko-kamre, hvor brugere blot får vist, hvad de vil se, uanset nøjagtighed, et samfundsmæssigt problem?

Eli Pariser opfandt den fremragende frase ‘filterboblen’ for at beskrive dette fænomen og patologi. Jeg er stort set enig med hans perspektiv. I virkeligheden tror jeg, at det nu er rimeligt at sige, at ‘bekræftelsesforvrængning’ – og ikke sex – er, hvad der virkelig driver de fleste voksnes adfærd. De fleste mennesker søger efter enighed det meste af tiden. Anbefalinger må navigere en forsigtig kurs mellem nyt, diversitet, relevans og tilfældighed, fordi – selvom for meget bekræftelse er kedeligt og redundant – for meget nyt og udfordring kan irritere og krænke. Så, ja, jagten på bekræftelse er både et personligt og samfundsmæssigt problem. Det sagde, tilbyder anbefalinger en relativt ubesværet måde at bringe alternative perspektiver og muligheder til folks opmærksomhed. Dog tvivler jeg på, om regulering og juridisk gennemgang vil definerer anbefalingsfremtiden.

Filterbobler begrænser i øjeblikket eksponeringen af modsætningsfulde, modsætningsfulde og/eller udfordrende/synspunkter. Skal der være en form for regulering, der afværger denne type over-filtering?

Jeg foretrækker let-til-heavy-handed regulativt tilsyn. De fleste platforme, jeg ser, gør en ret dårlig job med at mærke ‘falske nyheder’ eller etablere kvalitetskontrol. Jeg ville gerne se mere innovative mekanismer udforsket: swipe til venstre for en modsætningsfuld holdning; indsæt links, der udvikler historier eller videoer på måder, der dykker dybere i forståelsen eller dekontekstualiserer ‘forvrængningen’, der bekræftes. Men lad os være klare: valgarkitekturer, der ‘afværger’ eller skaber ‘friktion’, kræver anderledes data og design-sansninger end dem, der ‘forbyder’ eller ‘censurerer’ eller ‘forhinder’. Jeg tror, det er et meget svært problem for både mennesker og maskiner. Det, der gør det særligt svært, er, at mennesker – i virkeligheden – er mindre forudsigelige, end mange psykologer og samfundsvidenskabsfolk tror. Der er mange konkurrerende ‘teorier om sindet’ og ‘agentur’ i disse dage. Jo mere personlige anbefalinger og anbefalingsmotorer bliver, jo mere udfordrende og anakronistiske bliver ‘én størrelse passer alle’-tilgange.

Skal slutbrugere og samfund kræve forklarbarhed om, hvorfor bestemte anbefalinger gives?

Ja, ja og ja. Ikke kun ‘forklarbarhed’, men også ‘synlighed’, ‘gennemsigtighed’ og ‘fortolkbarhed’. Mennesker skal have ret til at se og forstå de teknologier, der påvirker dem. De skal kunne værdsætte algoritmerne, der bruges til at påvirke og overtale dem. Tænk på dette som den algorithmiske modpart til ‘informerede samtykke’ i medicin. Patienter har ret til at få – og læger har pligten til at give – årsagerne og begrundelserne for at vælge ‘denne’ kurs i stedet for ‘den’. Jeg argumenterer faktisk for, at ‘informerede samtykke’ – og dens fremtid – i medicin og sundhedspleje tilbyder en god skabelon for fremtiden for ‘informerede samtykke’ for anbefalingsmotorer.

Tror du, det er muligt at “hække” det menneskelige hjerte ved hjælp af anbefalingsmotorer?

Hjernen eller sindet? Ikke for sjov. Bliver vi fysisk – elektrisk og kemisk – hækket neuroner og lobes? Eller bruger vi mindre invasive sanselige stimuli til at fremkalde forudsigelige adfærd? Blunt, tror jeg, at nogle hjerner – og nogle sind – kan hækkes nogle gange. Men tror jeg, at mennesker er dømt til at blive ‘kød-marionetter’, der danser til anbefalingsmotorernes toner? Jeg gør ikke. Se, nogle mennesker bliver afhængige. Nogle mennesker mister selvkontrol. Og ja, nogle mennesker vil udnytte andre. Men bevisernes overvægt gør mig ikke bekymret for ‘anbefalingsmotorernes våbenisering’. Jeg er mere bekymret for misbrug af tillid.

Et citat i en forskningsrapport af Jason L. Harman og Jason L. Harman lyder således: “Tilliden, som mennesker placerer i anbefalinger, er nøgle til succesen for anbefalingssystemer”. Tror du, at sociale medier har svigtet denne tillid?

Jeg tror på det citat. Jeg tror, at tillid er nøglen. Jeg tror, at kloge og etiske mennesker virkelig forstår og værdsætter tillidens betydning. Med undskyldning til Churchills kommentar om mod, er tillid den dyd, der muliggør sund menneskelig forbindelse og vækst. Det sagde, er jeg komfortabel med at argumentere for, at de fleste sociale medie-platforme – ja, Twitter og Facebook, jeg kigger på jer! – ikke er bygget op om eller baseret på tillid. De er bygget op om at facilitere og skala self-udtryk. Evnen til at udtrykke sig selv i skala har litterært intet at gøre med at skabe eller bygge tillid. Der var intet at svigte. Med anbefaling, er der.

Erklærer du, at du tror, fremtiden for anbefalingsmotorer vil indeholde de bedste anbefalinger for at forbedre ens sind. Er der nogen anbefalingsmotorer, der i øjeblikket arbejder på et sådant system?

Ikke endnu. Jeg ser det som det næste trillion-dollarmarked. Jeg tror, at Amazon og Google og Alibaba og Tencent vil komme dertil. Men hvem ved, der måske er en iværksætter-innovator, der overrasker os alle: måske en Spotify, der integrerer mindfulness og just-in-time hvisket ‘råd’, måske er det gennembruddet til sind-forbedring.

Hvordan vil du sammenfatte, hvordan anbefalingsmotorer ermögilirer brugere at forstå sig selv bedre?

Anbefalinger handler om gode valg …. nogle gange, endda store valg. Hvad er valgene, du omfavner? Hvad er valgene, du ignorerer? Hvad er valgene, du afviser? At have modet til at spørge – og besvare – disse spørgsmål giver dig en bemærkelsesværdig indsigt i, hvem du er og hvem du måske vil blive. Vi er de valg, vi træffer; hvad som helst, der påvirker disse valg, har en bemærkelsesværdig indvirkning og indflydelse på os.

Er der noget andet, du gerne vil dele om din bog?

Ja – i den første og sidste analyse er min bog om fremtiden for råd og fremtiden for, hvem du ‘virkelig’ vil være. Det handler om fremtiden for selvets – dit ‘selv’. Jeg tror, det er både et spændende og vigtigt emne, gør jeg ikke?

Tak for at tage tiden til at dele dine synspunkter.

Til vores læsere anbefaler jeg stærkt denne bog, den er i øjeblikket tilgængelig på Amazon i Kindle eller paperback. Du kan også se flere bestillingsmuligheder på MIT Press-siden.