Michael Schrage, forfatter til Anbefalingsmotorer (The MIT Press) – Intervieuserie

Michael Schrage er en forskningsmedarbejder ved MIT Sloan School of Managements Initiative on the Digital Economy. En eftertragtet ekspert på innovation, målinger og netværkseffekter, han er forfatter til Hvem vil du have, at dine kunder bliver?, Innovatørens hypotese: Hvordan billige eksperimenter er værd mere end gode idéer (MIT Press) og andre bøger.

I denne interview diskuterer vi hans bog “Anbefalingsmotorer“, som udforsker historien, teknologien, forretnings- og sociale virkninger af online-anbefalingsmotorer.

Hvad inspirerede dig til at skrive en bog om så snævert et emne som “Anbefalingsmotorer”?

Formuleringen af dit spørgsmål afslører spillet….. Når jeg så alvorligt på de digitale teknologier og touchpoints, der virkelig påvirker menneskers liv over hele verden, fandt jeg næsten altid en ‘anbefalingsmotor’ der drev beslutning. Spotifys anbefalinger bestemmer den musik og sange, folk hører; TikToks anbefalingsmotorer definerer ‘viralvideoerne’, folk laver og deler; Netflixs anbefalinger er arkitektonisk designede til at facilitere ‘binge-watching’ og ‘binge-seere’; Google Maps og Waze anbefaler den bedste og/eller hurtigste og/eller enkleste måde at komme dertil; Tinder og Match.com anbefaler, hvem du måske kan lide at være sammen med eller, du ved, ‘være’ sammen med; Stitch Fix (SFIX ) anbefaler, hvad du måske vil have på at være ‘dig’; Amazon (AMZN ) vil anbefale, hvad du virkelig skal købe; Academia og ResearchGate anbefaler den mest relevante forskning, du skal være opdateret på…. Jeg kunne fortsætte – og gør det i bogen – men både teknisk og begrebsmæssigt er ‘Anbefalingsmotorer’ det modsatte af ‘snævert’. Dens formål og mål dækker hele spektret af menneskeligt ønske og beslutning.

Et citat i din bog lyder således: “Anbefalinger handler ikke kun om, hvad vi måske kan købe, men om, hvem vi måske vil være”. Hvordan kan dette misbruges af virksomheder eller dårlige aktører?

Der er ingen tvivl eller tvivl om, at anbefalinger kan misbruges. Den ‘klassiske’ klassiske spørgsmål – Cui bono? – ‘Hvem har gavn?’ – gælder. Er anbefalingerne virkelig tiltænkt at gavne modtageren eller den enhed/virksomhed, der laver anbefalingerne? Ligesom det er let for en kollega, bekendt eller ‘ven’, der kender dig, at tilbyde råd, der ikke er i dit bedste interesse, er det en digital snap for ‘data-drevne’ anbefalinger at foreslå, at du køber noget, der øger ‘deres’ profit på bekostning af ‘din’ nytte eller tilfredshed. På ét niveau er jeg meget bekymret for muligheden – og virkeligheden – for misbrug. På den anden side tror jeg, at de fleste mennesker hurtigt opdager, når de bliver udnyttet eller manipuleret af mennesker eller teknologi. Føl mig én gang, skam på dig; føl mig to eller tre gange, skam på mig. Anbefaling er et af de specielle domæner, hvor det er klogt at være etisk og etisk at være klog. 

Er ekko-kamre, hvor brugere blot får vist, hvad de vil se, uanset nøjagtighed, et samfundsproblem?

Eli Pariser opfandt den fremragende frase ‘filterboblen’ for at beskrive dette fænomen og patologi. Jeg er stort set enig med hans perspektiv. I virkeligheden tror jeg, det nu er retfærdigt at sige, at ‘bekræftelsesforvrængning’ – og ikke sex – er, hvad der virkelig driver de fleste voksnes adfærd. De fleste mennesker søger efter enighed det meste af tiden. Anbefalinger må navigere en forsigtig kurs mellem nyt, diversitet, relevans og tilfældighed, fordi – mens for meget bekræftelse er kedsommeligt og redundant – for meget nyt og udfordring kan irritere og fornærme. Så, ja, jagten på bekræftelse er både et personligt og et samfundsproblem. Det sagde, tilbyder anbefalinger en relativt uskadelig måde at bringe alternative perspektiver og muligheder til folks opmærksomhed., Men jeg undrer mig, om regulering og juridisk gennemgang vil definerer anbefalingsfremtiden.

Filterbobler begrænser i øjeblikket eksponeringen af modsatrettede, modsigerende og/eller udfordrende/synspunkter. Skal der være en form for regulering, der afværger denne type over-filtering?

Jeg foretrækker let til heavy-handed regulativ oversigt. De fleste platforme, jeg ser, gør en ret dårlig job med at mærke ‘falske nyheder’ eller etablere kvalitetskontrol. Jeg ville gerne se mere innovative mekanismer udforsket: swipe til venstre for en modsat opfattelse; indsæt links, der udvikler historier eller videoer på måder, der dybder forståelse eller dekontekstualiserer ‘forvrængningen’, der bekræftes. Men lad os være klare: valgarkitekturer, der ‘afværger’ eller skaber ‘friktioner’, kræver forskellige data og design-sansninger end dem, der ‘forbyder’ eller ‘censurerer’ eller ‘forhinder.’ Jeg tror, det er et meget hårdt problem for både mennesker og maskiner. Det, der gør det særligt hårdt, er, at mennesker – i virkeligheden – er mindre forudsigelige, end mange psykologer og samfundsvidenskabsfolk tror. Der er mange konkurrerende ‘teorier om sindet’ og ‘agentur’ disse dage. Jo mere personlige anbefalinger og anbefalinger bliver, desto mere udfordrende og anakronistiske bliver ‘én størrelse passer alle’-tilgange. Det er en af mange grunde, hvorfor dette domæne interesserer mig så meget.

Skal slutbrugere og samfund kræve forklarbarhed om, hvorfor bestemte anbefalinger gøres?

Ja, ja og ja. Ikke kun ‘forklarbarhed’, men ‘synlighed’, ‘gennemsigtighed’ og ‘fortolkbarhed’ også. Mennesker skal have retten til at se og forstå de teknologier, der påvirker dem. De skal kunne værdsætte algoritmerne, der bruges til at påvirke og overbevise dem. Tænk på dette som den algoritmiske modstykke til ‘informeret samtykke’ i medicin. Patienter har retten til at få – og læger har pligten til at give – årsagerne og rationalet for at vælge ‘denne’ handling til ‘den’ ene. Faktisk argumenterer jeg for, at ‘informeret samtykke’ – og dens fremtid – i medicin og sundhedspleje tilbyder en god skabelon for fremtiden for ‘informeret samtykke’ for anbefalingsmotorer. 

Tror du, det er muligt at “hække” det menneskelige hjernen ved hjælp af anbefalingsmotorer?

Hjernen eller sindet? Ikke for sjov. Bliver vi fysisk – elektrisk og kemisk – ‘hækket’ neuroner og lobes? Eller bruger vi mindre invasive sanselige stimuli til at fremkalde forudsigelige adfærd? Blunt, tror jeg, at nogle hjerner – og nogle sind – er ‘hækkable’ nogle gange. Men tror jeg, at mennesker er bestemt til at blive ‘kød-marionetter’, der danser til anbefalingsmotorernes toner? Jeg gør ikke. Se, nogle mennesker bliver afhængige. Nogle mennesker mister selvstændighed og selvkontrol. Og, ja, nogle mennesker vil udnytte andre. Men bevisernes overvægt gør mig ikke bekymret for ‘våbeniseringen af anbefaling’. Jeg er mere bekymret for misbrug af tillid.

Et citat i en forskningsrapport af Jason L. Harman og Jason L. Harman siger følgende: “Tilliden, som mennesker placerer på anbefalinger, er nøgle til succesen for anbefalingssystemer”. Tror du, at sociale medier har forrådt denne tillid?

Jeg tror på dette citat. Jeg tror, at tillid er, i sandhed, nøglen. Jeg tror, at intelligente og etiske mennesker virkelig forstår og værdsætter vigtigheden af tillid. Med undskyldning til Churchills kommentar om mod, er tillid den dyd, der muliggør sund menneskelig forbindelse og vækst. Det sagde, er jeg komfortabel med at argumentere for, at de fleste sociale medie-platforme – ja, Twitter og Facebook (META ), jeg ser på jer! – ikke er bygget omkring eller baseret på tillid. De er bygget på at facilitere og skale selvudtryk. Evnen til at udtrykke sig selv i skala har bogstavelig talt intet at gøre med at skabe eller bygge tillid. Der var intet at forråde. Med anbefaling, er der.

Du udtrykker din overbevisning om, at fremtiden for anbefalingsmotorer vil indeholde de bedste anbefalinger for at forbedre ens sind. Er der i din mening nogen anbefalingsmotorer, der i øjeblikket arbejder på et sådant system?

Endnu ikke. Jeg ser det som den næste trillion-dollarmarked. Jeg tror, at Amazon og Google og Alibaba og Tencent vil nå dertil. Men, hvem ved, der må være en iværksætter-innovator, der overrasker os alle: måske en Spotify, der inkorporerer mindfulness og lige-i-tiden-fløjtet ‘råd’, måske er det det sind-forbedrende gennembrud.

Hvordan ville du sammenfatte, hvordan anbefalingsmotorer giver brugerne mulighed for bedre at forstå sig selv?

Anbefalinger handler om gode valg…. nogle gange, endda store valg. Hvad er valgene, du omfavner? Hvad er valgene, du ignorerer? Hvad er valgene, du afviser?  At have modet til at spørge – og svare på – disse spørgsmål giver dig en bemærkelsesværdig indsigt i, hvem du er og hvem du måske vil være. Vi er de valg, vi træffer; hvad der påvirker disse valg har en bemærkelsesværdig indvirkning og indflydelse på os.

Er der noget andet, du gerne vil dele om din bog?

Ja – i den første og sidste analyse er min bog om fremtiden for råd og fremtiden for, hvem du ‘virkelig’ vil være. Det handler om fremtiden for dig selv – dit ‘selv’. Jeg tror, det er både et spændende og vigtigt emne, ikke?

Tak for at tage tiden til at dele dine synspunkter.

Til vores læsere anbefaler vi stærkt denne bog, som i øjeblikket er tilgængelig på Amazon i Kindle eller paperback. Du kan også se flere bestillingsmuligheder på MIT Press-siden.