Michael Schrage, auteur van Recommendation Engines (The MIT Press) – Interviewreeks

Michael Schrage is een onderzoeker aan de MIT Sloan School of Management’s Initiative on the Digital Economy. Als veelgevraagd expert op het gebied van innovatie, metrieken en netwerkeffecten is hij de auteur van Wie wil je dat je klanten worden?, The Innovator’s Hypothesis: Hoe goedkope experimenten meer waard zijn dan goede ideeën (MIT Press) en andere boeken.

In dit interview bespreken we zijn boek “Recommendation Engines” dat de geschiedenis, technologie, business en sociale impact van online aanbevelingssystemen onderzoekt.

Wat inspireerde je om een boek te schrijven over zo’n smal onderwerp als “Aanbevelingssystemen”?

De manier waarop je vraag is geformuleerd, geeft het spel weg…..Toen ik serieus keek naar de digitale technologieën en touchpoints die mensenlevens over de hele wereld echt beïnvloeden, vond ik bijna altijd een ‘aanbevelingssysteem’ dat beslissingen beïnvloedde. Spotify’s aanbevelingen bepalen de muziek en liedjes die mensen horen; TikTok’s aanbevelingssystemen definiëren de ‘virusvideo’s’ die mensen samenstellen en delen; Netflix’s aanbevelingen zijn zo ontworpen dat ze ‘binge watching’ en ‘binge watchers’ faciliteren; Google Maps en Waze bevelen de beste en/of snelste en/of eenvoudigste manieren aan om ergens te komen; Tinder en Match.com bevelen aan met wie je zou kunnen zijn of, je weet wel, ‘zijn’; Stitch Fix (SFIX ) beveelt aan wat je zou kunnen dragen om ‘jou’ te zijn; Amazon (AMZN ) beveelt aan wat je echt zou moeten kopen; Academia en ResearchGate bevelen de meest relevante onderzoeken aan waar je op de hoogte van zou moeten zijn….Ik kon doorgaan – en dat doe ik in het boek – maar zowel technisch als conceptueel zijn ‘Aanbevelingssystemen’ het tegenovergestelde van ‘smal’. Hun doel en doelstelling omvatten de hele reikwijdte van menselijke verlangen en beslissing.

Een citaat in je boek luidt als volgt: “Aanbevelingen gaan niet alleen over wat we zouden kunnen kopen, maar over wie we zouden kunnen worden”. Hoe kan dit worden misbruikt door ondernemingen of slechte actoren?

Er is geen twijfel dat aanbevelingen kunnen worden misbruikt. De ‘klassieke’ vraag – Cui bono? – ‘Wie heeft er baat bij?’ – is van toepassing. Zijn de aanbevelingen echt bedoeld om de ontvanger te helpen of het bedrijf/onderneming dat de aanbeveling doet? Net zoals het gemakkelijk is voor een collega, kennis of ‘vriend’ die je kent om advies te geven dat niet echt in je beste belang is, is het een digitale knip voor ‘gegevensgestuurde’ aanbevelingen om voor te stellen dat je iets koopt dat hun winst verhoogt ten koste van jouw nut of tevredenheid. Op het ene niveau maak ik me zorgen over het potentieel – en de realiteit – van misbruik. Aan de andere kant denk ik dat de meeste mensen snel doorhebben wanneer ze worden uitgebuit of gemanipuleerd door mensen of technologie. Bedrieg me een keer, schaam je; bedrieg me twee of drie keer, schaam jezelf. Aanbeveling is een van die speciale domeinen waar het slim is om ethisch te zijn en ethisch om slim te zijn.

Zijn echo-kamers waarin gebruikers alleen maar te zien krijgen wat ze willen zien, ongeacht de nauwkeurigheid, een maatschappelijk probleem?

Eli Pariser heeft de uitstekende frase ‘de filterbubbel’ bedacht om dit fenomeen en deze pathologie te beschrijven. Ik ben het grotendeels met zijn perspectief eens. In werkelijkheid denk ik dat het nu eerlijk is om te zeggen dat ‘bevestigingsvooroordeel’ – en niet seks – wat de meeste volwassen menselijke gedragingen echt aandrijft. De meeste mensen zoeken meestal naar overeenstemming. Aanbevelingen moeten een zorgvuldige koers tussen nieuwheid, diversiteit, relevantie en toeval navigeren, omdat – hoewel te veel bevestiging saai en redundant is – te veel nieuwheid en uitdaging kan ergeren en beledigen. Dus, ja, de zoektocht naar bevestiging is zowel een persoonlijk als een sociaal probleem. Dat gezegd hebbende, denk ik dat aanbevelingen een relatief onopvallende manier bieden om alternatieve perspectieven en opties onder de aandacht van mensen te brengen. Echter, ik vraag me af of regulering en juridische toetsing de toekomst van aanbevelingen steeds vaker zullen definiëren.

Filterbubbels beperken momenteel de blootstelling aan conflicterende, tegenstrijdige en uitdagende meningen. Zou er een soort regulering moeten zijn die dit soort over-filtering ontmoedigt?

Ik geef de voorkeur aan licht-aanraking boven zwaar-handede regulatoire toezicht. De meeste platforms die ik zie, doen een vrij slechte job van het labelen van ‘nepnieuws’ of het vaststellen van kwaliteitscontrole. Ik zou graag meer innovatieve mechanismen zien worden onderzocht: veeg naar links voor een tegenstrijdig standpunt; embed links die verhalen of video’s op een manier uitbreiden die het begrip verdiept of de ‘vooroordeel’ die wordt bevestigd, decontextualiseert. Maar laten we duidelijk zijn: keuze-architecturen die ‘ontmoedigen’ of ‘wrijving’ creëren, vereisen andere gegevens- en ontwerpsensibiliteiten dan die welke ‘verbieden’ of ‘censureren’ of ‘voorkomen’. Ik denk dat dit een heel moeilijk probleem is voor mensen en machines. Wat het bijzonder moeilijk maakt, is dat menselijke wezens – in feite – minder voorspelbaar zijn dan veel psychologen en sociaalwetenschappers denken. Er zijn veel concurrerende ‘theorieën van de geest’ en ‘agent’ deze dagen. Hoe persoonlijker de aanbevelingen en aanbevelingssystemen worden, hoe uitdagender en anachronistischer ‘one size fits all’-benaderingen worden. Het is een van de redenen waarom dit domein me zo interesseert.

Zouden eindgebruikers en de maatschappij transparantie moeten eisen over waarom specifieke aanbevelingen worden gedaan?

Ja, ja en ja. Niet alleen ‘transparantie’, maar ook ‘zichtbaarheid’, ‘doorzichtigheid’ en ‘interpreteerbaarheid’. Mensen zouden het recht moeten hebben om de technologieën te zien en te begrijpen die hen beïnvloeden. Ze zouden in staat moeten zijn om de algoritmes te waarderen die hen aanzetten en overtuigen. Denk hierbij aan de algoritmische tegenhanger van ‘informed consent’ in de geneeskunde. Patiënten hebben het recht om de redenen en argumenten voor het kiezen van ‘deze’ koers van actie te krijgen – en artsen hebben de plicht om die redenen en argumenten te geven. In feite betoog ik dat ‘informed consent’ – en zijn toekomst – in de geneeskunde en de gezondheidszorg een goed voorbeeld biedt voor de toekomst van ‘informed consent’ voor aanbevelingssystemen.

Geloof je dat het mogelijk is om de menselijke hersenen te “hacken” met aanbevelingssystemen?

De hersenen of de geest? Niet voor de grap. Worden we materieel – elektrisch en chemisch – gehackt door neuronen en kwabben? Of gebruiken we minder invasieve sensorische stimuli om voorspelbaar gedrag te veroorzaken? Botweg gezegd, geloof ik dat sommige hersenen – en sommige geesten – hackbaar zijn, soms. Maar geloof ik dat mensen gedoemd zijn om ‘vleespoppen’ te worden die dansen op de tunes van aanbevelingen? Ik niet. Kijk, sommige mensen worden verslaafd. Sommige mensen verliezen autonomie en zelfcontrole. En, ja, sommige mensen willen anderen uitbuiten. Maar het overgrote deel van het bewijs maakt me niet bezorgd over de ‘bewapening van aanbevelingen’. Ik maak me meer zorgen over het misbruik van vertrouwen.

Een citaat in een onderzoeksrapport van Jason L. Harman en Jason L. Harman luidt als volgt: “Het vertrouwen dat mensen in aanbevelingen stellen, is de sleutel tot het succes van aanbevelingssystemen”. Geloof je dat sociale media dat vertrouwen hebben geschonden?

Ik geloof in dat citaat. Ik geloof dat vertrouwen inderdaad de sleutel is. Ik geloof dat slimme en ethische mensen echt begrijpen en waarderen hoe belangrijk vertrouwen is. Met excuses aan Churchill’s opmerking over moed, is vertrouwen de deugd die gezonde menselijke verbinding en groei mogelijk maakt. Dat gezegd hebbende, ben ik comfortabel om te betogen dat de meeste sociale media-platforms – ja, Twitter en Facebook (META ), ik kijk naar jullie! – niet zijn gebouwd rond of gebaseerd op vertrouwen. Ze zijn gebouwd rond het faciliteren en schalen van zelfexpressie. De mogelijkheid om jezelf op grote schaal uit te drukken, heeft letterlijk niets te maken met het creëren of opbouwen van vertrouwen. Er was niets om te schenden. Met aanbevelingen is dat wel het geval.

Je stelt dat de toekomst van aanbevelingssystemen de beste aanbevelingen zal omvatten om je geest te verbeteren. Zijn er volgens jou momenteel aanbevelingssystemen die aan dit systeem werken?

Nog niet. Ik zie dat als de volgende triljardmark. Ik denk dat Amazon en Google en Alibaba en Tencent daar willen komen. Maar, wie weet, er kan een ondernemende innovator zijn die ons allemaal verrast: misschien een Spotify die mindfulness en just-in-time gefluisterde ‘advies’ incorporeert, kan de doorbraak zijn die de geest verbetert.

Hoe zou je samenvatten hoe aanbevelingssystemen gebruikers helpen om zichzelf beter te begrijpen?

Aanbevelingen gaan over goede keuzes…. soms zelfs geweldige keuzes. Welke keuzes omarm je? Welke keuzes negeer je? Welke keuzes wijs je af? Het hebben van de moed om die vragen te stellen en te beantwoorden, geeft je opmerkelijke inzichten in wie je bent en wie je zou kunnen worden. We zijn de keuzes die we maken; wat die keuzes beïnvloedt, heeft opmerkelijke invloed en invloed op ons.

Is er nog iets anders dat je over je boek zou willen delen?

Ja – in de eerste en laatste analyse, is mijn boek over de toekomst van advies en de toekomst van wie je ‘echt’ wilt worden. Het is over de toekomst van de zelf – jouw ‘zelf’. Ik denk dat dat zowel een spannend als een belangrijk onderwerp is, nietwaar?

Bedankt voor het delen van je mening.

Onze lezers raden dit boek aan, het is momenteel beschikbaar op Amazon in Kindle of paperback. Je kunt ook meer bestelopties bekijken op de MIT Press pagina.