Michael Schrage, författare till Recommendation Engines (The MIT Press) – Intervjuserie

Michael Schrage är en forskningsledare vid MIT Sloan School of Managements initiativ för den digitala ekonomin. En eftertraktad expert på innovation, mått och nätverkseffekter, han är författare till Vem vill du att dina kunder ska bli?, The Innovator’s Hypothesis: Hur billiga experiment är värda mer än bra idéer (MIT Press), och andra böcker.

I den här intervjun diskuterar vi hans bok “Recommendation Engines” som utforskar historien, tekniken, affärerna och det sociala inflytandet av online-rekommendationer.

Vad inspirerade dig att skriva en bok om ett så smalt ämne som “Rekommendationer”?

Formuleringen av din fråga avslöjar spelet….. När jag tittade seriöst på de digitala teknologierna och touchpoints som verkligen påverkade människors liv över hela världen, fann jag nästan alltid en ‘rekommendationsmotor’ som drev beslut. Spotifys rekommendationer bestämmer musiken och låtarna som människor hör; TikToks rekommendationsmotorer definierar de “virala videor” som människor sätter samman och delar; Netflix (NFLX ) rekommendationer har utformats för att underlätta “binge-watching” och “binge-watchers”; Google Maps och Waze rekommenderar de bästa och/eller snabbaste och/eller enklaste sätten att komma dit; Tinder och Match.com rekommenderar vem du kanske vill vara med eller, du vet, “vara” med; Stitch Fix (SFIX ) rekommenderar vad du kanske vill ha på dig som gör dig till “dig”; Amazon (AMZN ) kommer att rekommendera vad du verkligen borde köpa; Academia och ResearchGate rekommenderar den mest relevanta forskningen du borde vara uppdaterad på…. Jag kunde fortsätta – och gör det i boken – men både tekniskt och konceptuellt är “Rekommendationer” motsatsen till “smalt”. Deras syfte och ändamål täcker hela omfattningen av mänskligt begär och beslut.

Ett citat i din bok lyder: “Rekommendationer handlar inte bara om vad vi kan köpa, utan om vem vi kanske vill bli”. Hur kan detta utnyttjas av företag eller dåliga aktörer?

Det finns ingen tvekan eller tvivel om att rekommendation kan utnyttjas. Den “klassiska” klassiska frågan – Cui bono? – “Vem har nytta av det?” – gäller. Är rekommendationerna verkligen avsedda att gynna mottagaren eller den enhet/företag som gör rekommendationen? Precis som det är lätt för en kollega, bekant eller “vän” som känner dig att ge råd som inte är i ditt bästa intresse, är det en digital snabbhet för “data-drivna” rekommendationer att föreslå att du köper något som ökar “deras” vinst på bekostnad av “din” nytta eller tillfredsställelse. På en nivå är jag mycket orolig för möjligheten – och verkligheten – av utnyttjande. På en annan nivå tror jag att de flesta människor fattar galoppen ganska snabbt när de blir utnyttjade eller manipulerade av människor eller teknologi. Lura mig en gång, skam på dig; lura mig två eller tre gånger, skam på mig. Rekommendation är ett av de speciella områdena där det är smart att vara etiskt och etiskt att vara smart.

Är ekokammare där användare bara får se vad de vill se, oavsett tillförlitlighet, ett samhällsproblem?

Eli Pariser myntade den utmärkta frasen “filterbubblan” för att beskriva detta fenomen och denna patologi. Jag håller i stort sett med hans perspektiv. I själva verket tror jag att det nu är rättvist att säga att “bekräftelsebias” – inte sex – är vad som verkligen driver de flesta vuxna människors beteende. De flesta människor söker efter överensstämmelse de flesta gånger. Rekommendationer måste navigera en försiktig kurs mellan nyhet, mångfald, relevans och slumpmässighet eftersom – medan för mycket bekräftelse är tråkigt och redundant – för mycket nyhet och utmaning kan irritera och stöta. Ja, jakten på bekräftelse är både ett personligt och ett socialt problem. Det sagt undrar jag om reglering och juridisk granskning kommer att definiera rekommendationens framtid alltmer.

Filterbubblor begränsar för närvarande exponeringen för motsägande, motsägande och utmanande/alternativa perspektiv. Bör det finnas någon form av reglering som uppmuntrar till detta?

Jag föredrar lätthandreglering framför tunga regler. De flesta plattformar jag ser gör ett ganska dåligt jobb med att märka “falska nyheter” eller etablera kvalitetskontroll. Jag skulle vilja se fler innovativa mekanismer utforskas: svepa åt vänster för en motsatt syn; infoga länkar som förklarar berättelser eller videor på sätt som fördjupar förståelsen eller avkontextualiserar “fördomen” som bekräftas. Men låt oss vara tydliga: valarkitekturer som “uppmuntrar” eller skapar “friktioner” kräver olika data och designkänslighet än de som “förbjuder” eller “censurerar” eller “förhindrar”. Jag tycker att detta är ett mycket svårt problem för både människor och maskiner. Det som gör det särskilt svårt är att människor – i själva verket – är mindre förutsägbara än vad många psykologer och samhällsvetare tror. Det finns många konkurrerande “teorier om sinnet” och “agent” dessa dagar. Ju mer personliga rekommendationer och rekommendationer blir, desto svårare och anakronistiska blir “en storlek passar alla”-tillvägagångssätt.

Bör slutanvändare och samhället kräva förklarbarhet för varför specifika rekommendationer görs?

Ja, ja och ja. Inte bara “förklarbarhet” utan “synlighet”, “transparens” och “tolkbarhet” också. Människor bör ha rätt att se och förstå de teknologier som används för att påverka dem. De bör kunna uppskatta algoritmerna som används för att påverka och övertyga dem. Tänk på detta som den algoritmiska motsvarigheten till “informerat samtycke” inom medicin. Patienter har rätt att få – och läkare har skyldighet att tillhandahålla – skälen och motiven för att välja “detta” tillvägagångssätt till “det” tillvägagångssättet. Faktum är att jag hävdar att “informerat samtycke” – och dess framtid – inom medicin och hälsovård erbjuder en bra mall för framtiden för “informerat samtycke” för rekommendationer.

Tror du att det är möjligt att “haka” på det mänskliga hjärnan med hjälp av Rekommendationsmotorer?

Hjärnan eller sinnet? Jag skämtar inte. Är vi materiellt – elektriskt och kemiskt – hackar neuroner och lober? Eller använder vi mindre invasiva sensoriska stimuli för att framkalla förutsägbara beteenden? Bluntly, jag tror att vissa hjärnor – och vissa sinnen – är hackbara ibland. Men tror jag att människor är ödesbestämda att bli “köttmarionetter” som dansar till rekommendationernas melodier? Jag gör det inte. Se, vissa människor blir beroende. Vissa människor förlorar autonomi och självkontroll. Och, ja, vissa människor vill utnyttja andra. Men den överväldigande bevisningen gör mig inte orolig för “vapenaliseringen av rekommendation”. Jag är mer orolig för missbruk av förtroende.

Ett citat i en forskningsartikel av Jason L. Harman och Jason L. Harman lyder: “Förtroendet som människor har för rekommendationer är nyckeln till framgången för rekommendationssystem”. Tror du att sociala medier har svikit detta förtroende?

Jag tror på det citatet. Jag tror att förtroende är, faktiskt, nyckeln. Jag tror att smarta och etiska människor verkligen förstår och uppskattar förtroendets betydelse. Med ursäkt för Churchills kommentar om mod, är förtroende den dygd som möjliggör hälsosam mänsklig kontakt och tillväxt. Det sagt är jag bekväm med att hävda att de flesta sociala medieplattformar – ja, Twitter och Facebook (META ), jag tittar på er! – inte är byggda kring eller baserade på förtroende. De är byggda kring att underlätta och skala upp självuttryck. Förmågan att uttrycka sig själv i stor skala har bokstavligen ingenting att göra med att skapa eller bygga förtroende. Det fanns ingenting att svika. Med rekommendation, finns det.

Du uttrycker din tro att framtiden för Rekommendationsmotorer kommer att innebära de bästa rekommendationerna för att förbättra sitt sinne. Finns det några Rekommendationsmotorer som för närvarande arbetar på ett sådant system?

Inte ännu. Jag ser det som den nästa biljondollarmarknaden. Jag tror att Amazon och Google och Alibaba och Tencent vill komma dit. Men, vem vet, det kan finnas en entreprenöriell innovatör som överraskar oss alla: kanske en Spotify som inkorporerar mindfulness och rätt-tid- viskade “råd” kan vara det sinnesförbättrande genombrottet.

Hur skulle du sammanfatta hur Rekommendationsmotorer möjliggör för användare att bättre förstå sig själva?

Rekommendationer handlar om bra val…. ibland, till och med stora val. Vilka val accepterar du? Vilka val ignorerar du? Vilka val avvisar du? Att ha modet att fråga – och svara – på dessa frågor ger dig en anmärkningsvärd insikt i vem du är och vem du kanske vill bli. Vi är de val vi gör; vad som påverkar dessa val har en anmärkningsvärd påverkan och inflytande på oss.

Finns det något annat du vill dela om din bok?

Ja – i den första och sista analysen är min bok om framtiden för råd och framtiden för vem du “verkligen” vill bli. Det handlar om framtiden för “själen” – din “själ”. Jag tycker att det är både ett spännande och viktigt ämne, eller hur?

Tack för att du tog dig tid att dela dina åsikter.

Till våra läsare rekommenderar jag starkt den här boken, den är för närvarande tillgänglig på Amazon i Kindle eller pocket. Du kan också se fler beställningsalternativ på MIT Press-sidan.