Michael Schrage, författare till Recommendation Engines (The MIT Press) – Intervjuerien

Michael Schrage är en forskningsledare vid MIT Sloan School of Managements initiativ för den digitala ekonomin. En eftertraktad expert på innovation, mått och nätverkseffekter, är han författare till Vem vill du att dina kunder ska bli?, Innovatörens hypotes: Hur billiga experiment är värda mer än bra idéer (MIT Press) och andra böcker.

I den här intervjun diskuterar vi hans bok “Recommendation Engines” som utforskar historien, tekniken, affärerna och det sociala inflytandet av online-rekommendationssystem.

Vad inspirerade dig att skriva en bok om ett så smalt ämne som “Rekommendationssystem”?

Ramningen av din fråga avslöjar spelet….. När jag tittade seriöst på digitala teknologier och beröringspunkter som verkligen påverkade människors liv över hela världen, fann jag nästan alltid ett “rekommendationssystem” som drev beslut. Spotifys rekommendationer bestämmer den musik och låtar som människor hör; TikToks rekommendationssystem definierar de “virala videor” som människor sätter samman och delar; Netflix rekommendationer har utformats för att underlätta “binge watching” och “binge watchers”; Google Maps och Waze rekommenderar de bästa och / eller snabbaste och / eller enklaste sätten att komma dit; Tinder och Match.com rekommenderar vem du kanske vill vara med eller, du vet, “vara” med; Stitch Fix rekommenderar vad du kanske vill ha på dig som gör dig “du”; Amazon kommer att rekommendera vad du verkligen borde köpa; Academia och ResearchGate kommer att rekommendera den mest relevanta forskningen du borde vara uppdaterad på…. Jag kunde fortsätta – och gör det i boken – men både tekniskt och konceptuellt är “Rekommendationssystem” motsatsen till “smalt”. Deras poäng och syfte täcker hela spektrumet av mänskligt begär och beslut.

Ett citat i din bok lyder: “Rekommendationer handlar inte bara om vad vi kanske kan köpa, utan om vem vi kanske vill bli”. Hur kan detta utnyttjas av företag eller dåliga aktörer?

Det finns inget tvivel eller tvekan om att rekommendationer kan utnyttjas. Den “klassiska” klassiska frågan – Cui bono? – “Vem har nytta av det?” – gäller. Är rekommendationerna verkligen avsedda att gynna mottagaren eller den enhet / företag som gör rekommendationen? Precis som det är lätt för en kollega, bekant eller “vän” som känner dig att ge råd som inte verkligen är i ditt bästa intresse, är det en digital snabbhet för “data-drivna” rekommendationer att föreslå att du köper något som ökar “deras” vinst på bekostnad av “din” nytta eller tillfredsställelse. På en nivå är jag mycket orolig för det potentiella – och verkligheten – utnyttjandet. Å andra sidan tror jag att de flesta människor fattar ganska snabbt när de utnyttjas eller manipuleras av människor eller teknik. Lura mig en gång, skam på dig; lura mig två eller tre gånger, skam på mig. Rekommendation är ett av de specialområden där det är smart att vara etisk och etiskt att vara smart.

Är ekokammare där användare bara matas med vad de vill se, oavsett noggrannhet, ett samhällsproblem?

Eli Pariser myntade den utmärkta frasen “filterbubblan” för att beskriva denna fenomen och patologi. Jag håller i stort sett med hans perspektiv. I själva verket tror jag att det nu är rättvist att säga att “bekräftelsebias” – inte sex – är vad som verkligen driver de flesta vuxna människors beteende. De flesta människor söker bekräftelse mest av tiden. Rekommendationer måste navigera en försiktig kurs mellan nyhet, mångfald, relevans och slumpmässighet eftersom – medan för mycket bekräftelse är tråkigt och redundant – för mycket nyhet och utmaning kan irritera och stöta. Så, ja, jakten på bekräftelse är både ett personligt och socialt problem. Det sagt erbjuder rekommendationer ett relativt oantastligt sätt att bringa alternativa perspektiv och alternativ till människors uppmärksamhet. Men jag undrar verkligen om reglering och rättslig granskning alltmer kommer att definiera rekommendationens framtid.

Filterbubblor begränsar för närvarande exponeringen för motsägande, motsägande och / eller utmanande / åsikter. Bör det finnas någon form av reglering som uppmuntrar till denna typ av överfiltering?

Jag föredrar lätta regleringsöversikter framför tunga. De flesta plattformar jag ser gör ett ganska dåligt jobb med att märka “falska nyheter” eller etablera kvalitetskontroll. Jag skulle vilja se fler innovativa mekanismer utforskas: svepa åt vänster för en motsatt syn; infoga länkar som förklarar berättelser eller videor på sätt som fördjupar förståelsen eller avkontextualiserar “bias” som bekräftas. Men låt oss vara tydliga: valarkitekturer som “uppmuntrar” eller skapar “friktioner” kräver olika data och designkänslighet än de som “förbjuder” eller “censurerar” eller “förhindrar”. Jag tycker att det är ett mycket svårt problem för människor och maskiner. Det som gör det särskilt svårt är att människor – i själva verket – är mindre förutsägbara än vad många psykologer och sociala forskare tror. Det finns många konkurrerande “teorier om sinnet” och “agent” dessa dagar. Ju mer personliga rekommendationer och rekommendationer blir, desto mer utmanande och anakronistiska blir “en storlek passar alla”-tillvägagångssätt. Det är en av de många anledningarna till att detta område intresserar mig.

Bör slutanvändare och samhället kräva förklarbarhet för varför specifika rekommendationer görs?

Ja, ja och ja. Inte bara “förklarbarhet” utan “synlighet”, “transparens” och “tolkbarhet” också. Människor bör ha rätt att se och förstå de teknologier som används för att påverka dem. De bör kunna uppskatta algoritmerna som används för att påverka och övertyga dem. Tänk på detta som den algoritmiska motsvarigheten till “informerat samtycke” inom medicin. Patienter har rätt att få – och läkare har skyldighet att tillhandahålla – skälen och motiven för att välja “detta” tillvägagångssätt till “det” tillvägagångssättet. Verkligen, jag hävdar att “informerat samtycke” – och dess framtid – inom medicin och hälsovård erbjuder en bra mall för framtiden för “informerat samtycke” för rekommendationssystem.

Tror du att det är möjligt att “hacka” den mänskliga hjärnan med hjälp av Rekommendationssystem?

Hjärnan eller sinnet? Jag skämtar inte. Är vi materiellt – elektriskt och kemiskt – hackar neuroner och lober? Eller använder vi mindre invasiva sensoriska stimuli för att framkalla förutsägbara beteenden? Bluntly, jag tror att vissa hjärnor – och vissa sinnen – är hackbara ibland. Men tror jag att människor är ödesbestämda att bli “köttmarionetter” som dansar till rekommendationens melodier? Jag gör det inte. Titta, vissa människor blir beroende. Vissa människor förlorar autonomi och självkontroll. Och, ja, vissa människor vill utnyttja andra. Men den överväldigande bevisningen gör mig inte orolig för “rekommendationens vapen”. Jag är mer orolig för missbruk av förtroende.

Ett citat i en forskningsrapport av Jason L. Harman och Jason L. Harman lyder: “Förtroendet som människor har för rekommendationer är nyckeln till rekommendationssystemens framgång”. Tror du att sociala medier har svikit detta förtroende?

Jag tror på det citatet. Jag tror att förtroende är, verkligen, nyckeln. Jag tror att smarta och etiska människor verkligen förstår och uppskattar förtroendets betydelse. Med ursäkt för Churchills kommentar om mod, är förtroende den dygd som möjliggör hälsosam mänsklig kontakt och tillväxt. Det sagt, jag är bekväm med att hävda att de flesta sociala medieplattformar – ja, Twitter och Facebook, jag tittar på er! – inte är byggda kring eller baserade på förtroende. De är byggda kring att underlätta och skala upp självuttryck. Förmågan att uttrycka sig själv i stor skala har bokstavligen ingenting att göra med att skapa eller bygga förtroende. Det fanns ingenting att svika. Med rekommendation, finns det.

Du uttrycker din övertygelse om att framtiden för Rekommendationssystem kommer att innefatta de bästa rekommendationerna för att förbättra sinnet. I din åsikt, arbetar några Rekommendationssystem för närvarande med ett sådant system?

Inte ännu. Jag ser det som den nästa trilliondollar-marknaden. Jag tror att Amazon och Google och Alibaba och Tencent vill komma dit. Men, vem vet, det kan finnas en entreprenöriell innovatör som överraskar oss alla: kanske en Spotify som integrerar medvetenhet och rätt-tillfälle-viskade “råd” kan vara det sinnesförbättrande genombrottet.

Hur skulle du sammanfatta hur Rekommendationssystem möjliggör för användare att bättre förstå sig själva?

Rekommendationer handlar om bra val…. ibland, till och med stora val. Vilka val accepterar du? Vilka val ignorerar du? Vilka val avvisar du? Att ha modet att fråga – och svara – på dessa frågor ger dig en anmärkningsvärd insikt i vem du är och vem du kanske vill bli. Vi är de val vi gör; allt som påverkar dessa val har en anmärkningsvärd påverkan och inflytande på oss.

Finns det något annat du vill dela om din bok?

Ja – i den första och sista analysen, är min bok om framtiden för råd och framtiden för vem du “verkligen” vill bli. Det handlar om framtiden för självet – ditt “själv”. Jag tycker att det är både ett spännande och viktigt ämne, eller hur?

Tack för att du tog dig tid att dela dina åsikter.

Till våra läsare rekommenderar jag starkt den här boken, den är för närvarande tillgänglig på Amazon i Kindle eller pocket. Du kan också se fler beställningsalternativ på MIT Press-sidan.