Michael Schrage, autore di Recommendation Engines (The MIT Press) – Serie di interviste

Michael Schrage è ricercatore presso l'Iniziativa sull'economia digitale della Sloan School of Management del MIT. Ricercato esperto di innovazione, metriche ed effetti di rete, è l'autore di Chi vuoi che diventino i tuoi clienti?, L'ipotesi dell'innovatore: come gli esperimenti economici valgono più delle buone idee (MIT Press) e altri libri.

In questa intervista discutiamo del suo libro “Motori di raccomandazione"che esplora la storia, la tecnologia, il business e l'impatto sociale dei motori di raccomandazione online.

Cosa ti ha spinto a scrivere un libro su un argomento così ristretto come "Motori di raccomandazione"?

L'inquadratura della tua domanda svela il gioco…..Quando ho guardato seriamente alle tecnologie digitali e ai punti di contatto che hanno veramente influenzato la vita delle persone in tutto il mondo, ho quasi sempre trovato un 'motore di raccomandazione' alla guida della decisione. I consiglieri di Spotify determinano la musica e le canzoni che le persone ascoltano; I motori di raccomandazione di TikTok definiscono i "video virali" che le persone mettono insieme e condividono; I consiglieri di Netflix sono stati progettati per facilitare il "binge watching" e i "binge watcher"; Google Maps e Waze consigliano i modi migliori e/o più veloci e/o più semplici per arrivarci; Esca e Match.com consigliare con chi ti piacerebbe stare o, sai, "stare" con; Stitch Fix consiglia ciò che potresti voler indossare che ti rende "te"; Amazon ti consiglierà cosa dovresti davvero acquistare; Academia e ResearchGate consiglieranno le ricerche più pertinenti su cui dovresti essere aggiornato... Potrei continuare – e farlo, nel libro – ma sia tecnicamente che concettualmente, i "Recommendation Engines" sono l'antitesi di "stretto". Il loro punto e scopo copre l'intera portata del desiderio e della decisione umana.

Una citazione nel tuo libro è la seguente: "I consiglieri non riguardano solo ciò che potremmo comprare, riguardano anche chi potremmo voler diventare". Come potrebbe essere abusato da imprese o cattivi attori?

Non c'è dubbio o dubbio che la raccomandazione può essere abusata. La 'classica' classica domanda – Cui bono? – 'A chi giova?' – si applica. Le raccomandazioni sono veramente intese a vantaggio del destinatario o dell'entità/impresa che formula la raccomandazione? Proprio come è facile per un collega, un conoscente o un "amico" che ti conosce offrire consigli che in realtà non sono nel tuo interesse, è uno scatto digitale per i consiglieri "basati sui dati" suggerirti di acquistare qualcosa che aumenta il "loro" profitto a scapito della "tua" utilità o soddisfazione. Da un lato, sono molto preoccupato per il potenziale - e la realtà - degli abusi. Dall'altro, penso che la maggior parte delle persone capisca abbastanza rapidamente quando viene sfruttata o manipolata da persone o tecnologia. Prendimi in giro una volta, vergognati; ingannami due o tre volte, vergognami. La raccomandazione è uno di quei domini speciali in cui è intelligente essere etici ed etico essere intelligenti. 

Le camere dell'eco in cui gli utenti ricevono solo ciò che vogliono vedere indipendentemente dall'accuratezza sono un problema sociale?

Eli Pariser ha coniato l'eccellente frase "la bolla del filtro" per descrivere questo fenomeno e questa patologia. Sono in gran parte d'accordo con la sua prospettiva. In verità, penso che ora sia giusto dire che il "pregiudizio di conferma" - non il sesso - è ciò che guida davvero la maggior parte del comportamento umano adulto. La maggior parte delle persone cerca un accordo per la maggior parte del tempo. I suggeritori devono navigare su un percorso attento tra novità, rilevanza della diversità e serendipità perché - mentre troppe conferme sono noiose e ridondanti - troppe novità e sfide possono infastidire e offendere. Quindi, sì, la ricerca della conferma è sia una questione personale che sociale. Detto questo, i raccomandatori offrono un modo relativamente poco odioso per portare all'attenzione della gente prospettive e opzioni alternative. Tuttavia, mi chiedo davvero se la regolamentazione e la revisione legale definiranno sempre più il futuro della raccomandazione.

Le bolle di filtro attualmente limitano l'esposizione a punti di vista contrastanti, contraddittori e/o stimolanti. Dovrebbe esserci qualche tipo di regolamentazione che scoraggi questo tipo di filtraggio eccessivo?

Preferisco la supervisione normativa leggera a quella pesante. La maggior parte delle piattaforme che vedo fanno un lavoro piuttosto scadente nell'etichettare "notizie false" o stabilire un controllo di qualità. Mi piacerebbe vedere meccanismi più innovativi esplorati: scorri verso sinistra per una visione contrarian; incorporare collegamenti che elaborano storie o video in modi che approfondiscono la comprensione o decontestualizzano il "pregiudizio" che viene confermato. Ma sia chiaro: le architetture di scelta che "scoraggiano" o creano "frizioni" richiedono dati e sensibilità progettuali diversi rispetto a quelle che "proibiscono" o "censurano" o "prevengono". Penso che questo sia un problema molto difficile sia per le persone che per le macchine. Ciò che lo rende particolarmente difficile è che gli esseri umani, in effetti, sono meno prevedibili di quanto credano molti psicologi e scienziati sociali. Al giorno d'oggi ci sono molte "teorie della mente" e "agency" in competizione. Più consigli e raccomandazioni diventano personalizzati, più diventano impegnativi e anacronistici gli approcci 'taglia unica'. È uno dei tanti motivi per cui questo dominio mi interessa così tanto.

Gli utenti finali e la società dovrebbero chiedere spiegazioni sul motivo per cui vengono formulate raccomandazioni specifiche?

Sì, sì e sì. Non solo "spiegabilità", ma anche "visibilità", "trasparenza" e "interpretabilità". Le persone dovrebbero avere il diritto di vedere e comprendere le tecnologie utilizzate per influenzarle. Dovrebbero essere in grado di apprezzare gli algoritmi utilizzati per spingerli e persuaderli. Pensa a questo come alla controparte algoritmica del "consenso informato" in medicina. I pazienti hanno il diritto di ottenere - ei medici hanno il dovere di fornire - le ragioni e le motivazioni per scegliere "questa" linea d'azione rispetto a "quella". In effetti, sostengo che il "consenso informato" - e il suo futuro - in medicina e assistenza sanitaria offra un buon modello per il futuro del "consenso informato" per i motori di raccomandazione. 

Credi che sia possibile "hackerare" il cervello umano usando i Recommender Engines?

Il cervello o la mente? Non sto scherzando. Stiamo materialmente – elettricamente e chimicamente – hackerando neuroni e lobi? O stiamo usando stimoli sensoriali meno invasivi per evocare comportamenti prevedibili? Senza mezzi termini, credo che alcuni cervelli - e alcune menti - siano hackerabili a volte. Ma credo che le persone siano destinate a diventare "marionette di carne" che ballano sulle melodie delle raccomandazioni? Non lo faccio. Guarda, alcune persone diventano tossicodipendenti. Alcune persone perdono autonomia e autocontrollo. E, sì, alcune persone vogliono sfruttare gli altri. Ma la preponderanza delle prove non mi fa preoccupare dell'"armamento della raccomandazione". Sono più preoccupato per l'abuso di fiducia.

Una citazione in un documento di ricerca di Jason L. Harman e Jason L. Harman afferma quanto segue: "La fiducia che gli esseri umani ripongono nelle raccomandazioni è la chiave del successo dei sistemi di raccomandazione". Credi che i social media abbiano tradito quella fiducia?

Credo in quella citazione. Credo che la fiducia sia, davvero, la chiave. Credo che le persone intelligenti ed etiche capiscano e apprezzino veramente l'importanza della fiducia. Ci scusiamo per il commento di Churchill sul coraggio, la fiducia è la virtù che consente una sana connessione e crescita umana. Detto questo, mi sento a mio agio nel sostenere che la maggior parte delle piattaforme di social media - sì, Twitter e Facebook, ti ​​sto guardando! – non sono costruiti intorno o basati sulla fiducia. Si basano sulla facilitazione e il ridimensionamento dell'autoespressione. La capacità di esprimersi su larga scala non ha letteralmente nulla a che fare con la creazione o la costruzione della fiducia. Non c'era niente da tradire. Con la raccomandazione, c'è.

Dichiari la tua convinzione che il futuro dei Recommender Engines presenterà i migliori consigli per migliorare la propria mente. Secondo te ci sono attualmente motori di raccomandazione che lavorano su un tale sistema?

Non ancora. Lo vedo come il prossimo mercato da trilioni di dollari. Penso che Amazon, Google, Alibaba e Tencent vogliano arrivarci. Ma, chissà, potrebbe esserci un innovatore imprenditoriale che ci sorprende tutti: forse uno Spotify che incorpora consapevolezza e "consigli" appena sussurrati potrebbe essere la svolta che migliora la mente.

Come riassumeresti come i motori di raccomandazione consentono agli utenti di comprendere meglio se stessi?

I consigli riguardano le buone scelte…. a volte, anche grandi scelte. Quali sono le scelte che abbraccia? Quali sono le scelte che ignori? Quali sono le scelte che rifiuti? Avere il coraggio di porre - e rispondere - a queste domande ti dà una visione straordinaria di chi sei e di chi potresti voler diventare. Siamo le scelte che facciamo; qualunque cosa influenzi tali scelte ha un notevole impatto e influenza su di noi.

C'è qualcos'altro che vorresti condividere sul tuo libro?

Sì, in prima e ultima analisi, il mio libro parla del futuro dei consigli e del futuro di chi 'veramente' vuoi diventare. Riguarda il futuro dell'io – il tuo 'io'. Penso che sia un argomento eccitante e importante, vero?

Grazie per aver dedicato del tempo per condividere le tue opinioni.

Ai nostri lettori consiglio vivamente questo libro, è attualmente disponibile su Amazon in formato Kindle o cartaceo. Puoi anche visualizzare più opzioni di ordinazione su MIT Press .