Michael Schrage, Autore di Recommendation Engines (The MIT Press) – Serie di Interviste

Michael Schrage è un Research Fellow presso l’Initiative on the Digital Economy della MIT Sloan School of Management. Un esperto ricercato sull’innovazione, le metriche e gli effetti di rete, è l’autore di Chi vuoi che diventino i tuoi clienti?, L’ipotesi dell’innovatore: come esperimenti economici valgono più di buone idee (MIT Press) e altri libri.

In questa intervista discutiamo del suo libro “Recommendation Engines” che esplora la storia, la tecnologia, il business e l’impatto sociale dei motori di raccomandazione online.

Cosa ti ha ispirato a scrivere un libro su un argomento così specifico come “Motori di raccomandazione”?

La formulazione della tua domanda rivela il gioco… Quando ho esaminato seriamente le tecnologie digitali e i touchpoint che influenzano veramente la vita delle persone in tutto il mondo, ho quasi sempre trovato un “motore di raccomandazione” che guidava la decisione. I consigli di Spotify determinano la musica e le canzoni che le persone ascoltano; i motori di raccomandazione di TikTok definiscono i “video virali” che le persone creano e condividono; i consigli di Netflix (NFLX ) sono stati progettati per facilitare la “visione in binge” e i “viewer in binge”; Google Maps e Waze consigliano il miglior percorso per arrivare a destinazione; Tinder e Match.com consigliano con chi potresti voler stare o, sai, “essere”; Stitch Fix (SFIX ) consiglia cosa potresti voler indossare per essere te stesso; Amazon (AMZN ) consiglia cosa dovresti acquistare veramente; Academia e ResearchGate consigliano la ricerca più rilevante che dovresti essere al corrente… Potrei continuare – e lo faccio nel libro – ma sia tecnicamente che concettualmente, i “Motori di raccomandazione” sono l’antitesi di “argomenti ristretti”. Il loro scopo e il loro obiettivo coprono l’intero arco del desiderio umano e della decisione.

Una citazione nel tuo libro recita: “I consigli non sono solo su cosa potremmo acquistare, ma su chi potremmo voler diventare”. Come potrebbe essere abusato da imprese o attori malintenzionati?

Non c’è alcun dubbio che la raccomandazione possa essere abusata. La classica domanda “Cui bono?” – “Chi beneficia?” – si applica. Le raccomandazioni sono veramente intese a beneficio del destinatario o dell’entità/impresa che fa la raccomandazione? Così come è facile per un collega, un conoscente o un “amico” che ti conosce offrire consigli che non sono veramente nel tuo interesse, è un gioco digitale per i “consigli basati sui dati” suggerire di acquistare qualcosa che aumenta il loro profitto a spese della tua utilità o soddisfazione. A un certo livello, sono molto preoccupato per la possibilità – e la realtà – di abuso. Dall’altro lato, credo che la maggior parte delle persone capisca abbastanza velocemente quando viene sfruttata o manipolata da persone o tecnologie. Ingannami una volta, vergogna su di te; ingannami due o tre volte, vergogna su di me. La raccomandazione è uno di quei domini speciali in cui è intelligente essere etici ed etici essere intelligenti.

Sono le camere dell’eco, in cui gli utenti vengono alimentati solo con ciò che vogliono vedere, indipendentemente dalla precisione, un problema sociale?

Eli Pariser ha coniato la frase eccellente “la bolla del filtro” per descrivere questo fenomeno e questa patologia. Sono in gran parte d’accordo con la sua prospettiva. In verità, credo che sia ormai giusto dire che la “predisposizione alla conferma” – non il sesso – è ciò che guida veramente la maggior parte del comportamento umano adulto. La maggior parte delle persone cerca l’accordo per la maggior parte del tempo. I consigli devono navigare un percorso attento tra novità, diversità, rilevanza e serendipità perché – mentre troppa conferma è noiosa e ridondante – troppa novità e sfida può essere fastidiosa e offensiva. Quindi, sì, la ricerca della conferma è sia un problema personale che sociale. Tuttavia, credo che i consigli offrano un modo relativamente inoffensivo per portare all’attenzione delle persone prospettive e opzioni alternative.

Le bolle del filtro attualmente limitano l’esposizione a punti di vista conflittuali, contraddittori e sfidanti. Dovrebbe esserci un tipo di regolamentazione che scoraggi questo tipo di sovra-filtraggio?

Preferisco un controllo regolamentare leggero a uno pesante. La maggior parte delle piattaforme che vedo fa un lavoro abbastanza scarso nell’etichettare le “notizie false” o stabilire il controllo della qualità. Mi piacerebbe vedere più meccanismi innovativi esplorati: scorrere a sinistra per un’opinione contraria; incorporare collegamenti che elaborino storie o video in modi che approfondiscano la comprensione o decostruiscono il “bias” che viene confermato. Ma sia chiaro: gli schemi di scelta che “discoraggiano” o creano “attriti” richiedono sensibilità e design diversi da quelli che “vietano” o “censurano” o “impediscono”. Credo che questo sia un problema molto difficile per le persone e le macchine. Ciò che lo rende particolarmente difficile è che gli esseri umani – in realtà – sono meno prevedibili di quanto credano molti psicologi e scienziati sociali. Ci sono molte “teorie della mente” e “agenzia” in questi giorni. Più le raccomandazioni e i consigli diventano personalizzati, più sfidanti e anacronistici diventano gli approcci “una misura per tutti”. È uno dei molti motivi per cui questo dominio mi interessa.

Gli utenti finali e la società dovrebbero esigere la spiegazione del perché vengono fatte raccomandazioni specifiche?

Sì, sì e sì. Non solo “spiegabilità” ma anche “visibilità”, “trasparenza” e “interpretazione”. Le persone dovrebbero avere il diritto di vedere e capire le tecnologie utilizzate per influenzarle. Dovrebbero essere in grado di apprezzare gli algoritmi utilizzati per spronarle e convincerle. Pensate a questo come al corrispettivo algoritmico del “consenso informato” in medicina. I pazienti hanno il diritto di ottenere – e i medici hanno il dovere di fornire – le ragioni e le motivazioni per scegliere “questo” corso di azione rispetto a “quello”. In effetti, sostengo che il “consenso informato” – e il suo futuro – in medicina e assistenza sanitaria offre un buon modello per il futuro del “consenso informato” per i motori di raccomandazione.

Credi che sia possibile “hackerare” il cervello umano utilizzando i Motori di raccomandazione?

Il cervello o la mente? Non scherzo. Stiamo materialmente – elettricamente e chimicamente – hackerando neuroni e lobi? O stiamo utilizzando stimoli sensoriali meno invasivi per evocare comportamenti prevedibili? Francamente, credo che alcuni cervelli – e alcune menti – siano hackerabili alcune volte. Ma credo che le persone siano destinate a diventare “burattini di carne” che ballano al ritmo delle raccomandazioni? Non credo. Guarda, alcune persone diventano tossicodipendenti. Alcune persone perdono l’autonomia e il controllo di sé. E, sì, alcune persone vogliono sfruttare gli altri. Ma la maggior parte delle prove non mi fa preoccupare per la “weaponizzazione della raccomandazione”. Sono più preoccupato per l’abuso della fiducia.

Una citazione in un articolo di ricerca di Jason L. Harman e Jason L. Harman afferma: “La fiducia che gli esseri umani ripongono nelle raccomandazioni è fondamentale per il successo dei sistemi di raccomandazione”. Credi che i social media abbiano tradito questa fiducia?

Credo in quella citazione. Credo che la fiducia sia, in effetti, fondamentale. Credo che le persone intelligenti e etiche capiscano veramente e apprezzino l’importanza della fiducia. Con scuse per il commento di Churchill sulla coraggio, la fiducia è la virtù che consente la connessione e la crescita umana sana. Tuttavia, sono a mio agio nel sostenere che la maggior parte delle piattaforme dei social media – sì, Twitter e Facebook (META ), sto guardando voi! – non sono costruite intorno o basate sulla fiducia. Sono basate sulla facilitazione e sulla scalabilità dell’espressione di sé. La capacità di esprimere se stessi a livello di scala ha letteralmente nulla a che fare con la creazione o la costruzione della fiducia. Non c’era nulla da tradire. Con la raccomandazione, c’è.

Affermi di credere che il futuro dei Motori di raccomandazione presenterà le migliori raccomandazioni per migliorare la propria mente. Secondo te, ci sono attualmente Motori di raccomandazione che lavorano su un tale sistema?

Non ancora. Lo vedo come il prossimo mercato da un trilione di dollari. Credo che Amazon, Google, Alibaba e Tencent vogliano arrivare lì. Ma, chi sa, potrebbe esserci un innovatore imprenditoriale che ci sorprende tutti: forse Spotify che incorpora la consapevolezza e i consigli “just-in-time” potrebbe essere il passo avanti per migliorare la mente.

Come riassumeresti come i Motori di raccomandazione consentono agli utenti di capire meglio se stessi?

Le raccomandazioni sono su scelte buone… a volte, addirittura scelte eccellenti. Quali sono le scelte che accetti? Quali sono le scelte che ignori? Quali sono le scelte che rifiuti? Avere il coraggio di chiedere – e rispondere – a quelle domande ti dà una comprensione notevole di chi sei e chi potresti voler diventare. Siamo le scelte che facciamo; qualunque cosa influenzi quelle scelte ha un impatto e un’influenza notevoli su di noi.

C’è qualcos’altro che vorresti condividere sul tuo libro?

Sì – nell’analisi finale, il mio libro è sul futuro dei consigli e sul futuro di chi “veramente” vuoi diventare. È sul futuro del sé – il tuo “sé”. Credo che sia sia un soggetto emozionante che importante, non credi?

Grazie per aver preso il tempo di condividere le tue opinioni.

Ai nostri lettori consiglio vivamente questo libro, attualmente disponibile su Amazon in formato Kindle o cartaceo. Potete anche visualizzare ulteriori opzioni di acquisto sulla pagina MIT Press.