Michael Schrage, autor al cărții Recommendation Engines (The MIT Press) – Seria de interviuri

Michael Schrage este cercetător la Inițiativa pentru Economia Digitală a Școlii de Management Sloan a MIT. Un expert solicitat în domeniul inovării, metricilor și efectelor de rețea, el este autorul cărților Cine vrei să devină clienții tăi?, Ipoteza inovatorului: Cum experimentele ieftine sunt mai valoroase decât ideile bune (MIT Press) și alte cărți.

În acest interviu discutăm despre cartea sa “Recomandări pentru motoare“, care explorează istoria, tehnologia, afacerile și impactul social al motoarelor de recomandare online.

Ce v-a inspirat să scrieți o carte despre un subiect atât de îngust, cum ar fi “Motoarele de recomandare”?

Formularea întrebării dă înapoi… Când am examinat serios tehnologiile digitale și punctele de contact care influențează cu adevărat viețile oamenilor din întreaga lume, am găsit aproape întotdeauna un “motor de recomandare” care conduce decizia. Recomandările Spotify determină muzica și cântecele pe care le aude oamenii; motoarele de recomandare ale TikTok definesc “videoclipurile virale” pe care oamenii le pun împreună și le împărtășesc; recomandările Netflix (NFLX ) au fost proiectate pentru a facilita “vizionarea în lanț” și “vizionarea în lanț”; Google Maps și Waze recomandă cele mai bune și/sau mai rapide și/sau mai simple moduri de a ajunge acolo; Tinder și Match.com recomandă cu cine ați putea dori să fiți sau, știți, “a fi” cu; Stitch Fix (SFIX ) recomandă ce ați putea dori să purtați pentru a vă face “voi”; Amazon (AMZN ) va recomanda ce ar trebui să cumpărați; Academia și ResearchGate vor recomanda cea mai relevantă cercetare pe care ar trebui să o fiți la curent… Aș putea continua – și o fac în cartea mea – dar, atât tehnic, cât și conceptual, “Motoarele de recomandare” sunt antiteza “îngustimii”. Scopul și obiectivul lor acoperă întreaga sferă a dorințelor și deciziilor umane.

O citat din cartea dvs. este următorul: “Recomandările nu sunt doar despre ceea ce am putea cumpăra, ci despre cine am putea dori să devenim”. Cum poate fi acest lucru abuzat de către întreprinderi sau actori răi?

Există o îndoială cu privire la faptul că recomandarea poate fi abuzată. Întrebarea clasică “Cui bono?” – “Cine beneficiază?” – se aplică. Sunt recomandările cu adevărat menite să beneficieze destinatarul sau entitatea/întreprinderea care face recomandarea? La fel cum este ușor pentru un coleg, un cunoscut sau un “prieten” care vă cunoaște să vă ofere sfaturi care nu sunt cu adevărat în interesul dvs., este un “snap” digital pentru “recomandările bazate pe date” să sugereze că ar trebui să cumpărați ceva care crește “profitul lor” în detrimentul “utilității” sau “satisfacției” dvs. Pe un nivel, sunt foarte îngrijorat de posibilitatea – și realitatea – abuzului. Pe alt nivel, cred că majoritatea oamenilor înțeleg destul de repede când sunt exploatați sau manipulați de oameni sau tehnologie. Înșelați-mă o dată, rușine pentru voi; înșelați-mă de două sau de trei ori, rușine pentru mine. Recomandarea este unul dintre acele domenii speciale în care este inteligent să fii etic și etic să fii inteligent.

Sunt camerele de ecou în care utilizatorii primesc doar ceea ce doresc să vadă, indiferent de acuratețe, o problemă societală?

Eli Pariser a inventat expresia excelentă “bula de filtrare” pentru a descrie acest fenomen și patologie. În mare măsură, sunt de acord cu perspectiva sa. În realitate, cred că acum este corect să spunem că “prejudecata de confirmare” – și nu sexul – este ceea ce conduce cu adevărat majoritatea comportamentului uman adult. Majoritatea oamenilor caută acordul mai mult timp. Recomandările trebuie să navigheze un curs atent între noutate, diversitate, relevanță și serendipitate, deoarece – în timp ce prea multă confirmare este plictisitoare și redundantă – prea multă noutate și provocare poate irita și ofensa. Deci, da, căutarea confirmării este atât o problemă personală, cât și socială. Cu toate acestea, recomandările oferă un mod relativ neofensiv de a aduce perspective și opțiuni alternative în atenția oamenilor. Cu toate acestea, mă întreb dacă reglementarea și revizuirea juridică vor defini din ce în ce mai mult viitorul recomandării.

Filterele de bulă actualmente limitează expunerea la perspective contradictorii, contradictorii și/sau provocatoare. Ar trebui să existe un fel de reglementare care să descurajeze acest tip de suprafiltrare?

Prefer o supraveghere ușoară în loc de una grea. Majoritatea platformelor pe care le văd fac o treabă proastă în etichetarea “știrilor false” sau stabilirea controlului calității. Aș dori să văd mai multe mecanisme inovatoare explorate: swipe la stânga pentru o luare contrariană; încorporați linkuri care să detalieze povești sau videoclipuri în moduri care să adâncească înțelegerea sau să decontextualizeze “prejudecata” care este confirmată. Dar să fim clari: arhitecturile alegerii care “descurajează” sau “creează fricțiuni” necesită sensibilități și proiectări de date diferite decât cele care “interzic” sau “cenzurează” sau “previn”. Cred că acesta este un problemă foarte grea atât pentru oameni, cât și pentru mașini. Ce o face deosebit de grea este că ființele umane – în realitate – sunt mai imprevizibile decât cred mulți psihologi și oameni de știință socială. Există multe “teorii ale minții” și “agenții” care concurează în zilele noastre. Cu cât recomandările și motoarele de recomandare devin mai personalizate, cu atât abordările “una pentru toți” devin mai provocatoare și mai anacronice. Este unul dintre motivele pentru care acest domeniu mă interesează atât de mult.

Ar trebui utilizatorii finali și societatea să ceară explicabilitate cu privire la de ce sunt făcute recomandări specifice?

Da, da și da. Nu doar “explicabilitate”, ci și “vizibilitate”, “transparență” și “interpretabilitate”, de asemenea. Oamenii ar trebui să aibă dreptul de a vedea și de a înțelege tehnologiile utilizate pentru a-i influența. Ar trebui să poată aprecia algoritmii utilizați pentru a-i îndemna și a-i convinge. Gândiți-vă la acest lucru ca la contrapartea algoritmică a “consimțământului informat” în medicină. Pacienții au dreptul de a obține – și medicii au datoria de a oferi – motivele și rațiunile pentru alegerea “acestui” curs de acțiune față de “acela”. Într-adevăr, susțin că “consimțământul informat” – și viitorul său – în medicină și îngrijirea sănătății oferă un model bun pentru viitorul “consimțământului informat” pentru motoarele de recomandare.

Credeti că este posibil să “hackinguiți” creierul uman folosind motoarele de recomandare?

Creierul sau mintea? Nu glumesc. Suntem materialmente – electric și chimic – hacking neurons și lobi? Sau folosim stimuli senzoriali mai puțin invazivi pentru a evoca comportamente previzibile? Blunt, cred că unele creiere – și unele minți – sunt hackabile uneori. Dar cred că oamenii sunt destinați să devină “păpuși de carne” care dansează la recomandările tehnologiei? Nu cred. Uitați-vă, unele persoane devin dependente. Unele persoane pierd autonomia și controlul de sine. Și, da, unele persoane doresc să exploateze altele. Dar preponderența dovezilor nu mă face să mă îngrijorez cu privire la “weaponizarea recomandării”. Sunt mai îngrijorat de abuzul de încredere.

O citat dintr-un articol de cercetare de Jason L. Harman și Jason L. Harman afirmă următorul: “Încrederea pe care oamenii o acordă recomandărilor este cheia succesului sistemelor de recomandare”. Credeti că rețelele sociale au trădat această încredere?

Cred în acel citat. Cred că încrederea este, într-adevăr, cheia. Cred că oamenii deștepți și etici înțeleg și apreciază cu adevărat importanța încrederii. Cu scuzele lui Churchill pentru comentariul său despre curaj, încrederea este virtutea care permite conexiunea și creșterea umană sănătoasă. Acesta fiind spus, sunt confortabil să argumentez că majoritatea platformelor de rețele sociale – da, Twitter și Facebook (META ), vă privesc! – nu sunt construite în jurul sau bazate pe încredere. Sunt bazate pe facilitarea și scalarea expresiei de sine. Capacitatea de a-ți exprima sinele la scară are literalmente nimic de-a face cu crearea sau construirea încrederii. Nu a existat nimic de trădat. Cu recomandarea, există.

Ați afirmat că viitorul motoarelor de recomandare va include cele mai bune recomandări pentru a îmbunătăți mintea. În opinia dvs., există vreun motor de recomandare care lucrează în prezent la un astfel de sistem?

Încă nu. Văd acest lucru ca următorul market de mii de miliarde de dolari. Cred că Amazon, Google, Alibaba și Tencent doresc să ajungă acolo. Dar, cine știe, poate există un inovator antreprenorial care ne va surprinde pe toți: poate Spotify, care incorporează mindfulness și “sfaturi șoptite” la momentul potrivit, va fi break-through-ul care îmbunătățește mintea.

Cum ați rezuma cum motoarele de recomandare permit utilizatorilor să se înțeleagă mai bine pe sine?

Recomandările sunt despre alegeri bune… uneori, chiar alegeri excelente. Care sunt alegerile pe care le îmbrățișați? Care sunt alegerile pe care le ignorați? Care sunt alegerile pe care le respingeți? Având curajul de a întreba – și de a răspunde – la aceste întrebări vă oferă o perspectivă remarcabilă asupra cui sunteți și cui ați putea dori să deveniți. Suntem alegerile pe care le facem; orice influențează aceste alegeri are un impact și o influență remarcabilă asupra noastră.

Există altceva pe care ați dori să-l împărtășiți despre cartea dvs.?

Da – în primul și ultimul analiză, cartea mea este despre viitorul sfaturilor și viitorul cui “really” doriți să deveniți. Este despre viitorul sinelui – al “sinelui” dvs. Cred că acesta este un subiect atât de interesant, cât și de important, nu credeți?

Mulțumim pentru timpul acordat pentru a împărtăși perspectivele dvs.

Pentru cititorii noștri, vă recomandăm cu căldură această carte, care este disponibilă în prezent pe Amazon în format Kindle sau broșat. De asemenea, puteți vizualiza mai multe opțiuni de comandă pe pagina MIT Press.