Michael Schrage, autorul cărții Recommendation Engines (The MIT Press) – Seria de interviuri

Michael Schrage este cercetător la MIT Sloan School of Management’s Initiative on the Digital Economy. Un expert căutat în inovare, metrici și efecte de rețea, el este autorul cărților Cine vrei să devină clienții tăi?, Ipoteza inovatorului: Cum experimentele ieftine valorează mai mult decât ideile bune (MIT Press) și alte cărți.

În acest interviu discutăm cartea sa “Recommendation Engines” care explorează istoria, tehnologia, afacerile și impactul social al motoarelor de recomandare online.

Ce v-a inspirat să scrieți o carte despre un subiect atât de îngust cum ar fi “Recomandări de motoare”?

Formularea întrebării dă jocul înapoi….. Când am examinat serios tehnologiile digitale și punctele de contact care influențează cu adevărat viețile oamenilor din întreaga lume, am găsit aproape întotdeauna un “motor de recomandare” care conduce decizia. Recomandările Spotify determină muzica și cântecele pe care le aude oamenii; motoarele de recomandare ale TikTok definesc “videoclipurile virale” pe care oamenii le pun împreună și le împărtășesc; recomandările Netflix sunt proiectate pentru a facilita “vizionarea excesivă” și “vizionarii excesivi”; Google Maps și Waze recomandă cele mai bune și/sau mai rapide și/sau mai simple moduri de a ajunge acolo; Tinder și Match.com recomandă cu cine ați putea dori să fiți sau, știți, “a fi” cu; Stitch Fix recomandă ce ați putea dori să purtați pentru a vă face “voi”; Amazon vă va recomanda ce ar trebui să cumpărați cu adevărat; Academia și ResearchGate vă vor recomanda cea mai relevantă cercetare pe care ar trebui să o știți…. Aș putea continua – și o fac în cartea – dar atât din punct de vedere tehnic, cât și conceptual, “Motoarele de recomandare” sunt antiteza “îngustului”. Punctul și scopul lor acoperă întreaga gamă a dorințelor și deciziilor umane.

O citat din cartea dvs. este următorul: “Recomandările nu sunt doar despre ceea ce am putea cumpăra, ci despre cine am putea dori să devenim”. Cum ar putea fi acest lucru abuzat de întreprinderi sau actori răi?

Nu există nicio îndoială că recomandarea poate fi abuzată. Întrebarea clasică – Cui bono? – “Cine beneficiază?” – se aplică. Sunt recomandările cu adevărat menite să beneficieze destinatarul sau entitatea/întreprinderea care face recomandarea? La fel cum este ușor pentru un coleg, un cunoscut sau un “prieten” care vă cunoaște să vă ofere sfaturi care nu sunt cu adevărat în interesul dvs., este un clic digital pentru “recomandări bazate pe date” să sugereze să cumpărați ceva care crește profitul “lor” în detrimentul “utilității” sau “satisfacției” dvs. La un nivel, sunt foarte îngrijorat de potențialul – și realitatea – abuzului. Pe de altă parte, cred că majoritatea oamenilor înțeleg destul de repede când sunt exploatați sau manipulați de oameni sau tehnologie. Păcăliți-mă o dată, rușine pentru voi; păcăliți-mă de două sau de trei ori, rușine pentru mine. Recomandarea este unul dintre acele domenii speciale în care este înțelept să fii etic și etic să fii deștept.

Sunt camerele de ecou în care utilizatorii primesc doar ceea ce doresc să vadă, indiferent de acuratețe, o problemă socială?

Eli Pariser a inventat expresia excelentă “bula de filtrare” pentru a descrie acest fenomen și patologie. Sunt de acord în mare măsură cu perspectiva sa. În realitate, cred că acum este corect să spunem că “prejudecata de confirmare” – și nu sexul – este ceea ce conduce cu adevărat majoritatea comportamentului uman adult. Majoritatea oamenilor caută acordul majorității timpului. Recomandările trebuie să navigheze un curs atent între noutate, diversitate, relevanță și întâmplare, deoarece – în timp ce prea multă confirmare este plictisitoare și redundantă – prea multă noutate și provocare poate irita și ofensa. Da, căutarea confirmării este atât o problemă personală, cât și una socială. Cu toate acestea, recomandările oferă un mod relativ neofensiv de a aduce perspective și opțiuni alternative în atenția oamenilor. Cu toate acestea, mă întreb dacă reglementarea și revizuirea juridică vor defini din ce în ce mai mult viitorul recomandării.

Camerele de ecou limitează în prezent expunerea la perspective contradictorii, contradictorii și/sau provocatoare. Ar trebui să existe un fel de reglementare care să descurajeze acest tip de suprafiltrare?

Prefer reglementarea ușoară în locul supravegherii grele. Majoritatea platformelor pe care le văd nu fac o treabă prea bună în etichetarea “știrilor false” sau stabilirea controlului calității. Aș dori să văd mai multe mecanisme inovatoare explorate: glisați spre stânga pentru a obține o luare de cuvânt contrariană; încorporați link-uri care să detalieze povești sau videoclipuri în moduri care să adâncească înțelegerea sau să decontextualizeze “prejudecata” care este confirmată. Dar să fim clari: arhitecturile alegerii care “descurajează” sau “creează” “fricțiuni” necesită date și sensibilități de proiectare diferite decât cele care “interzic” sau “cenzurează” sau “previn”. Cred că acesta este un problemă foarte grea atât pentru oameni, cât și pentru mașini. Ce o face deosebit de grea este faptul că ființele umane – în fapt – sunt mai imprevizibile decât cred mulți psihologi și oameni de știință socială. Există multe “teorii ale minții” și “agenții” care concurează în zilele noastre. Cu cât recomandările și recomandările devin mai personalizate, cu atât abordările “unul pentru toți” devin mai dificile și mai anacronice. Este unul dintre motivele pentru care acest domeniu mă interesează atât de mult.

Ar trebui utilizatorii finali și societatea să ceară explicabilitatea motivului pentru care se fac recomandări specifice?

Da, da și da. Nu doar “explicabilitate”, ci și “vizibilitate”, “transparență” și “interpretabilitate”. Oamenii ar trebui să aibă dreptul de a vedea și de a înțelege tehnologiile utilizate pentru a-i influența. Ar trebui să poată aprecia algoritmii utilizați pentru a-i îndemna și convinge. Gândiți-vă la acest lucru ca la un echivalent algoritmic al “consimțământului informat” în medicină. Pacienții au dreptul de a obține – și medicii au datoria de a oferi – motivele și rațiunile pentru alegerea “acestui” curs de acțiune față de “celălalt”. Într-adevăr, susțin că “consimțământul informat” – și viitorul său – în medicină și îngrijirea sănătății oferă un model bun pentru viitorul “consimțământului informat” pentru motoarele de recomandare.

Credeti că este posibil să “hackinguiți” creierul uman folosind Motoare de Recomandare?

Creierul sau mintea? Nu glumesc. Suntem material – electric și chimic – hacking neurons și lobi? Sau folosim stimuli senzoriali mai puțin invazivi pentru a evoca comportamente previzibile? Sincer, cred că unele creiere – și unele minți – sunt hackabile uneori. Dar cred că oamenii sunt destinați să devină “păpuși de carne” care dansează la ritmul recomandărilor? Nu cred. Uitați-vă, unii oameni devin dependenți. Unii oameni pierd autonomie și autocontrol. Și, da, unii oameni vor să exploateze alții. Dar preponderența dovezilor nu mă face să mă îngrijorez cu privire la “armarea recomandării”. Sunt mai îngrijorat de abuzul de încredere.

O citat dintr-un articol de cercetare de Jason L. Harman și Jason L. Harman afirmă următorul: “Încrederea pe care oamenii o acordă recomandărilor este cheia succesului sistemelor de recomandare”. Credeti că rețelele sociale au trădat această încredere?

Cred în citat. Cred că încrederea este, într-adevăr, cheia. Cred că oamenii deștepți și etici înțeleg și apreciază cu adevărat importanța încrederii. Cu scuze pentru comentariul lui Churchill despre curaj, încrederea este virtutea care permite conexiunea umană sănătoasă și creșterea. Acesta spus, sunt confortabil să argumentez că majoritatea platformelor de rețele sociale – da, Twitter și Facebook, vă privesc! – nu sunt construite în jurul sau bazate pe încredere. Sunt bazate pe facilitarea și scalarea autoexprimării. Capacitatea de a vă exprima la scară are literalmente nimic de-a face cu crearea sau construirea încrederii. Nu a existat nimic de trădat. Cu recomandarea, există.

Afirmati că viitorul Motoarelor de Recomandare va prezenta cele mai bune recomandări pentru a îmbunătăți mintea cuiva. În opinia dvs., lucrează vreuna dintre Motoarele de Recomandare actuale la un astfel de sistem?

Nu încă. Văd acest lucru ca următorul market de mii de miliarde de dolari. Cred că Amazon și Google și Alibaba și Tencent vor să ajungă acolo. Dar, cine știe, poate există un inovator antreprenorial care ne va surprinde pe toți: poate Spotify, care incorporează mindfulness și sfaturi “la momentul potrivit” șoptite, va fi breșa care îmbunătățește mintea.

Cum ați rezuma modul în care Motoarele de Recomandare permit utilizatorilor să se înțeleagă mai bine pe ei înșiși?

Recomandările sunt despre alegeri bune…. uneori, chiar și alegeri excelente. Care sunt alegerile pe care le îmbrățișați? Care sunt alegerile pe care le ignorați? Care sunt alegerile pe care le respingeți? A avea curajul de a întreba – și de a răspunde – la aceste întrebări vă oferă o perspectivă remarcabilă asupra a cui sunteți și cui ați putea dori să deveniți. Suntem alegerile pe care le facem; orice influențează aceste alegeri are un impact și o influență remarcabilă asupra noastră.

Există altceva pe care ați dori să-l împărtășiți despre cartea dvs.?

Da – în analiza finală, cartea mea este despre viitorul sfaturilor și viitorul a cui “ați dori să deveniți”. Este despre viitorul “sinelui” – “sinelui” dvs. Cred că acesta este un subiect atât interesant, cât și important, nu credeți?

Mulțumim pentru timpul acordat pentru a împărtăși perspectivele dvs.

Pentru cititorii noștri, vă recomandăm cu căldură această carte, care este disponibilă în prezent pe Amazon în format Kindle sau tipărit. Puteți găsi și mai multe opțiuni de comandă pe pagina MIT Press.