Michael Schrage, kirjailija teoksesta Recommendation Engines (The MIT Press) – Haastattelusarja

Michael Schrage on tutkija MIT Sloan School of Managementin Initiative on the Digital Economyn tiimissä. Hän on arvostettu asiantuntija innovaatioista, mittareista ja verkostovaikutuksista, ja hän on kirjoittanut kirjoja kuten Who Do You Want Your Customers to Become? ja The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press).

Tässä haastattelussa keskustelemme hänen kirjastaan “Recommendation Engines“, joka tutkii online-suositusmoottorien historiaa, teknologiaa, liiketoimintaa ja sosiaalista vaikutusta.

Mikä innoitti sinua kirjoittamaan kirjan niin kapeasta aiheesta kuin “suositusmoottorit”?

Kun tarkastelin vakavasti digitaalisia teknologioita ja kosketuspintoja, jotka vaikuttavat ihmisten elämään ympäri maailmaa, löysin lähes aina “suositusmoottorin”, joka ohjaa päätöksiä. Spotifyn suositukset määräävät musiikin ja kappaleet, joita ihmiset kuuntelevat; TikTokin suositusmoottorit määrittävät “viraalivideot”, joita ihmiset kokoavat ja jakavat; Netflixin suositukset on suunniteltu “binge-katselun” ja “binge-katsojien” helpottamiseksi; Google (GOOGL ) Mapsin ja Wazen suositukset suosittelevat parhaat ja/orjan ja/helppojen tavoista päästä perille; Tinderin ja Match.comin suositukset suosittelevat, kuka sinun kanssa voisi olla tai “olla”; Stitch Fix (SFIX ) suosittelee, mitä sinun kannattaa pukea, jotta sinusta tulee “sinä”; Amazon (AMZN ) suosittelee, mitä sinun kannattaa ostaa; Academia ja ResearchGate suosittelevat tärkeintä tutkimusta, josta sinun kannattaa olla perillä…. Voisin jatkaa – ja teen kirjassa – mutta sekä teknisesti että käsitteellisesti “suositusmoottorit” eivät ole kapea aihe. Niiden tarkoitus ja tavoite kattaa koko ihmisen toiveiden ja päätösten alueen.

Yksi lainaus kirjastasi on seuraava: “Suositukset eivät ole vain siitä, mitä me ostamme, vaan siitä, keitä me haluamme tulla.” Miten tämä voidaan hyväksikäyttää yrityksissä tai pahantahtoisissa toimijoissa?

Ei ole epäilystäkään, että suositukset voidaan hyväksikäyttää. Klassinen kysymys “Cui bono?” – “Kuka hyötyy?” – on sovellettavissa. Onko suositukset todella tarkoitettu hyödyttämään vastaanottajaa vai yritystä, joka antaa suosituksen? Niin kuin on helppo ystävälle tai tuttavalle, joka tietää sinut, antaa neuvoja, jotka eivät välttämättä ole sinun parhaaksi, on digitaalisesti helppo “datavoittoisille” suositteille antaa ehdotuksia, jotka lisäävät heidän voittojaan sinun kustannuksesi. Yhdellä tasolla olen hyvin huolissani mahdollisista ja todellisista hyväksikäytöistä. Toisaalta luulen, että useimmat ihmiset tajuvat nopeasti, kun heidät hyväksikäytetään tai manipuloidaan ihmisin tai teknologian avulla. “Fool me once, shame on you; fool me twice or thrice, shame on me.” Suositus on erityinen alue, jossa on viisasta olla eettinen ja eettinen olla viisas.

Ovatko kaikuksi kutsutut tilat, joissa käyttäjille esitetään vain heidän haluamansa sisältö riippumatta sen oikeellisuudesta, yhteiskunnallinen ongelma?

Eli Pariser keksi erinomaisen termin “suodattimessa” kuvaamaan tätä ilmiötä ja patologiaa. Yleisesti ottaen olen samaa mieltä hänen näkemyksensä kanssa. Totuudenmukaisesti uskon, että voidaan sanoa, että “vahvistusvinouma” – eikä sukupuoli – on se, mikä todella ohjaa useimpien aikuisten ihmisten käyttäytymistä. Useimmat ihmiset etsivät yleensä sopimusta. Suositukset on navigoitava varovasti uutuuden, monimuotoisuuden, relevantin ja sattumanvaraisuuden välillä, koska liian paljon vahvistusta on tylsää ja turhaa, mutta liian paljon uutuuksia ja haastetta voi ärsyttää ja loukata. Joten, kyllä, vahvistuksen etsintä on sekä henkilökohtainen että yhteiskunnallinen ongelma. Sanon kuitenkin, että suositukset tarjoavat suhteellisen häiriöttömän tavan tuoda vaihtoehtoisia näkemyksiä ja vaihtoehtoja ihmisten tietoisuuteen. Kuitenkin epäilen, että sääntely ja oikeudellinen tarkastelu määrittävät suositusten tulevaisuuden yhä enemmän.

Voisiko olla jokinlainen sääntely, joka estäisi tämänkaltaisen yli-suodattamisen?

En pidä tiukasta sääntelystä. Useimmat alustat, joita näen, tekevät huonosti “fake newsin” merkintää tai laadunvalvontaa. Haluaisin nähdä enemmän innovatiivisia mekanismeja: vie sormi vasemmalle vastakkaisen näkemyksen saadaksesi; upota linkkejä, jotka selittävät tarinoita tai videoita tavoilla, jotka syventävät ymmärrystä tai poistavat “vinouman”, jota vahvistetaan. Mutta olkoon selvää: valintarakenteet, jotka “estävät” tai “luo” kitkaa, vaativat erilaisia tietoja ja suunnittelutaitoja kuin ne, jotka “kieltävät” tai “sensuroivat” tai “estävät”. Luulen, että tämä on erittäin vaikea ongelma sekä ihmisille että koneille. Se, mikä tekee siitä erityisen haasteellisen, on, että ihmiset – tosiasiallisesti – ovat vähemmän ennustettavissa kuin monet psykologit ja sosiaalitutkijat uskovat. On paljon kilpailevia “mielen teorioita” ja “toimijuutta” tällä hetkellä. Mitä henkilökohtaisempia suositukset ja suositusmoottorit tulevat, sitä haasteellisempaa ja vanhanaikaisempaa “yksi kokoa” -lähestymistapa tulee.

Pitäisikö loppukäyttäjien ja yhteiskunnan vaatia selitystä siitä, miksi tietyt suositukset tehdään?

Kyllä, kyllä ja kyllä. Ei vain “selitystä”, vaan myös “näkyvyyttä”, “avointa” ja “tulkittavuutta”. Ihmisillä on oikeus nähdä ja ymmärtää teknologioita, jotka vaikuttavat heihin. Heidän on oltava kykeneviä arvioimaan algoritmeja, jotka vaikuttavat heihin. Ajattele tätä algoritmisen vastineena “informoitu suostumus” lääketieteessä. Potilailla on oikeus saada – ja lääkäreillä on velvollisuus antaa – syyt ja perusteet valitsemalla “tämän” toimintatavan “tuon” sijaan. Tosiasiallisesti väitän, että “informoitu suostumus” – ja sen tulevaisuus – lääketieteessä ja terveydenhuollossa tarjoaa hyvän mallin “informoidun suostumuksen” tulevaisuudelle suositusmoottoreissa.

Uskotko, että on mahdollista “hakkeroida” ihmisaivoja suositusmoottorien avulla?

Aivot vai mieli? En pilaile. Häikäiskö me aivoja materiaalisesti – sähköisesti ja kemiallisesti – vai käytämmekö vähemmän invasiivisia aistimellisia ärsykkeitä ennustettavien käyttäytymisen herättämiseksi? Suoraan sanottuna, uskon, että jotkut aivot – ja jotkut mieli – ovat hakkerointikelpoisia joissain tilanteissa. Mutta uskooko, että ihmiset ovat kohtalonomaisesti “lihaliha-nukkeja”, jotka tanssivat suositusten tahdissa? En usko. Katso, jotkut ihmiset ovat riippuvaisia. Jotkut ihmiset menettävät itsehallinnan ja itsesäätelyn. Ja kyllä, jotkut ihmiset haluavat hyväksikäyttää toisia. Mutta enemmistö todisteista ei saa minua huoleen “suositusten aseistamisesta”. Olen enemmän huolissani luottamuksen hyväksikäytöstä.

Yksi lainaus tutkimuspaperista Jason L. Harman ja Jason L. Harman sanoo seuraavaa: “Luottamus, jonka ihmiset asettavat suosituksiin, on avain suositusjärjestelmien menestykseen”. Uskotko, että sosiaalinen media on pettänyt tämän luottamuksen?

Uskon tämän lainaukseen. Uskon, että luottamus on todella avain. Uskon, että älykkäät ja eettiset ihmiset todella ymmärtävät ja arvostavat luottamuksen merkitystä. Sosiaalisen median sääntelyssä – anteeksi Churchillin kommentille rohkeudesta – luottamus on se hyve, joka mahdollistaa terveen ihmisen yhteyden ja kasvun. Sanon kuitenkin, että enimmät sosiaalisen median alustat – kyllä, Twitter ja Facebook (META ), katson teitä! – eivät ole rakennettu luottamusta vaan skaalattavaa itseilmaisua varten. Heidän kykynsä ilmaista itseään on kirjaimellisesti mitään tekemistä luottamuksen luomisen kanssa. Ei ollut mitään pettämistä. Suositusten kohdalla on.

Sanoit uskovasi, että suositusmoottorien tulevaisuus tuo parhaat suositukset, jotka parantavat ihmisen mieltä. Onko joitakin suositusmoottoreita, jotka työskentelevät tällaisen järjestelmän parissa?

Ei vielä. Näen tämän seuraavana biljoonan dollarin markkinana. Luulen, että Amazon, Google, Alibaba ja Tencent haluavat päästä sinne. Mutta kuka tietää, ehkä joku yrittäjä-yrittäjä yllättää meidät kaikki: ehkä Spotify, joka sisällyttää mindfulnessin ja juuri-aikaisen “neuvon” vihjaamisen, voi olla mieltä parantava läpimurto.

Kuinka voit tiivistää, miten suositusmoottorit auttavat käyttäjiä ymmärtämään itseään paremmin?

Suositukset ovat hyvistä valinnoista… joskus jopa erinomaisista valinnoista. Mitkä valinnat sinä omaksut? Mitkä valinnat sinä hylkäät? Mitkä valinnat sinä torjut? Uskallatko kysyä – ja vastata – näihin kysymyksiin antaa sinulle hämmästyttävää tietoa siitä, kuka sinä olet ja kuka sinä haluat tulla. Olemme valinnat, joita teemme; mitä tahansa, mikä vaikuttaa niihin valintoihin, on merkittävää vaikutusta ja vaikutusta meihin.

Onko jotain muuta, mitä haluaisit jakaa kirjastasi?

Kyllä – ensimmäisessä ja viimeisessä analyysissä kirjani on tulevaisuudesta neuvonnasta ja tulevaisuudesta siitä, keitä haluat “oikeasti” tulla. Se on tulevaisuudesta itsestä – sinun “itsestäsi”. Luulen, että se on sekä jännittävä että tärkeä aihe, eikö niin?

Kiitos ajastasi jakaa näkemyksesi.

Lukijoillemme suosittelen tätä kirjaa, se on saatavilla Amazonissa Kindle- tai paperback-versioina. Voit myös tarkastella muita tilausvaihtoehtoja MIT Pressin sivulla.