Michael Schrage, autor knihy Recommendation Engines (The MIT Press) – Interview Series

Michael Schrage je výzkumný pracovník na MIT Sloan School of Management’s Initiative on the Digital Economy. Jako vyhledávaný odborník na inovace, metriky a síťové efekty je autorem knih Kdo chcete, aby vaši zákazníci byli?, Hypotéza inovátora: Jak levné experimenty jsou cennější než dobré nápady (MIT Press) a dalších knih.

V tomto rozhovoru diskutujeme o jeho knize “Recommendation Engines“, která zkoumá historii, technologii, byznys a sociální dopad online doporučení.

Co vás inspirovalo k napsání knihy o tak úzkém tématu, jako jsou „Doporučení“?

Formulování vaší otázky prozrazuje hru….. Když jsem se vážně podíval na digitální technologie a kontaktní body, které skutečně ovlivňují životy lidí po celém světě, téměř vždy jsem našel „doporučení“ jako hnací sílu rozhodnutí. Doporučení Spotify určují hudbu a písně, které lidé slyší; doporučení TikTok definují „virální videa“, která lidé sestavují a sdílejí; doporučení Netflix (NFLX ) jsou navržena tak, aby usnadňovala „binge watching“ a „binge watchers“; Google Maps a Waze doporučují nejlepší a/nebo nejrychlejší a/nebo nejjednodušší způsob, jak se dostat tam; Tinder a Match.com doporučují, s kým byste mohli být nebo, víte, „být“; Stitch Fix (SFIX ) doporučuje, co byste mohli nosit, aby vám to udělalo „váš“; Amazon (AMZN ) doporučuje, co byste opravdu měli koupit; Academia a ResearchGate doporučují nejrelevantnější výzkum, na který byste se měli zaměřit…. Mohl bych pokračovat – a pokračuji v knize – ale technicky i konceptuálně jsou „Doporučení“ pravým opakem „úzkého“. Jejich účel a smysl pokrývají celý rozsah lidského přání a rozhodnutí.

Citát z vaší knihy zní: „Doporučení nejsou jen o tom, co bychom mohli koupit, ale o tom, kým bychom mohli být“. Jak by toto mohlo být zneužito podniky nebo špatnými aktéry?

Neexistuje žádný pochyb o tom, že doporučení mohou být zneužita. „Klasická“ otázka – Cui bono? – „Kdo má prospěch?“ – platí. Jsou doporučení skutečně určena prospěchu příjemce nebo entity/podniku, který dělá doporučení? Stejně jako je snadné pro kolegu, známého nebo „přátel“, kteří vás znají, nabídnout rady, které nejsou ve vašem nejlepším zájmu, je digitálně snadné pro „datově řízená“ doporučení navrhnout, abyste koupili něco, co zvyšuje jejich zisk na úkor vaší užitnosti nebo spokojenosti. Na jedné úrovni jsem velmi znepokojen potenciálem – a realitou – zneužití. Na druhé straně si myslím, že většina lidí rychle pochopí, kdy jsou manipulováni nebo zneužíváni lidmi nebo technologií. Oklamání jednou, hanba vám; oklamání dvakrát nebo třikrát, hanba mně. Doporučení je jednou z těch speciálních oblastí, kde je moudré být etickým a etickým být chytrým.

Jsou echo komory, ve kterých uživatelé dostávají pouze to, co chtějí vidět, bez ohledu na přesnost, společenským problémem?

Eli Pariser vynalezl excelente frázi „filter bubble“, aby popsal tento jev a patologii. Velmi souhlasím s jeho perspektivou. Ve skutečnosti si myslím, že je nyní spravedlivé říci, že „potvrzovací předpojatost“ – a ne sex – je to, co skutečně řídí většinu dospělých lidských chování. Většina lidí hledá souhlas většinu času. Doporučení musí navigovat opatrně mezi novinkami, rozmanitostí, relevantností a náhodností, protože – zatímco příliš mnoho potvrzování je nudné a redundantní – příliš mnoho novinek a výzev může být otravné a urážlivé. Ano, hledání potvrzování je jak osobním, tak sociálním problémem. Říkám, že doporučení nabízejí relativně neotravný způsob, jak přinést alternativní perspektivy a možnosti lidem. Avšak opravdu se ptám, zda regulace a právní přezkum budou stále více definovat budoucnost doporučení.

Měly by existovat some typ regulace, který by odrazoval tento typ nadměrného filtrování?

Preferuji lehký dotek než těžký zásah. Většina platforem, které vidím, dělá velmi špatnou práci při označování „fake news“ nebo při stanovení kvality. Chtěl bych vidět více inovativních mechanismů: posuňte doleva pro kontrastní názor; vložte odkazy, které rozšiřují příběhy nebo videa způsoby, které prohlubují porozumění nebo dekontextualizují „předpojatost“, která je potvrzována. Ale dejme si to jasně: architektury voleb, které „odrazují“ nebo vytvářejí „tření“, vyžadují jiná data a designová vnímání než ty, které „zakazují“ nebo „cenzurují“ nebo „zabraňují“. Myslím, že je to velmi tvrdý problém pro lidi i stroje. Co to dělá besonders tvrdým, je, že lidské bytosti – ve skutečnosti – jsou méně předvídatelné, než si mnozí psychologové a sociální vědci myslí. Existuje mnoho konkurenčních „teorií mysli“ a „agentury“ dnes. Čím více se doporučení a doporučení stávají personalizovanými, tím více jsou výzvou a anachronismem „jedna velikost pro všechny“ přístupy. Je to jeden z mnoha důvodů, proč mě tato oblast zajímá.

Měli by uživatelé a společnost požadovat vysvětlitelnost toho, proč jsou konkrétní doporučení učiněna?

Ano, ano a ano. Nejen „vysvětlitelnost“, ale „viditelnost“, „průhlednost“ a „interpretovatelnost“ také. Lidé by měli mít právo vidět a pochopit technologie, které je ovlivňují. Měli by být schopni ocenit algoritmy, které je nutí a přesvědčují. Myslete na to jako na algoritmický protějšek „informovaného souhlasu“ v medicíně. Pacienti mají právo získat – a lékaři mají povinnost poskytnout – důvody a argumenty pro výběr „této“ kurzu akce k „té“ jiné. Skutečně argumentuji, že „informovaný souhlas“ – a jeho budoucnost – v medicíně a zdravotní péči nabízí dobrý šablonu pro budoucnost „informovaného souhlasu“ pro doporučení.

Věříte, že je možné „hacknout“ lidský mozek pomocí Doporučení?

Mozek nebo mysl? Nežertuji. Jsme materiálně – elektricky a chemicky – hackujeme neurony a laloky? Nebo používáme méně invazivní senzorické stimuly, aby vyvolaly předvídatelné chování? Otevřeně říkám, že některé mozky – a některé mysli – jsou hackovatelné některé časy. Ale věřím, že lidé jsou předurčeni stát se „masovými loutkami“, které tančí na doporučení? Ne. Podívejte se, někteří lidé se stanou závislými. Někteří lidé ztratí autonomii a sebeovládání. A ano, někteří lidé chtějíexploitovat ostatní. Ale převážná většina důkazů mě neznepokojuje o „zbranizaci doporučení“. Mám větší obavy z zneužití důvěry.

Citát z výzkumné práce Jasona L. Harmana a Jasona L. Harmana zní: „Důvěra, kterou lidé kladou na doporučení, je klíčem k úspěchu doporučení“. Věříte, že sociální média zradila tuto důvěru?

Věřím v tento citát. Věřím, že důvěra je skutečně klíčem. Věřím, že inteligentní a etičtí lidé skutečně chápou a oceňují důležitost důvěry. S omluvou k Churchillově komentáři o statečnosti, důvěra je ctností, která umožňuje zdravé lidské spojení a růst. Říkám, že většina sociálních médií – ano, Twitter a Facebook (META ), dívám se na vás! – není postavena kolem nebo založena na důvěře. Jsou založena na usnadňování a škálování sebevyjádření. Schopnost vyjádřit se ve velkém měřítku nemá doslova nic společného s vytvářením nebo budováním důvěry. Nebylo nic, co by se dalo zradit. S doporučeními ano.

Říkáte, že věříte, že budoucnost Doporučení bude zahrnovat nejlepší doporučení pro zlepšení mysli. Je podle vás nåjaká Doporučení目前 pracující na takovéhoto systému?

Ještě ne. Vidím to jako další trilionový trh. Myslím, že Amazon, Google, Alibaba a Tencent chtějí se tam dostat. Ale kdo ví, možná nějaký podnikatelský inovátor překvapí nás všechny: možná Spotify, který zahrnuje mindfulness a just-in-time „rady“, může být průlomem pro zlepšení mysli.

Jak byste shrnul, jak Doporučení umožňují uživatelům lépe porozumět sami sobě?

Doporučení jsou o dobrých volbách…. někdy i o skvělých volbách. Jaké jsou volby, které přijmete? Jaké jsou volby, které ignorujete? Jaké jsou volby, které odmítáte? Mít odvahu položit – a zodpovědět – tyto otázky vám dává pozoruhodné poznání o tom, kdo jste a kým byste mohli být. Jsme volby, které děláme; cokoliv, co ovlivňuje tyto volby, má pozoruhodný dopad a vliv na nás.

Je něco jiného, co byste chtěl sdílet o své knize?

Ano – v první a poslední analýze, moje kniha je o budoucnosti rady a budoucnosti, kým „skutečně“ chcete být. Je o budoucnosti „já“. Myslím, že je to både vzrušující a důležité téma, nemyslíte?

Děkuji vám za čas, který jste strávil sdílením svých názorů.

Naším čtenářům highly doporučujeme tuto knihu, která je aktuálně k dispozici na Amazonu v Kindle nebo brožované verzi. Můžete také prohlédnout další možnosti objednávky na stránce MIT Press.