Michael Schrage, Autor książki Recommendation Engines (The MIT Press) – Seria wywiadów

Michael Schrage jest Research Fellow w MIT Sloan School of Management’s Initiative on the Digital Economy. Jest poszukiwanym ekspertem w dziedzinie innowacji, metryk i efektów sieciowych, jest autorem książek Who Do You Want Your Customers to Become?, The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press) i innych.

W tym wywiadzie dyskutujemy o jego książce “Recommendation Engines“, która opisuje historię, technologię, biznes i społeczny wpływ silników rekomendacji online.

Czym skłoniło Cię do napisania książki na tak wąski temat, jak „Silniki rekomendacji”?

Układ Twojego pytania zdradza grę….. Kiedy poważnie przyjrzałem się cyfrowym technologiom i punktom styku, które naprawdę wpływają na życie ludzi na całym świecie, prawie zawsze znalazłem „silnik rekomendacji” napędzający decyzję. Rekomendacje Spotify decydują o muzyce i piosenkach, które ludzie słuchają; silniki rekomendacji TikTok definiują „wirusowe” filmy, które ludzie montują i udostępniają; rekomendacje Netflix (NFLX ) są zaprojektowane tak, aby ułatwić „binge watching” i „binge watchers”; Google Maps i Waze rekomendują najlepsze i/lub najszybsze i/lub najprostsze sposoby, aby się tam dostać; Tinder i Match.com rekomendują, z kim możesz chcieć być lub, jak to mówią, „być” z; Stitch Fix (SFIX ) rekomenduje, co możesz chcieć nosić, aby być „sobą”; Amazon (AMZN ) rekomenduje, co naprawdę powinieneś kupić; Academia i ResearchGate rekomendują najbardziej istotne badania, które powinieneś znać…. Mogę kontynuować – i robię to w książce – ale zarówno technicznie, jak i pojęciowo „silniki rekomendacji” są przeciwieństwem „wąskich”. Ich punkt i cel obejmują cały zakres ludzkich pragnień i decyzji.

Cytat w Twojej książce brzmi: „Rekomendacje nie dotyczą tylko tego, co możemy kupić, ale także tego, kim możemy chcieć się stać”. Jak to mogłoby być nadużywane przez przedsiębiorstwa lub złe podmioty?

Nie ma wątpliwości, że rekomendacje mogą być nadużywane. Klasyczne pytanie – Cui bono? – „Kto korzysta?” – ma zastosowanie. Czy rekomendacje są naprawdę przeznaczone do korzyści odbiorcy, czy raczej podmiotu/przedsiębiorstwa, które je dokonują? Podobnie jak łatwo dla kolegi, znajomego lub „przyjaciela”, który zna Cię, aby zaoferować radę, która niekoniecznie jest w Twoim najlepszym interesie, tak samo łatwo jest „opartym na danych” rekomendatorom, aby zasugerować Ci coś, co zwiększa ich zysk, kosztem Twojej użyteczności lub satysfakcji. Z jednej strony jestem bardzo zaniepokojony potencjałem – i rzeczywistością – nadużyć. Z drugiej strony uważam, że większość ludzi szybko orientuje się, kiedy są wykorzystywani lub manipulowani przez ludzi lub technologię. Oszukaj mnie raz, wstyd dla Ciebie; oszukaj mnie dwa lub trzy razy, wstyd dla mnie. Rekomendacja jest jednym z tych specjalnych obszarów, w którym jest mądrze być etycznym i etycznie mądrym.

Czy izolowane przestrzenie, w których użytkownicy są karmieni tylko tym, co chcą zobaczyć, niezależnie od dokładności, są problemem społecznym?

Eli Pariser wymyślił doskonałe określenie „bańka filtrująca”, aby opisać ten fenomen i patologię. W dużej mierze zgadzam się z jego perspektywą. Prawdą jest, że uważam, iż „potwierdzenie własnych przekonań” – a nie seks – jest tym, co naprawdę napędza większość dorosłych ludzi. Rekomendacje muszą nawigować ostrożnie pomiędzy nowością, różnorodnością, istotnością i przypadkowością, ponieważ – chociaż zbyt wiele potwierdzeń jest nudne i zbędne – zbyt wiele nowości i wyzwań może być irytujące i obraźliwe. Tak, poszukiwanie potwierdzeń jest zarówno osobistym, jak i społecznym problemem. Powiedzmy, że rekomendacje oferują dość niezagrażający sposób, aby przyciągnąć alternatywne perspektywy i opcje do uwagi ludzi. Jednak zastanawiam się, czy regulacja i przegląd prawny nie będą coraz bardziej definiować przyszłości rekomendacji.

Filtry obecnie ograniczają ekspozycję na sprzeczne, przeciwne i wyzywające punkty widzenia. Czy powinna istnieć jakaś forma regulacji, która zniechęcałaby do tego typu nadmiernego filtrowania?

Wolę lekkie regulacje niż surowe nadzór. Większość platform, które widzę, robi źle w oznaczaniu „fałszywych wiadomości” lub ustanawianiu kontroli jakości. Chciałbym zobaczyć więcej innowacyjnych mechanizmów: przesunięcie w lewo dla sprzecznego spojrzenia; osadzenie linków, które wyjaśniają historie lub filmy w sposób, który pogłębia zrozumienie lub dekontekstualizuje „uprzedzenie”, które jest potwierdzane. Ale niech będzie jasne: architektury wyboru, które „zniechęcają” lub tworzą „tarcie”, wymagają innych danych i wrażliwości projektowych niż te, które „zabraniają” lub „cenzurują” lub „zapobiegają”. Uważam, że jest to bardzo trudny problem dla ludzi i maszyn. To, co go szczególnie utrudnia, to to, że ludzie – w rzeczywistości – są mniej przewidywalni, niż wielu psychologów i naukowców społecznych uważa. Istnieje wiele konkurencyjnych „teorii umysłu” i „agencji” w dzisiejszych czasach. Im bardziej spersonalizowane rekomendacje i rekomendatory stają się, tym bardziej wyzwaniem i anachronizmem stają się „jedno rozmiar pasuje do wszystkich” podejścia. To jeden z wielu powodów, dla których ten obszar mnie interesuje.

Czy użytkownicy końcowi i społeczeństwo powinni żądać wyjaśnienia, dlaczego są dokonywane konkretnych rekomendacji?

Tak, tak i tak. Nie tylko „wyjaśnialność”, ale także „widoczność”, „przezroczystość” i „interpretowalność”. Ludzie powinni mieć prawo do zobaczenia i zrozumienia technologii, które wpływają na nich. Powinni być w stanie docenić algorytmy, które są używane do nakłonienia i przekonania ich. Zastanów się nad tym jako algorytmicznym odpowiednikiem „poinformowanej zgody” w medycynie. Pacjenci mają prawo uzyskać – a lekarze mają obowiązek dostarczyć – powody i uzasadnienia dla wyboru „tego” kursu działania zamiast „tego”. Rzeczywiście, argumentuję, że „poinformowana zgoda” – i jej przyszłość – w medycynie i opiece zdrowotnej oferuje dobrą szablon dla przyszłości „poinformowanej zgody” dla silników rekomendacji.

Czy uważasz, że możliwe jest „hakowanie” ludzkiego mózgu za pomocą silników rekomendacji?

Mózgu czy umysłu? Nie żartuję. Czy modyfikujemy materialnie – elektrycznie i chemicznie – neurony i płaty? Czy używamy mniej inwazyjnych bodźców sensorycznych, aby wywołać przewidywalne zachowania? Szczegółowo uważam, że niektóre mózgi – i niektóre umysły – są hakowalne niektórych czasem. Ale czy uważam, że ludzie są przeznaczeni do stania się „lalkami mięsnymi”, które tańczą do melodii rekomendacji? Nie. Spójrz, niektórzy ludzie stają się uzależnieni. Niektórzy ludzie tracą autonomię i kontrolę nad sobą. I tak, niektórzy ludzie chcą wykorzystywać innych. Ale przewaga dowodów nie sprawia, że martwię się o „uzbrojenie rekomendacji”. Martwię się bardziej o nadużycie zaufania.

Cytat w artykule badawczym Jasona L. Harmana i Jasona L. Harmana brzmi: „Zaufanie, które ludzie pokładają w rekomendacjach, jest kluczem do sukcesu systemów rekomendacji”. Czy uważasz, że media społecznościowe zdradziły to zaufanie?

Wierzę w ten cytat. Wierzę, że zaufanie jest naprawdę kluczem. Wierzę, że mądrzy i etyczni ludzie naprawdę rozumieją i doceniają wagę zaufania. Z przeprosinami za komentarz Churchilla na temat odwagi, zaufanie jest cnotą, która umożliwia zdrowe ludzkie połączenia i wzrost. To powiedziawszy, jestem komfortowy, argumentując, że większość platform mediów społecznościowych – tak, Twitter i Facebook (META ), patrzę na Ciebie! – nie są zbudowane wokół lub oparte na zaufaniu. Są one zbudowane w celu ułatwienia i skalowania samoekspresji. Możliwość samoekspresji na dużą skalę ma dosłownie nic wspólnego z tworzeniem lub budowaniem zaufania. Nie było nic do zdradzenia. Z rekomendacjami jest inaczej.

Twierdzisz, że przyszłość silników rekomendacji będzie cechować najlepsze rekomendacje, aby poprawić umysł. Czy Twoim zdaniem jakieś silniki rekomendacji obecnie pracują nad takim systemem?

Jeszcze nie. Widzę to jako następny trylion dolarowy rynek. Uważam, że Amazon, Google, Alibaba i Tencent chcą tam dotrzeć. Ale kto wie, może jakiś przedsiębiorczy innowator zaskoczy nas wszystkich: może Spotify, które integruje mindfulness i wčas whispered „porady”, może być przełomem w umyśle.

Jak byś podsumował, w jaki sposób silniki rekomendacji umożliwiają użytkownikom lepsze zrozumienie siebie?

Rekomendacje dotyczą dobrych wyborów…. czasem nawet wspaniałych wyborów. Jakie wybory akceptujesz? Jakie wybory ignorujesz? Jakie wybory odrzucasz? Posiadanie odwagi, aby zadać – i odpowiedzieć – na te pytania daje Ci niesamowite wgląd w to, kim jesteś i kim możesz chcieć się stać. Jesteśmy wyborami, które robimy; cokolwiek wpływa na te wybory ma niesamowity wpływ i wpływ na nas.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat swojej książki?

Tak – w pierwszej i ostatecznej analizie, moja książka jest o przyszłości porady i przyszłości tego, kim „naprawdę” chcesz się stać. To o przyszłości siebie – Twojego „siebie”. Uważam, że to zarówno ekscytujący, jak i ważny temat, nie uważasz?

Dziękuję za poświęcenie czasu, aby podzielić się swoimi poglądami.

Dla naszych czytelników bardzo polecamy tę książkę, jest dostępna na Amazon w wersji Kindle lub paperback. Można również zobaczyć więcej opcji zamówienia na stronie MIT Press.