Michael Schrage, Autor Silników Rekomendacji (The MIT Press) – Seria Wywiadów

Michael Schrage jest Fellowem Badawczym w MIT Sloan School of Management’s Initiative on the Digital Economy. Jako poszukiwany ekspert w dziedzinie innowacji, metryk i efektów sieciowych, jest autorem książek Kim chcesz, aby Twoi klienci się stali?, Hipoteza innowatora: Jak tanie eksperymenty są warte więcej niż dobre pomysły (MIT Press) i innych.

W tym wywiadzie dyskutujemy o jego książce “Silniki Rekomendacji“, która eksploruje historię, technologię, biznes i społeczny wpływ silników rekomendacji online.

Co skłoniło Cię do napisania książki na tak wąski temat, jak „Silniki Rekomendacji”?

Sformułowanie Twojego pytania zdradza grę….. Kiedy poważnie przyjrzałem się cyfrowym technologiom i punktom styku, które naprawdę wpływają na życie ludzi na całym świecie, prawie zawsze znalazłem „silnik rekomendacji” napędzający decyzję. Rekomendacje Spotify determinują muzykę i piosenki, które ludzie słuchają; silniki rekomendacji TikTok definiują „wirusowe filmy”, które ludzie tworzą i udostępniają; rekomendacje Netflix zostały zaprojektowane w celu ułatwienia „binge watching” i „binge watcherów”; Google Maps i Waze rekomendują najlepsze i/lub najszybsze i/lub najprostsze sposoby, aby się tam dostać; Tinder i Match.com rekomendują, z kim możesz chcieć być lub, wiesz, „być” z; Stitch Fix rekomenduje, co możesz chcieć nosić, co sprawia, że jesteś „ty”; Amazon rekomenduje, co naprawdę powinieneś kupić; Academia i ResearchGate rekomendują najbardziej istotne badania, na których powinieneś być na bieżąco…. Mogę kontynuować – i robię to w książce – ale zarówno technicznie, jak i pojęciowo, „silniki rekomendacji” są przeciwieństwem „wąskich”. Ich punkt i cel obejmują cały zakres ludzkich pragnień i decyzji.

Cytat w Twojej książce brzmi: „Rekomendacje nie dotyczą tylko tego, co możemy kupić, ale także tego, kim możemy chcieć się stać”. Jak mogą być nadużywane przez przedsiębiorstwa lub złe podmioty?

Nie ma wątpliwości, że rekomendacje mogą być nadużywane. Klasyczne pytanie – Cui bono? – „Kto zyskuje?” – ma zastosowanie. Czy rekomendacje są naprawdę przeznaczone do korzyści odbiorcy, czy podmiotu/przedsiębiorstwa, które je dokonują? Tak jak łatwo dla kolegi, znajomego lub „przyjaciela”, który Cię zna, aby zaoferować radę, która nie jest naprawdę w Twoim najlepszym interesie, tak samo łatwo dla „opartych na danych” rekomendacji jest zasugerować, abyś kupił coś, co zwiększa ich zysk kosztem Twojej użyteczności lub satysfakcji. Na pewnym poziomie jestem bardzo zaniepokojony potencjałem – i rzeczywistością – nadużycia. Z drugiej strony, uważam, że większość ludzi szybko orientuje się, kiedy są wykorzystywani lub manipulowani przez ludzi lub technologię. Oszukaj mnie raz, wstyd dla Ciebie; oszukaj mnie dwa lub trzy razy, wstyd dla mnie. Rekomendacja jest jednym z tych specjalnych obszarów, w którym jest mądrze być etycznym i etycznie być mądrym.

Czy izolowane pomieszczenia, w których użytkownicy są karmieni tylko tym, co chcą zobaczyć, niezależnie od dokładności, są problemem społecznym?

Eli Pariser wymyślił doskonałe określenie „bańka filtrująca”, aby opisać to zjawisko i patologię. W dużej mierze zgadzam się z jego perspektywą. Prawdą jest, że uważam, iż teraz można powiedzieć, że „potwierdzenie przekonań” – a nie seks – jest tym, co naprawdę napędza większość ludzkiego zachowania. Większość ludzi szuka potwierdzenia większości czasu. Rekomendacje muszą nawigować przez ostrożny kurs między nowością, różnorodnością, istotnością i przypadkowością, ponieważ – chociaż zbyt duża potwierdzenie jest nudne i zbędne – zbyt duża nowość i wyzwanie mogą być irytujące i obraźliwe. Tak, poszukiwanie potwierdzenia jest zarówno osobistym, jak i społecznym problemem. Powiedzmy, że rekomendacje oferują dość nieobraźliwy sposób, aby zwrócić uwagę ludzi na alternatywne perspektywy i opcje. Jednakże, naprawdę się zastanawiam, czy regulacja i przegląd prawny nie będą coraz bardziej definiować przyszłości rekomendacji.

Obecnie bąbelki filtrujące ograniczają ekspozycję na sprzeczne, przeciwne i/lub wyzywające/punkty widzenia. Czy powinna istnieć jakaś forma regulacji, która zniechęcałaby do tego rodzaju nadmiernego filtrowania?

Wolę lekki dotyk regulacyjnego nadzoru niż ciężką rękę. Większość platform, które widzę, robi źle pracę w oznaczaniu „fałszywych wiadomości” lub ustanawianiu kontroli jakości. Chciałbym zobaczyć więcej innowacyjnych mechanizmów: przesuń w lewo, aby uzyskać sprzeczną opinię; umieść linki, które wyjaśniają historie lub filmy w sposób, który pogłębia zrozumienie lub dekontekstualizuje „przekonanie”, które jest potwierdzane. Ale bądźmy jasni: architektury wyboru, które „zniechęcają” lub tworzą „tarcie”, wymagają innych danych i wrażliwości projektowych niż te, które „zabraniają” lub „cenzurują” lub „zapobiegają”. Uważam, że to bardzo trudny problem dla ludzi i maszyn. To, co go szczególnie utrudnia, to fakt, że ludzkie istoty – w rzeczywistości – są mniej przewidywalne, niż wielu psychologów i naukowców społecznych uważa. Istnieje wiele konkurencyjnych „teorii umysłu” i „agencji” w ostatnich czasach. Im bardziej personalizowane rekomendacje i rekomendacje stają się, tym bardziej wyzwaniem i anachronizmem stają się „jedna wielkość pasuje do wszystkich” podejścia. To jeden z wielu powodów, dla których ten obszar mnie interesuje.

Czy użytkownicy końcowi i społeczeństwo powinni żądać wyjaśnienia, dlaczego są dokonywane konkretnie rekomendacje?

Tak, tak i tak. Nie tylko „wyjaśnialność”, ale także „widoczność”, „przezroczystość” i „interpretowalność”. Ludzie powinni mieć prawo zobaczyć i zrozumieć technologie, które wpływają na nich. Powinni być w stanie docenić algorytmy używane do nakłaniania i przekonywania ich. Myśl o tym jako o odpowiedniku „poinformowanej zgody” w medycynie. Pacjenci mają prawo uzyskać – a lekarze mają obowiązek dostarczyć – powody i uzasadnienia dla wyboru „tego” kursu działania zamiast „tego”. Rzeczywiście, twierdzę, że „poinformowana zgoda” – i jej przyszłość – w medycynie i opiece zdrowotnej oferuje dobrą szablon dla przyszłości „poinformowanej zgody” dla silników rekomendacji.

Czy uważasz, że jest możliwe „hakowanie” ludzkiego mózgu za pomocą silników rekomendacji?

Mózgu czy umysłu? Nie żartuję. Czy modyfikujemy materialnie – elektrycznie i chemicznie – neurony i płaty? Czy używamy mniej inwazyjnych bodźców sensorycznych, aby wywołać przewidywalne zachowania? Szczegółowo, uważam, że niektóre mózgi – i niektóre umysły – są hakowalne niektóre razy. Ale czy uważam, że ludzie są skazani na to, aby stać się „mięsnymi marionetkami”, które tańczą do melodii rekomendacji? Nie. Spójrz, niektórzy ludzie stają się uzależnieni. Niektórzy ludzie tracą autonomię i kontrolę. I tak, niektórzy ludzie chcą wykorzystywać innych. Ale przewaga dowodów nie powoduje, że martwię się o „uzbrojenie rekomendacji”. Martwię się bardziej o nadużycie zaufania.

Cytat w pracy badawczej Jasona L. Harmana i Jasona L. Harmana brzmi: „Zaufanie, które ludzie pokładają w rekomendacjach, jest kluczem do sukcesu systemów rekomendacji”. Czy uważasz, że media społecznościowe zdradziły to zaufanie?

Wierzę w ten cytat. Wierzę, że zaufanie jest naprawdę kluczem. Wierzę, że mądrzy i etyczni ludzie naprawdę rozumieją i doceniają wagę zaufania. Z przeprosinami za komentarz Churchilla na temat odwagi, zaufanie jest cnotą, która umożliwia zdrowe ludzkie połączenie i wzrost. To powiedziawszy, jestem komfortowy, argumentując, że większość platform mediów społecznościowych – tak, Twitter i Facebook, patrzę na Ciebie! – nie jest zbudowana wokół lub oparta na zaufaniu. Są one oparte na ułatwianiu i skalowaniu ekspresji siebie. Możliwość ekspresji siebie w skali ma dosłownie nic wspólnego z tworzeniem lub budowaniem zaufania. Nie było niczego, co można było zdradzić. Z rekomendacjami jest.

Twierdzisz, że przyszłość silników rekomendacji będzie cechować najlepsze rekomendacje, aby poprawić umysł. Czy Twoim zdaniem jakieś silniki rekomendacji obecnie pracują nad takim systemem?

Jeszcze nie. Widzę to jako następny rynek o wartości biliona dolarów. Uważam, że Amazon, Google, Alibaba i Tencent chcą tam dotrzeć. Ale kto wie, może jakiś innowacyjny przedsiębiorca nas zaskoczy: może Spotify, które integruje mindfulness i „na czas” szeptane „porady”, może być przełomem w poprawie umysłu.

Jak byś podsumował, w jaki sposób silniki rekomendacji umożliwiają użytkownikom lepsze zrozumienie siebie?

Rekomendacje dotyczą dobrych wyborów…. czasem nawet wspaniałych wyborów. Jakie wybory akceptujesz? Jakie wybory ignorujesz? Jakie wybory odrzucasz? Zadawanie sobie – i odpowiedź na – te pytania daje Ci niesamowite spojrzenie na to, kim jesteś i kim możesz chcieć się stać. Jesteśmy wyborami, które robimy; cokolwiek wpływa na te wybory, ma ogromny wpływ i wpływ na nas.

Czy jest coś jeszcze, co chciałbyś podzielić się o swojej książce?

Tak – w pierwszej i ostatecznej analizie, moja książka jest o przyszłości porady i przyszłości tego, kim „naprawdę” chcesz się stać. To o przyszłości „siebie”. Uważam, że to zarówno ekscytujący, jak i ważny temat, nie zgadzasz się?

Dziękuję za poświęcony czas, aby podzielić się swoimi poglądami.

Dla naszych czytelników bardzo polecam tę książkę, jest dostępna na Amazon w wersji Kindle lub w miękkiej oprawie. Można również wyświetlić więcej opcji zamówienia na stronie MIT Press.