Michael Schrage, Autor von Recommendation Engines (The MIT Press) – Interview-Serie

Michael Schrage ist ein Research Fellow am MIT Sloan School of Management’s Initiative on the Digital Economy. Als gefragter Experte für Innovation, Metriken und Netzwerkeffekte ist er Autor von Who Do You Want Your Customers to Become?, The Innovator’s Hypothesis: How Cheap Experiments Are Worth More than Good Ideas (MIT Press) und anderen Büchern.

In diesem Interview diskutieren wir sein Buch “Recommendation Engines“, das die Geschichte, Technologie, Geschäft und soziale Auswirkungen von Online-Empfehlungsmotoren erforscht.

Was hat Sie dazu inspiriert, ein Buch über ein so spezifisches Thema wie “Recommendation Engines” zu schreiben?

Die Formulierung Ihrer Frage gibt das Spiel preis….. Als ich mir die digitalen Technologien und Touchpoints ansah, die das Leben der Menschen auf der ganzen Welt wirklich beeinflussen, fand ich fast immer einen “Empfehlungsmotor” vor, der Entscheidungen beeinflusste. Spotifys Empfehlungen bestimmen die Musik und Songs, die Menschen hören; TikToks Empfehlungsmotoren definieren die “viralen Videos”, die Menschen zusammenstellen und teilen; Netflix’ Empfehlungen sind so konzipiert, dass sie “Binge-Watching” und “Binge-Viewer” ermöglichen; Google Maps und Waze empfehlen die besten und/oder schnellsten und/oder einfachsten Wege dorthin; Tinder und Match.com empfehlen, mit wem man zusammen sein könnte oder, Sie wissen schon, “sein” könnte; Stitch Fix (SFIX ) empfiehlt, was man tragen könnte, um “sich selbst” zu sein; Amazon (AMZN ) empfiehlt, was man wirklich kaufen sollte; Academia und ResearchGate empfehlen die relevantesten Forschungsergebnisse, die man kennen sollte…. Ich könnte fortfahren – und tue dies im Buch – aber sowohl technisch als auch konzeptionell sind “Empfehlungsmotoren” das Gegenteil von “eng”. Ihr Zweck und Ziel umfassen den gesamten Bereich menschlicher Wünsche und Entscheidungen.

Ein Zitat in Ihrem Buch lautet: “Empfehlungen sind nicht nur dazu da, um zu sagen, was wir kaufen könnten, sondern auch, wer wir werden könnten”. Wie könnte dies von Unternehmen oder bösen Akteuren missbraucht werden?

Es gibt keinen Zweifel, dass Empfehlungen missbraucht werden können. Die “klassische” Frage – Cui bono? – “Wer profitiert?” – gilt. Sollen die Empfehlungen wirklich dem Empfänger oder dem Unternehmen/Unternehmen, das die Empfehlung abgibt, zugute kommen? Genau wie es leicht ist, dass ein Kollege, Bekannter oder “Freund”, der Sie kennt, Ihnen Ratschläge gibt, die nicht in Ihrem besten Interesse sind, ist es auch ein “digitaler Snap” für “datengetriebene” Empfehlungsmotoren, Ihnen etwas zu empfehlen, das “ihren” Gewinn auf Kosten “Ihrer” Nützlichkeit oder Zufriedenheit erhöht. Auf einer Ebene bin ich sehr besorgt über das Potenzial – und die Realität – des Missbrauchs. Auf der anderen Seite denke ich, dass die meisten Menschen ziemlich schnell erkennen, wenn sie von Menschen oder Technologie ausgenutzt oder manipuliert werden. Narre mich einmal, schäme dich; narre mich zweimal oder dreimal, schäme dich selbst. Empfehlung ist eines dieser speziellen Bereiche, in denen es clever ist, ethisch zu sein und ethisch zu sein, clever zu sein.

Sind Echo-Kammern, in denen Benutzer nur das sehen, was sie sehen wollen, unabhängig von der Genauigkeit, ein gesellschaftliches Problem?

Eli Pariser hat den ausgezeichneten Begriff “Filterblase” geprägt, um dieses Phänomen und diese Pathologie zu beschreiben. Ich stimme größtenteils mit seiner Perspektive überein. In Wahrheit denke ich, dass es jetzt fair ist zu sagen, dass “Bestätigungsverzerrung” – und nicht Sex – das Verhalten der meisten Erwachsenen antreibt. Die meisten Menschen suchen nach Zustimmung, die meisten Menschen suchen nach Bestätigung. Empfehlungsmotoren müssen einen vorsichtigen Kurs zwischen Neuheit, Vielfalt, Relevanz und Serendipität steuern, da zu viel Bestätigung langweilig und redundant ist, aber zu viel Neuheit und Herausforderung ärgerlich und beleidigend sein kann. Ja, die Suche nach Bestätigung ist sowohl ein persönliches als auch ein gesellschaftliches Problem. Allerdings biete ich an, dass Empfehlungsmotoren eine relativ unangenehme Möglichkeit bieten, alternative Perspektiven und Optionen auf die Menschen aufmerksam zu machen. Ich frage mich jedoch, ob Regulierung und rechtliche Überprüfung die Empfehlungszukunft zunehmend definieren werden.

Filterbläschen begrenzen derzeit die Exposition gegenüber widersprüchlichen, widersprechenden und/oder herausfordernden Meinungen. Sollte es eine Art Regulierung geben, die diese Art von Über-Filterung entmutigt?

Ich bevorzuge eine leichte Regulierung gegenüber einer schwerfälligen. Die meisten Plattformen, die ich sehe, tun einen ziemlich schlechten Job, “Fake News” zu kennzeichnen oder Qualitätskontrolle zu etablieren. Ich würde gerne mehr innovative Mechanismen sehen, die erforscht werden: Wischen Sie nach links für eine konträre Meinung; eingebettete Links, die Geschichten oder Videos auf eine Weise erläutern, die das Verständnis vertieft oder die “Voreingenommenheit” dekontextualisiert, die bestätigt wird. Aber lassen Sie uns klar sein: Choice-Architekturen, die “entmutigen” oder “Reibungen” erzeugen, erfordern unterschiedliche Daten- und Design-Sensibilitäten als die, die “verbieten”, “zensieren” oder “verhindern”. Ich denke, dass dies ein sehr hartes Problem für Menschen und Maschinen gleichermaßen ist. Was es besonders hart macht, ist, dass menschliche Wesen – tatsächlich – weniger vorhersehbar sind als viele Psychologen und Sozialwissenschaftler glauben. Es gibt viele konkurrierende “Theorien des Geistes” und “Agenten” heutzutage. Je persönlicher die Empfehlungen und Empfehlungsmotoren werden, desto herausfordernder und anachronistischer werden “eine-Größe-passt-für-alle”-Ansätze. Es ist einer der vielen Gründe, warum mich dieser Bereich interessiert.

Sollten Endbenutzer und die Gesellschaft Transparenz darüber verlangen, warum bestimmte Empfehlungen gemacht werden?

Ja, ja und ja. Nicht nur “Transparenz”, sondern auch “Sichtbarkeit”, “Durchsichtigkeit” und “Interpretierbarkeit”. Menschen sollten das Recht haben, die Technologien zu sehen und zu verstehen, die sie beeinflussen. Sie sollten in der Lage sein, die Algorithmen zu schätzen, die verwendet werden, um sie zu beeinflussen und zu überzeugen. Denken Sie daran als das algorithmische Gegenstück zu “informierter Zustimmung” in der Medizin. Patienten haben das Recht, die Gründe und Begründungen für die Wahl einer bestimmten Vorgehensweise zu erhalten, und Ärzte haben die Pflicht, diese zu liefern. Tatsächlich argumentiere ich, dass “informierte Zustimmung” – und ihre Zukunft – in der Medizin und der Gesundheitsversorgung ein gutes Vorbild für die Zukunft der “informierten Zustimmung” für Empfehlungsmotoren bietet.

Glauben Sie, dass es möglich ist, den menschlichen Gehirn mithilfe von Empfehlungsmotoren zu “hacken”?

Das Gehirn oder der Geist? Nicht im Scherz. Werden wir materiell – elektrisch und chemisch – Neuronen und Lappen “hacken”? Oder verwenden wir weniger invasive sensorische Reize, um vorhersehbares Verhalten hervorzurufen? Ehrlich gesagt, glaube ich, dass einige Gehirne – und einige Geister – einige Male “hackbar” sind. Aber glaube ich, dass Menschen dazu bestimmt sind, “Fleischpuppen” zu werden, die zu Empfehlungen tanzen? Ich nicht. Schauen Sie, einige Menschen werden süchtig. Einige Menschen verlieren Autonomie und Selbstkontrolle. Und ja, einige Menschen wollen andere ausnutzen. Aber die überwiegende Beweislage lässt mich nicht besorgt über die “Bewaffnung von Empfehlungen”. Ich bin mehr besorgt über den Missbrauch von Vertrauen.

Ein Zitat in einer Forschungsarbeit von Jason L. Harman und Jason L. Harman lautet: “Das Vertrauen, das Menschen in Empfehlungen setzen, ist der Schlüssel zum Erfolg von Empfehlungssystemen”. Glauben Sie, dass soziale Medien dieses Vertrauen verraten haben?

Ich glaube an dieses Zitat. Ich glaube, dass Vertrauen tatsächlich der Schlüssel ist. Ich glaube, dass intelligente und ethische Menschen wirklich die Bedeutung von Vertrauen verstehen und schätzen. Mit Entschuldigung an Churchills Kommentar über Mut, ist Vertrauen die Tugend, die gesunde menschliche Verbindung und Wachstum ermöglicht. Allerdings bin ich damit einverstanden, dass die meisten sozialen Medien-Plattformen – ja, Twitter und Facebook (META ), ich sehe euch! – nicht auf Vertrauen basieren. Sie basieren auf der Erleichterung und Skalierung von Selbstausdruck. Die Fähigkeit, sich selbst im großen Maßstab auszudrücken, hat buchstäblich nichts mit dem Aufbau von Vertrauen zu tun. Es gab nichts zu verraten. Bei Empfehlungen gibt es jedoch Vertrauen.

Sie äußern die Meinung, dass die Zukunft von Empfehlungsmotoren die besten Empfehlungen zur Verbesserung des eigenen Geistes bieten wird. Glauben Sie, dass irgendein Empfehlungsmotor derzeit an einem solchen System arbeitet?

Noch nicht. Ich sehe dies als den nächsten Billionen-Dollar-Markt. Ich denke, dass Amazon, Google, Alibaba und Tencent dorthin gelangen wollen. Aber wer weiß, vielleicht gibt es einen unternehmerischen Innovator, der uns alle überrascht: Vielleicht wird Spotify, das Achtsamkeit und just-in-time-Flüstern von “Ratschlägen” integriert, den Durchbruch bei der Verbesserung des Geistes schaffen.

Wie würden Sie zusammenfassen, wie Empfehlungsmotoren es Benutzern ermöglichen, sich selbst besser zu verstehen?

Empfehlungen sind über gute Entscheidungen…. manchmal sogar großartige Entscheidungen. Welche Entscheidungen akzeptieren Sie? Welche Entscheidungen ignorieren Sie? Welche Entscheidungen lehnen Sie ab? Die Courage, diese Fragen zu stellen und zu beantworten, gibt Ihnen bemerkenswerte Einblicke in die Person, die Sie sind und die Sie werden könnten. Wir sind die Entscheidungen, die wir treffen; was diese Entscheidungen beeinflusst, hat bemerkenswerten Einfluss und Einfluss auf uns.

Gibt es noch etwas, das Sie über Ihr Buch teilen möchten?

Ja – in der ersten und endgültigen Analyse ist mein Buch über die Zukunft der Beratung und die Zukunft dessen, was Sie “wirklich” werden wollen. Es geht um die Zukunft des Selbst – Ihres “Selbst”. Ich denke, dass dies ein aufregendes und wichtiges Thema ist, nicht wahr?

Vielen Dank, dass Sie sich die Zeit genommen haben, Ihre Ansichten zu teilen.

Für unsere Leser empfehlen wir dieses Buch sehr, es ist derzeit auf Amazon in Kindle- oder Taschenbuchform erhältlich. Sie können auch weitere Bestellmöglichkeiten auf der MIT Press-Seite anzeigen.