Neue Studie beleuchtet „algorithmische Ermüdung“

Neue Studie Die von der strategischen Beratungsfirma Alice Labs und dem globalen Technologieunternehmen Reaktor durchgeführte Studie beleuchtet das, was Forscher als „algorithmische Ermüdung“ bezeichnen. Algorithmenmüdigkeit tritt auf, wenn Personen längere Zeit damit verbringen, beispielsweise Streaming-Dienste zu durchsuchen. In diesen Momenten können KI-Systeme ihrer Pflicht, die Erwartungen der Benutzer zu erfüllen, oft nicht nachkommen, wenn sie die Erwartungen nicht erfüllen. Dies führt oft dazu, dass sich die Verbraucher müde fühlen. 

Die neue Studie identifizierte drei verschiedene Arten von KI-Interaktionen: 

• Passiv: Benutzer möchten gegenüber einem algorithmischen System passiv bleiben.
• Führung: Benutzer möchten ein algorithmisches System leiten.
• Kollaborativ: Benutzer möchten mit einem algorithmischen System zusammenarbeiten.

Die Art der KI-Interaktion, die ein Benutzer auswählt, hängt von der Situation und seinen Wünschen oder Bedürfnissen ab und wird auch von früheren Erfahrungen mit intelligenter Technologie beeinflusst, beispielsweise von algorithmischer Ermüdung, wenn ein früheres System diese Anforderungen nicht erfüllen konnte. 

Laut den Forschern wird KI zu mehr als nur Technologie, und Marken beginnen zu erkennen, wie wichtig es ist, wie Benutzer Algorithmen erleben und mit ihnen interagieren. 

Kirsi Hantula ist eine der Forscherinnen bei Alice Labs. 

„Obwohl Algorithmen in vielen Fällen nützlich sind, sind sie durch ihre Maschinenhaftigkeit weiterhin eingeschränkt: Sie können nicht vorhersagen, wann Benutzer einen schlechten Tag haben und etwas Leichteres zum Anschauen benötigen, und sie sind auch nicht in der Lage, die subtilen und unterschiedlichen Arten zu verstehen, auf die Benutzer reagieren.“ Geschmäcker entwickeln und erweitern sich im Laufe der Zeit“, sagt Hantula. 

Da es verschiedene KI-gestützte Geräte schon seit über zehn Jahren gibt, wissen viele Benutzer bereits, wie sie sich taktisch in unvollkommenen Systemen zurechtfinden. Dies bedeutet, dass die Nutzer selbst bereits begonnen haben, gegen die Ermüdung der Algorithmen anzukämpfen. Beispielsweise könnte man ein KI-gestütztes Gerät auf seine Grundfunktionen beschränken, etwa die Verwendung eines sprachaktivierten Assistenten für einfache Aufgaben. 

Empfehlungsalgorithmen

Die Forscher fanden außerdem heraus, dass immer mehr Verbraucher sich von Empfehlungsalgorithmen abwenden und sich mehr an externe Influencer wenden, um Inhalte zu kuratieren. Externe Influencer bzw Leuchttürme, sind andere Personen mit ähnlichen Interessen, und diese Personen sind oft zuverlässiger als die Algorithmen. 

Die Forscher sagen, dass Unternehmen Wege finden sollten, der Algorithmenmüdigkeit entgegenzuwirken, wenn sie stärkere Beziehungen zu ihren Verbrauchern aufbauen wollen. 

Olof Hoverfält ist Hauptberater für Strategie und Geschäftsdesign bei Reaktor. 

„Es geht nicht so sehr darum, KI neu zu erfinden, die KI funktioniert gut“, sagt Hoverfält. „Es geht darum, über diesem System eine weitere Ebene zu schaffen, die eine schnellere und verfeinerte menschliche Interaktion zwischen dem Benutzer und dem Algorithmus ermöglicht. Es geht um Parität: Dem Benutzer die gleiche Entscheidungsfreiheit einzuräumen und ihm die Möglichkeit zu geben, zu wählen und zu ändern, wann er aktiv in den Prozess einbezogen oder nur passiv durch ihn geführt werden möchte.“

„Für uns ist das auch eine Frage der Ethik. Wir sind der Meinung, dass KI-Systeme, die eng mit dem Leben der Menschen verflochten sind, so gestaltet werden sollten, dass sie die Vielseitigkeit des Menschen würdigen und Benutzer als positive und kreative Akteure bei der algorithmischen Entscheidungsfindung etablieren“, sagt Hantula.

Die neue Studie ist Teil einer zweijährigen Zusammenarbeit zwischen Alice Labs und dem Zentrum für Verbrauchergesellschaftsforschung der Universität Helsinki. Es wurde von der Stiftung für Ökonomische Bildung gefördert.