Neue Studie wirft Licht auf “Algorithmus-Fatigue”

Eine neue Studie, die von der strategischen Beratungsfirma Alice Labs und dem globalen Technologieunternehmen Reaktor durchgeführt wurde, wirft Licht auf das, was Forscher “Algorithmus-Fatigue” nennen. Algorithmus-Fatigue tritt auf, wenn Individuen lange Zeiträume damit verbringen, Dinge wie das Durchsuchen von Streaming-Diensten zu tun. In diesen Momenten können künstliche Intelligenz-Systeme oft in ihrer Pflicht, die Erwartungen der Benutzer zu erfüllen, versagen, wenn sie nicht liefern. Dies kann oft dazu führen, dass Verbraucher sich erschöpft fühlen.

Die neue Studie identifizierte drei verschiedene Arten von KI-Interaktionen:

• Passiv: Benutzer möchten passiv gegenüber einem algorithmischen System bleiben.
• Lenkend: Benutzer möchten ein algorithmisches System lenken.
• Kooperativ: Benutzer möchten mit einem algorithmischen System kooperieren.

Die Art der KI-Interaktion, die ein Benutzer auswählt, hängt von der Situation und von dem ab, was er will oder braucht, und wird auch von früheren Erfahrungen mit intelligenter Technologie beeinflusst, wie z.B. Algorithmus-Fatigue, wenn ein früheres System nicht in der Lage war, diese Bedürfnisse zu erfüllen.

Laut den Forschern wird KI zu mehr als nur Technologie, und Marken beginnen zu erkennen, wie wichtig es ist, wie Benutzer mit Algorithmen interagieren und diese erleben.

Kirsi Hantula ist eine der Forscherinnen bei Alice Labs.

“Während Algorithmen in vielen Fällen nützlich sind, sind sie durch ihre Maschinen-Natur begrenzt: Sie können nicht vorhersagen, wenn Benutzer einen schlechten Tag haben und etwas Leichteres zum Ansehen benötigen, noch sind sie in der Lage, die subtilen und vielfältigen Wege zu verstehen, auf denen die Vorlieben der Benutzer im Laufe der Zeit sich entwickeln und erweitern”, sagt Hantula.

Da verschiedene KI-gesteuerte Geräte bereits seit über zehn Jahren existieren, sind viele Benutzer bereits bewusst, wie sie unvollkommene Systeme taktisch navigieren können. Das bedeutet, dass Benutzer selbst bereits begonnen haben, gegen Algorithmus-Fatigue zu kämpfen. Zum Beispiel kann man ein KI-gesteuertes Gerät auf seine grundlegenden Funktionen beschränken, wie z.B. die Verwendung eines sprachgesteuerten Assistenten für einfache Aufgaben.

Empfehlungs-Algorithmen

Die Forscher fanden auch heraus, dass immer mehr Verbraucher sich aus Empfehlungs-Algorithmen zurückziehen und sich mehr auf externe Influencer verlassen, um Inhalte zu kuratieren. Externe Influencer, oder Leuchttürme, sind andere Personen, die ähnliche Interessen teilen, und diese Personen sind oft zuverlässiger als die Algorithmen.

Die Forscher sagen, dass Unternehmen Wege finden sollten, um Algorithmus-Fatigue zu bekämpfen, wenn sie stärkere Beziehungen zu ihren Verbrauchern aufbauen möchten.

Olof Hoverfält ist Principal Consultant, Strategy and Business Design, bei Reaktor.

“Es geht nicht darum, KI neu zu erfinden, die KI funktioniert einwandfrei”, sagt Hoverfält. “Es geht darum, eine weitere Schicht auf das System zu legen, etwas, das eine schnellere, verfeinerte menschliche Interaktion zwischen dem Benutzer und dem Algorithmus ermöglicht. Es geht um Parität: dem Benutzer gleiche Agency bei der Entscheidungsfindung zu gewähren, ihm die Wahl zu lassen, wann er aktiv an dem Prozess beteiligt sein möchte oder nur passiv durch ihn geführt werden möchte.”

“Für uns ist dies auch eine Frage der Ethik. Wir denken, dass KI-Systeme, die eng mit dem Leben der Menschen verflochten sind, so gestaltet werden sollten, dass sie menschliche Vielfalt feiern und Benutzer als positive und kreative Akteure in der algorithmischen Entscheidungsfindung etablieren”, sagt Hantula.

Die neue Studie ist Teil einer zweijährigen Zusammenarbeit zwischen Alice Labs und dem Center for Consumer Society Research der Universität Helsinki. Sie wurde von der Foundation for Economic Education finanziert.