Ny studie belyser “algoritmisk trötthet”

En ny studie som genomförts av strategikonsultbolaget Alice Labs och teknikföretaget Reaktor belyser vad forskarna kallar “algoritmisk trötthet.” Algoritmisk trötthet uppstår när individer tillbringar långa perioder med att göra saker som att bläddra i strömningstjänster. I dessa ögonblick kan AI-system ofta misslyckas med att tillfredsställa användarnas förväntningar om de inte levererar. Detta kan ofta göra att konsumenterna känner sig trötta.

Den nya studien identifierade tre olika typer av AI-interaktioner:

• Passiv: Användarna vill förbli passiva gentemot ett algoritmiskt system.
• Vägledande: Användarna vill vägleda ett algoritmiskt system.
• Samarbetsinriktad: Användarna vill samarbeta med ett algoritmiskt system.

Den typ av AI-interaktion som en användare väljer beror på situationen och vad de vill eller behöver, och det påverkas också av tidigare erfarenheter av smart teknik, såsom algoritmisk trötthet när ett tidigare system inte kunde leverera de behov som krävdes.

Enligt forskarna blir AI mer än bara teknik, och varumärken börjar förstå vikten av hur användare upplever och interagerar med algoritmer.

Kirsi Hantula är en av forskarna vid Alice Labs.

“Medan algoritmer är användbara i många fall, är de fortfarande begränsade av sin maskinliknande natur: de kan inte förutsäga när användare har en dålig dag och behöver något lättare att titta på, och de kan inte heller förstå de subtila och varierande sätten som användarnas smak utvecklas och expanderar över tiden”, säger Hantula.

Eftersom olika AI-drivna enheter har funnits i över tio år, är många användare redan medvetna om hur man taktiskt navigerar i ofullständiga system. Det betyder att användarna själva redan har börjat kämpa mot algoritmisk trötthet. Till exempel kan man begränsa en AI-driven enhet till dess grundfunktioner, såsom att använda en röstaktiverad assistent för enkla uppgifter.

Rekommendationsalgoritmer

Forskarna fann också att allt fler konsumenter nu väljer bort rekommendationsalgoritmer och istället vänder sig till externa influensers för att kuratera innehåll. Externa influensers, eller fyrar, är andra individer som delar liknande intressen, och dessa individer är ofta mer tillförlitliga än algoritmerna.

Forskarna säger att företag bör hitta sätt att bekämpa algoritmisk trötthet om de vill etablera starkare relationer med sina konsumenter.

Olof Hoverfält är Principal Consultant, Strategy and Business Design, på Reaktor.

“Det handlar inte så mycket om att uppfinna AI på nytt, AI fungerar bra”, säger Hoverfält. “Det handlar om att skapa en annan lager ovanpå det systemet, något som tillåter snabbare, mer raffinerad mänsklig interaktion mellan användaren och algoritmen. Det handlar om jämlikhet: att ge användaren lika mycket makt över beslutsfattandet, att låta dem välja och ändra när de vill vara aktivt involverade i processen eller bara passivt vägleda genom den.”

“För oss handlar det också om etik. Vi tycker att AI-system som är djupt sammanflätade med människors liv bör utformas på ett sätt som firar mänsklig mångfald och etablerar användarna som positiva och kreativa agenter i algoritmiska beslutsprocesser”, säger Hantula.

Den nya studien är en del av ett tvåårigt samarbete mellan Alice Labs och Helsingfors universitets Center for Consumer Society Research. Den finansierades av Foundation for Economic Education.