Ny studie belyser ‘algoritmisk trötthet’

En ny studie som genomförts av strategikonsulten Alice Labs och det globala teknologiföretaget Reaktor belyser det som forskarna kallar “algoritmisk trötthet.” Algoritmisk trötthet uppstår när individer tillbringar långa perioder med att göra saker som att bläddra i strömningstjänster. I dessa ögonblick kan AI-system ofta misslyckas med att tillfredsställa användarnas förväntningar om de inte levererar. Detta kan ofta göra att konsumenterna känner sig trötta. 

Den nya studien identifierade tre olika typer av AI-interaktioner: 

• Passiv: Användarna vill förbli passiva gentemot ett algoritmiskt system.
• Guiderande: Användarna vill guida ett algoritmiskt system.
• Samarbetsinriktad: Användarna vill samarbeta med ett algoritmiskt system.

Den typ av AI-interaktion som en användare väljer beror på situationen och vad de vill eller behöver, och det påverkas också av tidigare erfarenheter av smart teknik, såsom algoritmisk trötthet när ett tidigare system inte kunde tillfredsställa behoven. 

Enligt forskarna blir AI mer än bara teknik, och varumärken börjar inse vikten av hur användare upplever och interagerar med algoritmer. 

Kirsi Hantula är en av forskarna på Alice Labs. 

“Medan de är användbara i många sammanhang, är algoritmer fortfarande begränsade av sin maskinliknande natur: de kan inte förutsäga när användare har en dålig dag och behöver något lättare att titta på, och de kan inte heller förstå de subtila och varierande sätten som användarnas smak utvecklas och expanderar över tiden”, säger Hantula. 

Eftersom olika AI-drivna enheter har funnits i över tio år är många användare redan medvetna om hur man taktiskt navigerar i ofullkomliga system. Det betyder att användarna själva redan har börjat bekämpa algoritmisk trötthet. Till exempel kan man begränsa en AI-driven enhet till dess grundfunktioner, såsom att använda en röstaktiverad assistent för enkla uppgifter. 

Rekommendationsalgoritmer

Forskarna fann också att fler konsumenter nu väljer bort rekommendationsalgoritmer och istället föredrar externa influenser för att kuratera innehåll. Externa influenser, eller fyrar, är andra individer som delar liknande intressen, och dessa individer är ofta mer tillförlitliga än algoritmerna. 

Forskarna säger att företag bör hitta sätt att bekämpa algoritmisk trötthet om de vill etablera starkare relationer med sina kunder. 

Olof Hoverfält är Principal Consultant, Strategy and Business Design, på Reaktor. 

“Det handlar inte så mycket om att uppfinna AI på nytt, AI fungerar bra”, säger Hoverfält. “Det handlar om att skapa en annan lager ovanpå det systemet, något som tillåter snabbare, mer raffinerad mänsklig interaktion mellan användaren och algoritmen. Det handlar om paritet: att ge användaren lika stor makt över beslutsfattandet, att låta dem välja och ändra när de vill vara aktivt involverade i processen eller bara passivt guidade genom den.”

“För oss handlar det också om etik. Vi tycker att AI-system som intimt sammanflätar med människors liv bör utformas på ett sätt som firar mänsklig mångfald och etablerar användare som positiva och kreativa agenter i algoritmiska beslutsprocesser”, säger Hantula.

Den nya studien är en del av ett tvåårigt samarbete mellan Alice Labs och Helsingfors universitets centrum för konsumentforskning. Den finansierades av Stiftelsen för ekonomisk utbildning.