Ny studie kastar ljus över "Algorithmic Fatigue"

En ny studera utförd av det strategiska konsultföretaget Alice Labs och det globala teknikföretaget Reaktor belyser vad forskare kallar "algoritmisk trötthet." Algoritmisk trötthet uppstår när individer tillbringar långa perioder med att göra saker som att surfa på streamingtjänster. I dessa ögonblick kan AI-system ofta misslyckas med sin skyldighet att tillfredsställa användarnas förväntningar om de inte levererar. Detta kan ofta göra att konsumenterna känner sig trötta. 

Den nya studien identifierade tre olika typer av AI-interaktioner: 

• Passiv: Användare vill förbli passiva mot ett algoritmiskt system.
• Styrning: Användare vill vägleda ett algoritmiskt system.
• Samarbete: Användare vill samarbeta med ett algoritmiskt system.

Vilken typ av AI-interaktion en användare väljer beror på situationen och vad de vill ha eller behöver, och den påverkas också av tidigare erfarenheter av smart teknik, såsom algoritmisk trötthet när ett tidigare system misslyckades med att leverera dessa behov. 

Enligt forskarna håller AI på att bli mer än bara teknik, och varumärken börjar inse vikten av hur användarna upplever och interagerar med algoritmer. 

Kirsi Hantula är en av forskarna vid Alice Labs. 

"Även om de är användbara i många fall fortsätter algoritmerna att begränsas av sin maskin-ness: de kan inte förutsäga när användare har en dålig dag och behöver något lättare att titta på, och de är inte heller kapabla att förstå de subtila och varierande sätten på vilka användarnas smaker utvecklas och expanderar med tiden, säger Hantula. 

Eftersom olika AI-drivna enheter har funnits i över tio år, är många användare redan medvetna om hur man taktiskt navigerar i ofullkomliga system. Det betyder att användarna själva redan har börjat kämpa mot algoritmisk trötthet. Till exempel kan man begränsa en AI-driven enhet till dess grundläggande funktioner, som att använda en röstaktiverad assistent för enkla uppgifter. 

Rekommendationsalgoritmer

Forskarna fann också att fler konsumenter nu väljer bort rekommendationsalgoritmer och går mer mot externa påverkare för att kurera innehåll. Externa influencers, eller fyrar, är andra individer som delar liknande intressen, och dessa individer är ofta mer pålitliga än algoritmerna. 

Forskarna säger att företag bör hitta sätt att bekämpa algoritmisk trötthet om de vill etablera starkare relationer med sina konsumenter. 

Olof Hoverfält är huvudkonsult, strategi och affärsdesign, på Reaktor. 

"Det handlar inte så mycket om att återuppfinna AI, AI fungerar bra", säger Hoverfält. "Det handlar om att skapa ytterligare ett lager ovanpå det systemet, något som möjliggör snabbare, mer förfinad mänsklig interaktion mellan användaren och algoritmen. Det handlar om paritet: att ge användaren lika myndighet över beslutsfattande, att låta dem välja och förändra när de vill vara aktivt delaktiga i processen eller bara passivt guidade genom den.”

”För oss är det här också en fråga om etik. Vi tycker att AI-system som är intimt sammanflätade med människors liv bör utformas på ett sätt som hyllar mänsklig mångsidighet och etablerar användare som positiva och kreativa agenter i algoritmiskt beslutsfattande, säger Hantula.

Den nya studien är en del av ett tvåårigt samarbete mellan Alice Labs och Helsingfors universitets Centrum för konsumtionsforskning. Det finansierades av Foundation for Economic Education.