Ny studie kaster lys over ‘algoritmisk træthed’

En ny studie gennemført af strategisk rådgivning Alice Labs og global teknologivirksomhed Reaktor kaster lys over, hvad forskerne kalder “algoritmisk træthed.” Algoritmisk træthed opstår, når individer tilbringer lange perioder med at udføre ting som f.eks. at browse på streamingtjenester. I disse øjeblikke kan AI-systemer ofte fejle i deres pligt til at tilfredsstille brugernes forventninger, hvis de ikke leverer. Dette kan ofte efterlade forbrugerne med en følelse af træthed. 

Den nye studie identificerede tre forskellige typer af AI-interaktioner: 

• Passiv: Brugere ønsker at forblive passive over for et algoritmisk system.
• Vejledning: Brugere ønsker at vejlede et algoritmisk system.
• Samarbejde: Brugere ønsker at samarbejde med et algoritmisk system.

Den type AI-interaktion, en bruger vælger, afhænger af situationen og hvad de ønsker eller har brug for, og det påvirkes også af tidligere erfaringer med smart teknologi, såsom algoritmisk træthed, når et tidligere system ikke leverede disse behov. 

Ifølge forskerne bliver AI mere end bare teknologi, og virksomheder begynder at forstå vigtigheden af, hvordan brugere oplever og interagerer med algoritmer. 

Kirsi Hantula er en af forskerne ved Alice Labs. 

“Selvom algoritmer er nyttige i mange tilfælde, er de fortsat begrænsede af deres maskinlighed: de kan ikke forudsige, når brugere har en dårlig dag og har brug for noget lettere at se, eller forstå de subtile og varierede måder, hvorpå brugernes smag udvikler sig og udvides over tid,” siger Hantula. 

Fordi forskellige AI-drevne enheder har været til stede i over 10 år, er mange brugere allerede bevidste om, hvordan de taktisk kan navigere i uperfekte systemer. Dette betyder, at brugerne selv allerede har begyndt at kæmpe mod algoritmisk træthed. For eksempel kan man begrænse en AI-drevet enhed til dens grundlæggende funktioner, såsom at bruge en stemmeaktiveret assistent til simple opgaver. 

Anbefalingsalgoritmer

Forskerne fandt også ud af, at flere forbrugere nu vælger at fravælge anbefalingsalgoritmer og i stedet gå over til eksterne influencere for at kuraterer indhold. Eksterne influencere, eller fyrtårne, er andre individer, der deler lignende interesser, og disse individer er ofte mere pålidelige end algoritmernes. 

Forskerne siger, at virksomheder skal finde måder at bekæmpe algoritmisk træthed, hvis de ønsker at etablere stærkere relationer med deres forbrugere. 

Olof Hoverfält er principal consultant, strategi og forretningsdesign, hos Reaktor. 

“Det handler ikke så meget om at genopfinde AI, AI fungerer fint,” siger Hoverfält. “Det handler om at skabe et andet lag på toppen af dette system, noget der tillader hurtigere, mere raffineret menneskelig interaktion mellem brugeren og algoritmen. Det handler om lighed: at give brugeren lige agentur over beslutningstagning, så de kan vælge og ændre, når de ønsker at være aktivt involveret i processen eller blot passivt vejledt igennem den.” 

“For os handler det også om etisk. Vi mener, at AI-systemer, der er tæt forbundet med menneskers liv, skal være designede på en måde, der fejrer menneskelig fleksibilitet og etablerer brugere som positive og kreative agenter i algoritmisk beslutningstagning,” siger Hantula.

Den nye studie er en del af et to-årigt samarbejde mellem Alice Labs og University of Helsinki’s Center for Consumer Society Research. Det blev finansieret af Foundation for Economic Education.