Ny studie kaster lys over ‘algoritmisk utmattelse’

En ny studie gjennomført av strategisk konsulent Alice Labs og global teknologiselskap Reaktor kaster lys over hva forskerne kaller “algoritmisk utmattelse.” Algoritmisk utmattelse skjer når individer tilbringer lange perioder med å gjøre ting som å bla gjennom strømmetjenester. I disse øyeblikkene kan AI-systemer ofte svikte i sin plikt til å tilfredsstille brukernes forventninger hvis de ikke leverer. Dette kan ofte føre til at forbrukerne føler seg utmattet. 

Den nye studien identifiserte tre forskjellige typer AI-interaksjoner: 

• Passiv: Brukerne ønsker å forbli passive overfor et algoritmisk system.
• Veiledende: Brukerne ønsker å veilede et algoritmisk system.
• Samarbeidende: Brukerne ønsker å samarbeide med et algoritmisk system.

Typen AI-interaksjon en bruker velger avhenger av situasjonen og hva de ønsker eller trenger, og det påvirkes også av tidligere erfaringer med smart teknologi, som algoritmisk utmattelse når et tidligere system ikke klarte å levere behovene. 

Ifølge forskerne blir AI mer enn bare teknologi, og merker begynner å forstå viktigheten av hvordan brukerne opplever og interagerer med algoritmer. 

Kirsi Hantula er en av forskerne ved Alice Labs. 

“ Mens de er nyttige i mange tilfeller, er algoritmer fortsatt begrenset av sin maskinelle natur: de kan ikke forutsi når brukerne har en dårlig dag og trenger noe lettere å se på, og de er heller ikke i stand til å forstå de subtile og varierte måtene brukernes smak utvikler seg og utvides over tid,” sier Hantula. 

Fordi ulike AI-drevne enheter har vært tilgjengelige i over ti år, er mange brukere allerede klar over hvordan de taktisk kan navigere i imperfekte systemer. Dette betyr at brukerne selv allerede har begynt å kjempe mot algoritmisk utmattelse. For eksempel kan en begrense en AI-drevet enhet til sine grunnleggende funksjoner, som å bruke en stemmeaktiveret assistent for enkle oppgaver. 

Anbefalingsalgoritmer

Forskerne fant også at flere forbrukere nå velger bort anbefalingsalgoritmer og går over til eksterne influensere for å kuratere innhold. Eksterne influensere, eller fyrlykter, er andre individer som deler lignende interesser, og disse individene er ofte mer pålitelige enn algoritmene. 

Forskerne sier at selskaper bør finne måter å bekjempe algoritmisk utmattelse hvis de ønsker å etablere sterkere relasjoner med sine forbrukere. 

Olof Hoverfält er Principal Consultant, Strategy and Business Design, ved Reaktor. 

“Det handler ikke så mye om å finne opp AI på nytt, AI fungerer fint,” sier Hoverfält. “Det handler om å skape et nytt lag på toppen av systemet, noe som tillater raskere, mer raffinert menneskelig interaksjon mellom brukeren og algoritmen. Det handler om likhet: å gi brukeren like mye makt over beslutningstaking, å la dem velge og endre når de ønsker å være aktivt involvert i prosessen eller bare passivt guidet gjennom den.”

“For oss er dette også et spørsmål om etikk. Vi mener at AI-systemer som intimt vevs inn i folks liv bør være designet på en måte som feirer menneskelig mangfold og etablerer brukerne som positive og kreative agenter i algoritmisk beslutningstaking,” sier Hantula.

Den nye studien er en del av et toårig samarbeid mellom Alice Labs og Universitetet i Helsinkis Senter for forbrukersamfunnsforskning. Den ble finansiert av Foundation for Economic Education.