Ny studie kaster lys over ‘algoritmeutmattelse’

En ny studie gjennomført av strategikonsulenten Alice Labs og det globale teknologiselskapet Reaktor kaster lys over hva forskerne kaller “algoritmeutmattelse.” Algoritmeutmattelse skjer når individer tilbringer lange perioder med å gjøre ting som å bla gjennom strømmetjenester. I disse øyeblikkene kan AI-systemer ofte svikte i sin plikt til å tilfredsstille brukernes forventninger hvis de ikke leverer. Dette kan ofte føre til at forbrukerne føler seg utmattet. 

Den nye studien identifiserte tre forskjellige typer AI-interaksjoner: 

• Passiv: Brukerne ønsker å forbli passive overfor et algoritme-system.
• Veiledende: Brukerne ønsker å veilede et algoritme-system.
• Samarbeidende: Brukerne ønsker å samarbeide med et algoritme-system.

Typen AI-interaksjon en bruker velger avhenger av situasjonen og hva de ønsker eller trenger, og det påvirkes også av tidligere erfaringer med smart teknologi, som algoritmeutmattelse når et tidligere system ikke leverte behovene. 

Ifølge forskerne blir AI mer enn bare teknologi, og merker begynner å forstå viktigheten av hvordan brukerne opplever og interagerer med algoritmer. 

Kirsi Hantula er en av forskerne ved Alice Labs. 

“ Mens nyttige i mange tilfeller, er algoritmer fortsatt begrenset av sin maskin-natur: de kan ikke forutsi når brukerne har en dårlig dag og trenger noe lettere å se på, eller forstå de subtile og varierte måtene brukernes smak utvikler seg og utvides over tid,” sier Hantula. 

Fordi forskjellige AI-drevne enheter har vært tilgjengelige i over ti år, er mange brukere allerede klar over hvordan de kan navigere imperfekte systemer taktisk. Dette betyr at brukerne selv allerede har begynt å kjempe mot algoritmeutmattelse. For eksempel kan en begrense en AI-drevet enhet til sine grunnleggende funksjoner, som å bruke en stemmeaktiveret assistent for enkle oppgaver. 

Anbefalingsalgoritmer

Forskerne fant også at flere forbrukere nå velger bort anbefalingsalgoritmer og går over til eksterne påvirkere for å kuratere innhold. Eksterne påvirkere, eller fyrtårn, er andre individer som deler lignende interesser, og disse individene er ofte mer pålitelige enn algoritmene. 

Forskerne sier at selskaper må finne måter å bekjempe algoritmeutmattelse hvis de ønsker å etablere sterkere relasjoner med sine forbrukere. 

Olof Hoverfält er Principal Consultant, Strategy and Business Design, ved Reaktor. 

“Det handler ikke så mye om å finne opp AI på nytt, AI fungerer fint,” sier Hoverfält. “Det handler om å skape et nytt lag på toppen av systemet, noe som tillater for raskere, mer raffinert menneskelig interaksjon mellom brukeren og algoritmen. Det handler om likhet: å gi brukeren like mye makt over beslutningstaking, å tillate dem å velge og endre når de ønsker å være aktivt involvert i prosessen eller bare passivt veiledet gjennom den.”

“For oss handler dette også om etiske spørsmål. Vi mener at AI-systemer som intimt vevs inn i menneskers liv skal være designet på en måte som feirer menneskelig mangfold og etablerer brukerne som positive og kreative agenter i algoritmisk beslutningstaking,” sier Hantula.

Den nye studien er en del av et toårig samarbeid mellom Alice Labs og Universitetet i Helsinkis Senter for forbrukersamfunnsforskning. Den ble finansiert av Foundation for Economic Education.