Ny studie kaster lys over "Algorithmic Fatigue"

En ny studere utført av det strategiske konsulentselskapet Alice Labs og det globale teknologiselskapet Reaktor kaster lys over det forskere kaller "algoritmisk tretthet." Algoritmisk tretthet finner sted når enkeltpersoner bruker lange perioder på å gjøre ting som å surfe på strømmetjenester. I disse øyeblikkene kan AI-systemer ofte mislykkes i sin plikt til å tilfredsstille brukernes forventninger hvis de ikke leverer. Dette kan ofte føre til at forbrukere føler seg slitne. 

Den nye studien identifiserte tre forskjellige typer AI-interaksjoner: 

• passiv: Brukere ønsker å være passive overfor et algoritmisk system.
• Veiledning: Brukere ønsker å veilede et algoritmisk system.
• samarbeids~~POS=TRUNC: Brukere ønsker å samarbeide med et algoritmisk system.

Hvilken type AI-interaksjon en bruker velger, avhenger av situasjonen og hva de ønsker eller trenger, og den er også påvirket av tidligere erfaringer med smart teknologi, for eksempel algoritmisk tretthet når et tidligere system ikke klarte å levere disse behovene. 

Ifølge forskerne er AI i ferd med å bli mer enn bare teknologi, og merker begynner å innse viktigheten av hvordan brukere opplever og samhandler med algoritmer. 

Kirsi Hantula er en av forskerne ved Alice Labs. 

"Selv om algoritmer er nyttige i mange tilfeller, fortsetter de å være begrenset av maskinheten: de kan ikke forutsi når brukere har en dårlig dag og trenger noe lettere å se på, og de er heller ikke i stand til å forstå de subtile og varierte måtene brukernes smaker utvikler seg og utvides over tid, sier Hantula. 

Fordi ulike AI-drevne enheter har eksistert i over ti år, er mange brukere allerede klar over hvordan man taktisk navigerer i ufullkomne systemer. Dette betyr at brukerne selv allerede har begynt å kjempe mot algoritmisk tretthet. For eksempel kan man begrense en AI-drevet enhet til dens grunnleggende funksjoner, for eksempel å bruke en stemmeaktivert assistent for enkle oppgaver. 

Anbefalingsalgoritmer

Forskerne fant også at flere forbrukere nå velger bort anbefalingsalgoritmer, og beveger seg mer mot eksterne påvirkere for å kurere innhold. Eksterne influencere, eller fyrtårn, er andre individer som deler lignende interesser, og disse individene er ofte mer pålitelige enn algoritmene. 

Forskerne sier at selskaper bør finne måter å bekjempe algoritmisk tretthet hvis de ønsker å etablere sterkere relasjoner med forbrukerne sine. 

Olof Hoverfält er hovedkonsulent, strategi og forretningsdesign i Reaktor. 

"Det handler ikke så mye om å finne opp AI på nytt, AI fungerer fint," sier Hoverfält. «Det handler om å lage et nytt lag på toppen av systemet, noe som muliggjør raskere, mer raffinert menneskelig interaksjon mellom brukeren og algoritmen. Det handler om paritet: å gi brukeren likeverdig instans over beslutningstaking, slik at de kan velge og endre når de ønsker å være aktivt involvert i prosessen eller bare passivt ledet gjennom den.»

«For oss er dette også et spørsmål om etikk. Vi mener at AI-systemer som er intimt sammenflettet med menneskers liv bør utformes på en måte som feirer menneskelig allsidighet og etablerer brukere som positive og kreative agenter i algoritmisk beslutningstaking, sier Hantula.

Den nye studien er en del av et toårig samarbeid mellom Alice Labs og Universitetet i Helsinkis senter for forbrukersamfunnsforskning. Det ble finansiert av Foundation for Economic Education.