Nieuwe studie werpt licht op ‘algoritme-moeheid’

Een nieuwe studie uitgevoerd door het strategisch adviesbureau Alice Labs en het wereldwijde technologiebedrijf Reaktor werpt licht op wat onderzoekers ‘algoritme-moeheid’ noemen. Algoritme-moeheid treedt op wanneer individuen lange perioden besteden aan dingen zoals het browsen van streamingdiensten. Op deze momenten kunnen AI-systemen vaak falen in hun taak om aan de verwachtingen van gebruikers te voldoen als ze niet leveren. Dit kan vaak leiden tot een gevoel van moeheid bij consumenten.

De nieuwe studie identificeerde drie verschillende soorten AI-interacties:

• Passief: Gebruikers willen passief blijven ten opzichte van een algoritme-systeem.
• Begeleidend: Gebruikers willen een algoritme-systeem begeleiden.
• Samenwerkend: Gebruikers willen samenwerken met een algoritme-systeem.

Het type AI-interactie dat een gebruiker selecteert, hangt af van de situatie en wat ze willen of nodig hebben, en het wordt ook beïnvloed door eerdere ervaringen met slimme technologie, zoals algoritme-moeheid wanneer een eerder systeem niet aan hun behoeften kon voldoen.

Volgens de onderzoekers wordt AI meer dan alleen technologie, en beginnen bedrijven te beseffen hoe belangrijk het is hoe gebruikers ervaren en interactie hebben met algoritmes.

Kirsi Hantula is een van de onderzoekers bij Alice Labs.

“Hoewel handig in veel gevallen, zijn algoritmes nog steeds beperkt door hun machine-achtigheid: ze kunnen niet voorspellen wanneer gebruikers een slechte dag hebben en iets lichters nodig hebben om naar te kijken, noch zijn ze in staat om de subtiele en gevarieerde manieren te begrijpen waarop de smaak van gebruikers evolueert en uitbreidt in de loop van de tijd”, zegt Hantula.

Omdat verschillende AI-gebaseerde apparaten al meer dan tien jaar bestaan, zijn veel gebruikers al bekend met de manier waarop ze onvolmaakte systemen tactisch kunnen navigeren. Dit betekent dat gebruikers zelf al zijn begonnen om tegen algoritme-moeheid te vechten. Bijvoorbeeld, iemand kan een AI-gebaseerd apparaat beperken tot zijn basisfuncties, zoals het gebruik van een spraakgestuurde assistent voor eenvoudige taken.

Aanbevelingsalgoritmes

De onderzoekers vonden ook dat meer consumenten nu kiezen voor opt-out van aanbevelingsalgoritmes, en meer naar externe invloeden gaan om inhoud te cureren. Externe invloeden, of bakens, zijn andere individuen die soortgelijke interesses delen, en deze individuen zijn vaak betrouwbaarder dan de algoritmes.

De onderzoekers zeggen dat bedrijven manieren moeten vinden om algoritme-moeheid te bestrijden als ze sterker willen samenwerken met hun consumenten.

Olof Hoverfält is Principal Consultant, Strategy and Business Design, bij Reaktor.

“Het gaat er niet om om AI opnieuw uit te vinden, de AI werkt prima”, zegt Hoverfält. “Het gaat erom om een extra laag te creëren bovenop dat systeem, iets dat snellere, meer verfijnde menselijke interactie tussen de gebruiker en het algoritme mogelijk maakt. Het gaat om gelijkheid: de gebruiker gelijke agentie geven over besluitvorming, zodat ze kunnen kiezen en veranderen wanneer ze actief willen zijn in het proces of alleen passief door het proces geleid willen worden.”

“Voor ons is dit ook een kwestie van ethiek. We denken dat AI-systemen die nauw verweven zijn met het leven van mensen, zo moeten worden ontworpen dat ze menselijke veelzijdigheid vieren en gebruikers als positieve en creatieve agenten in algoritmische besluitvorming stellen”, zegt Hantula.

De nieuwe studie maakt deel uit van een tweejarige samenwerking tussen Alice Labs en het Centrum voor Consumentenonderzoek van de Universiteit van Helsinki. Het werd gefinancierd door de Stichting voor Economisch Onderwijs.