Une nouvelle étude met en lumière la « fatigue algorithmique »

Une nouvelle étude menée par le cabinet de conseil stratégique Alice Labs et la société technologique mondiale Reaktor met en lumière ce que les chercheurs appellent la « fatigue algorithmique ». La fatigue algorithmique se produit lorsque les individus passent de longues périodes à faire des choses comme naviguer sur des services de streaming. Dans ces moments, les systèmes d'IA peuvent souvent échouer dans leur devoir de satisfaire les attentes des utilisateurs s'ils ne livrent pas. Cela peut souvent laisser les consommateurs se sentir fatigués. 

La nouvelle étude a identifié trois types différents d'interactions avec l'IA : 

• Passif: Les utilisateurs veulent rester passifs vis-à-vis d'un système algorithmique.
• Guidage: Les utilisateurs veulent guider un système algorithmique.
• Collaboratif: Les utilisateurs veulent collaborer avec un système algorithmique.

Le type d'interaction d'IA qu'un utilisateur sélectionne dépend de la situation et de ce qu'il veut ou a besoin, et il est également affecté par les expériences précédentes avec la technologie intelligente, comme la fatigue algorithmique lorsqu'un système précédent n'a pas répondu à ces besoins. 

Selon les chercheurs, l'IA devient plus qu'une simple technologie, et les marques commencent à réaliser l'importance de la façon dont les utilisateurs expérimentent et interagissent avec les algorithmes. 

Kirsi Hantula est l'une des chercheuses d'Alice Labs. 

"Bien qu'ils soient utiles dans de nombreux cas, les algorithmes continuent d'être limités par leur machinerie : ils ne peuvent pas prédire quand les utilisateurs passent une mauvaise journée et ont besoin de quelque chose de plus léger à regarder, et ils ne sont pas non plus capables de comprendre les manières subtiles et variées dont les utilisateurs les goûts évoluent et se développent avec le temps », explique Hantula. 

Étant donné que divers appareils alimentés par l'IA existent depuis plus de dix ans, de nombreux utilisateurs savent déjà comment naviguer tactiquement dans des systèmes imparfaits. Cela signifie que les utilisateurs eux-mêmes ont déjà commencé à lutter contre la fatigue algorithmique. Par exemple, on peut limiter un appareil alimenté par l'IA à ses fonctions de base, comme l'utilisation d'un assistant à commande vocale pour des tâches simples. 

Algorithmes de recommandation

Les chercheurs ont également constaté que de plus en plus de consommateurs renoncent désormais aux algorithmes de recommandation, se tournant davantage vers des influenceurs externes pour organiser le contenu. Influenceurs externes, ou phares, sont d'autres personnes qui partagent des intérêts similaires, et ces personnes sont souvent plus fiables que les algorithmes. 

Les chercheurs affirment que les entreprises devraient trouver des moyens de lutter contre la fatigue algorithmique si elles souhaitent établir des relations plus solides avec leurs consommateurs. 

Olof Hoverfält est consultant principal, Stratégie et Business Design, chez Reaktor. 

"Il ne s'agit pas tant de réinventer l'IA, l'IA fonctionne bien", déclare Hoverfält. « Il s'agit de créer une autre couche au-dessus de ce système, quelque chose qui permet une interaction humaine plus rapide et plus raffinée entre l'utilisateur et l'algorithme. C'est une question de parité : accorder à l'utilisateur une autorité égale sur la prise de décision, lui permettant de choisir et de changer quand il veut être activement impliqué dans le processus ou simplement guidé passivement à travers celui-ci. »

« Pour nous, c'est aussi une question d'éthique. Nous pensons que les systèmes d'IA intimement liés à la vie des gens devraient être conçus de manière à célébrer la polyvalence humaine et à faire des utilisateurs des agents positifs et créatifs dans la prise de décision algorithmique », déclare Hantula.

La nouvelle étude fait partie d'une collaboration de deux ans entre Alice Labs et le Centre de recherche sur la société de consommation de l'Université d'Helsinki. Il a été financé par la Fondation pour l'éducation économique.