Nouvelle étude éclaire le « fatigue algorithmique »

Une nouvelle étude menée par le cabinet de conseil stratégique Alice Labs et la société de technologie Reaktor éclaire ce que les chercheurs appellent « fatigue algorithmique ». La fatigue algorithmique se produit lorsque les individus passent de longues périodes à faire des choses comme parcourir les services de streaming. Dans ces moments, les systèmes d’IA peuvent souvent échouer dans leur devoir de satisfaire les attentes des utilisateurs s’ils ne livrent pas. Cela peut souvent laisser les consommateurs se sentant fatigués. 

La nouvelle étude a identifié trois types différents d’interactions avec l’IA : 

• Passif : Les utilisateurs veulent rester passifs face à un système algorithmique.
• Guidage : Les utilisateurs veulent guider un système algorithmique.
• Collaboratif : Les utilisateurs veulent collaborer avec un système algorithmique.

Le type d’interaction avec l’IA choisi par l’utilisateur dépend de la situation et de ce qu’il veut ou dont il a besoin, et il est également affecté par les expériences antérieures avec la technologie intelligente, telles que la fatigue algorithmique lorsqu’un système antérieur n’a pas répondu à ces besoins. 

Selon les chercheurs, l’IA devient plus qu’une technologie, et les marques commencent à réaliser l’importance de la façon dont les utilisateurs expérimentent et interagissent avec les algorithmes. 

Kirsi Hantula est l’un des chercheurs d’Alice Labs. 

« Bien qu’utiles dans de nombreux cas, les algorithmes continuent d’être limités par leur caractère machine : ils ne peuvent pas prédire quand les utilisateurs ont une mauvaise journée et ont besoin de quelque chose de plus léger à regarder, ni comprendre les façons subtiles et variées dont les goûts des utilisateurs évoluent et s’étendent avec le temps », déclare Hantula. 

Puisque divers appareils alimentés par l’IA existent depuis plus de dix ans, de nombreux utilisateurs sont déjà conscients de la façon de naviguer tactiquement dans les systèmes imparfaits. Cela signifie que les utilisateurs eux-mêmes ont déjà commencé à lutter contre la fatigue algorithmique. Par exemple, on peut limiter un appareil alimenté par l’IA à ses fonctions de base, comme utiliser un assistant vocal pour des tâches simples. 

Algorithmes de recommandation

Les chercheurs ont également constaté que de plus en plus de consommateurs optent pour des algorithmes de recommandation, se tournant davantage vers des influenceurs externes pour curater du contenu. Les influenceurs externes, ou phares, sont d’autres individus partageant des intérêts similaires, et ces individus sont souvent plus fiables que les algorithmes. 

Les chercheurs disent que les entreprises devraient trouver des moyens de lutter contre la fatigue algorithmique si elles veulent établir des relations plus solides avec leurs consommateurs. 

Olof Hoverfält est consultant principal, stratégie et conception d’entreprise, chez Reaktor. 

« Ce n’est pas tant une question de réinventer l’IA, l’IA fonctionne bien », déclare Hoverfält. « C’est à propos de créer une autre couche au-dessus de ce système, quelque chose qui permet une interaction humaine plus rapide et plus raffinée entre l’utilisateur et l’algorithme. C’est à propos de parité : accorder à l’utilisateur une agence égale dans la prise de décision, lui permettant de choisir et de changer lorsqu’il veut être actuellement impliqué dans le processus ou simplement guidé à travers. »

« Pour nous, c’est également une question d’éthique. Nous pensons que les systèmes d’IA qui s’entrelacent intimement avec la vie des gens devraient être conçus de manière à célébrer la polyvalence humaine et à établir les utilisateurs en tant qu’agents positifs et créatifs dans la prise de décision algorithmique », déclare Hantula.

La nouvelle étude fait partie d’une collaboration de deux ans entre Alice Labs et le Centre de recherche sur la société des consommateurs de l’Université d’Helsinki. Elle a été financée par la Fondation pour l’éducation économique.