Nouvelle recherche jette un éclairage sur la confiance humaine-robot

Une nouvelle recherche, menée par le laboratoire de recherche de l’armée américaine ainsi que l’Institut de simulation et de formation de l’Université de Floride centrale, jette un éclairage sur le niveau de confiance que les humains ont pour les robots. Le nouveau projet s’est concentré sur la relation entre les humains et les robots, et sur la question de savoir si les humains accordent plus de valeur à la logique d’un robot ou à ses erreurs. 

La nouvelle recherche a examiné l’équipe humaine-agent, ou HAT, et comment la confiance humaine, la charge de travail et les perceptions d’un agent sont influencées par la transparence de ces agents tels que les robots, les véhicules sans pilote et les agents logiciels. La transparence de l’agent est lorsque un humain peut identifier l’intention, le processus de raisonnement et les plans futurs des agents. 

La nouvelle recherche suggère que la confiance des humains dans les robots diminue chaque fois que le robot fait une erreur. Cela est indépendant du fait que le robot ait été transparent quant à son processus de raisonnement ou non. 

La nouvelle recherche a été publiée dans l’édition d’août de IEEE-Transactions on Human-Machine Systems. L’article a été intitulé « Transparence de l’agent et fiabilité dans l’interaction humain-robot : l’influence sur la confiance et la fiabilité perçue de l’utilisateur ». 

Les recherches traditionnelles sur l’équipe humaine-agent utilisent des agents intelligents complètement fiables qui ne font pas d’erreurs. Cependant, cette nouvelle étude a été l’une des rares à explorer comment la transparence de l’agent interagit avec la fiabilité de l’agent. L’étude a impliqué un robot qui faisait des erreurs pendant que les humains les regardaient, et les humains ont ensuite été invités à dire s’ils considéraient le robot comme moins fiable. Au cours de tout le processus, les humains ont eu un aperçu du processus de raisonnement du robot. 

Le Dr Julia Wright est l’investigateur principal du projet, et elle est une chercheuse au laboratoire de recherche de l’armée américaine, ou ARL. 

« Comprendre comment le comportement du robot influence ses coéquipiers humains est crucial pour le développement d’équipes humain-robot efficaces, ainsi que pour la conception d’interfaces et de méthodes de communication entre les membres de l’équipe », a-t-elle déclaré. « Cette recherche contribue aux efforts de l’armée pour les opérations multi-domaines afin de garantir la supériorité dans les capacités basées sur l’intelligence artificielle. Mais c’est également une recherche interdisciplinaire, car ses résultats éclaireront le travail des psychologues, des roboticiens, des ingénieurs et des concepteurs de systèmes qui travaillent pour faciliter une meilleure compréhension entre les humains et les agents autonomes dans l’effort pour créer des coéquipiers autonomes plutôt que de simples outils. »

Ce nouveau projet faisait partie d’un projet plus vaste connu sous le nom de projet Autonomous Squad Member (ASM) sponsorisé par l’Initiative de recherche sur l’autonomie du Secrétariat à la Défense. L’ASM est un véritable petit robot au sol qui est utilisé au sein d’une équipe d’infanterie. Il peut communiquer et interagir avec l’équipe. 

L’étude a impliqué des participants qui ont observé des équipes de soldats humains-agents dans un environnement simulé. L’ASM faisait partie de l’équipe et se déplaçait à travers un parcours d’entraînement. La tâche des observateurs consistait à surveiller l’équipe et à évaluer le robot. Au cours de l’entraînement, l’équipe a été confrontée à divers événements et obstacles. Les soldats ont pu naviguer correctement dans chacun d’eux, mais il y a eu des moments où le robot n’a pas pu comprendre l’obstacle et a fait des erreurs. Le robot a parfois partagé sa logique derrière certaines actions ainsi que le résultat attendu. 

L’étude a montré que les participants étaient plus préoccupés par les erreurs du robot que par la logique et le raisonnement sous-jacents. La fiabilité du robot a joué un rôle majeur dans la confiance et les perceptions des participants. Chaque fois que le robot faisait une erreur, les observateurs ont évalué sa fiabilité comme étant plus basse. 

La fiabilité et la confiance ont augmenté lorsque la transparence de l’agent a été accrue, ou lorsque le robot a partagé des détails et des raisons derrière sa décision. Cependant, la fiabilité et la confiance étaient toujours inférieures à celles des robots qui n’ont jamais commis d’erreur. Cela suggère que le partage de la logique et du raisonnement sous-jacent pourrait aider à résoudre certains problèmes de confiance et de fiabilité entourant les robots. 

« Les études antérieures suggèrent que le contexte est important pour déterminer l’utilité des informations de transparence », a déclaré Wright. « Nous devons mieux comprendre quels tâches nécessitent une compréhension plus approfondie du raisonnement de l’agent, et comment discerner ce que cette profondeur implique. Les recherches futures devraient explorer des moyens de fournir des informations de transparence en fonction des exigences de la tâche. »

Cette nouvelle recherche jouera un rôle crucial dans le domaine en raison de l’interaction croissante entre les humains et les robots. L’un des domaines qui sera le plus important est l’armée. Comme on l’a vu dans ces exercices, les robots et les soldats seront finalement côte à côte. Tout comme un soldat doit avoir confiance en un autre soldat, la même chose s’appliquera aux robots. Si cela peut être réalisé et que les robots deviennent courants dans les équipes d’infanterie, ce sera un autre exemple de pénétration de l’intelligence artificielle dans l’industrie de la défense.