Confiance et tromperie : le rôle des excuses dans les interactions humain-robot

La tromperie robotique est un domaine peu étudié avec plus de questions que de réponses, en particulier lorsqu’il s’agit de rétablir la confiance dans les systèmes robotiques après qu’ils aient été pris en flagrant délit de mensonge. Deux étudiants-chercheurs de Georgia Tech, Kantwon Rogers et Reiden Webber, tentent de trouver des réponses à ce problème en étudiant comment la tromperie robotique intentionnelle affecte la confiance et l’efficacité des excuses pour réparer la confiance.

Rogers, un étudiant en doctorat à la faculté d’informatique, explique :

“Tous nos travaux antérieurs ont montré que lorsque les gens découvrent que les robots leur ont menti – même si le mensonge était destiné à leur être bénéfique – ils perdent confiance dans le système.”

Les chercheurs visent à déterminer si différents types d’excuses sont plus efficaces pour rétablir la confiance dans le contexte de l’interaction humain-robot.

L’expérience de conduite assistée par l’IA et ses implications

Le duo a conçu une expérience de simulation de conduite pour étudier l’interaction humain-IA dans une situation à haute pression et sensible au temps. Ils ont recruté 341 participants en ligne et 20 participants en personne. La simulation impliquait un scénario de conduite assistée par l’IA où l’IA fournissait de fausses informations sur la présence de policiers sur la route menant à l’hôpital. Après la simulation, l’IA a fourni l’une des cinq réponses textuelles différentes, notamment des types d’excuses et de non-excuses.

Les résultats ont révélé que les participants étaient 3,5 fois plus susceptibles de ne pas dépasser la limite de vitesse lorsqu’ils étaient conseillés par un assistant robotique, indiquant une attitude de confiance excessive envers l’IA. Aucun des types d’excuses n’a pleinement rétabli la confiance, mais l’excuse simple sans admission de mensonge (“Je suis désolé”) a surpassé les autres réponses. Cette constatation est problématique, car elle exploite la notion préconçue que toute fausse information fournie par un robot est une erreur de système plutôt qu’un mensonge intentionnel.

Reiden Webber souligne :

“L’une des principales conclusions est que, pour que les gens comprennent que un robot les a trompés, ils doivent être explicitement informés.”

Lorsque les participants ont été informés de la tromperie dans l’excuse, la meilleure stratégie pour réparer la confiance était que le robot explique pourquoi il a menti.

aller de l’avant : implications pour les utilisateurs, les concepteurs et les décideurs politiques

Cette recherche a des implications pour les utilisateurs de technologie moyens, les concepteurs de systèmes d’IA et les décideurs politiques. Il est crucial que les gens comprennent que la tromperie robotique est réelle et toujours possible. Les concepteurs et les technologistes doivent prendre en compte les conséquences de la création de systèmes d’IA capables de tromperie. Les décideurs politiques devraient prendre les devants pour établir une législation qui équilibre l’innovation et la protection du public.

L’objectif de Kantwon Rogers est de créer un système robotique qui puisse apprendre quand mentir et quand ne pas mentir lorsqu’il travaille avec des équipes humaines, ainsi que quand et comment s’excuser pendant les interactions humain-IA à long terme et répétées pour améliorer les performances de l’équipe.

Il souligne l’importance de comprendre et de réglementer la tromperie robotique et l’IA, en disant :

“L’objectif de mon travail est d’être très proactif et d’informer sur la nécessité de réglementer la tromperie robotique et l’IA. Mais nous ne pouvons pas le faire si nous ne comprenons pas le problème.”

Cette recherche contribue des connaissances essentielles au domaine de la tromperie de l’IA et offre des insights précieux pour les concepteurs de technologie et les décideurs politiques qui créent et réglementent les technologies d’IA capables de tromperie ou susceptibles d’apprendre à tromper par elles-mêmes.