Étude suggère que les robots sont plus persuasifs lorsqu’ils prétendent être humains

Les progrès de l’intelligence artificielle ont créé des bots et des machines qui peuvent potentiellement passer pour des humains s’ils interagissent avec les gens exclusivement par le biais d’un média numérique. Récemment, une équipe de chercheurs en informatique a étudié comment les robots/machines et les humains interagissent lorsqu’ils croient que les robots sont également humains. Selon ScienceDaily, les résultats de l’étude ont montré que les gens trouvent les robots/chatbots plus persuasifs lorsqu’ils croient que les bots sont humains.

Talal Rahwan, professeur associé d’informatique à NYU Abu Dhabi, a récemment dirigé une étude qui a examiné comment les robots et les humains interagissent les uns avec les autres. Les résultats de l’expérience ont été publiés dans Nature Machine Intelligence dans un rapport intitulé Transparency-Efficiency Tradeoff in Human-Machine Cooperation. Au cours de l’étude, les sujets de test ont été invités à jouer à un jeu de coopération avec un partenaire, qui pouvait être soit un humain, soit un bot.

Le jeu était une variante du dilemme du prisonnier classique, où les participants doivent décider s’ils coopèrent ou trahissent l’autre à chaque tour. Dans un dilemme du prisonnier, une partie peut choisir de trahir et de tromper son partenaire pour obtenir un avantage au détriment de l’autre joueur, et seul en coopérant peuvent-ils s’assurer un gain.

Les chercheurs ont manipulé leurs sujets de test en leur fournissant des informations correctes ou incorrectes sur l’identité de leur partenaire. Certains participants ont été informés qu’ils jouaient avec un bot, même si leur partenaire était en réalité un humain. D’autres participants se trouvaient dans la situation inverse. Au cours de l’expérience, l’équipe de recherche a pu quantifier si les gens traitaient les partenaires différemment lorsqu’ils étaient informés que leurs partenaires étaient des bots. Les chercheurs ont suivi le degré de préjugés contre les bots et comment ces attitudes ont impacté les interactions avec les bots qui s’identifiaient.

Les résultats de l’expérience ont montré que les bots étaient plus efficaces pour engendrer la coopération de leurs partenaires lorsque les humains croyaient que le bot était également humain. Cependant, lorsque cela a été révélé que le bot était un bot, les niveaux de coopération ont chuté. Rahwan a expliqué que même si de nombreux scientifiques et éthiciens s’accordent pour dire que l’IA devrait être transparente sur la façon dont les décisions sont prises, il est moins clair qu’ils devraient également être transparents sur leur nature lorsqu’ils communiquent avec les autres.

L’année dernière, Google (GOOGL ) Duplex a fait sensation lorsqu’une démo sur scène a montré qu’il était capable de passer des appels téléphoniques et de réserver des rendez-vous au nom de son utilisateur, générant un discours humain si sophistiqué que de nombreuses personnes l’auraient confondu avec une personne réelle si elles n’avaient pas été informées qu’elles parlaient à un bot. Depuis la sortie de Google Duplex, de nombreux éthiciens de l’IA et des robots ont exprimé leurs inquiétudes concernant la technologie, ce qui a poussé Google à déclarer qu’il ferait en sorte que l’agent s’identifie comme un bot à l’avenir. Actuellement, Google Duplex n’est utilisé qu’à une capacité très limitée. Il sera bientôt utilisé en Nouvelle-Zélande, mais uniquement pour vérifier les heures d’ouverture des entreprises. Les éthiciens sont toujours inquiets pour le degré auquel la technologie pourrait être mal utilisée.

Rahawan soutient que l’étude récente démontre que nous devrions considérer quels coûts nous sommes prêts à payer en échange de la transparence:

« Est-il éthique de développer un tel système ? Devrions-nous interdire aux bots de se faire passer pour des humains et les forcer à être transparents sur qui ils sont ? Si la réponse est ‘Oui’, alors nos résultats mettent en évidence la nécessité d’établir des normes pour le coût d’efficacité que nous sommes prêts à payer en échange d’une telle transparence. »