Nouvelles recherches montrent comment l’IA peut agir en tant que médiateurs

De nouvelles recherches de l’Université Cornell montrent comment l’intelligence artificielle (IA) peut jouer un rôle dans la médiation des conversations. Cela se produit à une époque de distanciation sociale et de conversations à distance en raison d’une pandémie. 

Selon la nouvelle étude, les humains faisaient confiance aux systèmes intelligents artificiels plus qu’aux personnes avec lesquelles ils parlaient lors de conversations difficiles. Les systèmes intelligents artificiels étaient des suggestions de réponses « intelligentes » dans les textes. 

La nouvelle étude s’intitule « L’IA comme zone de crumple moral : Les effets de la communication médiatisée par l’IA sur l’attribution et la confiance ». Elle a été publiée en ligne dans la revue Computers in Human Behavior.

Jess Hohenstein est un étudiant en doctorat dans le domaine de la science de l’information. Il est le premier auteur de l’article.

« Nous constatons que lorsque les choses vont mal, les gens prennent la responsabilité qui aurait autrement été attribuée à leur partenaire humain et attribuent une partie de celle-ci au système d’intelligence artificielle », a déclaré Hohenstein. « Cela introduit un potentiel pour utiliser l’IA comme médiateur dans nos conversations. »

Détecter lorsque les choses vont mal 

Au cours d’une conversation, l’algorithme peut analyser le langage pour détecter le moment où les choses vont mal. Il peut alors suggérer certaines stratégies de résolution de conflits, selon Hohenstein.

L’objectif principal de l’étude était d’examiner les différentes manières subtiles et significatives dont les systèmes d’IA, comme les réponses intelligentes, peuvent modifier la façon dont les humains interagissent. Selon les chercheurs, quelque chose d’aussi simple que la sélection d’une réponse qui n’est pas complètement exacte peut changer de manière significative les différents aspects d’une conversation. Ce langage est souvent sélectionné pour gagner du temps en tapant, et il peut avoir un effet direct sur les relations. 

Malte Jung est co-auteur de l’étude et professeur adjoint de science de l’information. Il est également directeur du laboratoire Robots in Groups, qui étudie comment les robots changent la dynamique de groupe. 

« La communication est si fondamentale pour former des perceptions les uns des autres, former et maintenir des relations, ou être capable de réaliser quelque chose en travaillant ensemble », a déclaré Jung.

« Cette étude s’inscrit dans le cadre plus large de la compréhension de la façon dont ces nouveaux systèmes d’IA perturbent notre capacité à interagir », a poursuivi Jung. « Nous pensons souvent à la façon dont la conception des systèmes affecte la façon dont nous interagissons avec eux, mais moins d’études se concentrent sur la question de la façon dont les technologies que nous développons affectent la façon dont les gens interagissent les uns avec les autres. »

Mieux comprendre l’interaction humaine

L’étude peut aider à comprendre les façons dont les gens perçoivent et interagissent avec les ordinateurs. Elle peut également aider à améliorer la communication humaine, grâce à l’utilisation de conseils subtils et de rappels d’IA.

Hohenstein et Jung voulaient savoir si le système d’IA pouvait absorber le « crash » d’une conversation.

« Il y a un mécanisme physique à l’avant de la voiture conçu pour absorber la force de l’impact et prendre la responsabilité de minimiser les effets de la collision », a déclaré Hohenstein. « Ici, nous voyons le système d’IA absorber une partie de la responsabilité morale. »

La recherche a été soutenue en partie par la National Science Foundation.