Nouvel aperçu du manque de confiance envers l'intelligence artificielle

Des recherches récentes fournissent de nouvelles informations sur ce qui détermine le niveau de confiance des individus dans l'intelligence artificielle (IA). Une équipe de l'Université du Kansas, dirigée par le psychologue relationnel Omri Gillath, a détaillé comment cette relation est affectée par la relation réelle ou le style d'attachement des individus.

L'équipe était composée d'une variété d'experts de différentes disciplines, telles que la psychologie, l'ingénierie, les affaires et la médecine. 

L'article a été publié dans la revue Ordinateurs en comportement humain. 

Selon la recherche, les gens sont plus susceptibles d'être moins confiants envers les systèmes d'IA s'ils sont inquiets de leurs relations réelles avec les humains. L'article détaille également comment il est possible d'accroître la confiance dans l'intelligence artificielle en rappelant aux individus leurs relations humaines stables.

Il existe toujours un niveau élevé de méfiance envers les nouvelles technologies d'intelligence artificielle, malgré le marché mondial estimé de l'intelligence artificielle qui devrait atteindre 39.9 milliards de dollars en 2019. 

Augmenter la confiance

L'équipe de recherche n'a pas seulement identifié le problème du manque de confiance envers les systèmes d'IA, mais elle a également trouvé des moyens d'accroître la confiance. Les études sur les relations humaines ont suggéré quelques choses différentes.

Premièrement, les personnes souffrant d'anxiété d'attachement devraient avoir moins confiance en l'intelligence artificielle. Deuxièmement, en augmentant l'anxiété d'attachement, la confiance dans l'intelligence artificielle a été réduite. Enfin, la confiance dans l'intelligence artificielle augmente lorsque la sécurité des pièces jointes est renforcée. 

Gillath est professeur de psychologie à KU. 

« La plupart des recherches sur la confiance dans l'intelligence artificielle se concentrent sur les moyens cognitifs de renforcer la confiance. Ici, nous avons adopté une approche différente en nous concentrant sur une voie "affective relationnelle" pour renforcer la confiance, en considérant l'IA comme un partenaire ou un membre de l'équipe plutôt qu'un appareil », a déclaré Gillath. 

«Trouver des associations entre son style d'attachement - une différence individuelle représentant la façon dont les gens ressentent, pensent et se comportent dans les relations étroites - et sa confiance en l'IA ouvre la voie à de nouvelles compréhensions et potentiellement de nouvelles interventions pour induire la confiance.

Grâce à leurs recherches, l'équipe propose une nouvelle façon de voir l'intelligence artificielle et la confiance qui l'entoure, en particulier ce qui affecte cette confiance. Cela pourrait jouer un rôle en facilitant l'introduction de l'IA sur le lieu de travail et dans de nouveaux environnements. 

«Les résultats montrent que vous pouvez prédire et augmenter le niveau de confiance des gens envers les non-humains en fonction de leurs premières relations avec les humains», a déclaré Gillath. «Cela a le potentiel d'améliorer l'adoption de nouvelles technologies et l'intégration de l'IA sur le lieu de travail.» 

Méfiance envers l'IA

La méfiance envers l'IA au sein de la population n'est pas nouvelle. Au cours des dernières années, il y a eu beaucoup de scepticisme autour de la technologie et de sa mise en œuvre. Ce n'est en aucun cas injustifié, car divers problèmes se sont développés au fil des ans pour provoquer cette méfiance. 

Tout récemment, des scientifiques internationaux venant de certaines des meilleures institutions mondiales a critiqué le manque de transparence dans la recherche sur l'IA. En juin 2019, les États-Unis ont vu leur premier cas d'arrestation injustifiée due à un mauvais algorithme. Il existe de nombreux autres exemples tels que biais dans la vision par ordinateur et par utilisation de l'IA par les gouvernements pour le combat et la surveillance. 

Bien que tous ces exemples puissent sembler très éloignés de l'expérience personnelle d'un individu avec l'IA, ils jouent sans aucun doute un rôle dans la formation de la perception globale de la technologie. De nouvelles recherches comme celles qui sortent de l'Université du Kansas fournissent des informations indispensables pour résoudre certains de ces problèmes.