L’exploitation des robots est-elle universelle ou dépend-elle de la culture ?

Les personnes au Japon traitent les agents artificiels coopératifs avec le même niveau de respect qu’elles accordent aux humains, tandis que les Américains sont nettement plus susceptibles d’exploiter l’IA pour un gain personnel, selon une nouvelle étude publiée dans Scientific Reports par des chercheurs de l’Université Louis-Maximilien de Munich et de l’Université Waseda de Tokyo.

À mesure que les véhicules autonomes et d’autres robots autonomes basés sur l’IA deviennent de plus en plus intégrés dans la vie quotidienne, les attitudes culturelles envers les agents artificiels peuvent déterminer à quel point et avec quel succès ces technologies sont mises en œuvre dans différentes sociétés.

Divide culturelle dans la coopération humaine-IA

“À mesure que la technologie de conduite autonome devient une réalité, ces rencontres quotidiennes définiront la façon dont nous partageons la route avec des machines intelligentes,” a déclaré le Dr Jurgis Karpus, chercheur principal de l’Université Louis-Maximilien de Munich, dans l’étude.

La recherche représente l’une des premières études transculturelles complètes sur la façon dont les humains interagissent avec des agents artificiels dans des scénarios où les intérêts ne correspondent pas toujours. Les résultats remettent en question l’hypothèse que l’exploitation des algorithmes – la tendance à profiter d’une IA coopérative – est un phénomène universel.

Les résultats suggèrent que, à mesure que les technologies autonomes deviennent plus répandues, les sociétés peuvent connaître différents défis d’intégration en fonction des attitudes culturelles envers l’intelligence artificielle.

Méthodologie de recherche : la théorie des jeux révèle les différences de comportement

L’équipe de recherche a utilisé des expériences classiques d’économie comportementale – le jeu de confiance et le dilemme du prisonnier – pour comparer la façon dont les participants du Japon et des États-Unis interagissaient avec des partenaires humains et des systèmes d’IA.

Dans ces jeux, les participants ont fait des choix entre intérêt personnel et bénéfice mutuel, avec des incitations monétaires réelles pour s’assurer qu’ils prenaient des décisions réelles et non hypothétiques. Cette conception expérimentale a permis aux chercheurs de comparer directement la façon dont les participants traitaient les humains par rapport aux systèmes d’IA dans des scénarios identiques.

Les jeux ont été soigneusement conçus pour reproduire des situations quotidiennes, y compris des scénarios de circulation, où les humains doivent décider s’ils coopèrent ou exploitent un autre agent. Les participants ont joué plusieurs manches, parfois avec des partenaires humains et parfois avec des systèmes d’IA, permettant une comparaison directe de leurs comportements.

“Nos participants aux États-Unis ont coopéré avec des agents artificiels de manière significativement moins importante qu’avec des humains, alors que les participants au Japon ont présenté des niveaux de coopération équivalents avec les deux types de co-joueurs,” indique l’article.

Karpus, J., Shirai, R., Verba, J.T. et al.

Culpabilité comme facteur clé dans les différences culturelles

Les chercheurs proposent que les différences dans les sentiments de culpabilité sont un facteur principal des variations culturelles observées dans la façon dont les gens traitent les agents artificiels.

L’étude a constaté que les personnes en Occident, en particulier aux États-Unis, ont tendance à ressentir du remords lorsqu’elles exploitent un autre humain, mais pas lorsqu’elles exploitent une machine. Au Japon, en revanche, les gens semblent ressentir de la culpabilité de la même manière, qu’ils maltraitent une personne ou un agent artificiel.

Le Dr Karpus explique que, dans la pensée occidentale, couper un robot dans la circulation ne blesse pas ses sentiments, mettant en évidence une perspective qui peut contribuer à une plus grande volonté d’exploiter les machines.

L’étude comprenait une composante exploratoire dans laquelle les participants ont signalé leurs réponses émotionnelles après que les résultats des jeux aient été révélés. Ces données ont fourni des informations cruciales sur les mécanismes psychologiques sous-jacents aux différences de comportement.

Les réponses émotionnelles révèlent des modèles culturels plus profonds

Lorsque les participants ont exploité un IA coopératif, les participants japonais ont signalé ressentir des émotions négatives (culpabilité, colère, déception) et moins d’émotions positives (bonheur, victoire, soulagement) par rapport à leurs homologues américains.

La recherche a constaté que les défecteurs qui ont exploité leur co-joueur IA au Japon ont signalé ressentir nettement plus de culpabilité que les défecteurs aux États-Unis. Cette réponse émotionnelle plus forte peut expliquer la plus grande réticence des participants japonais à exploiter les agents artificiels.

Inversement, les Américains ont ressenti plus d’émotions négatives lorsqu’ils exploitaient des humains que des IA, une distinction non observée chez les participants japonais. Pour les personnes au Japon, la réponse émotionnelle était similaire, qu’elles aient exploité un humain ou un agent artificiel.

L’étude note que les participants japonais ont ressenti des sentiments similaires à l’égard de l’exploitation de co-joueurs humains et d’IA, suggérant une perception morale fondamentalement différente des agents artificiels par rapport aux attitudes occidentales.

Animisme et perception des robots

Le contexte culturel et historique du Japon peut jouer un rôle important dans ces résultats, offrant des explications potentielles pour les différences observées dans le comportement envers les agents artificiels et l’IA incarnée.

L’article note que l’affinité historique du Japon pour l’animisme et la croyance que les objets non vivants peuvent posséder des âmes dans le bouddhisme a conduit à l’hypothèse que les Japonais sont plus acceptants et attentionnés envers les robots que les individus dans d’autres cultures.

Ce contexte culturel pourrait créer un point de départ fondamentalement différent pour la perception des agents artificiels. Au Japon, il peut y avoir moins de distinction nette entre les humains et les entités non humaines capables d’interaction.

La recherche indique que les personnes au Japon sont plus susceptibles que les personnes aux États-Unis de croire que les robots peuvent ressentir des émotions et sont plus disposées à accepter les robots comme cibles de jugement moral humain.

Les études citées dans l’article suggèrent une tendance plus grande au Japon à percevoir les agents artificiels comme similaires aux humains, les robots et les humains étant souvent dépeints comme des partenaires plutôt que dans des relations hiérarchiques. Cette perspective pourrait expliquer pourquoi les participants japonais ont traité les agents artificiels et les humains avec la même considération émotionnelle.

Implications pour l’adoption de la technologie autonome

Ces attitudes culturelles pourraient avoir un impact direct sur la rapidité avec laquelle les technologies autonomes sont adoptées dans différentes régions, avec des implications économiques et sociétales potentiellement importantes.

Le Dr Karpus conjecture que si les personnes au Japon traitent les robots avec le même respect que les humains, les taxis autonomes pourraient devenir plus courants à Tokyo plus rapidement qu’à Berlin, Londres ou New York.

La propension à exploiter les véhicules autonomes dans certaines cultures pourrait créer des défis pratiques pour leur intégration sans heurts dans la société. Si les conducteurs sont plus susceptibles de couper les voitures autonomes, de prendre leur priorité ou d’exploiter autrement leur prudence programmée, cela pourrait entraver l’efficacité et la sécurité de ces systèmes.

Les chercheurs suggèrent que ces différences culturelles pourraient influencer de manière significative le calendrier d’adoption généralisée de technologies telles que les drones de livraison, les transports publics autonomes et les véhicules personnels autonomes.

Intéressant, l’étude a constaté peu de différence dans la façon dont les participants japonais et américains coopéraient avec d’autres humains, s’alignant sur des recherches antérieures en économie comportementale.

L’étude a observé une différence limitée dans la volonté des participants japonais et américains de coopérer avec d’autres humains. Cette constatation met en évidence que la divergence se produit spécifiquement dans le contexte de l’interaction humaine-IA et non en reflétant des différences culturelles plus larges dans le comportement de coopération.

Cette constance dans la coopération humaine-humaine fournit une base de référence importante pour mesurer les différences culturelles dans l’interaction humaine-IA, renforçant les conclusions de l’étude sur l’unicité du modèle observé.

Implications plus larges pour le développement de l’IA

Les résultats ont des implications importantes pour le développement et le déploiement de systèmes d’IA conçus pour interagir avec les humains dans différents contextes culturels.

La recherche souligne la nécessité critique de prendre en compte les facteurs culturels dans la conception et la mise en œuvre de systèmes d’IA qui interagissent avec les humains. La façon dont les gens perçoivent et interagissent avec l’IA n’est pas universelle et peut varier considérablement d’une culture à l’autre.

Ignorer ces nuances culturelles pourrait entraîner des conséquences involontaires, des taux d’adoption plus lents et un potentiel d’abus ou d’exploitation des technologies d’IA dans certaines régions. Cela met en évidence l’importance des études transculturelles pour comprendre l’interaction humaine-IA et assurer le développement et le déploiement responsables de l’IA à l’échelle mondiale.

Les chercheurs suggèrent que, à mesure que l’IA devient plus intégrée dans la vie quotidienne, la compréhension de ces différences culturelles deviendra de plus en plus importante pour la mise en œuvre réussie de technologies qui nécessitent une coopération entre les humains et les agents artificiels.

Limitations et directions de recherche futures

Les chercheurs reconnaissent certaines limites dans leur travail qui pointent vers des directions pour des investigations futures.

L’étude s’est concentrée principalement sur deux pays, le Japon et les États-Unis, ce qui, bien qu’offrant des informations précieuses, peut ne pas capturer l’ensemble du spectre des variations culturelles dans l’interaction humaine-IA à l’échelle mondiale. Des recherches supplémentaires à travers un éventail plus large de cultures sont nécessaires pour généraliser ces résultats.

En outre, bien que les expériences de théorie des jeux offrent des scénarios contrôlés idéaux pour la recherche comparative, elles peuvent ne pas capturer pleinement les complexités des interactions humaines-IA dans le monde réel. Les chercheurs suggèrent que valider ces résultats dans des études de terrain avec des technologies autonomes réelles serait une étape importante suivante.

L’explication basée sur la culpabilité et les croyances culturelles sur les robots, bien étayée par les données, nécessite une investigation empirique plus approfondie pour établir la causalité de manière définitive. Les chercheurs appellent à des études plus ciblées examinant les mécanismes psychologiques sous-jacents à ces différences culturelles.

“Nos résultats actuels tempèrent la généralisation de ces résultats et montrent que l’exploitation des algorithmes n’est pas un phénomène transculturel,” concluent les chercheurs.