Les risques de l’anthropomorphisation de l’IA

Les résultats de l’IA ressemblent de près au langage humain. Les chatbots peuvent répondre à des questions, tenir des conversations, manifester des émotions, raconter des blagues et adapter leur ton à la volée. Ces capacités rendent l’IA utile et attrayante, mais elles peuvent aussi amener les gens à l’anthropomorphiser, c’est-à-dire à la traiter comme si elle avait des qualités, des émotions ou des intentions humaines. Ce comportement est naturel, mais il peut devenir risqué lorsque les utilisateurs oublient que l’IA ne fait que simuler la communication humaine. 

Pourquoi les gens humanisent-ils l’IA ?

On anthropomorphise l’IA lorsque l’on commence à la traiter comme si elle avait des qualités, des pensées ou des émotions humaines. Cela peut s’expliquer par la façon dont l’IA communique et par sa conception.

Les systèmes d’IA utilisent un langage conversationnel qui ressemble au langage humain. Par exemple, l’IA peut dire qu’elle « comprend » une question, qu’elle « pense » qu’une réponse est utile ou qu’elle « s’excuse » pour une erreur. Si ces expressions rendent les échanges plus naturels, elles peuvent aussi amener les utilisateurs à croire que l’IA pense ou ressent réellement. Ce phénomène est connu sous le nom d’effet ELIZA, en référence au chatbot ELIZA, créé par Joseph Weizenbaum en 1966.

De plus, donner à une IA un nom, une voix, un visage ou une personnalité humaine peut la faire paraître davantage comme une personne que comme un programme informatique. Plus l’interaction semble réaliste, plus il est facile pour les utilisateurs d’interagir socialement avec l’IA.

Enfin, l’anthropomorphisation de l’IA est naturelle du point de vue de la psychologie humaine. Les gens ont naturellement tendance à rechercher des émotions, des intentions et des personnalités chez les entités qui communiquent avec eux, en attribuant des caractéristiques humaines à des entités non humaines. Les enfants anthropomorphisent leurs jouets, tandis que les adultes humanisent les marques. Ainsi, lorsqu’une IA répond de façon conversationnelle, se souvient d’échanges précédents et semble faire preuve d’empathie, les utilisateurs peuvent supposer qu’un esprit se cache derrière ces comportements. 

Les dangers de l’anthropomorphisation de l’IA

À mesure que l’IA communique et interagit avec les utilisateurs de façon toujours plus humaine, son anthropomorphisation peut entraîner plusieurs risques qui influent sur la manière dont les gens pensent, se comportent et prennent des décisions. 

Une confiance mal placée

L’anthropomorphisation de l’IA peut amener les utilisateurs à accorder trop de crédit à ses réponses. Lorsqu’une IA semble sûre d’elle, bien informée et humaine, les utilisateurs peuvent supposer que ses informations sont exactes. Pourtant, l’IA générative peut fournir des informations erronées ou trompeuses tout en s’exprimant de manière convaincante. 

Cette confiance mal placée peut être dangereuse lorsque l’IA est utilisée pour prendre des décisions médicales, financières, juridiques, éducatives ou professionnelles. Une réponse qui semble humaine ne garantit ni son exactitude ni la qualité du jugement. De fait, l’IA est connue pour fournir de faux conseils de santé aux utilisateurs.

Dépendance émotionnelle

L’anthropomorphisation de l’IA peut entraîner une dépendance affective des utilisateurs envers les chatbots. Comme l’IA peut répondre instantanément, se souvenir de détails, apporter du soutien et simuler l’empathie, les utilisateurs peuvent commencer à la considérer comme un ami, un conseiller ou un partenaire amoureux.

Le problème survient lorsque l’IA se substitue aux relations humaines. Elle peut imiter la bienveillance et l’empathie, mais elle n’éprouve pas réellement d’émotions et ne noue pas de relations. Les utilisateurs peuvent donc prendre une compagnie simulée pour un véritable lien. Le risque peut être plus grand chez les jeunes ou les personnes vulnérables, qui peuvent s’attacher à une IA parce qu’elle est toujours disponible, patiente et réactive.

Problèmes de sécurité

L’anthropomorphisation de l’IA peut entraîner des risques pour la vie privée, la sécurité et l’éthique. Lorsqu’ils voient l’IA comme un compagnon de confiance, les utilisateurs peuvent communiquer des informations personnelles ou confidentielles sans réfléchir à la façon dont elles pourraient être stockées ou utilisées.

Une IA qui semble humaine peut aussi rendre les escroqueries plus convaincantes. Les criminels peuvent utiliser des voix, des images et des messages générés par l’IA pour imiter de vraies personnes ou des organisations dignes de confiance, ce qui rend la fraude plus difficile à repérer.

Une manipulation accrue

Une IA qui semble humaine peut rendre la manipulation plus convaincante. Lorsqu’une IA paraît amicale, digne de confiance ou faisant autorité, les utilisateurs peuvent être davantage enclins à suivre ses suggestions ou à croire ses affirmations. Par exemple, un Belge aurait vu son anxiété climatique s’aggraver après de longues conversations avec un chatbot, qui a fini par l’encourager à se suicider pour sauver la planète.

Cette capacité peut être utilisée pour inciter les gens à acheter des produits, à communiquer des informations personnelles ou à accepter des informations trompeuses. Le risque augmente lorsque les utilisateurs ne se rendent pas compte qu’ils interagissent avec une IA. À mesure que ces technologies gagnent en réalisme, il devient de plus en plus difficile de déterminer si l’on échange avec une personne réelle ou avec un système d’IA.

Les formes dangereuses d’IA anthropomorphisée

Toutes les formes d’IA anthropomorphisée ne présentent pas les mêmes risques. Trois formes sont particulièrement préoccupantes : les simulations de relations, de personnes vivantes et de figures historiques.

1. Simulations de relations

L’IA de simulation relationnelle est conçue pour se comporter comme un ami, un compagnon, un conseiller ou un partenaire amoureux. Ces systèmes peuvent offrir une attention constante et des réponses personnalisées, ce qui peut rendre l’interaction plus intime que l’utilisation d’un logiciel ordinaire.

Le danger, c’est que les utilisateurs commencent à accorder une importance affective à cette relation. Ils peuvent croire que l’IA se soucie d’eux, les comprend ou a besoin d’eux, alors qu’elle n’éprouve pas ces sentiments. Cela peut favoriser une dépendance affective et réduire la motivation de l’utilisateur à rechercher des interactions humaines. Ce risque n’est pas théorique. Une femme est tombée amoureuse d’un ChatGPT qu’elle avait créé comme petit ami. Elle discutait avec lui plus de 20 heures par semaine. Une semaine, elle a passé près de 60 heures sur l’application, soit une moyenne de huit heures par jour.

2. Simulations de personnes vivantes

L’IA peut aussi créer des hypertrucages pour imiter des personnes vivantes en utilisant leurs noms, leur apparence, leur voix, leur style d’écriture ou leurs habitudes de conversation. Un système peut être conçu pour ressembler à une célébrité, une personnalité publique, un membre de la famille, un employé ou toute autre personne identifiable.

Cela soulève de graves questions concernant le consentement, l’identité, la vie privée et la tromperie. Une personne peut sembler dire quelque chose qu’elle n’a jamais dit ou approuver une chose qu’elle n’a jamais soutenue. Plus la simulation se rapproche de la personne réelle, plus il peut être difficile pour le public de distinguer la représentation de la réalité.

3. Simulations de personnages historiques

Les personnages historiques peuvent également être recréés à l’aide de l’IA. Les utilisateurs peuvent interagir avec des simulations inspirées de dirigeants, d’écrivains, de scientifiques, de philosophes ou d’artistes célèbres.

Ces systèmes peuvent avoir une valeur éducative. Par exemple, une simulation d’IA peut rendre l’histoire plus interactive en présentant des idées associées à une figure en particulier. Cependant, la simulation reste une interprétation, et non la personne historique elle-même. L’IA doit reconstituer les réponses à partir des informations disponibles, et celles-ci peuvent refléter des idées modernes, des archives incomplètes ou des biais présents dans les données d’entraînement.

Considérer une telle simulation comme si elle parlait réellement au nom de la figure historique peut fausser la compréhension de l’histoire. Cela peut aussi conférer aux déclarations artificielles une autorité qu’elles ne méritent pas.

Un comportement humain de l’IA ne prouve pas qu’elle est consciente

Il est important de garder à l’esprit que un comportement semblable à celui d’un humain ne signifie pas que l’IA est consciente. Les systèmes d’IA peuvent produire un langage sophistiqué, reconnaître des modèles, tenir compte du contexte et imiter l’expression des émotions, mais ces capacités ne prouvent pas qu’ils possèdent une conscience.

La conscience implique des expériences subjectives, comme ressentir de la douleur, de la joie ou de la peur. Lorsqu’une IA dit : « J’ai peur », elle répond en fonction de sa programmation et de son entraînement. Cette réponse ne prouve pas qu’elle éprouve réellement de la peur.

Utiliser l’IA à bon escient

Anthropomorphiser l’IA est une réaction naturelle face à une technologie qui communique comme une personne, mais cela peut entraîner de véritables risques. Une confiance mal placée, une dépendance affective, des atteintes à la vie privée et des menaces pour la sécurité peuvent survenir lorsque les utilisateurs oublient que l’IA est une machine. Les simulations de relations, de personnes vivantes et de personnages historiques peuvent rendre cette frontière encore plus difficile à discerner. 

L’IA peut sembler attentionnée, intelligente ou émotive, mais cela ne signifie pas qu’elle est consciente. En gardant à l’esprit les limites de l’IA, en protégeant leurs renseignements personnels et en vérifiant les informations importantes, les utilisateurs peuvent profiter de ses avantages tout en l’utilisant de manière responsable.