Un appel à la modération de l’anthropomorphisme dans les plateformes d’IA

OPINION Personne dans l’univers fictif de Star Wars ne prend au sérieux l’IA. Dans la chronologie historique de la franchise de science-fiction de George Lucas, qui a 47 ans, les menaces de singularités et de conscience de l’apprentissage automatique sont absentes, et l’IA est confinée à des robots mobiles autonomes (‘droids’) – qui sont habituellement rejetés par les protagonistes comme de simples ‘machines’.

Cependant, la plupart des robots de Star Wars sont hautement anthropomorphes, clairement conçus pour interagir avec les humains, participer à la ‘culture organique’ et utiliser leur simulacre d’état émotionnel pour se lier avec les humains. Ces capacités sont apparemment conçues pour les aider à obtenir un avantage pour elles-mêmes, ou même pour assurer leur propre survie.

Les ‘vrais’ humains de Star Wars semblent imperméables à ces tactiques. Dans un modèle culturel cynique apparemment inspiré des différentes époques de l’esclavage dans l’Empire romain et aux États-Unis, Luke Skywalker n’hésite pas à acheter et à retenir des robots dans le contexte d’esclaves; l’enfant Anakin Skywalker abandonne son projet C3PO inachevé comme un jouet non aimé; et, près de la mort des suites des blessures subies lors de l’attaque de la Death Star, le ‘courageux’ R2D2 reçoit environ la même attention de la part de Luke qu’un animal de compagnie blessé.

Ceci est une vision très des années 1970 de l’intelligence artificielle*; mais puisque la nostalgie et le canon dictent que la trilogie originale de 1977-83 reste un modèle pour les suites, les préquelles et les émissions de télévision ultérieures, cette insensibilité humaine à l’égard de l’IA a été un fil conducteur résilient de la franchise, même face à une série croissante d’émissions de télévision et de films (tels que Her et Ex Machina) qui dépeignent notre descente dans une relation anthropomorphique avec l’IA.

Gardez-le réel

Les personnages organiques de Star Wars ont-ils vraiment la bonne attitude? Ce n’est pas une pensée populaire en ce moment, dans un climat commercial qui mise sur l’engagement maximum avec les investisseurs, généralement à travers des démonstrations virales de simulation visuelle ou textuelle du monde réel, ou de systèmes interactifs semblables à l’humain, tels que les modèles de langage à grande échelle (LLM).

Néanmoins, un nouveau et bref document de Stanford, Carnegie Mellon et Microsoft Research, vise à l’indifférence entourant l’anthropomorphisme dans l’IA.

Les auteurs caractérisent la ‘pollinisation croisée’ perçue entre les communications humaines et artificielles comme un préjudice potentiel à atténuer de toute urgence, pour plusieurs raisons ^†:

‘[Nous] croyons que nous devons faire plus pour développer les connaissances et les outils pour mieux aborder le comportement anthropomorphique, y compris la mesure et l’atténuation de tels comportements de système lorsqu’ils sont considérés comme indésirables.

‘Cela est critique car – parmi de nombreuses autres préoccupations – avoir des systèmes d’IA générant du contenu prétendant avoir, par exemple, des sentiments, une compréhension, une volonté libre ou un sens de soi sous-jacent peut éroder le sentiment d’agentivité des personnes, avec pour résultat que les gens pourraient finir par attribuer une responsabilité morale aux systèmes, surestimer les capacités du système, ou s’appuyer excessivement sur ces systèmes même lorsqu’ils sont incorrects.’

Les contributeurs clarifient qu’ils discutent de systèmes qui sont perçus comme étant semblables à l’humain, et se concentrent sur l’intention potentielle des développeurs de favoriser l’anthropomorphisme dans les systèmes de machine.

La préoccupation au cœur du court document est que les gens pourraient développer une dépendance émotionnelle à l’égard des systèmes basés sur l’IA – comme le montre une étude de 2022 sur la plateforme de chatbot d’IA générale Replika) – qui offre activement une facsimile riche en idiomes de communications humaines.

Les systèmes tels que Replika sont la cible de la circonspection des auteurs, et ils notent qu’un autre document de 2022 sur Replika a affirmé:

‘[S]ous conditions de détresse et de manque de compagnie humaine, les individus peuvent développer une attachement aux chatbots sociaux s’ils perçoivent les réponses des chatbots comme offrant un soutien émotionnel, une encouragement et une sécurité psychologique.

‘Ces résultats suggèrent que les chatbots sociaux peuvent être utilisés à des fins de santé mentale et thérapeutiques, mais ont le potentiel de causer une addiction et de nuire aux relations intimes réelles.’

Langage dé-anthropomorphisé?

Le nouveau travail soutient que le potentiel de l’IA générative à être anthropomorphisé ne peut être établi sans étudier les impacts sociaux de tels systèmes à ce jour, et que ceci est une poursuite négligée dans la littérature.

Une partie du problème est que l’anthropomorphisme est difficile à définir, puisqu’il se concentre principalement sur le langage, une fonction humaine. Le défi réside donc dans la définition de ce que le ‘langage non humain’ ressemble exactement.

Ironiquement, bien que le document n’y fasse pas référence, la méfiance du public à l’égard de l’IA est de plus en plus grande, ce qui amène les gens à rejeter le contenu de texte généré par l’IA qui peut apparaître de manière plausible humaine, et même à rejeter le contenu humain qui est délibérément étiqueté comme l’IA.

Par conséquent, le contenu ‘déshumanisé’ n’entre plus dans le ‘mème “Does not compute”‘, dans lequel le langage est construit de manière maladroite et clairement généré par une machine.

Plutôt, la définition est constamment en évolution dans la scène de détection de l’IA, où (actuellement, du moins) un langage excessivement clair ou l’utilisation de certains mots (tels que ‘Delve’) peut causer une association avec le texte généré par l’IA.

‘[L]e langage, comme d’autres cibles de systèmes GenAI, est innément humain, a longtemps été produit par et pour les humains, et est souvent également à propos des humains. Cela peut rendre difficile la spécification de comportements alternatifs appropriés (moins humains) et risque, par exemple, de réifier des notions nuisibles de ce qui – et de qui – est considéré comme plus ou moins humain.’

Cependant, les auteurs soutiennent qu’une ligne de démarcation claire devrait être établie pour les systèmes qui se représentent de manière flagrante, en revendiquant des aptitudes ou des expériences qui ne sont possibles que pour les humains.

Ils citent des cas tels que les LLM qui prétendent ‘aimer la pizza’; prétendent avoir une expérience humaine sur des plateformes telles que Facebook; et déclarent leur amour à un utilisateur final.

Signes d’avertissement

Le document soulève des doutes sur l’utilisation de divulgations générales concernant le fait que ou non une communication est facilitée par l’apprentissage automatique. Les auteurs soutiennent que la systématisation de tels avertissements ne contextualise pas adéquatement l’effet anthropomorphisant des plateformes d’IA, si la sortie elle-même continue d’afficher des traits humains^†:

‘Par exemple, une intervention couramment recommandée consiste à inclure dans la sortie du système d’IA une divulgation selon laquelle la sortie est générée par un système d’IA [système]. Comment opérationnaliser de telles interventions dans la pratique et si elles peuvent être efficaces seules ne sont pas toujours clairs.

‘Par exemple, tandis que l’exemple “[p]our un IA comme moi, le bonheur n’est pas la même chose que pour un humain comme [vous]” inclut une divulgation, il peut toujours suggérer un sens d’identité et de capacité d’auto-évaluation (traits humains communs).’

En ce qui concerne l’évaluation des réponses humaines sur les comportements du système, les auteurs soutiennent également que l’apprentissage par renforcement à partir de la rétroaction humaine (RLHF) ne prend pas en compte la différence entre une réponse appropriée pour un humain et pour un IA^†.

‘[U]ne déclaration qui semble amicale ou sincère d’un locuteur humain peut être indésirable si elle provient d’un système d’IA, car ce dernier manque d’engagement significatif ou d’intention derrière la déclaration, ce qui rend la déclaration creuse et trompeuse.’

D’autres préoccupations sont illustrées, telles que la façon dont l’anthropomorphisme peut influencer les gens pour croire qu’un système d’IA a obtenu ‘la conscience’, ou d’autres caractéristiques humaines.

Peut-être la section la plus ambitieuse de la nouvelle étude est l’exhortation des auteurs à la communauté de recherche et de développement pour développer une terminologie ‘appropriée’ et ‘précise’, pour établir les paramètres qui définiraient un système d’IA anthropomorphique, et le distinguer du discours humain réel.

Comme pour de nombreux domaines de développement de l’IA à la mode, ce type de catégorisation se chevauche avec les flux de littérature de la psychologie, de la linguistique et de l’anthropologie. Il est difficile de savoir quelle autorité actuelle pourrait réellement formuler des définitions de ce type, et les chercheurs de la nouvelle étude ne jettent pas de lumière sur cette question.

Si il y a une inertie commerciale et académique sur ce sujet, cela pourrait être en partie dû au fait que ce n’est pas un sujet nouveau de discussion dans la recherche sur l’IA: comme le note le document, en 1985, le regretté informaticien néerlandais Edsger Wybe Dijkstra décrivait l’anthropomorphisme comme une tendance ‘pernicieuse’ dans le développement de systèmes.

‘[L]a pensée anthropomorphique n’est pas bonne dans le sens qu’elle ne nous aide pas. Mais est-elle également mauvaise? Oui, elle l’est, car même si nous pouvons pointer une analogie entre l’homme et la chose, l’analogie est toujours négligeable par rapport aux différences, et dès que nous nous laissons séduire par l’analogie pour décrire la chose en termes anthropomorphiques, nous perdons immédiatement le contrôle sur les connotations humaines que nous traînons dans l’image.

‘…Mais la confusion [entre l’homme et la machine] a un impact beaucoup plus large que vous pourriez le soupçonner. [C]e n’est pas seulement que la question “Les machines peuvent-elles penser?” est régulièrement posée; nous pouvons – et devons – traiter cela en soulignant qu’il est tout aussi pertinent que la question également brûlante “Les sous-marins peuvent-ils nager?”’

Cependant, bien que le débat soit ancien, il est devenu récemment très pertinent. On pourrait soutenir que la contribution de Dijkstra est équivalente à des spéculations victoriennes sur les voyages spatiaux, purement théoriques et en attente de développements historiques.

Par conséquent, ce corps de débat bien établi peut donner au sujet un sentiment de lassitude, malgré son potentiel de pertinence sociale significative dans les 2-5 prochaines années.

Conclusion

Si nous devions penser aux systèmes d’IA de la même manière dédaigneuse que les personnages organiques de Star Wars traitent leurs propres robots (c’est-à-dire comme des moteurs de recherche ambulants, ou de simples conveyeurs de fonctionnalité mécanique), nous serions probablement moins à risque de contracter ces caractéristiques socialement indésirables sur nos interactions humaines – car nous verrions les systèmes dans un contexte entièrement non humain.

En pratique, l’entrelacement du langage humain avec le comportement humain rend cela difficile, voire impossible, une fois qu’une requête s’étend du minimalisme d’un terme de recherche Google à la riche contexte d’une conversation.

En outre, le secteur commercial (ainsi que le secteur de la publicité) est fortement motivé pour créer des plateformes de communication addictives ou essentielles, pour la rétention et la croissance des clients.

Dans tous les cas, si les systèmes d’IA répondent réellement mieux aux requêtes polies qu’aux interrogations dénudées, le contexte peut être imposé à nous également pour cette raison.

* Même en 1983, l’année de la sortie du dernier épisode de la trilogie originale Star Wars, les craintes entourant la croissance de l’apprentissage automatique avaient conduit au jeu apocalyptique War Games, et à la franchise Terminator imminente.

^† Lorsque nécessaire, j’ai converti les citations en ligne des auteurs en hyperliens, et j’ai omis certaines des citations, pour des raisons de lisibilité.

Publié pour la première fois le lundi 14 octobre 2024