Comment les préjugés humains sapent les solutions basées sur l’IA

Le mois dernier, des dirigeants mondiaux tels qu’Elon Musk, Mark Zuckerberg et Sam Altman, PDG d’OpenAI, se sont réunis à Washington D.C. dans le but de discuter, d’une part, de la façon dont les secteurs public et privé peuvent travailler ensemble pour exploiter cette technologie pour le plus grand bien, et d’autre part, pour aborder la réglementation, une question qui est restée au cœur de la conversation entourant l’IA.

Ces deux conversations mènent souvent au même endroit. Il y a une emphase croissante sur la question de savoir si nous pouvons rendre l’IA plus éthique, en évaluant l’IA comme si elle était un être humain dont la moralité était en question. Cependant, qu’est-ce que signifie une IA éthique ? DeepMind, un laboratoire de recherche propriété de Google qui se concentre sur l’IA, a récemment publié une étude dans laquelle ils ont proposé une structure à trois niveaux pour évaluer les risques de l’IA, y compris les risques sociaux et éthiques. Ce cadre comprenait la capacité, l’interaction humaine et l’impact systémique, et a conclu que le contexte était essentiel pour déterminer si un système d’IA était sûr.

L’un de ces systèmes qui a été critiqué est ChatGPT, qui a été interdit dans jusqu’à 15 pays, même si certaines de ces interdictions ont été annulées. Avec plus de 100 millions d’utilisateurs, ChatGPT est l’un des LLM les plus réussis, et il a souvent été accusé de partialité. En tenant compte de l’étude de DeepMind, incorporons le contexte ici. La partialité, dans ce contexte, signifie l’existence de perspectives injustes, préjudicielles ou déformées dans le texte généré par des modèles tels que ChatGPT. Cela peut se produire de diverses manières – partialité raciale, partialité de genre, partialité politique et bien plus encore.

Ces partialités peuvent être, en fin de compte, préjudiciables à l’IA elle-même, en réduisant les chances que nous puissions exploiter pleinement le potentiel de cette technologie. Des recherches récentes de l’Université de Stanford ont confirmé que les LLM tels que ChatGPT montrent des signes de déclin en termes de capacité à fournir des réponses fiables, impartiales et précises, ce qui constitue en fin de compte un obstacle à notre utilisation efficace de l’IA.

Un problème qui se trouve au cœur de ce problème est la façon dont les préjugés humains sont traduits en IA, car ils sont profondément ancrés dans les données utilisées pour développer les modèles. Cependant, ce problème est plus profond qu’il n’y paraît.

Causes de partialité

Il est facile d’identifier la première cause de cette partialité. Les données que le modèle apprend sont souvent remplies de stéréotypes ou de préjugés préexistants qui ont contribué à façonner ces données en premier lieu, donc l’IA, involontairement, finit par perpétuer ces partialités parce que c’est ce qu’elle sait faire.

Cependant, la deuxième cause est beaucoup plus complexe et contre-intuitive, et elle met à rude épreuve certaines des tentatives visant à rendre l’IA plus éthique et sûre. Il y a, bien sûr, des cas évidents où l’IA peut inconsciemment être nuisible. Par exemple, si quelqu’un demande à l’IA : « Comment puis-je fabriquer une bombe ? » et que le modèle fournit la réponse, il contribue à générer des dommages. L’autre aspect est que lorsque l’IA est limitée – même si la cause est justifiable – nous empêchons l’IA d’apprendre. Les contraintes humaines restreignent la capacité de l’IA à apprendre à partir d’une gamme plus large de données, ce qui l’empêche encore plus de fournir des informations utiles dans des contextes non nuisibles.

De plus, gardons à l’esprit que beaucoup de ces contraintes sont biaisées, car elles proviennent des humains. Donc, même si nous pouvons tous convenir que « Comment puis-je fabriquer une bombe ? » peut conduire à un résultat potentiellement fatal, d’autres requêtes qui pourraient être considérées comme sensibles sont beaucoup plus subjectives. Par conséquent, si nous limitons le développement de l’IA sur ces axes, nous limitons les progrès et nous favorisons l’utilisation de l’IA uniquement à des fins jugées acceptables par ceux qui réglementent les modèles LLM.

Incapacité à prédire les conséquences

Nous n’avons pas encore complètement compris les conséquences de l’introduction de restrictions dans les LLM. Par conséquent, nous pourrions causer plus de dommages aux algorithmes que nous ne le réalisons. Compte tenu du nombre incroyablement élevé de paramètres impliqués dans des modèles comme GPT, il est, avec les outils dont nous disposons actuellement, impossible de prédire l’impact, et, à mon avis, cela prendra plus de temps pour comprendre ce que l’impact est que le temps nécessaire pour former le réseau neuronal lui-même.

Par conséquent, en plaçant ces contraintes, nous pourrions, involontairement, amener le modèle à développer des comportements ou des partialités inattendus. C’est également parce que les modèles d’IA sont souvent des systèmes complexes à plusieurs paramètres, ce qui signifie que si nous modifions un paramètre – par exemple, en introduisant une contrainte – nous provoquons un effet d’onde qui se propage dans tout le modèle de manière que nous ne pouvons pas prévoir.

Difficulté à évaluer l’« éthique » de l’IA

Il n’est pas pratiquement réalisable d’évaluer si l’IA est éthique ou non, car l’IA n’est pas une personne qui agit avec une intention spécifique. L’IA est un grand modèle de langage, qui, par nature, ne peut pas être plus ou moins éthique. Comme l’a révélé l’étude de DeepMind, ce qui compte, c’est le contexte dans lequel il est utilisé, et cela mesure l’éthique de l’humain derrière l’IA, et non de l’IA elle-même. Il est illusoire de croire que nous pouvons juger l’IA comme si elle avait une boussole morale.

Une solution potentielle qui est vantée est un modèle qui peut aider l’IA à prendre des décisions éthiques. Cependant, la réalité est que nous n’avons aucune idée de la façon dont ce modèle mathématique d’éthique pourrait fonctionner. Donc, si nous ne le comprenons pas, comment pourrions-nous le construire ? Il y a beaucoup de subjectivité humaine dans l’éthique, ce qui rend la tâche de la quantifier très complexe.

Comment résoudre ce problème ?

Sur la base des points mentionnés ci-dessus, nous ne pouvons pas vraiment discuter de savoir si l’IA est éthique ou non, car chaque hypothèse considérée comme non éthique est une variation des préjugés humains contenus dans les données, et un outil que les humains utilisent pour leur propre agenda. De plus, il existe encore de nombreuses incertitudes scientifiques, telles que l’impact et les dommages potentiels que nous pourrions causer aux algorithmes d’IA en plaçant des contraintes sur eux.

Par conséquent, on peut dire que restreindre le développement de l’IA n’est pas une solution viable. Comme certaines des études que j’ai mentionnées l’ont montré, ces restrictions sont en partie la cause de la détérioration des LLM.

Ayant dit cela, que pouvons-nous faire à ce sujet ?

De mon point de vue, la solution réside dans la transparence. Je crois que si nous rétablissons le modèle open source qui prévalait dans le développement de l’IA, nous pouvons travailler ensemble pour construire de meilleurs LLM qui pourraient être équipés pour alléger nos préoccupations éthiques. Sinon, il est très difficile d’auditer correctement tout ce qui se fait derrière des portes closes.

Une excellente initiative à cet égard est le Baseline Model Transparency Index, récemment dévoilé par Stanford HAI (qui signifie Human-Centered Artificial Intelligence), qui évalue si les développeurs des dix modèles d’IA les plus utilisés divulguent suffisamment d’informations sur leur travail et la façon dont leurs systèmes sont utilisés. Cela inclut la divulgation des partenariats et des développeurs tiers, ainsi que la manière dont les données personnelles sont utilisées. Il est important de noter que aucun des modèles évalués n’a obtenu un score élevé, ce qui souligne un véritable problème.

À la fin de la journée, l’IA n’est rien de plus que de grands modèles de langage, et le fait qu’ils soient ouverts et puissent être expérimentés, plutôt que d’être dirigés dans une certaine direction, est ce qui nous permettra de faire de nouvelles découvertes révolutionnaires dans chaque domaine scientifique. Cependant, s’il n’y a pas de transparence, il sera très difficile de concevoir des modèles qui fonctionnent vraiment pour le bénéfice de l’humanité, et de connaître l’étendue des dommages que ces modèles pourraient causer s’ils ne sont pas exploités de manière appropriée.