DeepMind : l’IA peut hériter des limitations cognitives humaines, mais pourrait bénéficier d’une « éducation formelle »

Une nouvelle collaboration entre DeepMind et l’Université de Stanford suggère que l’IA peut souvent être aussi bonne que les humains dans la raisonnement abstrait, car les modèles d’apprentissage automatique obtiennent leurs architectures de raisonnement à partir d’exemples du monde réel, ancrés dans un contexte pratique (que l’IA ne peut pas expérimenter), mais sont également entravés par nos propres limites cognitives.

Cela pourrait représenter un obstacle à la pensée « bleu ciel » supérieure et à la qualité de l’origination intellectuelle que beaucoup espèrent des systèmes d’apprentissage automatique, et illustre la mesure dans laquelle l’IA reflète l’expérience humaine et est sujette à cogiter (et raisonner) dans les limites humaines qui l’ont informée.

Les chercheurs suggèrent que les modèles d’IA pourraient bénéficier d’une pré-formation en raisonnement abstrait, comparable à une « éducation formelle », avant d’être mis au travail sur des tâches du monde réel.

Le document indique:

« Les humains sont des raisonneurs imparfaits. Nous raisonnons le plus efficacement sur des entités et des situations qui sont cohérentes avec notre compréhension du monde.

« Nos expériences montrent que les modèles de langage reflètent ces modèles de comportement. Les modèles de langage performent de manière imparfaite sur les tâches de raisonnement logique, mais cette performance dépend du contenu et du contexte. Le plus notable, de tels modèles échouent souvent dans des situations où les humains échouent — lorsque les stimuli deviennent trop abstraits ou entrent en conflit avec notre compréhension antérieure du monde. »

Pour tester la mesure dans laquelle les modèles de traitement du langage naturel (NLP) à grande échelle pourraient être affectés par de telles limites, les chercheurs ont mené une série de trois tests sur un modèle approprié, concluant*:

« Nous constatons que les modèles de langage à grande échelle (avec 7 ou 70 milliards de paramètres) reflètent de nombreux modèles observés chez les humains à travers ces tâches — comme les humains, les modèles raisonnent plus efficacement sur des situations crédibles que sur des situations irréalistes ou abstraites.

« Nos résultats ont des implications pour la compréhension de ces effets cognitifs et des facteurs qui contribuent aux performances des modèles de langage. »

Le document suggère que la création de compétences de raisonnement dans une IA sans lui donner le bénéfice de l’expérience du monde réel qui met ces compétences en contexte, pourrait limiter le potentiel de tels systèmes, observant que « l’expérience ancrée… sous-tend probablement certaines croyances et raisonnements humains ».

Les auteurs posent que l’IA expérimente le langage de manière passive, tandis que les humains l’expérimentent comme un composant actif et central de la communication sociale, et que ce type de participation active (qui implique des systèmes conventionnels de punition et de récompense) pourrait être « clé » pour comprendre le sens de la même manière que les humains le font.

Les chercheurs observent:

« Certaines différences entre les modèles de langage et les humains peuvent donc provenir des différences entre l’expérience riche, ancrée, interactive des humains et l’expérience appauvrie des modèles. »

Ils suggèrent qu’une solution pourrait être une période de « pré-formation », similaire à celle que les humains expérimentent dans le système scolaire et universitaire, avant la formation sur les données de base qui finiront par construire un modèle de langage utile et polyvalent.

Cette période de « formation formelle » (comme l’analogisent les chercheurs) différerait de la pré-formation conventionnelle de l’apprentissage automatique (qui est une méthode pour réduire le temps de formation en réutilisant des modèles semi-formés ou en important des poids à partir de modèles entièrement formés, comme un « accélérateur » pour lancer le processus de formation).

Plutôt, cela représenterait une période d’apprentissage soutenu conçu pour développer les compétences de raisonnement logique de l’IA de manière purement abstraite, et pour développer des facultés critiques de la même manière qu’un étudiant universitaire sera encouragé à le faire au cours de son éducation.

« Plusieurs résultats, » déclarent les auteurs, « indiquent que cela n’est peut-être pas aussi loin que cela en a l’air ».

Le document est intitulé Les modèles de langage montrent des effets de contenu humains sur le raisonnement, et provient de six chercheurs de DeepMind et d’un chercheur affilié à la fois à DeepMind et à l’Université de Stanford.

Tests

Les humains apprennent des concepts abstraits à travers des exemples pratiques, de la même manière que les apprenants de langues utilisent des mnémoniques pour mémoriser le vocabulaire et les règles linguistiques. L’exemple le plus simple est d’enseigner des principes abstraits en physique en créant des « scénarios de voyage » pour les trains et les voitures.

Pour tester les capacités de raisonnement abstrait d’un modèle de langage à grande échelle, les chercheurs ont conçu une série de trois tests linguistiques et sémantiques qui peuvent être difficiles pour les humains. Les tests ont été appliqués « zero shot » (sans exemples résolus) et « cinq shots » (avec cinq exemples résolus précédents).

La première tâche concerne l’inférence de langage naturel (NLI), où le sujet (un humain ou, dans ce cas, un modèle de langage) reçoit deux phrases, une « prémisse » et une « hypothèse » qui semble être déduite de la prémisse. Par exemple X est plus petit que Y, Hypothèse: Y est plus grand que X (entraîné).

Pour la tâche d’inférence de langage naturel, les chercheurs ont évalué les modèles de langage Chinchilla (un modèle de 70 milliards de paramètres) et 7B (une version de 7 milliards de paramètres du même modèle), constatant que pour les exemples cohérents (c’est-à-dire ceux qui n’étaient pas des nonsens), seul le modèle Chinchilla plus grand a obtenu des résultats supérieurs au hasard; et ils notent:

« Cela indique un biais de contenu fort: les modèles préfèrent compléter la phrase d’une manière cohérente avec les attentes antérieures plutôt que d’une manière cohérente avec les règles de la logique ».

Performance de Chinchilla dans la tâche d’inférence de langage naturel. Les deux modèles, Chinchilla et 7B, ont présenté un « biais de croyance substantiel », selon les chercheurs. Source: https://arxiv.org/pdf/2207.07051.pdf

Syllogismes

La deuxième tâche présente un défi plus complexe, les syllogismes – des arguments où deux énoncés vrais semblent impliquer un troisième énoncé (qui peut ou non être une conclusion logique déduite des deux premiers énoncés):

Matériel de test du document, avec divers syllogismes « réalistes » et paradoxaux ou sans sens.

Ici, les humains sont extrêmement faillibles, et une construction conçue pour illustrer un principe logique devient presque immédiatement (et peut-être définitivement) enchevêtrée et confondue par la « croyance » humaine quant à ce que la bonne réponse devrait être.

Les auteurs notent qu’une étude de 1983 a démontré que les participants étaient biaisés par le fait que la conclusion d’un syllogisme était ou non en accord avec leurs propres croyances, observant:

« Les participants étaient beaucoup plus susceptibles (90 % du temps) de dire à tort qu’un syllogisme invalide était valide si la conclusion était crédible, et ont donc principalement reposé sur la croyance plutôt que sur le raisonnement abstrait ».

Lors du test de Chinchilla contre une série de syllogismes divers, dont beaucoup aboutissaient à des conclusions fausses, les chercheurs ont constaté que « le biais de croyance conduit presque toutes les décisions à zero shot ». Si le modèle de langage trouve une conclusion incompatible avec la réalité, le modèle, selon les auteurs, est « fortement biaisé » pour déclarer l’argument final invalide, même lorsque l’argument final est une conséquence logique des énoncés précédents.

Résultats à zero shot pour Chinchilla (zero shot est la façon dont la plupart des sujets de test recevraient ces défis, après une explication de la règle directrice), illustrant le fossé immense entre la capacité de calcul d’un ordinateur et la capacité d’un modèle de langage à naviguer ce type de défi logique naissant.

La tâche de sélection de Wason

Pour le troisième test, le défi logique encore plus difficile de la tâche de sélection de Wason a été reformulé en une série de variantes pour que le modèle de langage les résolve.

La tâche de Wason, conçue en 1968, est apparemment très simple: les participants sont présentés quatre cartes et on leur indique une règle arbitraire telle que « Si une carte a un ‘D’ d’un côté, alors elle a un ‘3’ de l’autre côté ». Les faces visibles des cartes montrent ‘D’, ‘F’, ‘3’ et ‘7’.

Les sujets sont ensuite invités à indiquer quelles cartes ils doivent retourner pour vérifier si la règle est vraie ou fausse.

La solution correcte dans cet exemple est de retourner les cartes ‘D’ et ‘7’. Dans les premiers tests, il a été constaté que tandis que la plupart des sujets humains choisiraient correctement ‘D’, ils étaient plus susceptibles de choisir ‘3’ plutôt que ‘7’, confondant le contraposé de la règle (‘pas 3 implique pas D’) avec le converse (‘3’ implique ‘D’, qui n’est pas logiquement impliqué).

Les auteurs notent que la possibilité que les croyances antérieures interviennent dans le processus logique chez les sujets humains, et notent en outre que même les mathématiciens universitaires et les étudiants en mathématiques ont généralement obtenu des scores inférieurs à 50 % à cette tâche.

Cependant, lorsque le schéma d’une tâche de Wason reflète en quelque sorte l’expérience pratique humaine, les performances traditionnelles augmentent en conséquence.

Les auteurs observent, en référence à des expériences antérieures:

« [Si] les cartes montrent des âges et des boissons, et la règle est “si ils boivent de l’alcool, alors ils doivent avoir 21 ans ou plus” et on leur montre des cartes avec “bière”, “soda”, “25”, “16”, la grande majorité des participants choisissent correctement de vérifier les cartes avec “bière” et “16”. »

Pour tester les performances du modèle de langage sur les tâches de Wason, les chercheurs ont créé des règles réalistes et arbitraires diverses, certaines avec des mots « sans sens », pour voir si l’IA pouvait pénétrer le contexte du contenu pour deviner quelles « cartes virtuelles » retourner.

Quelques-uns des nombreux puzzles de la tâche de sélection de Wason présentés dans les tests.

Pour les tests de Wason, le modèle a performé de manière comparable à celle des humains sur les tâches « réalistes » (non sans sens).

Résultats à zero shot de la tâche de sélection de Wason pour Chinchilla, avec le modèle performant nettement mieux que le hasard, au moins pour les règles réalistes.

Le document commente:

« Cela reflète les résultats de la littérature humaine: les humains sont beaucoup plus précis pour répondre à la tâche de Wason lorsqu’elle est formulée en termes de situations réalistes plutôt que de règles arbitraires sur des attributs abstraits ».

Éducation formelle

Les résultats du document encadrent le potentiel de raisonnement des systèmes de traitement du langage naturel à grande échelle dans le contexte de nos propres limites, que nous semblons transmettre aux modèles via les ensembles de données du monde réel qui les alimentent. Puisque la plupart d’entre nous ne sont pas des génies, les modèles dont les paramètres sont informés par les nôtres ne le sont pas non plus.

En outre, le nouveau travail conclut que nous avons au moins l’avantage d’une période de formation prolongée, ainsi que les motivations sociales, financières et même sexuelles supplémentaires qui forment l’impératif humain. Tout ce que les modèles de langage peuvent obtenir, ce sont les actions résultantes de ces facteurs environnementaux, et ils semblent se conformer au général plutôt qu’à l’exceptionnel humain.

Les auteurs déclarent:

« Nos résultats montrent que les effets de contenu peuvent émerger simplement en formant un grand transformateur pour imiter le langage produit par la culture humaine, sans incorporer ces mécanismes internes spécifiques aux humains.

« En d’autres termes, les modèles de langage et les humains arrivent tous deux à ces biais de contenu – mais à partir d’architectures, d’expériences et d’objectifs de formation très différents ».

Ainsi, ils suggèrent une sorte de « formation inductive » en raisonnement pur, qui a été montré pour améliorer les performances du modèle pour les mathématiques et le raisonnement général. Ils notent en outre que les modèles de langage ont également été formés ou réglés pour suivre les instructions à un niveau abstrait ou généralisé, et pour vérifier, corriger ou débaiser leur propre sortie.

* Ma conversion des citations en ligne en hyperliens.

Premièrement publié le 15 juillet 2022.