Aligné sur la tâche vs. Aligné sur l’humain: Pourquoi le prochain critère de référence de l’IA devrait être nous

Tous les quelques mois, un nouveau modèle apparaît et bouleverse les classements d’IA. Selon le Rapport AI Index 2026 de Stanford, les modèles de pointe ont gagné environ 30 points de pourcentage en une seule année au Humanity’s Last Exam, un benchmark conçu spécifiquement pour être difficile pour l’IA. Des avancées qui prenaient autrefois des années se produisent maintenant en quelques mois, et l’industrie considère chaque nouveau record comme la preuve que l’IA s’améliore.

Je ne conteste pas les progrès. Ces systèmes accomplissent remarquablement bien ce pour quoi ils ont été conçus. Mais j’ai travaillé près de vingt ans en psychologie avant de passer à l’IA, et je reviens sans cesse à une question à laquelle aucun de ces tests ne répond : dans quel domaine exactement les modèles s’améliorent-ils, et pour qui ? Un modèle peut dominer tous les classements fondés sur la précision tout en laissant, sur certains plans, la personne qui l’utilise dans une situation moins favorable. Aucun test ne mesure l’effet de l’IA sur les utilisateurs, et cette lacune mérite davantage d’attention.

Deux types différents d’alignement

Le secteur de l’IA parle constamment d’alignement, mais le débat porte généralement sur la capacité du modèle à suivre correctement les instructions ou sur la production de contenus nuisibles. Il s’agit d’une IA alignée sur la tâche, optimisée pour exécuter correctement et efficacement la demande qui lui est présentée.

Cependant, il existe une autre façon d’aborder l’alignement et de protéger les personnes. L’IA alignée sur l’humain évalue ce qu’une interaction fait à la personne de l’autre côté de l’écran une fois terminée. S’est‑elle éloignée plus capable de prendre la prochaine décision difficile par elle-même, ou davantage dépendante du système pour le faire à sa place ? Alors que l’alignement sur la tâche mesure la sortie, l’alignement humain mesure l’effet post‑interaction.

Ces deux objectifs ne sont pas toujours contradictoires. Un modèle qui fournit une réponse rapide et exacte à une question technique répond aux deux. Toutefois, lorsqu’une question n’a pas une seule bonne réponse, les différences d’alignement deviennent manifestes.

Ce que les classements ne montrent pas

Les tests les plus cités du secteur évaluent notamment les mathématiques de compétition et les tâches de programmation à l’échelle d’un dépôt. Ce sont des compétences utiles, mais chaque question possède une réponse correcte et les modèles sont conçus pour la trouver.

Cette approche convient aux problèmes objectifs, mais les gens utilisent l’IA pour bien davantage que les mathématiques, le code ou la recherche élémentaire. Ils s’interrogent sur leur parcours professionnel et tentent de gérer des conversations difficiles avec leur partenaire. Aucun test ne peut déterminer si le modèle a bien traité ces questions, car il n’existe pas de vérité objective à laquelle comparer la réponse. Les informations pertinentes se trouvent dans la personne qui interroge le système et, quelle que soit la précision de l’invite, le modèle n’y a pas accès.

Responsible AI comble en partie l’espace laissé par ces tests, mais ces travaux visent encore à réduire les dommages plutôt qu’à améliorer la réflexion humaine. Les mesures de sécurité actuelles cherchent à empêcher le modèle d’aider à accomplir quelque chose de dangereux. Elles ne demandent pas si les milliers de conversations ordinaires qui franchissent tous les contrôles apprennent également aux personnes à faire moins confiance à leur propre jugement.

Comment les modèles créent une dépendance

Tous les modèles que j’ai testés tendent à être exhaustifs, rapides et assurés. C’est ce que leur entraînement récompense, et c’est le bon réflexe face à une version logicielle défaillante ou à une échéance de déclaration juridique. Mais lorsque la décision dépend des valeurs et de l’histoire d’une personne, ce même réflexe peut commencer à se retourner contre elle.

La recherche montre déjà qu’il ne s’agit pas d’une simple hypothèse. OpenAI et le MIT Media Lab ont mené deux études sur l’usage affectif de ChatGPT et ont constaté que les personnes qui considéraient l’IA comme une amie et l’utilisaient pendant de longues périodes signalaient plus souvent des effets négatifs, notamment une solitude accrue et une dépendance émotionnelle, une tendance également étudiée par MIT Technology Review. Par ailleurs, une étude publiée en 2025 dans la revue Societies a relevé une corrélation négative significative entre l’usage fréquent d’outils d’IA et les résultats en pensée critique. Cette relation passait par ce que les chercheurs appellent la délégation cognitive : la tendance à confier une tâche mentale à un outil plutôt qu’à la résoudre soi-même.

Cela ne signifie pas que les gens doivent moins utiliser l’IA. Nous devons plutôt comprendre que lorsqu’un système résout tous les types de questions de la même manière, quelque chose se perd sur le versant subjectif, et presque personne ne mesure actuellement cette perte.

Donner aux réponses directes ce qu’elles méritent

Je veux préciser les situations où l’IA alignée sur la tâche est appropriée, car cet article ne plaide pas pour un modèle hésitant sur tout. Pour une erreur de serveur ou une échéance fiscale, une réponse rapide, directe et fiable est utile ; répondre par une question ouverte ne le serait pas. Le problème apparaît lorsque nous appliquons à une réflexion sur le divorce le même réflexe qu’au débogage d’un programme.

Ce que nous devrions mesurer à la place

Restraint. La capacité de reconnaître le moment où résoudre la question à la place de l’utilisateur lui coûte davantage que cela ne l’aide, et de savoir alors se retenir.

Calibrated questioning. Poser des questions plutôt qu’affirmer, lorsqu’un problème est subjectif ou lié à l’identité et aux valeurs de la personne plutôt qu’à un fait stocké dans une base de données.

Comprendre le moment. Distinguer une demande qui nécessite une réponse directe et complète d’une demande qui doit laisser à la personne l’espace nécessaire pour avancer par elle-même.

Les recherches menées depuis plusieurs décennies par Albert Bandura sur self-efficacy ont montré que les individus développent leur confiance grâce à leurs propres expériences de maîtrise, et non en regardant quelqu’un — ou quelque chose — résoudre le problème à leur place. Ce principe précède l’IA d’un demi-siècle et devrait guider la conception et l’évaluation de cette technologie.

Ce que le progrès devrait signifier ensuite

Rien de tout cela ne justifie de ralentir les progrès techniques. Je me réjouis des avancées en programmation et en raisonnement. Mais un tableau de bord entièrement consacré à l’accomplissement des tâches nous dit que l’IA devient plus intelligente ; il ne nous dit pas si ses utilisateurs apprennent à mieux penser par eux-mêmes.

J’aimerais que cela change. À mesure que ces systèmes gagnent en capacités, leurs utilisateurs devraient eux aussi devenir plus capables. Nous avons prouvé que l’IA peut nous dépasser à un test. Le prochain test devrait déterminer si elle peut nous aider à mieux réfléchir longtemps après la fin de la conversation.