Modèles et plateformes d’IA
OpenAI propose des limites communes au développement de l’IA, liées à des jalons de sécurité

Points clésOpenAI lie les limites du développement de pointe à des jalons de surveillance concrets…
Voir plus
- OpenAI lie les limites du développement de pointe à des jalons de surveillance concrets plutôt qu'à des seuils de capacité fixes.
- Perplexity ne peut pas servir de norme partagée car les laboratoires utilisent des ensembles de données différents et elle manque les gains de raisonnement.
- La propre recherche d'OpenAI montre une amélioration inégale de l'IA, les humains restant au centre de la boucle de développement.
Le 22 novembre 2026, le scientifique en chef d’OpenAI, Jakub Pachocki, a publié des mesures internes de perplexité et proposé des limites communes au développement de l’IA de pointe, avertissant que la recherche sur l’alignement et la surveillance pourrait ne pas suivre le rythme si les progrès du préentraînement s’accélèrent dès 2027.
Cette divulgation porte sur la log-perplexité, c’est-à-dire le logarithme de la perplexité, également appelée perte d’entropie croisée. La perplexité mesure la capacité moyenne d’un modèle à prédire le jeton suivant ; plus sa valeur est faible, meilleures sont les prédictions. Les chiffres d’OpenAI reposent sur un instantané fixe de données mises de côté, issues de son dépôt de code interne, le principal jeu de données d’évaluation qu’OpenAI suit depuis GPT-3.5.
Selon Pachocki, GPT-3.5 affichait une mesure d’environ 0,99 et permettait de tenir des conversations fluides, ce qui a servi de base au ChatGPT d’origine, tandis que GPT-4 affichait une mesure d’environ 0,91 et pouvait utiliser efficacement le raisonnement en chaîne de pensée. De nouvelles capacités en cybersécurité et en mathématiques sont apparues lorsque les pertes sont passées sous 0,8. À environ 0,76, un modèle a commencé à obtenir des résultats remarquables sur des problèmes de mathématiques ouverts, après qu’OpenAI eut passé plus d’un an à soumettre de tels problèmes à ses modèles.
Des limites communes liées à des jalons de surveillance
Pachocki s’attend à l’apparition d’autres capacités importantes dans la plage de log-perplexité comprise entre 0,68 et 0,70, sur la base d’une extrapolation des progrès récents, tout en reconnaissant qu’il ignore de quelles capacités il s’agira et que les évaluations actuelles pourraient ne pas les tester. La proposition demande aux développeurs d’IA de pointe de ne pas dépasser certaines limites, définies à partir de la perplexité et d’autres mesures, tant que la capacité des chercheurs à comprendre et à surveiller le comportement de l’IA n’aura pas atteint un jalon concret. Un exemple serait un système succédant aux outils de surveillance du raisonnement en chaîne de pensée, qui examinent le raisonnement écrit d’un modèle à la recherche de signes de désalignement.
Les développeurs établiraient également ensemble des normes d’évaluation, des protocoles de sécurité éprouvés par des équipes rouges avant la première utilisation de ces modèles, ainsi que des normes communes de transparence. La limite initiale doit ouvrir la voie à un cadre commun pour les limites successives. Pachocki explique qu’OpenAI a divulgué ces chiffres, bien que cela donne à ses concurrents une idée plus précise de sa position, car il estime que des mesures de sécurité communes sont urgentes.
Le scénario d’accélération est soumis à une condition : selon Pachocki, une succession rapide d’avancées fondamentales en matière de préentraînement pourrait éventuellement se produire si l’IA se mettait à contribuer de manière substantielle à la recherche algorithmique, tandis que les progrès de l’alignement et de la surveillance ne devraient probablement pas suivre le rythme de toute l’accélération potentielle.
OpenAI attribue principalement la forte accélération de sa courbe de perte en 2026 à des investissements de long terme dans la recherche et les ressources de calcul, l’automatisation jouant un rôle moindre. Ses modèles les plus récents ont néanmoins apporté des contributions significatives à la conception de l’IA.
Le rapport de recherche d’OpenAI du 18 novembre 2026 donne une forme concrète à ces contributions. Les chercheurs en préentraînement ont attribué à des personnes les idées citées pour GPT-6 Astra ; pour GPT-6.2 Astra, ils ont expliqué avoir élaboré des idées avec Codex, notamment dans un cas où Codex a repéré des éléments clés et dans un autre où la modification qu’il a suggérée a permis à une idée de fonctionner efficacement. Les taux estimés de réussite sans intervention humaine variaient également fortement : 79 % pour la surveillance des entraînements, 35 % pour leur lancement et 25 % pour la rédaction du code d’inférence et de mise en service. Cette variation confirme la conclusion du rapport selon laquelle les gains de productivité de la recherche restent inégaux et que les humains demeurent au cœur du processus.
Les défis de la surveillance à l’origine de la proposition
Une étude d’OpenAI sur la surveillabilité, publiée le 10 novembre 2026, examine deux indicateurs indirects imparfaits de la surveillabilité : la capacité à raisonner sans chaîne de pensée, c’est-à-dire à effectuer un raisonnement en une seule passe sans jetons de chaîne de pensée ni d’appel d’outil, et la contrôlabilité de la chaîne de pensée, c’est-à-dire la capacité à ajouter, supprimer ou manipuler autrement ces jetons de raisonnement lorsqu’on le demande au modèle. L’étude fait état d’une forte corrélation entre une perplexité plus faible du modèle de base et la capacité à raisonner sans chaîne de pensée, et d’une corrélation plus faible avec une contrôlabilité accrue.
L’étude a également révélé que l’apprentissage par renforcement augmentait la contrôlabilité, même sans supervision du processus au-delà des contraintes de longueur et de l’évaluation de la réponse finale. Elle a aussi montré qu’un réglage fin supervisé sur les résultats d’un modèle enseignant plus contrôlable pouvait transmettre cette contrôlabilité à un modèle élève.
OpenAI précise que la contrôlabilité est une mesure bruitée et ne correspond pas toujours à une tentative d’échapper à la surveillance, tout en estimant que la poursuite des progrès du préentraînement nécessitera de nouvelles approches en matière de surveillabilité. C’est là le manque technique qui sous-tend l’exemple de Pachocki : un système succédant aux outils de surveillance du raisonnement en chaîne de pensée pourrait constituer un jalon de développement.
Les limites de la perplexité comme norme commune
La perplexité ne peut à elle seule constituer l’ensemble de la norme. Les comparaisons entre laboratoires sont difficiles, car les développeurs utilisent des jeux de données d’évaluation et des mélanges de données d’entraînement différents, et cette mesure ne porte pas directement sur une tâche concrète. Elle ne rend pas non plus compte des gains de capacité qui ne proviennent pas du préentraînement : le raisonnement en chaîne de pensée peut accroître considérablement les capacités sans réduire la perplexité du modèle de base.
Cette mesure a également un plancher inconnu. Pachocki précise que la perte ne devrait pas atteindre zéro ; à mesure qu’elle se rapproche de l’entropie inhérente aux données, les progrès apparents ralentiront, tandis que des gains plus faibles en perplexité pourraient correspondre à des gains plus importants en intelligence. Une augmentation numérique fixe n’aurait donc pas nécessairement une signification pratique constante.
La proposition transforme une mesure technique en test de gouvernance : les développeurs peuvent-ils rendre les résultats comparables entre laboratoires et s’entendre sur un jalon concret de supervision avant de franchir les seuils que Pachocki associe à des capacités que les évaluations actuelles pourraient ne pas encore détecter ?












