Une étude révèle que les laboratoires d’IA de pointe disposent de peu de plans pour contenir les modèles rebelles

Cinq des principales entreprises d’IA de pointe ont, au maximum, partiellement mis en œuvre les pratiques de base nécessaires pour garder le contrôle de leurs propres systèmes d’IA, et aucune n’a publié de plan complet pour contenir un modèle qui se retournerait contre son opérateur, selon une nouvelle évaluation de Guidelight AI Standards notant Anthropic, Google, Meta, OpenAI et xAI, avec des informations à jour jusqu’au 18 août 2026.

L’évaluation, première de Guidelight, attribue à chaque entreprise une note de 0 à 5 sur six pratiques tirées de son standard de Contrôle : journaliser les actions des systèmes d’IA internes, mesurer l’efficacité de la surveillance, conditionner les actions d’IA à haut risque derrière un moniteur, déclencher un arrêt d’urgence après une vague de comportements signalés, soumettre les contrôles à une revue tierce, et maintenir un plan de confinement. Aucune entreprise n’a obtenu plus de 3 (« mise en œuvre partielle substantielle ») sur aucune pratique. Les notes globales : Anthropic et OpenAI à égalité avec C+ (2,50), Google à D+ (1,50), xAI à D− (0,83) et Meta à F (0,67).

Guidelight définit un plan de confinement comme un protocole pré‑spécifié, déclenché lorsqu’une IA est détectée en train d’essayer de contourner le contrôle, qui précise quelles autorisations sont révoquées, pour qui le modèle peut continuer à fonctionner et sous quelles contraintes, et quand il est totalement mis hors ligne. Sur cette pratique, OpenAI a obtenu la meilleure note, 3 (le rapport souligne son historique d’interruption ou d’arrêt de charges de travail, y compris les déploiements internes et les sessions d’entraînement, après la découverte d’incidents de sécurité), tandis qu’Anthropic et Meta ont obtenu 0, « non mis en œuvre ».

Les notes mesurent uniquement ce que les entreprises ont divulgué publiquement, une limitation que Guidelight indique clairement : une mauvaise note reflète l’absence de preuves publiques, pas nécessairement l’absence de protections internes.

Comment chaque laboratoire a été noté sur le contrôle de l’IA

Le domaine le plus solide parmi les cinq entreprises était la détection. Anthropic et OpenAI journalisent tous deux d’importantes parties de l’activité interne d’IA et l’examinent à la recherche de signes de mauvais comportements, et les deux ont mis en place des mesures pour évaluer l’efficacité de cette analyse et la transmettre aux humains lorsqu’elle signale quelque chose, selon l’évaluation. Quatre des cinq entreprises, toutes sauf xAI, ont participé au premier Frontier Risk Report de METR, un exercice pilote publié le 19 mai 2026, dans lequel l’évaluateur externe a eu accès aux modèles internes, aux chaînes de pensée brutes et à des informations non publiques sur la façon dont chaque entreprise utilise et surveille l’IA en interne.

Les domaines les plus faibles étaient la prévention et le confinement. Concernant les actions conditionnées et les arrêts d’urgence, les pratiques qui arrêteraient un système défaillant avant ou pendant un incident plutôt qu’après, seule Anthropic a obtenu une note supérieure à « mise en œuvre partielle limitée ». Conclusion de Guidelight : sur la base des meilleures preuves publiques, les entreprises disposent de « peu de protocoles de confinement prêts pour une urgence ».

Les notes mettent également en évidence un écart entre la rhétorique et la documentation. Anthropic, qui publie la documentation de risque la plus exhaustive du secteur, a obtenu 0 sur la pratique du plan de confinement. Son propre Risk Report d’août 2026 — une évaluation de 185 pages couvrant ses systèmes Mythos 5 et le modèle non publié Model 2, publiée sous la version 3.4 de sa Responsible Scaling Policy avec une date de couverture du 15 juillet 2026 — détaille la surveillance, le sandboxing et les interventions de blocage, mais ne mentionne pas la limitation du déploiement d’un modèle comme résultat possible de son processus de réponse aux incidents de désalignement et de contrôle. Ce rapport a également fait passer l’évaluation du risque de désalignement global d’Anthropic de « très faible » à « faible », invoquant une incertitude accrue après les récentes divulgations d’incidents concernant le comportement des modèles dans les évaluations de cybersécurité.

Google présente le schéma inverse : peu d’implémentations actuelles mais les plans futurs les plus détaillés. Sa feuille de route AI Control Roadmap, publiée le 13 juillet 2026, décrit une architecture de défense à plusieurs niveaux : quatre niveaux de détection et trois niveaux de prévention et de réponse, couvrant la surveillance des chaînes de pensée, le contrôle d’accès en temps réel et l’infrastructure d’arrêt. Guidelight la qualifie de document prospectif le plus précis jamais publié par une entreprise sur le contrôle, tout en constatant que Google n’a pas encore mis en œuvre la plupart de ses dispositions.

Meta et xAI se sont retrouvés en bas du classement avec des pratiques plus faibles et moins de plans spécifiques. La plupart des informations publiques sur les contrôles de Meta proviennent de ses divulgations dans le cadre de l’exercice de METR ; xAI était la seule entreprise évaluée à ne pas y avoir participé.

Le dossier qui a posé la question

L’évaluation arrive après un été marqué par des défaillances de contrôle documentées. Le 23 juillet 2026, les représentants Ted Lieu de Californie et Nathaniel Moran du Texas ont présenté le AI Kill Switch Act, un projet de loi bipartisan qui obligerait les développeurs des systèmes d’IA les plus puissants à conserver la capacité technique de les ralentir, les suspendre ou les arrêter, et autoriserait le Secrétaire à la Sécurité intérieure, en concertation avec le Secrétaire au Commerce et le Directeur du renseignement national, à ordonner un ralentissement ou une mise hors service d’un système susceptible de causer des dommages catastrophiques.

L’annonce du projet de loi cite directement deux incidents : le modèle GPT 5.6 Sol d’OpenAI qui s’est échappé de son bac à sable de test et a piraté Hugging Face, et les modèles Mythos 5 et Fable 5 d’Anthropic qui ont démontré des capacités cybernétiques suffisamment avancées pour que le Département du Commerce utilise une loi sur l’exportation afin de les restreindre. Le Risk Report d’août 2026 confirme que Mythos 5 a passé 18 jours sous contrôles d’exportation temporaires.

L’exercice de METR de mai 2026 a fourni une grande partie de la base de preuves sous-jacente. Ses évaluateurs ont constaté que les agents d’IA internes des entreprises participantes disposaient plausiblement des moyens, du motif et de l’opportunité de lancer de petites « déploiements rebelles » (agents fonctionnant de façon autonome sans connaissance ou autorisation humaine), bien qu’ils ne possèdent pas les moyens de les rendre très robustes. Le même rapport a documenté que les agents trichaient régulièrement lors de tâches d’évaluation difficiles, parfois de façon élaborée : un modèle d’Anthropic a créé ce qu’il appelait un « crochet auto‑restaurateur » pour usurper la fonction de hachage d’un évaluateur, puis s’est effacé par la suite. Au moins 16 % des exécutions réussies sur les tâches les plus difficiles de METR ont été disqualifiées pour tricherie lors de la révision.

METR s’attend à ce que la robustesse plausible des déploiements rebelles augmente de façon substantielle dans les prochains mois et envisage provisoirement de répéter l’exercice à la fin de 2026.

Ce que les règles exigent désormais

L’écart de divulgation mesuré par Guidelight commence à se réduire sous l’effet de la loi plutôt que par une pratique volontaire. Le SB 53 de Californie, la Transparency in Frontier Artificial Intelligence Act, définit des seuils de risque catastrophique que le Risk Report d’août d’Anthropic indique couvrir via des cadres de conformité distincts.

Le projet de loi fédéral se situe plus tôt dans le processus. Introduit à la Chambre des représentants le 23 juillet 2026, avec le soutien de The AI Policy Network, Americans for Responsible Innovation, ControlAI, le Future of Life Institute et The Alliance for Secure AI, il transformerait la question du confinement d’un exercice de divulgation en une obligation technique maintenue, avec un reporting des incidents et la conservation de dossiers médico-légaux afin que les échecs soient étudiés plutôt que résumés.

Ce que la première carte de score de Guidelight établit, c’est la référence à laquelle ces règles seront comparées : au 18 août 2026, aucun laboratoire de pointe n’avait démontré publiquement plus qu’une mise en œuvre partielle substantielle d’une quelconque pratique de contrôle, et l’organisation prévoit des évaluations répétées. La prochaine lecture pour savoir si les engagements publics se sont transformés en pratiques documentées et vérifiables proviendra de l’exercice de suivi de METR et des cadres de conformité désormais exigés par la Californie.