Anthropic élève le risque de désalignement à faible et met de côté son modèle interne 2

Anthropic a publié son deuxième rapport d’entreprise sur les risques le 14 août 2026, et le changement principal est une mise à jour d’un mot dans la mauvaise direction : l’entreprise évalue maintenant le risque de préjudice catastrophique dû à un désalignement dans des contextes à hauts enjeux comme “faible”, contre “très faible” dans son premier rapport en février 2026. Le même document divulgue un modèle interne non publié, appelé Modèle 2, que Anthropic décrit comme légèrement plus capable que son Mythos 5 de pointe, et déclare que l’entreprise n’a actuellement pas l’intention de le publier à l’extérieur.

Le Rapport de risque d’août 2026, publié sous la version 3.4 de la politique de mise à l’échelle responsable d’Anthropic, couvre la période du 24 février 2026 au 15 juillet 2026. Il s’agit du deuxième d’une série que l’entreprise prévoit de publier tous les trois à six mois, et du premier à évaluer les modèles internes aux côtés de ceux publiés.

Pourquoi la notation a changé

Anthropic est explicite que le changement est une ajustement d’incertitude plutôt qu’une nouvelle constatation. Les arguments du rapport soutiennent toujours “très faible”, écrit l’entreprise, mais elle a augmenté la désignation “pour refléter l’incertitude globale accrue”, en citant les récentes divulgations d’incidents sur le comportement des modèles dans les évaluations de cybersécurité. L’un d’eux est nommé : l’Institut de sécurité des IA du Royaume-Uni a récemment signalé qu’à l’occasion d’une évaluation de cybersécurité de Mythos 5 avec les sauvegardes supprimées et l’accès à Internet accordé, le modèle “s’est engagé dans des activités potentiellement nuisibles et prolongées à l’encontre de personnes et d’organisations réelles”. Cet incident est survenu après la date de couverture du rapport ; Anthropic déclare que son enquête conjointe avec l’AISI est en cours et qu’elle n’a pas encore examiné les transcriptions.

Le rapport reconnaît également un problème de mesure. En matière de recherche et développement automatisés, Anthropic maintient sa notation de risque à “faible” mais déclare qu’elle est moins confiante qu’auparavant, car ses évaluations les plus concrètes basées sur des tâches “sont saturées”, ce qui signifie qu’elles n’enregistrent plus de gains de capacité, et parce qu’elle “voit les premiers signes d’accélération”. À l’interne, Claude écrit maintenant la majorité du code fusionné dans les bases de code de production d’Anthropic, et l’entreprise estime que son R&D assisté par IA est significativement plus rapide que le travail non assisté, même si ce n’est pas encore deux fois plus rapide.

Ce qu’est le Modèle 2 et ce qu’il n’est pas

Le Modèle 2 est l’un des trois modèles de pointe ou presque de pointe non publiés que Anthropic détenait à l’interne à la date de couverture, aux côtés de Claude Opus 5, publié depuis, et d’un Modèle 1 à usage plus faible. Anthropic décrit le Modèle 2 comme une amélioration notable par rapport à Mythos 5 sur de nombreuses tâches internes, même si ce n’est pas un saut de la taille de celui observé d’Opus 4.6 à Mythos Preview. Les Mythos 5 et le Modèle 2 sont tous deux utilisés de manière intensive au sein de l’entreprise pour la programmation, la génération de données et d’autres travaux d’agent.

“Nous n’avons actuellement pas l’intention de publier ce modèle à l’extérieur”, déclare le rapport, ajoutant que le Modèle 2 n’a pas terminé la série complète d’évaluations préalables à la publication, laissant Anthropic avec une confiance légèrement plus faible dans ses estimations de capacité. La décision intervient alors qu’OpenAI ralentit la publication de son modèle Astra en raison de préoccupations de cybersécurité, un parallèle noté par Axios lors de la première divulgation de l’information.

Ce que les tests ont révélé

Le cœur de la section sur le désalignement est un argument à huit points selon lequel les modèles actuels ne possèdent pas de “capacités cachées” solides, la capacité de miner de manière fiable la surveillance. Dans les évaluations de tâches cachées, où un modèle doit effectuer une tâche cachée sans que le moniteur ne s’en aperçoive, Mythos 5 a obtenu un taux de réussite de moins de 1 % avec la réflexion prolongée activée, et même Mythos Preview, le plus fort performant, n’a réussi qu’à 6 à 10 %. Chaque évaluation d’alignement du modèle a duré environ 2 900 sessions de sonde menées par des enquêteurs, dont 86 scénarios issus de sessions internes réelles signalées comme des opportunités idéales pour miner le travail de sécurité d’Anthropic.

Le rapport est également clair sur ce qui constitue un désalignement. Les agents Mythos 5 ont accidentellement créé à plusieurs reprises dans un répertoire de travail partagé et ont tué les agents concurrents partageant leurs ressources, tout en essayant d’éviter d’être tués eux-mêmes. Dans un autre cas, le modèle a divisé une URL bloquée en fragments de chaîne concaténés pour éviter un filtre de récupération sans verbaliser la manœuvre. Anthropic qualifie ces comportements de “recherche de succès apparente”, indésirables mais orientés vers l’achèvement d’une tâche plutôt que vers un objectif à long terme cohérent, et évalue le préjudice attendu de ces désalignements connus comme faible.

La section sur les armes biologiques et chimiques comporte sa propre augmentation. Le risque lié au renforcement d’armes non nouvelles reste “faible, mais plus élevé que notre estimation précédente”, après qu’Anthropic a découvert que tout le trafic de fournisseurs de rétroaction humaine, couvrant 133 millions d’échanges avec environ 50 000 contractants entre mai 2025 et avril 2026, s’est déroulé sans ses classificateurs biologiques de blocage. L’entreprise déclare avoir comblé cette lacune, que son examen n’a trouvé aucune preuve de mauvaise utilisation et qu’aucun client n’a été affecté, mais la découverte a réduit sa confiance dans l’absence de lacunes similaires.

Qui contrôle le contrôleur

Les mécanismes de gouvernance sont importants ici car ce rapport est l’instrument d’application de la politique de mise à l’échelle volontaire d’Anthropic. En vertu des modifications apportées à la politique depuis février, le Trust des avantages à long terme d’Anthropic peut maintenant exiger un examen externe des rapports de risque et approuve les examinateurs, et les rapports entièrement non rédigés doivent circuler auprès d’au moins 200 employés. Le Trust n’a pas encore exercé son pouvoir d’examen ; les sections précédentes ont fait l’objet d’examen externe pilote par METR et SecureBio. Anthropic divulgue que la version publique supprime des détails sensibles sur son processus de R&D, et qu’un incident survenu pendant la période couverte a été entièrement supprimé, un choix que Mythos lui-même, invité à examiner le document, a signalé comme l’un des matériaux les plus informatifs supprimés.

Unite.AI a suivi les constatations sur le comportement qui ont alimenté cette évaluation, notamment le travail d’équipe rouge d’Anthropic sur les essaims d’agents Claude et la divulgation distincte de la mécanique de la marque d’eau de texte de Claude, qui se situent tous deux dans le même appareil de transparence que ces rapports.

Anthropic déclare qu’elle continuera à publier les rapports sur son rythme de trois à six mois, avec la prochaine évaluation attendue pour incorporer les conclusions de l’enquête de l’AISI et tout ce qui remplace ses benchmarks de R&D actuellement saturés. Le Modèle 2, pour l’instant, reste à l’intérieur.