Modèles et plateformes d’IA
Anthropic Réaccorde les Garde-fous Biologiques de Fable 5, Réduisant les Requêtes Bloquées de 85%
Ajouter Unite.AI à vos sources préférées sur Google
Anthropic a publié le 7 août 2026 une mise à jour des garde-fous biologiques de Claude Fable 5, qui, selon l’entreprise, a réduit les “retours” liés à la biologie de environ 85% lors des tests sur toutes les surfaces de produits – les handoffs automatiques qui acheminent la requête d’un utilisateur vers un modèle moins capable lorsque le système juge que la demande touche le territoire biologique protégé.
Dans son annonce, Anthropic a déclaré que les utilisateurs devraient désormais voir beaucoup moins de retours sur des questions de santé et d’éducation quotidiennes, telles que l’interprétation des résultats de laboratoire, la compréhension des symptômes et l’apprentissage de la biologie dans un contexte éducatif, et que les professionnels de la santé devraient obtenir plus de soutien pour les tâches cliniques. La réduction des retours biologiques devrait faire baisser le volume total de retours d’environ 67% sur Claude.ai, 55% sur Cowork, 17% sur Claude Code et 7% sur la plateforme Claude, selon une note de bas de page dans le message.
L’entreprise est explicite sur le fait que la mise à jour n’ouvre pas le modèle à la recherche biologique professionnelle. Fable 5 passe toujours à Claude Opus 5 pour les demandes que Anthropic considère comme à double usage, y compris la virologie, la toxicologie et la conception moléculaire, ce que l’entreprise dit laisser le modèle “pas encore utilisable pour la recherche biologique professionnelle et le développement de médicaments”. Anthropic déclare qu’il entend combler cet écart grâce à des voies d’accès fiables plutôt que par le classificateur public.
À quoi le système de secours a été conçu pour résister
L’architecture de secours remonte au lancement de Fable 5 le 9 juin 2026. Anthropic a publié le modèle avec des classificateurs – des systèmes AI automatisés plus petits qui écrivent les demandes – couvrant la cybersécurité, la biologie et la chimie, ainsi que les tentatives de distillation. Lorsqu’un classificateur se déclenche, la demande est réacheminée par le modèle Opus le plus capable suivant. Au lancement, Anthropic a déclaré qu’il avait réglé les garde-fous de manière conservatrice et s’attendait à ce qu’ils se déclenchent dans moins de 5% des sessions.
La couverture biologique était la plus large des trois. Le raisonnement d’Anthropic, exposé dans le message de lancement et la carte système du modèle, est que les modèles de la classe Mythos peuvent surpasser les experts dans certaines tâches biologiques complexes et fournir un soutien opérationnel pour d’autres – une capacité que l’entreprise évalue comme pouvant apporter un gain significatif à un acteur malveillant. La carte système traite le modèle comme ayant des capacités “CB-1”, ce qui signifie qu’il pourrait aider considérablement les personnes ayant des connaissances techniques de base sur des processus pertinents pour les armes, tout en jugeant qu’il ne franchit pas le seuil “CB-2” de substitution à l’expertise mondiale de classe pour le développement de nouvelles armes biologiques – un jugement que la carte elle-même décrit comme “beaucoup moins clair” que pour les modèles précédents.
Aujourd’hui, la mise à jour cite l’évaluation annuelle des menaces 2026 de la communauté du renseignement américain, qui avertit que les progrès de la biotechnologie, y compris la biologie synthétique et l’édition génomique, “pourraient conduire à de nouvelles menaces biologiques” et note que plusieurs acteurs étatiques maintiennent probablement des programmes actifs d’armes biologiques et chimiques offensives.
Ce qui a changé dans les classificateurs
Au cours des semaines précédentes, Anthropic a réécrit la constitution du classificateur biologique – l’ensemble de règles que le modèle de dépistage utilise pour distinguer le contenu protégé du contenu autorisé – en découpant les utilisations bénéfiques dans plus de détails, en sollicitant les commentaires d’experts internes et externes, en réentraînant le classificateur sur des données mises à jour et en vérifiant qu’il se déclenche toujours sur le contenu de recherche nuisible et à double usage. La configuration de lancement a délibérément erré large : l’entreprise a reconnu qu’elle bloquerait un grand volume de faux positifs en échange de la mise à disposition de Fable 5 aux utilisateurs généraux quelques semaines ou mois plus tôt qu’un garde-fou plus étroit n’aurait permis.
Le diagramme de l’entreprise montrant le changement montre la limite du classificateur se déplaçant pour admettre les demandes qui étaient précédemment prises en compte dans une marge de sécurité autodécrite – du contenu qu’Anthropic a évalué comme très probablement inoffensif mais bloqué par prudence. L’écriture antérieure d’Anthropic sur la même approche de classificateur dans le domaine de la cybersécurité décrit une tension similaire entre une large couverture et une robustesse de jailbreak – des enjeux dont Unite.AI a traité lorsque les modèles Claude sans ces garde-fous ont transformé une référence de cybersécurité en trois intrusions réelles.
Le compromis qu’Anthropic gère maintenant publiquement
L’annonce est un document de gouvernance autant qu’une note de produit. Anthropic a lancé Fable 5 avec presque toutes les requêtes biologiques bloquées, a absorbé des semaines de faux positifs comme coût d’une sortie générale rapide et publie maintenant le résultat mesuré de la réduction de ce bloc – y compris les réductions de retours par surface, qui donnent aux observateurs externes une base concrète pour la prochaine révision. La contrainte restante se situe là où l’entreprise dit que le risque réel se situe : la recherche professionnelle à double usage reste derrière les retours Opus 5 jusqu’à ce que les voies d’accès fiables, que Anthropic développe depuis le lancement de juin pour les chercheurs en biologie vérifiés, acheminent ce trafic.
L’entreprise reconnaît que des faux positifs résiduels resteront à l’intérieur de la marge de sécurité et déclare que l’affinement des garde-fous est en cours. Ce qu’elle a mis par écrit, avec la mise à jour du 7 août, est une définition mesurable du progrès : les taux de retours contre lesquels elle sera désormais jugée.
