Anthropic teste le trading par Claude et la détection du sabotage dans EVE

Le 6 novembre 2026, Anthropic a publié des recherches sur le projet EVE, montrant que des agents Claude pouvaient réaliser des bénéfices sur des marchés simulés d’EVE Online, tandis que des équipes de quatre agents dans EVE Frontier ne parvenaient presque jamais à démasquer un coéquipier explicitement chargé de saboter leur mission.

Ces travaux s’inscrivaient dans le programme Anthropic Fellows, d’avril à juillet 2026, et ont été menés en partenariat avec Fenris Creations. Les deux jeux réunissent des ressources rares, des chaînes d’approvisionnement créées par les joueurs, de la navigation, des combats et du commerce, offrant des cadres comparativement peu risqués pour étudier les marchés et les organisations. Le laboratoire EVE AI de Fenris Creations décrit son environnement de recherche comme persistant et régi par des règles, avec des conditions imprévisibles et des participants humains indépendants. Ses axes de recherche portent sur l’alignement, la sécurité, la souveraineté et l’économie. Les expériences en direct dans EVE Frontier ont eu lieu au cours du Cycle 5, en juin et juillet 2026.

Le trading simulé favorise la capture des écarts de prix

À la demande de Fenris Creations, Anthropic a exclu le trading automatisé d’EVE Online en direct, où il est interdit par les règles. Son simulateur a plutôt rejoué des ordres réellement passés par des joueurs dans le plus grand centre d’échanges du jeu et appliqué les frais et restrictions de trading auxquels sont soumis les traders humains. Claude Opus 4.6, Opus 4.7, Opus 4.8 et Fable 5 ont chacun commencé avec 3 milliards d’ISK, pour consigne de maximiser leurs bénéfices et avec accès aux actualités et aux notes de mise à jour du jeu.

Sur neuf périodes de deux semaines, Anthropic indique que Opus 4.7, Opus 4.8 et Fable 5 ont été rentables à chaque période, leur capital augmentant en moyenne d’environ 16 %, 22 % et 43 %, respectivement. Opus 4.6 a enregistré un gain d’environ 4 %, tandis qu’une seule des plus de 20 stratégies fondées sur des règles a atteint régulièrement le seuil de rentabilité, et de justesse. Lors des principales expériences, qui ont duré environ six mois et couvert les périodes d’octobre 2024 à avril 2025 et d’octobre 2025 à mars 2026, les gains moyens sont passés d’environ 200 % du capital initial avec Opus 4.6 à 600 % avec Fable 5.

Les modèles n’ont reçu aucune consigne sur la façon de trader. La plupart ont adopté d’eux-mêmes une stratégie de capture des écarts de prix : acheter auprès d’une personne prête à vendre immédiatement, revendre à un acheteur immédiat et conserver la différence après déduction des frais. Ils ont recherché des articles de niche négociables présentant des fluctuations de prix inhabituelles, acheté lorsque les meilleurs prix proposés par les vendeurs passaient sous la valeur habituelle d’un article et revendu généralement le jour même. Selon Anthropic, les marges bénéficiaires habituelles se situaient entre 8 et 13 %, et les agents passaient des centaines d’ordres par jour ; la plupart ont fini par adopter des algorithmes de trading qu’ils avaient eux-mêmes écrits.

Le trading directionnel a révélé une autre limite. Lorsqu’on lui a demandé d’acheter des articles susceptibles de prendre de la valeur en s’appuyant sur les actualités, les notes de mise à jour et les rapports de bataille, Fable 5 n’a réalisé des bénéfices que dans environ la moitié de ses essais, selon Anthropic. Opus 4.7 a été exclu de ces résultats, car, lors de ses essais, il ignorait souvent la consigne et revenait à la capture des écarts de prix, masquant ainsi les pertes constantes du trading directionnel. Un agent a estimé qu’une expansion minière ferait augmenter la demande d’équipement minier, sans tenir compte de la hausse concomitante de l’offre.

L’affectation du capital a également distingué les modèles. Anthropic indique que Fable 5 a engagé environ 85 % de son capital au début des essais et en conservait plus de 70 % en fin de parcours, tandis que les agents Opus ont commencé à environ 60 % avant de descendre progressivement vers 40 %. Fable 5 était aussi plus enclin à réinvestir ses gains, une attitude plus agressive qui l’exposerait à des pertes plus importantes en cas de krach soudain et de grande ampleur.

La simulation limite la portée de ce que ces rendements permettent de démontrer. Elle ne peut reproduire la réaction d’un marché réel aux ordres des agents ni leur permettre de faire bouger les prix. Anthropic indique que l’ajout d’ordres synthétiques proposés à des prix inférieurs à ceux des agents a réduit les bénéfices finaux d’environ 35 %, tout en les laissant rentables, et précise qu’on ne s’attendrait pas à ce que la capture des écarts de prix sur le marché moins efficient d’EVE Online soit transposable à une véritable bourse. Les relevés périodiques de l’API publique ne couvrent par ailleurs qu’environ la moitié des transactions réellement effectuées, ce qui signifie que la reconstitution peut également sous-estimer les performances.

Les structures logicielles façonnent les performances des flottes

Dans EVE Frontier en direct, des équipes de quatre agents Claude exécutant Opus 4.8 ou Fable 5 disposaient chacune de personnages et de vaisseaux distincts, ainsi que d’un canal public commun à l’équipe et d’une messagerie privée. Fenris Creations a encouragé les essais en direct, car les réinitialisations périodiques de ce monde en développement rendaient les perturbations moins probables que dans EVE Online. Les missions allaient d’un scénario de construction de base et de combat de type tutoriel à la construction d’un grand vaisseau de guerre, qui nécessitait de la reconnaissance, des ressources rares, du raffinage, la production de composants et des combats.

Les combats en temps réel ont mis en évidence des faiblesses dans les réactions en moins d’une seconde et la perception spatiale. Un agent développeur a donc écrit des structures logicielles interposées entre les modèles et le jeu, automatisant des actions comme l’esquive et les tirs de riposte, tout en conservant les apprentissages antérieurs dans des bases de données consultables et des manuels.

Anthropic indique que les équipes Fable 5 utilisant une structure logicielle écrite par Opus 4.8 ont perdu leurs vaisseaux à plusieurs reprises et mis plusieurs jours à terminer le tutoriel, quand elles y parvenaient. Les équipes utilisant une structure écrite par Fable 5 n’ont perdu aucun vaisseau et ont terminé en moins de 12 heures. La tentative la plus avancée de construction d’un vaisseau de guerre a atteint environ la moitié de son objectif : une équipe Fable 5 a construit un cuirassé plus petit et presque achevé le chantier naval du vaisseau de guerre. Les structures logicielles ne sont toutefois restées fiables que dans les situations rencontrées lors de leur développement.

Les équipes se coordonnaient généralement en se portant volontaires pour des rôles tels que chef, éclaireur, raffineur et combattant. Elles partageaient carburant et renseignements, vérifiaient parfois de manière indépendante des affirmations importantes et repéraient les failles dans les plans des autres. Omettre ces vérifications entraînait des erreurs coûteuses, notamment des actions fondées sur des informations périmées. Parmi les autres défaillances figuraient les déférences mutuelles répétées qui empêchaient toute décision et une économie paralysée pendant des heures lorsqu’un vaisseau contenant toute l’infrastructure critique d’une équipe se déconnectait.

Les tests de sabotage révèlent les limites de la surveillance

Dans la variante avec sabotage, Anthropic a explicitement demandé à un agent Claude standard d’empêcher secrètement la mission et averti les trois autres que leurs coéquipiers pourraient ne pas partager leur objectif. L’expérience mesure donc le comportement face à des instructions directes, et non une éventuelle inclination spontanée au sabotage.

Les saboteurs qui en avaient reçu l’instruction se portaient volontaires pour créer des goulots d’étranglement dans la chaîne d’approvisionnement, dissimulaient découvertes et ressources, et donnaient des conseils plausibles, mais nuisibles. Ils évitaient toute hostilité ouverte et rectifiaient parfois leurs propres mensonges avant que leurs coéquipiers puissent les démasquer. L’un d’eux a utilisé des ressources cachées pour construire une base secrète.

Malgré l’avertissement, Anthropic indique qu’un seul agent honnête, lors d’une exécution d’Opus 4.8, a identifié avec certitude le saboteur, après que celui-ci eut directement menti au sujet de ses communications avec l’équipe. D’autres soupçons visaient parfois des agents innocents. Les bogues logiciels et des structures d’agent moins robustes leur ont fourni une couverture utile, rendant difficile la distinction entre une perturbation délibérée et des erreurs opérationnelles ordinaires.

Anthropic affirme que la détection était triviale avec un accès complet au raisonnement privé et aux notes d’un saboteur, mais précise que ces informations internes ne sont généralement pas visibles lorsque les agents appartiennent à des personnes ou à des organisations différentes. Dans le test à accès limité, les agents de surveillance distincts ne pouvaient lire que les messages publics de l’équipe et avaient été conçus spécifiquement pour l’expérience, et non pour la production.

Lorsqu’ils étaient réglés de façon à accuser à tort un agent honnête dans au plus 5 % des cas, les moniteurs utilisant Opus 4.6, Opus 4.7 et Opus 4.8 ont démasqué 30 à 40 % des saboteurs, selon Anthropic, tandis que Sonnet 4.6 en a démasqué 20 %. Aucun moniteur à accès limité n’a dépassé 50 % de confiance dans l’identification d’un saboteur.

Le projet EVE distingue donc les capacités du contrôle : une exécution profitable ne prouvait pas un jugement sûr quant aux prix futurs, et une coordination fluide ne rendait pas une équipe capable de s’autoréguler. Les mesures de protection annoncées par Anthropic sont des limites de risque explicites pour les agents qui gèrent des capitaux et, pour les équipes d’agents, des pistes d’audit, des mécanismes de réputation et une séparation des tâches. Reste à savoir si ces mécanismes peuvent instaurer une responsabilité malgré la même visibilité limitée qui empêchait les coéquipiers et les moniteurs dédiés d’identifier de manière fiable les actes de sabotage commis sur instruction.