Un essai invité d’Anthropic plaide pour que l’IA produise des ensembles de modèles scientifiques

Le 6 novembre 2026, Anthropic a publié un essai de recherche invité dans lequel Jakob Macke, Daniel Gedon et Stefan Wahl, bénéficiaires de subventions du programme AI for Science, soutiennent que les agents fondés sur de grands modèles de langage devraient produire des distributions pondérées de modèles scientifiques plausibles plutôt qu’un seul modèle offrant le meilleur ajustement. Les auteurs sont chercheurs à l’ELLIS Institute Tübingen et à l’University of Tübingen.

La distinction fondamentale qu’ils établissent oppose la reproduction des observations à la compréhension d’un système. De nombreux réglages de paramètres peuvent produire des résultats équivalents, et différentes structures d’équations peuvent expliquer les mêmes mesures. Un agent qui ne fournit qu’une seule réponse satisfaisante masque donc des solutions de rechange susceptibles d’étayer d’autres mécanismes ou prédictions.

Construire, contraindre et interpréter des modèles

L’essai décompose la modélisation scientifique en trois étapes récurrentes : construire les composantes et les équations d’un modèle, contraindre les paramètres ajustables à l’aide de mesures, puis interpréter ce que le résultat indique sur le système réel. L’exemple historique présenté est le modèle de cellule nerveuse de Hodgkin et Huxley. Les deux chercheurs ont retenu un terme à la quatrième puissance, car les versions plus simples correspondaient moins bien à leurs données. Huxley, lui, a passé plus de trois semaines à résoudre les équations avec une calculatrice à manivelle après la panne de l’ordinateur de la Cambridge University en 1951.

C’est l’historique des solutions de rechange écartées qui importe. La puissance quatre étayait une hypothèse sur plusieurs éléments mobiles d’un canal membranaire ; sans savoir que les puissances inférieures avaient échoué, le seul ajustement numérique n’aurait pas justifié cette interprétation. Les auteurs s’appuient sur cet exemple pour définir une exigence pour l’IA : préserver ce que révèle le processus de modélisation, y compris les hypothèses infructueuses et les incertitudes qui subsistent.

Des distributions de paramètres aux distributions de modèles

L’inférence bayésienne traite la question des paramètres en représentant les réglages plausibles sous la forme d’une distribution de probabilité tenant compte de l’ajustement aux données et des connaissances préalables. Pour les simulateurs mécanistes, les calculs classiques de vraisemblance sont souvent impossibles à réaliser : une revue publiée dans PNAS en 2020 explique que la vraisemblance intègre implicitement tous les chemins d’exécution possibles d’un simulateur.

L’inférence fondée sur la simulation procède plutôt par échantillonnage des paramètres, exécution du simulateur et entraînement d’un estimateur neuronal sur les résultats synthétiques. La méthode SNPE nécessite un modèle exécutable, des contraintes préalables sur les paramètres et des données observées ou des caractéristiques synthétiques, mais pas de calcul de vraisemblance ni de code de modèle différentiable. Dans l’expérience simulée de Hodgkin-Huxley, une seule itération a mobilisé 100 000 simulations pour estimer huit paramètres biophysiques à partir de sept caractéristiques de tension. L’ajout de caractéristiques a resserré la distribution a posteriori et montré quels paramètres étaient fortement ou faiblement contraints par les observations. Une fois la phase initiale de simulation et d’entraînement terminée, le substitut entraîné peut évaluer efficacement de nouvelles données.

L’essai étend cette logique des paramètres aux structures des modèles. Un agent fondé sur un grand modèle de langage peut écrire le code de simulateurs candidats, les exécuter, contraindre leurs paramètres, comparer leurs résultats aux observations et réviser les équations. Des exécutions distinctes peuvent produire des structures différentes, mais tout aussi satisfaisantes ; le résultat proposé est donc un ensemble pondéré : le poids des modèles augmente en fonction de leur compatibilité avec les données, les ajustements excessivement flexibles sont moins favorisés et les modèles les plus solides servent de point de départ à de nouvelles variantes. Les caractéristiques communes aux modèles retenus indiquent ce que les éléments probants favorisent, tandis que les désaccords mettent en évidence les zones où les données sont limitées et les expériences qui pourraient être menées ensuite.

ModelSMC explore des modèles exécutables

Dans un article publié plus tôt en 2026 sur ModelSMC, Wahl et ses collègues, dont Macke et Gedon, ont formalisé cette approche sous la forme d’une inférence probabiliste sur des programmes de simulateurs exécutables. Chaque modèle candidat est une particule proposée ou affinée par un grand modèle de langage à partir d’implémentations antérieures, des retours d’évaluation et du contexte de la tâche. La pondération par vraisemblance et le rééchantillonnage concentrent la population sur les structures prometteuses, tandis que les paramètres sont marginalisés pendant la recherche plutôt que réduits à une seule estimation optimisée par structure. Les auteurs indiquent avoir bénéficié de crédits d’API dans le cadre du programme AI for Science d’Anthropic, lancé le 5 mai 2025 à l’intention de chercheurs affiliés à des établissements sélectionnés, avec un accent particulier sur la biologie et les sciences de la vie.

Les expériences portaient sur des dynamiques épidémiologiques synthétiques, un simulateur de régulation de l’aldostérone dans les reins et une tâche de découverte de la structure du modèle de Hodgkin-Huxley fondée sur 10 enregistrements réels de tension. Les auteurs rapportent que les modèles de neurosciences les mieux pondérés ont régulièrement intégré un courant potassique lent de type M, parfois accompagné d’un autre canal, et que cette famille est arrivée en tête dans neuf des 10 essais. Dans l’ensemble, les performances quantitatives étaient comparables à celles de FunSearch+ et d’une variante à particule unique, pour des budgets similaires ; l’avantage revendiqué tient à l’analyse a posteriori des familles de modèles, et non à une supériorité uniforme des performances.

Interprétation et validation

Les coûts et les dépendances documentés de ModelSMC comptent autant que ses résultats. La répétition des simulations et l’estimation des vraisemblances sont coûteuses en calcul, les vraisemblances approximatives peuvent introduire un biais si le modèle est mal spécifié, et la découverte dépend de la capacité du grand modèle de langage à proposer des structures utiles. L’essai invité apporte une réserve plus générale : ces systèmes ont surtout été évalués sur leur capacité à redécouvrir des modèles connus, et les données montrant qu’ils fonctionnent sur des problèmes scientifiques sans réponse connue sont rares.

Les auteurs considèrent l’interprétation comme l’étape la plus difficile à déléguer, car l’ajustement aux données est mesurable, tandis que l’amélioration de la compréhension ne dispose pas d’un objectif aussi clairement défini. Lorsque l’on perturbe un système, la concordance entre les modèles ajustés renforce une prédiction, tandis que leurs divergences révèlent des mécanismes qui restent inexpliqués et peuvent orienter l’expérience suivante. Cette exigence devient d’autant plus importante si l’IA atténue la pression historique en faveur de modèles compacts et compréhensibles par l’humain : des modèles plus vastes rendent plus nécessaires l’explicitation de l’incertitude et la production de brefs résumés mécanistiques.

La norme définie par les auteurs va donc au-delà d’un modèle qui s’ajuste aux données : un système d’IA devrait documenter les éléments qui étayent sa réponse, notamment les mesures qui permettent de déterminer chaque composante, les pistes infructueuses, l’incertitude qui demeure et les questions soulevées au cours de la recherche. Compte tenu de cette base de validation limitée, la question décisive est de savoir si la préservation des distributions de modèles, associée à l’historique des solutions écartées, permet de mieux comprendre des problèmes scientifiques véritablement ouverts.