Anthropic-Gastbeitrag fordert KI dazu auf, Verteilungen wissenschaftlicher Modelle auszugeben

Anthropic veröffentlichte am 6. November 2026 einen Gastbeitrag zur Forschung, in dem die Fördermittelempfänger des Programms AI for Science, Jakob Macke, Daniel Gedon und Stefan Wahl, dafür plädieren, dass LLM-Agenten gewichtete Verteilungen plausibler wissenschaftlicher Modelle statt eines einzelnen Modells mit der besten Anpassung ausgeben. Die Autoren forschen am ELLIS Institute Tübingen und an der University of Tübingen.

Im Mittelpunkt steht die Unterscheidung zwischen der Reproduktion von Beobachtungen und dem Verständnis eines Systems. Viele verschiedene Parametereinstellungen können gleichwertige Ergebnisse liefern, und unterschiedliche Gleichungsstrukturen können dieselben Messwerte erklären. Ein Agent, der nur eine geeignete Antwort ausgibt, verbirgt daher Alternativen, die auf unterschiedliche Mechanismen oder Vorhersagen hindeuten können.

Modelle entwickeln, eingrenzen und interpretieren

Der Beitrag unterteilt die wissenschaftliche Modellierung in drei wiederkehrende Schritte: die Entwicklung der Bestandteile und Gleichungen eines Modells, die Eingrenzung veränderlicher Parameter anhand von Messwerten und die Interpretation dessen, was das Ergebnis über das reale System aussagt. Als historisches Beispiel dient das Nervenzellmodell von Hodgkin und Huxley. Das Forscherduo entschied sich für einen Term mit einer Potenz von vier, weil einfachere Varianten schlechter zu den Daten passten. Huxley verbrachte mehr als drei Wochen damit, die Gleichungen mit einer Kurbelrechenmaschine zu lösen, nachdem der Computer der Cambridge University 1951 ausgefallen war.

Entscheidend ist, dass die Geschichte auch die verworfenen Alternativen umfasst. Die vierte Potenz stützte eine Hypothese über mehrere bewegliche Teile in einem Membrantor. Ohne das Wissen, dass niedrigere Potenzen nicht funktionierten, hätte die numerische Anpassung allein die Interpretation nicht gerechtfertigt. Anhand dieses Beispiels formulieren die Autoren einen Maßstab für KI: Sie sollte bewahren, was der Modellierungsprozess zutage fördert – einschließlich verworfener Kandidaten und verbleibender Unsicherheit.

Von Parameterverteilungen zu Modellverteilungen

Die Bayes’sche Inferenz begegnet dem Problem auf Parameterebene, indem sie plausible Einstellungen als Wahrscheinlichkeitsverteilung darstellt, die durch die Anpassung an die Daten und durch Vorwissen geprägt ist. Bei mechanistischen Simulatoren lassen sich herkömmliche Likelihood-Berechnungen oft nicht praktikabel durchführen: Eine Übersichtsarbeit in PNAS aus dem Jahr 2020 erklärt, dass die Likelihood implizit über sämtliche möglichen Ausführungspfade eines Simulators integriert.

Bei der simulationsbasierten Inferenz werden stattdessen Parameter gezogen, der Simulator ausgeführt und ein neuronaler Schätzer anhand der synthetischen Ergebnisse trainiert. Die SNPE-Methode benötigt ein ausführbares Modell, a-priori-Einschränkungen für die Parameter sowie Beobachtungsdaten oder zusammenfassende Merkmale. Likelihood-Berechnungen oder differenzierbarer Modellcode sind nicht erforderlich. In einem simulierten Hodgkin-Huxley-Experiment wurden in einer Runde 100.000 Simulationen durchgeführt, um anhand von sieben Spannungsmerkmalen acht biophysikalische Parameter zu schätzen. Durch zusätzliche Merkmale wurde die Posteriorverteilung enger und es wurde sichtbar, welche Parameter durch die Beobachtungen stark oder nur schwach eingeschränkt waren. Nach der anfänglichen Simulations- und Trainingsphase kann das gelernte Ersatzmodell neue Daten effizient auswerten.

Der Beitrag überträgt diese Logik von Parametern auf Modellstrukturen. Ein LLM-Agent kann Code für mögliche Simulatoren schreiben und ausführen, deren Parameter eingrenzen, die Ergebnisse mit Beobachtungen vergleichen und die Gleichungen überarbeiten. Separate Durchläufe können unterschiedliche, aber gleichermaßen geeignete Strukturen hervorbringen. Als Ausgabe wird daher eine gewichtete Population vorgeschlagen: Kandidaten erhalten entsprechend der Unterstützung durch die Daten ein höheres Gewicht, zu flexible Anpassungen werden geringer gewichtet, und aussichtsreichere Kandidaten dienen als Ausgangspunkt für weitere Varianten. Gemeinsamkeiten der überlebenden Modelle zeigen, was die Evidenz stützt. Abweichungen weisen auf eine dünne Evidenzlage und mögliche nächste Experimente hin.

ModelSMC durchsucht ausführbare Modelle

In einer früheren Arbeit aus dem Jahr 2026, dem ModelSMC-Artikel, formalisierten Wahl und seine Kollegen, darunter Macke und Gedon, diesen Ansatz als probabilistische Inferenz über ausführbare Simulatorprogramme. Jeder Kandidat ist ein Partikel, das von einem LLM vorgeschlagen oder verfeinert wird – auf Grundlage früherer Implementierungen, Rückmeldungen aus der Bewertung und des Aufgabenkontexts. Likelihood-basierte Gewichtungen und Resampling konzentrieren die Population auf vielversprechende Strukturen. Während der Suche werden die Parameter marginalisiert, statt für jede Struktur auf einen einzigen optimierten Schätzwert reduziert zu werden. Die Arbeit würdigt die Bereitstellung von API-Guthaben durch Anthropics AI-for-Science-Programm, das am 5. Mai 2025 für ausgewählte Forschende mit institutioneller Anbindung gestartet wurde und insbesondere Biologie und Lebenswissenschaften in den Blick nimmt.

Die Experimente umfassten synthetische epidemiologische Dynamiken, einen Simulator zur Regulierung von Aldosteron in der Niere und eine Aufgabe zur Entdeckung von Hodgkin-Huxley-Strukturen, bei der 10 echte Spannungsaufzeichnungen verwendet wurden. Die Autoren berichten, dass hoch gewichtete neurowissenschaftliche Modelle wiederholt einen langsamen M-Typ-Kaliumstrom hinzufügten, mitunter zusätzlich zu einem weiteren Kanal, und dass diese Modellfamilie in neun von 10 Durchläufen an erster Stelle lag. Die quantitative Gesamtleistung war mit der von FunSearch+ und einer Variante mit nur einem Partikel bei vergleichbarem Rechenbudget vergleichbar. Der behauptete Vorteil besteht in der posterioren Analyse von Modellfamilien, nicht in einem durchgängigen Leistungsvorsprung.

Interpretation und Validierung

Die dokumentierten Kosten und Abhängigkeiten von ModelSMC sind ebenso wichtig wie die Ergebnisse. Wiederholte Simulationen und Likelihood-Schätzungen sind rechenintensiv, approximative Likelihoods können bei einer falschen Modellspezifikation Verzerrungen verursachen, und die Entdeckung hängt davon ab, ob das LLM nützliche Strukturen vorschlägt. Der Gastbeitrag ergänzt eine grundsätzliche Einschränkung: Diese Systeme wurden überwiegend darauf getestet, bekannte Modelle wiederzuentdecken. Es gibt nur wenige Belege dafür, dass sie sich bei wissenschaftlichen Problemen bewähren, auf die es keine bekannte Antwort gibt.

Die Autoren bezeichnen die Interpretation als den am schwierigsten zu delegierenden Schritt, weil sich die Anpassung an die Daten messen lässt, während es für ein verbessertes Verständnis kein vergleichbar klares Ziel gibt. Stimmen die angepassten Modelle nach einer Störung des Systems überein, stärkt das eine Vorhersage; bei Uneinigkeit werden ungeklärte Mechanismen sichtbar, und sie kann zum nächsten Experiment führen. Diese Anforderung gewinnt an Bedeutung, wenn KI den historischen Druck mindert, kompakte, für Menschen lesbare Modelle zu entwickeln: Größere Modelle machen explizite Angaben zur Unsicherheit und kurze mechanistische Zusammenfassungen umso notwendiger.

Der von den Autoren gesetzte Maßstab geht daher über ein Modell hinaus, das zu den Daten passt: Ein KI-System sollte die Belege für seine Antwort dokumentieren. Dazu gehören die Messungen, die jede Komponente bestimmen, die Kandidaten, die sich als ungeeignet erwiesen haben, die verbleibende ungeklärte Unsicherheit und die Fragen, die sich während der Suche ergeben haben. Angesichts der begrenzten bisherigen Validierung stellt sich vor allem die Frage, ob die Bewahrung von Modellverteilungen zusammen mit der Dokumentation verworfener Alternativen zu einem Verständnis tatsächlich offener wissenschaftlicher Probleme führt.