Anthropic-essä uppmanar AI att återge spann av vetenskapliga modeller

Anthropic publicerade en gästessä om forskning den 6 november 2026, där AI for Science-bidragsmottagarna Jakob Macke, Daniel Gedon och Stefan Wahl argumenterar för att LLM-agenter bör återge viktade fördelningar av rimliga vetenskapliga modeller i stället för en enda modell med bäst anpassning. Författarna är forskare vid ELLIS Institute Tübingen och University of Tübingen.

Deras centrala åtskillnad gäller skillnaden mellan att återge observationer och att förstå ett system. Många parameteruppsättningar kan ge likvärdiga resultat, och olika ekvationsstrukturer kan förklara samma mätningar. En agent som återger ett enda godtagbart svar döljer därför alternativ som kan stödja andra mekanismer eller förutsägelser.

Att bygga, begränsa och tolka modeller

Essän delar in vetenskaplig modellering i tre återkommande steg: att bygga upp en modells komponenter och ekvationer, att begränsa justerbara parametrar med hjälp av mätningar och att tolka vad resultatet säger om det verkliga systemet. Det historiska exemplet är Hodgkin och Huxleys nervcellsmodell. De valde en term med fjärdepotens eftersom enklare varianter passade deras data sämre, medan Huxley ägnade mer än tre veckor åt att lösa ekvationerna med en handvevad räknemaskin efter att Cambridge Universitys dator slutat fungera 1951.

Det är historien om de förkastade alternativen som är poängen. Fjärdepotensen stödde en hypotes om flera rörliga delar i en membrangrind; utan att veta att lägre potenser inte fungerade skulle den numeriska anpassningen i sig inte ha motiverat tolkningen. Författarna använder exemplet för att slå fast en standard för AI: att bevara det som modelleringsprocessen visar, däribland misslyckade kandidater och kvarstående osäkerhet.

Från parameterfördelningar till modelfördelningar

Bayesiansk inferens hanterar problemet på parameternivå genom att beskriva rimliga inställningar som en sannolikhetsfördelning grundad på hur väl de passar data och på tidigare kunskap. Konventionella likelihoodberäkningar är ofta omöjliga att genomföra för mekanistiska simulatorer: en PNAS-översikt från 2020 förklarar att likelihooden implicit integrerar över alla möjliga förlopp genom en simulator.

Simuleringsbaserad inferens samplar i stället parametrar, kör simulatorn och tränar en neural skattare på de syntetiska resultaten. SNPE-metoden kräver en körbar modell, a priori-begränsningar för parametrarna och observerade data eller sammanfattande egenskaper, men inte likelihoodutvärderingar eller differentierbar modellkod. I det simulerade Hodgkin-Huxley-experimentet användes 100 000 simuleringar i en omgång för att uppskatta åtta biofysiska parametrar utifrån sju spänningsegenskaper. Fler egenskaper gjorde posteriorfördelningen snävare och visade vilka parametrar observationerna begränsade starkt respektive svagt. Efter den inledande simulerings- och träningsfasen kan den inlärda surrogatmodellen utvärdera nya data effektivt.

Essän utvidgar den logiken från parametrar till modellstrukturer. En LLM-agent kan skriva kod för kandidatsimulatorer, köra dem, begränsa deras parametrar, jämföra resultaten med observationer och revidera ekvationerna. Separata körningar kan ge olika men lika godtagbara strukturer, så det föreslagna resultatet är en viktad population: kandidaternas vikt ökar i förhållande till det stöd de får av data, alltför flexibla anpassningar får lägre vikt och starkare kandidater används som utgångspunkt för ytterligare varianter. Gemensamma drag hos modeller som finns kvar visar vad evidensen talar för, medan oenighet pekar ut var evidensen är svag och vilka experiment som kan bli aktuella härnäst.

ModelSMC söker bland körbara modeller

I en tidigare artikel från 2026 om ModelSMC formaliserade Wahl och kollegor, däribland Macke och Gedon, tillvägagångssättet som probabilistisk inferens över körbara simulatorprogram. Varje kandidat är en partikel som föreslås eller förfinas av en LLM med hjälp av tidigare implementationer, utvärderingsåterkoppling och uppgiftens sammanhang. Likelihoodbaserade vikter och omsampling koncentrerar populationen kring lovande strukturer, medan parametrarna marginaliseras under sökandet i stället för att reduceras till en enda optimerad skattning per struktur. Arbetet uppmärksammar att API-krediter kommer från Anthropics AI for Science-program, som lanserades den 5 maj 2025 för utvalda forskare knutna till institutioner, med särskilt fokus på biologi och livsvetenskaper.

Experimenten omfattade syntetisk epidemiologisk dynamik, en simulator för aldosteronreglering i njurarna och en uppgift för strukturell upptäckt med Hodgkin-Huxley-modellen, där 10 verkliga spänningsregistreringar användes. Författarna rapporterar att neurovetenskapliga modeller med hög vikt upprepade gånger lade till en långsam kaliumström av M-typ, ibland tillsammans med en annan kanal, och att denna modellfamilj kom på första plats i nio av 10 körningar. Den övergripande kvantitativa prestationen var jämförbar med FunSearch+ och en variant med en enda partikel vid jämförbara beräkningsbudgetar; den påstådda fördelen är posterioranalys av modellfamiljer, inte ett generellt prestationsövertag.

Tolkning och validering

De dokumenterade kostnaderna och beroendena för ModelSMC är lika viktiga som resultaten. Upprepade simuleringar och likelihoodskattningar är beräkningsmässigt kostsamma, surrogatlikelihooder kan införa bias när modellen är felaktigt specificerad och upptäckterna är beroende av att LLM:en föreslår användbara strukturer. Gästessän tillägger en bredare reservation: systemen har i huvudsak testats på att återupptäcka kända modeller, och det finns få belägg för att de fungerar på vetenskapliga problem där svaret är okänt.

Författarna menar att tolkning är det svåraste steget att delegera, eftersom dataanpassning går att mäta, medan förbättrad förståelse saknar ett lika tydligt mål. När ett system störs stärker överensstämmelse mellan modeller som anpassats till data en förutsägelse, medan oenighet blottlägger olösta mekanismer och kan vägleda nästa experiment. Det kravet blir viktigare om AI minskar den historiska pressen på kompakta, lättbegripliga modeller, eftersom större modeller ökar behovet av att tydligt redovisa osäkerhet och ge korta mekanistiska sammanfattningar.

Den standard författarna ställer upp går alltså längre än att en modell passar data: ett AI-system bör dokumentera beläggen bakom sitt svar, däribland mätningarna som fastställer varje komponent, kandidaterna som inte fungerade, den osäkerhet som kvarstår och de frågor som uppstod under sökandet. Mot bakgrund av det begränsade valideringsunderlaget är den avgörande frågan om det skapar förståelse för genuint öppna vetenskapliga problem att bevara fördelningar över modeller tillsammans med historiken över förkastade alternativ.