Anthropic-gjesteessay tar til orde for at KI skal presentere et spenn av vitenskapelige modeller

Anthropic publiserte et gjesteessay om forskning 6. november 2026, der mottakerne av støtte fra AI for Science, Jakob Macke, Daniel Gedon og Stefan Wahl, argumenterer for at KI-agenter basert på store språkmodeller bør presentere vektede fordelinger av plausible vitenskapelige modeller i stedet for én enkelt modell som passer best. Forfatterne er forskere ved ELLIS Institute Tübingen og Universitetet i Tübingen.

Det sentrale skillet går mellom å gjenskape observasjoner og å forstå et system. Mange ulike parameterinnstillinger kan gi tilsvarende resultater, og ulike ligningsstrukturer kan forklare de samme målingene. En agent som gir ett tilfredsstillende svar, skjuler derfor alternativer som kan støtte ulike mekanismer eller prediksjoner.

Å bygge, avgrense og tolke modeller

Essayet deler vitenskapelig modellering inn i tre gjentatte trinn: å bygge opp modellens komponenter og ligninger, å avgrense justerbare parametere ved hjelp av målinger og å tolke hva resultatet forteller om det virkelige systemet. Det historiske eksemplet er Hodgkin og Huxleys modell av nerveceller. De to valgte et ledd med fjerde potens fordi enklere varianter passet dårligere til dataene deres, mens Huxley brukte mer enn tre uker på å løse ligningene med en mekanisk kalkulator med håndsveiv etter at Cambridge Universitys datamaskin ble satt ut av drift i 1951.

Det er nettopp denne historien om forkastede alternativer som er poenget. Fjerdepotensen støttet en hypotese om flere bevegelige deler i en membranport; uten å vite at lavere potenser ikke fungerte, ville det numeriske samsvaret alene ikke ha vært tilstrekkelig grunnlag for tolkningen. Forfatterne bruker eksemplet til å definere en standard for KI: Bevar det modelleringsprosessen avdekker, også mislykkede kandidater og gjenværende usikkerhet.

Fra parameterfordelinger til modelfordelinger

Bayesiansk inferens håndterer problemet på parameternivå ved å representere plausible innstillinger som en sannsynlighetsfordeling basert på hvor godt de passer til dataene, og på tidligere kunnskap. Konvensjonelle sannsynlighetsberegninger er ofte uhåndterlige for mekanistiske simulatorer: En PNAS-gjennomgang fra 2020 forklarer at sannsynligheten implisitt integrerer over alle mulige kjøringsforløp gjennom en simulator.

I stedet trekker simuleringsbasert inferens utvalg av parametere, kjører simulatoren og trener en nevral estimator på de syntetiske resultatene. SNPE-metoden krever en kjørbar modell, forhåndsbegrensninger for parametere og observerte data eller oppsummerende egenskaper, uten beregning av sannsynligheter eller differensierbar modellkode. I et simulert Hodgkin-Huxley-eksperiment brukte én runde 100 000 simuleringer til å anslå åtte biofysiske parametere ut fra sju spenningsmål. Flere egenskaper gjorde posteriorfordelingen smalere og viste hvilke parametere observasjonene begrenset sterkt eller svakt. Etter den innledende simulerings- og treningsfasen kan den lærte surrogatmodellen effektivt evaluere nye data.

Essayet utvider denne tankegangen fra parametere til modellstrukturer. En KI-agent kan skrive kode for mulige simulatorer, kjøre dem, avgrense parameterne, sammenligne resultatene med observasjoner og revidere ligningene. Separate kjøringer kan gi ulike, men like tilfredsstillende strukturer. Derfor foreslås en vektet samling: Kandidater får større vekt når dataene støtter dem, for fleksible tilpasninger får mindre uttelling, og de sterkeste kandidatene brukes som utgangspunkt for flere varianter. Fellestrekk mellom modellene som overlever, viser hva evidensen taler for, mens uenighet peker på svakt datagrunnlag og mulige neste eksperimenter.

ModelSMC søker gjennom kjørbare modeller

I en tidligere artikkel fra 2026 om ModelSMC formaliserte Wahl og kollegene hans, blant dem Macke og Gedon, denne tilnærmingen som probabilistisk inferens over kjørbare simulatorprogrammer. Hver kandidat er en partikkel som foreslås eller videreutvikles av en stor språkmodell ved hjelp av tidligere implementasjoner, evalueringsresultater og oppgavekontekst. Vekting basert på sannsynlighet og resampling konsentrerer samlingen om lovende strukturer, mens parameterne marginaliseres under letingen i stedet for å reduseres til ett optimalisert estimat per struktur. Arbeidet oppgir API-kreditter gjennom Anthropic-programmet AI for Science, som ble lansert 5. mai 2025 for utvalgte forskere tilknyttet institusjoner, med særlig vekt på biologi og biovitenskap.

Eksperimentene omfattet syntetisk epidemiologisk dynamikk, en simulator for aldosteronregulering i nyrene og en oppgave for strukturell oppdagelse basert på Hodgkin-Huxley-modellen, med 10 virkelige spenningsopptak. Forfatterne rapporterer at nevrovitenskapelige modeller med høy vekt gjentatte ganger la til en langsom kaliumstrøm av M-type, noen ganger sammen med en annen kanal, og at denne modellfamilien kom på førsteplass i ni av 10 kjøringer. Den samlede kvantitative ytelsen var sammenlignbar med FunSearch+ og en variant med én partikkel ved sammenlignbare budsjetter; den påståtte fordelen er posterioranalyse av modellfamilier, ikke et jevnt forsprang i ytelse.

Tolkning og validering

De dokumenterte kostnadene og avhengighetene ved ModelSMC er like viktige som resultatene. Gjentatte simuleringer og sannsynlighetsestimering er beregningsmessig kostbare, surrogatsannsynligheter kan føre til skjevhet når modellen er feilspesifisert, og oppdagelsene avhenger av at den store språkmodellen foreslår nyttige strukturer. Gjesteessayet føyer til et bredere forbehold: Disse systemene er i hovedsak testet på å gjenoppdage kjente modeller, og det finnes lite evidens for at de fungerer på vitenskapelige problemer uten kjente svar.

Forfatterne omtaler fortolkning som det vanskeligste trinnet å delegere, fordi tilpasning til data kan måles, mens bedre forståelse ikke har et like tydelig mål. Når et system forstyrres, styrker enigheten mellom modellene som passer dataene, en prediksjon, mens uenighet avdekker mekanismer som ennå ikke er avklart, og kan gi retning for det neste eksperimentet. Dette kravet blir viktigere dersom KI fjerner det historiske presset for kompakte, lesbare modeller, fordi større modeller øker behovet for å synliggjøre usikkerhet og gi korte, mekanistiske oppsummeringer.

Standarden forfatterne setter, går derfor lenger enn å kreve en modell som passer dataene: Et KI-system bør dokumentere beleggene for svaret sitt, inkludert målingene som fastslår hver komponent, kandidatene som ikke fungerte, usikkerheten som fortsatt står uløst, og spørsmålene som oppsto under søket. Med dette begrensede valideringsgrunnlaget er det avgjørende spørsmålet om det å bevare modellfordelinger sammen med historikken over forkastede alternativer gir forståelse av genuint åpne vitenskapelige problemstillinger.