Anthropic-gæsteessay opfordrer AI til at præsentere et spænd af videnskabelige modeller

Anthropic udgav den 6. november 2026 et gæsteessay om forskning, hvor modtagerne af bevillinger fra AI for Science, Jakob Macke, Daniel Gedon og Stefan Wahl, argumenterer for, at LLM-agenter bør returnere vægtede fordelinger af plausible videnskabelige modeller i stedet for én enkelt model med det bedste fit. Forfatterne er forskere ved ELLIS Institute Tübingen og Universität Tübingen.

Deres centrale skel går mellem at genskabe observationer og at forstå et system. Mange forskellige parametersæt kan give tilsvarende resultater, og forskellige ligningsstrukturer kan forklare de samme målinger. En agent, der returnerer ét tilfredsstillende svar, skjuler derfor alternativer, som kan understøtte forskellige mekanismer eller forudsigelser.

Opbygning, begrænsning og fortolkning af modeller

Essayet opdeler videnskabelig modellering i tre tilbagevendende trin: at opbygge modellens komponenter og ligninger, at begrænse de justerbare parametre ved hjælp af målinger og at fortolke, hvad resultatet siger om det virkelige system. Det historiske eksempel er Hodgkin og Huxleys model af en nervecelle. De valgte et led med fjerde potens, fordi enklere varianter passede dårligere til deres data, mens Huxley brugte mere end tre uger på at løse ligningerne med en håndsvinget regnemaskine, efter at Cambridge Universitys computer gik ud af drift i 1951.

Historien om de forkastede alternativer er selve pointen. Fjerdepotensen understøttede en hypotese om flere bevægelige dele i en port i cellemembranen; uden at vide, at lavere potenser ikke fungerede, ville det numeriske fit alene ikke have retfærdiggjort fortolkningen. Forfatterne bruger eksemplet til at opstille en standard for AI: Bevar det, modelleringsprocessen afdækker, herunder forkastede kandidater og den resterende usikkerhed.

Fra parameterfordelinger til model fordelinger

Bayesiansk inferens håndterer problemet med parametre ved at repræsentere plausible parameterindstillinger som en sandsynlighedsfordeling, der bygger på datafit og forhåndsviden. Konventionelle beregninger af likelihood er ofte uhåndterlige for mekanistiske simulatorer: en PNAS-gennemgang fra 2020 forklarer, at likelihood-funktionen implicit integrerer over alle mulige forløb gennem en simulator.

I stedet udtrækker simuleringsbaseret inferens stikprøver af parametre, kører simulatoren og træner en neural estimator på de syntetiske resultater. SNPE-metoden kræver en model, der kan køres, forhåndsbegrænsninger på parametrene og observerede data eller opsummerende træk, men hverken beregning af likelihood-værdier eller differentierbar modelkode. I et simuleret Hodgkin-Huxley-eksperiment blev der i én runde brugt 100,000 simuleringer til at estimere otte biofysiske parametre ud fra syv spændingstræk. Når der blev tilføjet flere træk, blev den posteriore fordeling snævrere, og det blev tydeligt, hvilke parametre observationerne begrænsede stærkt eller svagt. Efter den indledende simulerings- og træningsfase kan den indlærte surrogatmodel hurtigt evaluere nye data.

Essayet udvider denne tankegang fra parametre til modelstrukturer. En LLM-agent kan skrive kode til kandidatsimulatorer, køre dem, begrænse deres parametre, sammenligne resultaterne med observationer og revidere ligningerne. Separate kørsler kan give forskellige, men lige tilfredsstillende strukturer, så det foreslåede output er en vægtet population: Kandidater får vægt efter, hvor godt data understøtter dem, modeller med for stor fleksibilitet får mindre vægt, og stærkere kandidater danner grundlag for yderligere variationer. Fællestræk på tværs af de modeller, der består, viser, hvad evidensen taler for, mens uenighed afdækker, hvor evidensen er spinkel, og hvilke eksperimenter der muligvis bør udføres som de næste.

ModelSMC søger blandt eksekverbare modeller

I en tidligere artikel fra 2026 om ModelSMC formaliserede Wahl og kolleger, herunder Macke og Gedon, denne tilgang som probabilistisk inferens over eksekverbare simulatorprogrammer. Hver kandidat er en partikel, som en LLM foreslår eller forfiner ved hjælp af tidligere implementeringer, evalueringsfeedback og opgavekontekst. Vægte baseret på likelihood og resampling koncentrerer populationen om lovende strukturer, mens parametrene marginaliseres under opdagelsen i stedet for at blive reduceret til ét optimeret estimat for hver struktur. Arbejdet anerkender modtagelsen af API-kreditter gennem Anthropics program AI for Science, der blev lanceret den 5. maj 2025 for udvalgte forskere med tilknytning til institutioner og med særligt fokus på biologi og biovidenskab.

Eksperimenterne omfattede syntetisk epidemiologisk dynamik, en simulator af aldosteronregulering i nyrerne og en opgave i strukturel opdagelse med Hodgkin-Huxley-modellen, hvor der blev brugt 10 virkelige spændingsoptagelser. Forfatterne rapporterer, at modeller inden for neurovidenskab med høj vægt gentagne gange tilføjede en langsom M-type-kaliumstrøm, nogle gange sammen med en anden ionkanal, og at denne modeltype blev rangeret først i ni ud af 10 kørsler. Den samlede kvantitative ydeevne var på niveau med FunSearch+ og en variant med én partikel ved sammenlignelige beregningsbudgetter; den påståede fordel er posterior analyse af modelfamilier, ikke et konsekvent forspring i ydeevne.

Fortolkning og validering

De dokumenterede omkostninger og afhængigheder ved ModelSMC er lige så vigtige som resultaterne. Gentagne simuleringer og estimering af likelihood er beregningstunge, surrogatmodeller for likelihood kan indføre bias, hvis modellen er fejl specificeret, og opdagelsen afhænger af, at LLM’en foreslår brugbare strukturer. Gæsteessayet tilføjer et bredere forbehold: Disse systemer er for det meste blevet afprøvet på at genfinde kendte modeller, og der er kun sparsom evidens for, at de fungerer på videnskabelige problemer, hvor svaret ikke er kendt.

Forfatterne kalder fortolkning det sværeste trin at uddelegere, fordi datatilpasning kan måles, mens forbedret forståelse ikke har et tilsvarende klart mål. Enighed mellem modeller, der passer til dataene, efter at systemet er blevet forstyrret, styrker en forudsigelse, mens uenighed blotlægger uløste mekanismer og kan være med til at styre det næste eksperiment. Dette krav bliver vigtigere, hvis AI mindsker det historiske pres for kompakte, menneskeligt læsbare modeller, fordi større modeller øger behovet for eksplicit angivelse af usikkerhed og korte mekanistiske sammenfatninger.

Den standard, forfatterne opstiller, går derfor videre end blot at kræve en model, der passer til dataene: Et AI-system bør dokumentere evidensen bag sit svar, herunder de målinger, der fastlægger hver enkelt komponent, de kandidater, der ikke lykkedes, den usikkerhed, der stadig er uløst, og de spørgsmål, der opstod under søgningen. På baggrund af dette begrænsede valideringsgrundlag er det afgørende spørgsmål, om bevarelse af fordelingerne af modeller sammen med historikken over forkastede alternativer skaber forståelse af reelt åbne videnskabelige problemer.