Hostující esej Anthropic vyzývá AI, aby vracela soubory vědeckých modelů

Anthropic 6. listopadu 2026 zveřejnil hostující výzkumnou esej, v níž příjemci grantů programu AI for Science Jakob Macke, Daniel Gedon a Stefan Wahl tvrdí, že agenti založení na LLM by měli místo jediného modelu s nejlepším proložením vracet vážená rozdělení vědeckých modelů, které připadají v úvahu. Autoři jsou výzkumníky v ELLIS Institute Tübingen and the University of Tübingen.

Zásadní rozdíl podle nich spočívá mezi reprodukováním pozorování a porozuměním systému. Mnohá nastavení parametrů mohou vést ke stejným výstupům a stejné naměřené hodnoty lze vysvětlit různými strukturami rovnic. Agent, který vrátí jednu dostatečnou odpověď, tak zatají alternativy, jež mohou odpovídat odlišným mechanismům nebo předpovědím.

Tvorba, omezování a interpretace modelů

Esej rozděluje vědecké modelování do tří opakujících se kroků: sestavení součástí modelu a rovnic, omezení nastavitelných parametrů na základě měření a interpretace toho, co výsledek vypovídá o skutečném systému. Historickým příkladem je Hodgkinův a Huxleyův model nervové buňky. Dvojice zvolila člen se čtvrtou mocninou, protože jednodušší verze jejich data prokládaly hůře, zatímco Huxley strávil řešením rovnic více než tři týdny s mechanickou kalkulačkou poté, co v roce 1951 přestal fungovat počítač Cambridgeské univerzity.

Právě historie odmítnutých alternativ je podstatná. Čtvrtá mocnina podpořila hypotézu o několika pohyblivých částech membránové brány; kdyby nebylo známo, že nižší mocniny neuspěly, samotné numerické proložení by interpretaci neospravedlňovalo. Autoři na tomto příkladu vymezují, co by se mělo od AI očekávat: zachovat to, co modelovací proces odhalí, včetně neúspěšných kandidátů a přetrvávající nejistoty.

Od rozdělení parametrů k rozdělením modelů

Bayesovská inference řeší parametrickou podobu problému tím, že pravděpodobná nastavení vyjadřuje jako rozdělení pravděpodobnosti zohledňující proložení dat i předchozí znalosti. Konvenční výpočty věrohodnosti jsou u mechanistických simulátorů často neproveditelné: přehledový článek z roku 2020 v PNAS vysvětluje, že věrohodnost implicitně integruje přes všechny možné průběhy simulátoru.

Inference založená na simulacích místo toho vzorkuje parametry, spouští simulátor a na syntetických výstupech trénuje neuronový odhadovač. Metoda SNPE vyžaduje spustitelný model, předchozí omezení parametrů a pozorovaná data nebo souhrnné příznaky, ale nevyžaduje výpočty věrohodnosti ani diferencovatelný kód modelu. V simulovaném experimentu s Hodgkinovým-Huxleyovým modelem se v jednom kole použilo 100 000 simulací k odhadu osmi biofyzikálních parametrů na základě sedmi napěťových příznaků. Přidání příznaků zúžilo posteriorní rozdělení a ukázalo, které parametry jsou pozorováními omezeny silně a které slabě. Po úvodní fázi simulací a trénování dokáže naučený zástupný model efektivně vyhodnocovat nová data.

Esej tuto logiku rozšiřuje od parametrů ke strukturám modelů. Agent založený na LLM může napsat kód pro kandidátní simulátor, spustit jej, omezit jeho parametry, porovnat výstupy s pozorováními a upravit rovnice. Samostatná spuštění mohou vytvořit různé, ale stejně dostačující struktury, proto se navrhuje vracet váženou množinu kandidátů: kandidáti získávají váhu podle toho, jak dobře je podporují data, příliš flexibilní proložení dostává nižší hodnocení a silnější kandidáti slouží jako základ pro další varianty. Společné rysy modelů, které zůstanou, ukazují, co podporují důkazy, zatímco neshody odhalují, kde jsou důkazy slabé a jaké experimenty by mohly následovat.

ModelSMC prohledává spustitelné modely

V dřívějším článku o metodě ModelSMC z roku 2026 Wahl s kolegy, včetně Mackeho a Gedona, tento přístup formalizovali jako pravděpodobnostní inferenci nad spustitelnými programy simulátorů. Každý kandidát je částice, kterou LLM navrhuje nebo zdokonaluje na základě předchozích implementací, zpětné vazby z vyhodnocování a kontextu úlohy. Váhy založené na věrohodnosti a převzorkování soustřeďují množinu na slibné struktury, zatímco při hledání se parametry marginalizují, místo aby se pro každou strukturu zredukovaly na jediný optimalizovaný odhad. Práce uvádí, že kredity API poskytl program Anthropic AI for Science, spuštěný 5. května 2025 pro vybrané výzkumníky působící v institucích se zvláštním zaměřením na biologii a přírodní vědy.

Experimenty zahrnovaly syntetickou epidemiologickou dynamiku, simulátor regulace aldosteronu v ledvinách a úlohu objevování struktury Hodgkinova-Huxleyova modelu využívající 10 skutečných záznamů napětí. Autoři uvádějí, že neurovědní modely s vysokou vahou opakovaně přidávaly pomalý draslíkový proud typu M, někdy spolu s dalším kanálem, a že tato skupina se umístila na prvním místě v devíti z 10 běhů. Celková kvantitativní výkonnost byla při srovnatelných rozpočtech srovnatelná s FunSearch+ a variantou s jedinou částicí; deklarovanou výhodou je analýza posteriorních rozdělení skupin modelů, nikoli soustavně lepší výkonnost.

Interpretace a ověřování

Zdokumentované náklady a závislosti ModelSMC jsou stejně důležité jako jeho výsledky. Opakované simulace a odhad věrohodnosti jsou výpočetně nákladné, věrohodnosti odhadnuté pomocí zástupných modelů mohou při nesprávné specifikaci zavádět zkreslení a objevování závisí na tom, zda LLM navrhne užitečné struktury. Hostující esej přidává širší výhradu: tyto systémy byly většinou testovány na znovuobjevování známých modelů a důkazů o jejich funkčnosti ve vědeckých problémech bez známého řešení je málo.

Autoři označují interpretaci za nejobtížnější krok, který lze svěřit někomu jinému, protože shodu modelu s daty lze měřit, zatímco lepší porozumění nemá obdobně jasně stanovený cíl. Shoda mezi modely, které odpovídají datům i po narušení systému, posiluje předpověď, zatímco neshoda odhaluje dosud nevyřešené mechanismy a může napovědět, jaký experiment provést jako další. Tento požadavek nabývá na důležitosti, pokud AI zmírní dlouhodobý tlak na tvorbu kompaktních, srozumitelných modelů, protože u větších modelů roste potřeba výslovně uvádět nejistotu a stručně shrnout mechanismy.

Standard, který autoři stanovují, proto překračuje požadavek na model odpovídající datům: systém AI by měl zdokumentovat důkazy, o něž opírá svou odpověď, včetně měření, která určují jednotlivé složky, neúspěšných kandidátů, nevyřešené nejistoty a otázek, jež vyvstaly během hledání. Vzhledem k tak omezenému základu pro ověřování je rozhodující otázkou, zda uchovávání rozdělení modelů spolu s historií zamítnutých alternativ přináší porozumění skutečně otevřeným vědeckým problémům.