Esej gościnny Anthropic apeluje, by AI przedstawiała rozkłady prawdopodobieństwa modeli naukowych

6 listopada 2026 r. Anthropic opublikowało gościnny esej badawczy, w którym stypendyści programu AI for Science Jakob Macke, Daniel Gedon i Stefan Wahl argumentują, że agenci LLM powinni przedstawiać ważone rozkłady wiarygodnych modeli naukowych zamiast jednego modelu najlepiej dopasowanego do danych. Autorzy są badaczami w ELLIS Institute Tübingen i na University of Tübingen.

Podstawowe rozróżnienie dotyczy odtwarzania obserwacji i rozumienia systemu. Wiele zestawów parametrów może dawać równoważne wyniki, a różne układy równań mogą wyjaśniać te same pomiary. Agent, który zwraca jedną wystarczająco dobrą odpowiedź, ukrywa więc alternatywy, które mogą wskazywać na inne mechanizmy lub prowadzić do odmiennych przewidywań.

Budowanie, dopasowywanie i interpretowanie modeli

W eseju modelowanie naukowe podzielono na trzy powtarzane etapy: budowanie elementów modelu i jego równań, dopasowywanie regulowanych parametrów do pomiarów oraz interpretowanie tego, co uzyskany wynik mówi o rzeczywistym systemie. Historycznym przykładem jest model komórki nerwowej Hodgkina i Huxleya. Badacze wybrali składnik z czwartą potęgą, ponieważ prostsze wersje gorzej pasowały do ich danych, a Huxley przez ponad trzy tygodnie rozwiązywał równania za pomocą kalkulatora napędzanego korbką, po tym jak w 1951 r. zepsuł się komputer Cambridge University.

Istotą tego przykładu jest historia odrzuconych alternatyw. Czwarta potęga wspierała hipotezę o kilku ruchomych elementach bramki w błonie komórkowej; bez wiedzy o tym, że niższe potęgi się nie sprawdziły, samo dopasowanie numeryczne nie uzasadniałoby takiej interpretacji. Autorzy wykorzystują ten przykład, by określić standard dla AI: należy zachować informacje ujawnione przez proces modelowania, w tym nieudane warianty i utrzymującą się niepewność.

Od rozkładów parametrów do rozkładów modeli

Wnioskowanie bayesowskie rozwiązuje problem na poziomie parametrów, przedstawiając wiarygodne ich wartości jako rozkład prawdopodobieństwa uwzględniający dopasowanie do danych i wcześniejszą wiedzę. W przypadku mechanistycznych symulatorów standardowe obliczenia wiarygodności są często niewykonalne: przegląd opublikowany w PNAS w 2020 r. wyjaśnia, że wiarygodność w sposób domyślny całkuje po wszystkich możliwych ścieżkach wykonania symulatora.

Wnioskowanie oparte na symulacjach polega natomiast na próbkowaniu parametrów, uruchamianiu symulatora i trenowaniu estymatora neuronowego na syntetycznych wynikach. Metoda SNPE wymaga modelu, który można uruchomić, wcześniejszych ograniczeń dotyczących parametrów oraz danych obserwacyjnych lub cech podsumowujących; nie wymaga obliczania wiarygodności ani kodu modelu umożliwiającego różniczkowanie. W symulowanym eksperymencie z modelem Hodgkina–Huxleya w jednej rundzie wykorzystano 100 000 symulacji do oszacowania ośmiu parametrów biofizycznych na podstawie siedmiu cech napięcia. Dodanie kolejnych cech zawęziło rozkład a posteriori i pokazało, które parametry obserwacje ograniczały silnie, a które słabo. Po początkowym etapie symulacji i trenowania wyuczony model zastępczy może sprawnie oceniać nowe dane.

W eseju tę samą logikę zastosowano do struktur modeli, a nie tylko ich parametrów. Agent LLM może napisać kod kandydującego symulatora, uruchomić go, dopasować jego parametry, porównać wyniki z obserwacjami i zmodyfikować równania. Poszczególne uruchomienia mogą prowadzić do różnych, ale równie dobrych struktur, dlatego proponowanym wynikiem jest ważona populacja modeli: kandydaci zyskują wagę w zależności od tego, jak dobrze wspierają ich dane, nadmiernie elastyczne dopasowania otrzymują mniejszą wagę, a obiecujące modele stanowią podstawę dalszych wariantów. Cechy wspólne dla modeli, które przetrwały selekcję, wskazują, co znajduje oparcie w dowodach, a rozbieżności ujawniają, gdzie dowody są skąpe i jakie eksperymenty można przeprowadzić w następnej kolejności.

ModelSMC przeszukuje wykonywalne modele

We wcześniejszej pracy z 2026 r. ModelSMC Wahl i współpracownicy, w tym Macke i Gedon, sformalizowali to podejście jako probabilistyczne wnioskowanie o wykonywalnych programach symulatorów. Każdy kandydat jest cząstką proponowaną lub udoskonalaną przez LLM na podstawie wcześniejszych implementacji, informacji zwrotnych z oceny i kontekstu zadania. Wagi oparte na wiarygodności oraz próbkowanie z powtórzeniami koncentrują populację na obiecujących strukturach, a parametry są marginalizowane na etapie odkrywania, zamiast sprowadzać je do jednej zoptymalizowanej wartości dla każdej struktury. W pracy podziękowano za kredyty API przyznane w ramach programu AI for Science Anthropic, uruchomionego 5 maja 2025 r. z myślą o wybranych badaczach związanych z instytucjami, ze szczególnym uwzględnieniem biologii i nauk przyrodniczych.

Eksperymenty obejmowały syntetyczną dynamikę epidemiologiczną, symulator regulacji aldosteronu w nerkach oraz zadanie odkrywania struktury modelu Hodgkina–Huxleya oparte na 10 rzeczywistych zapisach napięcia. Autorzy informują, że modele neuronaukowe o dużej wadze wielokrotnie uwzględniały wolny prąd potasowy typu M, czasem wraz z innym kanałem, a ta rodzina modeli zajęła pierwsze miejsce w dziewięciu z 10 uruchomień. Ogólne wyniki ilościowe były porównywalne z FunSearch+ i wariantem z pojedynczą cząstką przy podobnych budżetach; deklarowaną zaletą jest analiza a posteriori rodzin modeli, a nie jednolita przewaga pod względem wydajności.

Interpretacja i walidacja

Udokumentowane koszty i zależności ModelSMC są równie istotne jak uzyskane wyniki. Wielokrotne symulacje i szacowanie wiarygodności wymagają dużych nakładów obliczeniowych, przy błędnej specyfikacji modelu przybliżona wiarygodność może wprowadzać obciążenie, a odkrywanie zależy od tego, czy LLM zaproponuje użyteczne struktury. Esej gościnny wskazuje też na szersze zastrzeżenie: systemy te testowano głównie pod kątem ponownego odkrywania znanych modeli, a dowodów na ich skuteczność w rozwiązywaniu problemów naukowych bez znanej odpowiedzi jest niewiele.

Autorzy uznają interpretację za najtrudniejszy etap do oddelegowania, ponieważ dopasowanie do danych można zmierzyć, podczas gdy lepsze zrozumienie nie ma równie jasno określonego celu. Zgodność między dopasowanymi modelami po zakłóceniu działania systemu wzmacnia przewidywanie, a rozbieżności ujawniają nierozstrzygnięte mechanizmy i mogą wskazać kierunek kolejnego eksperymentu. Wymóg ten staje się ważniejszy, jeśli AI znosi historyczną presję na tworzenie zwięzłych, zrozumiałych dla człowieka modeli, ponieważ większe modele zwiększają potrzebę wyraźnego określania niepewności i krótkich podsumowań mechanizmów.

Standard wyznaczony przez autorów wykracza zatem poza model, który dobrze dopasowuje się do danych: system AI powinien dokumentować dowody uzasadniające jego odpowiedź, w tym pomiary pozwalające określić każdy element, odrzucone kandydatury, nierozstrzygnięte kwestie oraz pytania, które pojawiły się w trakcie poszukiwań. Przy tak ograniczonej podstawie walidacji kluczowe pytanie brzmi, czy zachowanie rozkładów modeli wraz z historią odrzuconych alternatyw pozwala uzyskać zrozumienie w odniesieniu do rzeczywiście otwartych problemów naukowych.