Anthropicin vieraskirjoitus kehottaa tekoälyä palauttamaan tieteellisistä malleista koostuvia jakaumia

Anthropic julkaisi 6. marraskuuta 2026 vieraskirjoituksen tieteellisestä tutkimuksesta, jossa AI for Science -ohjelman apurahansaajat Jakob Macke, Daniel Gedon ja Stefan Wahl esittävät, että suurten kielimallien agenttien pitäisi palauttaa uskottavista tieteellisistä malleista painotettuja jakaumia yhden parhaiten aineistoon sopivan mallin sijaan. Kirjoittajat ovat tutkijoita ELLIS Institute Tübingenissä ja Tübingenin yliopistossa.

Keskeinen ero on havaintojen jäljentämisen ja järjestelmän ymmärtämisen välillä. Monet parametrien arvot voivat tuottaa keskenään samanlaisia tuloksia, ja sama mittausaineisto voidaan selittää erilaisilla yhtälörakenteilla. Yhden riittävän vastauksen palauttava agentti peittää siksi vaihtoehdot, jotka saattavat tukea erilaisia mekanismeja tai ennusteita.

Mallien rakentaminen, rajaaminen ja tulkinta

Kirjoituksessa tieteellinen mallintaminen jaetaan kolmeen toistuvaan vaiheeseen: mallin osien ja yhtälöiden rakentamiseen, säädettävien parametrien rajaamiseen mittausten avulla sekä sen tulkitsemiseen, mitä tulos kertoo todellisesta järjestelmästä. Historiallisena esimerkkinä on Hodgkinin ja Huxleyn hermosolumalli. He valitsivat neljännen potenssin termin, koska yksinkertaisemmat versiot sopivat heidän aineistoonsa huonommin. Huxley puolestaan käytti yli kolme viikkoa yhtälöiden ratkaisemiseen käsikäyttöisellä laskukoneella sen jälkeen, kun Cambridgen yliopiston tietokone lakkasi toimimasta vuonna 1951.

Juuri hylättyjen vaihtoehtojen historia on olennainen. Neljäs potenssi tuki hypoteesia kalvossa olevan portin useista liikkuvista osista; jos ei tiedettäisi, etteivät pienemmät potenssit toimineet, pelkkä numeerinen sopivuus ei riittäisi perustelemaan tulkintaa. Kirjoittajat käyttävät esimerkkiä määritellessään tekoälyn vaatimustason: mallinnusprosessin paljastamat asiat, myös epäonnistuneet vaihtoehdot ja jäljelle jäävä epävarmuus, on säilytettävä.

Parametrijakaumista mallijakaumiin

Bayesilainen päättely käsittelee ongelman parametriversiota esittämällä uskottavat parametriarvot todennäköisyysjakaumana, jossa huomioidaan aineiston sopivuus ja aiempi tieto. Tavanomaisia uskottavuuslaskelmia on usein vaikea toteuttaa mekanistisilla simulaattoreilla: vuoden 2020 PNAS-katsauksessa selitetään, että uskottavuus integroi implisiittisesti kaikki simulaattorin mahdolliset suorituspolut.

Simulaatioon perustuvassa päättelyssä puolestaan poimitaan parametriarvoja, suoritetaan simulaattori ja opetetaan neuroverkkoon perustuva estimaattori synteettisten tulosten avulla. SNPE-menetelmä tarvitsee suoritettavan mallin, parametreille ennakkoon asetetut rajoitteet sekä havaintoaineiston tai siitä tiivistettyjä piirteitä. Se ei edellytä uskottavuuden arviointia eikä derivoitavaa mallikoodia. Simuloidussa Hodgkin–Huxley-kokeessa yhdellä kierroksella tehtiin 100 000 simulaatiota, joiden avulla seitsemän jännitepiirteen perusteella estimoitiin kahdeksan biofysikaalista parametria. Piirteiden lisääminen kavensi posteriorijakaumaa ja osoitti, mitä parametreja havainnot rajasivat voimakkaasti ja mitä heikosti. Kun alkuvaiheen simulaatiot ja opetus on tehty, opitulla korvikemallilla voidaan arvioida uutta aineistoa tehokkaasti.

Kirjoituksessa sama ajatus ulotetaan parametreista mallirakenteisiin. Suurten kielimallien agentti voi kirjoittaa ehdokassimulaattorien koodia, suorittaa simulaattoreita, rajata niiden parametreja, verrata tuloksia havaintoihin ja muokata yhtälöitä. Erilliset ajot voivat tuottaa erilaisia mutta yhtä hyvin aineistoon sopivia rakenteita, joten ehdotettu tulos on painotettu joukko: ehdokkaiden paino kasvaa aineiston tuen mukaan, liian joustavasti sovitetut mallit saavat vähemmän painoa ja lupaavimmat ehdokkaat toimivat lähtökohtana uusille muunnelmille. Jäljelle jäävien mallien yhteiset piirteet osoittavat, mitä näyttö tukee, kun taas erimielisyydet paljastavat näytön heikkoudet ja mahdolliset seuraavat kokeet.

ModelSMC etsii suoritettavien mallien joukosta

Aiemmassa, vuonna 2026 julkaistussa ModelSMC-tutkimuksessa Wahl ja kollegat, heidän joukossaan Macke ja Gedon, muotoilivat lähestymistavan todennäköisyyspohjaiseksi päättelyksi suoritettavista simulaattoriohjelmista. Kukin ehdokas on hiukkanen, jonka suurten kielimallien agentti ehdottaa tai jota se kehittää aiempien toteutusten, arviointipalautteen ja tehtävän kontekstin perusteella. Uskottavuuteen perustuvat painot ja uudelleenotanta keskittävät joukon lupaaviin rakenteisiin, ja löytämisvaiheessa parametrit marginalisoidaan sen sijaan, että kullekin rakenteelle laskettaisiin yksi optimoitu estimaatti. Tutkimuksessa kiitetään Anthropicille kuuluvasta AI for Science -ohjelmasta saatuja API-käyttöhyvityksiä. Ohjelma käynnistettiin 5. toukokuuta 2025 valituille tutkimuslaitoksiin kytköksissä oleville tutkijoille, ja siinä keskitytään erityisesti biologiaan ja biotieteisiin.

Kokeissa tarkasteltiin synteettistä epidemiologista dynamiikkaa, munuaisten aldosteronisäätelyn simulaattoria sekä Hodgkin–Huxley-mallin rakenteen tunnistamistehtävää, jossa käytettiin 10 todellista jännitetallennetta. Kirjoittajien mukaan suuren painon saaneet neurotieteelliset mallit lisäsivät toistuvasti M-tyypin hitaan kaliumvirran, toisinaan yhdessä toisen ionikanavan kanssa, ja tämä malliperhe sijoittui ensimmäiseksi yhdeksässä kymmenestä ajosta. Kokonaisuutena määrällinen suorituskyky oli verrattavissa FunSearch+:aan ja yhden hiukkasen muunnelmaan vastaavilla laskentaresursseilla; väitetty etu on malliperheiden posteriorijakaumien analysointi, ei tasainen johto suorituskyvyssä.

Tulkinta ja validointi

ModelSMC:n dokumentoidut kustannukset ja riippuvuudet ovat yhtä tärkeitä kuin sen tulokset. Toistuvat simulaatiot ja uskottavuuden estimointi vaativat paljon laskentatehoa, approksimoidut uskottavuusfunktiot voivat aiheuttaa harhaa mallin virheellisen määrittelyn yhteydessä, ja löydösten tekeminen riippuu siitä, ehdottaako suuri kielimalli hyödyllisiä rakenteita. Vieraskirjoituksessa esitetään lisäksi laajempi varaus: näitä järjestelmiä on testattu pääasiassa tunnettujen mallien uudelleenlöytämisessä, ja näyttö niiden toimivuudesta tieteellisissä ongelmissa, joihin ei tunneta vastausta, on vähäistä.

Kirjoittajien mukaan tulkinta on vaikein vaihe delegoida, sillä aineiston sovituksen onnistumista voidaan mitata, kun taas ymmärryksen lisääntymiselle ei ole yhtä selkeää tavoitetta. Kun järjestelmään tehdään häiriö, sovitettujen mallien yksimielisyys vahvistaa ennustetta, kun taas erimielisyys tuo esiin ratkaisemattomia mekanismeja ja voi ohjata seuraavaa koetta. Tämä vaatimus korostuu, jos tekoäly poistaa aiemmin vallinneen paineen suosia tiiviitä, ihmiselle ymmärrettäviä malleja, sillä suuremmat mallit lisäävät tarvetta ilmaista epävarmuus selkeästi ja laatia lyhyitä mekanistisia yhteenvetoja.

Kirjoittajien asettama vaatimustaso ylittää siis pelkän mallin, joka sopii aineistoon: tekoälyjärjestelmän pitäisi dokumentoida vastauksensa taustalla oleva näyttö, mukaan lukien mittaukset, jotka määrittävät kunkin osatekijän, epäonnistuneet ehdokkaat, jäljelle jäävän epävarmuuden ja haun aikana esiin nousseet kysymykset. Kun validointipohja on näin rajallinen, ratkaiseva kysymys on, tuottaako mallijakaumien säilyttäminen yhdessä hylättyjen vaihtoehtojen historian kanssa ymmärrystä aidosti avoimista tieteellisistä ongelmista.