Anthropic의 객원 에세이, AI가 과학 모델의 여러 가능성을 제시해야 한다고 촉구

Anthropic은 2026년 11월 6일 객원 연구 에세이를 발표했다. 이 글에서 AI for Science 지원금을 받은 Jakob Macke, Daniel Gedon, Stefan Wahl은 LLM 에이전트가 가장 잘 맞는 단일 모델 대신, 가능성 있는 과학 모델들의 가중 분포를 제시해야 한다고 주장한다. 저자들은 ELLIS Institute Tübingen과 University of Tübingen의 연구자다.

핵심은 관측 결과를 재현하는 것과 시스템을 이해하는 것을 구분하는 데 있다. 여러 매개변수 설정이 서로 동등한 출력을 낼 수 있고, 서로 다른 방정식 구조가 동일한 측정값을 설명할 수도 있다. 따라서 에이전트가 충분히 타당한 답 하나만 제시하면, 다른 메커니즘이나 예측을 뒷받침할 수 있는 대안은 드러나지 않는다.

모델의 구축, 제약 설정, 해석

이 에세이는 과학 모델링을 반복되는 세 단계로 나눈다. 모델의 구성 요소와 방정식을 만들고, 측정값을 바탕으로 조정 가능한 매개변수의 범위를 제한한 다음, 결과가 실제 시스템에 관해 무엇을 말해 주는지 해석하는 단계다. 역사적 사례로는 Hodgkin과 Huxley의 신경세포 모델을 든다. 두 연구자는 단순한 형태의 모델이 데이터를 덜 잘 설명했기 때문에 4제곱항을 선택했다. 한편 Huxley는 1951년 Cambridge University의 컴퓨터가 고장 난 뒤 손으로 크랭크를 돌리는 계산기를 사용해 방정식을 푸는 데 3주 넘게 걸렸다.

배제된 대안의 이력이 핵심이다. 4제곱항은 막의 관문에서 여러 요소가 움직인다는 가설을 뒷받침했다. 더 낮은 차수의 항들이 실패했다는 사실을 몰랐다면 수치적 적합도만으로는 그런 해석을 정당화할 수 없었을 것이다. 저자들은 이 사례를 통해 AI가 지켜야 할 기준을 제시한다. 모델링 과정에서 드러난 정보, 즉 실패한 후보와 여전히 남아 있는 불확실성까지 보존해야 한다는 것이다.

매개변수 분포에서 모델 분포로

베이지안 추론은 데이터 적합도와 사전 지식에 근거해 가능성 있는 설정을 확률분포로 나타냄으로써 매개변수 차원의 문제를 다룬다. 기계론적 시뮬레이터에서는 기존의 우도 계산을 수행하기 어려운 경우가 많다. 2020년 PNAS 리뷰는 우도를 계산하려면 시뮬레이터를 통과하는 가능한 모든 실행 경로를 암묵적으로 적분해야 한다고 설명한다.

시뮬레이션 기반 추론은 대신 매개변수를 표집하고, 시뮬레이터를 실행한 뒤, 생성된 출력으로 신경망 추정기를 학습시킨다. SNPE 방법에는 실행 가능한 모델, 사전에 설정한 매개변수 제약 조건, 관측 데이터 또는 요약 특성이 필요하지만, 우도 계산이나 미분 가능한 모델 코드는 필요하지 않다. Hodgkin-Huxley 모델을 시뮬레이션한 실험에서는 한 차례의 추론에 시뮬레이션 100,000회를 사용해 전압 특성 7개로부터 생물물리학적 매개변수 8개를 추정했다. 특성을 추가하면 사후분포의 범위가 좁아져 관측값이 어떤 매개변수를 강하게 또는 약하게 제약하는지 드러났다. 초기 시뮬레이션과 학습 단계를 마친 뒤에는 학습된 대리모델로 새 데이터를 효율적으로 평가할 수 있다.

이 에세이는 이러한 논리를 매개변수에서 모델 구조로 확장한다. LLM 에이전트는 후보 시뮬레이터 코드를 작성하고 실행한 다음, 매개변수에 제약을 설정하고 출력을 관측값과 비교해 방정식을 수정할 수 있다. 별도로 실행한 결과, 서로 다르지만 똑같이 타당한 구조가 나올 수 있으므로 제안하는 출력은 가중치가 부여된 후보군이다. 데이터의 뒷받침을 받는 후보는 더 높은 가중치를 얻고, 지나치게 유연하게 데이터를 맞춘 후보는 낮은 평가를 받으며, 더 유력한 후보는 추가 변형을 만드는 출발점이 된다. 살아남은 모델들이 공유하는 특징은 증거가 어느 쪽을 지지하는지 보여 주고, 모델 간의 불일치는 증거가 부족한 지점과 다음에 수행할 수 있는 실험을 가리킨다.

ModelSMC, 실행 가능한 모델을 탐색하다

2026년 초 발표된 ModelSMC 논문에서 Wahl과 동료들은 Macke와 Gedon을 포함해 이 접근법을 실행 가능한 시뮬레이터 프로그램에 대한 확률적 추론 방법으로 정식화했다. 각 후보는 LLM이 선행 구현, 평가 피드백, 과제 맥락을 바탕으로 제안하거나 개선하는 입자다. 우도 기반 가중치와 재표집을 통해 유망한 구조에 후보군을 집중시키며, 구조마다 최적화된 추정치 하나로 축약하는 대신 탐색 과정에서는 매개변수를 주변화한다. 이 연구는 2025년 5월 5일에 출범한 Anthropic의 AI for Science 프로그램을 통한 API 사용 크레딧에 감사를 표한다. 이 프로그램은 특정 기관에 소속된 연구자들을 선정해 지원하며, 특히 생물학과 생명과학에 중점을 둔다.

실험에는 합성 역학 데이터, 신장의 알도스테론 조절 시뮬레이터, 실제 전압 기록 10개를 이용한 Hodgkin-Huxley 구조 탐색 과제가 포함됐다. 저자들은 가중치가 높은 신경과학 모델에 M형 지연성 칼륨 전류가 반복적으로 추가됐고, 때로는 다른 채널과 함께 추가됐으며, 이러한 모델군이 10회 실행 중 9회에서 1위를 차지했다고 보고한다. 전체 정량적 성능은 비슷한 예산을 투입했을 때 FunSearch+ 및 단일 입자 변형 모델과 비슷했다. 저자들이 내세우는 장점은 일관되게 더 높은 성능이 아니라 모델군의 사후 분석이다.

해석과 검증

ModelSMC의 문서화된 비용과 의존성은 결과만큼이나 중요하다. 시뮬레이션과 우도 추정을 반복하면 계산 비용이 많이 들고, 모델이 잘못 설정된 경우 대리 우도가 편향을 일으킬 수 있으며, 유용한 구조를 LLM이 제안해야만 탐색이 가능하다. 객원 에세이는 더 큰 한계도 지적한다. 이러한 시스템은 대부분 이미 알려진 모델을 재발견하는 과제에서 시험됐으며, 정답이 알려지지 않은 과학 문제에서도 작동한다는 증거는 드물다.

저자들은 데이터 적합도는 측정할 수 있지만 이해가 향상됐는지를 판단할 만큼 명확한 기준은 없기 때문에, 해석을 위임하기가 가장 어렵다고 말한다. 시스템에 교란을 가한 뒤 적합한 모델들이 서로 일치하면 예측의 신뢰성이 높아지는 반면, 모델 간 불일치는 아직 밝혀지지 않은 메커니즘을 드러내고 다음 실험의 방향을 제시할 수 있다. AI가 간결하고 사람이 읽기 쉬운 모델을 추구해 온 기존의 압박을 완화한다면, 이러한 요구는 더욱 중요해진다. 더 큰 모델일수록 불확실성을 명시하고 메커니즘을 간결하게 요약할 필요가 커지기 때문이다.

따라서 저자들이 제시하는 기준은 데이터에 잘 들어맞는 모델을 만드는 데 그치지 않는다. AI 시스템은 답변을 뒷받침하는 근거를 문서화해야 하며, 여기에는 각 구성 요소를 확정하는 측정값, 실패한 후보, 해소되지 않은 불확실성, 탐색 과정에서 새로 제기된 질문이 포함된다. 검증 사례가 제한적인 상황에서 핵심은 모델 분포를 보존하고 기각된 대안의 이력을 함께 기록하는 것이, 답이 아직 정해지지 않은 과학 문제에 대한 이해를 높이는지 여부다.