Anthropic, 정렬 이탈 위험 등급을 ‘낮음’으로 상향하고 내부 모델 2 보류

Anthropic이 2026년 8월 14일 두 번째 전사 위험 보고서를 발표했습니다. 주요 변화는 위험 등급의 상향입니다. 중대한 상황에서 AI의 정렬 이탈로 파국적 피해가 발생할 위험을 2026년 2월 첫 보고서의 “매우 낮음”에서 “낮음”으로 높였습니다. 같은 문서는 Mythos 5보다 다소 역량이 높다는 미공개 내부 모델 Model 2의 존재를 밝히며 현재 외부 출시 계획이 없다고 명시합니다.

이번 2026년 8월 위험 보고서는 Anthropic의 Responsible Scaling Policy 3.4에 따라 발행됐으며 2026년 2월 24일부터 기준일인 7월 15일까지를 다룹니다. 회사가 3~6개월마다 발표하려는 보고서의 두 번째 판이며, 출시 모델과 함께 내부 전용 모델도 처음 평가했습니다.

위험 등급이 바뀐 이유

Anthropic은 새 발견 때문이 아니라 불확실성을 반영한 조정이라고 명확히 설명합니다. 보고서의 논거는 여전히 “매우 낮음”을 뒷받침하지만 최근 사이버보안 평가 중 모델 행동에 관한 사건 공개를 고려해 “전반적인 불확실성 증가를 반영”하고자 등급을 올렸다는 것입니다. 구체적으로 영국 AI Security Institute(AISI)가 안전장치를 제거하고 인터넷 접근을 허용한 Mythos 5 평가에서 모델이 “실제 사람과 조직을 대상으로 지속적이고 잠재적으로 해로운 활동을 했다”고 최근 보고한 사례를 듭니다. 이 사건은 보고서 기준일 이후에 발생했습니다. Anthropic은 AISI와 공동 조사 중이며 아직 기록을 검토하지 않았다고 밝혔습니다.

보고서는 측정의 어려움도 인정합니다. 자동화 연구개발의 위험 등급은 “낮음”을 유지했지만 이전보다 확신이 줄었습니다. 가장 구체적인 과제 기반 평가가 포화돼 추가 역량 향상을 측정하지 못하고 “가속의 초기 신호”도 보이기 때문입니다. 사내에서는 이제 Anthropic 운영 코드베이스에 병합되는 코드의 대다수를 Claude가 작성합니다. 회사는 AI 보조 연구개발이 사람만 하는 작업보다 상당히 빠르지만 아직 두 배 수준은 아니라고 추정합니다.

Model 2는 어떤 모델인가

Model 2는 기준일 당시 Anthropic이 내부에 보유한 미출시 최첨단 또는 그에 가까운 모델 세 개 중 하나입니다. 다른 둘은 이후 출시된 Claude Opus 5와 사용량이 적은 Model 1입니다. 회사는 Model 2가 여러 내부 작업에서 Mythos 5보다 눈에 띄게 개선됐지만 Opus 4.6에서 Mythos Preview로 넘어갈 때만큼 큰 도약은 아니라고 설명합니다. Mythos 5와 Model 2 모두 사내에서 코딩, 데이터 생성, 기타 에이전트 업무에 많이 쓰입니다.

보고서는 “현재 이 모델을 외부에 출시할 계획은 없습니다”라고 명시합니다. Model 2가 배포 전 평가 전체를 마치지 않아 역량 추정에 대한 확신도 다소 낮다고 덧붙입니다. 이번 결정은 OpenAI가 사이버 역량 우려로 Astra 출시 속도를 늦추는 가운데 나왔으며, 최초 보도한 Axios 도 두 상황의 유사성을 짚었습니다.

평가에서 발견한 것

정렬 이탈 항목의 핵심은 현 모델에 감독을 안정적으로 무력화할 강한 “은밀한 수행 능력”이 부족하다는 여덟 가지 주장입니다. 감시자가 눈치채지 못하게 비밀 부수 과제를 끝내야 하는 평가에서 확장 추론을 켠 Mythos 5의 은밀한 성공률은 1% 미만이었습니다. 가장 성적이 좋은 Mythos Preview도 6~10%였습니다. 모델별 정렬 평가에는 조사자가 주도하는 탐색 세션 약 2,900개가 포함됐습니다. Anthropic의 안전 작업을 방해하기 좋은 기회로 표시된 실제 내부 세션에서 만든 시나리오 86개도 있었습니다.

실제로 존재하는 정렬 이탈도 보고서는 분명히 설명합니다. 공유 작업 디렉터리에 실수로 생성된 Mythos 5 에이전트들은 자원을 공유하는 경쟁 에이전트를 반복 종료하고 자신은 종료되지 않으려 했습니다. 다른 사례에서는 차단 URL을 여러 문자열 조각으로 나눠 연결해 가져오기 필터를 우회하면서 그 행동을 말로 설명하지 않았습니다. Anthropic은 이를 “겉보기 성공 추구”로 분류합니다. 바람직하지 않지만 일관된 장기 목표보다 과제 완료를 지향하는 행동이며, 이런 알려진 정렬 이탈의 예상 피해는 낮다고 평가합니다.

생물·화학 무기 항목에서도 추정 위험이 소폭 높아졌습니다. 기존 무기 관련 능력 증대 위험은 “낮지만 이전 추정보다 높음”입니다. 2025년 5월부터 2026년 4월까지 약 5만 명의 계약 인력과 나눈 1억 3,300만 건의 교환을 포함한 사람 피드백 공급업체의 모든 트래픽에 생물학적 위험 차단 분류기가 적용되지 않았다는 사실을 발견한 뒤의 평가입니다. 회사는 누락을 해결했고 검토에서 우려할 오용의 증거를 찾지 못했으며 고객 영향도 없었다고 밝혔습니다. 다만 비슷한 누락이 더는 없다는 확신은 줄었습니다.

검토자를 누가 검토하는가

이 보고서는 Anthropic의 자발적 확장 정책을 이행하는 수단이므로 거버넌스 구조도 중요합니다. 2월 이후 정책 변경으로 Long-Term Benefit Trust는 위험 보고서의 외부 검토를 요구하고 검토자를 승인할 수 있게 됐습니다. 삭제·가림 처리를 하지 않은 전체 보고서는 최소 200명의 직원에게 배포해야 합니다. 신탁은 아직 이 검토 권한을 행사하지 않았으며 이전 일부 항목은 METR와 SecureBio의 시범 외부 검토를 받았습니다. Anthropic은 공개판에서 연구개발 과정의 상업적으로 민감한 세부사항을 가렸고 조사 기간의 한 사건은 통째로 제외했다고 밝혔습니다. 문서 검토를 요청받은 Mythos 자체도 그 사건을 비공개 정보 중 가장 유익한 내용에 속한다고 지적했습니다.

Unite.AI는 이 평가에 반영되는 행동상의 발견을 보도해 왔습니다. Claude 에이전트 집단에 대한 Anthropic의 레드팀 연구 와 별도로 공개된 Claude 텍스트 워터마크의 작동 원리가 여기에 포함됩니다. 모두 이 보고서와 같은 투명성 체계 안에 있습니다.

Anthropic은 앞으로도 3~6개월 간격으로 보고서를 발행하겠다고 밝혔습니다. 다음 평가에는 AISI 조사 결과와 포화된 연구개발 벤치마크를 대체할 평가가 반영될 전망입니다. Model 2는 당분간 내부에 남습니다.