Anthropic, 직원과 유사한 접근 권한으로 METR 평가자 6명 합류

Anthropic은 2026년 10월 15일, 최첨단 AI 모델을 평가하는 비영리단체 METR의 팀을 회사에 상주시켜 직원과 유사한 접근 권한을 제공하기 시작했다고 발표했다. METR 직원 6명은 회사 하드웨어와 사무 공간을 제공받고 내부 도구와 시스템에 접근할 수 있게 됐다.

이번 발표는 Anthropic이 2026년 9월 자사 모델과 안전 관행에 대한 독립적인 제3자 평가를 강화하겠다고 약속하고, 기업들이 독립적인 외부 감사자나 평가자와 협력하기로 서약한 백악관 초지능 협약에 서명한 데 이은 것이다. Anthropic은 지난 1년 동안 METR과 위험 보고서에 대한 여러 차례의 검토를 진행했다고 밝혔다.

직원과 유사한 접근 권한의 조건

Anthropic은 상주 평가팀의 내부 도구와 시스템 접근 권한이 자사 위험 평가팀의 권한과 대체로 비슷하다고 밝혔다. 명확하게 규정된 소수의 범주, 즉 고객 데이터, 변호사와 의뢰인 간 비밀유지 특권이 적용되는 정보, 모델 아키텍처 정보는 제외된다. 그 밖의 정보는 Anthropic 직원들이 정렬 위험을 담당하는 동료 직원에게 공유하듯 평가팀과 공유하도록 권장된다.

발표문 각주에는 아키텍처 정보가 예외로 분류된 이유가 설명돼 있다. 은행 검사관과 마찬가지로 평가자도 다른 회사와 일할 수 있으므로, Anthropic은 의도치 않은 정보 유출 가능성에 주의를 기울인다고 밝혔다. 아키텍처 정보는 의도치 않은 유출 위험이 높고 위험 평가와의 관련성은 대체로 낮다. 아키텍처 정보가 매우 중요한 경우 Anthropic은 일반적으로 해당 정보를 공유하려 하겠지만, 그러려면 내부의 명시적인 승인이 필요하다.

이번 협약의 발표 조건에 따라 METR은 Anthropic의 위험 수준과 사고, 관행에 대한 분석을 발표한다. Anthropic은 발표를 거부할 수 없지만, 범위가 좁고 사전에 정해진 범주에 해당하는 정보는 METR에 삭제를 요구할 수 있다. METR은 삭제된 정보를 공개하지 않는 한 삭제 조치를 공개적으로 설명하고, 그 조치가 정당했다고 보는지 밝힐 수 있다.

이번 협력은 구속력 있는 협약에 따라 활동하는 소규모 팀으로 한정되며, 다른 METR 직원들은 물론 다른 프로젝트에서 Anthropic과 협력하는 연구자들도 상주 평가팀의 업무와 분리된다. Anthropic은 상주 평가를 자사의 보안 기준에 따라 일하는 소수의 자격 있는 인력에게 회사 운영을 가까이서 살펴볼 기회를 주는 방식이라고 설명했다. 또한 이는 다른 조직이 Anthropic이나 고객, 파트너의 정보를 얻도록 하는 수단이 아니라고 밝혔다.

독립 평가가 필요한 이유에 대한 Anthropic의 설명

모델이 더욱 강력해지면서 더 강력한 안전장치와 더 까다로운 위험 평가가 필요해졌다고 회사는 밝혔다. Anthropic은 현재 내리는 결정에 대해 대중에게 책임을 지고 싶지만, 안전 업무와 관련된 모든 정보를 공개할 수는 없다고 말했다. 일부 정보는 악의적인 행위자에게 유용할 수 있고, 컴퓨팅 자원이나 학습 정보처럼 상업적으로 민감할 수 있기 때문이다. 이에 따라 제3자 평가자에게 자사 정보에 대한 심층적인 접근을 허용하고, 모델 개발에 따르는 위험에 대해 근거 자료와 논리적인 결론을 공유하도록 하고 있다. 이를 통해 최첨단 AI 기업의 시스템에 대해 평가자가 파악한 내용과 기업 스스로 파악한 내용 사이의 격차를 좁히려는 것이다.

발표문은 평가자가 최첨단 모델을 평가하는 데 필요한 네 가지 요소를 제시한다. 최첨단 모델의 역량을 평가하는 전문성으로, 정렬을 가장하는 행위처럼 평가가 잘못될 수 있는 방식을 이해하는 것도 포함된다. 독립성도 필요하다. 평가 대상 기업의 지분을 보유해서는 안 되며, 그 기업에 재정적으로나 운영상으로 의존해서도 안 된다. 또한 위험을 실질적으로 평가하기에 충분한 접근 권한이 필요하다. 여기에는 최신 모델뿐 아니라 해당 모델의 학습 방식과 안전장치의 작동 방식에 대한 파악도 포함된다. 마지막으로 모델이나 절차에 대한 관찰과 평가를 자유롭게 발표할 수 있어야 한다.

Anthropic은 은행 감독에 비유하면서도 이 비유가 완전히 들어맞지는 않는다고 인정했다. 은행은 외부인보다 자사의 위험 노출 상황을 더 잘 파악하고 있으므로, 규제 당국은 대형 은행에 상주 검사관을 배치한다. 또한 은행의 위험 감수가 대중을 위협할 수 있다면, 제3자는 이를 사전에 파악하려고 한다.

세 단계의 접근 권한

Anthropic은 평가자를 위한 접근 권한을 세 단계로 마련하고 있다고 밝혔다. 1단계에서는 평가자가 범위가 좁게 설정된 위험 조사를 수행한다. Anthropic이 제공할 접근 권한을 결정하며, 평가자는 Anthropic의 승인을 받아 조사 결과를 발표할 수 있다. 2단계에서는 평가자가 Anthropic의 승인 없이 발표할 수 있고 더 많은 정보에 접근할 수 있다. 다만 Anthropic은 특정 범주의 정보를 삭제하도록 요구할 수 있으며, 평가자는 삭제 조치가 정당했는지에 대한 의견을 발표할 수 있다. 3단계는 METR과 맺은 협약으로, 직원과 유사한 접근 권한을 제공하고 발표 권한은 2단계와 비슷한 수준으로 보장한다.

Anthropic은 시간이 지나면 여러 평가팀이 3단계에 참여해 각자 자사의 위험 태세와 주요 결정에 대한 분석을 발표하기를 바란다고 밝혔다.

SecureBio, Accenture 및 초기 단계 협의

SecureBio는 현재 첫 번째 단계에 있습니다. 이전 위험 보고서에 대한 시범 검토를 마치고 그 결과를 공개한 데 이어, Anthropic의 2026년 8월 위험 보고서에서 화학·생물학 무기 관련 장을 검토하고 있습니다. Anthropic은 이 검토가 끝나면 더 많은 접근 권한과 공개 권한이 주어지는 프로젝트로 옮기는 방안을 검토하겠다고 밝혔습니다.

Anthropic은 Accenture 및 Faculty와 함께 모델 평가와 레드팀 테스트, 정렬 평가 수행, 모델 안전장치 테스트, 각 조직의 역량 강화 등을 포함하는 파트너십을 추진하고 있다고 밝혔습니다.

Anthropic은 Hugging Face를 비롯한 여러 다른 조직과도 초기 논의를 진행하고 있다고 밝혔습니다. 이러한 파트너십은 아직 초기 단계이므로, Anthropic은 평가자들에게 더 제한적인 정보를 제공하고 있으며 이들의 공개 권한도 더 제한적입니다. 이는 파트너들이 기밀 정보를 보호하고 필요한 자원과 전문성을 갖추고 있는지 Anthropic이 확인하는 동안 적용됩니다. 파트너십이 진전되고 신뢰가 쌓이면 더 많은 독립 평가자를 완전히 참여시키는 것이 목표라고 Anthropic은 밝혔습니다.

9월의 약속

2026년 9월, Anthropic의 공동 창업자 Dario Amodei는 「최전선의 속도를 조절해야 한다」라는 에세이를 발표했습니다. 이 글은 직원과 유사한 접근 권한을 가진 상주 평가자를 최첨단 AI 개발 속도를 조절하기 위한 3단계 계획의 첫 단계로 제시했습니다. Amodei는 Anthropic이 이 단계를 일방적으로 약속하며, 각국 정부에 다른 최첨단 기업에도 이를 따르도록 요구하라고 촉구했습니다. 그는 “AI 모델의 역량을 향상하는 속도를 늦춰야 한다”며, 그래야 위험 예방이 역량 발전을 따라잡을 시간을 확보할 수 있다고 썼습니다.

이 에세이에 따르면 Anthropic은 외부 검토팀을 상주시키려 합니다. 검토팀에는 사무실 내 책상과 출입 배지, 회사 노트북이 제공됩니다. 또한 내부 위험 평가팀이 보유한 권한과 대체로 비슷한 수준으로 업무 공간과 도구, 권한에 접근할 수 있습니다. 다만 법률이나 계약에 따라 필요한 경우 또는 고객과 파트너의 비공개 정보를 보호해야 하는 경우에는 예외가 적용됩니다. 외부 검토자는 위험 수준과 사고, 관행, 자신이 받은 접근 권한 또는 받지 못한 접근 권한에 관한 주요 조사 결과를 발표할 권리를 갖는 계약을 맺으며, Anthropic은 발표 내용을 편집할 권한을 갖지 않습니다. 이러한 예정된 조건에 따라 Anthropic은 보안에 민감하거나 법률상 비밀유지 특권이 적용되거나 상업적으로 민감한 정보, 또는 제3자의 기밀 정보를 제한적으로 삭제할 수 있습니다. 그러나 조사 결과가 Anthropic에 불리하다는 이유만으로 이를 삭제할 수는 없으며, 검토자는 삭제로 인해 결론에 중요한 내용이 빠졌다고 판단하면 그 사실을 공개적으로 밝힐 수 있습니다.

Anthropic은 평가자를 자발적으로 상주시킨다고 밝혔으며, 모든 최첨단 AI 기업도 그래야 한다고 생각한다고 했습니다. 여러 평가자와 신속하게 협력하고 있고, 어떤 형태의 파트너십이 효과적인지 적극적으로 배우고 있으며, 진행 상황을 계속 공유할 계획이라고 밝혔습니다.