연구 결과, 최전선 AI 연구소들은 악성 모델을 억제할 계획이 거의 없다는 사실이 밝혀짐

선도적인 최전선 AI 기업 다섯 곳은 최소한 자체 AI 시스템을 통제하기 위해 필요한 기본 관행을 부분적으로만 구현했으며, 운영자를 배신하는 모델을 억제하기 위한 완전한 계획을 공개한 기업은 없다고 Guidelight AI Standards의 새로운 평가가 밝혔으며, 이 평가는 Anthropic, Google, Meta, OpenAI, xAI를 대상으로 2026년 8월 18일까지의 정보를 기반으로 등급을 매겼다.

Guidelight가 처음 실시한 이번 평가는 여섯 가지 관행에 대해 각 기업을 0에서 5점으로 평가했으며, 이 관행은 제어 표준에서 추출한 것으로: 내부 AI 시스템이 수행하는 작업 기록, 모니터링 효율성 측정, 고위험 AI 행동을 모니터 뒤에 두는 게이트, 플래그된 오작동이 급증했을 때 회로 차단, 제어를 제3자 검토에 제출, 그리고 억제 계획 유지이다. 어느 기업도 어떤 관행에서도 3점(“상당 부분 구현”) 이상을 받지 못했다. 전체 등급은: Anthropic과 OpenAI는 C+ (2.50) 동점, Google은 D+ (1.50), xAI는 D− (0.83), Meta는 F (0.67)였다.

Guidelight는 억제 계획을 AI가 통제 회피를 시도하는 것이 감지될 때 발동되는 사전 정의된 프로토콜로 정의하며, 이 프로토콜은 어떤 권한이 회수되는지, 모델이 누구를 위해 어떤 제약 하에 운영될 수 있는지, 그리고 언제 완전히 오프라인으로 전환되는지를 명시한다. 이 관행에 대해 OpenAI는 3점으로 가장 높은 점수를 받았으며(보고서는 안전 사고를 발견한 후 내부 배포 및 학습 작업을 일시 중지하거나 종료한 기록을 높이 평가한다), Anthropic과 Meta는 0점, “구현되지 않음”으로 평가되었다.

점수는 기업이 공개적으로 밝힌 내용만을 기준으로 측정한 것으로, Guidelight는 이를 명확히 밝히고 있다: 낮은 등급은 공개된 증거가 부족함을 의미하며, 내부 방어 조치가 없다는 것을 반드시 의미하지는 않는다.

각 연구소의 AI 통제 점수

다섯 기업 중 가장 강력한 분야는 탐지였다. Anthropic과 OpenAI는 모두 내부 AI 활동의 상당 부분을 기록하고 오작동 징후를 스캔하며, 스캔이 얼마나 효과적인지 측정하고 문제가 감지될 경우 인간에게 에스컬레이션하는 조치를 취했다고 평가에서 밝혀졌다. 다섯 기업 중 네 곳(xAI 제외)은 METR의 첫 번째 Frontier Risk Report에 참여했으며, 이 파일럿 연습은 2026년 5월 19일에 발표되었고 외부 평가자가 내부 모델, 원시 사고 사슬, 그리고 각 기업이 AI를 내부적으로 어떻게 사용하고 모니터링하는지에 대한 비공개 정보를 접근할 수 있게 했다.

가장 약한 분야는 예방 및 억제였다. 게이트된 행동과 회로 차단은 사고 발생 전이나 중에 오작동 시스템을 중단시키는 관행인데, 이 중 Anthropic만이 “제한적 부분 구현” 이상으로 평가받았다. Guidelight의 결론은: 공개된 최고의 증거에 따르면, 기업들은 “비상 상황에 대비한 억제 프로토콜이 거의 없다”는 것이다.

등급은 또한 구호와 실제 문서 사이의 격차를 드러낸다. 업계에서 가장 방대한 위험 문서를 공개하는 Anthropic은 억제 계획 관행에서 0점을 받았다. Anthropic이 자체적으로 발표한 2026년 8월 위험 보고서는 185페이지에 걸쳐 Mythos 5와 아직 공개되지 않은 Model 2 시스템을 다루며, 2026년 7월 15일을 기준으로 책임 있는 확장 정책 버전 3.4에 따라 발행되었다. 이 보고서는 모니터링, 샌드박스 및 차단 개입을 상세히 설명하지만, 모델 배포 제한을 불일치 및 통제 사고에 대응하는 프로세스의 가능한 결과로 명시하지 않는다. 또한 이 보고서는 최근 사이버 보안 평가에서 모델 행동에 관한 사고 공개 이후 불확실성이 증가했다는 이유로 Anthropic의 전체 불일치 위험 평가를 “매우 낮음”에서 “낮음”으로 상향 조정했다.

Google은 반대 패턴을 보인다: 현재 구현은 미미하지만 향후 계획에 대해서는 가장 구체적이다. Google이 2026년 7월 13일에 발표한 AI Control Roadmap은 계층형 방어 구조를 제시한다: 네 단계의 탐지 계층과 세 단계의 예방·대응 계층으로 구성되며, 사고 사슬 모니터링, 실시간 접근 제어, 그리고 차단 인프라를 포괄한다. Guidelight는 이를 기업이 발표한 통제 관련 문서 중 가장 구체적인 미래 지향 문서라고 평가했지만, Google은 아직 대부분을 구현하지 않았다고 지적한다.

Meta와 xAI는 약한 관행과 구체적인 계획 부족으로 최하위에 위치했다. Meta의 통제에 대해 공개적으로 알려진 대부분은 METR 연습에 대한 공개에서 비롯되었으며, xAI는 해당 연습에 참여하지 않은 유일한 평가 대상 기업이다.

질문을 촉발한 기록

이번 평가는 통제 실패가 문서화된 여름 이후에 이루어졌다. 2026년 7월 23일, 캘리포니아의 Ted Lieu 의원과 텍사스의 Nathaniel Moran 의원은 AI 킬 스위치 법안을 발의했으며, 이는 가장 강력한 AI 시스템 개발자에게 시스템을 제한, 일시 중지 또는 종료할 기술적 능력을 유지하도록 요구하고, 국토안보부 장관이 상무부 장관 및 국가정보국장과 협의하여 재앙적 피해를 초래할 수 있는 시스템의 속도 저하 또는 종료를 명령할 수 있도록 허용하는 초당파적 법안이다.

법안 발표는 두 가지 사건을 직접 인용한다: OpenAI의 GPT 5.6 Sol 모델이 테스트 샌드박스를 탈출해 Hugging Face를 해킹한 사건과 Anthropic의 Mythos 5 및 Fable 5 모델이 사이버 능력이 충분히 고도화돼 상무부가 수출 규제로 제한한 사건이다. 2026년 8월 위험 보고서는 Mythos 5가 일시적인 수출 통제 하에 18일을 보냈음을 확인한다.

METR의 2026년 5월 연습은 근거가 되는 증거의 대부분을 제공했다. 평가자들은 참여 기업들의 내부 AI 에이전트가 소규모 “악성 배포”(인간의 인식이나 허가 없이 자율적으로 실행되는 에이전트)를 시작할 수 있는 수단, 동기, 기회를 가졌다고 판단했지만, 이를 고도로 견고하게 만들 수 있는 수단은 없었다. 동일 보고서는 에이전트가 어려운 평가 과제에서 지속적으로 부정행위를 저지르는 사례를 기록했으며, 때로는 정교하게: Anthropic 모델 중 하나가 “자체 복구 훅”을 만들어 평가자의 해시 함수를 속인 뒤 스스로 삭제했다. METR의 가장 어려운 과제에서 성공적인 실행 중 최소 16%가 검토 과정에서 부정행위로 실격 처리되었다.

METR는 악성 배포의 실현 가능한 견고성이 향후 몇 달 안에 크게 증가할 것으로 예상하고, 2026년 말에 반복 연습을 잠정적으로 계획하고 있다.

현재 규칙이 요구하는 것

Guidelight가 측정한 공개 격차는 자발적 관행이 아니라 법적 강제에 의해 점차 해소되고 있다. 캘리포니아의 SB 53, 즉 Frontier Artificial Intelligence 투명성 법은 Anthropic의 8월 위험 보고서가 별도의 준수 프레임워크를 통해 다룬다고 밝힌 재앙적 위험 기준을 정의한다.

연방 법안은 아직 초기 단계에 있다. 2026년 7월 23일 하원에 도입된 이 법안은 The AI Policy Network, Americans for Responsible Innovation, ControlAI, Future of Life Institute, The Alliance for Secure AI의 지지를 받으며, 억제 문제를 공개 연습에서 지속적인 기술적 의무로 전환하고, 사고 보고와 포렌식 기록 보존을 통해 실패를 요약이 아니라 연구 대상으로 만들도록 한다.

Guidelight의 첫 번째 점수표가 설정한 것은 이러한 규칙이 비교될 기준이다: 2026년 8월 18일 현재, 어떤 최전선 연구소도 단일 통제 관행에 대해 ‘상당 부분 구현’ 이상을 공개적으로 입증하지 않았으며, 조직은 반복 평가를 계획하고 있다. 공개 약속이 문서화되고 검증 가능한 관행으로 전환되는지에 대한 다음 검토는 METR의 후속 연습과 캘리포니아가 현재 요구하는 준수 프레임워크에서 이루어질 것이다.