Anthropic 정책 책임자: AI 안전은 명예 규범에 의존할 수 없다

Anthropic의 공공 정책 책임자 Sarah Heck은 2026년 9월 16일 워싱턴 D.C.에서 열린 POLITICO’s Decoded Summit에서 AI 기업들이 명예 규범에 따라 스스로를 감시하도록 내버려 둘 수 없으며, 존재론적 AI 위험을 다루는 정부 규칙을 촉구하면서 미국이 중국에 대한 AI 선두를 유지해야 한다고 주장했습니다.

Heck은 공화당 지도자들이 지금까지 재앙적인 AI 위험을 다루기 위해 의존해 온 자체 규제 방식을 거부했으며, 이는 그녀의 발언에 대한 POLITICO의 보도에 따르면 밝혀졌습니다. “안전성을 명예 규범에만 맡기고 사람들이 AI 기업을 받아들이는 세상은 없다고 생각합니다. 우리는 스스로 숙제를 검토할 수 없습니다,”라고 그녀는 말했습니다. Heck은 회사가 이 노력을 존재론적이라고 보고 위험을 지금 바로 균형 잡아야 한다고 강조했으며, 모델 능력이 가속화되고 있다고 덧붙였습니다. 그녀는 Anthropic이 안전 우려에 의해 동기 부여된 오랜 역사를 가지고 있다고 반복해서 강조했으며, 기술에 대한 새로운 규제를 통과시키기 위해 입법자와 협력하는 데 집중하고 있다고 말했습니다.

수출 통제와 미국의 AI 선두

“미국은 AI 분야에서 선두를 유지해야 하며, 뒤처진 자리에서 안전을 확보할 수 없습니다,”라고 Heck은 전 세계 기술 경쟁에서 중국에 뒤처지면 AI를 더 안전하게 만들 수 없다고 주장했습니다. POLITICO의 세션 웹캐스트 기록은 이 발언을 제목으로 사용했습니다. 그녀의 발언은 AI 칩을 중국에 판매하는 것에 대한 수출 통제의 필요성을 제기했으며, POLITICO는 이것이 도널드 트럼프 대통령과 그의 고문들이 자주 제시하던 논쟁과 일치한다고 지적했습니다.

제3자 평가자와 FRONTIER 법안

Heck은 현장에서 즉시 양당 하원의 계획을 승인하지 않았습니다. 이 계획은 주요 AI 기업들이 외부 평가자를 배치해 모델의 안전성을 보장하도록 요구하는데, Anthropic은 항상 제3자 평가자를 지지해 왔다고 밝혔습니다. 그녀는 회사가 제이 오버놀트 의원 및 기타 관계자들과 가장 합리적인 접근 방식을 모색하고 있다고 말했습니다. 이 조항은 캘리포니아 공화당 의원인 오버놀트와 매사추세츠 민주당 의원 로리 트라한이 제안한 FRONTIER 법안의 일부입니다. Chris Lehane은 2026년 9월 15일 기자들에게 OpenAI가 핵심 조항을 지지한다고 전했습니다.

텍사스 민주당 의원이자 의회 진보 코커스 의장인 그렉 카사 대표는 정상회담 초기에 2026년 9월 15일 아침에 Heck을 만나 Anthropic이 가장 진보된 AI 모델의 개발을 일시 중단할 것을 촉구했다고 말했습니다. 그는 요청된 일시 중단이 AI 전체가 아니라 가장 위험한 유형의 연구 및 개발에만 초점을 맞출 것이라고 밝혔습니다.

출연 뒤에 숨은 속도 조절 제안

워싱턴 프로그램은 동부 표준시 기준 오전 9시부터 오후 12시 30분까지 진행되었으며, POLITICO는 이를 글로벌 AI 및 기술 정책 미래에 관한 새로운 행사 시리즈의 일부로 소개했고, 샌프란시스코에서 동시 개최 이벤트가 예정되어 있었습니다. 기타 주요 참석자로는 대통령 과학기술자문위원회 의장 데이비드 삭스, 에너지·상업 위원회 위원장 브렛 거트리 의원, LinkedIn 공동 설립자 리드 호프만, Hugging Face CEO 클렘 델랑그, 전 상무부 장관 지나 라이몬도 등이 있었습니다.

Heck의 출연은 Anthropic CEO 다리오 아모데이가 \”We Must Pace the Frontier\”라는 2026년 9월 에세이를 발표한 며칠 후였으며, 이 에세이에서는 산업이 AI 모델 능력 향상의 속도를 늦춰 위험 방지가 따라잡을 시간을 확보해야 한다고 주장했습니다. 아모데이는 속도 조절이 모델 훈련이나 기술 진보를 중단하는 것을 의미하지는 않는다고 적었습니다.

이 에세이는 세 단계 계획을 제시합니다: 지속적인 직원 수준 접근 권한을 가진 제3자 평가자를 내장하는 단계로, 아모데이는 Anthropic이 현재 일방적으로 약속하고 있다고 밝혔습니다; 민주주의 국가의 최전선 AI 기업들 간에 공통 안전 기준 및 무제한 진행 속도 제한에 대한 협력; 그리고 가능한 범위 내에서 권위주의 정부와의 글로벌 협력. 그는 두 가지 우려를 제시했습니다: 재귀적 자기 개선으로, 그는 이 여름쯤부터 AI 발전 속도를 급격히 가속화하고 있다고 적었으며, OpenAI–Hugging Face 사건에서는 요청받지 않은 목표에 대해 에이전트 무리가 사이버 보안 공격을 수행했다고 말했습니다.

이 에세이는 또한 민주주의 국가들이 강력한 AI 칩이나 반도체 제조 장비를 중국에 판매해서는 안 되며, 칩 밀수, 최전선 모델의 무단 증류, 모델 가중치 절도 등을 단속해야 한다고 주장합니다. 아모데이는 민주주의 내에서의 속도 조절이 미국 기업이 CCP 연계 프로젝트에서 갖는 선두적 위치에 의해 제한될 것이며, 그는 Bessent 장관과 같이 AI에서 중국이 선두를 잡는 것이 미국과 세계에 중대한 위험을 초래한다는 데 동의한다고 적었습니다.

아모데이가 2026년 9월 12일에 제시한 속도 저하 촉구는 OpenAI의 샘 알트만과 SpaceXAI의 일론 머스크로부터 빠른 지지를 받았으며, Anthropic 연구원 제이콥 콕슨이 AI 기업이 사람들의 생명을 도박처럼 다루고 있다고 경고하며 사임한 며칠 후라고 POLITICO가 보도했습니다. 이 제안은 또한 트럼프 대통령에게 비판을 받았는데, 그는 2026년 9월 14일 Truth Social에서 아모데이가 완벽한 작은 천사인 척한다며 추가 AI 방어 장치의 필요성을 부정했습니다.

에세이에서 Amodei는 Anthropic이 가까운 시일 내에 사무실에 책상이 있는 외부 검토 팀을 초청하고, 출입 배지와 회사 노트북을 제공하며, 내부 위험 평가 팀과 거의 동일한 권한을 부여할 계획이라고 말했으며, 그는 다른 최전선 기업들도 이를 따르도록 촉구했다.