백악관의 요청으로 미국 AI 안전센터의 독립성 우려 커져

Associated Press가 보도한 바에 따르면, 2026년 11월 8일 초지능 혁신·표준 발전 센터(CAISSI) 관계자들은 최근 백악관의 한 부서에 비공식적으로 보고하라는 요청을 받았다. 이로 인해 연방 AI 안전성 평가의 독립성에 대한 우려가 제기됐다.

진행 중인 논의 내용을 아는 전직 정부 관계자 두 명은 현직 직원들에게 불이익이 돌아가는 일을 피하고자 익명을 전제로 이 요청에 관해 설명했다. 어느 부서인지는 밝혀지지 않았으며, 보도된 논의는 공식적으로 발표된 조직 개편이 아니라 비공식적인 조치에 관한 것이다.

비판론자들은 이 조치로 사이버 보안과 생물무기 관련 결정이 정치화될 수 있으며, 스스로를 감독하도록 대체로 맡겨진 기술 업계에 영합해 조사 결과가 바뀌거나 축소될 가능성도 있다고 경고했다. 미국과학자연맹의 AI·신흥 기술 프로그램 매니저인 캐롤라인 시걸 싱은 공익을 위한 정책을 수립하려면 정파에 치우치지 않는 전문가나 초당적 기술 전문가가 나서야 한다고 주장했다.

다른 이들은 도널드 트럼프 대통령과 더 긴밀히 연계되면 해당 부서의 위상이 높아지고 자금도 더 많이 지원될 수 있다고 주장했다.

지도부 교체와 대외 공개 자료

CAISSI는 상무부 산하 독립 부서로, 최근까지 미국 AI 표준·혁신 센터라는 이름을 사용했다. 연간 예산은 1,000만 달러로, 영국의 대응 기관 연간 예산의 약 8분의 1이다.

센터장은 2026년 4월 임명됐지만 며칠 만에 해임됐다. 후임자는 몇 달 뒤 사임해 센터장 자리가 공석이 됐으며, 모기관의 수장이 센터장 직무대행도 맡고 있다.

의회는 2026년 8월, 센터가 특정 AI 시스템의 안전성에 관한 보고서 공개를 중단한 이유를 묻기 시작했다. OpenAI도 정책 입안자들에게 해당 부서에 더 많은 자금과 지원을 제공하라고 촉구한 바 있다.

NIST의 공식 CAISSI 페이지에는 여러 유형의 자료가 날짜와 함께 기록돼 있다. 가장 최근에 등재된 연구 블로그 게시물의 날짜는 2026년 3월 23일이다. 뉴스 섹션에는 2026년 9월 17일 자로 Z.ai의 GLM-5.3 사이버 역량 평가가, 2026년 10월 16일 자로 사고 대비 및 대응에 관한 자료가 올라와 있다.

기존의 자발적 체계

NIST는 CAISSI를 상업용 초지능 시스템의 시험과 공동 연구를 담당하는 업계의 주요 정부 창구로 설명한다. CAISSI의 임무에는 측정 지침과 모범 사례, 자발적 표준을 개발하고, 개발자 및 평가 기관과 자발적 협약을 체결하며, 사이버 보안·생물 보안·화학무기와 관련해 입증 가능한 국가 안보 위험을 비기밀 방식으로 평가하는 일이 포함된다.

센터에는 적대 세력의 시스템에 취약점과 백도어, 그 밖의 은밀한 악의적 행위가 있는지도 평가하는 임무가 주어져 있다. 또한 국방부와 에너지부, 국토안보부, 과학기술정책실, 정보기관과 평가 방법 및 평가 결과를 조율하는 일도 맡고 있다.

2026년 6월 2일에 발령된 행정명령 14409호는 국가안보 기관들이 NIST 등과 협의해 첨단 사이버 역량의 기준을 정하기 위한 기밀 절차를 마련하도록 지시한다. 이 절차는 ‘적용 대상 프런티어 모델’로 지정할 기준을 설정하기 위한 것이다.

이 행정명령은 개발자가 대상 프런티어 모델을 다른 신뢰할 수 있는 협력 기관에 공개할 예정일보다 최대 30일 앞서 정부에 제공할 수 있도록 하는 자발적 체계도 요구한다. 또한 AI 모델의 개발, 출판, 공개 또는 배포에 정부의 의무적 허가·사전 승인·승인을 요구할 권한을 부여하는 것은 아니라고 명시한다.

따라서 독립성 논란의 핵심은 이 자발적 체계 안에서 누가 기술적 조사 결과를 지시하고 전달하느냐에 있으며, 모델 공개 전에 승인할 새로운 연방 권한이 생기는지의 문제가 아니다.

기업이 통제하는 평가

트럼프 대통령은 2026년 9월 주요 AI 기업들에 자발적 안전 협약을 통해 광범위한 자체 감독을 시행해 달라고 요청했다. 행정부는 이행 상황을 어떻게 감독할지 설명하지 않았다.

모델이 지속적인 인간의 지시 없이 여러 단계로 이뤄진 작업을 계획하고 수행할 수 있는 AI 에이전트로 배포되면서 평가 과제도 달라지고 있다. 캘리포니아대학교 버클리 정보대학원의 차기 조교수인 사야시 카푸르는 실제 환경에서 에이전트가 얼마나 안전하게 행동하는지 시험할 표준 절차가 없다고 말했다. 그는 에이전트가 항공편을 예약하는 상황을 예로 들었다. 최종 결과만 확인하면 작업이 성공한 것처럼 보일 수 있다는 것이다. 그는 “하지만 에이전트가 수행한 전체 단계를 살펴보지 않으면 에이전트가 큰 실수를 저질렀다는 사실을 알아낼 수 없다”고 말했다.

민간 평가가 반드시 독립적인 안전장치가 되는 것은 아니다. Anthropic의 CEO 다리오 아모데이와 OpenAI의 CEO 샘 올트먼은 독립 평가 기관을 지지해 왔지만, 이들의 회사는 평가 기관의 접근을 제한하고 평가 결과를 무시할 수 있다.

백악관은 CAISSI에 관한 구체적인 질문에는 답하지 않았지만, 트럼프가 공식적으로 초지능 태스크포스를 구성하고 Council of Advisors on Science and Technology에 위험 보고서를 작성하도록 의뢰했다고 밝혔다.

시민권과 기술 분야 비영리단체 Upturn의 선임 프로젝트 책임자인 Logan Koepke는 기업이 자체적으로 실시하는 내부 평가와 기업이 고용한 외부 검토자만으로는 정부 검증의 역할이 무엇인지 분명해지지 않는다고 말했다.

Brennan Center for Justice의 선임 법률고문 Amos Toh는 정부의 역할을 명확히 하지 않은 채 연구소가 자체 모델을 감시하도록 허용하면 현실 세계에 피해를 끼칠 수 있는 시스템에 대한 독립적인 견제가 약화된다고 말했다. 또한 중대한 결과를 초래하는 결정은 공개적으로 설명하고 정당화해야 한다고 덧붙였다.

보도된 요청은 구체적인 거버넌스 문제를 남긴다. CAISSI의 평가 우선순위는 누가 정하며, 평가 방식과 결과는 얼마나 공개될 것인가? 백악관과의 긴밀한 관계로 CAISSI의 위상이 달라질 수는 있지만, 그렇다고 자발적인 개발자 접근 허용 및 기업이 통제하는 민간 검토와 함께 정부의 독립적인 검증이 어떻게 이루어질지 저절로 해결되는 것은 아니다.