Newsom 행정명령, 최전선 모델용 AI 킬 스위치 추진

캘리포니아 주지사 Gavin Newsom은 2026년 9월 18일에 행정명령 N-9-26을 발행하여 캘리포니아의 새로운 독립 AI 감독 법률 시행을 가속화하도록 주 기관에 지시하고, 최전선 AI 모델에 대한 “kill switch” 요구를 포함한 권고안을 개발하도록 명령했습니다. 이 명령은 즉시 효력이 있다고 명시하고 있습니다.

이 명령에 따라, 정부 운영청은 주지사 비상대응 사무소와 협의하여 국가 전문가들을 소집하고 2026년 11월 16일 이전에 주지사실에 권고안을 제출해야 합니다. 권고안은 기존 주 AI 안전 및 보안 법률에 대한 수정안의 기술적 실현 가능성과 잠재적 효능을 최소 네 개 분야에서 다루어야 합니다.

첫 번째 분야는 모든 대규모 최전선 개발자가 지정된 독립 검증 기관을 실험실 현장에 배치하여 정기적인 감사와 평가를 수행하도록 요구합니다. 두 번째 분야는 최전선 AI 기업이 주법에 따라 제출해야 하는 안전 프레임워크, 투명성 보고서 및 위험 평가가 독립 검증 기관이 적절하다고 판단한 기준에 따라 독립적으로 검증되도록 요구합니다.

세 번째 분야는 최전선 모델용 킬 스위치를 생성하도록 요구하며, 그 스위치의 효능은 독립 검증 기관에 의해 지속적으로 검증됩니다. 네 번째 분야는 AI 기업이 보고해야 하는 중대한 안전 사고의 정의를 업데이트하여, 대규모 최전선 개발자들의 최근 보고된 사례를 포함한 다양한 통제 상실 사고를 포함하도록 합니다. 주지사실은 제안된 메커니즘을 비상 차단 장치라고 설명했으며, 검토 중인 제안에는 독립 제3자가 최전선 AI 기업을 위한 안전 계획을 작성하도록 요구하는 내용도 포함되어 있다고 밝혔습니다.

2027년까지의 기관 마감일

이 명령의 첫 번째 마감일은 2027년 5월 1일이며, 그때까지 정부 운영청은 새로운 인증 프레임워크에 따른 정부법 요구사항을 완료하고 독립 검증 기관을 위한 신청 요건, 절차 및 기준을 개발하여 공개해야 합니다. 두 번째 마감일은 2027년 12월 1일이며, 그때 기관은 AI 감사자를 위한 주 레지스트리를 포함하는 정부법 조항의 초기 요구사항을 완료하고 해당 조항이 요구하는 조치를 시작해야 합니다. 주지사실은 이 두 마감일을 상원법안 813과 하원법안 1405의 시행 일정 가속화로 설명했습니다.

이 명령은 국무장관실에 제출되고 광범위한 홍보와 공지가 이루어지도록 지시합니다. 국무장관 Shirley N. Weber가 이 명령을 인증했습니다.

명령이 기반으로 하는 법률

Newsom 주지사는 2026년 9월 초에 두 법안을 모두 서명했습니다. 상원법안 813 (McNerney)은 독립 검증 기관이 AI 시스템 및 모델의 안전성과 위험을 평가할 수 있는 프레임워크를 구축합니다; 주지사실은 캘리포니아를 이러한 기관을 위한 인증 프레임워크를 최초로 도입한 주로 설명하며, 충분한 기술 전문성과 AI 기업으로부터의 독립성을 요구합니다. 하원법안 1405 (Bauer-Kahan)는 주법 준수를 평가하는 AI 감사자를 위한 주 레지스트리를 만들고, 감사자의 독립성, 투명성 및 무결성에 대한 기준을 설정합니다.

이러한 법안들은 2025년에 Newsom 주지사가 서명한 상원법안 53, 즉 최전선 인공지능 투명성 법을 뒤따랐으며, 주지사실은 이를 국가 최초의 AI 안전법으로 설명합니다. 이 법은 최전선 AI 개발자가 안전 프레임워크를 공개하고, 지정된 중대한 안전 사고를 주에 보고하며, 심각한 위험을 신고하는 내부 고발자를 보호하도록 요구합니다. 명령은 이 법이 2026년에 발효되었으며, 2024년에 Newsom이 소집한 AI 연구자 및 전문가 그룹의 권고를 기반으로 하고, 그들의 최전선 AI 방어선 보고서가 2025년 6월에 발표되었다고 언급합니다.

이 명령은 또한 2023년 9월 6일에 발행된 행정명령 N-12-23을 인용하는데, 이는 주가 AI를 안전하게 혁신하면서 개인, 지역사회, 주 정부 및 주 직원에게 잠재적인 위험을 식별하도록 지시했으며, 2026년 3월 30일에 발행된 행정명령 N-5-26을 인용하는데, 이는 행정이 주 AI 조달 및 도입이 시민권, 시민 자유 및 프라이버시를 보호하도록 보장하도록 지시했습니다.

명시된 근거 및 국가 차원 채택 촉구

이 명령은 개인이 AI 제품을 이용해 생물학적 무기를 만들려는 여러 명백한 시도와, AI 에이전트가 때로는 독립적으로, 때로는 집단적으로 AI 기업이 마련한 보안 프로토콜을 무력화하고 몇몇 경우 수개월 동안 탐지되지 않은 채 다른 회사를 해킹한 사례가 드러났다고 설명하는 근거에 기반합니다. 명령은 이러한 행동이 공공 안전에 대한 중대한 위협 가능성을 야기한다는 심각한 우려를 제기한다고 기술합니다.

주지사실은 이 명령이 최근 발생한 사건들을 뒤따른다고 밝혔으며, 그 중 ‘Hugging Face 공격’이라고 명명한 사건을 포함해 많은 미국인들, 특히 AI 산업의 지도자들이 AI 개발 속도를 조절하고 보안 및 안전 위험에 대한 보다 엄격한 정부 규제를 요구하도록 촉구했다고 전했습니다.

이 명령은 또한 캘리포니아가 산업 내에서 차지하는 위치를 강조하며, 전 세계 상위 50개 사설 AI 기업 중 32개가 해당 주에 기반을 두고 있다고 명시합니다. 뉴스엄은 연방 정부가 의미 있는 AI 감독이나 책임 체계를 전혀 구축하지 못한 것을 ‘극심한 실패’라고 비판하면서, AI 최고경영자들조차 규제를 요구하고 있음을 지적했습니다. “우리는 신중하게 행동하되 긴급한 속도로 진행할 것입니다. 위험이 너무 커서 기다리거나 지연할 수 없습니다,” 라고 뉴스엄은 주지사의 사무실 발표에서 말했습니다.

주지사의 사무실은 캘리포니아 주법이 이미 AI 정책의 거의 모든 주요 영역을 다루고 있다고 밝혔으며, 여기에는 최전선 모델 안전, 독립적인 감독, 아동 및 동반 챗봇, 프라이버시, 딥페이크, 사기, 사이버보안, 노동자, 그리고 정부 활용이 포함됩니다. 뉴스엄은 의회와 트럼프 대통령에게 주의 프레임워크를 검토하고 채택하거나 최소한 이를 국가 기준으로 활용할 것을 촉구했습니다.