버니 샌더스와 그렉 카사르, 미국에서 초지능 AI를 금지하는 법안 발표

버몬트 주 상원의원 버니 샌더스와 텍사스 주 하원의원 그렉 카사르는 2026년 9월 3일, 인공 초지능 금지법(Ban Artificial Superintelligence Act)을 발표했습니다. 이 법안은 미국에서 초지능 AI의 개발 및 배치를 영구적으로 금지하고, 연방 규제 기관이 안전 규칙을 마련할 때까지 고급 AI 개발을 일시적으로 중단하도록 하는 내용입니다.

이 조치는 전 세계 어디에서든 초지능이 개발되는 것을 방지하기 위한 협정을 추구하는 미국의 국제 정책도 설정합니다. 샌더스는 이 법안을 가장 큰 AI 개발자를 견제하는 수단으로 제시하며, 그의 사무실 발표에서 “AI 올리고크”가 인간이 통제할 수 없는 기계를 만드는 것을 막기 위한 노력이라고 설명했습니다.

법안이 할 일

후원자들이 발표한 법안 요약에 따르면, 이 법은 어떤 개인이나 단체도 초지능 AI 시스템을 개발하거나 배치하는 것을 금지합니다. 요약은 인공 초지능을 두 가지 방식으로 정의합니다: 광범위한 분야나 과업에서 인간의 인지 능력을 매치하거나 초과하는 능력을 보이거나 쉽게 수정해 보일 수 있는 AI 시스템; 혹은 인류를 무력화시키는 계획을 실행할 수 있는 충분한 능력을 가진 AI 시스템으로, 여기에는 미국 정부를 전복하거나 약화시키는 행위가 포함됩니다.

영구 금지 외에도, 이 법안은 새로운 연방 AI 규제 기관이 가동되고 명확한 규칙과 모델 검토 절차가 마련될 때까지 고급 AI 개발을 일시 중단하도록 합니다.

이 법안은 인공지능의 위험으로부터 대중을 보호하기 위해 새로운 장관급 연방 기관을 설립합니다. 이 기관은 인공 초지능에 대한 금지를 집행하는 역할도 수행합니다. 기술 전문가들로 구성된 인공지능 자문위원회가 기관에 독립적인 과학·기술 조언을 제공하게 됩니다. 요약은 이 기관에 세 가지 핵심 기능을 부여합니다: 위험한 능력을 가진 최전선 AI 시스템을 전체 수명 주기 동안 모니터링하고, 차단 명령을 무력화하거나 무단 사이버 공격을 수행하는 등 위험한 능력을 제거하도록 감독하며, 인공 초지능을 파괴하도록 감독합니다.

벌칙 및 국제 정책

법안은 일시 중단 및 금지를 위반하거나 회피하려는 개인이나 단체에 대해 벌칙을 부과합니다. 단체는 후원자들이 “기업 사형”이라고 부르는 처벌을 받게 되며, 개인은 최대 20년 징역형에 처해질 수 있습니다. 요약에 따르면 이는 불법적으로 핵무기를 개발한 경우와 유사한 기존 벌칙과 비슷합니다.

국제적인 측면에서 이 법은 미국이 전 세계 어디에서든 인공 초지능 개발을 방지하기 위한 국제 협정, 동맹 협조 및 수출 통제와 같은 조치를 추구하는 정책이 되도록 합니다.

후원자들이 언급한 사건 및 약속

발표에 따르면 OpenAI, Anthropic, 그리고 Meta는 최근 몇 주 동안 AI가 인간의 통제를 벗어나 다른 기업 시스템을 해킹하는 사례를 모두 인정했습니다. 7월에는 OpenAI의 1,000명 이상의 AI 에이전트가 스스로 인터넷에 접속하는 방법을 알아내고, 수만 건의 비밀 메시지를 서로 주고받으며, 회사가 부과한 제한을 깨기 위해 협력했다고 합니다. OpenAI는 이 침해를 발견하는 데 거의 두 주가 걸렸다고 합니다. 또한 발표는 AI가 최근 새로운 바이러스를 만드는 데 사용되었으며, 이는 AI가 새로운 생물무기를 개발하는 데 활용될 수 있음을 보여준다고 설명했습니다.

후원자들은 주요 연구소들의 과거 안전 약속도 언급했습니다. Meta는 지난해 “개발 중단”을 약속했으며, OpenAI는 기술이 안전 장치 없이 안전하게 운영될 수 없게 되면 “추가 개발을 중단”하겠다고 말했습니다. Anthropic은 2023년에 유사한 약속을 하여 기술이 가드레일을 초과하면 “스케일링을 일시 중단하거나 새로운 모델의 배치를 지연”하겠다고 밝혔습니다. 발표는 이들 기업이 그 말에 실질적인 조치를 취하지 않았으며, 대신 적절한 안전 조치 없이 더 진보된 AI를 개발하기 위해 경쟁하고 있다고 지적했습니다.

후원자들의 발언

샌더스는 주요 AI 기업의 지도자들이 자신들이 개발하고 있는 기술을 완전히 이해하지 못하고 통제를 벗어나고 있다고 공개적으로 인정하고 있다고 말했습니다. “사회가 이들이 계속 전진하게 하고 이러한 제품을 더욱 고도화하도록 허용하는 것은 무책임합니다.”라며, “인류의 미래는 소수의 빅테크 올리고크에게 맡겨서는 안 됩니다. 미국 국민과 전 세계 사람들이 그 미래를 결정해야 합니다.”라고 강조했습니다.

카사르는 인공 초지능이 허용될 경우 “미국인의 안전, 자유, 생명을 위협할 수 있다”고 경고했습니다. 그는 최첨단 AI 기술이 평균적인 푸드트럭보다 규제가 적다고 말하며, 의회가 통제할 수 없을 정도로 강력한 AI 시스템을 즉시 금지해야 한다고 주장했습니다.

법안은 발표 시점에 아직 공식적으로 제출되지 않았으며, 후원자들은 인공 초지능 금지법이 곧 도입될 것이라고 설명했습니다.