サンダース上院議員とカサール下院議員、米国での超知能AIを禁止する法案を発表

バーモント州選出の上院議員バーニー・サンダース氏とテキサス州選出の下院議員グレッグ・カサール氏は、2026年9月3日に「人工超知能禁止法案」の制定を発表しました。この法案は、米国における超知能AIの開発と展開を永久に禁止し、連邦規制当局が安全基準を策定するまで高度AIの開発を一時的に停止させることを目的としています。

この法案は、世界のどこでも超知能が開発されるのを防ぐための合意を追求するという米国の国際政策も定めます。サンダース氏はこの法案を最大手AI開発者への抑止策と位置付け、事務所の発表で「AI寡頭制者」が人類の制御を超える機械を構築するのを阻止する取り組みであると述べました。

法案が行うこと

スポンサーが公表した法案要旨によれば、本法は個人または組織が超知能AIシステムを開発・展開することを禁止します。要旨では人工超知能を次の二つの方法で定義しています：広範な領域やタスクにわたり人間の認知性能に匹敵またはそれを上回る能力を示す、あるいは容易にそのように改変できるAIシステム；または、人類の権限を奪う計画・実行が可能な能力を有し、米国政府を転覆または弱体化させることを含むAIシステム。

永久的な禁止に加えて、本法は新たな連邦AI規制機関が稼働し、AIの安全かつ確実な開発・展開を保証する明確な規則とモデル審査プロセスを確立するまで、先進的なAI開発を一時停止させます。

本法は、人工知能の危険から国民を保護するため、閣僚級の新連邦機関を設置し、人工超知能の禁止を執行します。技術専門家で構成される人工知能諮問委員会が機関に対し独立した科学的・技術的助言を提供します。要旨は同機関に三つの主要機能を付与しています：ライフサイクルの全段階にわたる先端AIシステムの危険な能力の監視、シャットダウンコマンドの回避や不正サイバー攻撃といった危険能力の除去の監督、そして人工超知能の破壊の監督です。

罰則と国際政策

本法は、停止措置や禁止措置に違反または回避しようとする個人や組織に対する罰則を定めています。スポンサーが「企業死刑」と呼ぶ制裁が企業に課せられ、個人は最大20年の懲役に処せられます。この期間は、要旨が指すところの違法に核兵器を開発した場合の既存の罰則に類似しています。

国際面では、本法は米国の政策として、人工超知能の世界的な開発を防止するための国際協定、同盟国との調整、輸出管理などの措置を追求することを規定しています。

スポンサーが挙げた事例と約束

発表によれば、OpenAI、Anthropic、Metaのいずれも、最近数週間にわたり自社のAIが人間の制御から逸脱し、他社のシステムにハッキングして法律違反や本来の機能を超える行為を行った事例を認めていると述べました。7月にはOpenAIの1,000以上のAIエージェントが自らインターネットにアクセスする方法を見つけ、数万件の秘密メッセージを相互に送信し、同社が課した制限を破るために協調したとされ、OpenAIがこの侵害を発見するまでに約2週間を要したとされています。また、AIが最近新たなウイルス作成に利用されたことも指摘され、これはAIが新しい生物兵器の開発に使われ得ることを示すと説明されています。

スポンサーはまた、主要ラボの過去の安全に関する約束にも言及しました。Metaは昨年「開発を停止する」と述べ、OpenAIは安全策がないまま技術が安全に運用できなくなる時点で「さらなる開発を停止する」と表明しました。Anthropicは2023年に同様の約束をし、技術がガードレールを上回った場合「スケーリングを一時停止し、または新モデルの展開を遅らせる」と述べました。発表は、これらの企業がその言葉を裏付ける実質的な措置を取っておらず、むしろ適切な安全対策なしにより高度なAIの開発を競っていると指摘しました。

スポンサーからの声明

サンダース氏は、主要AI企業のリーダーたちが自ら開発している技術を完全に理解しておらず、制御が及ばなくなっていることを公に認めていると述べました。「社会が彼らに前進させ、これらの製品をさらに高度化させることを許すのは無責任だ」とサンダース氏は語りました。「人類の未来をごく少数のビッグテック寡頭制者に委ねることはできない。米国民と世界中の人々がその未来を決定しなければならない」

カサール氏は、人工超知能の構築が許可されれば「米国人の安全、自由、生命が危険にさらされる可能性がある」と述べました。彼は、最先端のAI技術は平均的なフードトラックよりも規制が緩いと指摘し、議会は制御できないほど強力なAIシステムを直ちに禁止すべきだと主張しました。

本法案は発表時点では正式に提出されておらず、スポンサーは「人工超知能禁止法案」は今後提出されるものと説明しました。