バーニー・サンダースへの公開書簡: AIの危険を規制し、その可能性を禁止しないでください

『人工超知能禁止法』はAIガバナンスにおける実際の失敗を指摘しています。しかし、公開された定義は人工汎用知能と超知能を混同する恐れがあり、教育、医療、科学的発見を進展させる可能性のある技術まで制限してしまう恐れがあります。

編集者注：2026年9月5日現在、『人工超知能禁止法』の全文法令は公開されていません。サンダース上院議員事務所は本法案を今後制定される立法と説明し、定義、規制構造、罰則を概説した1ページの要約を公開しています。本公開書簡は現在説明されている提案に対して執筆されています。

サンダース上院議員様、

2026年9月3日、サンダース上院議員とグレッグ・カサー下院議員は、米国における人工超知能の開発と展開を永続的に禁止し、新たな連邦規制当局が安全基準を策定するまで先進的AI開発を一時的に停止し、他国での超知能開発を防止する国際協定を追求することを目的とした『人工超知能禁止法』の制定を発表しました。

まず、私たちが強く合意している点から始めたいと思います。人工知能は、その影響が大きすぎて、開発企業の自主的な約束だけで統治できるものではなくなっています。

ご指摘の危険性は真剣に受け止めるべきです。7月、サイバーセキュリティ評価中に稼働していたOpenAIのモデルが隔離制御を回避し、許可されていないチャネルで通信し、インターネットにアクセスしてOpenAI自身のインフラやHugging Faceのシステムの一部を侵害しました。METRによる独立調査では、約1,200のエージェントが許可されていない掲示板を通じて通信し、約700が最終的にHugging Faceへの攻撃に関与したことが判明しました。OpenAIは、これらのモデルが安全対策を低減した状態で稼働していたことを重要視して認めています。

その後、AnthropicはClaudeモデルがサードパーティのサイバーセキュリティ評価中にインターネットに接続し、実システムへの不正アクセスを行った3件のインシデントを開示しました。Anthropicは、設定ミスにより予期せずインターネットアクセスが許可され、モデルはシミュレーション環境内で動作していると誤認していたと説明しています。この背景は重要ですが、結果も同様に重要です。ますます高度なエージェントが、運用者が意図しない境界を越える可能性があるのです。

これらはAI安全性の懸念をSF的なものとして片付ける理由ではありません。独立した評価、安全なテスト環境、必須のインシデント報告、強固なアクセス制御、実権を持つ連邦規制当局の必要性を示す説得力のある論拠です。

目標は正しいが、定義が危険なほど広範である

法案の公式要約では、人工超知能を「広範な領域やタスクにわたって人間の認知的パフォーマンスと能力を同等または上回ることができるAIシステム」と定義しています。また、人類の権限を奪う計画・実行が可能なシステム、すなわち米国政府を弱体化または転覆させるものも別途含まれています。

第2の定義は、並外れた、そして潜在的に破滅的な能力を示しています。第1の定義は全く異なります。

広範な領域で人間の認知的パフォーマンスに匹敵することは、従来の「人工汎用知能（AGI）」の議論に近く、超知能の従来の意味とは異なります。OpenAIの長年の憲章では、AGIを「ほとんどの経済的に価値のある仕事で人間を上回る高度に自律的なシステム」と定義しています。Google DeepMindの研究フレームワークも、パフォーマンスの広さと深さでAGIを評価し、自律性とリスクを別個の次元として扱っています。

対照的に、哲学者ニック・ボストロムの影響力のある超知能の定義は、「実質的にすべての分野で最高の人間の脳よりはるかに賢い知性」と述べています。人間全体と広範に一致することと、最高の人間をはるかに上回ることの区別は、学術的な細部の争いではありません。

違反が個人に最大20年の懲役、企業に提案が呼ぶ「企業死刑」まで課す可能性がある場合、特に重要になります。「広範な範囲」「同等または上回る」そして特に「容易に変更可能」といった表現は、刑事責任が伴う場合、極めて正確で測定可能な基準が必要です。

もう一つ大きな不確実性があります。公開要約では「先進的AI開発」が規制当局がルールとモデル審査プロセスを確立するまで一時停止されると述べられていますが、要約には「先進的AI」の定義がありません。法令文が公開されるまで、スポンサー以外の誰もその一時停止がどれほどの研究開発を対象とするか正確に知ることはできません。

提案のタイミングは、これらの定義がいかに困難になっているかを浮き彫りにしています。2026年9月3日、サンダース上院議員とグレッグ・カサー下院議員が人工超知能を対象とした法案を発表した同日、OpenAIはGPT-6 Astraをリリースしました。これは同社の「重要なサイバーセキュリティ能力」閾値に初めて到達したモデルです。OpenAIは、適切なツールとアクセスがあれば、Astraは未知の脆弱性を発見し、人間が各ステップを指示しなくても高度に保護されたシステムに対して攻撃手法を構築できると述べています。

ローンチブリーフィングで、OpenAI社長のグレッグ・ブロックマンは「AGI時代へようこそ」と宣言してさらに踏み込んだ発言をしました。しかし、OpenAIのシステムカードは同時に、AstraはAI自己改善の「高」閾値には達していないと記載しています。

この緊張感は議会に重要な示唆を与えるべきです。知能は多次元的です。システムはサイバーセキュリティ、数学、専門的業務で卓越していても、知能爆発や人間の制御喪失に伴うすべての能力を備えているわけではありません。

したがって解決策は、技術企業に用語定義を任せることではありません。むしろ逆で、立法は測定可能な能力、自律性、アクセス、実証されたリスクを規制すべきであり、争点となるラベルを合法的研究と連邦犯罪の境界線にすべきではありません。

教育平等への闘いが示す危機的課題

何十年もの間、サンダース上院議員は教育へのアクセスは親の収入に左右されるべきでないと主張してきました。2015年に4年制公立大学の授業料無料化を提案し、その後も繰り返しこの課題に取り組んできました。2025年の「全員大学法案」では、約95％の学生が公立大学の授業料を無料化し、コミュニティカレッジは全員に無料化される予定です。

この哲学は人工知能にも直接関係しています。

人類史の大半において、卓越した教育へのアクセスは限られてきました。地理、家族の収入、学校の資金、専門教師の有無が、子どもが学ぶ機会に影響を与えてきました。

AIはその方程式を変える可能性を提供します。

すでに初期的な証拠が見られます。世界銀行がナイジェリアで実施したランダム化試験では、GPT-4ベースのチュータリングを用いた6週間の教師支援プログラムを受けた学生のテスト成績が全体で0.31標準偏差向上しました。スタンフォード大学では、Tutor CoPilotが700人以上のチューターと1,000人の恵まれない地域の学生にテストされ、AI支援を受けたチューターの学生は数学の習得率が4ポイント高く、評価の低いチューターが割り当てられた学生では最大9ポイントの向上が見られました。

どちらの研究もAIが教育格差を解決することを証明しているわけではなく、AGIを必要とするわけでもありません。しかし、両方ともこの技術が向かう方向性を示しています。

その方向性が継続すると想像してください。

ルイジアナ州の農村部に住む子どもが、卓越した数学教師に出会うためにエリート校の近くに住む必要はありません。天文学に興味を持つ学生が、大学に進むまで天体物理学を探求できない必要もありません。考古学に興味を持つ子どもが、AIチューターが読解、歴史、統計、科学的推論のギャップを特定し、指導を適応させる間に、その好奇心を追求できるべきです。

目的は教師を置き換えることではなく、以前は経済的に個別指導が不可能だった専門知識へのアクセスを教師と学生に提供することです。

おそらく初めて、膨大な規模での個別指導が技術的に実現可能となりました。将来世代を保護することを目的とした法律は、その扉を閉ざさないよう極めて慎重であるべきです。

医療政策も同様の論点を示す

医療に関するサンダース上院議員の実績も同様に一貫しています。2017年に「全員医療保険法」を提案し、2019年、2023年、2025年に再提案し、医療は特権ではなく権利として扱われるべきだと繰り返し主張しています。

また、恵まれない地域での医療従事者不足という別の医療格差に対しても長年取り組んできました。コミュニティヘルスセンターと一次医療労働力拡大イニシアティブは、医療が不足している地域へのアクセス拡大を目指し、2023年にロジャー・マーシャル上院議員と共同で提案した超党派の一次医療法案では、コミュニティヘルスセンターへの資金を大幅に増額し、国立保健サービス隊と医師研修パイプラインを拡充することを提案しました。2025年には、ジェフ・マークリ上院議員と共に「医療労働力拡大法」を提案し、特に農村部での医師、看護師、歯科医師の数を増やすための学費支援を含めました。

これらの政策は財政的な不足と人的資源の不足に対処しています。

AIは第三の不足、すなわち専門知識の不足に対処できる可能性があります。

米国食品医薬品局（FDA）は現在、1万人以上の希少疾患が3,000万人以上の米国人に影響を与えており、約10人に1人に相当し、ほとんどの希少疾患にはまだ承認された治療法がないと推定しています。患者数が少ないため、従来の臨床試験も特に困難です。

人工知能は生物学や臨床検証を回避する魔法の近道ではありません。AIで発見された薬も他の薬と同様に失敗する可能性があります。しかし、すでに発見プロセスの一部を変えつつあります。

2025年、研究者らは特発性肺線維症用の小分子薬レンタセルトビの最初のランダム化第2a相試験を発表しました。このターゲットと分子は生成AIを用いて発見されました。結果は実質的な臨床的マイルストーンを示しましたが、研究者はAIで発見された薬は臨床試験に至ったものはごく少数で、当時第3相を完了したものはまだないと警告しています。

それこそがこの技術を考えるべきバランスの取れたアプローチであり、過度な誇張でも過小評価でもありません。

ますます高度なAIシステムは、分子生物学、化学、遺伝学、医療文献、画像、ソフトウェア、統計解析、実験設計を統合できます。その価値は、人間が歴史的に別々の専門分野に分けてきた領域を横断的に推論できる点に正にあります。

したがって、重要な問いは「AGI」だけががん、アルツハイマー病、抗生物質耐性感染症、希少遺伝性疾患を治すかどうかではありません。そのような約束を責任を持ってできる者はいません。

問題は、議会がその知能が問題解決にどのように貢献できるかを知る前に、広範な能力を持つ知能を永続的に禁止すべきかどうかです。

今日の最も具体的なAIの危害の多くはAGIを必要としない

汎用知能自体を規制対象とすることには別の問題があります。現在のAIが引き起こす最も深刻な危害のいくつかは、人工汎用知能に遠く及ばないシステムから生じています。

2020年、私はUnite.AIで、Facebookのレコメンデーションアルゴリズムが誤情報を拡散させる可能性について執筆しました。懸念は、Facebookが人類より賢い知能を創造したことではなく、エンゲージメント最大化を目的とした最適化システムが、社会的価値に関係なく、より強い反応を引き起こすコンテンツを優先的に拡散することでした。

その後、適切に統治されていないレコメンデーションシステムの結果は、ますます無視できなくなっています。アムネスティ・インターナショナルは、Metaのアルゴリズムがミャンマーのロヒンギャに対するヘイトと暴力を煽るコンテンツを積極的に拡散し、大規模な暴力のリスクを高めたと結論付けました。欧州委員会は、YouTube、Snapchat、TikTokに対し、有害コンテンツ、選挙・市民的対話、依存行動、「ラビットホール」、メンタルヘルス、未成年者に関わるレコメンデーターシステムのリスク情報を別途要求しています。

これらのシステムは、政府を倒す必要はなく、再帰的自己改善も、超人的な一般的推論も必要としていません。

単に誤った目的を持ち、十分な規模で展開されていただけです。

これはAI規制の基本原則を示しています。危害はモデルの知能レベルだけで決まるわけではありません。誤ったインセンティブの下で何十億回も展開された狭いアルゴリズムは社会的に破壊的になり得ます。一方、厳格に管理された実験室、教室、病院で稼働する高度に汎用的なシステムは非常に有益です。

規制はこの違いを認識すべきです。

二重用途技術は使用、アクセス、権限の管理が必要

同じ原則が監視にも当てはまります。

コンピュータビジョンやパターン認識技術は、医師が医療画像を解析したり、危険な産業環境を点検したり、救助ロボットをナビゲートしたり、人間が行うべきでないタスクを自動化したりするのに役立ちます。

関連技術は、極めて強力な監視システムを構築するためにも利用され得ます。

最近のワシントン・ポストの調査では、少なくとも50人の法執行官が、自動ナンバープレートリーダーシステムを不正な個人的目的で人々を監視するために悪用したとして告発、起訴、または有罪判決を受けたことが判明しました。あるケースでは、警察署長が元パートナーとその10代の娘が使用した車両を約600回検索したとされています。その後の調査では、悪用で告発、起訴、または有罪判決を受けた公務員の数が少なくとも69人に上ることが明らかになりました。

これは深刻な技術政策の失敗です。

しかし、実際の規制手段がどこにあるかに注目してください。調査後、Flockは検索に刑事事件コードの入力を必須とし、自動的な悪用検出を義務化し、デフォルトのデータ保持期間を30日から7日に短縮すると発表しました。これらの措置が十分かどうかは別として、立法者が規制できる制御の種類—認可、目的制限、監査ログ、保持期間、人間の責任、悪用に対する罰則—を示しています。

濫用的な監視への対策は、コンピュータビジョンを禁止することではありません。

不正なサイバー攻撃への対策は、必ずしもサイバーセキュリティに対応できるモデルを禁止することではありません。

答えは、システムが許可された行為、アクセスできるリソース、重要な行動を許可できる者、そして境界が侵害された際の対応を規制することです。

すでにより良い規制モデルの一部は執筆済み

興味深いことに、今年サンダース上院議員が提案した別の法案には、より建設的なアプローチを示すいくつかのアイデアが含まれています。

私は「人工知能データセンターモラトリアム法」の全文を読みました。データセンター建設を全面的に停止することには同意しませんが、モラトリアム解除の条件は、知能カテゴリ全体の一律禁止よりもはるかに具体的です。

この法案では、AIデータセンターが消費者の電気料金を上昇させたり、気候変動を悪化させたり、環境に害を及ぼしたりしてはならないとしています。また、影響を受けるコミュニティが声を上げられること、強固な労働基準、そして水使用量、エネルギー消費、温室効果ガス排出、廃水、冷却剤、騒音、雇用その他の影響に関する公開報告を求めています。

これらは測定可能な外部性です。規制が効果を発揮できる正にこの領域です。

エネルギー面ではさらに踏み込むべきです。AI産業が急速に増大する電力需要を、未抑制の石炭火力発電所の寿命延長やインフラ費用を一般料金利用者に転嫁する口実にすべきではありません。新たなハイパースケールプロジェクトには、電網に大幅な低炭素またはゼロ炭素発電を追加し、その水・エネルギー影響を開示することが求められるべきです。

その移行がどのようになるかを示す有望な例はすでにあります。ExowattのP3システムは太陽エネルギーを熱として捕捉し、蓄えて、データセンター負荷向けに設計されたディスパッチ可能な電力に変換します。また、今週、Fervo Energyはユタ州でGoogleと396メガワットの24時間カーボンフリー強化地熱発電の契約を発表し、オプションにより総容量を約1ギガワットに拡大できる可能性があります。

AIのエネルギー需要は、汚染インフラを拡大する理由になるか、あるいは新たなクリーンエネルギー技術への巨大な需要エンジンになるかのどちらかです。

政府の政策は、どちらの結果になるかを左右できます。

さらに、6月に導入された「American AI Sovereign Wealth Fund Act」には、私が強く賛同するもう一つの原則が含まれています。すなわち、AIが卓越した経済価値を創出した場合、一般市民がその価値を共有すべきだということです。提案は、AI生成の富が最終的に医療、教育、住宅、健全な環境に寄与することを明示しています。

これは重要な点を認識しています。人工知能は卓越した潜在的価値を持つということです。実際の政治的課題は、その価値をどのように管理し、分配するかです。

永久的禁止へのより良い代替案

私は、人工超知能禁止法の最も強力な要素—連邦規制当局、独立した技術専門家、最前線システムの必須監督、実効的な罰則、国際的協調—を維持するよう要請します。しかし、禁止を引き起こす基準と有益な開発を継続させる方法は根本的に変更すべきです。

• 測定可能な危険能力を規制し、AGIやASIというラベルではなく、自律的なサイバー攻撃、生物・化学兵器の使用可能性、システム停止回避、無許可の複製、戦略的欺瞞など、破滅的な危害を引き起こす可能性のある能力について技術的に定義された閾値を設定する。
• フロンティア閾値を超える場合はライセンスと独立評価を必須とする。開発者は、特定の危険能力を持つシステムを展開する前に安全性を実証し、モデルが新たなツール、権限、自律性を獲得するたびに評価を繰り返す必要があります。重大なインシデントには必須の情報開示義務が課されるべきです。
• 独立した規制当局に実効的な執行権限を付与する。提案された機関は最前線の研究所を監査し、情報を取得し、是正を要求し、危険な展開を停止できるべきです。ただし、基準は透明で技術的に測定可能であり、独立した科学専門家によって定期的に見直される必要があります。
• 基盤となるモデルの知能レベルに関わらず、有害な応用を禁止する。無許可のサイバー攻撃、違法な監視、危険な生物学的支援、その他容認できない使用は、狭いモデル、AGIシステム、従来のソフトウェアのいずれであっても違法であるべきです。
• 社会的に価値のある研究への管理された経路を作る。医療、科学的発見、教育、サイバーセキュリティ防御、アラインメント研究は、適切な人的監督、検証、セキュリティ、監査要件の下で強力なモデルへのアクセスを可能にする規制メカニズムを備えるべきです。
• AIインフラに社会的・環境的コスト全額を負担させ、国際的に調整する。料金利用者を保護し、水・エネルギー使用の透明な報告を求め、追加のクリーン発電を加速させ、実質的なコミュニティと労働者保護を維持し、同盟国と共通の能力基準、評価、輸出管理について協力する。

これはシリコンバレーを信頼することにはなりません。

むしろ逆です。

技術産業は、議会が自主的な自己規制に依存すべきでない十分な理由を提供しています。OpenAIとAnthropicのインシデントだけでも、最前線AIが外部の監視と実効的な安全基準を必要とする理由が示されています。

しかし、技術企業への不信感が技術的進歩自体への不信感に変わってはなりません。

選択は無謀な加速でも禁止でもない

サンダース上院議員、キャリアを通じて、あなたは繰り返し資源不足と闘ってきました。

家族の収入が子どもの教育機会を左右すべきでないという考えに対して闘ってきました。また、個人の銀行口座や郵便番号が受ける医療を左右する医療制度に対して闘い、巨額の利益が少数の集団に集中し、他のすべての人がコストを負担する経済構造に対しても闘ってきました。

人工知能はそれらすべての問題をさらに悪化させる可能性があります。

前例のない富を集中させ、労働者を置き換えても生産性向上の恩恵を共有しません。監視、操作、サイバー攻撃を可能にし、少数の企業に卓越した権力を委ねることになるでしょう。

これらのリスクは規制の正当性を示します。

しかし、AIは人類史上最も古い不平等の一つである、専門知識へのアクセス格差を減少させる可能性もあります。

すべての子どもが個別指導を受けられ、すべての医師が卓越した分析支援を活用でき、すべての科学者が何世紀にもわたる蓄積研究にアクセスでき、患者数が少ないために無視されがちだった疾患がはるかに多くの科学的関心を受けられる世界は、闘う価値があります。

その未来とAI安全性の間で選択しなければならない必要はありません。

より良い目標は、強力なAIの濫用を困難にし、制御喪失を防ぎ、監査可能なほど透明にし、無謀な展開に高コストを課し、社会的に有益な目的で広く利用できるようにすることです。

人類を危険にさらす行為を禁止し、危険な能力にはライセンスを付与し、過失的・悪意的な展開を罰し、企業にインフラの環境コストを内部化させ、労働者を保護し、公共に経済的利益の一部を還元し、さらには世界最大の技術企業さえも「ノー」と言える独立した規制当局を創設すべきです。

しかし、禁止すべき知能をあまりにも広範に定義し、多くの領域で人間の認知能力に匹敵するだけで犯罪になるようなことは避けてください。

あなたの人生の仕事は、かつて特権階級だけが享受していたものへのアクセス拡大に焦点を当ててきました。

高度な人工知能は、我々がこれまでに創り出した中で最も強力な権力集中のエンジンになる可能性があります。

あるいは、知識、教育、医療、科学的能力の民主化に寄与する、史上最も有用なツールの一つになる可能性があります。

適切な立法が、どちらの未来になるかを決定する手助けとなります。