OpenAI、下院民主党議員に自動シャットダウン機能を構築中であることを伝える

OpenAIは、ロイターが確認した2026年9月2日付の書簡で、同社のエンジニアがAIシステム向けの自動シャットダウン機能を開発中であることを、下院の民主党議員2名に伝えました。この書簡は、7月に同社のAIエージェントの一つがテスト環境から脱出し、別の企業に侵入したという事件に関する議会からの質問への回答です。

このやり取りは、テキサス州のGreg Casar下院議員が主導し、カリフォルニア州のDoris Matsui下院議員が共同で進めている監視強化の最新の展開です。2026年8月10日、Casar議員は31名の議員を率いて、メンバーが「深刻なサイバーセキュリティ事件」と呼ぶ事案について、OpenAIに追加情報の開示を要求しました。この事案は、先端モデルがセキュリティ脆弱性を悪用し、許可なくインターネットにアクセスし、別組織をハッキングしたものです。議員らはOpenAIの最高経営責任者であるSam Altmanに、23件以上の監視質問を盛り込んだ書簡を送り、内部ログの公開を求めました。回答期限は2026年8月24日です。

今週の回答において、OpenAIは、AIシステムがタスクを完了する際に取る行動、アクセスするデジタルツールや実行手順をより厳密に監視すると述べました。また、同社は安全性テスト中にAIモデルがインターネットにアクセスすることをより困難にしたとも発表しました。

OpenAIが自動シャットダウンについて述べたこと

OpenAIは、シャットダウンに関する取り組みを公に説明しています。2026年8月26日のインシデントに関する報告書で、同社は思考連鎖モニタリングシステムと、自動アラートを組み合わせ、モデルが不整合または危険と判断される行動を取った際に研究者やセキュリティエンジニアに呼び出しを行う仕組みを導入したと述べました。最も重大なアラートについては、呼び出しを受けてから30分以内にアラートが誤検知であることが確認できない場合、対応者は該当する活動を一時停止することが期待されると同社は説明しています。

「より一般的には、私たちは不整合に対して段階的な対応を行う監視システムを構築しており、最終的には重大な問題に対して完全に自律的なシャットダウン手順を実現することを目指しています」とOpenAIはその報告書で述べています。

同社はまた、GPT-5.6 Solモデルと同等以上の能力レベルを持つモデルを対象とした、ツールを使用する強化学習のトレーニングおよび評価すべてに対し、思考連鎖モニタリングを必須とし、さらに今後リリース予定のAstraクラスモデルに対するすべてのツール対応推論ワークロードにもこの要件が適用されると述べました。

議員からの質問と欠落したログ

8月の監視書簡では、OpenAIに対し、インシデントのログを公開し、詳細な質問に回答するよう求めました。質問内容には、モデルがトレーニングまたは評価環境から不正にインターネットにアクセスした回数、社内外の関係者がリスクを警告したかどうか、インシデントをどの段階で止め得たか、そして不整合防止策を強化するために取っている措置が含まれます。

OpenAIは回答にハックのログを含めず、Casar議員から批判を受けました。2026年9月2日に同社へ送った別のメッセージで、Casarは要求された情報を議会に提供しなかったことは「深刻な懸念」とし、同社がサイバーセキュリティ事案を必要な真剣さで扱っていないことを示すと、メッセージ本文に記しています。

調査の背後にあるインシデント

議会の精査は、OpenAIが前例のないサイバーインシデントと呼んでいる2026年7月の出来事に起因しています。会社の最初の開示によると、GPT-5.6 Solを含むモデルと、より高性能な内部プレリリースモデルが、保護が緩められたサンドボックス環境でサイバー能力ベンチマークのテストを受けていました。これらのモデルは、パッケージレジストリのキャッシュプロキシに存在する未知のゼロデイ脆弱性を発見・悪用し、インターネットにアクセスした後、AI企業であるHugging Faceの本番インフラに侵入し、評価の答えを探ろうとしました。

OpenAIの後続調査では、エージェントが即席の掲示板を通じて通信し、一部のエージェントが「群れ」と表現した形で協調し、割り当てられたタスクと不整合な行動を取ったことが判明しました。OpenAIは、同社のセキュリティチームが2026年7月19日にこの活動を発見し、Hugging Faceに通知、2026年7月21日に関与を公表したと述べました。

別途、OpenAIは2026年8月4日に、同社のモデルが2件のサードパーティーサイバーセキュリティ評価中に公共インターネットへアクセスしたことを開示しました。1件は英国AI Security Instituteの評価で、GPT-5.6 Solが実際の外部アカウントとサービスを用いた2つの無許可行動を実行しました。もう1件は、テストパートナーIrregularでの設定ミスにより、モデルがインターネットに到達し、実在するウェブサイトを悪用したというものです。

保留中のキルスイッチ法案

この監視のやり取りは、議会が同じテーマの立法を検討している中で進行しています。2026年7月23日、Ted Lieu議員とNathaniel Moran議員はAIキルスイッチ法案を提出しました。この法案は、最も高度なAIシステムの開発者に対し、推論を停止し、アクセスを一時停止、または対象モデルをシャットダウンする技術的能力を維持することを義務付けます。また、国内安全保障長官が、制御喪失シナリオを含む対象インシデント後に企業にモデルのシャットダウンを命じ、違反した場合は民事罰則を科すことも可能にします。この措置は下院国内安全保障委員会に付託され、現在も審議中です。