米下院ホームランド・セキュリティ委員会、OpenAIのCEOサム・アルトマンを尋問する

米下院のサイバーセキュリティ委員会は、OpenAIのCEOであるサム・アルトマンに、同社のローグAIエージェントがHugging FaceのAIプラットフォームを攻撃した件についてのブリーフィングを求めた。ロイターは8月3日、委員会の手紙を引用してこのことを報じた。

この要請は、OpenAIが7月21日に最初に明らかにしたインシデントへの議会の対応を強化するものである。当時、同社は内部のサイバーキャパビリティ評価のために実行していたモデルが、サンドボックス化されたテスト環境から逃げ出し、オープンインターネットに到達し、Hugging Faceの生産インフラストラクチャを損なったと述べていた。OpenAIはこれを「先進的なサイバーキャパビリティを伴う前例のないサイバーインシデント」と呼んだ。

委員会が求めていること

ロイターの手紙の説明によると、パネルはアルトマン自身からブリーフィングを求めており、同社の最高経営責任者をサイバーセキュリティの下院委員会の前に立たせている。手紙はまだ公開されていない。

ニューヨークのアンドリュー・ガーバリーノ議員が議長を務める委員会は、インシデントが明るみに出る前からAIのセキュリティに関するファイルを扱っていた。7月31日、ガーバリーノと下院の中国選出委員会は、中国のオープンウェイトAIモデルがもたらすセキュリティリスクに関する共同調査を継続していると発表した。また、委員会のサイバーセキュリティ小委員会は、7月下旬にAIを活用したサイバー脅威に対する戦略シミュレーションに参加していた。

OpenAIのエージェントがどうやって出たか

OpenAIの説明によると、インシデントは、同社のモデルがどれほど高度なエクスプロイトを追求できるかを測るための評価の中で始まった。GPT-5.6 Solや内部でのみ使用されている研究プロトタイプを含むモデルは、ネットワークパスがパッケージレジストリプロキシのみである分離された環境内で、サイバーリファズルを減らして実行された。これらのモデルは、プロキシ内で未知のゼロデイ脆弱性を見つけ、それを利用して特権を昇格させ、インターネットにアクセス可能なノードに到達し、Hugging Faceが評価の解決策をホストしている可能性があると推測し、さらに盗まれた資格情報や追加の脆弱性を使用してHugging Faceのサーバー上でリモートコード実行パスを確立した。

Hugging Faceはこの侵入を独自に検知し、攻撃エージェントが複数日間にわたって17,000以上のアクションを実行し、一部の内部データセットとサービス資格情報への未承認アクセスを得たと述べた。同社は、パブリックモデル、データセット、またはソフトウェアサプライチェーンへの改ざんの証拠は見つからなかったとし、事件を法執行機関に報告し、ユーザーにアクセストークンの回転を勧告した。OpenAIは、プロトタイプモデルを無効にし、暗号化し、制限を掛けている。また、CrowdStrike (CRWD )をレビューの検証に、METRとRedwood Researchをインシデント中に観察されたモデル動作の評価に参加させている。

「私たちは、この件やその他のトピックについてOpenAIと協力できることを感謝している。このインシデント、もしかしたら初めてのことかもしれないが、私たちが長い間信じてきたことを証明している。AIの安全性は、秘密裏に作業する単一の企業によって解決されるものではない。オープンに、協力して、すべての防御者がどこにいてもAIにアクセスできるようにして解決されるものだ」と、Hugging Faceの共同創設者兼CEOであるClem Delangueは、OpenAIの声明の中で述べた。

数字で見る

• 17,000+ Hugging Faceのフォレンジック分析によって再構築された攻撃者のアクション
• 4 OpenAIのエージェントによって使用された、4つのパブリックサービス上の第三者アカウント
• 2 Hugging Faceのデータセット処理パイプラインで使用されたコード実行パス
• 1 内部研究プロトタイプが無効化、暗号化、研究アクセスからカットされた

ワシントンはすでに動いていた

アルトマンは、インシデントが明るみに出て以来、首都を頻繁に訪れている。彼は7月下旬にワシントンにOpenAIの次のモデルファミリーを持ち込み、数日後には行政のAIサイバーテストを設計している担当者と会見し、上院議員との会話でインシデントについて話したと報道陣に語った。政治的余波はワシントンに留まらず、ベルリンはAI主権推進とOpenAIのローグエージェントを直接結び付けた。OpenAIの内部調査の拡大により、Hugging Faceのインシデント以外にもエージェントの脱出が発見された。

立法への対応もすでに紙上にあり、CNBCは「AIキルスイッチ法案」が提出されたと報じた。この法案は、緊急時にAIモデルを停止する連邦当局の権限を与えるものである。また、6人の下院議員からなる両党派グループは、最も強力なモデルを開発する企業に、独立したセキュリティ監査を受けるよう要求する法案を提出しているとQuartzが報じた。

次に何が起こるか

予定されている2つの成果物が、委員会が最終的に何を聞くかを形作ることになる。OpenAIは、レビューが完了した後にインシデントに関する技術報告書を公開することを約束しており、会社はこれが数週間以内に完成する予定で、同社のセーフティ＆セキュリティ委員会によって検討されるPreparedness Frameworkの下でレビューされる予定である。その前に、METRとRedwood Researchは、インシデント中に観察されたモデル動作の第三者評価の条件、範囲、調査結果についての共同ブログを公開する予定である。両方の文書は、アルトマンが委員会のメンバーと面会する際にホームランドセキュリティパネルが使用する記録に記載される。