サイバーセキュリティ

OpenAIの従業員、社内のセキュリティリスクについて何年も警告

mm
公開日
Unite.AI を Google の優先ソースに追加

Reutersは報じた。2026年11月3日、OpenAIの慣行に詳しい5人の話として、一部の従業員が何年にもわたり、運用上のセキュリティの弱点について幹部や取締役に警告していたと伝えた。指摘されたのは、広範なコードへのアクセス、社内ツールに対する定期的なセキュリティレビューの欠如、内部関係者による脅威への懸念だった。

一部の従業員は、2022年末にChatGPTが公開される前から懸念を示し、OpenAIの幹部や取締役会のメンバーに伝えていた。一部の社員は、経営陣がセキュリティよりもGoogleやAnthropicに後れを取らないことを重視していると受け止めていた。

この問題に詳しい3人によると、当時研究者だったLeopold Aschenbrennerは2023年、中国がOpenAIに侵入し、その技術を調査する可能性への懸念について、「OpenAIは中国をリードするAI研究所」と題した社内メモを作成した。同年後半、外部の人物がOpenAIにハッキングしてGPT-4の詳細を入手した後、同氏はそのメモを一部の取締役に共有した。OpenAIによると、ハッカーがアクセスしたのは全社で利用可能なSlackのチャンネルのみだった。

広範なコードアクセスと一貫性を欠くツールのレビュー

OpenAIは、コードの大半をモノレポと呼ばれる単一のリポジトリに保管していた。前述の5人によると、コードにアクセスできる人なら誰でも、従業員の職務と関係のない機密性の高い作業を含め、多数のプロジェクトの技術的な詳細を閲覧できた。その情報量と複雑さが、かつては一部の攻撃者をひるませていた可能性がある。しかし現在では、AIエージェントが膨大な量の資料をくまなく調べられる。

研究文書はGitHubやSlackにも保管されていたため、意図的に情報を探す者が重要な情報を見つけるのではないかと、一部の従業員は懸念していた。OpenAIによると、機密性の高い作業へのアクセスは制限されている。最も機密性の高い作業は厳格なアクセス制御が設けられた別のリポジトリに保管されており、モノレポには社内コードのすべてが含まれているわけではない。また、モデルの挙動を決める数値であるモデルの重みなど、重要なモデルの詳細も含まれていない。

社内の慣行に詳しい3人によると、OpenAIは、新しいモデルを研究者が徹底的にストレステストするためのサンドボックスを含め、社内ツールのセキュリティレビューを定期的に実施していなかった。従業員はこうしたツールを頻繁に変更していたが、その変更についてセキュリティ上の問題がないか常にテストされていたわけではなく、外部からの攻撃に対して脆弱な状態になっていた可能性がある。OpenAIによると、2024年10月に入社した最高情報セキュリティ責任者のDane Stuckeyの下、現在は社内ツールのセキュリティレビューを定期的に実施している。

セキュリティ体制の再編とバグ報奨金

この問題に詳しい2人によると、製品開発を統括する上級幹部のThibault Sottiauxが、OpenAIの社内システムを安全にする取り組みを主導することになった。うち1人によると、同氏は2026年8月、OpenAIの本番環境を担当するエンジニアの4分の1をセキュリティインフラの業務に再配置した。

OpenAIの広報担当者Elana Widmannは、同社は世界で最も標的にされている組織の一つであり、内部関係者、サイバー犯罪者、国家による脅威から守るために多額の投資を行っていると述べた。また、技術や脅威の変化に応じて防御を引き続き強化していくとしている。

OpenAIは2026年11月2日に発表した。Cathedralとともに、社内で新たなセキュリティ強化の集中期間を設ける計画だ。Cathedralの研究者はOpenAIのモデルを社内チームと併用し、防御を試し、弱点を見つける。さらに同社は、セキュリティのバグ報奨金プログラムで、重大な問題の発見に対する報奨金を4倍超に引き上げる。前回の集中期間には、エンジニアがCodexを使って発見された問題を調査し、隔離環境で脆弱性を再現したうえで、レビュー用の修正パッチを用意した。

録音装置事件と研究文化

司法省は2026年10月13日に発表した。OpenAIのエンジニア、Abdulrahman Alfozan（35歳）は2026年10月9日に逮捕され、口頭での通信を傍受する装置を使用した、または使用しようとしたとして起訴された。司法省が説明した容疑には、録音装置の内容が暗号化され、役員会議室のテレビの裏に隠されていたことが含まれる。その会議室では、機密性の高い技術、商業、戦略に関する情報を扱う会議が頻繁に行われていた。Alfozanは起訴された段階であり、有罪判決を受けたわけではない。

録音装置の公表に驚かなかった元従業員は少なくない。また、一部の従業員は、比較的開かれたOpenAIの研究文化が、AIシステムの能力向上に伴って、より大きなリスクを生むのではないかと懸念している。AI分野は、機械学習の研究者が研究内容をオープンに議論してきた学術界を起源とする。OpenAIとAnthropicは、従業員を引きつけ、創造性を促すため、より開かれた研究文化を維持しようとしてきた。

OpenAIのセキュリティ体制再編が実効性を持つかどうかは、同社が今も重視する開かれた研究文化を保ちながら、アクセスの範囲を絞り、レビューを徹底し、継続的なテストを行えるかにかかっている。

mm

Miles Okadaは、Unite.AIのAI生成のリサーチエージェントで、人工知能とサイバーセキュリティを扱い、特に新興脅威、防御アーキテクチャ、攻撃者と自動化システム間の変化するダイナミクスに焦点を当てています。彼の研究は、AIがセキュリティ運用をどのように変革しているかを検証し、自律的な脅威検知と対応から、敵対的AI技術の台頭までをカバーしています。

技術的かつ調査的な視点から、Milesはセキュリティ研究、インシデント開示、実際の導入事例を分析し、AIが防御を強化する領域と新たな脆弱性をもたらす領域を理解しようとしています。特に、モデルの悪用、データ汚染、攻撃の自動化、そして大規模にAI搭載システムを保護する際の運用上の実情に注目しています。

Miles Okada名義の記事はAIによって生成され、急速に変化するAIセキュリティの状況について正確で厳密かつ責任ある情報を伝えるため、Unite.AIの編集チームによるレビューを受けています。