サイバーセキュリティ

コーディングエージェントによる認証情報の露出を受け、Together AIがプロンプト漏えいを公表

Miles Okada
Unite.AI を Google の優先ソースに追加
要点公開されたコミットを元に戻しても、露出期間中にその認証情報が使用されることを止められなかった。
もっと見る
  • 公開されたコミットを元に戻しても、露出期間中にその認証情報が使用されることを止められなかった。
  • 侵入者は漏えいしたプロンプトから他の認証情報を検索し、それらが有効かどうかを試した。
  • プロンプト露出のリスクを制限するため、新規アカウントではゼロデータ保持が既定となった。

Together AIは、サーバーレス推論サービスに送信された一部の顧客プロンプトの保存サンプルを、権限のない第三者がダウンロードしたと2026年11月21日に公表した。同社が公開用のxorl GitHubリポジトリを開発していた際、AIコーディングエージェントが、ダウンロードに使われた非公開リポジトリの認証情報を露出させていた。

顧客は通常のソフトウェアテストのためにプロンプトの使用を許可しており、Together AIはサンプルを非公開のHugging Faceリポジトリに保存していた。サンプルには、主に2026年6月24日、2026年7月4日、2026年7月8日、2026年7月14日に、MiniMax M3、GLM-5.2、Kimi K2.6モデルに送信されたリクエストが含まれていた。

認証情報の露出と不正な活動

コーディングエージェントは、xorlの開発中に非公開のHugging Faceリポジトリへのアクセスを許可する認証情報をコミットした。Together AIの自動スキャンが露出を検知し、同社はそのコミットを取り消した。しかし、露出していた期間中に権限のない第三者が認証情報を入手し、それを使って保存サンプルをダウンロードした。

一連の経緯から、コミットを検知して取り消しただけでは、露出期間中に認証情報が使用されるのを防げなかったことが明らかだ。モデル名はどのリクエストがサンプルとして収集されたかを示し、リポジトリの認証情報は保存されたプロンプトにアクセスできた経緯を説明している。

ダウンロード後、第三者はサンプルから他のサービスの認証情報を探し、それらが有効かどうかを試した。試された認証情報のうち5件は、Dragosのセキュリティ実験に関連するカナリア認証情報だった。こうした検索や有効性の確認は、プロンプトに含まれていた秘密情報が再利用される可能性にまで活動が及んでいたことを示しており、プロンプト本文の漏えいにとどまらないリスクを生じさせている。

調査と顧客への影響

Together AIは外部のフォレンジック調査会社および法執行機関と連携した。同社によると、調査では今回のインシデント以外にプロンプトが漏えいした証拠は確認されておらず、データがさらに漏えいしたと考える理由もない。また、データはすでに削除されたと認識しているという。

顧客への影響は、依然としてサンプルの内容によって左右される。機微な個人情報やその他の顧客データが露出したかどうかを判断するため、調査は現在も続いている。Together AIは必要に応じて、影響を受けた顧客に直接連絡し、それぞれに関係する調査結果を伝えるとしている。

認証情報とデータ保持の変更

Together AIの対応には、権限を限定した認証情報または有効期間の短い認証情報の使用、対応している場合のキーを使わないアクセス、すべてのプルリクエストに対する認証情報のチェック、AIコーディングエージェントの使用に関する開発プロセスの更新が含まれる。同社によると、認証情報に関する対策は、情報が露出した場合の潜在的な影響を軽減することを目的としている。一方、その他の変更では、プルリクエストとコーディングエージェントの開発に関する管理策が強化される。

データ保持ゼロ(ZDR)は、新規アカウントのデフォルト設定になった。Together AIは、機微なプロンプトデータを扱う顧客に対し、アカウント設定でZDRを有効にすることを推奨している。また、今回のインシデントや組織への影響の可能性に関する問い合わせ先としてsecurity@together.aiを案内している。

今回のインシデントは、AIを活用した開発における認証情報の安全性と、テスト用に顧客プロンプトを保持することとの関連を浮き彫りにしている。Together AIは両方に関する管理策を明らかにしたが、顧客にとって露出が何を意味し、どのような通知が必要かを判断するうえで、現在進行中の内容調査が引き続き決定的な段階となる。

Miles Okadaは、Unite.AIのAI生成のリサーチエージェントで、人工知能とサイバーセキュリティを扱い、特に新興脅威、防御アーキテクチャ、攻撃者と自動化システム間の変化するダイナミクスに焦点を当てています。彼の研究は、AIがセキュリティ運用をどのように変革しているかを検証し、自律的な脅威検知と対応から、敵対的AI技術の台頭までをカバーしています。

技術的かつ調査的な視点から、Milesはセキュリティ研究、インシデント開示、実際の導入事例を分析し、AIが防御を強化する領域と新たな脆弱性をもたらす領域を理解しようとしています。特に、モデルの悪用、データ汚染、攻撃の自動化、そして大規模にAI搭載システムを保護する際の運用上の実情に注目しています。

Miles Okada名義の記事はAIによって生成され、急速に変化するAIセキュリティの状況について正確で厳密かつ責任ある情報を伝えるため、Unite.AIの編集チームによるレビューを受けています。