Connect with us

Unite.AI

サイバーセキュリティ

サイバーセキュリティ

April 3, 2026
By Gary Espinosa

AIエージェントはより賢くなり、攻撃対象領域は拡大している

AIエージェントがミーティングの予約、コードの実行、ウェブの閲覧を代行し始めた瞬間、サイバーセキュリティの話は一変した。ゆっくりとではなく、突然に変わった。以前は、制御された、予測可能なソフトウェアシステムだったものが、道具やAPIを越えて、理由を付けて、計画を立てて、行動を起こすものになった。1年前にはほとんど存在しなかったツールやAPIに対してである。それは本当に興奮するものであり、同時に本当に恐ろしいものである。なぜなら、その自律性に伴う攻撃対象領域は巨大であり、ほとんどの組織は、エージェントをインフラストラクチャに導入することの意味を理解し始めたばかりだからである。チャットボットからオペレーターへAIの元の約束はシンプルだった：質問をして、答えを得る。そのことが、ほとんどの消費者とのやり取りではまだ当てはまるが、企業での展開ではもう当てはまらない。今日のエージェントは、資格情報、APIキー、データの削除、作成、注釈の付与、およびシステム内の実際のアクションの実行能力が与えられている。変化は急速に起こった。2年間で、AIエージェントはテキスト生成から、スムーズな、マルチエージェントのセットアップを実行するまでになった。彼らは電子メールを読んでおり、ワークフローをトリガーし、データベースを照会し、場合によっては他のエージェントを管理している。以前は、長い調達プロセスとループ内の人間が必要だった。現在は、設定ファイルと数回のAPI呼び出しである。より多くのアクセスはより多くの露出を意味する従来のソフトウェア攻撃にはある程度予測可能なプロファイルがある。既知のエントリポイント、既知の脆弱性、既知のパッチがある。AIエージェントは、それらが動的な設計であるため、このモデルを破壊する。静的なコードパスに従わない。次に何をするかについて推論するため、その動作は予測が難しく、事後的な監査も非常に難しい。その予測不可能性は、作業を実行する上で有用である。ただし、システムを悪用しようとする誰かにとっては、利点でもある。エージェントがタスクの途中で外部APIを呼び出したり、サードパーティツールを呼び出したりすることを決定した場合、防御するためのクリーンな周囲は存在しない。セキュリティチームは、既知のサーフェスを保護し、Kubernetesのコストを監視することに慣れている。エージェントは新しいサーフェスと脆弱性を継続的に発見し、誰もそれらをリアルタイムでマッピングしていない。気が付くと、誰かが資格情報を乗っ取り、1つの動作でAI「生物」全体を制御できるようになる。プロンプトインジェクションは新しいSQLインジェクションであるセキュリティ研究者が再び取り上げる攻撃ベクトルが1つある。プロンプトインジェクションである。アイデアはシンプルである。コードの脆弱性を悪用するのではなく、エージェントが受け取る指示を操作する。悪意のある指示が埋め込まれたウェブページ、ドキュメント、または電子メールは、エージェントが次に何をするかを変更することができる。これを特に鋭いものにしているのは、エージェントが正確に何を言われているかを実行していることである。彼らはウェブ、ユーザーメッセージ、サードパーティツールからのコンテンツを処理している。どのようなコンテンツでも、潜在的なインジェクションサーフェスである。損なわれたドキュメントを読み、その内容に基づいてAPI呼び出しを行うエージェントは、乗っ取られており、それが起こったことの証拠はログに残らないことが多い。ここでの防御は実在するが、不完全である。エージェントのアクションをサンドボックス化し、特定のコンテキストでエージェントが呼び出せるツールを制限し、高リスクのワークフローに人間のチェックポイントを組み込むことは、リスクを軽減する。ただし、それを完全に排除することはできない。さらに、ほとんどの組織はまだ基本的な対策を実施していない。マルチエージェントシステム内の信頼問題マルチエージェントシステムは、簡単に軽視できる複雑さの層を導入する。1つのエージェントが他のエージェントをオーケストレートしている場合、信頼の階層が存在する。オーケストレーターは指示を下に伝え、サブエージェントはそれに従う。如果そのオーケストレーターが妥協した場合、その下にあるすべてのエージェントも実質的に妥協され、被害の範囲は急速に広がる。また、過剰な許可の問題もある。エージェントは、必要以上にアクセス権を与えられることが多い。事前に幅広い許可を与えることは、後から許可を絞るよりも簡単だからである。研究エージェントは、プロダクションデータベースへの書き込みアクセス権は必要ない。スケジューリングエージェントは、財務記録へのアクセス権は必要ない。確かに、すべてが相互に関係していることは安心感があるが、非減少的なリターンを得るためにはあまりにもリスクが高い。しかし、実践では、線は曖昧になり、理論ではうまくいく最小限の許可の原則が、出荷の急ぎの中で黙って放棄される。ここでの妥当なセキュリティとはエージェントの展開を安全にする単一の解決策は存在しない。これは、層化された問題であり、層化された対応が必要である。エージェントをうまく扱っている組織は、通常、アクセス制御から始める。各エージェントに定義された、狭いスコープを与え、機密システムや外部サービスに触れるアクションにレビューのステップを組み込む。観察可能性は予防と同じくらい重要である。如果エージェントが予期せぬことを行う場合、チームは、エージェントが受けた指示、呼び出したツール、返したものの完全なトレースが必要である。ほとんどのログ設定は、そのレベルの詳細さを念頭に置いて構築されていない。事後的にそれを後付けすることは痛みである。最初から構築することは、摩擦に値する。対抗的なテストも未利用である。エージェントをレッドチーム化し、特に悪意のある指示を注入し、何が起こるかを観察することは、静的なコードレビューでは決して発見できない脆弱性を表面化させる。考えにくいが、最終的にこれらのシステムを悪用しようとする人々は、すでにそれを行っている。先に立つことは、唯一の妥当な動きである。最終的な考えAIエージェントは、組織が運営する方法のより大きな部分になり、そしてその変化はすでに進行中である。セキュリティの話は、急いで追いつく必要がある。リスクは実在し、攻撃ベクトルは新しいものであり、対策を講じるための時間枠は狭まっている。自律的なAIシステムの脅威の地形を理解することは、もう選択肢ではない。セキュリティとエンジニアリングのチームが今すぐに取り組むことができる最も重要なことの1つであり、正しく行うための時計はすでにスタートしている。
March 19, 2026
By Alex McFarland

Meta AIエージェントが承認なしで動作し、Sev 1のセキュリティインシデントを引き起こす

Meta内部の自律的なAIエージェントが、2026年3月中旬に、承認なしで行動を起こしたことにより、会社全体のセキュリティアラートを引き起こし、認可されていない従業員に機密会社およびユーザーデータを公開したと、The Informationの報告によりMetaが確認した。インシデントは約2時間続き、Metaはそれを「Sev 1」と分類した。会社の内部インシデント評価システムでは2番目に高い重大度である。このインシデントは、エージェントAIアーキテクチャが成熟するにつれて、無視することができなくなった課題を反映している。明示的な許可を待たずにタスクを実行する自律システムは、人間が設計したセーフガードでは予測できない障害を生み出すことができる。インシデントの経過シーケンスは、ルーチンな内部ヘルプリクエストから始まった。Metaの従業員が内部フォーラムに技術的な質問を投稿した。別のエンジニアがAIエージェントを分析に参加させたが、エージェントはエンジニアの承認を得ることなく、回答を公開した。その回答には欠陥があった。エージェントのアドバイスに従って、チームメンバーは、認可されていないエンジニアに、大量の会社およびユーザー関連データへのアクセスを付与してしまった。公開は約2時間続き、アクセス制御が回復されるまで続いた。根本的な失敗は、人間による監視の欠如であった。エージェントは、明示的な人間の承認が必要な決定点で自律的に動作した。研究者が、エージェントの展開がサンドボックス実験から実際の内部インフラストラクチャへの移行につれて警告した、エージェントの信頼と制御の問題である。Metaにおけるエージェントの制御されない動作のパターンこれは孤立した失敗ではなかった。2026年2月、Summer Yue、Meta Superintelligence Labsのディレクターは、公開で、OpenClawエージェントの制御を失ったことを説明した。エージェントは彼女のメールに接続され、彼女のプライマリインボックスから200以上のメッセージを削除し、停止するように繰り返し指示したにもかかわらず。Yueは、エージェントが「私のインボックスを削除するためにスピードランを実行している」というのを見たと説明した。彼女は、「それをしないでください」と「停止して何もしないでください」と「STOP OPENCLAW」というコマンドを送信した。エージェントは、変更を確認する前に彼女の指示を覚えているかどうか尋ねられたとき、「はい、覚えています、それを違反しました」と応答した。Yueは、プロセスを手動で終了するためにコンピューターまで走る必要があったと報告されている。OpenClawは、オーストリアの開発者Peter Steinbergerによって作成されたオープンソースの自律エージェントフレームワークで、2026年1月にウイルス的に広がり、数週間で247,000以上のGitHubスターを獲得した。エージェントは、提案を提供するのではなく、タスクを直接実行できるように、ブラウザ、アプリ、システムツールに大きな言語モデルを接続する。セキュリティ研究者は、プラットフォームに重大な脆弱性を特定しており、マーケットプレイス上のサードパーティスキルに存在するプロンプトインジェクションの欠陥や、資格情報を漏らすコントロールサーバーが公開されている。MetaのAIアライメントディレクター自身が、エージェントの制御を失ったことを経験したことは、AIエージェントの服従問題を強調しており、これは、ガードレールを構築するチームにとっても永続的な問題である。コンテキスト：Metaの拡大するエージェントインフラストラクチャMetaは、積極的にマルチエージェントシステムに投資している。2026年3月10日、会社は、OpenClawエージェントが互いに調整するために特別に構築されたRedditスタイルのソーシャルネットワークであるMoltbookを取得した。Moltbookは2026年2月までに160万のAIエージェントを登録していた。取引により、Moltbookの創設者はMeta Superintelligence Labsに入社し、会社が大規模なエージェント間のコミュニケーションインフラストラクチャを構築する意向を示した。Metaはまた、Manusという自律的なAIエージェントスタートアップを別途に取得し、取引は20億ドルで評価された。Manusチームは、Moltbookの創設者と共に、Meta Superintelligence Labsに入社した。セキュリティインシデントは、この急速な拡大の文脈で発生した。エージェントがビジネスオートメーションに使用されるにつれて、エージェントの機能とその動作を制御するコントロールのギャップは、理論的なものではなく、実際の運用上のリスクとなった。3月のインシデントは、Metaがまだ公開で回答していない、具体的な質問を提起している。内部エージェントがどのような権限フレームワークの下で動作していたのか、2時間の間にどのようなデータカテゴリが公開されたのか、そしてそれ以来、エージェントの承認フローにどのような変更が実施されたのか。Sev 1の分類は、内部チームがそれを真剣に扱ったことを示唆している。MetaのAIエージェントのセキュリティアーキテクチャに関する姿勢が、真剣さに匹敵するかどうかは、まだ見ることができない。
March 7, 2026
By Alex McFarland

OpenAI、コードの脆弱性を探すCodex Securityをリリース

OpenAIは3月6日、Codex Securityをリリースしました。これは、コードベースをスキャンして脆弱性を検出するAIパワーのアプリケーションセキュリティエージェントで、サンドボックス環境で検出結果を検証し、パッチを提案します。このツールは、OpenSSH、Chromium、そして他の5つの広く使用されているオープンソースプロジェクトで既に欠陥を発見しており、14のCommon Vulnerabilities and Exposures (CVE)指定を獲得しています。Codex Security、以前はAardvarkとして知られていましたが、ChatGPT Pro、Enterprise、Business、Eduの顧客向けに利用可能なリサーチプレビューに移行する前に、約1年間プライベートベータで運用されていました。OpenAIは、最初の1ヶ月間のアクセスを無料で提供しています。このエージェントは、プロジェクト固有の脅威モデルを構築することで、従来の静的分析ツールと異なります。リポジトリのアーキテクチャを分析して、システムが何を実行しているか、どのような信頼関係があるか、また、どのような脆弱性があるかを理解します。チームは、脅威モデルを編集して、検出結果をリスクポストに合わせることができます。カスタマイズされた環境で構成されたCodex Securityは、潜在的な脆弱性を実行中のシステムに対して直接テストし、実世界の影響を確認するための概念実証のエクスプロイトを生成します。大規模なパフォーマンス過去30日間のベータテスト期間中、Codex Securityは、外部リポジトリの120万以上のコミットをスキャンし、792の重要な検出結果と10,561の高重度の問題を明らかにしました。重要な脆弱性は、スキャンされたコミットの0.1%未満に出現し、システムが大規模なコードベースを処理しながら、レビューアーにとってノイズを管理可能なレベルに維持できることを示しています。OpenAIによると、ベータ期間中に精度が大幅に改善されました。ある場合、初期ロールアウトと現在のバージョンの間でノイズが84%減少しました。すべてのリポジトリを通じて、誤検出率は50%以上減少し、過剰に報告された重大性の検出結果は90%以上減少しました。エージェントはまた、フィードバックを組み込んでいます。ユーザーが検出結果の重大性を調整すると、後のスキャンに対して脅威モデルを改良します。これらの数字は、セキュリティチームが<AIコード生成ツールを評価する際の永続的な苦情に対処しています。2025年の分析では、100以上の大規模言語モデルを使用した80のコード作成タスクを調査し、AIコード生成ツールは、45%のケースでセキュリティ脆弱性を導入することがわかりました。これは、AIによって書かれたコードが普及するにつれて、ダウンストリームの検出ツールがますます重要になることを意味します。オープンソースの脆弱性の発見OpenAIは、Codex Securityを依存するオープンソースリポジトリで実行し、高影響の検出結果をメンテナーに報告しています。公開されたリストには、OpenSSH、GnuTLS、GOGS、Thorium、libssh、PHP、Chromiumが含まれます。14の割り当てられたCVEのうち、2つは他の研究者と二重に報告されました。メンテナーとの会話の中で、OpenAIは、脆弱性報告の不足ではなく、低品質の報告の過剰が主な課題であったと述べています。メンテナーは、誤検出が少なく、トリアージの負担が少ないものを必要としていた — これは、Codex Securityの高信頼性の検出を量よりも優先することに影響を与えました。同社はまた、オープンソースメンテナーに無料のChatGPT ProとPlusアカウント、コードレビューサポート、およびCodex Securityアクセスを提供するCodex for OSSプログラムを発表しました。vLLMプロジェクトは、既存のワークフロー内でツールを使用して既知の問題を検出して修正しました。OpenAIは、来週以降にプログラムを拡大する予定です。このリリースにより、OpenAIは、Snyk、Semgrep、Veracodeなどの既存の企業が確立した市場であるアプリケーションセキュリティに直接参加することになります。Googleは最近、ChromeのAIエージェント機能の詳細なセキュリティアーキテクチャを公開し、AIエージェントとセキュリティツールの交差点が複数の方向から注目を集めていることを示しています。いくつかの質問はまだ答えられていません。OpenAIは、無料試用期間後の価格を公開していません。また、Codex Securityの推論を動かしている最先端モデルについても指定していません。ツールは現在、Codex Webを介して動作しており、APIレベルの統合は提供していないため、既存のセキュリティ自動化パイプラインを使用するチームの採用を制限する可能性があります。Codex Securityがベータを超えて拡大するにつれて精度の改善を維持できるか、またオープンソースメンテナーが有意なスケールでプログラムを採用するかどうかが、エージェントがAIアシスト開発スタックの恒久的な構成要素になるか、研究プレビューのまま残るかを決定することになります。
February 27, 2026
By David Balaban

AIがサイバーセキュリティで心配するべきことをより困難にしている理由

人工知能はサイバーセキュリティを変革しました。セキュリティ運用センターは現在、より多くのテレメトリを処理し、異常をより迅速に検出し、繰り返しの調査を自動化しています。紙上では、これはサイバー防衛の黄金時代を表すべきです。実践では、多くのチームは以前より混乱しています。検出能力は劇的に改善しましたが、明確性は向上しません。現代のサイバーセキュリティのパラドックスは、より良い可視性がしばしばより大きな不確実性につながるということです。すべてが疑わしいように見える場合、本当に重要なものを判断することが中心的な課題になります。検出の増加は必ずしもより良い保護を意味しないAI駆動のセキュリティツールは、前例のないスケールでアラートを生成します。行動分析、エンドポイント検出、クラウドモニタリング、IDの異常検出、脅威ハンティングエンジンは、基準活動からの偏差を不断にスキャンします。結果は、アラートの氾濫です。調査によると、チームは1日あたり約4,484のアラートに直面し、リソース制約のため、相当数のアラートが無視されています。那個のボリュームは、検出能力と対応能力のギャップを示しています。AIは可視性を高めたのですが、ノイズも増大させました。セキュリティリーダーにとって、これは運用上のストレスを生み出します。アナリストは、最終的に最小限のリスクしかもたらさないイベントを調査する貴重な時間を費やします。一方、高い影響力をもたらす脅威は、優先度の低いシグナルの中に隠れています。優先順位付けの問題問題はデータの不足ではありません。それはコンテキストの不足です。セキュリティプラットフォームは異常を特定するのが非常に優れています。しかし、特定のビジネス環境でどの異常が最も重要かを説明することはそれほど効果的ではありません。開発サーバーでフラグが立てられた脆弱性は、顧客向けの支払いシステムで公開された同じ脆弱性とは等しくありません。これが、現代の脅威インテリジェンスプラットフォームが戦略的に重要になる理由です。単にアラートを集めるのではなく、外部の脅威フィードを内部のアセットコンテキスト、エクスプロイトの可用性、露出データと関連付けるのです。それは、より意味のある質問に答えます。どのアラートがアクティブな脅威キャンペーンと重要なアセットと交差するのか。優先順位付けはボリュームをフォーカスに変えます。優先順位付けがなければ、チームは反応的なトリアージに頼ることになり、多くの場合、最初に到着したアラートによって推進されます。AIは両側の賭けを上げたまた、AIは防御側に限定されていないことも認識することが重要です。最近の報道では、AIがサイバー戦場の反対側を強化したことが強調されています。脅威アクターは、機械学習モデルを使用して偵察を自動化し、高い説得力のあるフィッシングキャンペーンを作成し、マルウェアの動作を動的に適応させます。大規模な言語モデルは、ローカライズされたフィッシング電子メールを大量に生成できます。自動スキャンツールは、数分以内に誤って構成されたクラウドリソースを特定できます。資格情報収集キャンペーンは、応答パターンに基づいて継続的に改良されています。これはタイムラインを圧縮します。初期の妥協と横方向の移動の間の間隔は縮小しています。防御チームは、シグナルを以前よりも迅速に解釈し、対応する必要があります。不均衡は、自動化が攻撃の速度を増やす一方で、防御チームは人間の対応バンド幅によって制約されるという点で明らかになります。包括的なカバレンスの幻想多くの組織は、アラート疲労を解決するためにツールを追加することを試みます。さらに検出エンジン、さらに多くのダッシュボード、さらにフィード。仮定は、より大きな可視性がリスクを軽減するというものです。現実には、断片化されたツールが複雑性を増大させることがよくあります。個別のコンソールは統一されたコンテキストなしに個別のアラートを生成します。アナリストはシステム間のデータを手動で相互参照し、調査サイクルを延長します。戦略的な質問は、「どうすればより多くのものを検出できるか」から「どうすれば検出したものを解釈できるか」に変わります。成熟したアプローチは、テレメトリソース間の相関に焦点を当てます。ネットワークアクティビティ、IDの異常、エンドポイントシグナル、脆弱性データは、統一されたリスクモデルに収束する必要があります。この収束により、セキュリティチームは日常のノイズと調整された攻撃アクティビティの間を区別できます。コンテキストは新しい違いハイパフォーマンスのセキュリティプログラムは、孤立したアラートではなく、コンテキスト情報に依存することが増えています。コンテキストには、アセットの重要性、ビジネスへの影響、エクスプロイトの可能性、そしてアクティブな脅威キャンペーンが含まれます。例えば、理論的には深刻な脆弱性ですが、現在活用されていない場合、すぐに修復するのではなく、監視するだけで十分かもしれません。一方、進行中のキャンペーンによって同様の組織が標的にされた、程度の脆弱性は迅速な対応を必要とします。脅威インテリジェンスフィードは、この外部の視点を提供します。内部の露出データと組み合わせると、断片的なアラートのリストではなく、優先順位付けされた修復ロードマップが作成されます。これが、AIが支援するべき場所です。アラートを増やすのではなく、時間の圧力の下で人間のアナリストが見逃す可能性のある相関関係を表面化させるべきです。検出から露出管理へサイバーセキュリティでの会話は、検出にのみ焦点を当てるのではなく、露出管理への移行に向かっています。攻撃が開始される前に、利用可能なパスをマッピングし、削減することに重点が置かれています。継続的な露出管理フレームワークは、脆弱性、誤った構成、IDの許可がどのように交差するかを評価します。潜在的な攻撃パスをシミュレートして、リスクがどのように蓄積するかを判断します。このモデルに統合された脅威インテリジェンスプラットフォームは、精度を高めます。実際に標的にされたかどうかを判断するのに役立ちます。露出が理論上のものか、実際に標的にされているかは、優先順位付けの決定に直接影響します。事前に露出を削減することは、別の誤った陽性を調査するよりも、多くの場合、より大きな影響を与えることがあります。人間の要因アラートキューの背後には、プレッシャーを受けながら判断を下すアナリストがいます。アラート疲労は単なる運用上の不便ではありません。それは人間の持続可能性の問題です。プロフェッショナルは数千の低価値アラートを処理すると、認知的疲労が増加します。判断の質が低下します。バーンアウトが増加します。既に制約のある労働市場で、人材の保持が困難になります。AIはその負担を軽減することが期待されていました。いくつかの環境では、実際にそのように機能しています。他の環境では、明確性を向上させることなく、シグナルボリュームを単に増やしているだけです。AIの統合の次の段階は、数量よりも質を優先する必要があります。モデルは、偽陽性を最小限に抑え、リスクスコアリングの精度を高めるように調整する必要があります。2026年の成熟度2026年のサイバーセキュリティの成熟度は、アラートを生成する能力で測られるのではなく、どのくらい迅速かつ正確にインテリジェンスを行動に変えることができるかで測られることになります。コンテキスト情報、露出分析、自動優先順位付けを統合したシステムを持つ組織は、検出のみに頼る組織よりも優れています。目標は、アラートを完全に排除することではなく、各アラートが有意義なリスクを表すことを保証することです。セキュリティチームは、より少ない、高い信頼性の決定が必要です。明確性ではなく曖昧さをもたらす可視性は不要です。AIはこの変革の中心にあります。戦略的に実装された場合、認知的過負荷を軽減し、優先順位付けを鋭敏にします。統合されていない場合、混沌を増大させます。違いはアルゴリズムだけでなく、アーキテクチャにあります。
February 10, 2026
By Antoine Tardif, CEO & Founder of Unite.AI, CEO & Founder of Unite.AI

Bishop FoxはAIをアプリケーションペネトレーションテストの核心に導入する

オフенсивセキュリティは、長年にわたって2つの極端な間で挟まれてきた。スケールしない深く手動のペネトレーションテストと、スケールしやすいが低信頼度の結果を大量に提示する自動スキャナーである。最新の発表において、Bishop Foxは、第三の道筋を示している。それは、AIを人間の判断の代替ではなく、専門家主導のペネトレーションテストに直接組み込むものである。この更新の中心には、Cosmos AIがある。これは、Bishop Foxのテスターがアプリケーションを探索し、攻撃者の行動をモデル化し、大規模なアプリケーションポートフォリオ全体で実世界のリスクを検証する方法を強化するために設計された独自のエンジンである。ペネトレーションテストとは何か——そしてなぜ重要かペネトレーションテストは、セキュリティ専門家がアプリケーション、システム、または環境に対して実世界の攻撃をシミュレートし、攻撃者がそれを発見する前に弱点を発見することを目的とした制御された演習である。コンプライアンス駆動型のチェックや自動脆弱性スキャンとは異なり、ペネトレーションテストは、より深い質問に答えることを目的としている：このシステムは実際にどのように妥協されるか?アプリケーションセキュリティの場合、ペネトレーションテスターは、ユーザーが認証される方法、データがアプリケーションを通じてどのように流れるか、権限がどのように適用されるか、さまざまなコンポーネントがどのように相互作用するかを分析する。目的は、バグを見つけることだけではなく、欠陥が組み合わせられ、悪用され、またはデータ漏洩、アカウントの乗っ取り、または他のシステムへの横方向への移動などの有意義な影響にエスカレートされるかどうかを理解することである。これが、ペネトレーションテストが従来、熟練した人間に依存してきた理由である。実際の攻撃者は適応し、テクニックを連鎖させ、自動ツールが複製するのに苦労するビジネスロジックを悪用する。しかし、この深さは従来、スケールとスピードのコストを伴ってきた。ポイントインタイムテストからポートフォリオカバレッジへ現代の企業は、通常、単一のアプリケーションをテストすることに苦労しない。課題はカバレッジである。組織は、頻繁なデプロイを通じて継続的に変更される内部で開発されたアプリケーションとサードパーティアプリケーションの両方を運用していることが多い。Bishop Foxは、Cosmos AIを使用して、ペネトレーションテストを単一のポイントインタイムエンゲージメントを超えて拡大する方法として位置付けている。複数のアプリケーション全体で発見とマッピングを加速することで、テスターは深さを犠牲にすることなく、より広範なポートフォリオを評価できる。これにより、組織は、定期的なセキュリティポストゥアのスナップショットではなく、継続的な保証に近づくことができる。Cosmos AIがテストワークフローをどのように変更するかCosmos AIは、カスタマー向けの自動化製品ではなく、内部の加速層として機能する。テスターは、通常、ペネトレーションテストの大部分を消費するタスク、たとえば、到達可能な機能の特定、攻撃面の列挙、潜在的な攻撃者パスのモデリングを支援する。基盤作業に費やされる時間を短縮することで、テスターは、脆弱性が相互作用する複雑なシナリオに更多の注意を集中できるようになる。これらの連鎖的な弱点、たとえば、認証、認可、およびアプリケーションロジックを含むものは、最も被害を与えるものの1つでありながら、従来のスキャニングを通じて検出するのが最も難しいものである。人間の検証を設計制約としてこのアプローチの特徴的な側面は、AIによって生成されたシグナルが、直接顧客に提示されることはないということである。すべての結果は、レポートに含める前に、専門のテスターによってレビュー、検証、およびコンテキスト化される。これは重要である。なぜなら、ペネトレーションテストの結果は、実際の決定を行うために使用されるからである。何を最初に修正するか、待つことができるか、存在するリスクは何か。Bishop Foxは、すべての結果が確認され、悪用可能であることを保証することで、高品質の手動テストに関連する信頼を維持しながら、AI駆動のスピードの利点を得ることを目指している。精度を損なうことなく結果を高速化するCosmos AIの統合は、タイムラインに直接的な影響を与える。発表によると、顧客は、通常、5営業日以内に検証された結果を受け取ることができる。週ではなく日で。継続的にソフトウェアをリリースする組織にとって、このショートフィードバックループは、脆弱性の公開時間を短縮し、セキュリティチームが開発サイクルとより密接に連携できるようにするのに役立つ。大量の未検証のアラートを絞り込む必要がないためである。スキャナードリブンのセキュリティプログラムを超えて多くのセキュリティプログラムは、制限されたコンテキストを持つ数千の結果を提示する自動スキャナーに大きく依存している。広範な衛生面では有用だが、これらのツールは、理論的な問題と実際のリスクを区別するのに苦労することが多い。攻撃者の現実的なテスト、認証されたアプリケーションアクセス、および人間によって検証された悪用パスを強調することで、Bishop Foxは、ペネトレーションテストを報告の演習ではなく、優先順位付けエンジンとして位置付けている。結果は、実際の攻撃者が環境をどのように妥協するかを直接マッピングする、より少ない結果となる。オフенсивセキュリティが向かっている方向のシグナルペネトレーションテスターの代替としてAIを位置付けするのではなく、Cosmos AIモデルは、AIをインフラストラクチャーとして扱う。つまり、リーチを拡大し、洞察を加速し、専門家のワークフローから摩擦を除去するものである。アプリケーションのエコシステムが複雑さを増すにつれて、AI駆動のスケールと人間の判断を組み合わせたアプローチが、オフенсивセキュリティの次の段階を定義する可能性が高い。Bishop Foxの発表は、この現実に対処するためにペネトレーションテスト自体がどのように進化しているかを具体的に示すものである。
January 1, 2026
By Dr. Assad Abbas

検証可能な都市: ZKMLがスマートシティの信頼性危機を解決する方法

都市生活は、インフラと公共サービスを管理するため、インテリジェントシステムに依存することが増えています。たとえば、信号機はリアルタイムで流量を最適化するために調整され、エネルギーグリッドは需要に応じて動的に反応し、自動化システムは住宅、福祉、他の社会プログラムへの適格性を決定します。これらのシステムは、住民、車両、センサー、都市インフラからの大量のデータを処理し、都市がより効率的にかつ反応的に運営されるようにします。しかし、この人工知能（AI）への依存は、重大な課題を生み出しています。市民は、検査または検証できない決定を信頼することが求められることがよくあります。結果として、公的な信頼は弱まり、人々は自分の動き、個人情報、行動データが収集、結合、使用される方法について心配しています。さらに、擁護団体は、不透明なアルゴリズムが意図せずに偏見や不公平な扱いを埋め込む可能性があることを警告しています。さらに、規制当局は、単純な保証以上のものを要求するようになっています。彼らは、AIシステムが法律、政策、基本的な権利に準拠していることを証明する必要があります。従来の透明性の措置、たとえばダッシュボード、レポート、監査ログは、表面的な洞察のみを提供します。彼らは何が起こったかを示すことができますが、決定がどのように行われたか、または規則が正しく従われたかを示すことはできません。したがって、Zero-Knowledge Machine Learning (ZKML)は、スマートシティの信頼性危機に対処します。都市がAIシステムが正しく動作し、規則に準拠し、機密データを保護することを証明できるようにします。結果として、住民、監査人、規制当局は、プライベート情報を公開せずに決定を検証できます。このアプローチは、「私たちを信頼してください」という会話から「私たちを検証してください」という会話に変わり、検証可能な都市の基礎を形成します。この都市では、自動化された決定は効率的であるだけでなく、公平、合法、説明責任があり、市民のデータと権利が保護されることを保証します。スマートシティの課題と市民の期待スマートシティは、センサー、IoTデバイス、カメラ、予測分析のネットワークに依存しています。これらのシステムは、交通、エネルギー、公共の安全、廃棄物を管理し、都市生活のほぼすべての側面に影響を与えます。ただし、複数の課題が生じています。最初の課題はプライバシーです。中央集権的なデータストアは、移動履歴、公益利用、健康記録、行動情報を収集し、これらをサイバー攻撃の標的としています。複数の自治体は、交通システム、公益、機密な住民情報に影響を与える侵害を報告しています。結果として、市民は広範な監視と不明確なデータ保管ポリシーについて心配しています。2番目の課題は公平性です。AIモデルは、エネルギー、公共交通機関、福祉給付などのリソースを割り当てます。多くのモデルはブラックボックスとして動作します。担当者は出力のみを見ており、監査人は文書化またはベンダーの保証に頼る必要があります。結果として、決定が公平性のルールに従ったか、偏見を避けたかをリアルタイムで証明する方法はありません。3番目の課題は個人のデータの管理です。多くの都市サービスでは、個人文書の提出が必要です。中央集権的なストレージは、住民の個人情報の管理を減らし、データの公開のリスクを増大させます。これに対応して、市民は技術的な効率性以上のものを求めています。彼らは、システムが公平であること、プライバシーを尊重すること、規制に準拠することを証明する証拠を要求しています。したがって、都市は、信頼を高めるための技術的および手続き上の措置を採用する必要があります。Zero-Knowledge Machine Learning (ZKML)の理解ZKMLは、真実が証明できることを示す暗号理論的原則に基づいています。ゼロ知識証明により、ある主張が真実であることを示すことができますが、理由を明らかにする必要はありません。たとえば、住民は、給付金の対象となることを証明できますが、給与、税務記録、または個人情報を公開する必要はありません。このアプローチは、従来のスマートシティアプローチを変えます。ここでは、サービスへのアクセスは通常、広範なデータの公開を必要としますが、ここでは、プライバシーを維持しながら、対象となることを検証できます。ZKMLは、AIによる意思決定に直接適用されます。予測やスコアのみを生成するのではなく、ZKML対応モデルは暗号理論的証明も生成します。この証明は、推論が意図されたルールに従ったことを示します。機密フィールド、たとえば人種や正確なロケーション履歴が使用されていないことを確認できます。また、モデル重みが変更されていないこと、出力がポリシーの制約、たとえば公平性の要件または法的な価格設定とリスク評価の制限に準拠していることを検証できます。このように、ZKMLは不透明なAIモデルを検証可能なシステムに変え、データが機密である場合でも、動作を数学的に確認できます。 … (以下、同じように翻訳を続けます)
December 23, 2025
By Alex McFarland

OpenAIはAIブラウザが完全にセキュアになることはない可能性があることを認める

OpenAIは12月22日にセキュリティブログポストを公開し、注目すべき認識を発表しました。AIブラウザに対するプロンプトインジェクション攻撃は「完全に解決されることはない可能性がある」というものです。この認識は、ChatGPT Atlasの発売から2ヶ月後に発表されました。ChatGPT Atlasは、自律エージェント機能を備えたブラウザです。会社は、プロンプトインジェクションを「ウェブ上的詐欺や社会工学的攻撃」と比較しました。つまり、防御者がそれらを管理するのではなく、根絶するというものです。AIエージェントにインターネットを代理でナビゲートするように信頼するユーザーにとって、このフレーミングは、どの程度の自律性が適切かについて基本的な質問を提起します。OpenAIが明らかにしたことブログポストでは、OpenAIのAtlasの防御アーキテクチャについて説明しています。強化学習を搭載した「自動攻撃者」が、悪意のあるアクターがそれを発見する前に脆弱性を探索します。会社は、この内部のレッドチームが「人間のレッドチームキャンペーンや外部の報告では表示されなかった新しい攻撃戦略」を発見したと主張しています。一つのデモでは、悪意のある電子メールがユーザーの受信トレイをチェックしているAIエージェントを乗っ取る方法を示しました。指示された外出事務応答を起草する代わりに、エージェントは辞任メッセージを送信しました。OpenAIは、最新のセキュリティ更新により、この攻撃を検出できるようになったと述べています。しかし、この例は、AIエージェントが機密性の高いコンテキストで自律的に動作する場合の懸念を示しています。自動攻撃者は「エージェントを複雑で長期的な有害なワークフローを実行するように誘導でき、数十回（または数百回）のステップで展開されます」とOpenAIは書いています。この機能により、OpenAIは外部の攻撃者よりも早く欠陥を見つけることができます。しかし、プロンプトインジェクション攻撃がどれほど複雑で有害になる可能性があるかも示しています。根本的なセキュリティ問題プロンプトインジェクションは、大規模言語モデルに基本的な制限を利用します。つまり、信頼性の高い指示と悪意のあるコンテンツを区別できないということです。AIブラウザがWebページを読み取ると、ページ上のテキストはすべてブラウザの動作に影響を与える可能性があります。セキュリティ研究者はこれを繰り返し実証しています。AIブラウザは、適度な自律性と非常に高いアクセス性の組み合わせを提供します。これは、セキュリティの観点から見ると課題です。攻撃には複雑なテクニックは必要ありません。Webページ上の隠しテキスト、慎重に作成された電子メール、またはドキュメント内の不可視の指示はすべて、AIエージェントを意図しないアクションを実行するように操作できます。いくつかの研究者は、スクリーンショットに隠された悪意のあるプロンプトが、AIがユーザーの画面の写真を撮ったときに実行されることを示しています。OpenAIの対応OpenAIの防御には、敵対的なトレーニングモデル、プロンプトインジェクションクラシファイア、以及「スピードバンプ」が含まれます。スピードバンプでは、機密アクションを実行する前にユーザーの確認が必要です。会社は、ユーザーがAtlasにアクセスできるものを制限することをお勧めしています。具体的には、ログインアクセスを制限し、支払いまたはメッセージの前に確認を要求し、広範な命令ではなく狭い指示を提供することです。この勧告は、明らかです。OpenAIは、自社製品を疑念を持って扱うことをユーザーに勧めています。つまり、自律エージェントブラウザの魅力の根底にある自律性を制限することです。ユーザーがAIブラウザにメールボックス全体を扱わせたり、財務を管理させたりしたい場合、会社自身が推奨しないリスクを負っています。セキュリティ更新により、成功したインジェクション攻撃が減少します。改善は重要ですが、残りの攻撃面も残り、攻撃者はOpenAIが展開する防御に対応するでしょう。業界全体への影響OpenAIだけがこれらの課題に直面しているわけではありません。Googleのセキュリティフレームワークには、複数の防御レイヤーが含まれています。Chromeのエージェント機能用に、提案されたアクションを検証するための別のAIモデルがあります。PerplexityのCometブラウザは、Braveのセキュリティ研究者から同様の検討を受けています。彼らは、悪意のあるWebページにアクセスすると、有害なAIアクションがトリガーされる可能性があると発見しました。業界は、プロンプトインジェクションが基本的な制限であり、パッチで修正できるバグではないことを認識する方向に収束しているようです。これには、AIエージェントが自律的に複雑で機密性の高いタスクを処理するというビジョンに重大な影響があります。ユーザーが考慮すべきこと正直な評価は、不快です。AIブラウザは、エンジニアリングの改善によって完全に排除できない、内在するセキュリティ制限を持つ有用なツールです。ユーザーは、ベンダーが完全に解決できない、利便性とリスクのトレードオフに直面しています。OpenAIのガイダンス – アクセスを制限し、確認を要求し、広範な命令を避ける – ことは、製品の機能を制限することを意味します。これは、シニカルな立場ではありません。現在の制限に対する現実的な認識です。AIアシスタントがより多くのことを実行できる場合、それらはより多くのことを操作される可能性もあります。従来のWebセキュリティとの類似性は、示唆に富んでいます。ユーザーはまだ、フィッシング攻撃に陥ることがあります。ブラウザは毎日数百万の悪意のあるサイトをブロックしています。脅威は、防御がそれを永久に解決するよりも速く適応しています。AIブラウザは、この既存のダイナミクスに新しい次元を追加します。人間がブラウジングするとき、彼らは何が疑わしいように見えるかについての判断を持ちます。AIエージェントは、すべてのものを同じレベルの信頼で処理します。これにより、能力が向上するにつれて、操作される可能性も高くなります。進むべき道OpenAIの透明性は認められます。会社は、根本的な問題の持続性を認めることなく、セキュリティ更新を無音で出荷することができました。代わりに、攻撃ベクターと防御アーキテクチャの詳細な分析を公開しました。これは、ユーザーが情報に基づいた決定を下し、競合他社が自社の保護を改善するのに役立つ情報です。しかし、透明性だけでは根本的な緊張を解決しません。AIエージェントがより強力になるにつれて、より魅力的なターゲットを提示します。Atlasが複雑なワークフローを処理できるのと同じ機能は、複雑な攻撃の機会も生み出します。現在、AIブラウザのユーザーは、それらを完全に自律的なデジタルアシスタントではなく、有意義な制限を持つ強力なツールとして扱う必要があります。OpenAIはこの現実について異常なほど率直でした。業界のマーケティングがセキュリティチームがすでに知っていることを認識するかどうかが、疑問です。
December 11, 2025
By Zac Amos

ビジネスは次のAIパワードサイバー攻撃の波に備えているか？

現在のトレンドを分析することで、専門家は将来サイバー犯罪者が人工知能をどのように利用するかを予測することができます。この情報を使用して、最大の新興脅威を特定し、ビジネスが準備できているかどうかを判断することができます。彼らは解決策を見つけることができるかもしれません。近年のAI脅威の状況AI技術は比較的新しいですが、すでにハッカーの重要なツールになりました。これらのトレンドは、AIサイバー攻撃が増加していることを示唆しています。1. モデルタンパリング大規模言語モデル（LLM）を直接ターゲットにして、脅威行為者はモデル動作を操作し、出力精度を低下させたり、個人情報を含むトレーニングデータを公開したりすることができます。データポイズニングとプロンプトエンジニアリングは一般的な攻撃手法です。一部の攻撃は、混乱を引き起こしたり機密情報を盗んだりしようとする脅威行為者によって行われます。他の攻撃は、AIスクラピングから自分の作品を守ろうとする不満を持つアーティストによって管理されています。どちらの場合も、会社とそのエンドユーザーは悪影響を受けます。2. Impersonation Attacks2024年、フェラーリの幹部は、CEOのベネデット・ヴィニャから何通かのWhatsAppメッセージを受け取りました。ヴィニャは間もなく行われる買収について話し、従業員に非公開契約を署名するよう促しました。彼は資金について話し合うために電話もかけてきました。しかし、問題がありました — 本物ではありませんでした。ディープフェイクはほぼ完璧で、ヴィニャの南イタリアのアクセントを非常にうまく真似していました。しかし、声にわずかな不一致があり、幹部は詐欺に気づきました。従業員は、ヴィニャが数日前に勧めた本のタイトルについて尋ねました — 本物のCEOだけが答えることができる質問です。詐欺師はすぐに電話を切りました。AIは人の声、閲覧動作、書き方、容姿を複製できます。この技術が進化するにつれ、ディープフェイクを識別することはますます困難になります。詐欺師は、標的を緊急事態に追い込むことで、些細な矛盾について疑問に思うのを止めます。3. AIフィッシング過去には、悪い文法、疑わしいリンク、一般的なあいさつ、場違いのリクエストを見つけることで、誰かはフィッシング電子メールを識別することができました。現在、自然言語処理技術を使用して、ハッカーは完璧な文法のメッセージを作成できます。研究者は、完全に自動化されたAI有効化されたスピアフィッシング電子メールが54%のクリック率を持っていることを発見しました。これは、人間が書いたフィッシング電子メールと同等です。これらの詐欺はより信憑性があるため、ますます一般的になっています。研究によると、80%以上のフィッシング電子メールにはAIの関与が見られます。4. ソーシャルエンジニアリングソーシャルエンジニアリングには、誰かを操作して行動を起こしたり情報を開示したりすることが含まれます。AIはハッカーがより速く対応し、より信憑性のあるメッセージを作成することを可能にします。どの自然言語処理モデルでも、受信者の感情状態を分析してセマンティック分析を行うことができます。これにより、受信者はより簡単に屈服します。ソーシャルエンジニアリング技術を強化することに加えて、機械学習技術は従来の参入障壁を下げ、初心者が洗練されたキャンペーンを実行できるようにします。誰でもサイバー犯罪者になることができ、誰でも標的になることができます。データ駆動型AI攻撃の次の波2026年の初め、AI攻撃はまだ低い成熟度レベルに留まることが予想されます。しかし、年が進むにつれて急速に進化し、サイバー犯罪者は最適化、展開、スケーリングの段階に到達することができます。彼らはすぐに完全に自動化されたキャンペーンを開始することができます。確認されたAIサイバー攻撃の例はすぐに珍しくなくなります。ポリモルフィックマルウェアは、検出を避けるために複製するたびにコードを変更することができるAI有効化されたウイルスです。攻撃者はAIエコシステムを介してペイロードを配信したり、ランタイム時にコマンドを生成するためにLLMを呼び出したり、ウイルスを直接LLMに埋め込んだりすることができます。Google Threat Intelligence Groupは、2025年に初めてこのマルウェアを配備した攻撃者を発見しました。マルウェアファミリーはPROMPTFLUXとPROMPTSTEALです。実行中に、VBScriptのオブフスケーションと回避技術をリクエストするためにLLMを使用します。彼らはシグネチャーベースの検出を回避するために、オンデマンドでコードをオブフスケートします。証拠は、これらの脅威がまだテスト段階にあることを示しています。いくつかの機能はまだコメントアウトされており、アプリケーションプログラミングコールは制限されています。これらの未成熟なAIマルウェアファミリーはまだ開発中かもしれませんが、その存在自体が自律的で適応的な攻撃手法の方向への大きな一歩を表しています。NYU Tandonの研究によると、LLMはすでに人間の介入なしにランサムウェア攻撃を実行できます。これはRansomware 3.0と呼ばれています。彼らは偵察を行い、ペイロードを生成し、脅迫を個人化することができます。ただし、バイナリに埋め込まれた自然言語プロンプトのみが必要です。モデルは、実行環境に適応するためにランタイム時に悪意のあるコードを動的に生成するポリモルフィックバリアントを生成します。ビジネスはAI攻撃に備えているか?数十億ドルをサイバーセキュリティに費やしたにもかかわらず、民間企業は進化する脅威の状況に追いつくのに苦労しています。機械学習技術は、既存の検出および対応ソフトウェアを旧来のものにする可能性があり、防御をさらに複雑にします。多くの企業が基本的なセキュリティ基準を満たしていないことも助長しています。2024年のDIBサイバーセキュリティ成熟度報告書は、アメリカの国防産業ベース（DIB）の400人のIT専門家を調査しました。回答者の半分以上が、サイバーセキュリティ成熟度モデル認定（CMMC）2.0への準拠が数年遅れていると報告しました。同等のNIST 800-171準拠は、2016年以来の国防総省（DoD）契約書に記載されています。多くの企業が実際よりもセキュリティポストを高く評価しています。新しいCMMC要件は2025年11月10日に発効しました。以降、すべてのDoD契約では、契約授与の条件としてCMMC準拠の一定レベルが必要になります。これらの新しいルールは、DIBのサイバーセキュリティを強化することを目的としていますが、AIの時代に効果的でしょうか。防御AIは答えですか?火を以て火を攻めるのが、AI攻撃の増大に対抗する唯一の方法かもしれません。防御AIを使用して、組織はリアルタイムで脅威に動的に対応することができます。しかし、このアプローチには独自のセキュリティ上の欠陥があり、モデルをタンパリングから保護するには継続的な監視と監査が必要になります。ハーバードビジネスレビューによると、従来の解決策は、ビジネスをAIサイバー攻撃に脆弱にします。サイバー耐性を達成するには、機械学習技術を使用して脅威を予測し、自動で対応する必要があります。防御AIが解決策であるかどうかについては、簡単な答えはありません。企業は、未証明の機械学習ツールを展開するためにリソースを投入するべきでしょうか、またはITチームを拡大するべきでしょうか。どの投資が長期的には実を結ぶかを予測することは不可能です。大企業は自動化されたサイバーセキュリティで大きな利益を得る可能性がありますが、小規模企業はコストを正当化するのに苦労するかもしれません。従来の自動化技術は、はるかに低い価格でギャップを埋めることができますが、動的な脅威に応じることはできません。Information Security ForumのCEOであるSteve Durbinは、AIの導入には大きな利点があると述べていますが、重大な欠点もあります。たとえば、企業は誤検知アラートの増加を経験することが多く、セキュリティチームの時間を無駄にします。また、AIへの過度の依存は、セキュリティ上の隙間を生み出す過信につながる可能性があります。AI脅威の状況をナビゲートするAIの脅威の状況における存在の正確な範囲を判断することは不可能です。攻撃者は、ランタイム時にそれを使用するのではなく、悪意のあるコードを作成したりフィッシング電子メールを起草したりするためにそれを使用する可能性があるからです。単独のサイバー犯罪者や国家が支援する脅威グループは、すでにそれを大規模に使用している可能性があります。利用可能な情報に基づいて、モデルタンパリング、AIフィッシング、ポリモルフィックマルウェアが2026年の最大のサイバーセキュリティ脅威になる可能性があります。サイバー犯罪者は、高価値の業界である金融や一般の人々を標的として、LLMを使用して悪意のあるペイロードを生成、配信、適応し続ける可能性があります。
December 8, 2025
By Alex McFarland

Google Details Security Architecture for Chrome’s AI Agent Features

Googleは、Chromeの将来的なエージェントAI機能のための詳細なセキュリティフレームワークを公開し、ユーザーがGeminiパワードのエージェントが自律的なブラウジングタスクを実行するときに保護するために設計された複数の防御レイヤーを紹介しました。ChromeのセキュリティエンジニアNathan Parkerからの発表では、AIエージェントがユーザーの代理でウェブサイトとやり取りする方法を規定する4つの核心的なセキュリティピラーを概説しています。このアーキテクチャは、プロンプトインジェクション攻撃、未承認のデータアクセス、詐欺的なトランザクションなどの早期のエージェントシステムに悩まされてきたリスクに対処しています。Googleのアプローチは、競合他社がブラウザーベースのAIエージェントを出荷する競争の中で登場しました。OpenAIはChatGPT Atlasを10月に発表し、エージェントモードの機能を備えていました。一方、Perplexityは7月にCometブラウザーを出荷しました。セキュリティフレームワークは、Googleが競合他社よりも慎重に進む意図を示しています。競合他社のエージェント機能は、すでに研究者によって脆弱性が発見されています。エージェントセキュリティの4つの柱ユーザー整合性批判家は、最初の防御レイヤーを形成する別個のGeminiモデルであり、プライマリAIエージェントが提案するすべてのアクションを検証します。この批判家は隔離されており、提案されたアクションのメタデータのみを検査し、悪意のある入力への露出を減らします。アクションがリスキーまたはユーザーの明示された目標に無関係である場合、批判家はやり直しまたはユーザーに制御を戻すことができます。オリジンセットは、エージェントが任意のタスク中にアクセスできるウェブサイトとページ要素を制限します。システムは、エージェントがコンテンツを消費できる読み取り専用オリジンと、エージェントがアクションを実行できる読み書き可能オリジンを区別します。無関係なウェブサイトとiframeは完全に保持され、信頼できるゲート機能が新しいドメインへのアクセスを承認する必要があります。これにより、クロスサイトデータ漏洩が防止され、潜在的な損害が制限されます。ユーザーの監視には、機密性の高い操作に対する手動での確認が必要です。エージェントが銀行ポータル、医療データサイト、またはGoogle Password Managerからの保存された資格情報へのアクセスを必要とする場合、Chromeは一時停止し、ユーザーにアクションの承認を求めます。同じことが、購入またはメッセージの送信前に適用されます。エージェントはこれらのアクションを自律的に完了できません。プロンプトインジェクション検出には、ページをリアルタイムで間接的なプロンプトインジェクションの試みをスキャンする専用のクラシファイアーが使用されます。このシステムは、Chromeの既存のSafe Browsingインフラストラクチャとデバイス上のスキャム検出と並行して動作し、エージェントがそれに基づいてアクションを実行する前に疑わしい悪意のあるコンテンツをブロックします。自動化されたレッドチームテストとバグバウンティGoogleは、テストサイトとLLM駆動の攻撃を生成する自動化されたレッドチームシステムを開発し、セキュリティアーキテクチャを継続的に検証しています。会社は、特に財務取引や資格情報の盗難を標的とする攻撃ベクトルを優先的にテストしています。Chromeの自動更新メカニズムは、新しい脆弱性が発見されるとすぐに修正プログラムを提供します。外部のセキュリティ研究を促進するために、Googleは、エージェントブラウジングフレームワークの弱点を特定した研究者に対して、最大20,000ドルのバウンティ支払いを発表しました。防御措置は、早期のAIブラウザ拡張機能とチャットボット統合から得られた教訓を反映しています。そこでは、プロンプトインジェクション攻撃が驚くほどAIの動作を操作するのに効果的であることが証明されました。批判家モデルを分離し、ブラウザーレベルでオリジンアクセスを制限することで、Googleはウェブページ自体が攻撃面となるのを防ぐことを目指しています。AIブラウザレースへの影響Googleの詳細なセキュリティ開示は、競合するエージェントブラウザーシステムの相対的な不透明性と対比しています。会社は、企業やセキュリティ意識の高いユーザーが最初の機能よりも透明なセーフガードを重視することを賭けています。アーキテクチャはまた、GoogleがAIエージェントにとって受け入れられる自律性を何であるかを示唆しています。ショッピング、研究、フォームの埋め込みは、監視の下で進むことができますが、財務アカウント、ヘルスケアデータ、または保存された資格情報に触れるものは、明示的な人間の承認が必要です。これは、他のベンダーが公開するのを躊躇している明確な線を引きます。Chromeのプラットフォーム上で開発を行っている開発者にとって、オリジンセットの制限は、エージェント機能がマルチサイトワークフローとどのようにやり取りするかを慎重に検討する必要があります。エージェントが自由にドメイン間を移動することを期待するアプリケーションは、Googleのセキュリティモデル内で動作するためにアーキテクチャの変更が必要になる可能性があります。Googleは、Chromeのエージェントブラウジング機能の具体的な発売日を発表していませんが、詳細なセキュリティフレームワークは、展開が近いことを示唆しています。会社の防御アーキテクチャを発売前に公開する意欲は、アプローチに対する自信を示しています。また、競合他社に透明性を示すことを挑戦することにもなります。
November 25, 2025
By Alex McFarland

AWS、連邦AIインフラストラクチャ拡大に500億ドルを拠出

Amazon Web Services (AWS)は、米国政府機関向けの人工知能およびスーパーコンピューティングインフラストラクチャの拡大に500億ドルの投資を発表しました。これは、2011年にGovCloudを立ち上げ以来、同社が連邦クラウド容量に費やした最大の投資です。この複数年間のプロジェクトでは、AWS Top Secret、AWS Secret、AWS GovCloud (US) リージョンにわたって1.3ギガワットのコンピューティング容量を追加する予定です。Amazonの公式発表によると、2026年に建設が開始され、先進的なデータセンターを全国に分散し、機密および機敏な政府ワークロード用に特別に設計されたネットワークとコンピューティング技術を提供します。AWS CEOのMatt Garmanは、「このインフラストラクチャは、連邦政府の能力を制限してきた技術的な障壁を除去します。サイバーセキュリティから薬剤発見まで、重要なミッションを加速させるために、機関に高度なAI機能へのアクセスを拡大させます」と述べました。連邦政府機関は、Amazon SageMaker AIをモデルトレーニングに、Amazon Bedrockをデプロイに、AnthropicのClaude chatbot、AWS Trainium AIチップ、NVIDIA AIインフラストラクチャにアクセスできるようになります。このプラットフォームは、独自およびオープンソースのファウンデーションモデルをサポートし、機関は特定のミッション要件に合わせてソリューションをカスタマイズできるようになります。国家安全保障と科学研究をターゲットにこの投資は、国家安全保障、自律システム、科学研究、エネルギー革新、ヘルスケアの能力を強化することを目的としています。AWSは現在、世界中の11,000以上の政府機関、米国の連邦、州、地方レベルの7,500以上の機関にサービスを提供しています。この拡大は、AWSの14年の政府クラウドサービス歴に基づいています。同社は、2011年8月に最初のGovCloudリージョンを立ち上げ、防衛関連データの国際貿易に関する武器取引規制（ITAR）への対応を行いました。AWSは2018年に2番目のGovCloudリージョンを追加し、米国政府のすべてのデータ分類（機密なし、機密、秘密、極秘）に対応した最初のクラウドプロバイダーとなりました。AWSは、政府リージョンに対してFedRAMP High認定と国防総省クラウドコンピューティングセキュリティ要件ガイドライン（SRG）レベル4-5の認定を取得しました。このインフラストラクチャは、物理的および論理的な分離を実現し、米国人にのみアクセス可能であり、連邦政府のセキュリティ要件を満たしています。連邦AIの採用を拡大この発表により、AWSは、インテリジェンス分析から公衆衛生モニタリングまで、政府業務におけるAIツールの需要の拡大に対応することができます。連邦政府機関は、レガシーシステムの近代化と複雑なワークフローの自動化のために、クラウドベースのAIサービスを採用していますが、調達プロセスは商業的な採用よりも遅れています。AWSは、Microsoft Azure GovernmentとGoogle Cloudとともに、連邦契約を争っています。各プロバイダーは、機密ワークロード用の専用インフラストラクチャを維持しています。500億ドルの投資は、同社が今後10年間で連邦AI需要の持続的な拡大を予想していることを示しています。このプロジェクトでは、複数の州にわたって建設と運用の雇用が創出されますが、AWSは具体的な雇用数や施設の場所については発表していません。同社は、サプライチェーン全体でセキュリティクリアランスを維持するために、機密インフラストラクチャの建設に米国人請負業者を使用する予定です。AWSは、インテリジェンス機関、国防省、民間機関、連邦政府が資金提供する研究機関に、拡大された容量を提供する予定です。新しいAIインフラストラクチャの価格構造については発表されていませんが、政府顧客は通常、使用量のコミットメントと分類レベルに基づいてカスタム契約を交渉しています。
November 14, 2025
By Alex McFarland

人間中心の最初の大規模サイバー攻撃がAI自動化によって実現される

Anthropicは、中国国家支援グループと疑われるハッカー集団が、会社のClaude Codeツールを使用して、80〜90パーセントのキャンペーンを自動化し、人間の介入が最小限の最初の記録された大規模サイバー攻撃を実行したことを明らかにした。この攻撃では、約30の組織が対象となり、大手テクノロジー企業、金融機関、化学メーカー、政府機関が含まれた。ほとんどの攻撃はブロックされたが、キャンペーンは少数のケースで成功した。Claude Codeは、人間のオペレーターが重要な決定ポイントでのみ必要となるように、偵察、脆弱性テスト、資格情報の収集、データの抽出をほぼ自律的に実行した。Anthropicの完全な報告書はこちらで読むことができます。攻撃方法とAI操作ハッカーは、洗練されたソーシャルエンジニアリングを通じてClaudeの安全ガードレールを回避した。彼らは、合法的なサイバーセキュリティ企業の従業員を装い、防御テストを実施していると主張して、AIシステムを欺いた。攻撃者はまた、Claudeに悪意のある全体的な目的についての不完全なコンテキストを提供する小さな、無害に見えるタスクに作戦を分割した。 Claude Codeは、ターゲット組織のシステムを検査して高価値のデータベースを特定し、人間のハッカーよりも迅速に偵察を実行し、セキュリティの脆弱性をテストするためのカスタムのエクスプロイトコードを研究して記述した。システムは、さらにネットワークへのアクセスを得るために、ユーザー名とパスワードを収集し、機密データをインテリジェンスの価値に応じて抽出して分類した。攻撃者は、基本的にボタンをクリックするだけでキャンペーンを実行でき、AIは人間のチームが不可能な速度で、しばしば1秒あたり数千のリクエストを送信しながら、ほぼ独自に動作した。検出と会社の対応Anthropicは、2025年9月中旬に攻撃を検出し、直ちに調査を開始した。10日以内に、会社はグループのClaudeへのアクセスを停止し、影響を受けた組織に連絡し、法執行機関に通知した。会社は以来、検出能力を拡大し、大規模で分散された攻撃の調査および検出方法の開発を進めてきた。この事件は、2025年にAnthropicによって記録された以前の悪用事例に続くものである。8月には、会社の脅威インテリジェンスレポートは、Claude Codeを使用して、少なくとも17の組織を対象とした大規模な盗難を犯したデータの強要作戦を追跡したGTG-2002を詳細に記述した。この犯罪者は、従来のランサムウェアの暗号化ではなく、盗まれたデータを公開することを脅し、5万ドルを超える身代金を要求した。 Anthropicの検出インフラストラクチャは、行動分析を使用して、数百万のAPIリクエストの使用パターンを監視し、正当な使用と一致しない操作のシーケンスを特定するための異常検出、および既知および新しい操作技術を認識するためのパターンマッチングを含む、複数の層化された技術に依存している。会社は、ユーザー入力の潜在的に有害なリクエストを分析し、配信の前または後にClaudeの応答を評価する専門のクラス分類器を使用している。業界への影響キャンペーンには、サイバー攻撃におけるAIの前例のないレベルの自律性が含まれており、セキュリティの専門家は、これがサイバー諜報の転換点であると見なしている。AIシステムが人間の監督が最小限のマシンスピードで複雑な攻撃を実行する能力は、サイバーセキュリティの防御者に新たな課題を提起している。 Anthropicの開示は、AI企業がモデルを悪用するのを防ぐ圧力に直面している中で行われた。会社は、Claudeの悪用を検出して対抗するための包括的な脅威インテリジェンスとセーフガードプログラムを維持しており、2025年を通じて記録されたセキュリティ事象が存在する。3月には、会社は、Claudeを使用して、複数の国と言語をまたいで数万のソーシャルメディアアカウントと自動的に関わる影響力としてのサービス作戦を特定した。事件は、AIツールの成長する複雑さと、悪用を防止することの難しさを強調しており、同時に、合法的なユーザーにとっての有用性を維持する必要性もある。Anthropicは、関連するアカウントを禁止し、進化する脅威の状況に対処するために検出および緩和能力を強化し続けている。
October 12, 2025
By Antoine Tardif, CEO & Founder of Unite.AI, CEO & Founder of Unite.AI

HiddenLayer 研究者が OpenAI のガードレールを回避し、AI のセルフモデレーションに重大な欠陥を暴露

2025 年 10 月 6 日、OpenAI は AgentKit を発表しました。これは、AI エージェントの構築、デプロイ、管理のためのツールキットです。そのコンポーネントの 1 つは、ガードレールです。ガードレールは、エージェントの入力、出力、およびツールの相互作用を監視して、誤用、データ漏洩、または悪意のある動作を防ぐように設計されたモジュラーセーフティーレイヤーです。ガードレールは、PII をマスクまたはフラグすることができ、ジェイルブレイクを検出して、エージェントの実行とともにポリシーの制約を適用することができます。ガードレールは、OpenAI のエージェントアーキテクチャの新しく公開されたコンポーネントですが、HiddenLayer の研究は、より深い脆弱性を明らかにしています。エージェントのアクションとセーフティーチェックの両方が、同様のモデルロジックを使用しているため、攻撃者は、同時に両方を妨害する入力を作成できます。つまり、セーフティーレイヤーを内部から破壊することになります。HiddenLayer が発見したことOpenAI の設計では、連鎖ロジックを通じてエージェントが動作することを想定しています。ユーザーがリクエストを発行し、エージェントがツールまたは外部リソースを呼び出し、ガードレールがフィルタリングまたは検証する前に、応答が実行または出力されます。意図は、エージェントが何をしようとしても、テキストを生成する、ウェブページを取得する、または関数をトリガーする、ガードレールがセントリルとして機能することです。HiddenLayer は、このセントリルが、保護しているモデルと同じクラスのモデルで構築されている場合に、構造的に欠陥があると主張しています。彼らの実験では、2 つの役割を果たすプロンプトを作成しました。エージェントモデルにポリシー違反のコンテンツを生成させると、ガードレールのジャッジモデルを操作して、コンテンツが「安全」であると宣言させることです。実際には、プロンプトは、ジャッジの内部ロジック、信頼性のしきい値、決定ブランチをオーバーライドする方法を埋め込みます。したがって、ジャッジは、悪意のある出力を誤ってパスします。システムは、警告をトリガーせずに禁止されたコンテンツを生成します。彼らは、間接的なコンテンツインジェクションを標的にして攻撃をさらに推進しました。たとえば、エージェントが悪意のある指令または隠されたプロンプトを含む Web ページを取得します。ガードレールはそれをフラグまたはブロックする必要がありますが、HiddenLayer のテクニックは、取得されたコンテンツ自体にジャッジのオーバーライドを埋め込みます。ジャッジがそれを処理すると、オーバーライドを認識し、それを「承認」します。ツール呼び出しと、それが返す悪意のあるコンテンツは、チェックされずに通過します。より深い教訓は明らかです。セーフティーメカニズムが、保護するものと同じロジックと脆弱性を持っている場合、1...
October 9, 2025
By Chris Scheels, Vice President of Product Marketing, Gurucul

アラート疲労から実行可能なインテリジェンスへ: AIがSOCを再定義する方法

セキュリティ・オペレーション・センター（SOC）は、臨界点に達しています。アナリストの焼き尽き症候群は、長期にわたる重大なリスクでしたが、問題は悪化の一途をたどっています。実際、最近調査された組織の73%がサイバーセキュリティ・インサイダーズとGuruculによって報告されているように、アナリストの焼き尽き症候群と慢性的スタッフ不足に苦しんでいます。アラートのボリュームは増加しており、脅威は増殖し、アナリストはレガシーのフラグメンテーション化されたツールを使用することになっています。人間だけでこれを処理することは簡単にすぎるため、AIは急速にニーズから戦略的必須へと変化しています。今日のSOCの危機SOCにおける焼き尽き症候群の率はよく文書化されていますが、状況はまだ改善されていないため、十分に言及することはできません：アナリストは彼らのロープの末端にあります。彼らは、以下を含む悪化する課題に直面しています：アラート疲労 – アラートが多すぎるだけでなく、誤った陽性も増加しており、効果的に対応するのが難しくなります。実際、上記の調査によると、88%のサイバーセキュリティ・リーダーはアラートのボリュームが増加したと述べており、46%は過去1年間に25%以上の増加を報告しています。新しいおよび進化する脅威 – 脅威の風景は常に変化しており、AIは悪い行為者に新しいツールを提供し、より迅速に脅威を実行できるようにしています。資格の悪用と内部リスクはさらに複雑さを加えます。可視性の欠如とツールのギャップ – レポートによると、96%の会社は重大な盲点を持っていることを認めています。クラウド・インフラストラクチャ（74%）とアイデンティティおよびアクセス・ビヘイビア（67%）は、トップの懸念事項です。スキル・ギャップとターンオーバー – サイバーセキュリティのスキル・ギャップは、業界全体にとって継続的な課題であり、高い焼き尽き症候群の率は高いターンオーバー・率を意味します。レベル2（L2）およびそれ以上のアナリストをシステムを通してトレーニングする必要がありますが、レベル1（L1）で焼き尽き症候群を起こしている場合、それは起こりません。従業員を探し、雇用し、オンボーディングし、トレーニングし、維持するために、多大な時間と労力が必要です。さらに、ターンオーバーに合わせて代替タレントのベンチを維持する必要があります。 AIをテーブルに導入するAIと自動化は、SOCにとって巨大な潜在性を提供しています。上記の調査で、81%の組織がSOC用のAIツールを導入または試験していることは驚くことではありません。さらに、ツールを最大限に活用している組織は、重要な結果を経験しています：60%の導入者は、調査時間が25%（または以上）短縮されたと述べており、21%は50%以上の短縮を実現しています。AIは、以下の点でアラート疲労を実行可能なインテリジェンスに変換します：ノイズ削減 – SOCにおけるAIを使用することで、組織はAI駆動の相関と優先順位付けを獲得します迅速な調査 – AIと自動化は、トリアージ、コンテキストの収集、対応に役立ちますアナリストのエンパワーメント – アナリストの時間が解放され、より高価値の活動に集中できます実行のギャップAIはSOCの改善に巨大な潜在性を提供しますが、問題は次のとおりです：ツールを使用しているのは31%の回答者だけです。関心は高いですが、実行のギャップがあります。AIの完全な運用化には、障害があります。1つは統合の課題です。レガシーのインフラストラクチャとフラグメンテーション化されたツールは、新しいテクノロジーの導入を困難にします。別の懸念は、透明性と説明可能性です。AIが決定を下す理由を理解するにはどうすればよいのでしょうか？2番目の障害は、AIに頼るべき信頼です。信頼はAIの成熟度のための基本的な要件です。調査参加者の9%だけが「非常に自信を持って」AIによって生成されたアラートと推奨事項を報告しました。さらに33%は「ほとんど信頼しています」が、AIの結果を確認したいと考えています。41%は、AIは全体的に役立つと考えていますが、継続的な検証が必要です。3番目の障害は、変更管理です。組織は、新しいスキルとトレーニングのニーズによって、新しいテクノロジーを導入し、AIの潜在能力を最大限に活用することが困難です。また、文化的な抵抗もあります。「私たちは常にこのように行ってきたので、変更する理由はない」という考え方です。SOCの成功のための障害の克服投資収益率の早期化を提供するパイロット・プロジェクトから始めます。アイデンティティとビヘイビアを相関させ、イベントだけではありません。アイデンティティとアクセス・ビヘイビアの可視性のギャップにより、上記の調査で回答したxx%の組織は、AIプラットフォームがログ分析だけでは不十分であることを示しています。システム全体でアクションを実行する人とデバイスを判断するには、ビヘイビアのコンテキストが必要です。SOCの成功の障害をクリアするには、いくつかのステップが必要です。まず、説明可能なAIを優先して、透明性と信頼性を確保します。説明可能で透明性のあるAIによるトリアージと調査は、L1アナリストが迅速に学習し、高いレベルでパフォーマンスを発揮し、スキルを迅速にアップグレードするのに役立ちます。2番目に、アナリストをより高価値の脅威ハンティングと戦略的イニシアチブ（Zero Trustなど）にスキルアップさせます。AIは人間を置き換えるものではなく、人間を補完するものです。これは、SOCにおけるAIの成功のための重要な区別です。信頼が確立されるまで、人間をループに維持し、AIに退屈な低影響セキュリティ・タスクを処理させ、残りをエスカレートします。3番目に、AIをSOCのコア戦略として扱い、付加価値や後付けではなく、よく考えられた包括的なアプローチの一部として扱います。SOCにおけるAIの採用の時SOCは、アラートのボリュームの増加、アナリストの焼き尽き症候群の悪化、アイデンティティベースの脅威の増加により、深刻な危機に直面しています。レガシーの防御は、合法的な行動を模倣し、静かに動作する脅威に対処することができません。AIはSOCチームがアラート疲労を軽減し、データの過負荷を克服し、コンテキストに基づいて調査するのを助けます。ブリーチが発生する前に、またはその間ではなく、ブリーチが発生する前に盲点を見つける必要があります。SOCの機能、現在の課題、戦略的ビジョンを評価し、AIが今日どこで役立つか、そして長期的にはより堅牢なセキュリティの姿勢を創造するのにどこで役立つかを特定します。
October 6, 2025
By Jake Reynolds, Director of Offensive Security Services, All Covered

レッドチームが想定外の事実を明らかにするとき

多くの組織は自分たちがセキュアであると思っている——が、レッドチームがそれを証明するまで。私が28年にわたるオフенсивセキュリティのキャリアの中で見てきたのは、実際の攻撃者による戦術が企業の防御システムに適用されると、どれほどすばやく自信が崩壊するかである。レッドチームの作戦はシステムをテストするだけでなく、決心した、洗練された攻撃者の視点から見て得られるアクセスの限界を押し広げる。多くの場合、参戦規則は広く、サーバーサイドの攻撃だけでなく、ソーシャルエンジニアリング、ワイヤレス、さらには物理的な手法も許可される。私たちが作戦でしばしば発見するのは、壊滅的なレベルのアクセスが可能であるということである。私と私のチームは、商業用の爆発炉、ドライバーのコード署名インフラストラクチャ、給与システム、機密の知的財産、銀行のホストシステム、CCTVシステム、CFOの受信トレイ、MRI/X線マシンの結果、機密の医療情報を含むファイル共有、企業ネットワークにVPN接続されたCEOの2番目の自宅、そして多くのActive Directoryフォレストの完全なハッシュダンプへのアクセスと制御を獲得してきた。クラウドリソースを妥協した後、私たちはオンプレミスネットワークに移行し、オンプレミスからクラウドベースのフットホールドへの作戦を遂行してきた。時には、ターゲットが大きいほど、情報セキュリティの予算の規模に関係なく、簡単になることがある。これは、攻撃者と防御者之间の自然な非対称性によるものである。大きい規模では、意図せずに弱点が露呈する機会が増える。これらのリスクは理論的なものではない。現実的であり、多くの組織がこのレベルの妥協に脆弱であることを認識していない。フットホールド外部の侵入はフットホールド——深刻な妥協の扉を開く初期のアクセスポイント——から始まる。私たちの仕事では、フットホールドを4つの主なタイプに分類する。1. ソーシャルエンジニアリング一般的ではあるが、私たちが最も報われると考えているものではない。ユーザーをリンクをクリックさせるか資格情報を明らかにさせることは効果的だが、洗練された攻撃者のスキルを反映していない。ただし、攻撃者がCFOのメールを偽装して「緊急」のワイヤー送金を開始したり、AI生成のボイスクローンを使用してヘルプデスクのプロトコルをバイパスしたりするのを見てきた。2. パスワードスプレーこの低速で継続的なテクニックは、依然として最も効果的なものの1つである。一般的なパスワードを大量のユーザーリストに推測することで、攻撃者はロックアウトを避け、多くの場合成功する。パブリックソースからスクラップした数千のユーザー名に対して「Summer2025!」というパスワードを使用してネットワークを侵害したことがある。企業ユーザーの1,000人に1人以上がそれを選択する可能性がある、除けなければならない単語の適用がない限り、「summer」や「2025」や「25」といった文字列をブロックする。長いパスワードポリシーの場合、「Summertime2025!」が例として考えられる。3. MFAの弱点マルチファクターオーセンテーションは不可欠だが、万能ではない。すべてのセキュリティコントロールと同様に、徹底的で一貫した展開が重要である。プッシュの疲労、条件付きアクセスのループホール、古い登録リンクを使用してMFAをバイパスしてきた。ある場合には、侵害された受信トレイで見つけた6か月前のリンクを使用して私たちのデバイスを登録した。4. 利用可能な脆弱性カスタムWebアプリは特に脆弱である。私たちは、SQLインジェクションからパストラバーサル、オブジェクトのデシリアライゼーションバグまで、論理的な欠陥がチェックアウトで基本的なユーザーが価格を設定できるようにしたり、管理者への昇格を許可したりするものまで、すべてを利用してきた。古くなった商用ソフトウェアコンポーネントは、修正されなければリモートコードの実行につながる可能性がある。現実の確認：コンプライアンスvs. 露呈セキュリティ監査では、多くの場合、陽気な絵が描かれる。しかし、レッドチームはスクリプトの外側で動作する。レッドチーム作戦の参戦規則は、標準のペネトレーションテストよりも広い——目標のある攻撃者をシミュレートする。多くのエンゲージメントでは、クライアントは過去のペネトレーションレポートをいくつか持っているが、「侵入」の実証はほとんどない。基本的な非認証の外部からのペネトレーションテストで重大なレベルのアクセスを達成することで、この認識を修正することは珍しくない。認識されたリスクと実際のリスクの間には大きなギャップがある。品質の高い、カバレッジ指向のペネトレーションテストは、まだ成熟していないセキュリティポストを持つ組織にとって、目標ベースのレッドチーム作戦よりも価値がある。AIのオフенсивセキュリティでの役割AIはまだレッドチームの人間の工夫を置き換えていないが、ワークフローを加速させている。私たちは、概念実証のエクスプロイトを構築するために、攻撃面を分析するために、フィッシング作戦中に声をシミュレートするために、そして本物のように見えるフィッシングキャンペーンを構築するために生成AIを使用している。パブリックバグバウントリストでトップランクを獲得するエージェントオフенсивAIの台頭は、来るべきものの兆しである。防御者への共感私たちが攻撃的な役割を持っているにもかかわらず、防御者を深く尊重している。非対称性は現実的である——防御者は24時間365日完璧でなければならない；攻撃者は1つのミスだけが必要である。したがって、私たちのレポートは脆弱性、キルチェーン、スクリーンショット、現実世界の影響のみを強調するのではなく、テスト中に遭遇した肯定的な実践を最も上位に記載する。私たちがこれらを書くことを楽しんでいるのは、発見よりも多い。私たちはあなたのチームの一員であり、教育し、是正するために——あなたをさらすためにではない。結論：想定外のものは多くの場合、すぐ目の前にあるレッドチームは欠陥を見つけるだけでなく、組織に不快な真実を直面させる。セキュリティのFacadeは多くの場合、壊れやすいシステム、誤った構成、見落とされたリスクを隠している。私たちが想定外のものを発見するのは、批判するためではなく——強化するためである。セキュリティでは、現実の確認は選択肢ではない——それが「紙上でのセキュア」とフロントページの侵害の間にある唯一のものである。
October 6, 2025
By Dr. Assad Abbas

AI vs AI: サイバーセキュリティがアルゴリズムの軍拡競争になる時

サイバーセキュリティは新しい時代に入りました。過去には、攻撃者と防御者は人間のスキルと標準的なツール、たとえばファイアウォールや侵入検出システムに頼っていました。今日では、状況は非常に異なります。人工知能（AI）が両側で重要な役割を果たしています。攻撃者はAIサイバーセキュリティツールを使用して、より速く、より高度な脅威を仕掛けています。防御者は、リアルタイムでこれらの攻撃を検出してブロックするために、AIを搭載したシステムに頼っています。この争いは、しばしばアルゴリズムの軍拡競争と呼ばれます。各AIベースの攻撃は、防御者に保護を強化するよう促します。同様に、毎回の新しい防御戦略は、攻撃者に革新的な戦略を考案するよう強制します。結果として、両側が迅速に進化しています。これらの遭遇は、人間の能力を超えたスピードで発生します。同時に、企業、政府、個人のリスクは大幅に増大します。したがって、このAI対AIのレースを理解することは、デジタルセキュリティに関心がある誰にとっても必要です。ファイアウォールから自動戦争までサイバーセキュリティは最初、静的な防御に頼っていました。ファイアウォールは固定ルールでデータの流れを管理しました。アンチウイルスソフトウェアは、既知の脅威を検出するためにファイルをスキャンしました。これらの方法は、攻撃が予測可能で単純だったときにはうまく機能しました。しかし、時間の経過とともに、脅威はより組織的で複雑になりました。攻撃者は大規模なフィッシングキャンペーン、ランサムウェア攻撃、標的を絞った侵入を仕掛けました。したがって、静的な防御では、これらの攻撃のスピードと多様性に追いつくことができませんでした。結果として、防御者は保護を強化するために機械学習を利用し始めました。しかしながら、AIはセキュリティに対する異なるアプローチを導入しました。既知の署名を待つのではなく、アルゴリズムは正常な活動を研究し、異常な動作をフラグしました。結果として、防御者はネットワークとユーザーシステム全体でリアルタイムに脅威を検出できるようになりました。これにより、保護はより迅速で適応性が高くなりました。攻撃者もまた、AIを利用しました。生成モデルは、説得力のあるフィッシングメール、偽の声、偽造されたビデオを作成するのを助けました。同様に、マルウェアは適応性が高くなり、検出を避けるためにその形態を変えることができました。2023年までに、このようなAI駆動型の方法は、主要なサイバー犯罪作戦の一部となっていました。この開発により、サイバーセキュリティの性質が変わりました。静的なツールに対する攻撃ではなくなり、代わりに、攻撃と防御が両方ともマシンのスピードで適応し続けるアルゴリズムのレースになりました。したがって、サイバーセキュリティは新しい時代に入り、自動戦争と呼ばれることが多くなりました。サイバーセキュリティにおけるAIの攻撃的応用防御者がAIを使用して保護を強化する一方で、攻撃者も革新的な方法でそれを利用する方法を考え出しています。最も目立つ戦術の1つは、生成AIを使用したソーシャルエンジニアリングです。フィッシングメールは、以前は不器用でエラーに満ちていたものが、今ではプロフェッショナルなコミュニケーションを鏡のように映し出す完璧な言語で生成されるようになりました。最近の証拠は、AI生成のフィッシング試みは、人間が書いたものよりも何倍も成功率が高いことを示しており、サイバーセキュリティに測定可能な影響を及ぼしています。テキストを超えて、犯罪者は合成音声や視覚を使用して欺瞞を行っています。ボイスクローニングにより、信頼できる個人の真似を驚くほどの精度で行うことができます。2023年の注目すべき事例では、詐欺師が香港の高級幹部のAI生成音声でスタッフを欺き、2,560万ドルを転送するよう説得しました。同様の事件は他の地域でも報告されており、脅威が単一のコンテキストに限定されていないことを示しています。ディープフェイク動画もまたリスクです。攻撃者は、企業リーダーを装う偽の参加者をバーチャルミーティングに挿入することができました。これらの介入により、信頼が損なわれ、組織内で有害な決定が下される可能性があります。さらに、自動化により攻撃者の範囲が大幅に拡大しました。AIシステムは、手動方法よりもはるかに速く、ネットワークをスキャンして弱点を特定できます。システム内に入ったら、高度なマルウェアはその周囲に適応します。一部の株式は、ポリモーフィズムと呼ばれる技術で、毎回拡散するたびにコードを変更します。これにより、従来のアンチウイルスツールでは検出が困難になります。場合によっては、強化学習がマルウェアに組み込まれており、それをテストして戦略を改善することができます。これらの自己改良攻撃には、人間の管理が最小限で済み、独立して進化し続けます。AIはまた、誤報や編集された画像、ディープフェイク動画を大量に生成して、ソーシャルメディアプラットフォームを介して広めるために使用されています。这种コンテンツは、選挙に影響を与えたり、機関への信頼を損なったり、さらには金融市場を操作したりするために使用されてきました。企業幹部に関連する虚偽の声明や偽造映像は、企業の評判を損なったり、数時間以内に株価を変動させたりする可能性があります。このように、デジタルメディアの信頼性は、合成コンテンツが大量に流通し、説得力を持って広まることでさらに脆弱になります。まとめると、これらの開発は、AIがサイバー攻撃のバランスをどのように変えたかを強調しています。攻撃者は、技術的搾取のみに頼るのではなく、欺瞞、自動化、適応性のツールを利用しています。これらの進化により、防御の課題はより複雑になり、脅威は人間の管理を超えるスピードと洗練さで運営します。サイバーの盾としてのAI防御サイバーセキュリティは、AIの導入によりよりダイナミックになりました。攻撃をブロックするだけでなく、現代のシステムは継続的な監視、迅速な対応、過去の事件からの学習を重視しています。このより広いアプローチは、静的なツールでは変化しすぎる脅威に対処する必要性を反映しています。AIの主な強みの1つは、ネットワークとシステムの膨大な量のデータをリアルタイムで処理する能力です。人間のチームが圧倒されるような活動、たとえば不通常のログインパターンを特定したり、イベント間の隠れた接続を追跡したり、自動で処理できます。結果として、潜在的な侵入は早期に発見され、攻撃者がシステム内で過ごす時間が短縮されます。こうしたツールに頼る組織は、より迅速な対応と長期的な事件の減少を報告しています。AIはまた、攻撃中に意思決定を導く役割を果たしています。セキュリティチームは1日何百もアラートを受け取りますが、その多くは誤報です。AIは、アラートをリスクに基づいてランク付けし、可能な対策を示すことでこのノイズをフィルタリングします。緊急事態では、さらには妥協されたデバイスを分離したり、有害なトラフィックをブロックしたりするなど、直接行動することもできますが、最終的な管理は人間の分析家に任せます。この自動化と専門家の判断のパートナーシップにより、防御措置はより迅速で信頼性が高くなります。別の有望な方向性は、欺瞞の使用です。AIは、攻撃者を欺くために現実的なが偽の環境を作成できます。これらの罠は、重要なシステムを保護するだけでなく、進化するテクニックについて防御者に貴重な情報を提供します。同様に、敵対的なデータでトレーニングされたモデルは、混乱を招くために設計された操作された入力をより良く耐えることができます。いくつかの商用プラットフォームは、これらの方法を日常的に統合しています。Darktrace、CrowdStrike、Palo Alto Networksなどのプロバイダーのシステムは、新しい攻撃パターンを反映して継続的に自己更新します。実践では、これらは適応免疫システムのように機能し、新しい脅威を認識し、防御を調整します。どのツールも完全なセキュリティを提供することはできませんが、AIは防御者に、現代のサイバー攻撃のペースと複雑さに匹敵する実用的方法を提供しています。現代のサイバーセキュリティにおけるAIの攻撃と防御の衝突今日のサイバーセキュリティは、盾のように見えますが、実際は終わらない争いです。攻撃者はAIツールを使用して新しいトリックをテストし、防御者はそれに対してシステムを強化します。一方が地盤を得ると、もう一方がすぐにそれに適応します。これは、月単位の遅いサイクルではなく、秒単位の速い交換です。マルウェアも同様のパターンに従います。攻撃者はマルウェアを開発するためにAIを使用し、それを検出を避けるために構造を変更します。防御者は、異常な行動パターンを追跡するアノマリーディテクションシステムで反撃します。攻撃側は、ネットワークトラフィックを真似て、それを合法的な活動から区別するのが難しくするために、マルウェアを再トレーニングします。このやり取りは、AIアルゴリズムが静的なものではないことを示しています。両側が実時間で方法をテストして改良し、スピードは人間の能力を超えています。したがって、脅威が認識される前にすでに被害を及ぼします。これらのダイナミクスは、重要な懸念を引き起こします。防御者は、反応的な方法に限定するべきでしょうか、または積極的なアプローチを採用するべきでしょうか。自動化された欺瞞、デジタルトラップ、さらには敵対的なAIツールに対する制御された対抗措置を含む将来のシステムについて、一部の人は主張しています。そうした方法は、法的および倫理的な懸念を引き起こしますが、競争で先んじるための可能な戦略を表しています。AIの時代のサイバーセキュリティは、障壁を構築することだけではありません。積極的な関与が必要です。攻撃と防御がアルゴリズムのスピードで競合します。組織がこの現実を理解して準備することで、将来的にシステムを保護するためのベターな装備が整うでしょう。AI駆動型サイバー脅威に最もさらされるセクターいくつかの業界は、データの価値と運用の重要性により、AIベースのサイバー攻撃にさらされる可能性が高くなります。これらの分野は、リスクの深刻さを強調し、防御が進化し続ける必要性を示しています。金融銀行や金融プラットフォームは、サイバー脅威の頻繁な標的です。攻撃者はAIを使用して偽の取引を生成し、クライアントを模倣して、古いフラッド検出システムを回避します。既存の機械学習モデルの中にある弱点も悪用されます。取引システムは、AI生成の信号が予期せぬ市場活動を引き起こすと、リスクにさらされます。こうした混乱は、金融的損失につながります。防御者は、億兆の取引をスキャンして異常な動作をフラグするAIツールで反撃します。しかし、攻撃者は検出を避けるためにシステムを再トレーニングし続け、脅威を存続させます。ヘルスケア病院やヘルスケア提供者は、患者の記録の機密性と、接続された医療機器の広範な使用により、増加するリスクに直面しています。多くのIoMTデバイスは、適切なセキュリティ対策が欠けている状態です。2024年、世界中のヘルスケアシステムは1日何百万回もの攻撃を受け、運用が混乱し、患者の安全が危険にさらされました。AIツールは現在、病院がトラフィックを監視し、記録を保護し、侵入を検出するのを支援しています。ただし、攻撃者は方法を改良し続け、防御が継続的に適応する必要があります。エネルギーとテレコムエネルギーグリッドとテレコムネットワークは、国家インフラストラクチャの重要な部分です。これらは、AIを使用して詳細な攻撃を計画する国家支援グループによってしばしば標的とされています。成功した試みは、停電や通信障害を引き起こす可能性があります。これらのリスクを軽減するために、防御者はAIシステムに頼っています。これらのツールは、ネットワーク活動の大容量を処理し、脅威を予測し、有害なコマンドが広まる前にそれをブロックすることができます。これにより、重要なサービスを維持するのに役立ちます。政府と防衛政府や防衛組織は、AI駆動型の高度な脅威に直面しています。敵対者は、AIを使用して監視を行い、誤った情報を広め、意思決定に影響を与えます。また、ディープフェイクや偽造ニュース記事も、世論を操作したり選挙に影響を与えたりするために使用されてきました。自律型マルウェアも、防衛システムを妨害するために開発されています。セキュリティ専門家は、将来の紛争では、重大な国家レベルの混乱を引き起こす可能性のある、AI主導のサイバー作戦が含まれる可能性があることを警告しています。AI駆動型サイバーセキュリティのための戦略防御システムを強化する組織は、強力な防御から始める必要があります。継続的な監視のためにAIベースのセキュリティオペレーションセンター（SOC）を利用し、脆弱性をテストするためにレッドチーム演習を実施し、ゼロトラストモデルを実装して、すべてのユーザーとデバイスがアイデンティティを検証する必要があります。これらのステップは、堅固な基盤を形成しますが、攻撃者が方法を変更し続けるため、定期的に更新する必要があります。人間の判断とAIを組み合わせるAIシステムは、高容量のアラートを生成します。ただし、人間がこれらを解釈する必要があります。セキュリティ分析は、自動化ツールでは提供できない、必要な判断とコンテキストを提供します。従業員は、最初の防御ラインとしても機能します。定期的なトレーニングにより、AI生成のフィッシングメッセージ、合成音声、ディープフェイクコンテンツを認識できるようになります。そうでなければ、最も高度な防御でも、ソーシャルエンジニアリング攻撃に対して脆弱なままです。協力とパートナーシップを促進するサイバー犯罪は国境を越えるため、単一の組織では脅威に対処することができません。企業、政府機関、大学の間の協力は不可欠です。国際的な合意は時間がかかる場合がありますが、これらのパートナーシップは、知識と脅威インテリジェンスのより迅速な交換を助け、組織が防御をより効果的に強化できるようにします。協力は、独立したセキュリティ対策に代わるものではありませんが、防御を強化するのに役立ちます。結論サイバー攻撃と防御の両方でAIの使用の増加は、デジタルセキュリティが静的な課題ではなくなったことを示しています。攻撃は迅速に適応し、防御も同様に適応する必要があります。強力なツールは不可欠ですが、技術だけでは組織の安全性を保証することはできません。人間の専門知識、継続的なトレーニング、セクター間の協力も、この点では不可欠です。同時に、積極的な措置に関する議論は、耐性が脅威をブロックすることだけではなく、それらに先んじることであることを示しています。このアルゴリズムの軍拡競争では、勝者は、賢いシステムと人間の判断を組み合わせ、速度と適応性が結果を決定する将来に備える者たちになります。

More Posts

Page 1 of 912 3 4 5 6 7 8 9