次のAIパワードサイバーアタックの波にビジネスは準備できているか？

現在のトレンドを分析することで、専門家はサイバー犯罪者が将来にAIをどのように利用するかを予測できる。この情報を使用して、最大の新興脅威を特定し、ビジネスが準備できているかどうかを判断することができる。彼らは解決策を見つけることができるかもしれない。

近年のAI脅威の状況

AIテクノロジーは比較的新しいものですが、すでにハッカーにとって重要なツールとなっている。このトレンドは、AIサイバーアタックが増加していることを示唆している。

1. モデルタンパリング

大規模言語モデル（LLM）を直接ターゲットにして、脅威行為者はモデル動作を操作し、出力精度を低下させ、または個人情報を含むトレーニングデータを公開することができる。データポイズニングとプロンプトエンジニアリングは一般的な攻撃手法である。

一部の攻撃は、混乱を引き起こしたり機密情報を盗んだりしようとする脅威行為者によって行われる。他の攻撃は、AIによるスクレイピングから自分の作品を保護したいと考えている不満を持つアーティストによって行われる。どちらにしても、会社とそのエンドユーザーは悪影響を受ける。

2. Impersonation Attacks

2024年、フェラーリの幹部は、CEOのベネデット・ヴィーニャから複数のWhatsAppメッセージを受け取った。ヴィーニャは買収の件について話したと言って、従業員に機密保持契約を締結するよう促した。彼は資金について話し合うために電話もかけてきた。ただし、問題があった — 本物ではなかった。

ディープフェイクは非常に完璧で、ヴィーニャの南イタリアのアクセントを際立って再現していた。しかし、声のわずかな不一致が、幹部に詐欺を気づかせた。幹部は、ヴィーニャが数日前に推薦した本のタイトルについて尋ねた — 本物のCEOだけが答えることができる質問である。詐欺師はすぐに電話を切った。

AIは、人の声、閲覧行動、書き方、容姿を複製することができる。技術が進化するにつれて、ディープフェイクを識別することはますます困難になる。詐欺師は、標的を緊急な状況に置くことで、少ない不一致に気づかせないようにする。

3. AIフィッシング

過去には、悪い文法、疑わしいリンク、一般的なあいさつ、場違いのリクエストを見て、誰かがフィッシングメールを識別することができた。ただし、自然言語処理技術により、ハッカーは完璧な文法のメッセージを作成することができる。

研究者は、完全に自動化されたAIによるスピアフィッシングメールが54%のクリック率を持っていることを発見した。これは、人間が書いたフィッシングメールと同等である。こうした詐欺はより説得力があるため、ますます一般的になっている。研究によると、80%以上のフィッシングメールにはAIの関与が見られる。

4. ソーシャルエンジニアリング

ソーシャルエンジニアリングには、誰かを操作して行動を起こしたり情報を漏らしたりすることが含まれる。AIにより、ハッカーはより速く、より説得力のあるメッセージを作成することができる。自然言語処理モデルは、受信者の感情状態を分析して、より説得力のあるメッセージを作成することができる。

ソーシャルエンジニアリング技術を強化するだけでなく、マシンラーニング技術は、従来のエントリーバリアを下げ、初心者が複雑なキャンペーンを実行できるようにする。誰でもサイバー犯罪者になることができるので、誰でも標的になることができる。

データ駆動型AIアタックの次の波

2026年初頭、AIアタックはまだ低い成熟度にあると予想される。ただし、年が進むにつれて、指数関数的に進化し、サイバー犯罪者は最適化、展開、スケーリングの段階に入ることができる。完全に自動化されたキャンペーンを実行することができるようになる。確認されたAIサイバーアタックの例は、すぐに珍しくないことになる。

ポリモルフィックマルウェアは、AIによって生成されるウイルスで、複製するたびにコードを変更して検出を避けることができる。攻撃者は、AIエコシステムを介してペイロードを配信したり、ランタイム時にLLMを呼び出してコマンドを生成したり、直接LLMにウイルスを埋め込んだりすることができる。Google (GOOGL ) Threat Intelligence Groupは、2025年に初めてこのマルウェアを配備した。

マルウェアファミリーはPROMPTFLUXとPROMPTSTEALである。実行時に、LLMを使用してVBScriptのオブフスケーションと回避技術を要求する。シグネチャベースの検出を回避するために、コードをオンデマンドでオブフスケートする。

証拠は、これらの脅威がまだテスト段階にあることを示唆している — 一部の機能はコメントアウトされており、アプリケーションプログラムコールは限定されている。これらのAIマルウェアファミリーはまだ開発中かもしれないが、その存在は、自律的で適応的な攻撃手法への大きな一歩を表している。

NYU Tandonの研究によると、LLMはすでにランサムウェアアタックを自律的に実行できる — ランサムウェア3.0と呼ばれる。再生可能なコードを動的に生成することで、人間の関与なしに偵察、ペイロードの生成、脅迫を行うことができる。自然言語プロンプトのみが必要である。モデルは、実行環境に適応するために、ランタイム時に悪意のあるコードを動的に生成するポリモルフィックバリアントを生成する。

AIアタックにビジネスは準備できているか

数十億ドルをサイバーセキュリティに費やしているにもかかわらず、民間企業はまだ進化する脅威の状況に追いつくのに苦労している。マシンラーニング技術は、既存の検出および対応ソフトウェアを旧来のものにする可能性があり、防御をさらに複雑にする。多くの企業が基本的なセキュリティ基準を満たしていないことも、状況を悪化させる。

2024年のDIBサイバーセキュリティ成熟度報告書では、400人の情報技術専門家を調査した。回答者の半分以上が、CMMC 2.0への準拠が数年先になると回答した。同等のNIST 800-171準拠は、2016年以来DoD契約で概説されている。多くの企業が、実際よりもセキュリティポストを高く評価している。

新しいCMMC要件は2025年11月10日に発効した。以降、すべてのDoD契約には、CMMC準拠が契約授与の条件として必要となる。新しいルールは、DIBのサイバーセキュリティを強化することを目的としているが、AIの時代に効果的になるだろうか。

防御AIは解決策か

火を以て火を打ち消すのが、AIアタックに対抗する唯一の方法かもしれない。防御AIを使用することで、組織はリアルタイムで脅威に動的に対応することができる。ただし、このアプローチには独自のセキュリティ上の欠陥がある — モデルのタンパリングに対するセキュリティを確保するには、継続的な監視と監査が必要である。

ハーバードビジネスレビューによると、従来の解決策は、ビジネスをAIサイバーアタックに脆弱にする。サイバーレジリエンスを達成するには、機械学習技術を使用して脅威を予測し、自動的に対応する必要がある。

防御AIがこの問題の解決策であるかどうかについて、簡単な答えはない。企業は、未証明のマシンラーニングツールを展開するためにリソースを投入するべきか、情報技術チームを拡大するべきか。どちらの投資が長期的には効果的かを予測することは不可能である。

大企業は、自動化されたサイバーセキュリティで大きな利益を得るかもしれない。一方、小規模企業は、コストを正当化するのに苦労するかもしれない。従来の自動化技術は、より低い価格でギャップを埋めることができるかもしれないが、動的な脅威に応じることはできない。

情報セキュリティフォーラムのCEOであるSteve Durbinは、AIの導入には大きな利点があるが、欠点もあると述べている。たとえば、企業は誤検知アラートの増加を経験することがあり、セキュリティチームの時間を浪費する。さらに、AIへの過度の依存は、セキュリティ上の抜け穴につながる過信につながることがある。

AI脅威の状況をナビゲートする

AIの脅威の状況の正確な範囲を判断することは不可能である。攻撃者は、ランタイム時にAIを使用するのではなく、悪意のあるコードを作成したりフィッシングメールを起草したりするためにAIを使用することができる。単独のサイバー犯罪者や国家が支援する脅威グループが、AIを大規模に使用している可能性がある。

利用可能な情報によると、モデルタンパリング、AIフィッシング、ポリモルフィックマルウェアは2026年の最大のサイバーサイバー脅威となる。サイバー犯罪者は、LLMを使用して悪意のあるペイロードを生成、配信、適応し、高価値の業界である金融業や一般の人々を標的とすることが予想される。