AIによる詐欺の新たな現実：消費者安全のためにリアルタイム防御が必要

大規模言語モデル（LLM）を使用して、1時間で100万個の完璧な、ユニークなフィッシングメールを生成できる場合、人間の速度でシグネチャを更新するだけでAI戦争に勝つことはできないのではないか?

生成的な人工知能の台頭は、抽象的な脅威ではなくなり、組織化されたサイバー犯罪者が社会工学の古典的な芸術を自動化し、完璧にするためにディープラーニングツールを利用している現実である。消費者にとって、この変化は財政的に壊滅的なものであった：米国連邦取引委員会（FTC）は、2024年に報告したように、詐欺による消費者損失は2024年に125億ドル以上に達し、2023年から25%増加した。この驚くべき数字は、伝統的な、人間に依存するセキュリティ対策がAI駆動の脅威に対して失敗している新しい時代が到来したことを確認している。

AIパワード詐欺の新たな現実

生成的なAIは、サイバー犯罪のハードルを下げると同時に、悪意のあるコンテンツの信憑性を高めた。詐欺師は、信頼できる個人や機関を完璧に模倣する、高度なパーソナライズされた、高容量のキャンペーンを実行できる。

このエスカレーションの最も注目すべき例は次のとおりである：

ディープフェイクのなりすましとボイスクローニング

愛する人や高位の幹部を装うクラシックななりすまし詐欺は、AIによって完璧になった。

• CEOおよび幹部のディープフェイク：高プロファイルの企業詐欺事件では、ディープフェイクのビデオおよびオーディオが、ビデオ会議中に上級幹部を装うために使用されてきた。攻撃者は、幹部の声またはパブリックビデオの短いクリップをAIにトレーニングすることで、リアルタイムのオーディオおよびビデオを生成し、被害者の最も信頼できる防御、つまり目と耳を回避できる。
• ディープフェイク暗号化詐欺：消費者プラットフォームでは、イーロン・マスクのような有名人のディープフェイクは、頻繁に「二倍のビットコイン」詐欺に使用される。ディープフェイクのビデオは、頻繁に妥協されたプラットフォームでライブストリーミングされ、被害者を欺くために、偽の暗号化プレゼントを「推奨」している。被害者を欺くために、被害者はこれらのディープフェイクを本物のものと見分けることができない。

高度なパーソナライズされた会話型フィッシング

生成的なAIは、クラシックな「ナイジェリアの王子」詐欺の特徴的な兆候、つまり、ひどい文法、外国的なフレーズ、汎用的なあいさつを排除した。

• 多形的なフィッシング： 攻撃者はLLM（包括して、FraudGPTのような違法なもの）を使用して、パブリックデータ、LinkedInプロファイル、ソーシャルメディア投稿、および会社のWebサイトをスクラップして、ターゲットについて詳細なドッサを構築する。AIは、同僚または上司のトーンと語彙を模倣するメールを作成し、実際のプロジェクトまたは共有の連絡先を参照する。これは、多形的なフィッシングと呼ばれ、AIが数百万のわずかに異なる、ユニークでコンテキストに完全なメールを生成できるため、伝統的な、シグネチャベースのメールフィルタによって検出することがほぼ不可能である。
• AIパワードのロマンス詐欺（豚の屠殺）：AIチャットボットの使用により、詐欺師は同時に数百の偽のデートプロファイルを管理できる。AIは、信頼を築くために、長期間にわたって繊細で感情的に操作的な会話を維持する、という技術を「豚の屠殺」と呼ぶ。完璧なコミュニケーションと言語のギャップを埋める能力により、詐欺師は被害者をより深く関与させることができ、被害者が詐欺的な投資スキームに移行する前に、被害者をより深く関与させることができる。

伝統的なセキュリティの致命的な欠陥

これらのAIパワード詐欺が成功する理由は、伝統的なサイバーセキュリティ対策が、高速度、低容量の脅威環境に対して設計されていないことにある。彼らは、時代遅れの仮定に基づいて動作する：

1. シグネチャと既知の脅威への依存

伝統的なアンチウイルスおよびセキュリティソフトウェアは、既知の脅威、または「シグネチャ」のデータベースに依存する。当攻撃者がAIを使用して、まったく新しい、ユニークなメール、または新しいバリアントのマルウェア、または見たことのないディープフェイクのビデオを生成する場合、セキュリティシステムにはそれを検出するための既存のシグネチャがない。新しいシグネチャが作成され、配布されるまでに、詐欺はすでに次の多形的なバリアントに移行している。この反応型モデルは、生成的なAIのペースに比べて遅すぎる。

2. 行動とコンテキストの認識の欠如

多くのレガシーシステムは、セキュリティを、分離された、トランザクション的なチェックとして扱う。たとえば、基本的なフィルタは、メールに「請求書」または「緊急」などの単語が含まれているかどうかをチェックする。AI駆動の社会工学は、キーワードではなく、行動に焦点を当てているため、成功する。洗練されたフィッシングメールは、正当なもののように見え、ディープフェイクのビデオは、主張する人物のように見え、聞こえる。伝統的なツールは、ユーザーまたはネットワークのための正常な行動の基準を確立する能力がなく、したがって、詐欺が進行中であることを示す、異常な行動を検出することができない。

3. 人間のミスを主な弱点として

伝統的なセキュリティの最終的な防御は、人間のユーザーであることが多いが、これは、AI詐欺の社会工学の側面が利用しようとしているものである。ユーザーを詐欺を察知するようにトレーニングすることは、有効な緩和策であるが、検出システムではない。ディープフェイクの声が、子供のように正確に聞こえたり、CEOから来たように見える文法の完璧なメールが届いたりすると、人間のトレーニングは、AIによって作られた感情的およびコンテキスト的な操作にかなわない。

積極的な代替：リアルタイムAI駆動の脅威検出

解決策は、AIでAIと戦うことである。生成的なAIが攻撃プロセスに統合されたのと同様に、リアルタイムの機械学習モデルは、消費者および企業の主要プラットフォームに組み込まれて、行動の異常を積極的に検出するために展開されている。この組み込まれたリアルタイムの防御は、次世代の消費者安全のためのブループリントを提供する。

主要な企業やプラットフォームは、次の目的でこれらのAI駆動のモデルを使用している：

• 金融詐欺検出：大手金融機関は、リアルタイムの行動分析を使用して、ログインパターン、トランザクションの異常、デバイスの指紋を監視する。ユーザーが、新規登録されていないデバイスまたは場所から突然、大きな異常な転送を開始すると、AIは異常を検出し、資金が失われる前に詐欺を停止することが多い。
• メールおよびコンテンツフィルタリング：例えば、GoogleのGmailは、メッセージコンテンツ、送信者履歴、書き込みスタイルを分析するマシンラーニングモデルを使用して、1日あたり数百万のフィッシングメールを処理し、ブロックする。これらのモデルは、シグネチャベースではなく、正当なメールが見え、聞こえ方を学習するため、微妙でコンテキストに特化したスピアフィッシングの試みを検出するのに非常に効果的である。
• ソーシャルメディアコンテンツモデレーション：Metaなどのプラットフォームは、有害なコンテンツや偽のアカウントをリアルタイムで検出して対応するために、自然言語処理（NLP）とマシンラーニングを使用する。これは、単純なキーワード検索を超えて、コミュニケーションのコンテキストと意図を理解する。

これらの例の共通の糸は、パッシブなシグネチャベースの防御から、アクティブなリアルタイムの行動分析への移行である。これが、依然として時代遅れのツールに大きく依存している一般的な消費者や家族のエコシステムにとって、欠けている重要な層である。

解決策は、家が強盗に荒らされた後にデジタルな門扉を閉めることではありません。それは、自分の足音の音を学ぶ、統合されたアラームシステムです。知能的なセキュリティシステムから来るものです。ユーザーの行動、コミュニケーションパターン、デジタルなやり取りの「正常」な基準を確立するために、リアルタイムのAIを使用するシステムです。これが、ディープフェイクのなりすましまたは高度なパーソナライズされたフィッシングの試みによって作成される、微妙で重要な異常を検出する唯一の方法です。AIを継続的なリアルタイム分析に組み込むことで、進化するAI駆動の攻撃の新しい、恐ろしい複雑さに拡大する消費者防御を構築できるようになります。