ソートリーダー

サイバーセキュリティにおける生成AI:戦場、脅威、そして今、対策へ

Chris Lehman
Unite.AI を Google の優先ソースに追加
要点生成AIは、従来のメールセキュリティを回避する高度な多言語フィッシング攻撃を可能にする。
もっと見る
  • 生成AIは、従来のメールセキュリティを回避する高度な多言語フィッシング攻撃を可能にする。
  • 高度な検出プラットフォームを用いた機械対機械の戦闘は、AIが生成するソーシャルエンジニアリングに対抗するために不可欠である。
  • DALL-Eの画像を使用した偽のLinkedIn広告は、生成AIが標的型サイバー犯罪に武器化されていることを示している。

戦場

生成AIの能力に対する興奮が、懸念に変わりました。ChatGPT、Google Bard、Dall-Eなどの生成AIツールは、セキュリティとプライバシーの懸念により、ヘッドラインを飾り続けています。現実と非現実の区別がつかなくなっています。生成AIは、非常に妥当で、そして説得力のあるコンテンツを大量に生成できます。最近の60 MinutesのAIに関するセグメントの終わりで、ホストのScott Pelleyは、視聴者に次のように述べました。「60 Minutesではこれまで一度も使われたことのない注意書きで締めくくります。ただし、AI革命の中では今後よく耳にするかもしれません。ここまでの内容は100%人間によって作成されたものです。」

生成AIをめぐるサイバー戦争は、この説得力があり現実らしいコンテンツから始まります。その戦場は、ハッカーがChatGPTなどのツールで生成AIを悪用する場所です。リソースが限られ、技術的な知識がないサイバー犯罪者でも、ソーシャルエンジニアリング、フィッシング、なりすまし攻撃によって極めて簡単に犯罪を実行できます。

脅威

生成AIは、ますます複雑なサイバー攻撃を引き起こす力を持ちます。

生成AIが人間のようなコンテンツを簡単に生成できるため、AIを利用したサイバー詐欺は、セキュリティチームが簡単に検知することが難しくなります。AI生成の詐欺は、メールやメッセージングアプリを介したマルチチャネルフィッシング攻撃の形で行われることがあります。実際の例として、Outlook(メール)またはSlack(メッセージングアプリ)を介して、外部ベンダーから企業の幹部に送信され、添付された文書をクリックして請求書を見るよう指示するメールやメッセージが考えられます。生成AIでは、偽のメールまたはメッセージと本物のメールまたはメッセージを区別することはほぼ不可能です。したがって、非常に危険です。

最も心配な例の1つは、生成AIを使用すると、サイバー犯罪者が、攻撃者自身がその言語を話せるかどうかに関係なく、複数の言語で攻撃を行うことができることです。目的は、広範囲にわたる被害者を狙うことであり、サイバー犯罪者は言語による差別を行いません。

生成AIの進歩は、これらの攻撃の規模と効率がさらに増すことを示唆しています。

防御

生成AIに対するサイバー防御は、パズルの欠けているピースでした。ただし、現在では、機械対機械の戦い、またはAI対AIの戦いによって防御することができます。しかし、この戦略はどのように定義され、どのように見えますか。

まず、業界は、人間対機械ではなく、コンピューター対コンピューターを戦わせる必要があります。この取り組みを実行するために、AI生成の脅威を検知し、生成AIに起因するソーシャルエンジニアリング攻撃を検知して解決する時間を短縮することができる、先進的な検知プラットフォームを検討する必要があります。人間ではできないことです。

最近、ChatGPTに、受信者を電話に誘導する言語ベースのフィッシングメールを複数の言語で作成させて、自然言語理解プラットフォームまたは先進的な検知プラットフォームが検知できるかどうかをテストしました。ChatGPTに、英語と日本語で、「ソフトウェアライセンス契約の最終通知について電話するよう相手に促す、緊急のメールを書いてください」と指示しました。

先進的な検知プラットフォームは、すぐにメールをソーシャルエンジニアリング攻撃としてフラグしました。ただし、Outlookのフィッシング検知プラットフォームなどのメールシステムに標準搭載された保護機能では、検知することができませんでした。ChatGPTのリリース前に、会話型の言語ベースの攻撃は、伝統的なコントロールを回避して、リンクやペイロードなしで受信者のメールボックスに入ることができました。したがって、機械対機械の戦いによって防御する必要がありますが、有効な兵器、たとえば先進的な検知プラットフォームを使用する必要があります。誰でもこれらのツールを使用することができれば、生成AIに対する戦いでは優位性を得ることができます。

生成AIによって提供されるソーシャルエンジニアリング攻撃の規模ともっともらしさについては、機械対機械の防御を洗練することができます。たとえば、この防御は複数の言語で展開できます。また、メールセキュリティに限定されず、Slack、WhatsApp、Teamsなどのアプリなどの他のコミュニケーションチャネルでも使用できます。

警戒を続ける

LinkedInをスクロールしているときに、社員の1人が生成AIのソーシャルエンジニアリング攻撃に遭遇しました。ホワイトペーパーのダウンロードを促す奇妙な広告が表示され、その広告素材は、好意的に評しても「奇妙」としか言いようのないものでした。詳しく見ると、社員は画像の右下隅に特徴的な色のパターンを見つけました。これは、テキストの指示から画像を生成するAIモデル、Dall-Eが作った画像に付けられる印でした。

この偽のLinkedIn広告に出会ったことは、生成AIと組み合わせた新しいソーシャルエンジニアリングの危険性を思い出させました。現在、より注意深く、疑わしい態度でいることが重要です。

生成AIを使用したサイバー犯罪の時代が到来しました。私たちは、利用可能なすべてのツールを使用して、警戒を続け、反撃する準備を整える必要があります。

Chris LehmanはSafeGuard Cyberの最高経営責任者(CEO)です。世界でも特に成長が速く成功を収めているテクノロジー企業数社で20年以上の勤務経験を持つ、経験豊富な上級経営幹部です。