Chris Lehman, CEO, SafeGuard Cyber Chris Lehman CEO, SafeGuard Cyber

生成的なAIによるサイバーセキュリティ：戦場、脅威、そして今、防御

戦場生成的なAIの能力に対する興奮が、懸念に変わりました。ChatGPT、Google Bard、Dall-Eなどの生成的なAIツールは、セキュリティとプライバシーの懸念により、ヘッドラインを飾り続けています。現実と非現実の区別がつかなくなっています。生成的なAIは、非常に妥当で、そして説得力のあるコンテンツを大量に生成できます。最近の60 MinutesのAIに関するセグメントの終わりで、ホストのScott Pelleyは、視聴者に次のように述べました。「私たちがAI革命で頻繁に聞くことになる言葉で、この前のコンテンツは100%人間によって作成されたものです。」生成的なAIサイバー戦争は、ハッカーが生成的なAIを利用して、ChatGPTなどのツールを使用して、社会工学、フィッシング、擬装攻撃を行うことから始まります。特に、リソースが限られている、または技術的な知識がなくても、サイバー犯罪者が犯罪を行うことは非常に簡単です。脅威生成的なAIは、ますます複雑なサイバー攻撃を引き起こす力を持ちます。生成的なAIが人間のようなコンテンツを簡単に生成できるため、AIを利用したサイバー詐欺は、セキュリティチームが簡単に検知することが難しくなります。AI生成の詐欺は、メールやメッセージングアプリを介したマルチチャネルフィッシング攻撃の形で行われることがあります。実際の例として、Outlook（メール）またはSlack（メッセージングアプリ）を介して、第三者ベンダーから企業の幹部に送信された、請求書を表示するように指示するメールまたはメッセージが考えられます。生成的なAIでは、偽のメールまたはメッセージと本物のメールまたはメッセージを区別することはほぼ不可能です。したがって、非常に危険です。最も心配な例の1つは、生成的なAIを使用すると、サイバー犯罪者が、攻撃言語に関係なく、複数の言語で攻撃を行うことができることです。目的は、広範囲にわたる被害者を狙うことであり、サイバー犯罪者は言語による差別を行いません。生成的なAIの進歩は、これらの攻撃の規模と効率がさらに増すことを示唆しています。防御生成的なAIに対するサイバー防御は、パズルの欠けているピースでした。ただし、現在では、機械対機械の戦い、またはAI対AIの戦いによって防御することができます。しかし、この戦略はどのように定義され、どのように見えますか。まず、業界は、人間対機械ではなく、コンピューター対コンピューターを戦わせる必要があります。この取り組みを実行するために、AI生成の脅威を検知し、社会工学攻撃を検知して解決する時間を短縮することができる、先進的な検知プラットフォームを検討する必要があります。人間ではできないことです。最近、AI生成の言語ベースのコールバックフィッシングメールを、複数の言語で生成して、自然言語理解プラットフォームまたは先進的な検知プラットフォームが検知できるかどうかをテストしました。ChatGPTに、英語と日本語で、「ソフトウェアライセンス契約の最終通知について電話することを急いでください」というメールを書くように指示しました。先進的な検知プラットフォームは、すぐにメールを社会工学攻撃としてフラグしました。ただし、Outlookのフィッシング検知プラットフォームなどのネイティブのメールコントロールでは、検知することができませんでした。ChatGPTのリリース前に、会話型の言語ベースの攻撃は、伝統的なコントロールを回避して、リンクやペイロードなしで受信者のメールボックスに入ることができました。したがって、機械対機械の戦いによって防御する必要がありますが、有効な兵器、たとえば先進的な検知プラットフォームを使用する必要があります。誰でもこれらのツールを使用することができれば、生成的なAIに対する戦いでは優位性を得ることができます。生成的なAIによって提供される社会工学攻撃の規模と妥当性については、機械対機械の防御を洗練することができます。たとえば、この防御は複数の言語で展開できます。また、メールセキュリティに限定されず、Slack、WhatsApp、Teamsなどのアプリなどの他のコミュニケーションチャネルでも使用できます。注意を払うLinkedInをスクロールしているときに、社員の1人が生成的なAIの社会工学攻撃に遭遇しました。白紙のダウンロード広告が表示され、Dall-Eによって生成された画像の右下隅に特徴的な色パターンが表示されました。この偽のLinkedIn広告に出会ったことは、生成的なAIと組み合わせた新しい社会工学の危険性を思い出させました。現在、より注意深く、疑わしい態度でいることが重要です。生成的なAIを使用したサイバー犯罪の時代が到来しました。私たちは、利用可能なすべてのツールを使用して、戦い方を準備する必要があります。