エクサビームのSteve Wilson氏、Chief AIとProduct Officer – インタビューシリーズ

Steve Wilsonは、エクサビームのChief AIとProduct Officerです。彼のチームは、最新のAI技術を適用して、現実世界のサイバーセキュリティ課題に取り組んでいます。また、OWASP Gen AIセキュリティプロジェクトの共同創設者であり、業界標準のOWASP Top 10 for Large Language Model Securityリストの背後にある組織を共同で主催しています。

彼の著書「The Developer’s Playbook for Large Language Model Security」(O’Reilly Media)は、サイバーディフェンスマガジンによって、最も革新的なサイバーセキュリティ本として選ばれました。

エクサビームは、世界で最も賢い企業のセキュリティ運用を支える、インテリジェンスと自動化のリーダーです。AIのスケールと力と、業界をリードする行動分析と自動化の強みを組み合わせることで、組織はセキュリティインシデントのより包括的なビューを獲得し、他のツールでは見逃される異常を発見し、より迅速で、正確で、繰り返しやすい対応を実現します。エクサビームは、グローバルなセキュリティチームをEmpowerし、サイバーセキュリティ脅威に対抗し、リスクを軽減し、運用を合理化します。

あなたの新しい役職は、エクサビームのChief AIとProduct Officerです。AIのサイバーセキュリティ内での重要性の進化をどのように反映していますか？

サイバーセキュリティは、最初にマシンラーニングを真正に受け入れたドメインでした。エクサビームでは、10年以上前から、人間だけでは見逃すかもしれない異常な行動を検出するために、MLを検出エンジンの核心として使用しています。新しいAI技術、たとえば、インテリジェントエージェントの到来により、AIは重要なものから絶対的に中心的なものに成長しました。

エクサビームでの私の役職は、正確にこの進化を反映しています。AIを徹底的に製品に組み込んだ企業であり、サイバーセキュリティのような業界でAIの役割がますます重要になる中で、AI戦略と製品戦略を一つの役職に統合することは、変革的なAI駆動ソリューションを、最も必要としているセキュリティアナリストと運用チームに提供するために、戦略的に整列することを保証するために意味がありました。

エクサビームは、セキュリティ運用で「エージェントAI」を先駆けています。実践では何を意味し、従来のAIアプローチとどのように異なりますか？

エージェントAIは、従来のAIアプローチから有意義な進化を表します。それは、プロセスをプロアクティブに開始し、情報を分析し、分析者が要求する前に洞察を提示する、行動指向のものです。単なるデータ分析を超えて、エージェントAIは、戦略的な推奨事項を提供し、SOC全体を導き、ユーザーを最も簡単な勝利に向けて導き、セキュリティポストを改善するためのステップバイステップの指導を提供する、専門家として機能します。また、エージェントは、分析者、エンジニア、管理者のワークフローにシームレスに統合される、特定のパーソナリティとデータセットで構成された、特殊なパックとして動作します。

エクサビームノヴァがSOCワークフロー全体にわたって複数のAIエージェントを統合する場合、セキュリティアナリストの役割の将来はどうなりますか？それは進化していますか、縮小していますか、またはより特殊化していますか？

セキュリティアナリストの役割は確実に進化しています。分析者、セキュリティエンジニア、SOCマネージャーはすべて、データ、警報、ケースで圧倒されています。将来の本当の変化は、単に日常的なタスクに費やされる時間を節約することではなく、エージェントを率いるチームリーダーの役割への昇格です。分析者は依然として強力な技術スキルが必要ですが、今や、タスクを加速し、決定を強化し、セキュリティポストを真正に改善する、エージェントのチームを率いることになります。この変革により、分析者は、戦略的なオーケストレーターではなく、戦術的なレスポンダーとしてではなく、自信を持って、進化する脅威に対抗するためにリードすることができます。

最近のデータによると、AIの生産性への影響について、幹部と分析者間に断絶があるようです。なぜこの認識のギャップがあると思いますか？それをどのようにして解決できますか？

最近のデータは、明確な断絶を示しています。71%の幹部は、AIが生産性を大幅に高めることを信じていますが、現場の分析者のうち、日常的に使用する人のうちわずか22%が同意しています。エクサビームでは、サイバーセキュリティにおけるAIの最近の躍進とともに、このギャップが拡大していることを確認しています。デモでは、AIがすべてのSOC課題を解決したように見えますが、実際には、分析者の手に渡ったときに、多くの場合、期待に応えられません。潜在性はありますが、実際の改善はまだ少なく、ノイズが多すぎて、意味のある改善が少ないです。この認識のギャップを橋渡しするには、幹部は、分析者の力を強化するAIツールを優先する必要があります。AIが分析者の有効性を真正に高める場合、信頼と実際の生産性の改善がตามいます。

AIは脅威の検出と対応を加速していますが、高いリスクのサイバーセキュリティインシデントで、自動化と人間の判断のバランスをどのように維持しますか？

AIの能力は急速に進化していますが、今日の基礎的な「言語モデル」は、インテリジェントエージェントの基盤として、元々は言語翻訳のようなタスクに設計されたものでした。ニュアンス、ゲーム理論、複雑な人間の要因の扱いには、人間の判断がより重要なものとなります。分析者の役割は、AIによって減少するのではなく、昇格します。分析者は、エージェントのチームを率いるリーダーとなり、経験と洞察を利用して、エージェントを導き、方向付けて、決定が文脈とニュアンスによって情報に基づくものであることを保証します。最終的に、自動化と人間の判断のバランスをとることは、AIが人間の専門知識を増幅するのではなく、置き換えるのではなく、相互に補完する関係を作ることです。

AIがコアデザイン原則となる場合、製品戦略はどのように進化しますか？

エクサビームでは、製品戦略は、AIがコアデザイン原則であるという事実によって根本的に形作られます。エクサビームは、機械学習をサポートするために、基盤から構築されています。ログの取り込み、パース、エンリッチメント、正規化から、MLシステムに食料を与えるために、ロバストな共通情報モデルを構築するまで、すべてのプロセスが、AIシステムの命の息である、高品質の構造化データを提供するように設計されています。今日、エクサビームは、汎用的な、扱いにくいチャットボットではなく、重要なワークフローに、インテリジェントエージェントを直接組み込みます。エージェントは、ユーザーに、現実世界で、有意義な利益をもたらす、ターゲットを絞った、使いやすい支援を提供するように、特定のユースケースに合わせて設計されています。

エクサビームノヴァがSOCワークフロー全体にわたって複数のAIエージェントを統合する場合、完全に自動化されたセキュリティ運用のための重要なマイルストーンは何ですか？

完全に自動化されたセキュリティ運用のアイデアは、魅力的ですが、まだ時期尚早です。完全に自動化されたエージェントは、どのドメインでも、まだ効率的でも安全でもありません。エクサビームでは、私たちのアプローチは、完全な自動化を追求することではなく、人間の専門家の監督下で、エージェントのチームを動かす、ターゲットを絞った、エージェントの支援を提供することです。人間の監督と、ターゲットを絞ったエージェントの支援の組み合わせは、現実的で、有意義な進歩をもたらす、セキュリティポストの向上をもたらす、実現可能な道です。

サイバーセキュリティのために、GenAIと機械学習を必要なスケールで統合する際に、直面した最大の課題は何ですか？

サイバーセキュリティのために、GenAIと機械学習を必要なスケールで統合する際に、直面した最大の課題の1つは、スピードと精度のバランスをとることです。GenAIだけでは、エクサビームの高スピードMLエンジンが処理する大量のデータを置き換えることはできません。最も高度なAIエージェントでも、「コンテキストウィンドウ」は、まだ、人間のニュアンスと文脈を十分に捉えることができません。代わりに、私たちのレシピは、MLを使用して大量のデータを、行動可能な洞察に凝縮し、それをエージェントが翻訳して、効果的に運用化することです。

あなたはOWASP Top 10 for LLM Applicationsの共同創設者です。そのインスピレーションは何でしたか？それがAIセキュリティのベストプラクティスにどのように影響するでしょうか？

2023年の初めに、LLMアプリケーションのためのOWASP Top 10を立ち上げたとき、LLMとGenAIセキュリティに関する構造化された情報は希少でしたが、関心は非常に高かったです。数日以内に、200人以上のボランティアが、この取り組みに参加し、多様な意見と専門知識を提供して、元のリストを形作りました。以来、それは10万回以上読まれており、国際的な業界標準の基礎となりました。今日、この取り組みは、AI Red Teaming、エージェントシステムのセキュリティ、GenAIのサイバーセキュリティにおける攻撃的な使用など、AIセキュリティの実践を世界中で進歩させる、OWASP Gen AIセキュリティプロジェクトに拡大しました。私たちのグループは、最近、10,000人を超えるメンバーに達し、引き続きAIセキュリティの実践を進めています。

あなたの本「The Developer’s Playbook for LLM Security」は、トップ賞を受賞しました。本から最も重要なテイクアウェイまたは原則は何ですか？LLMセキュリティのための開発者は、セキュアなアプリケーションを構築する際に理解する必要があるものは何ですか？

私の本「The Developer’s Playbook for LLM Security」からの最も重要なテイクアウェイは、単純です。「大きな力には、大きな責任が伴う」。従来のセキュリティ概念を理解することは依然として重要ですが、開発者は、LLMに独自の、新しいセットの課題に直面しています。この強力なテクノロジーは、自由なパスではありません。開発者は、セキュリティを、最初から、AIアプリケーションのライフサイクルのすべてのステップに組み込む、先を見て、思慮深いセキュリティの実践をとる必要があります。

エージェントAIが主流になる次の5年間で、サイバーセキュリティワークフォースはどのように進化しますか？

現在、AIの軍拡競争にあります。攻撃者は、悪意のある目標を推進するために、積極的にAIを展開しています。サイバーセキュリティ専門家は、以前よりも重要性が増しています。次の5年間で、サイバーセキュリティワークフォースは、減少するのではなく、昇格します。専門家は、AIをチームに統合し、ワークフローに組み込む必要があります。セキュリティの役割は、戦略的な指揮に向かってシフトします。より少ない個人的な努力と、AI駆動のエージェントのチームを効果的にオーケストレートすることについてです。この変革により、サイバーセキュリティ専門家は、進化する脅威に対して、自信を持ってリードすることができます。

素晴らしいインタビュー、ありがとうございます。詳しく知りたい読者は、エクサビームを訪問してください。