ディープテンポの創設AIエンジニア、Mayank Kumar – インタビューシリーズ

Mayank Kumarは、ディープテンポの創設AIエンジニアです。彼は、同社の基礎となるLog Language Model（LogLM）の設計と開発を主導しています。生成モデルと多モーダルAIに関する学術的および研究的な背景を持つ彼は、脅威の検出と対応を強化するドメイン固有のモデルを構築するための専門的な知識を提供しています。

ディープテンポは、LogLMを基盤とするサイバーセキュリティ企業です。このプラットフォームは、大規模なセキュリティログデータでトレーニングされたAIネイティブの基礎モデルを使用して、先進的な未知の脅威を特定し、誤検知を最小限に抑えることに優れています。既存のセキュリティワークフローへのシームレスな統合を目的として設計されており、datalakes、Kubernetes、Snowflakeへのデプロイをサポートし、高速なフォレンジック、データインジェストコストの削減、自動化された防御を実現します。

ディープテンポの創設に至った背景と、学術研究およびオープンソースAIの経験が会社の方向性に与えた影響についてお話しください。

私は、顔を見て関係を築くコミュニティで育ちました。私の父親は教師で、私に社会への貢献の重要性を教えてくれました。私たちは物質的に豊かではなかったですが、関係と目的においては豊かでした。そんな環境で育った私は、問題を解決するには個人の才能だけでなく、集団の力が必要であることを学びました。この考え方は、私に残っていて、最終的にディープテンポへの参加につながりました。

私の父親のブラウザがランサムウェアの攻撃を受けたことが転機でした。技術的なトラブルではありましたが、同時に恐怖、混乱、脆弱性ももたらしました。私は、デジタル世界の脆弱性を認識し、個人や組織が常に脅威にさらされていることを理解しました。ちょうどその頃、Evanと出会い、彼のインターネットスケールでの集団防衛のビジョンに共感しました。共通の使命感と、テクノロジーを人々のために活用したいという思いが、私をディープテンポに引き寄せました。

ワシントン大学での私の研究は、多モーダル表現学習とデータ中心のAIに焦点を当てていました。両者とも、LogLMの構築において重要な役割を果たしました。サイバーセキュリティログは、自然言語とは異なり、構造化され、断片化されています。私たちの最初の課題は、これらのデータから有意義な表現を学習できる新しい「言語」を構築することでした。さらに、セキュリティでは精度が重要であるため、性能の評価に多大な投資を行っています。

しかし、技術的な側面を超えて、私たちの北極星は常に集団防衛でした。オープンソースコラボレーションは、この使命を大規模に成功させるために不可欠です。

「集団防衛」とは具体的に何を意味するのでしょうか。従来のサイバーセキュリティアプローチとどのように異なりますか。

実践において、集団防衛とは、ある顧客のLogLMが新しい攻撃行動を特定した場合、その知識を抽象化して全エコシステムで共有することを意味します。具体的には、ステージドC2とエクスフィルタレーションキャンペーンに関する情報を、顧客データを送信せずに、行動パターンとして抽出して共有します。従来のシステムは、ルールベースまたは静的な脅威インテリジェンスフィードに依存していますが、これらのシステムは、複数の被害者が出るまで進化しません。集団防衛では、検出システムは、高品質のシグナルごとに進化します。つまり、環境固有の脅威を捉えることができ、多形的な脅威やLLMを強化した攻撃フローを、広まり前に検出できます。

LogLMの開発を促した企業セキュリティにおける具体的なギャップと、従来の検出システムとの根本的な違いについてお話しください。

企業のセキュリティチームは、ノイズとシグナルの比率が高く、環境間で検出が脆弱で、脅威への適応が遅いという3つの大きな問題に直面しています。LogLMは、これらすべての問題に対処するために設計されています。

既存のシステムは、ルールベースまたは狭い機械学習アプローチに依存しており、新しい環境を理解するために数週間または数ヶ月の調整が必要です。これらのアプローチは、攻撃者が戦術をわずかに変更した場合に失敗します。LogLMは、大規模なセキュリティテレスコピーデータでトレーニングされた構造化言語を扱うことで、複雑なシーケンスを認識し、脅威の物語を理解します。

従来のツールが分離されたアラートを生成するのとは異なり、LogLMは解釈可能な、戦術レベルの検出を生成します。さらに、スクラッチから設計されたため、セキュリティを念頭に置いて構築されており、わずか数日の未ラベル化ログで迅速に適応できます。これにより、オンボーディングが速くなり、検出がより堅牢になります。

シャドウエージェントとは何ですか。中央集権的な管理のない組織にとってどのようなリスクをもたらしますか。

シャドウエージェントは、セキュリティチームから視認性や明示的な承認を受けずに企業内で動作する、LLMを基盤とする自律AIツールです。最近の例として、MITREのCVE-2025-32711（「EchoLeak」）があります。これは、Microsoft 365 Copilotのゼロクリック脆弱性で、内部データを要約するよう求めただけで、ユーザーの操作なしにデータを漏洩させることができます。これらのエージェントは生産性を高めることができますが、セキュリティレビューをypassし、機密データを制御されていない推論層にさらします。

私たちは、パブリックLLMで構築されたシャドウエージェントがシステムログに公開され、ハードコードされた資格情報を含むスタックトレースを漏洩させたケースを見ました。これらのエージェントは通常、DLPコントロール、ポリシー、監査を受けていません。さらに、外部システムに出力を転送する決定を下すことができ、攻撃面となります。プロンプトインジェクションやアドバーサリアルチェーンでのコンテキストでは、単一のエージェントがダウンストリームのアクションを誘発することができます。

プロンプトインジェクションとモデル操作が重大な脅威となる理由と、現在のシステムがこれらを検出できない理由についてお話しください。

プロンプトインジェクションは、モデルが自然言語を解釈する基本的な機能を利用するため、危険です。ほとんどの企業システムは、モデル出力を信頼していますが、モデルが隠れた指令を受け取った場合、意図しないアクションを実行することができます。私たちは、資格情報の抽出、ユーザーへの偽装、入力検証の回避など、さまざまな悪用例を見ています。

根本的な問題は、LLMがセキュリティよりもコヒーレンスを優先していることです。ロイヤルソサエティの研究への対応で探究したように、モデルは流暢性と一般性を優先し、慎重さと精度を犠牲にします。さらに、モデルを「より正確にする」ように促すと、自信を持ったが誤った応答につながる可能性があります。アドバーサリアルなモデル操作は、長期的な懸念事項です。攻撃者はデータセットを汚染したり、構造化されたクエリーを繰り返し実行することで、モデルを徐々に操作できます。検出には、フルチェーンのログ、継続的な評価、モデルレイヤーのサンドボックスが必要です。これらの技術は、多くの企業システムでまだ採用されていません。

TempoはMITRE ATT&CKマッピングを使用して、生のアラートではなく、実行可能なインテリジェンスを提供する方法についてお話しください。

Tempoは、監督付き分類器と行動チェーンの組み合わせを使用して、検出をATT&CK戦術とテクニックにマッピングします。システムが、疑わしいPowerShell実行、レジストリキーモディファイ、不通常のアウトバウンドトラフィックなどのシーケンスを検知した場合、各ステップに対して単にアラートを出すのではなく、シーケンス全体をExecution > Defense Evasion > Exfiltrationとしてタグ付けし、既知のATT&CK IDにマッチさせます。

これにより、防御者はすぐに敵の目的とキルチェーンでの位置を理解できます。さらに、関連エンティティ、ログ、信頼度スコアなどの情報を提供します。この構造化されたアプローチにより、SOCアナリストの認知負荷が軽減され、対応ワークフローが高速化されます。チームは、使用された戦術、導入方法、次のステップが何であるかを理解できます。これは、アナマリーの文脈なしに毎回異常をアラートするシステムとは大きな違いです。

ディープテンポはSIEM（セキュリティインフォメーションおよびイベントマネジメント）システムの上流で動作します。この配置が脅威検出とセキュリティチームの運用をどのように強化するのかについてお話しください。

SIEMシステムは、インジェストコストを削減するためにログを正規化およびフィルタリングしますが、正確なタイムスタンプ、待ち時間のスパイク、または一時的なセッション動作などの有価値なコンテキストを失うことがあります。ディープテンポは上流で動作し、SIEMへの変換前に生のテレスコピーデータをインジェストします。これにより、サービストークンの再利用やまれなAPIコールシーケンスなどの豊富な行動パターンをモデル化できます。

上流で動作することで、ノイズをSIEMに達する前に減らすことができます。1日あたりペタバイトのログラインをプッシュするのではなく、ATT&CKの拡張とモデルベースのスコアリングを備えた50〜100のハイコンテキストイベントを渡します。チームはトリアージに費やす時間を減らし、重要な脅威の調査に集中できます。これにより、SIEMのストレージとコンピューティングコストも削減できます。

Tempoが新しい環境にモデルを適応させることができるのは何ですか。これは従来の機械学習ワークフローとどのように異なりますか。

従来のMLシステムは、新しい環境に適応するために数週間のラベル付きデータと再トレーニングを必要とします。Tempoは根本的に異なるアプローチを取ります。ゼロから始めるのではなく、大規模なネットワークテレスコピーデータで事前トレーニングされたモデルを活用します。これにより、さまざまな環境でのトラフィックフローと行動の典型的な見た目を理解することができます。

Tempoが新しい環境にデプロイされた場合、ラベル付きデータや長い学習サイクルは必要ありません。ローカルのネットワーク活動を数日間使用してベースラインを確立し、環境固有のパターンを検出するために自己教師あり学習でファインチューニングします。これは数時間で実行できます。プロセスは自己教師ありであるため、セキュリティチームがイベントを手動でフラグまたはラベル付けする必要はありません。環境が進化するにつれて、モデルが古い行動を「忘れる」ことができるスナップショットメカニズムも構築しています。ネットワークレイヤーで動作することで、従来のエンドポイントまたはログ中心のセキュリティツールとは異なり、脅威をより早く、より広範に検出できます。

ディープテンポは、特にクラウド環境がダイナミックな場合に、高い精度を維持しながら誤検知を最小限に抑える方法についてお話しください。

私たちは、時系列モデリングとコンテキスト認識ネットワーク分析を組み合わせ、NetFlowとVPCフローログを直接使用しています。高次のシーケンス生成アプローチと大規模な事前トレーニングを組み合わせたトランスフォーマーベースのディープラーニングアルゴリズムにより、ネットワークイベントが時間の経過とともにどのように展開されるかを理解できます。単一の失敗したログインをフラグするのではなく、失敗したログインに続く新しいデバイスからの成功ログイン、ラテラルムーブメント、不通常のデータアクセスをフラグします。この層化された時系列コンテキストにより、ノイズが除去され、実際の新しい脅威が強調されます。

2つ目に、ユーザーとサービス行動をコンテキストでプロファイリングします。Kubernetesノードが12回再起動することは、更新期間中には正常ですが、2時には新しいレジストリからの新しいコンテナデプロイに続く場合は疑わしいです。Tempoは、シーケンス、タイミング、コンテキストを同時に考慮することでこれを認識します。さらに、私たちのアクティブラーニングパイプラインは、特定の検出スタイルに関する情報を積極的に監視および収集します。パイプラインがパフォーマンスのドリフトまたはデータの変化を検出すると、スナップショットとアナリストからのフィードバックを使用してモデルの少数のパラメーターをファインチューニングします。

私たちは、生の、高忠実度のネットワークメタデータを使用して検出を構築し、時系列インテリジェンスと行動ベースラインを組み合わせて、高信頼度のアラートを提供します。クラウド環境が瞬く間に変化する場合でもです。

あなたのシステムにおける説明可能性の役割と、アラートが実用的で解釈可能なコンテキストで提供されるようにする方法についてお話しください。

Tempoの検出には、サマリー、根底にあるログ証拠、推定戦術（たとえば、ブルートフォースによる資格情報アクセス）が含まれます。関連するエンティティ、ユーザー、エンドポイント、クラウドリソースのグラフも提供し、SOCチームがインシデントを視覚化できるようにします。目標は、多くのAIシステムに陥る「ブラックボックス」効果を排除することです。

私たちは、LIMEやSHAPなどの学術的な説明可能性ツールを初期のプロトタイプで使用しましたが、アナリストにとって直感的ではないことがわかりました。そこで、代わりに平易な言語の物語を生成しています。何かが何故起こったのか、いつ起こったのか、そしてなぜ疑わしいのか、またどれほど自信があるのかを説明します。これは、単に明確さの問題ではなく、ティア1のアナリストが毎回のアラートをエスカレートせずに措置を講じられるようにすることです。

攻撃者がAIと基礎モデルを使用することによる長期的なリスクと、ディープテンポがこれに対抗する計画についてお話しください。

脅威の風景は、攻撃者が自ら学習し、変化し、24時間365日実行可能なAIエージェントを展開できる段階に入りました。これらのエージェントは、弱点を探し、適応し、合法的なユーザーの行動を模倣することができます。これは、ゼロデイの脆弱性ではなく、速度、イテレーション、隠蔽についてです。

私たちは、対抗的手段を講じています。アドバーサリアルトレーニング、上流検出、行動モデリングに投資しています。これらは、既知のインジケーターに依存せずに、悪意のある行動の構造を特定することを目的としています。さらに、AI生成の攻撃トラフィックをボットネットと同様に指紋を取る方法を探究しています。ペイロードが頻繁に変更されても、防御者が活動をフラグすることができるようにします。

 素晴らしいインタビュー、詳しく知りたい読者はディープテンポを訪問してください。