ハナマリーダーリー、Geordie AIの最高AI責任者 – インタビューシリーズ

ハナマリーダーリー、Geordie AIの最高AI責任者は、AIおよびセキュリティのリーダーであり、企業のIT、リスク、セキュリティチームがエージェントAIを明確性と制御を持って採用するのを支援するために同社を共同設立しました。アメリカ連邦政府のインテリジェンス作戦を支援した10年近くと、Darktraceでのシニアリーダーシップの役割を経て、脅威インテリジェンス、地政学分析、応用心理学の深い専門知識と、AI戦略と製品開発の実践的な経験を組み合わせています。彼女の仕事は、自律システムを人間の意図と一致させることに中心いており、企業がAIエージェントを创新、監督、現実の制約のバランスをとって運用できるようにしています。

Geordie AIは、ロンドンに拠点を置く企業ソフトウェア会社で、企業環境全体に埋め込まれるAIエージェントのセキュリティとガバナンスに焦点を当てています。同社のプラットフォームは、エージェントの活動に関する可視性、リスクポストゥアの継続的な監視、および組織がAIシステムを自信を持って展開および拡大できるようにする構造化されたガバナンスコントロールを提供します。観察可能性、コンプライアンスサポート、運用的な監督を提供することで、Geordieは企業に、ますます自律的なテクノロジーを統合することなくセキュリティまたは説明責任を妥協することなく透明性と制御を提供することを目指しています。

あなたは米国連邦政府の脅威インテリジェンスと地政学分析でほぼ10年間を過ごし、その後Darktraceでの脅威研究とAI戦略の役割を率いて、現在Geordie AIでのAIと製品戦略を率いています。政府と企業のセキュリティの経験の中で、Geordieを構築することを決断させたものは何でしたか？また、どのような核心的な問題を解決しようとしましたか？

政府と企業のセキュリティの両方で、同じ構造的な緊張を感じ続けました。組織はAIに多大な投資をしていたのですが、期待される投資収益率に対する信頼は後ろ向きでした。課題は能力ではありませんでした。信頼でした。

AIが実験ツールから運用ワークフローに移行するにつれて、そのギャップはより明らかになりました。エージェントは、従来のソフトウェアとは異なる方法で、自律性、意思決定、システム全体での持続性をもたらします。企業は、エージェントがどのように機能するか、どこで動作するか、またどのようにリスクが発生するかを理解する必要があります。Geordieは、企業が自信を持って自律性を採用できるように、その明確性ギャップを解消するために構築されました。

あなたの見解では、エージェントAIシステムが企業に提示する最も誤解されているリスクは何ですか？また、コンテキストによる意思決定の「連鎖効果」は、従来のサイバーセキュリティ露出モデルとどのように異なりますか？

サイレントな失敗は、最も誤解されているリスクです。エージェントは、承認されたアクセス許可と正当なアクセス境界内で動作しながらも、意図と異なる結果を生み出す可能性があります。

これは、エージェントシステムの性質を反映しています。エージェントは、コンテキストを解釈し、リアルタイムで意思決定を行います。決定論的なソフトウェアとは異なり、動作は動的にシーケンスのアクション全体で形成されます。セキュリティモデルは変わります。露出は、単にアクセス違反に依存するのではなく、意思決定、ツール、コンテキストが時間の経過とともにどのように相互作用するかによって生じます。

Geordieのアプローチは、行動の観察可能性、コンテキストリスク評価、およびエージェント活動のダイナミックコントロールを強調しています。企業は、実時間の可視性の必要性と運用的複雑さまたはシステムパフォーマンスの懸念とのバランスをとるために、どのようにしてこれらの要素をバランスさせるべきですか？

企業は、オーバーサイトのためにパフォーマンスを犠牲にすべきではありません。私たちのアーキテクチャは、インラインプロキシやゲートウェイを避けて、企業がエージェントを最も運用的に適切な場所で構築および運用できるように設計されています。

可視性とコントロールは、自律性とともに拡大する必要があります。ガバナンスメカニズムがワークフローを妨げると、採用は停滞します。有効なセキュリティは、イノベーションを制限するのではなく、エコシステムを安全に拡大することを可能にします。

企業の顧客とリスクリーダーとのあなたの仕事から、どのようなワークフローまたはユースケースが、より高いリスクの活動へのエージェントの逸脱に最も脆弱ですか？また、早期の指標はどのようにして検出できますか？それらが重大なインシデントにエスカレートする前に？

リスクは、複雑さとともに増加します。エージェントが独立して選択を行うほど、行動の逸脱の可能性はより大きくなります。

逸脱は、ツールの連結、コンテキストの再利用、エマージェントワークフローを介して頻繁に発生します。早期の指標には、予期せぬツールの呼び出し、異常なシーケンシングパターン、およびデータの移動の変化が含まれます。これらのシグナルの検出には、個々のイベントの監視ではなく、行動分析が必要です。

エージェントがタスク全体でコンテキストとツールを再利用する場合、セキュリティチームがより注意を払うべき最も微妙または過小評価された故障モードは何ですか？

コンテキストの再利用は過小評価されています。露出は、過剰なアクセス許可ではなく、情報がタスク全体でどのように永続化し、伝播するかによって生じます。

エージェントは、1つのコンテキストでデータにアクセスし、意図せずにその状態を別のコンテキストに持ち込む可能性があります。ツールの連結と組み合わせると、機密情報の意図せぬ開示または変換を生み出す可能性があります。

多くの組織は、従来のエンタープライズセキュリティツールに依存しています。エンドポイント検出および対応（EDR）および拡張検出および対応（XDR）プラットフォームなど。マルチステップアクションを取る自律AIシステムを管理する場合、これらのアプローチはどこで短所がありますか？

EDRおよびXDRプラットフォームは不可欠ですが、それらは人間中心の脅威モデルを中心に設計されました。エージェントは、エンドポイントおよびアイデンティティテレメトリを超えた意思決定レイヤーで動作します。

エージェントの行動を理解するには、推論パターン、ツールの選択、コンテキストによる意思決定フローに関する洞察が必要です。そのレイヤーがなければ、エージェントの活動の多大な部分が不透明なままです。

イノベーションを可能にしながら、制御されていない自律性を避けたいIT、リスク、セキュリティリーダーにとって、「ガバナンスされた自律性」は実践ではどう見えますか？

ガバナンスされた自律性は、可視性から始まります。組織は、エージェントがどこで動作し、どれだけの意思決定権限を持っているか、またどのようなリスクを導入するかを理解する必要があります。

ガバナンスは、境界が定義された実験を可能にし、イノベーションを維持しながら成果物に対する自信を維持するために、早期に組み込まれる必要があります。

説明可能性は、モデル出力レベルでよく議論されます。エージェントが取る行動のシーケンスが実際のリスクとなる場合、企業は説明可能性と監査可能性についてどう考えるべきですか？

モデル説明可能性は、方程式のただ1つの部分です。企業リスクは、孤立した出力ではなく、行動のシーケンスに増加しています。

監査可能性には、ガードレールがどのように解釈を形成し、どのツールが呼び出され、コンテキストが意思決定にどのように影響したかを理解する必要があります。行動の観察可能性は、説明責任の基盤となります。

自律AIシステムのより強力な監督を必要とする組織にとって、具体的なステップを踏み、イノベーションを遅らせることなくエージェントリスクを軽減するにはどうすればよいですか？また、Geordie AIは、企業が制御と能力のバランスを実現するのをどのように支援しますか？

組織は、完璧なフレームワークを待たずに早期から取り組むべきです。初期の焦点は、インベントリ、行動の可視性、エージェントがシステムとどのように相互作用するかを理解することに置く必要があります。

ガバナンスモデルが遅延を導入する場合、拡張性が妨げられます。監督は運用のスピードと一致する必要があります。Geordieは、エージェントの構成、動作、リスクダイナミクスに関する可視性を提供し、自律システム用に設計された修正コントロールを可能にします。

先を見て、企業は自律AIをワークフロー全体に拡大するために、制御されていないリスクのために後退する企業とどのように区別されるでしょうか？また、リーダーシップは今どう準備するべきですか？

初期の違いは、明確性と測定になります。エージェントの能力、影響、行動パターンを理解するチームは、自信を持って拡大できるでしょう。

長期的には、競争上の優位性は、特化されたコンテキスト認識エージェントエコシステムを開発する組織に有利になります。精度が一般化よりもパフォーマンスと回復力の原動力となります。

素晴らしいインタビューありがとうございます。詳細を知りたい読者は、Geordie AIを訪問してください。