インタビュー

Oran Moyal、Ocean Security共同創業者兼CTO ― インタビューシリーズ

Antoine Tardif
Unite.AI を Google の優先ソースに追加
Oran Moyal, Co-Founder and CTO of Ocean Security
要点AIネイティブの状態は、あらゆるチームの仕事の進め方を変えるため、技術的なものではなく組織的なものである。
もっと見る
  • AIネイティブの状態は、あらゆるチームの仕事の進め方を変えるため、技術的なものではなく組織的なものである。
  • 個々のタスクを高速化しても、手順間の実際のボトルネックが引き継ぎや承認に残っていては失敗する。
  • 指示だけではセキュリティ管理にならないため、エージェントには強制された権限と独立した検証が必要である。

Oran MoyalはOcean Securityの共同創業者兼CTOであり、高度なメール脅威を調査するエージェント型AIの開発を担っている。サイバーセキュリティの研究開発、攻撃側のソーシャルエンジニアリング、エンタープライズセキュリティにわたる経歴を持つ。信頼されたコミュニケーションを攻撃者がどのように悪用するのか、また、セキュリティシステムが標的をますます絞り込んだ脅威にどう対応できるのかを分析してきた経験を生かし、2024年にShay ShwartzとOceanを共同創業した。

Ocean Securityは、標的型フィッシング、ビジネスメール詐欺、金融詐欺の調査を目的とした、エージェント型のメールセキュリティプラットフォームを開発している。専門分野に特化したAIエージェントが、コミュニケーションの文脈と送信者の意図を分析し、一見正当な業務上のやり取りに潜む脅威をセキュリティチームが特定できるよう支援する。本インタビューでMoyalは、組織が真にAIネイティブであるとはどういうことか、エージェントを中心にワークフローをどう再設計するか、そして効果的な自動化に明確な要件、独立した検証、厳格な権限管理、人間の判断が今なお不可欠である理由について語る。

Oceanを共同創業する前の2024年まで、イスラエル国防軍やVisibleRisk / Microsoft Securityでの職務を含め、サイバーセキュリティの研究開発に長年携わっていました。どのような経験がOceanの立ち上げにつながり、AIの登場は当初から会社のビジョンにどのような影響を与えましたか?

かつて標的型スピアフィッシング攻撃キャンペーンには、専任チームと、手作業による調査・準備に数週間を要しました。生成AIが登場したとき、あらゆる企業の全従業員が、国家レベルの攻撃者による壊滅的なフィッシング攻撃にさらされるようになったと気づきました。わずか20ドルのサブスクリプションで、すべての攻撃者が一夜にして国家レベルの能力を手に入れたのです。

Shayと私は攻撃側のソーシャルエンジニアリングに深い知見があり、二人ともエンタープライズセキュリティ企業を立ち上げ、成長させた経験があるため、従来のツールでは対応しきれないと分かっていました。従来のツールはルール違反や異常を探しますが、こうした攻撃は通常の業務上のコミュニケーションに紛れ込みます。実際のメールスレッド、信頼されたアカウント、正規のサービスが使われるのです。異常を示すものは何もありません。そこで2024年、企業がこの新たな脅威に対応できるよう、侵害が起きる前に、人間の調査担当者と同じようにリアルタイムで文脈と送信者の意図を分析する、AIを活用したメールセキュリティを提供するためOceanを創業しました。

多くの組織は、AIツールを導入したり一部のプロセスを自動化したりしただけで、自らを「AIネイティブ」と称しています。あなたの考えでは、真にAIネイティブな組織と、既存の業務にAIを取り入れただけの組織を根本的に分けるものは何でしょうか?

多くの企業は、AIツールを購入しただけで自社をAIネイティブと呼びます。それは技術の導入にすぎません。AIネイティブであるとは、日々の業務への取り組み方や、ボトルネックの解消方法を変えることです。

まず、リーダーがボトルネックにどう対処するかが出発点になります。従来の反応は、「時間がかかりすぎる。担当者を雇って任せよう」です。AIネイティブな組織はまず、「AIを使って、この機能全体をどうすれば迅速化できるか」と考えます。この問いをあらゆるチームで繰り返せば、会社全体の仕事の進め方が変わり始めます。

真のAIネイティブへの変革は、技術面ではなく組織面で起こります。ある部門だけを迅速化しても、ボトルネックは次の部門に移るだけで、会社全体の進み方は最も遅い機能のペースに左右されます。AIネイティブな組織は全体で変革するため、情報の流れが速まり、フィードバックのサイクルが短くなり、チームが相互につながった一つのシステムとして機能します。

このモデルでは、人の価値のあり方が変わります。AIがより多くの仕事を担うにつれて、希少性が高まるスキルは、明確な方向性を示し、意図を定め、判断を下すことです。人とエージェントは協働します。AIが実行をより多く担い、人は何を作る価値があるのか、そしてなぜ作るのかを決めます。

目指すのは、すべてのチームが同じリソースでより多くの成果を上げ、より速く進み、品質を損なうことなく、よりよく連携して働けるようにすることです。

AIによる生産性向上の効果は、基盤となるワークフローが非効率だと、すぐに失われてしまうとあなたは指摘しています。企業がAIの恩恵を最大限に得る妨げとなる、運用上のボトルネックとして最もよくあるものは何でしょうか。また、リーダーはワークフローの再設計にどう取り組むべきでしょうか?

個々のタスクを速くしても、組織全体が自動的に速くなるわけではありません。プロセス、依存関係、チーム間のコミュニケーションが変わらなければ、AIが生み出す生産性向上の大半は、その過程で失われてしまいます。

最もよくあるボトルネックは、技術的なものではありません。要件が曖昧なために手戻りが繰り返されること、チーム間の引き継ぎが遅いこと、承認待ちで作業が止まることです。AIは各工程を速めますが、工程と工程の間で時間が失われます。

リーダーはまず、時間が実際にどこに費やされているかを測定すべきです。真のボトルネックは、誰もが想定しているものとは違うことがよくあるからです。次に、個々のタスクだけでなく、引き継ぎ、定義、フィードバックの仕組みを改善し、最初から最後までワークフローを再設計します。最後に、AIに関するあらゆる取り組みを、各チームがすでに担っているKPIに結び付けます。

何より重要なのは、リーダーが考え方を変えることです。自動化と迅速化を当たり前の選択肢にしなければなりません。既存のプロセスをそのまま受け入れるのではなく、品質を損なわずに、より速く進み、より大きな成果を上げられるよう、チームは仕事の進め方を絶えず問い直すべきです。

ワークフローにAIエージェントを導入する前に、要件を明確に定義することの重要性を強調されています。AIエージェントが業務の大部分を担う場合、組織はタスクの定義方法、期待事項の伝え方、成功基準の設定方法をどのように見直すべきでしょうか?

AIエージェントが業務の大部分を担うようになると、組織はタスクの伝え方や定義方法を見直す必要があります。曖昧な依頼をしても、エージェントの作業は止まりません。エージェントは推測で進めますが、推測が外れるたびに手戻りが増えます。

私は、これを3つの段階で考えています。

タスク、目標、背景を明確にすること。エージェントは、何をすべきか、なぜそれが重要なのか、そしてその背景を理解する必要があります。作業を始める前に、不明な点について質問できるようにし、途中で不足が判明するのではなく、あらかじめ解消しておくべきです。

自己検証。成功基準は事前に定め、エージェント自身が確認できる形にする必要があります。たとえばソフトウェア開発では、エージェントがコードを実行し、意図したとおりに動作するかをテストしたうえで、誰かがレビューする前にテストに合格したことを確認できるようにすべきです。

最後の段階は人間です。エージェントが合意済みの基準に照らし、複数回の反復を通じてすでに完成度を高めた成果を、人が受け取るようにします。人の役割は判断を下すことであり、基本的なミスを修正することではありません。

定義が明確であればあるほど、成果ごとに必要となる人の作業時間は短くなります。

AIエージェントが人間のレビュアーに提出する前に、自らの成果を検証できるようにすることを提唱されています。実際には、効果的なAI主導の検証プロセスとはどのようなものでしょうか。また、自動品質チェックが、作業中に生じた同じ誤りをそのまま強化してしまわないよう、組織はどうすればよいでしょうか?

効果的な検証プロセスでは、実際の利用方法に即して成果をテストします。エージェントは実際のシステムを最初から最後まで実行し、結果が成功基準を満たしていることを確認し、不合格となった箇所を修正してから、人に引き渡すべきです。

検証でエージェント自身の誤りを繰り返さないためには、いくつかの原則が重要です。

基準と実行を切り分けること。何をもって成功とするかは、作業開始前に人が定めるべきです。エージェントが「完了」の意味を決めると、自分で自分の宿題を採点することになります。

厳格なガードレールを設けること。すべてのチェックをエージェントの判断に委ねるべきではありません。特定のパラメーター、標準、ポリシーを検証する、変更できない決定論的なテストも必要です。こうしたテストによって、エージェントが理屈をつけて逸脱できない明確な境界が設けられます。

独立したレビュアーを使うこと。新たな視点を持ち、当初の進め方に利害関係のない第2のエージェントが、最初のエージェントが見落としたエラーを見つけます。

判定だけでなく、根拠を示すこと。テスト結果、スクリーンショット、録画があれば、「合格」という結果を信じるだけでなく、実際に何が起きたかを人が確認できます。

そうすれば、人の注意を最もリスクの高い箇所に向けられます。目指すのは、プロセスから人を排除することではありません。機械的なチェックではなく、判断が必要な業務に人の時間を使えるようにすることです。

従来型の組織では、複数の管理階層や承認プロセス、チーム間の引き継ぎに頼ることがよくあります。AIネイティブな運営モデルによって、エンジニアリング、プロダクト、セキュリティ、ビジネスの各チームの連携はどのように変わるのでしょうか。また、エージェントが実行業務をより多く担うようになると、従来の役割や責任はどうなるのでしょうか?

AIによって、すべての人、すべてのチームがより多くの成果を生み出せるようになります。しかし、引き継ぎや承認、調整の方法が変わらなければ、増えた成果は次の工程を待って積み上がるだけです。組織の動きは速くなりません。新たなボトルネックが生まれます。AIネイティブな運営モデルでは、各チームの仕事の進め方だけでなく、チーム同士の連携の仕方も再設計する必要があります。

まず、情報の流れ方を見直すことから始まります。情報のより多くを自動化によって流し、会議は進捗報告ではなく意思決定のために使うべきです。現場からの知見がプロダクトチームに直接届けば、意思決定はより迅速かつ正確になり、その結果、定義が明確になり、実行の質も向上します。

承認プロセスも同じように見直す必要があります。組織が何を当たり前と考えるかを変えることになるため、これが最も難しい部分です。承認は依然として重要ですが、あらゆる変更を一律に扱うべきではありません。たとえば、特定の承認プロセスにリスク評価を加えれば、リスクの低い業務に対する手作業での承認を減らしつつ、重要な場面では人による確認を維持できます。これは、統制を手放さずにプロセスを速める方法の一つにすぎません。

役割も再定義されつつあります。エージェントが実行業務をより多く担うにつれて、人はタスクを担当する立場から、成果に責任を持つ立場へと移っていきます。全体の背景を理解し、前提を問い直し、従来の役割の枠を越える必要があります。成功するのは、AIを最も多く導入する組織だけではなく、人々の協働のあり方を再設計する組織です。

Oceanでは、高度なメール脅威を調査するために、専門特化したAIエージェントを活用しています。サイバーセキュリティ向けのエージェント型AIを開発した経験は、社内でのAI活用にどのような影響を与えていますか。また、自律型セキュリティシステムの構築から得た教訓のうち、AIネイティブな組織の運営にも応用できるものはありますか?

メールセキュリティ向けの自律型エージェントを構築した経験は、社内でのAI活用に2つの面で影響を与えました。

最初の教訓は、エージェントの働きは文脈をどれだけ理解しているかに左右されるということです。セキュリティエージェントは、自らが守る組織を理解していれば、より適切な判断を下せます。これは社内で使う場合も同じです。エージェントから良い成果を得るには、組織がどのように機能しているのか、それぞれのタスクの目的は何か、そして全体像の中でどう位置づけられるのかを、エージェントにしっかり理解させる必要があります。

2つ目の教訓は、エージェントには継続的な評価が必要だということです。本番環境では、エージェントのパフォーマンスや失敗する場面、足りないツールやデータを常に評価しています。社内でも同じ方法を採用しています。エージェントをテストし、訓練し、フィードバックを得るための専用の場が必要です。そうした場がなければ、エージェントが改善しているのか、次に何が必要なのかを判断するのは困難です。

AIネイティブな組織の運営は、自律型のセキュリティシステムを構築するのとよく似ています。エージェントに十分な文脈を与え、そのパフォーマンスを継続的に評価し、判断が重要な場面では人間が関与できる状態を保つのです。

企業がAIエージェントにより大きな自律性を与えるにつれて、説明責任やセキュリティ、意図しない結果への懸念が生じています。サイバーセキュリティ分野でのご経験を踏まえ、セキュリティを損なったり、人間による実質的な監督を失ったりすることなく、エージェントが自律的に動けるようにするには、企業はどのようなガードレールを設けるべきでしょうか。

エージェントは自律性を高める方向に進んでおり、企業は段階を踏んでそこに到達すべきです。まずは影響を十分に把握できる領域から始め、価値を実証してから範囲を広げましょう。

本当のガードレールは、単なる指示ではありません。エージェントに「これをしてはいけない」と伝えるだけでは、セキュリティ対策になりません。ガードレールは強制力を伴う必要があります。つまり、エージェントがアクセスできる範囲を厳格に制限し、その範囲外にはアクセスできないことを検証するとともに、想定外の行動を阻止するために継続的に監視しなければなりません。システムのほかの部分と同様、ガードレールも定期的にテストし、妥当性を確認する必要があります。

説明責任は、運用担当者から始まります。エージェントを運用する人が、エージェントの境界を定めます。つまり、自律的に実行できること、承認が必要なこと、そして立ち入ってはならない領域を決めます。メールの脅威に対応するエージェントを例に考えてみましょう。不審なメッセージを、エージェント自身が迅速かつ確実に隔離できます。一方、組織全体で送信者をブロックするなど、影響範囲がより広い操作については、運用担当者がまず確認の手順を設けることもできます。エージェントの実績が積み重なるにつれて、確信を持ってその境界を広げられます。明確なガードレールがあるからこそ、より高い自律性が可能になります。

攻撃者がAIエージェントを標的にするケースが増えているため、この点はなおさら重要です。ビジネス部門はより迅速な対応を求めていますが、セキュリティチームにはエージェントを守るための明確な指針がまだありません。だからこそ、基盤となるのは強制力のあるアクセス権限と継続的な監視です。

多くの企業は、削減できた時間、自動化したタスク、あるいは従業員の生産性を通じてAIの導入効果を測っています。手戻りや品質、調整にかかるコストも考慮したうえで、AIネイティブな運営モデルが持続的な事業価値を生み出しているかを示す指標は、どのようなものだとお考えですか。

削減できた時間は重要な指標であり、AIが価値を生み出していることを示す最初の明確な兆候となることも多いです。ただし、その時間を組織が何に使っているのか、そして得られた効果が長期にわたって持続するのかを示す指標と組み合わせることで、AIの影響を十分に把握できます。

品質です。品質が維持または向上して初めて、速さがより良い結果につながります。手戻りや不具合、納品後に成果物の修正が必要になる頻度を追跡しましょう。速度と品質がともに向上しているなら、その効果は確かなものであり、長続きします。

事業の拡大です。AIネイティブな組織が生み出す真の価値は、時間の節約によって何が可能になるかにあります。人員を増やさずに、どれだけ新しい機能や取り組みを手がけられるかを測定しています。

エンドツーエンドの速度です。エージェントが機能を開発するのにかかる時間は、全体像の一部にすぎません。本当に重要なのは、何かを優先すると決めた時点から製品としてリリースされるまで、あらゆる引き継ぎを含むプロセス全体にかかる時間です。これによって実際の業務遂行速度がわかり、タスク単位の指標では見えない調整コストも明らかになります。セキュリティにおいて、エンドツーエンドの速度は極めて重要です。攻撃者はすでにAIエージェントを利用しているため、脅威の検知と対応にかかる時間は、今後も短縮し続けなければなりません。

削減できた時間は、AIが機能していることを示します。これらの指標は、AIが事業に持続的な価値をもたらしていることを示します。

AIを中心に事業運営を再設計することで、小規模で機動力のあるテクノロジー企業は大きな競争優位性を得られるとおっしゃっています。AIネイティブなスタートアップは、既存の大企業に対してどのような優位性を持つのでしょうか。また、今後3〜5年で、成功するテクノロジー企業の組織構造はどのように変化するとお考えですか。

AIネイティブなスタートアップには、構造上の優位性があります。創業当初からAIエージェントを中心にワークフローやテクノロジー、チームを構築できます。一方、既存企業は何十年にもわたって蓄積されたレガシーインフラや組織の複雑さに対処しなければなりません。大きな差が生まれるのは、技術面ではありません。誰もが同じAIツールを利用できます。優位に立つのは、先に解消すべき承認の多重化や引き継ぎ、固定化された役割に縛られずに、仕事の進め方を再設計できる企業です。

今後3〜5年の間に、成功を収めるテクノロジー企業は、基本的なAI自動化を超え、特化型AIエージェントがワークフロー全体を実行するエージェント型の業務運営モデルへと移行すると私は考えています。人間のチームがなくなるわけではありませんが、人々は手作業でタスクを実行する時間を減らし、状況を伝え、ガードレールを設け、成果を導くことに、より多くの時間を費やすようになるでしょう。その結果、より少ない人員で、より速く規模を拡大し、より効率的に業務を行い、自社の何倍もの規模を持つ企業と競争できる組織が生まれるでしょう。

素晴らしいインタビューをありがとうございました。エージェント型メールセキュリティについてさらに知りたい読者は、Ocean Securityをご覧ください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。