ディープキープのRony Ohayon氏、CEO兼創設者 – インタビューシリーズ

Rony Ohayon氏は、ディープキープのCEO兼創設者です。彼は、AI、サイバーセキュリティ、自律システム、 largescaleビデオ技術を専門とするベテランの起業家および技術者です。彼は、これらの分野で複数の企業を設立し、運営してきました。例えば、自動運転車の接続、ライブビデオ伝送、先端技術などの分野で重要な役割を果たしてきました。また、コンピュータエンジニアリングの学術研究も行っています。

ディープキープは、企業がAI、ジェネレーティブAI、LLM、コンピュータビジョン、多モーダルシステムを全ライフサイクルで保護できるように設計されたAIセキュリティプラットフォームです。この会社は、脆弱性の特定、敵対的な脅威のブロック、データ漏洩やプロンプト操作などの問題の防止、規制遵守のサポート、信頼性の高い、堅牢で保護されたAIデプロイメントを確保するための継続的な監視に焦点を当てています。

あなたはビデオ伝送、自動運転車の接続、AIシステムなどの分野で主要なイノベーションを牽引してきました。自分のキャリアの中で、企業のAIをセキュアにする必要性を感じたのはどんな経験でしたか?

私は常に、高い影響力をもたらす課題に取り組むことが動機です。数年間、AIなどの新しい技術がセキュリティ対策を上回ることが多く、重大な脆弱性が残されることが多いことを認識しました。

企業でのAIの採用、特に大規模言語モデル（LLM）やエージェントAIの台頭により、新しいリスクの領域が開けられ、企業はこれらのシステムを安全に、自信を持って活用する準備ができていないと感じることが多くなりました。AIシステムでの私の経験は、AIの心臓にセキュリティを統合することの重要性を強調しました。そうすることで、企業はAIを活用して生産性とビジネス成長を促進できるようになりますが、セキュリティやプライバシーを妥協する必要はありません。この認識がディープキープの設立につながり、AIシステムのセキュア化に焦点を当てました。

2021年にあなたと共同創設者がディープキープを立ち上げたとき、どのようなAIセキュリティの盲点があって、専用のプラットフォームの必要性を感じたのでしょうか? その洞察は会社の初期の方向性にどのように影響しましたか?

コンピュータビジョンでAIを使用する際には、信頼性と堅牢性を確保するために多大な努力を払ったことを振り返ります。その経験から、コンピュータビジョンモデルの信頼性とセキュリティを確保するための専用のソリューションを設計する必要性を感じました。

2021年、LLMの爆発的普及前に、コンピュータビジョンモデルのリスクに対処するためにディープキープを立ち上げました。

最初のプロトタイプに戻ります。実際に何ができたのか、チームはどのくらい小さかったのか、正しい道に進んでいることをどうやって確認したのかを教えてください。

ディープキープを設立した当初、焦点はまだ伝統的なAI、つまりコンピュータビジョン、表形式モデル、初期のNLPに置かれていました。LLMの登場はまだ先の話でした。最初のプロトタイプは、コンピュータビジョンの分類器の堅牢性を敵対的な攻撃に対してテストするシステムでした。同時に、AIファイアウォールの初期バージョンを構築し、リアルタイムでこれらの攻撃を検出してフラグを立てることができました。

初期のユースケースは、自動車、保険、金融サービスなど、モデルミスビヘイビアが実際の運用リスクをもたらす分野から来ました。当時、私たちのチームは約8人で、迅速にイテレーションを行い、早期に機能的なプロトタイプを制作することができました。

潜在的な顧客と直接話をして、敵対的な堅牢性が新たな懸念事項であることを強調され、正しい道に進んでいることを確認しました。同時期に、MITREのATLASフレームワーク（2021年に初めてリリース）が登場し、AIセキュリティと敵対的な脅威モデリングの分野が成長する兆しを見せていました。顧客のフィードバックと業界の方向性の一致は、私たちが正しい方向に進んでいることを示す重要な外部的信号となりました。

ディープキープは、従来のソフトウェアではなくAIシステムをセキュアにすることを目的として設計されました。モデルタイプや攻撃面を最初に焦点を当てるために、どのような優先順位を定めましたか?

当初から、企業のAIをセキュアにするには、新たなパラダイムシフトが必要であることを理解しました。多くの組織は、モデルを使用する際にペネトレーションテストと評価を実施する必要性を認識していますが、私たちは、実際のリスクはアプリケーションのエコシステム全体に存在することを理解しました。モデルのみならず、全体のデータフローとAIエコシステム内のやり取りを保護する必要性があります。

従来のAIチャットボットの赤チームテストから始まり、カスタムAIアプリケーションやAIエージェントのセキュリティ開発に進み、エージェント間の相互作用やドメイン間の知能の交換を保護する次のステップに向けて進化させています。

すべてのモデルタイプをスキャン可能にし、敵対的な攻撃、データ漏洩、システムの悪用、信頼性の低下に対する保護を実現しています。また、AIプロンプトとレスポンスをセキュアにするガードレールを適用し、AIの「セマンティックレイヤー」を保護することで、モデルを操作しにくくしています。

設立段階から現在の製品方向まで、技術的または戦略的な観点から最も大きな転換点はどこでしたか?

最も重要な決定の1つは、伝統的なモデルセキュリティからAIアプリケーションセキュリティへの拡大でした。初期段階では、個々のモデルをセキュアにすることに焦点を当てていましたが、AIランドスケープが進化するにつれて、AIエコシステム全体をセキュアにする必要性がより重要であることを認識しました。

これにより、赤チームテスト、包括的なAIファイアウォール、実行時モニタリングを組み込むことで、エージェント、従業員、アプリケーションがAIとやり取りするすべての相互作用を保護するプラットフォームを構築する必要性が生まれました。また、クラウド、オンプレミス、エアギャップ環境での展開の柔軟性を提供し、企業がディープキープを任意の環境でセキュアに展開できるようにしました。最近、業界を先導する個人情報保護ガードレールをプラットフォームに統合し、顧客がグローバルなコンプライアンス要件を満たしながらAIの使用を拡大できるようにしました。

ディープキープはセキュリティと信頼性の両方に等しい重きを置いています。会社のアイデンティティの中核となったこの二重焦点は、いつ頃から明確になったのでしょうか?

セキュリティと信頼性の両方への焦点は、顧客とそのニーズをより深く理解し始めた初期段階から明確でした。

AIモデルを扱う場合、セキュリティと信頼性は密接に関連しています。どちらか一方だけが強固であれば、もう一方が弱い場合、全体的なシステムは脆弱になります。堅牢で信頼性の高いアプリケーションは、セキュリティと信頼性の両方を兼ね備える必要があります。

従来のサイバーセキュリティツールは、プロンプトインジェクション、ホールシネーション、データ漏洩、モデル操作などの新興脅威に対応していません。どの脅威ベクトルが企業に最も苦労をさせているように見えますか? それらの実際の問題はディープキープのアーキテクチャにどのように影響しましたか?

新興脅威の中で、プロンプトインジェクションとデータ漏洩が最も重大な懸念事項です。AIアプリケーションやエージェントがビジネスプロセスに統合されるにつれて、プロンプト操作や機密データの漏洩のリスクが高まります。これらの問題は、AIエコシステム全体のデータフローとやり取りを保護することに焦点を当てたディープキープの設計に影響を与えました。

プラットフォームはガードレール、赤チームテスト、データ保護レイヤーを組み合わせています。技術的な観点から、これらのレイヤーの中で最も難しい部分は何でしたか? 急速に進化するAIモデルに対応するシステムを構築することで、どのような教訓を得ましたか?

各レイヤーには独自のエンジニアリング上の課題がありますが、最も難しいのはこれらのレイヤー全体に共通する課題でした。

第一に、新しいリスク、脱獄、攻撃手法が不断に登場するペースです。静的なアプローチではすぐに旧態化してしまいます。第二に、企業ではワンサイズフィットオールのアプローチは機能しないという点です。各アプリケーションには独自のポリシー、データの機密性、ユーザーの行動があります。

最初の課題に対処するために、完全にモジュラーなアーキテクチャを構築し、プラグインスタイルのコンポーネントを追加できるようにしました。新しい攻撃を赤チームテストエンジンに追加したり、ガードレールをファイアウォールに追加したりできるようになりました。

第二の課題に対処するために、エージェント、コンテキストアウェアなシステムを設計しました。アプリケーションの環境を分析し、セキュリティ対策を自動的に適応させることができます。これは、AIモデルやユースケースが急速に進化する場合に不可欠です。

モジュラー性とコンテキストアウェア性は、エンタープライズスケールで運用し、急速に進化するAIシステムに追随する上で重要な要素となりました。

AIセキュリティは進化する分野です。企業内で、ポリシー、ツール、リスク理解のギャップがディープキープのセキュリティスタックと顧客のオンボーディングに最も直接影響を与えるものは何ですか?

ギャップは業界、会社の規模、AIの採用の成熟度によって大きく異なります。

大企業で見られる最大のギャップの1つは、すべてのAIセキュリティニーズをカバーする単一のソリューションが不足していることです。多くの企業はAIセキュリティソリューションの必要性を認識していますが、AIの採用が増加するにつれて、追加のセキュリティカバーの必要性も高まります。早期から、ロバストでエンドツーエンドのソリューションが価値があることを学びました。このソリューションでは、さまざまな機能が連携してシームレスに統合され、顧客はパーツの合計以上の価値を得ることができます。

市場が成熟するにつれて、企業はよりカスタマイズされた、よりジェネリックでないセキュリティツールを求めています。エージェントやアプリケーションをセキュアにするために、コンテキストアウェアなアプローチを取り入れる必要性を認識しました。各アプリケーションやエージェントは異なり、セキュリティもそれぞれに適応させる必要があることを理解しました。

5年先を見据えると、企業のAIリスクはどのように進化すると思いますか? その未来に対してディープキープはどのように位置づける必要があると思いますか?

AIのリスクは、AIの自律性の進化とともに進化すると思います。エージェントがより自律的になり、ビジネスオペレーションに統合され、複雑なタスクを実行できるようになると、セキュリティ侵害や悪用のリスクも高まります。エージェント間の相互作用やドメイン間の知能の交換が進む「エージェントのインターネット（IoA）」の時代が来ると予想しています。

ディープキープは、複雑化するAIシステムをセキュアにするプラットフォームを進化させ続け、AIモデルやエージェントの相互作用を実行時に保護することで、AIの決定づけをサポートし、企業がAIエコシステム全体をセキュアにすることを支援します。目標は、企業がAIを活用してビジネスを成長させられるように、セキュリティやプライバシーの妥協なく、信頼できるパートナーとなることです。

素晴らしいインタビュー、詳しく知りたい読者はディープキープを訪れてください。