インタビュー

オメル・バハール、Vetricの共同創設者兼CEO – インタビュー・シリーズ

Antoine Tardif
Unite.AI を Google の優先ソースに追加
要点ブートストラッピングにより、ヴェトリックは成長最優先の拡大よりもインフラの信頼性を優先せざるを得なかった。
もっと見る
  • ブートストラッピングにより、ヴェトリックは成長最優先の拡大よりもインフラの信頼性を優先せざるを得なかった。
  • 検出モデルは、リアルタイムの脅威を供給するためのスケーラブルな公共データインフラがなければ無価値である。
  • Deepfake-as-a-Serviceは、オープンソースツールにより無料層ですでにコモディティ化されている。

オメル・バハール、Vetricの共同創設者兼CEOは、イスラエルの起業家であり、オープンソースインテリジェンス(OSINT)に焦点を当てたテクノロジー・リーダーです。彼は、Vetricを2022年に設立する前に、複数のWebビジネスを開発して商業化し、Web開発、SEO、トラフィックの商業化、スケーラブルなデジタル運用についての経験を積みました。彼は後にイスラエル国防軍で勤務し、自動化、AI、データ・マイニング、Agileメソッドを使用して軍事警察の運用を近代化し、チームと製品のイニシアチブをリードしました。以前の失敗したスタートアップとタイで行われた共同創設者との集中研究の後、バハールは、ベンチャー資金ではなくインフラストラクチャーに焦点を当ててVetricを立ち上げ、組織にスケーラブルなパブリックWebデータへのアクセスを提供しながら、会社をブートストラップで成長させました。彼の仕事は、特に身代わり、詐欺、ディープフェイク関連のリスクを伴う分野におけるWEBINT、OSINT、データ・コレクション、デジタル・脅威インテリジェンスに重点を置いています。

Vetricは、データ・インフラストラクチャー・会社であり、組織がスケーラブルなパブリックWebデータを収集、処理、運用できるように支援します。同社は、信頼できるインフラストラクチャー・レイヤーとして、信頼、安全、サイバーセキュリティ、インテリジェンスのチームが信頼性の高いリアルタイムのパブリックWeb情報へのアクセスを必要とするチームに位置付けられています。同社は、消費者向けのプラットフォームを構築するのではなく、管理されたAPIと、大規模なパブリックデータ・コレクションを簡素化するように設計された柔軟なデータ・パイプラインに焦点を当てています。同社は、「データ・フォー・グッド」のアプローチを強調し、身代わりキャンペーン、ディープフェイク、詐欺、その他のデジタル脅威を特定するために取り組む組織を支援しています。同社によると、同社は、小規模な創設チームから急成長する事業に成長し、世界中の100以上の組織にサービスを提供しながら、スケーラブルなインフラストラクチャーと運用の信頼性に重点を置いています。

あなたは、インターネット・ビジネスをティーンエイジャーとして構築し、後にイスラエル軍事警察の近代化にAIとOSINTツールを使用し、タイで問題を研究した後、Vetric.ioを共同創設しました。ディープフェイクやデジタル・身代わりに対する戦いにおいて、データ・インフラストラクチャーが検出モデルのみでなく、実際の戦場となるようになったことを信じるようになった経緯についてお話しください。

3つの章間で共通するのは、問題が検出問題であると思ったが、1層下では常にデータ問題であったということです。

ティーンエイジャーとしての脆弱性の発見では、難しい部分は決してエクスプロイトではなかった。ターゲットをスケーラブルに特定するためのインフラストラクチャーを構築することでした。軍事警察では、OSINTが誰も取り組んでいないギャップでした。犯罪者は、オープンWeb上に証拠を残していたが、そこにアクセスするための体系的な方法がほとんどありませんでした。タイでは、防衛機関、脅威インテリジェンス・チーム、ブランド保護ベンダー、詐欺チームと数か月間話をしました。どこでも同じパターンが見られました。誰もが洞察を求めていたのです。

そこで気づいたのです。検出モデルは、フィードするデータの質だけが良いのです。オープンWeb上に現れたディープフェイクを検知できなければ、あなたの検出器は無関係です。戦場は、ベンチマークで合成された顔を見つけることができるかどうかではありません。戦場は、攻撃が実際に存在する表面への可視性を持っているかどうかです。パブリックデータ・インフラストラクチャーは、誰も構築したくない部分です。難しいからです。無粋だからです。しかし、それがなければ、残りのスタックは劇です。

あなたは、ディープフェイクの問題が過去18か月で根本的に変化したと主張しています。今日のAI生成の詐欺が、以前の詐欺や身代わり攻撃の波と比較して、どのような具体的な技術的変化がより危険なものにしているのでしょうか。

同時に3つのことが変わりました。それが組み合わせて異なるものにしているのです。

最初に、マルチモーダル・モデルが十分に良くなり、同じプロンプトから数分で信頼性の高いビデオ、音声、テキストを生成できるようになりました。何週間かかっていたものが、1人でコーヒーを飲みながら行えるようになりました。

2番目に、コストが床下まで下がりました。パブリック・フィギュアの高品質なボイス・クローンを作るには、以前は大きなGPU予算が必要でした。今日では、消費者向けハードウェアか、20ドル/月のSaaSサブスクリプションで実行できます。コストはもう障壁ではありません。

3番目に — そしてこれは評価されていない部分です — 配布レイヤーが追いつきました。偽物は、発見されるのを待つために、ある暗いフォーラムに座っているのではありません。オープンWeb上のパブリック・ソースに存在し、顧客や従業員が1日何度も消費するもの、時には上に有料のアンプリフィケーションが付いています。偽造されたビデオは、パブリック・インターネット上の他のものと同じスピードで移動します。

以前の波では、攻撃者は、品質、速度、スケール、リーチのいずれかを選択しなければなりませんでした。今日では、100ドル未満で4つすべてが可能です。偽造された身代わりを作るコストと、企業がそれを検出、帰属、対応するコストの非対称性は、以前よりも広くなっています。それが変化です。

ディープフェイクに関する一般的な議論はまだ検出ソフトウェアに焦点を当てています。なぜ、信頼性の高い大規模パブリックデータ・インフラストラクチャーが、AIモデル自身と同等に重要であると考えるのですか。

検出器が脅威を見られない場合、それは研究プロジェクトであり、防御ではありません。

ディープフェイクの会話のほとんどは、モデルがコントロールされたベンチマークで合成された顔と実際の顔を見分けることができるかどうかに焦点を当てています。それは最低限度の要件です。運用上の問題は、より難しいものです。ブランドの身代わりビデオが午前3時にアップロードされ、誰も気づく前に20万回のビューを獲得し、検出パイプラインが実際にそのコンテンツを受信し、帰属し、対応をトリガーする必要があります。オープンWeb上の公開データを安定して大規模に取り込めなければ、あなたの検出器を実行するものは何もありません。

関連する点は、最近Anodotのサプライ・チェーン・ブリーチに関する記事で述べたことです。企業は、データ・ベンダーのセキュリティ・ポストは自分自身のセキュリティ・ポストであることを認識し始めています。AIにも同じ認識が来ています。検出スタックの信頼性はデータ・パイプラインの信頼性です。モデルはプレスを得ます。インフラストラクチャーは仕事をします。あの2つを別々の予算行として扱うことは、市場が間もなくやめる間違いです。

Vetricは、外部からの資金を受けずに大規模なスケールに成長し、企業やインテリジェンス関連の組織にサービスを提供しました。ブートストラップは、会社を構築し、成長よりもインフラストラクチャーの信頼性を優先する方法にどのような影響を与えましたか。

ブートストラップは、資金提供された会社が長い間避けることができる、顧客に執着する種類のことを強制します。私たちは、成長する前に価値を提供すること、そしてそれが私たちにとってスローガンではなく、財政的現実であることを常に信じてきました。

私たちの銀行口座にある毎ドルの資金は、顧客が私たちに何かが機能することを交換するために選択したものです。私たちは、製品がほぼ機能するものと完全に機能するものの間を埋めるための5000万ドルのクッションを持っていません。

それが会社が行う毎日の決定を変えます。私たちの顧客、インテリジェンス機関、デジタル・リスク・プロテクション・チーム、パブリック・セーフティ・チーム、脅威インテリジェンス・プラットフォームは、単に機能する製品だけではありません。

それが私たちが信頼の境界を引いた理由でもあります。私たちはデータを顧客にプッシュします。顧客からデータをプルしません。顧客のクラウドへのロングターム・クレデンシャルを保持しません。顧客がAWSへのデリバリーを希望する場合、AWSが推奨するパターンに従って、スコープ付きの書き込み専用のIAMロールと外部IDを使用します。つまり、Anodotの顧客が直面したベンダーとしての攻撃ベクターのブリーチを防ぐように設計されています。

ディープフェイク・アズ・ア・サービス・プラットフォームは、攻撃者への参入障壁を下げています。高度な詐欺能力がほぼ誰でもアクセスできるようになる時期に近づいているのでしょうか。

基本的な機能については、既にそこにあります。有料ティアだけでなく、無料ティアでもです。より高度なものについては、12〜18か月先です。現在公開されているものを見てみましょう。Soraのようなモデルは、テキスト・プロンプトから信頼性の高いビデオを生成します。GitHubのオープンソース・フェイス・スワップ・プロジェクトは、任意のリファレンス・イメージを取り、それの顔をビデオに置き換え、結果は本当に良く見えます。専門的なスキルは不要です。支払いは不要です。地下市場は不要です。オープンソース・ティアが本当の話です。誰もが価格を外すことができないからです。

何が来るのか。テンプレート化された、キャンペーン・イン・ア・ボックス・ティア — 特定のブランド、特定のエグゼクティブ、特定の選挙サイクルに対する、事前に構築された身代わりキット。合成メディア、偽のアカウント、配布スケジュール、ターゲティングがすべてバンドルされています。そうしたものが大規模に存在するようになれば、身代わり攻撃を実行するための辺境コストは、有料広告を実行するコストに近くなります。防御者にとっての意味は、不快です。攻撃者が熟練したり、豊富なリソースを持っていることを前提とできなくなります。攻撃者は、ラップトップと不満を持つ誰でもです。それは、脅威の量と種類を10倍に変え、どのブランド、エグゼクティブ、パブリック・フィギュアにとっても「信頼できる脅威」とは何を意味するのかを再定義します。

多くの企業は、断片化されたモニタリング・システムと遅延した脅威インテリジェンスに依存しています。身代わりや詐欺に関連するパブリックWebデータの収集と処理において、組織が現在直面している最大の弱点は何ですか。

顧客との会話を通じて、繰り返し現れるいくつかの弱点があります。最初のものは断片化です。大多数の企業は、ブランド・モニタリング用の1つのツール、エグゼクティブ・プロテクション用の別のツール、詐欺用の別のツール、セキュリティ・オペレーション用の別のツールを実行しています。各ツールは、異なるソースから異なるカバレッジ、異なる待ち時間、異なる盲点をプルします。

身代わりキャンペーンが同時にオープンWebの複数のコーナーで発生する場合、攻撃者はツール間のシームで隠れるのです。断片化の下にあるより深い問題は、ほとんどのツールが削除を最適化していることです。偽のプロファイルを削除することは必要ですが、それだけではWhac-A-Moleです。別のものが翌日出てきます。実際のリバースを得ているチームは、調査に重点を置いています。アカウント、インフラストラクチャー、キャンペーンを接続して、身代わりではなく、その背後のネットワークを分解しています。

2番目は、顧客のシステムへの深いインバウンド・アクセスを必要とするミドルウェアへの依存です。それは、Anodotのブリーチの文脈で書いた構造的な問題です。OAuthまたはAPIキーを顧客のクラウドに要求するベンダーは、下流のすべての顧客にとって単一の故障点になります。SOC 2ではそれを救うことはできません。アーキテクチャーには爆発半径があるかどうかです。

3番目は、待ち時間です。実時間の脅威インテリジェンスと販売されるものの多くは、実際には4〜24時間の遅延です。身代わりや詐欺の場合、それは永遠です。アラートが発生するまでに、キャンペーンはすでに完了しています。

4番目は、検出カバレッジと分析機能への割り当ての誤りです。会社は、合成または疑わしいコンテンツをフラグするツールに投資していますが、オープンWeb上で自分たちについて投稿されているものを実際に見るためのカバレッジと、見るものを理解するための分析機能に十分な投資を行っていません。フラグは1つのステップです。カバレッジと分析がアクションを可能にします。それは、煙感知器を購入することと、それをプラグインしないことの違いです。

あなたは、AI駆動型の脅威をインターネット・スケールで特定することができるリアルタイム・インフラストラクチャーを構築しようとする際に、どのような技術的な課題に出会いますか。

難しい問題は、多くの人が期待するものではありません。最初に言えることは、そのようなインフラストラクチャーを構築することは難しくない。維持することの方が難しい。そうしたパイプラインを1度構築したら放棄するのではなく、維持するためのチームを必要とします。それが私たちが構築したチームです。私たちが収集するパブリック・ソースは、常に変更を押し付けてきます。そうしたソースのどれでも、コレクターを静かに壊す可能性があります。製品の寿命の中で、最も多くのエンジニアリング・エフォートが新規開発ではなく、メンテナンスに向けられることになります。

2番目は、スケーラビリティがランニング・マシーンであるということです。パイプラインを改善し、プッシュし、ある時点でスケールが構築したものを超え、ものが揺れ始めます。そうしたレイヤーを再構築する必要があります。時には最初からです。そのサイクルは決して終了しません。ボリュームの各オーダーは、外から見ると同じ製品に見えますが、実質的に別のシステムです。

3番目は、待ち時間です。どのくらいの頻度で起こるかはわかりませんが、起こります。そうしたときに重要なのは、それがほとんどの時間は動作しており、動作していないときは人間が可能な限り速く修復できることです。私たちは、オンコールの姿勢、警報、冗長性をその現実性の周りに設計しました。汎用的なSaaSの待ち時間の数字の周りではありません。

合成メディアがより信頼性の高いものになるにつれて、社会は、信頼性の危機に向かっていると考えますか。そこでは、人々が、レジットな音声、ビデオ、コミュニケーションをデフォルトで疑うようになりますか。

人々が思っているよりも近いですが、崩壊するのではありません。別の均衡に至るのです。

ナイーブな信頼の危機は、誰もがオーディオやビデオを信じなくなるというものです。パブリック・スフィアが崩壊するのです。そうは思っていません。人間は、認識的環境について非常に適応性があります。私たちは、懐疑的に新聞を読むことを学び、テレビ、そしてWebを学びました。AI生成のメディアも懐疑的に読むことを学びます。那も、完全に悪い結果ではありません。検証する前に信頼するという、より健康的な基準が必要です。

私が思うのは、証拠として数えられるもののシフトです。生のビデオやオーディオは、より弱い証拠となります。出典、暗号化された署名、所有権の証明、身元証明は、より強い証拠となります。自社のコミュニケーションを信頼できる方法で検証する方法を理解した機関は、先を行きます。そうしない機関は、身代わりによって無視されます。

危険な間隔は、中間のものです。次の2〜3年間で、偽物が検証レイヤーよりも速く信頼性の高いものになるというものです。それが被害を受けるウィンドウであり、顧客がそれを生き延びるための可視性を提供しようとしているウィンドウです。

素晴らしいインタビュー、詳しく知りたい読者は、Vetricを訪問してください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。