Интервью

Омер Бахар, сооснователь и генеральный директор Vetric – Интервью

Antoine Tardif
Добавьте Unite.AI в избранные источники в Google
Ключевые моментыБутстрэппинг вынудил Vetric отдавать приоритет надёжности инфраструктуры, а не…
Показать больше
  • Бутстрэппинг вынудил Vetric отдавать приоритет надёжности инфраструктуры, а не экспансии любой ценой.
  • Модели обнаружения бесполезны без масштабируемой публичной инфраструктуры данных, питающей их угрозами в реальном времени.
  • Deepfake-as-a-Service уже коммодитизирован на бесплатном уровне с помощью инструментов с открытым исходным кодом.

Омер Бахар, сооснователь и генеральный директор Vetric, – израильский предприниматель и технологический лидер, специализирующийся на открытой разведке (OSINT) , который построил карьеру на решении сложных задач с данными и разведкой. До основания Vetric в 2022 году Бахар разработал и монетизировал несколько веб-бизнесов в подростковом возрасте, получив опыт в веб-разработке, SEO, монетизации трафика и масштабируемых цифровых операциях. Позже он служил в израильской армии, где помог модернизировать операции военной полиции за счет автоматизации, ИИ, добычи данных и гибких методологий, возглавляя команды и инициативы по продукту. После предыдущей неудачной компании и интенсивного периода исследований в Таиланде с сооснователями Бахар запустил Vetric с фокусом на инфраструктуре, а не на венчурном финансировании, развивая компанию без внешних инвестиций и обслуживая организации, которые полагаются на масштабный доступ к публичным веб-данным. Его работа сосредоточена на WEBINT, OSINT, сборе данных и цифровой разведке угроз, особенно в областях, связанных с подделкой, мошенничеством и рисками, связанными с глубокими подделками.

Vetric – это компания, предоставляющая инфраструктуру данных, которая помогает организациям собирать, обрабатывать и операционализировать публичные веб-данные в масштабе. Компания позиционирует себя как доверенный слой инфраструктуры для команд доверия, безопасности, кибербезопасности и разведки, которым требуется надежный, реальный доступ к открытой веб-информации. Вместо создания потребительской платформы Vetric фокусируется на управляемых API и гибких конвейерах данных, предназначенных для упрощения сбора публичных данных в постоянно меняющихся онлайн-средах. Компания подчеркивает подход “данные для добра”, поддерживая организации, работающие над выявлением кампаний по подделке, глубоких подделок, мошенничества и других цифровых угроз. Согласно компании, она выросла из небольшой основной команды в быстро расширяющуюся операцию, обслуживающую более 100 организаций во всем мире, сохраняя фокус на масштабируемой инфраструктуре и операционной надежности.

Вы начали строить интернет-бизнес в подростковом возрасте, позже работали над модернизацией израильской военной полиции с помощью инструментов ИИ и OSINT, и в конечном итоге стали сооснователем Vetric.io после месяцев исследований проблем в Таиланде. Как эти опыт сформировали ваше убеждение, что инфраструктура данных, а не только модели обнаружения, станет настоящим полем битвы в борьбе с глубокими подделками и цифровой подделкой?

Нить, проходящая через все три этих глав, была одинаковой: каждая проблема, которую я думал, что является проблемой обнаружения, оказалась проблемой данных на один уровень ниже.

Как подросток, находящий уязвимости, трудная часть никогда не была эксплойтом – это было построение инфраструктуры для нахождения правильных целей в масштабе. В военной полиции OSINT был пробел, над которым никто не работал. Преступники оставляли доказательства повсюду в открытой сети, на виду, и у нас почти не было систематического способа добраться до них. Затем в Таиланде мы провели месяцы, разговаривая с оборонными агентствами, командами разведки угроз, поставщиками защиты брендов, командами по борьбе с мошенничеством. Та же закономерность была везде. Все хотели получить информацию.

Тогда все стало ясно. Модели обнаружения работают только так хорошо, как и данные, которые вы им предоставляете. Если вы не можете увидеть глубокую подделку в момент ее появления в открытой сети, ваш детектор не имеет значения. Поле битвы не в том, может ли ваша модель обнаружить синтетическое лицо в бенчмарке – это в том, имеете ли вы видимость поверхности, где атака фактически существует. Публичная инфраструктура данных – это часть, которую никто не хочет строить, потому что это трудно и не гламурно, но без нее остальная часть стека – это театр.

Вы утверждали, что проблема глубоких подделок фундаментально изменилась за последние 18 месяцев. Какие конкретные технологические сдвиги делают сегодняшние ИИ-генерируемые мошенничества более опасными, чем предыдущие волны атак по подделке и подделке?

Три вещи изменились одновременно, и сочетание этих изменений делает ситуацию иной.

Во-первых, многомодальные модели стали достаточно хорошими, чтобы можно было генерировать убедительные видео, голос и текст из одного и того же запроса за несколько минут. То, что раньше требовало небольшой команды и нескольких недель, теперь занимает одного человека и чашку кофе.

Во-вторых, стоимость упала до пола. Высококачественная клонированная копия публичной фигуры раньше требовала серьезного бюджета на GPU. Сегодня это работает на потребительском оборудовании или на подписке в 20 долларов в месяц. Стоимость больше не является барьером.

В-третьих – и это недооцененная часть – слой распределения догнал. Подделки больше не находятся на каком-то малоизвестном форуме в ожидании обнаружения. Они живут в открытой сети, в тех же публичных источниках, которые ваши клиенты и сотрудники потребляют десятки раз в день, часто с платной амплификацией сверху. Фабрикованное видео распространяется так же быстро, как и все остальное в публичном интернете.

Раньше атакующий должен был выбирать между качеством, скоростью, масштабом и охватом. Теперь он может иметь все четыре за менее чем 100 долларов. Асимметрия между тем, что стоит создать убедительную подделку, и тем, что стоит предприятию обнаружить, атрибутировать и отреагировать на нее, шире, чем когда-либо прежде. Это сдвиг.

Большая часть публичного обсуждения вокруг глубоких подделок все еще фокусируется на программном обеспечении для обнаружения. Почему вы считаете, что надежная, крупномасштабная публичная инфраструктура данных сейчас так же важна, как и сами модели ИИ?

Потому что детектор, который не может увидеть угрозу, – это исследовательский проект, а не защита.

Большая часть разговора о глубоких подделках фокусируется на том, может ли модель различать синтетическое лицо и реальное в контролируемом бенчмарке. Это базовый уровень. Операционная проблема – это более трудная: видео с подделкой бренда появляется в 3 часа ночи, набирает 200 000 просмотров, прежде чем кто-либо заметит, и ваша труба обнаружения должна фактически получить этот контент в реальном времени, атрибутировать его и запустить реакцию. Если у вас нет стабильного, масштабируемого способа потреблять публичные данные из открытой сети – тех мест, где подделка и мошенничество фактически разворачиваются – у вас нет ничего, на что можно запустить ваш детектор.

Есть связанная точка, которую мы сделали недавно в статье о нарушении цепочки поставок Anodot. Предприятия начинают понимать, что безопасность их поставщиков данных – это их собственная безопасность. То же самое осознание приходит и для ИИ: надежность вашего стека обнаружения – это надежность вашей трубы данных. Модели получают пресс. Инфраструктура делает работу. Относиться к этим двум как к отдельным бюджетным линиям – это ошибка, которую рынок скоро перестанет делать.

Vetric вырос до значительного масштаба без внешнего финансирования, обслуживая предприятия и организации, связанные с разведкой. Как самофинансирование повлияло на то, как вы построили компанию и отдали приоритет надежности инфраструктуры над расширением за счет роста?

Самофинансирование заставляет компанию быть одержимой клиентами в том смысле, который финансируемые компании могут избежать в течение долгого времени. Мы всегда верили в предоставление ценности, прежде чем расти быстро – и для нас это не просто слоган, это финансовая реальность.

Каждый доллар в нашем банковском счете – это доллар, который клиент выбрал дать нам в обмен на что-то, что работает. У нас нет 50-миллионного бюджета, чтобы мостить разрыв между продуктом, который почти работает, и тем, который работает.

Это меняет каждое решение, которое компания принимает. Это сформировало нашу архитектуру так же, как и нашу дорожную карту. Наши клиенты, разведывательные агентства, цифровые команды по защите от рисков, команды общественной безопасности, платформы угроз, не просто хотят продукт, который работает.

Это также почему мы нарисовали границу доверия так, как мы это сделали. Мы выталкиваем данные к клиентам; мы никогда не тянем данные от них. Мы не держим долгосрочные учетные данные в систему клиента. Когда клиенты хотят доставку в свою собственную AWS, мы используем ограниченные, записываемые только IAM-роли с внешними ID – рекомендованный шаблон AWS, специально разработанный для предотвращения типа нарушения поставщика, который только что произошел с клиентами Anodot.

Платформы “Глубокие подделки как услуга” снижают барьер для входа для атакующих. Подходят ли мы к точке, где высококачественные возможности мошенничества становятся полностью коммодитизированными и доступными почти для всех?

Мы уже там для базовых возможностей – и не только на платной основе, но и на бесплатной. Мы находимся в 12-18 месяцах от более сложных. Посмотрите, что доступно прямо сейчас. Модели, такие как Sora, генерируют убедительные видео из текстового запроса. Открытые проекты замены лиц на GitHub возьмут любое изображение и поставят это лицо в видео, и результаты действительно выглядят хорошо – без необходимости в специальных навыках, без оплаты, без подпольного рынка.

Барьер для создания высококачественной подделки – это бесплатная загрузка и послеобеденное время экспериментов. Также есть платные услуги, которые оборачивают готовый рабочий процесс вокруг одних и тех же моделей для людей, которые не хотят устанавливать что-либо, но открытый уровень – это настоящая история, потому что это тот, из которого нельзя исключить никого. Человек, который управляет им, не должен понимать лежащую в основе технологию больше, чем человек, который запускает комплект для фишинга, должен понимать SMTP.

Что будет дальше, – это шаблонизированный, кампания-в-коробке уровень – предварительно построенные наборы для подделки для конкретных брендов, конкретных руководителей, конкретных избирательных циклов, с синтетическими средствами массовой информации, фальшивыми аккаунтами, графиком распространения и нацеливанием, все вместе. Как только это будет существовать в масштабе, маржинальная стоимость запуска атаки на подделку упадет до примерно стоимости запуска платной рекламы. Вывод для защитников неудобен. Вы больше не можете предполагать, что атакующий сложный или хорошо оснащенный. Атакующий – это любой с ноутбуком и обидой. Это меняет объем и разнообразие угроз на порядок, и переопределяет, что значит “правдоподобная угроза” для любого бренда, руководителя или публичной фигуры с присутствием в интернете.

Многие предприятия все еще полагаются на фрагментированные системы мониторинга и задержанную разведку угроз. Какие самые большие слабости вы видите в том, как организации в настоящее время собирают и обрабатывают публичные веб-данные, связанные с подделкой и мошенничеством?

Несколько слабостей постоянно появляются в разговорах с клиентами. Первая – фрагментация. Большинство предприятий запускают один инструмент для мониторинга бренда, другой для защиты руководителей, другой для мошенничества, другой для безопасности. Каждый из них тянет из разных источников с разным покрытием, разной задержкой и разными слепыми зонами.

Когда кампания по подделке разворачивается одновременно в нескольких углах открытой сети, швы между этими инструментами – это именно то место, где атакующий прячется. И под этой фрагментацией есть более глубокая проблема: большинство этих инструментов оптимизируется для удаления. Удаление фальшивого профиля необходимо, но само по себе это игра в “кто первый”. Другой появляется на следующий день. Команды, которые получают реальную выгоду, – это те, которые удваивают ставку на расследование: соединяя точки между аккаунтами, инфраструктурой и кампаниями, так что они разрушают сеть за подделкой, а не бьют по одному URL за раз.

Вторая – зависимость от middleware, который требует глубокого входного доступа к системам клиентов. Это структурная проблема, о которой мы написали в контексте нарушения Anodot – поставщики, которые требуют OAuth или API-ключи в ваше облако, становятся единственными точками отказа для всех, кто находится ниже по течению. SOC 2 не спасет вас от этого. Архитектура либо имеет радиус взрыва, либо нет.

Третья – задержка. Многое из того, что продается как “реальная разведка угроз”, на самом деле имеет задержку от четырех до двадцати четырех часов, потому что лежащий в основе сбор – это ориентированный на партию. Для подделки и мошенничества это вечность. К тому времени, когда срабатывает оповещение, кампания уже завершилась.

Четвертая – неправильное распределение между покрытием обнаружения и возможностями анализа. Компании инвестируют в инструменты, которые флагируют синтетический или подозрительный контент, но они недоинвестируют в покрытие, чтобы фактически увидеть, что опубликовано о них в открытой сети, и в возможности анализа, чтобы понять, что они видят – кто стоит за этим, как аккаунты соединяются, какую инфраструктуру они делят. Флагирование – это один шаг; покрытие и анализ – это то, что превращает флаг в действие. Это как покупка отличного пожарного сигнала и забывание включить его.

Вы говорили о обработке миллиардов публичных данных каждый месяц. Какие технические проблемы возникают при попытке построить инфраструктуру реального времени, способную выявлять угрозы, управляемые ИИ, в масштабе интернета?

Трудные проблемы – это не те, которых ожидают большинство людей. Первое, что можно сказать, – это то, что построение такой инфраструктуры не является трудной частью – поддержание ее в рабочем состоянии является трудной частью. Вам не строить конвейер, как наш, один раз и уйти. Вам нужна целая команда, чья работа – поддерживать его в живых, и это та команда, которую мы построили. Публичные источники, которые мы собираем, меняются постоянно, и любой из них может тихо сломать сборщик. Большая часть инженерных усилий на протяжении всего срока службы продукта, такого как этот, идет на поддержку, а не на зеленое поле разработки.

Вторая – масштабирование – это беговая дорожка. Вы улучшаете конвейер, вы толкаете его сильнее, и в какой-то момент масштаб становится слишком большим для того, что вы построили, и вещи начинают трястись. Затем вы перестраиваете этот слой – иногда с нуля – для следующего уровня. Этот цикл никогда не заканчивается. Каждый порядок величины в объеме эффективно является другой системой, даже если она выглядит как один и тот же продукт извне.

Третья – это время безотказной работы, которое звучит скучно, пока вы не вспомните, кто наши клиенты. Некоторые из них используют наши данные, чтобы помочь предотвратить террористические атаки. Реальное время означает, что у вас нет периода милости. Вещи сломаются – они всегда ломаются – и то, что имеет значение, – это то, что они работают остальное время и исправляются как можно быстрее, когда они не работают. Мы спроектировали настроенный вызов, оповещение и избыточность вокруг этой реальности, а не вокруг общего числа безотказной работы SaaS.

Когда синтетические средства массовой информации становятся более убедительными, думаете ли вы, что общество движется к более широкому “кризису доверия”, когда люди начинают сомневаться в легитимных аудио, видео и коммуникациях по умолчанию?

Ближе, чем люди хотят признать. Но я не думаю, что это заканчивается коллапсом – я думаю, что это заканчивается другим равновесием.

Наивная версия кризиса доверия говорит: никто не будет верить никакому аудио или видео, и публичная сфера рухнет. Я не думаю, что это то, куда это идет. Люди удивительно адаптивны в отношении эпистемических сред. Мы научились читать газеты со скептицизмом, затем телевидение, затем веб. Мы научимся читать ИИ-генерируемые средства массовой информации со скептицизмом тоже, и это не совсем плохой исход – более здоровый базовый уровень “верифицировать, прежде чем доверять” – это долгожданное.

Что я думаю, мы увидим, – это сдвиг в том, что считается доказательством. Сырое видео и аудио станут более слабыми формами доказательств; происхождение, криптографическая подпись, цепочка хранения и верификация идентификации станут более сильными. Институты, которые выяснят, как достоверно верифицировать свои собственные коммуникации – банки, правительства, новостные организации – выйдут вперед. Те, кто не сделает этого, будут подделаны до безразличия.

Опасный интервал – это средний, следующие два-три года, где подделки становятся более убедительными быстрее, чем слой верификации развертывается. Это окно, где ущерб наносится, и это окно, которое мы пытаемся дать нашим клиентам возможность выжить.

Спасибо за отличное интервью, читателям, которые хотят узнать больше, следует посетить Vetric. 

Антуан — дальновидный лидер и партнёр-основатель Unite.AI, движимый неизменной страстью к формированию и продвижению будущего ИИ и робототехники. Как предприниматель, основавший несколько компаний, он верит, что ИИ изменит общество столь же радикально, как электричество, и часто с воодушевлением говорит о потенциале прорывных технологий и общего искусственного интеллекта (AGI).

Как футуролог, он стремится исследовать, как эти инновации будут формировать наш мир. Кроме того, он основатель Securities.io — платформы, посвящённой инвестициям в передовые технологии, которые переопределяют будущее и преобразуют целые отрасли.