Інтерв’ю

Омер Бахар, співзасновник і генеральний директор Vetric – Інтерв’ю серії

Antoine Tardif
Додайте Unite.AI до бажаних джерел у Google
Ключові моментиБутстрапінг змусив Vetric віддавати пріоритет надійності інфраструктури, а не експансії…
Показати більше
  • Бутстрапінг змусив Vetric віддавати пріоритет надійності інфраструктури, а не експансії за будь-яку ціну.
  • Моделі виявлення є марними без масштабованої публічної інфраструктури даних, яка живила б їх загрозами в реальному часі.
  • Deepfake-as-a-Service вже комодифіковано на безкоштовному рівні за допомогою інструментів з відкритим кодом.

Омер Бахар, співзасновник і генеральний директор Vetric, – ізраїльський підприємець та технологічний лідер, орієнтований на відкритий інтелект (OSINT), який побудував кар’єру навколо вирішення складних завдань з даних та розвідки. Перед заснуванням Vetric у 2022 році Бахар розробив і монетизував кілька веб-бізнесів як підліток, набув досвіду у веб-розробці, SEO, монетизації трафіку та масштабованих цифрових операціях. Пізніше він служив в Ізраїльських оборонних силах, де допоміг модернізувати операції військової поліції за допомогою автоматизації, штучного інтелекту, видобутку даних та агілових методологій, очолюючи команди та ініціативи з продукту. Після попередньої невдалої спроби створення стартапу та інтенсивного дослідження в Таїланді з співзасновниками Бахар запустив Vetric, зосередившись на інфраструктурі, а не на венчурних інвестиціях, і розвивав компанію без зовнішнього фінансування, обслуговуючи організації, які залежать від масштабного доступу до публічних веб-даних. Його робота зосереджена на WEBINT, OSINT, зборі даних та цифровій розвідці загроз, особливо в питаннях, пов’язаних з імперсоналізацією, шахрайством та ризиками, пов’язаними з глибокими підробками.

Vetric – це компанія з інфраструктури даних, яка допомагає організаціям зібрати, обробити та операціоналізувати публічні веб-дані у великих масштабах. Компанія позиціонує себе як довірений інфраструктурний шар для команд довіри, безпеки, кібербезпеки та розвідки, яким потрібний надійний, реальний доступ до відкритих веб-інформацій. Замість створення споживчої платформи Vetric зосереджується на керованих API та гнучких трубопроводах даних, розроблених для спрощення великомасштабного збору публічних даних у постійно змінних онлайн-середовищах. Компанія підкреслила підхід “дані для добра”, підтримуючи організації, які працюють над ідентифікацією кампаній з імперсоналізацією, глибокими підробками, шахрайством та іншими цифровими загрозами. За словами компанії, вона виросла з невеликої команди засновників у швидко розширювану операцію, яка обслуговує понад 100 організацій по всьому світу, залишаючись зосередженою на масштабованій інфраструктурі та операційній надійності.

Ви починали будувати інтернет-бізнеси як підліток, пізніше працювали над модернізацією військової поліції Ізраїлю за допомогою інструментів штучного інтелекту та OSINT, і врешті-решт стали співзасновником Vetric.io після місяців дослідження проблем у Таїланді. Як ці досвіди сформували вашу віру в те, що інфраструктура даних, а не лише моделі виявлення, стане справжнім полем битви у боротьбі з глибокими підробками та цифровою імперсоналізацією?

Нитка, яка проходить через всі три цих розділів, була однією і тією ж: кожна проблема, яку я вважав проблемою виявлення, виявилася проблемою даних на одному рівні нижче.

Як підліток, який знаходив уразливості, складна частина була не експлуатація – а будівництво інфраструктури для пошуку правильних цілей у великих масштабах. У військовій поліції OSINT був розривом, над яким ніхто не працював. Злочинці залишили докази всюди на відкритому вебі, на виду, і у нас майже не було систематичного способу до них дістатися. Потім у Таїланді ми провели місяці, розмовляючи з оборонними агентствами, командами розвідки загроз, постачальниками захисту брендів, командами з боротьби з шахрайством. Те ж саме було скрізь. Усіх цікавили знання.

Тоді це стало зрозумілим. Моделі виявлення такі хороші, як дані, які ви їм надаєте. Якщо ви не можете побачити глибоку підробку в момент її появи на відкритому вебі, ваш детектор нічого не вартий. Поле битви не полягає в тому, чи може ваша модель впізнати синтетичне обличчя в бенчмарці – а в тому, чи маєте ви видимість поверхні, де атака насправді існує. Інфраструктура публічних даних – це частина, яку ніхто не хоче будувати, тому що це складно і непривабливо, але без неї весь стек – це театр.

Ви стверджували, що проблема глибоких підробок фундаментально змінилася за останні 18 місяців. Які конкретні технологічні зрушення роблять сьогодні штучно створене шахрайство більш небезпечним, ніж попередні хвилі атак з імперсоналізацією?

Три речі змінилися одночасно, і комбінація цих змін робить ситуацію іншою.

По-перше, багатомодальні моделі стали досить хорошими, щоб генерувати переконливі відео, голос і текст з одного запиту за кілька хвилин. Що раніше потребувало маленької команди та кількох тижнів, тепер займає одну людину та чашку кави.

По-друге, вартість впала до підлоги. Високоякісна клонування голосу публічної особи раніше потребувала серйозного бюджету на GPU. Сьогодні це працює на споживчій апаратурі або на місячних підписках за 20 доларів. Вартість більше не є бар’єром.

По-третє – і це недооцінена частина – шар розподілу покращився. Підробки більше не знаходяться на якійсь мало відомій форумі в очікуванні відкриття. Вони живуть на відкритому вебі, у тих самих публічних джерелах, які ваші клієнти та працівники споживають десятки разів на день, часто з платною підтримкою зверху. Фабриковане відео рухається так само швидко, як все інше на публічному інтернеті.

Раніше атакувальник повинен був вибирати між якістю, швидкістю, масштабом та охопленням. Тепер він може мати все чотири за меншу суму, ніж 100 доларів. Асиметрія між тим, що коштує створити переконливу імперсоналізацію, та тим, що коштує підприємству виявити, атрибутувати та реагувати на неї, ширша, ніж будь-коли раніше. Це зрушення.

Більшість публічних обговорень навколо глибоких підробок все ще зосереджені на програмному забезпеченні для виявлення. Чому ви вважаєте, що надійна, великомасштабна інфраструктура публічних даних зараз так само важлива, як і самі моделі штучного інтелекту?

Бо детектор, який не бачить загрозу, – це дослідницький проєкт, а не захист.

Більшість розмов про глибокі підробки зосереджені на тому, чи може модель розрізняти синтетичне обличчя від справжнього в контрольованому бенчмарці. Це мінімальні вимоги. Операційна проблема – це складніше: відео з імперсоналізацією бренду виходить о 3 годині ночі, збирає 200 000 переглядів, перш ніж хтось це помітить, і ваша система виявлення повинна фактично отримати цей контент в реальному часі, атрибутувати його та запустити реакцію. Якщо у вас немає стабільного, масштабованого способу інгестувати публічні дані з відкритого вебу – тих місць, де відбувається імперсоналізація та шахрайство – у вас нічого немає, на чому можна запустити детектор.

Є пов’язана точка, яку ми зробили недавно в статті про порушення постачальника Anodot. Підприємства починають усвідомлювати, що безпекова позиція їхніх постачальників даних – це їхня власна безпекова позиція. Те ж саме відбувається і з штучним інтелектом: надійність вашого стека виявлення – це надійність вашого трубопроводу даних. Моделі отримують прес. Інфраструктура робить роботу. Розгляд цих двох як окремих бюджетних рядків – це помилка, яку ринок скоро перестане робити.

Vetric виросла до значного масштабу без зовнішнього фінансування, обслуговуючи підприємства та організації, пов’язані з розвідкою. Як самофінансування вплинуло на те, як ви будували компанію та пріоритизували надійність інфраструктури над розширенням за будь-яку ціну?

Самофінансування змушує до певного роду одержимості клієнтом, якого компанії з фінансуванням можуть уникнути протягом довгого часу. Ми завжди вірили в надання цінності перед швидким зростанням – і для нас це не гасло, а фінансової реальності.

Кожен долар у нашому банку – це долар, який клієнт вибрав дати нам в обмін на щось, що працює. У нас немає 50-мільйонної подушки, щоб перекрити розрив між продуктом, який майже працює, і тим, який працює.

Це змінює кожне рішення, яке приймає компанія. Це сформувало нашу архітектуру так само, як і нашу дорожню карту. Нашим клієнтам, розвідувальним агентствам, командам з захисту від цифрових ризиків, командам громадської безпеки, платформам розвідки загроз, не лише продукт, який працює.

Це також причина, чому ми провели межу довіри так, як ми її провели. Ми виштовхуємо дані до клієнтів; ми ніколи не тягнемо дані з них. Ми не тримаємо довгострокові облікові дані до системи клієнта. Коли клієнти хочуть доставку в свій власний AWS, ми використовуємо обмежені, тільки для запису IAM-ролі з зовнішніми ідентифікаторами – рекомендаційний шаблон AWS, спеціально розроблений для запобігання типу порушення постачальника, яке тільки що відбулося у клієнтів Anodot.

Платформи “Глибокі підробки як послуга” знижують бар’єр для входу для атакувальників. Чи підходимо ми до точки, де високоскладні можливості шахрайства стають повністю комодифікованими та доступними майже кожному?

Ми вже там для базових можливостей – і не лише на платному рівні, а й на безкоштовному. Ми на відстані 12-18 місяців від більш складних. Подивіться, що зараз доступно. Моделі типу Sora генерують переконливі відео з текстового запиту. Проекти відкритого джерела для заміни облич на GitHub візьмуть будь-яке посилальне зображення і поставлять це обличчя у відео, і результати справді виглядають добре – жодної спеціальної майстерності не потрібно, жодної оплати, жодного підпільного ринку.

Бар’єр для створення високоякісної підробки – це безкоштовне завантаження та післяобідній експеримент. Також є платні послуги, які надають готовий робочий процес навколо тих самих моделей для людей, які не хочуть нічого встановлювати, але відкритий шаблон – це справжня історія, оскільки це той, з яким ніхто не може конкурувати за ціною. Особа, яка керує ним, не повинна розуміти базову технологію більше, ніж людина, яка запускає фішинг-кіти, повинна розуміти SMTP.

Що прийде далі, – це шаблонізований, кампанія-в-коробці рівень – попередньо створені набори для імперсоналізації конкретних брендів, виконавців, виборчих циклів, з синтетичними медіа, фальшивими акаунтами, графіками розповсюдження та націлюванням, все разом. Як тільки це існує у великих масштабах, маржинальна вартість запуску атаки з імперсоналізацією падає до приблизно вартості запуску платної реклами. Вплив на захисників незручний. Ви більше не можете припускати, що атакувальник складний або добре оснащений. Атакувальник – це будь-хто з ноутбуком та ображенням. Це змінює обсяг та різноманітність загроз на порядок, і переозначає, що означає “відрізняється загроза” для будь-якого бренду, виконавця чи публічної особи з інтернет-присутністю.

Багато підприємств все ще покладаються на фрагментовані системи моніторингу та затримані розвідки загроз. Які найбільші слабкості ви бачите в тому, як організації зараз збирають та обробляють публічні веб-дані, пов’язані з імперсоналізацією та шахрайством?

Декілька слабкостей постійно з’являються у розмовах з клієнтами. Перша – фрагментація. Більшість підприємств працюють з одним інструментом для моніторингу бренду, іншим для захисту виконавців, іншим для шахрайства, іншим для безпеки. Кожен тягне з різних джерел з різним покриттям, різною затримкою та різними сліпими плямами.

Коли кампанія з імперсоналізації відбувається одночасно в кількох куточках відкритого вебу, шви між цими інструментами – це саме місце, де атакувальник ховається. І під цією фрагментацією є глибша проблема: більшість цих інструментів оптимізовані для видалення. Видалення фальшивого профілю необхідно, але сам по собі це “ігра в ляльку” – інша поява наступного дня. Команди, які отримують реальну перевагу, – це ті, які подвоюють зусилля з розслідування: з’єднують точки між акаунтами, інфраструктурою та кампаніями, щоб розібрати мережу за імперсоналізацією, а не відбивають один URL за раз.

Друга – залежність від програмного забезпечення, яке потребує глибокого внутрішнього доступу до систем клієнтів. Це структуральна проблема, про яку ми написали в контексті порушення Anodot – постачальники, які потребують OAuth або API-ключі до вашого хмари, стають одними точками відмови для всіх вниз по течії. SOC 2 не врятує вас від цього. Архітектура або має радіус ураження, або ні.

Третя – затримка. Багато того, що продається як “реальна розвідка загроз” насправді знаходиться на затримці від чотирьох до двадцяти чотирьох годин, оскільки базовий збір – орієнтований на пакети. Для імперсоналізації та шахрайства це вічність. До того часу, як спрацьовує сигнал, кампанія вже завершилася.

Четверта – неправильне розподілення між покриттям виявлення та можливостями аналізу. Компанії інвестують у інструменти, які прапорують синтетичний або підозрілий контент, але вони недоінвестують у покриття, щоб фактично побачити, що публікується про них по всьому відкритому вебу, і в можливості аналізу, щоб зрозуміти, що вони бачать – хто стоїть за цим, як акаунти пов’язані, яку інфраструктуру вони ділять. Прапор – це один крок; покриття та аналіз – це те, що перетворює прапор у дію. Це як купівля хорошого сигналу диму та забуття про його підключення.

Ви говорили про обробку мільярдів публічних даних щомісяця. Які технічні проблеми виникають при спробі побудувати інфраструктуру в реальному часі, здатну виявляти загрози, пов’язані з штучним інтелектом, у масштабах інтернету?

Складні проблеми – не ті, яких більшість людей очікує. Перша річ, яку потрібно сказати, – це те, що побудова цієї інфраструктури не є складною частиною – її утримання. Ви не будуєте трубопроводу, як наш, один раз і не йдете гуляти. Вам потрібна ціла команда, чиєю роботою є утримання його живим, і це команда, яку ми побудували. Публічні джерела, з яких ми збираємо дані, постійно змінюються, і будь-яке з них може тихо зламати колектор. Більшість інженерних зусиль протягом життя продукту, такого як цей, йдуть на утримання, а не на зелене поле.

Друга річ – це те, що масштабування – це бігова доріжка. Ви покращуєте трубопровід, ви тягнете його сильніше, і в якийсь момент масштаб стає занадто великим для того, що ви побудували, і речі починають трястися. Потім ви перебудовуєте цей шар – іноді з нуля – для наступного рівня. Цей цикл ніколи не закінчується. Кожен порядок величини в обсязі – це фактично інша система, навіть якщо це виглядає як той самий продукт ззовні.

Третя річ – це час безперервної роботи, яке звучить скучно, поки ви не згадаєте, хто наші клієнти. Дехто з них використовує наші дані, щоб допомогти запобігти терористичним атакам. Реальний час означає, що ви не отримуєте період благодаті. Речі зламаються – вони завжди ламаються – і те, що має значення, – це те, що вони працюють решту часу та виправляються якомога швидше, коли вони не працюють. Ми інженерно спроектували настрій виклику, сповіщення та резервування навколо цієї реальності, а не навколо загального числа безперервної роботи SaaS.

Як синтетичні медіа стають все більш переконливими, чи думаєте ви, що суспільство рухається до більшої “кризи довіри”, коли люди починають сумніватися в легітимних аудіо, відео та комунікаціях за замовчуванням?

Ближче, ніж люди хочуть визнати. Але я не думаю, що це закінчується колапсом – я думаю, що це закінчується іншим рівновагою.

Наївна версія кризи довіри говорить: ніхто не буде вірити жодному аудіо чи відео, і публічна сфера колапсує. Я не думаю, що це туди йде. Люди надзвичайно адаптивні щодо епістемологічних середовищ. Ми навчилися читати газети зі скептицизмом, потім телебачення, потім веб. Ми навчимося читати медіа, створені штучним інтелектом, зі скептицизмом теж, і це не зовсім поганий результат – більш здоровий базовий рівень “перевірте, перш ніж довіряти”, який вже давно запізнився.

Що я думаю, ми побачимо, – це зрушення того, що вважається доказом. Сире відео та аудіо стануть слабшими формами доказів; походження, криптографічне підписання, ланцюг зберігання та верифікація ідентичності стануть сильнішими. Інститути, які зможуть надійно верифікувати свої власні комунікації – банки, уряди, новинні організації – будуть рухатися вперед. Ті, хто не зможе, будуть імперсоналізовані до безглуздості.

Небезпечний проміжок – це середній, наступні два-три роки, де підробки стають переконливими швидше, ніж шар верифікації розгортається. Це вікно, де відбувається шкода, і це вікно, яке ми намагаємося дати нашим клієнтам можливість вижити.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Vetric. 

Антуан — далекоглядний лідер і партнер-засновник Unite.AI, якого надихає незмінна пристрасть до формування та просування майбутнього штучного інтелекту й робототехніки. Як підприємець, що заснував кілька компаній, він вірить, що ШІ змінить суспільство так само докорінно, як електрика, і часто із захопленням говорить про потенціал проривних технологій та загального штучного інтелекту (AGI).

Як футуролог, він присвячує себе дослідженню того, як ці інновації формуватимуть наш світ. Він також є засновником Securities.io — платформи, зосередженої на інвестиціях у передові технології, що переосмислюють майбутнє та змінюють цілі галузі.