Rozhovory

Omer Bachar, spoluzakladatel a CEO Vetric – Interview Series

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyBootstrapování donutilo Vetrica upřednostnit spolehlivost infrastruktury před expanzí…
Zobrazit více
  • Bootstrapování donutilo Vetrica upřednostnit spolehlivost infrastruktury před expanzí za každou cenu.
  • Detekční modely jsou k ničemu bez škálovatelné veřejné datové infrastruktury, která by je zásobovala hrozbami v reálném čase.
  • Deepfake jako služba je již zkomoditizována na bezplatné úrovni díky nástrojům s otevřeným zdrojovým kódem.

Omer Bachar, spoluzakladatel a CEO Vetric, je izraelský podnikatel a technologický lídr zaměřený na open-source intelligence (OSINT) , který si vybudoval kariéru kolem řešení komplexních dat a inteligentních výzev. Před založením Vetric v roce 2022 Bachar vyvinul a komerčně využil několik webových podniků jako teenager, získávající zkušenosti s webovým vývojem, SEO, monetizací provozu a škálovatelnými digitálními operacemi. Později sloužil v Izraelských obranných silách, kde pomáhal modernizovat vojenské policejní operace prostřednictvím automatizace, umělé inteligence, datového dolování a agilních metodik, zatímco vedl týmy a produktové iniciativy. Po předchozím neúspěšném startupu a intenzivním výzkumném období v Thajsku se svými spoluzakladateli Bachar spustil Vetric se zaměřením na infrastrukturu spíše než na venture kapitál, rostoucí společnost bootstrapped, zatímco sloužil organizacím, které spoléhají na škálovatelný přístup k veřejným webovým datům. Jeho práce se zaměřuje na WEBINT, OSINT, sběr dat a digitální hrozby, zejména v oblastech zahrnujících padělání, podvody a rizika související s deepfakes.

Vetric je společnost pro datovou infrastrukturu, která pomáhá organizacím shromažďovat, zpracovávat a operacionalizovat veřejná webová data ve velkém měřítku. Společnost se prezentuje jako důvěryhodná infrastrukturní vrstva pro týmy důvěry, bezpečnosti, kybernetické bezpečnosti a inteligence, které potřebují spolehlivý, reálný přístup k otevřeným webovým informacím. Místo budování spotřebitelské platformy se Vetric zaměřuje na spravované API a flexibilní datové potrubí navržené pro zjednodušení rozsáhlého sběru veřejných dat v neustále se měnících online prostředích. Společnost zdůraznila přístup „data pro dobro“, podporující organizace, které pracují na identifikaci kampaní na padělání, deepfakes, podvodů a dalších digitálních hrozeb. Podle společnosti Vetric vyrostla z malého zakladatelského týmu do rychle se rozšiřující operace, která slouží více než 100 organizacím po celém světě, zatímco zůstává zaměřena na škálovatelnou infrastrukturu a provozní spolehlivost.

Začali jste budovat internetové podniky jako teenager, později jste pracovali na modernizaci izraelské vojenské policie s nástroji AI a OSINT, a nakonec jste se stal spoluzakladatelem Vetric.io po strávení měsíců výzkumem problémů v Thajsku. Jak tyto zkušenosti utvořily vaše přesvědčení, že datová infrastruktura, a ne pouze detekční modely, se stanou skutečným bojištěm v boji proti deepfakes a digitálnímu padělání?

Procházka všemi třemi těmito kapitolami byla stejná: každý problém, o kterém jsem si myslel, že je detekční problém, se ukázal být problémem dat jednoho vrstvy níže.

Jako teenager, který hledal zranitelnosti, byla tvrdá část nikdy nebyla exploatace — byla to výstavba infrastruktury pro nalezení správných cílů ve velkém měřítku. Ve vojenské policii byl OSINT mezerou, na kterou nikdo nepracoval. Zločinci zanechali důkazy všude na otevřeném webu, na očích veřejnosti, a my jsme měli téměř žádný systematický způsob, jak k nim dostat. Pak v Thajsku jsme strávili měsíce mluvením s obrannými agenturami, týmy pro hrozby, prodejci ochrany značek, týmy pro podvody. Stejné vzory všude. Každý chtěl přehledy.

To je kdy to došlo. Detekční modely jsou pouze tak dobré, jako jsou data, která jim poskytujete. Pokud nemůžete vidět deepfake v okamžiku, kdy se objeví na otevřeném webu, váš detektor je irelevantní. Bojiště není, zda váš model může rozpoznat syntetickou tvář v benchmarku — je to, zda máte přehled o povrchu, kde útok skutečně žije. Veřejná datová infrastruktura je část, kterou nikdo nechce budovat, protože je to těžké a neatraktivní, ale bez ní je zbytek zásobníku divadlem.

Argumentoval jste, že problém deepfakes se zásadně změnil za posledních 18 měsíců. Jaké konkrétní technologické posuny činí dnešní AI-generované podvody nebezpečnější než předchozí vlny podvodů a útoků na padělání?

Tři věci se změnily ve stejnou dobu, a kombinace je to, co dělá toto odlišné.

První, multimodální modely se staly dostatečně dobrými, aby mohly generovat přesvědčivé video, hlas a text z téhož podnětu během několika minut. Co dříve vyžadovalo malý tým a několik týdnů, nyní vyžaduje jednu osobu a šálek kávy.

Druhý, náklady klesly skrze podlahu. Vysokokvalitní hlasový klon veřejně známé osoby dříve vyžadoval vážný rozpočet GPU. Dnes běží na spotřebitelském hardwaru nebo na měsíční předplatné za 20 dolarů. Náklady již nejsou bariérou.

Třetí — a to je podceňovaná část — distribuční vrstva dohnala. Padělání již nesedí na nějakém málo známém fóru a čekají na objevení. Žijí na otevřeném webu, ve stejných veřejných zdrojích, které vaše zákazníci a zaměstnanci konzumují desítkykrát denně, často s placenou amplifikací nahoře. Fabrikovaná videa cestují přesně tak rychle jako cokoliv jiného na veřejném internetu.

V předchozích vlnách musel útočník zvolit mezi kvalitou, rychlostí, měřítkem a dosahem. Nyní mohou mít všechny čtyři za méně než 100 dolarů. Asymetrie mezi tím, co stojí za to fabrikovat přesvědčivé padělání, a tím, co stojí za to podniku detekovat, připsat a reagovat na něj, je širší, než kdykoli dříve. To je posun.

Většina veřejných diskusí o deepfakes se stále zaměřuje na detekční software. Proč věříte, že spolehlivá, rozsáhlá veřejná datová infrastruktura je nyní stejně důležitá jako samotné modely AI?

Protože detektor, který nemůže vidět hrozbu, je výzkumný projekt, ne obrana.

Většina konverzace o deepfakes se zaměřuje na to, zda model může rozpoznat syntetickou tvář od skutečné tváře v řízeném benchmarku. To je základní požadavek. Operační problém je tvrdší: video s padělanou identitou se objeví ve 3 hodiny ráno, získává 200 000 zobrazení, než někdo všimne, a váš detekční potrubí musí skutečně přijmout tento obsah v reálném čase, připsat ho a spustit reakci. Pokud nemáte stabilní, škálovatelný způsob, jak přijímat veřejná data z otevřeného webu — místa, kde se padělání a podvody skutečně rozvíjejí — nemáte nic, na čem byste mohli spustit váš detektor.

Existuje související bod, který jsme nedávno uvedli v článku o poruše dodavatelského řetězce Anodot. Podniky začínají chápat, že bezpečnostní postoje jejich dodavatelů dat jsou jejich vlastní bezpečnostní postoje. Stejné uvědomění přichází pro AI: spolehlivost vaší detekční sestavy je spolehlivost vašeho datového potrubí. Modely dostávají tisk. Infrastruktura dělá práci. Léčení těchto dvou jako samostatných rozpočtových linií je chyba, kterou trh brzy přestane dělat.

Vetric vyrostl do významného měřítka bez vnějšího financování, zatímco sloužil podnikům a organizacím souvisejícím s inteligencí. Jak ovlivnilo bootstrapping způsob, jakým jste vybudovali společnost a priorizovali spolehlivost infrastruktury nad expanzí za každou cenu?

Bootstrapping nutí zdravý druh zákaznické posedlosti, který mohou společnosti s financováním dlouho vyhnout. Věříme v poskytování hodnoty před rychlým růstem — a pro nás to není slogan, je to finanční realita.

Každá dolar v našem bankovním účtu je jedna, kterou zákazník zvolil dát nám výměnou za něco, co fungovalo. Nemáme 50milionový polštář, aby mostily mezeru mezi produktem, který téměř funguje, a tím, který funguje.

To mění každé rozhodnutí, které společnost dělá. Utvořilo naši architekturu stejně jako naši roadmap. Naši zákazníci, agentury inteligence, digitální týmy pro ochranu rizik, bezpečnostní týmy, týmy pro hrozby, nechtějí pouze produkt, který funguje.

To je také důvod, proč jsme nakreslili důvěryhodnou hranici tak, jak jsme ji udělali. Tlačíme data k zákazníkům; nikdy je nečerpáme od nich. Nemáme dlouhodobé pověření do cloudového systému zákazníka. Když zákazníci chtějí doručování do svého vlastního AWS, používáme zaměřené, pouze pro zápis IAM role s externími ID — doporučený vzor AWS speciálně navrženým pro prevenci typu porušení zprostředkovatele útoku, který právě zasáhl zákazníky Anodot.

Platformy Deepfake-as-a-Service snižují bariéru vstupu pro útočníky. Přibližujeme se k bodu, kdy se vysoce sofistikované podvodné schopnosti stanou plně komoditizovanými a dostupnými téměř pro každého?

Jsme již tam pro základní schopnosti — a ne pouze na placené úrovni, ale i na úrovni zdarma. Jsme 12 až 18 měsíců od těch více sofistikovaných. Podívejte se, co je aktuálně volně dostupné. Modely jako Sora generují přesvědčivé video z textového podnětu. Otevřené projekty pro výměnu tváří na GitHubu vezmou jakoukoli referenční obraz a vloží tuto tvář do videa, a výsledky vypadají opravdu dobře — žádné specialistické dovednosti nejsou vyžadovány, žádné platby, žádné podzemní trhy.

Bariéra pro výrobu vysoce kvalitního padělání je zdarma ke stažení a odpoledne experimentování. Existují také placené služby, které zabalí kompletní pracovní postup kolem stejných modelů pro lidi, kteří nechtějí nic instalovat, ale otevřená úroveň je skutečný příběh, protože je to ta, kterou nelze vyřadit cenou. Osoba, která ji provozuje, nemusí rozumět základnímu technickému zázemí více než někdo, kdo provozuje kit pro phishing, potřebuje rozumět SMTP.

Co přijde dál, je šablona, kampaně v krabici — předem sestavené sady pro padělání pro konkrétní značky, konkrétní výkonné ředitele, konkrétní volební cykly, se syntetickými médii, falešnými účty, distribučním plánem a cílením, all-in-one. Jakmile to existuje ve velkém měřítku, marginální náklady na spuštění útoků na padělání klesají na zhruba náklady na spuštění placené reklamy. Implikace pro obránce je nepohodlná. Už nelze předpokládat, že útočník je sofistikovaný nebo dobře zásobený. Útočník je kdokoli s laptopem a žalobou. To mění objem a rozmanitost hrozeb o řádovou velikost a předefinuje, co „věrohodná hrozba“ znamená pro jakoukoli značku, výkonného ředitele nebo veřejnou postavu s internetovou přítomností.

Mnohé podniky stále spoléhají na fragmentované monitorovací systémy a zpožděné zpravodajské služby. Jaké jsou největší slabiny, které vidíte v tom, jak organizace v současnosti shromažďují a zpracovávají veřejná webová data související s paděláním a podvody?

Několik slabostí se neustále objevuje napříč konverzacemi se zákazníky. První je fragmentace. Většina podniků běží jeden nástroj pro monitorování značek, jiný pro ochranu výkonných ředitelů, jiný pro podvody, jiný pro bezpečnostní operace. Každý z nich čerpá z různých zdrojů s různou pokrytím, různou latencí a různými slepými místy.

Když kampaň na padělání prolomí několik rohů otevřeného webu ve stejnou dobu, švy mezi těmito nástroji jsou přesně tam, kde se útočník skrývá. A pod touto fragmentací je hlubší problém: většina těchto nástrojů optimalizuje pro takedown. Odstranění falešného profilu je nezbytné, ale samo o sobě je to whac-a-mole — další se objeví další den. Týmy, které získávají skutečnou výhodu, jsou ty, které se soustředí na vyšetřování: spojují body mezi účty, infrastrukturou a kampaněmi, takže rozebírají síť za paděláním, místo aby pouze odstraňovaly jeden URL najednou.

Druhá je závislost na prostředníkovi, který potřebuje hluboký příchozí přístup k systémům zákazníků. To je strukturální problém, o kterém jsme psali v kontextu porušení Anodot — dodavatelé, kteří vyžadují OAuth nebo API klíče do vašeho cloudu, se stávají jedinými body selhání pro každého po proudu. SOC 2 vás nezachrání před tím.

Třetí je latence. Velká část toho, co se prodává jako „reálný čas zpravodajství o hrozbách“, je ve skutečnosti zpožděná o čtyři až čtyřiadvacet hodin, protože základní sběr je orientován na dávkový proces. Pro padělání a podvody je to věčnost. Do doby, než se výstraha spustí, kampaň už proběhla.

Čtvrtá je nesprávná alokace mezi pokrytím detekce a analytickými schopnostmi. Společnosti investují do nástrojů, které označují syntetický nebo podezřelý obsah, ale podinvestují do pokrytí, aby skutečně viděly, co je zveřejněno o nich napříč otevřeným webem, a do analytických schopností, aby pochopily, co vidí — kdo je za tím, jak jsou účty propojeny, jakou infrastrukturu sdílejí. Označení je jeden krok; pokrytí a analýza jsou to, co změní označení na akci. To je jako nákup skvělého kouřového poplachu a zapomenutí na něj zapnout.

Mluvili jste o zpracování miliard veřejných datových bodů každý měsíc. Jaké technické výzvy vznikají, když se snažíte budovat infrastrukturu v reálném čase, schopnou identifikovat AI-poháněné hrozby ve velkém měřítku?

Těžké problémy nejsou ty, které většina lidí očekává. První věc, kterou je třeba říci, je, že budování této infrastruktury není těžké — udržování ji je. Nemůžete postavit potrubí jako naše a odejít. Potřebujete celý tým, jehož úkolem je udržovat ho naživu, a to je tým, který jsme vybudovali. Veřejné zdroje, ze kterých sbíráme data, mění se neustále, a kterýkoli z nich může potichu rozbít sběrač. Většina inženýrského úsilí během životnosti produktu jako tohoto jde do údržby, ne do greenfieldového vývoje.

Druhá je, že škálování je běžecký pás. Zlepšujete potrubí, tlačíte ho tvrději a v určitém okamžiku se měřítko stává příliš velkým pro to, co jste vybudovali, a věci začínají se třást. Pak přestavíte tu vrstvu — někdy od základů — pro další úroveň. Ten cyklus nikdy nekončí. Každá řádová velikost objemu je efektivně jiný systém, i když se zvenčí zdá být stejným produktem.

Třetí je uptime, který zní nudně, dokud si neuvědomíte, kdo jsou naši zákazníci. Někteří z nich používají naše data, aby pomohli zabránit teroristickým útokům. Reálný čas znamená, že nedostanete žádnou lhůtu. Věci se rozbijí — vždycky to dělají — a co matters je, že jsou funkční zbývající dobu a opraveny co nejdříve, když nefungují. Navrhli jsme on-call postoje, upozornění a redundanci kolem této reality, ne kolem obecného čísla uptime SaaS.

Jako syntetická média se stávají přesvědčivějšími, myslíte, že společnost se blíží k širší „krizi důvěry“, kde lidé začínají pochybovat o legitimitě audio, videa a komunikací jako samozřejmost?

Blíže, než lidé chtějí přiznat. Ale nemyslím si, že to končí v kolapsu — myslím, že to končí v jiném rovnováze.

Naivní verze krize důvěry říká: nikdo nebude věřit žádnému audio nebo videu, a veřejný prostor se zhroutí. Nemyslím si, že to je tam, kde to jde. Lidé jsou pozoruhodně přizpůsobiví kolem epistemických prostředí. Naučili jsme se číst noviny se skepsí, pak televizi, pak web. Naučíme se číst AI-generovaná média se skepsí také, a to není entirely špatný výsledek — zdravější základní úroveň „ověřit před důvěrou“ je předčasná.

Co si myslím, že uvidíme, je posun v tom, co se počítá jako důkaz. Syrové video a audio se stanou slabšími formami důkazu; provenience, kryptografické podepsání, řetězec péče a ověření identity se stanou silnějšími. Instituce, které zjistí, jak credibly ověřit své vlastní komunikace — banky, vlády, zpravodajské agentury — budou táhnout dopředu. Ty, které to neudělají, budou padělat do irelevance.

Nebezpečný interval je střední, příštích dvou až tří let, kde se padělání stávají přesvědčivějšími rychleji, než se vrstva ověření nasazuje. To je okno, kde se škody dějí, a to je okno, ve kterém se snažíme dát našim zákazníkům přehled, aby přežili.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Vetric. 

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.