Wywiady

Omer Bachar, współzałożyciel i CEO Vetric – seria wywiadów

Antoine Tardif
Dodaj Unite.AI do preferowanych źródeł w Google
Kluczowe punktyBootstrapping zmusił Vetrica do priorytetowego traktowania niezawodności infrastruktury…
Zobacz więcej
  • Bootstrapping zmusił Vetrica do priorytetowego traktowania niezawodności infrastruktury nad ekspansją za wszelką cenę.
  • Modele detekcji są bezużyteczne bez skalowalnej publicznej infrastruktury danych, która zasilałaby je zagrożeniami w czasie rzeczywistym.
  • Deepfake jako usługa jest już skomercjalizowany na poziomie darmowym dzięki narzędziom open-source.

Omer Bachar, współzałożyciel i CEO Vetric, jest izraelskim przedsiębiorcą i liderem technologicznym skupionym na inteligencji otwartej (OSINT), który zbudował karierę wokół rozwiązywania złożonych problemów związanych z danymi i wywiadem. Przed założeniem Vetric w 2022 roku Bachar rozwijał i komercjalizował wiele firm internetowych jako nastolatek, zdobywając doświadczenie w rozwoju internetowym, SEO, monetyzacji ruchu i skalowalnych operacjach cyfrowych. Później służył w Siłach Obrony Izraela, gdzie pomógł zmodernizować operacje Policji Wojskowej poprzez automatyzację, sztuczną inteligencję, wydobycie danych i metodyki zwinnego zarządzania, jednocześnie kierując zespołami i inicjatywami produktowymi. Po wcześniejszym nieudanym starcie i intensywnym okresie badań w Tajlandii z współzałożycielami, Bachar uruchomił Vetric, koncentrując się na infrastrukturze zamiast na finansowaniu venture, rozwijając firmę bez zewnętrznego finansowania, jednocześnie obsługując organizacje, które polegają na skalowalnym dostępie do publicznych danych internetowych. Jego praca koncentruje się na WEBINT, OSINT, zbieraniu danych i wywiadzie cyfrowym, szczególnie w obszarach związanych z podszywaniem się, oszustwami i ryzykiem związanym z deepfake.

Vetric to firma infrastrukturalna danych, która pomaga organizacjom gromadzić, przetwarzać i wykorzystywać publiczne dane internetowe w dużym stopniu. Firma pozycjonuje się jako zaufana warstwa infrastrukturalna dla zespołów zaufania, bezpieczeństwa, cyberbezpieczeństwa i wywiadu, które potrzebują niezawodnego, rzeczywistego dostępu do otwartych informacji internetowych. Zamiast budować platformę skierowaną do konsumentów, Vetric koncentruje się na zarządzanych API i elastycznych potokach danych zaprojektowanych w celu uproszczenia dużych zbiorów publicznych danych w ciągle zmieniających się środowiskach internetowych. Firma podkreśla podejście “danych dla dobra”, wspierając organizacje, które pracują nad identyfikacją kampanii podszywania się, deepfake, oszustw i innych cyfrowych zagrożeń. Według firmy, Vetric rozwinął się od małego zespołu założycielskiego w szybko rozwijającą się operację, obsługując ponad 100 organizacji na całym świecie, jednocześnie utrzymując focus na skalowalnej infrastrukturze i niezawodności operacyjnej.

Zacząłeś budować interesy internetowe jako nastolatek, później pracowałeś nad modernizacją izraelskiej Policji Wojskowej z użyciem narzędzi AI i OSINT, a ostatecznie zostałeś współzałożycielem Vetric.io po spędzeniu kilku miesięcy na badaniach problemów w Tajlandii. Jak te doświadczenia ukształtowały twoje przekonanie, że infrastruktura danych, a nie tylko modele wykrywania, staną się prawdziwym polem bitwy w walce z deepfake i cyfrowym podszywaniem się?

Wątek przewijający się przez wszystkie te rozdziały był taki sam: każdy problem, który myślałem, że jest problemem wykrywania, okazał się problemem danych na głębszym poziomie.

Jako nastolatek znajdujący luki, trudna część nie była nigdy eksploatacją — było to budowanie infrastruktury do znalezienia odpowiednich celów w dużym stopniu. W Policji Wojskowej OSINT była luką, której nikt nie zajmował się. Przestępcy pozostawiali dowody wszędzie na otwartym internecie, na widoku, i mieliśmy prawie żadnego systematycznego sposobu, aby do nich dotrzeć. Następnie w Tajlandii spędziliśmy kilka miesięcy rozmawiając z agencjami obrony, zespołami wywiadu, dostawcami ochrony marki, zespołami oszustw. Ten sam wzorzec wszędzie. Każdy chciał wglądu.

To wtedy się kliknęło. Modele wykrywania są tylko tak dobre, jak dane, które im podajesz. Jeśli nie możesz zobaczyć deepfaka w momencie, gdy pojawia się na otwartym internecie, twój wykrywacz jest nieistotny. Pole bitwy nie jest tym, czy twój model może rozpoznać syntetyczną twarz w benchmarku — jest tym, czy masz widoczność powierzchni, na której atak naprawdę żyje. Publiczna infrastruktura danych jest częścią, której nikt nie chce budować, bo jest trudna i nieelegancka, ale bez niej reszta stosu jest teatrem.

Uważasz, że problem deepfake zmienił się fundamentalnie w ciągu ostatnich 18 miesięcy. Jakie konkretnie zmiany technologiczne sprawiają, że dzisiejsze AI-generowane oszustwa są bardziej niebezpieczne niż wcześniejsze fale ataków podszywania się?

Trzy rzeczy zmieniły się jednocześnie, a połączenie tych zmian sprawia, że jest to inaczej.

Po pierwsze, wielomodalne modele stały się wystarczająco dobre, aby można było wygenerować przekonywujące wideo, głos i tekst z tego samego podpowiedzi w ciągu kilku minut. To, co wcześniej wymagało małego zespołu i kilku tygodni, teraz zajmuje jednej osobie i kawie.

Po drugie, koszt spadł przez podłogę. Wysokiej jakości klon głosu publicznej osoby wymagał wcześniej poważnego budżetu na GPU. Dziś działa na sprzęcie konsumenckim lub subskrypcji SaaS za 20 dolarów miesięcznie. Koszt nie jest już barierą.

Po trzecie — i to jest niedoceniana część — warstwa dystrybucyjna dogoniła. Fałszywki nie siedzą już na jakimś niejasnym forum, czekając na odkrycie. Żyją na otwartym internecie, w tych samych publicznych źródłach, które twoi klienci i pracownicy konsumują kilkadziesiąt razy dziennie, często z płatnym wzmocnieniem na górze. Sfałszowane wideo podróżuje tak samo szybko jak wszystko inne na publicznym internecie.

We wcześniejszych falach atakujący musiał wybierać między jakością, szybkością, skalą a zasięgiem. Teraz mogą mieć wszystko cztery za mniej niż 100 dolarów. Asymetria między tym, co kosztuje sfałszowanie przekonywującego podszywania się, a tym, co kosztuje firmie wykrycie, przypisanie i odpowiedź na to, jest szersza niż kiedykolwiek wcześniej. To jest zmiana.

Większość publicznej dyskusji wokół deepfake nadal koncentruje się na oprogramowaniu do wykrywania. Dlaczego uważasz, że niezawodna, duża infrastruktura publicznych danych jest teraz równie ważna jak same modele AI?

Ponieważ wykrywacz, który nie widzi zagrożenia, jest projektem badawczym, a nie obroną.

Większość dyskusji o deepfake koncentruje się na tym, czy model może odróżnić syntetyczną twarz od prawdziwej w kontrolowanym benchmarku. To jest podstawa. Operacyjny problem jest trudniejszy: film podszywania się jest publikowany o 3 nad ranem, zbiera 200 000 wyświetleń, zanim ktoś zauważy, i twoja pipeline wykrywania musi rzeczywiście otrzymać ten content w czasie rzeczywistym, przypisać mu atrybuty i wyzwolić odpowiedź. Jeśli nie masz stabilnego, skalowalnego sposobu na pobieranie publicznych danych z otwartego internetu — miejsc, w których podszywanie się i oszustwa naprawdę się rozwijają — nie masz nic, na czym mogłabyś uruchomić swój wykrywacz.

Istnieje powiązany punkt, który niedawno przedstawiliśmy w artykule na temat naruszenia łańcucha dostaw Anodot. Przedsiębiorstwa zaczynają zdawać sobie sprawę, że postawa bezpieczeństwa ich dostawców danych jest ich własną postawą bezpieczeństwa. To samo rozpoznanie przychodzi dla AI: niezawodność twojego stosu wykrywania jest niezawodnością twojego potoku danych. Modele dostają prasę. Infrastruktura robi pracę. Traktowanie tych dwóch jako oddzielne linie budżetowe jest błędem, który rynek wkrótce przestanie popełniać.

Vetric rozwinął się do znaczącej skali bez zewnętrznego finansowania, jednocześnie obsługując przedsiębiorstwa i organizacje związane z wywiadem. Jak bootstrapping wpłynął na sposób, w jaki zbudowałeś firmę i priorytetyzowałeś niezawodność infrastruktury nad ekspansję “wzrostu za wszelką cenę”?

Bootstrapping zmusza do rodzaju obsesji na punkcie klienta, którego firmy z finansowaniem zewnętrznym mogą uniknąć przez długi czas. Zawsze wierzyliśmy w dostarczanie wartości przed szybkim wzrostem — i dla nas nie jest to slogan, ale rzeczywistość finansowa.

Każdy dolar w naszym banku to dolar, który klient wybrał, aby nam go dać w zamian za coś, co działało. Nie mamy 50-milionowej poduszki, aby zmostkować lukę między produktem, który prawie działa, a tym, który działa.

To zmienia każdą decyzję, jaką podejmuje firma. To ukształtowało naszą architekturę tak samo, jak nasz plan rozwoju. Nasi klienci, agencje wywiadu, zespoły ochrony cyfrowej, zespoły bezpieczeństwa publicznego, platformy wywiadu, nie chcą tylko produktu, który działa.

To również dlatego wytyczyliśmy granicę zaufania w taki sposób. Wypychamy dane do klientów; nigdy nie ściągamy danych od nich. Nie posiadamy długoterminowych poświadczeń do chmury klienta. Kiedy klienci chcą dostarczenia do własnego AWS, używamy zakresowych, tylko do zapisu ról IAM z zewnętrznymi identyfikatorami — zalecany przez AWS wzorzec zaprojektowany specjalnie w celu zapobiegania rodzaju naruszenia dostawcy jako wektora ataku, jaki właśnie dotknął klientów Anodot.

Platformy Deepfake-as-a-Service obniżają barierę wejścia dla atakujących. Czy zbliżamy się do punktu, w którym wysoko zaawansowane możliwości oszustw stają się w pełni komercjalizowane i dostępne dla prawie każdego?

Już tam jesteśmy dla podstawowych możliwości — i nie tylko na płatnym poziomie, ale także na poziomie bezpłatnym. Jesteśmy 12 do 18 miesięcy od bardziej zaawansowanych. Spójrz na to, co jest dostępne teraz. Modele takie jak Sora generują przekonywujące wideo z podpowiedzi tekstowej. Projekty otwartego kodu face-swap na GitHub pobierają dowolne odniesienie obrazu i wkładają tę twarz do wideo, a wyniki wyglądają naprawdę dobrze — bez specjalistycznych umiejętności, bez płatności, bez podziemnego rynku.

Bariera dla wytworzenia wysokiej jakości fałszywki to darmowy download i popołudnie eksperymentowania. Istnieją również płatne usługi, które opakowują gotkowy workflow wokół tych samych modeli dla osób, które nie chcą instalować niczego, ale poziom otwartego kodu jest prawdziwą historią, ponieważ jest tym, z którego nie można wykluczyć nikogo. Osoba operująca nim nie musi rozumieć podstawowej technologii bardziej niż osoba prowadząca kit phishingowy musi rozumieć SMTP.

Co następuje dalej, to warstwa szablonowa, pakiet kampanii w pudełku — prebudowane pakiety podszywania się dla konkretnych marek, konkretnych dyrektorów, konkretnych cykli wyborczych, z syntetycznymi mediami, fałszywymi kontami, harmonogramem dystrybucji i celowaniem, wszystkim razem. Kiedy to istnieje w skali, koszt prowadzenia ataku podszywania się spada do poziomu zbliżonego do kosztu prowadzenia płatnej reklamy. Implikacja dla obrońców jest niekomfortowa. Nie możesz już zakładać, że atakujący jest wyrafinowany lub dobrze wyposażony. Atakujący to każdy z laptopem i urazą. To zmienia objętość i różnorodność zagrożeń o rząd wielkości, i to zmienia to, co “wiarygodne zagrożenie” oznacza dla każdej marki, dyrektora, osoby publicznej z obecnością w internecie.

Wiele przedsiębiorstw nadal polega na fragmentowanych systemach monitorowania i opóźnionym wywiadzie zagrożeń. Jakie największe słabości widzisz w tym, jak organizacje obecnie gromadzą i przetwarzają publiczne dane internetowe związane z podszywaniem się i oszustwami?

Pewne słabości pojawiają się w rozmowach z klientami. Pierwsza to fragmentacja. Większość przedsiębiorstw uruchamia jeden narzędzie do monitorowania marki, inne do ochrony dyrektorów, inne do oszustw, inne do operacji bezpieczeństwa. Każde ściąga z różnych źródeł z różnym zasięgiem, różnym opóźnieniem i różnymi punktami ślepości.

Gdy kampania podszywania się wybucha w kilku zakątkach otwartego internetu jednocześnie, szwy między tymi narzędziami są dokładnie tam, gdzie atakujący się chowa. A pod tą fragmentacją jest głębszy problem: większość tych narzędzi optymalizuje pod usuwanie. Usuwanie fałszywego profilu jest konieczne, ale samo w sobie jest jak gra w whac-a-mole — kolejny pojawia się następnego dnia. Zespoły, które uzyskują prawdziwą przewagę, są tymi, które podwajają się w kierunku śledztwa: łącząc kropki między kontami, infrastrukturą i kampaniami, tak aby rozmontowywać sieć za podszywaniem się, zamiast uderzać w jeden URL na raz.

Druga to zależność od oprogramowania pośredniczącego, które wymaga głębokiego dostępu do systemów klienta. To jest problem strukturalny, o którym pisaliśmy w kontekście naruszenia Anodot — dostawcy, którzy wymagają OAuth lub kluczy API do twojej chmury, stają się punktami awaryjnymi dla wszystkich pośrednich. SOC 2 nie uratuje cię przed tym. Architektura albo ma promień rażenia, albo nie.

Trzecia to opóźnienie. Dużo tego, co sprzedaje się jako “w czasie rzeczywistym wywiad zagrożeń”, jest tak naprawdę opóźnione o cztery do dwudziestu czterech godzin, ponieważ zbieranie podstawowe jest zorientowane na partię. Dla podszywania się i oszustw to jest wieczność. Do czasu, gdy alert zostanie wyzwolony, kampania już się odbyła.

Czwarta to nieprawidłowe rozłożenie między pokryciem wykrywania a możliwościami analitycznymi. Firmy inwestują w narzędzia, które flagują syntetyczny lub podejrzany content, ale inwestują zbyt mało w pokrycie, aby naprawdę zobaczyć, co jest publikowane o nich w otwartym internecie, i w możliwości analityczne, aby zrozumieć to, co widzą — kto za tym stoi, jak konta się łączą, jaką infrastrukturę dzielą. Flagowanie jest jednym krokiem; pokrycie i analiza to to, co zmienia flagę w działanie. To jest jak kupienie dobrego czujnika dymu i zapomnienie, aby go podłączyć.

Mówiłeś o obsłudze miliardów punktów danych publicznych każdego miesiąca. Jakie wyzwania techniczne pojawiają się przy próbie budowania infrastruktury w czasie rzeczywistym, zdolnej do identyfikacji zagrożeń AI na skalę internetu?

Trudne problemy nie są tymi, których większość ludzi oczekuje. Pierwszą rzeczą do powiedzenia jest to, że budowanie tego rodzaju infrastruktury nie jest trudne — utrzymanie jej jest. Potrzebujesz całego zespołu, którego pracą jest utrzymanie jej przy życiu, i to jest zespół, który zbudowaliśmy. Publiczne źródła, z których ściągamy dane, zmieniają się nieustannie, i każde z nich może cicho złamać collector. Większość wysiłku inżynierskiego podczas życia produktu takiego jak ten idzie w utrzymanie, a nie w rozwój.

Druga to skala. Poprawiasz pipeline, pchasz ją bardziej, i w pewnym momencie skala staje się zbyt duża dla tego, co zbudowałeś, i rzeczy zaczynają się trząść. Następnie odbudowujesz tę warstwę — czasem od podstaw — na następny poziom. Ten cykl nigdy naprawdę nie kończy się. Każdy rząd wielkości wolumenu jest efektywnie innym systemem, nawet jeśli wygląda tak samo jak ten sam produkt z zewnątrz.

Trzecia to czas pracy, co brzmi nudnie, dopóki nie pamiętasz, kim są nasi klienci. Niektórzy z nich używają naszych danych, aby pomóc w zapobieganiu atakom terrorystycznym. W czasie rzeczywistym nie masz okresu łaski. Rzeczy się psują — zawsze się psują — i to, co się liczy, to to, że są włączone resztę czasu i naprawione tak szybko, jak to tylko możliwe, kiedy nie są. Zaprojektowaliśmy postawę na alarm, alertowanie i redundancję wokół tej rzeczywistości, a nie wokół ogólnego wskaźnika czasu pracy SaaS.

Podczas gdy syntetyczne media stają się bardziej przekonywujące, uważasz, że społeczeństwo zmierza ku szerszemu “kryzysowi zaufania”, w którym ludzie zaczynają kwestionować prawdziwość audio, wideo i komunikacji domyślnie?

Bliżej, niż ludzie chcą przyznać. Ale nie myślę, że to kończy się w załamaniu — myślę, że to kończy się w innym równowadze.

Naiwna wersja kryzysu zaufania mówi: nikt nie będzie wierzyć żadnemu audio ani wideo, i sfera publiczna załamuje się. Nie myślę, że to tam się zmierza. Ludzie są niezwykle adaptowalni wobec środowisk epistemicznych. Nauczyliśmy się czytać gazety z sceptycyzmem, potem telewizję, potem internet. Nauczymy się czytać AI-generowane media z sceptycyzmem również, i to nie jest całkowicie złe — bardziej uzasadniona podstawa “weryfikuj przed zaufaniem” jest niezbędna.

Co myślę, że zobaczymy, to zmianę w tym, co się liczy jako dowód. Surowe wideo i audio staną się słabszymi formami dowodu; pochodzenie, podpisywanie kryptograficzne, łańcuch posiadania i weryfikacja tożsamości staną się silniejszymi. Instytucje, które nauczą się wiarygodnie weryfikować własne komunikaty — banki, rządy, organizacje medialne — pociągną przed siebie. Te, które nie zrobią, zostaną podszyte w niebyt.

Niebezpieczny okres to ten pośredni, następne dwa do trzech lat, gdzie fałszywki stają się przekonywujące szybciej niż warstwa weryfikacji zostaje wdrożona. To jest okno, w którym szkody są wyrządzane, i to jest okno, którego próbujemy dać naszym klientom widoczność, aby przetrwać.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Vetric. 

Antoine jest wizjonerskim liderem i partnerem założycielem Unite.AI. Kieruje nim niezachwiana pasja do kształtowania i rozwijania przyszłości sztucznej inteligencji i robotyki. Jako przedsiębiorca, który założył wiele firm, wierzy, że AI zmieni społeczeństwo równie głęboko jak elektryczność, i często z entuzjazmem mówi o potencjale przełomowych technologii oraz ogólnej sztucznej inteligencji (AGI).

Jako futurolog poświęca się badaniu tego, jak te innowacje ukształtują nasz świat. Jest także założycielem Securities.io, platformy skupionej na inwestowaniu w najnowocześniejsze technologie, które na nowo definiują przyszłość i przekształcają całe branże.