Interviews

Omer Bachar, medstifter og CEO af Vetric – Interviewserie

Antoine Tardif
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterBootstrapping tvang Vetric til at prioritere infrastrukturens pålidelighed frem for…
Vis mere
  • Bootstrapping tvang Vetric til at prioritere infrastrukturens pålidelighed frem for vækst-for-enhver-pris-udvidelse.
  • Detektionsmodeller er ubrugelige uden skalerbar offentlig data-infrastruktur til at fodre dem med realtidstrusler.
  • Deepfake-som-en-tjeneste er allerede blevet en handelsvare på det gratis niveau med open source-værktøjer.

Omer Bachar, medstifter og CEO af Vetric, er en israelsk iværksætter og åben-source-intelligens (OSINT)-fokuseret teknologileder, der har bygget en karriere omkring at løse komplekse data- og intelligensudfordringer. Før han stiftede Vetric i 2022, udviklede Bachar og moniterede flere webvirksomheder som teenager, hvilket gav ham erfaring med webudvikling, SEO, trafikmonitering og skalerbar digital drift. Han gjorde herefter tjeneste i Israels forsvar, hvor han hjalp med at modernisere militærpolitiet ved hjælp af automatisering, kunstig intelligens, dataudvinding og agile metoder, mens han ledte hold og produktinitiativer. Efter en tidligere fejlslået startup og en intensiv forskningsperiode i Thailand med sine medstiftere, lancerede Bachar Vetric med fokus på infrastruktur i stedet for venturekapital, og voksede virksomheden skalerbart, mens han betjente organisationer, der afhænger af skalerbar adgang til offentlig webdata. Hans arbejde handler om WEBINT, OSINT, dataindsamling og digital trusselsintelligens, især i områder, der indebærer impersonation, svindel og deepfake-relaterede risici.

Vetric er et datainfrastruktur-virksomhed, der hjælper organisationer med at indsamle, behandle og operationalisere offentlig webdata i stor skala. Virksomheden positionerer sig selv som en pålidelig infrastruktur-lag for tillid, sikkerhed, cybersikkerhed og intelligenshold, der har brug for pålidelig, real-tidsadgang til åben webinformation. I stedet for at bygge en forbrugerorienteret platform fokuserer Vetric på managed API’er og fleksible datapipelines, der er designet til at forenkle storstilet offentlig dataindsamling over konstant skiftende online-miljøer. Virksomheden har understreget en “data for godt”-tilgang, hvor de støtter organisationer, der arbejder med at identificere impersonation-kampagner, deepfakes, svindel og andre digitale trusler. Ifølge virksomheden er den vokset fra et lille stiftende hold til en hurtigt voksende operation, der betjener over 100 organisationer globalt, mens de fastholder fokus på skalerbar infrastruktur og operativ pålidelighed.

Du startede med at bygge internetvirksomheder som teenager, arbejdede herefter på at modernisere det israelske militærpoliti med AI- og OSINT-værktøjer og stiftede til sidst Vetric.io efter at have tilbragt måneder med at forskere i problemer i Thailand. Hvordan formede disse erfaringer din overbevisning om, at datainfrastruktur, og ikke kun detectionsmodeller, ville blive det rigtige slagfelt i kampen mod deepfakes og digital impersonation?

Tråden gennem alle tre af disse kapitler var den samme: hvert problem, jeg troede var et detectionsproblem, viste sig at være et dataproblem ét lag dybere.

Som teenager, der fandt sårbarheder, var det hårde ikke udnyttelsen – det var at bygge infrastrukturen til at finde de rigtige mål i stor skala. I militærpolitiet var OSINT det gap, som ingen arbejdede på. Kriminelle efterlod beviser overalt på den åbne web, i plain sight, og vi havde næsten ingen systematisk måde at nå det på. Så i Thailand tilbragte vi måneder med at tale med forsvarsorganisationer, trusselsintelligenshold, brandbeskyttelsesleverandører, svindelhold. Samme mønster overalt. Alle ville have indsigt.

Dét var, da det klikkede. Detectionsmodeller er kun så gode som de data, du fodrer dem med. Hvis du ikke kan se deepfaken, øjeblikket den dukker op på den åbne web, er din detector irrelevant. Slagfeltet er ikke, om din model kan spotte et syntetisk ansigt i en benchmark – det er, om du har indsigt i overfladen, hvor angrebet faktisk lever. Offentlig datainfrastruktur er den del, som ingen vil bygge, fordi det er svært og ikke glamourøst, men uden det er resten af stacken teater.

Du har argumenteret for, at deepfake-problemet fundamentalt har ændret sig over de sidste 18 måneder. Hvordan specifikke teknologiske skift har gjort i dag AI-genereret svindel mere farligt end tidligere bølger af svindel og impersonation-angreb?

Tre ting ændrede sig på samme tid, og kombinationen er, hvad der gør denne forskellig.

Først blev multimodale modeller gode nok til, at man kan generere overbevisende video, lyd og tekst fra samme prompt på få minutter. Hvad der tidligere krævede et lille hold og nogle uger, tager nu en person og en kop kaffe.

Anden, omkostningerne faldt gennem gulvet. En højkvalitets stemme-klon af en offentlig person krævede tidligere en betydelig GPU-budget. I dag kører det på forbrugerhardware eller en $20 om måneden SaaS-abonnement. Omkostningerne er ikke længere en barriere.

Tredje – og dette er den underestimerede del – distributionslaget fik fat i det. Falsknerierne sidder ikke længere på et eller andet obskurt forum og venter på at blive opdaget. De lever på den åbne web, i de samme offentlige kilder, som dine kunder og medarbejdere forbruger dusinvis af gange om dagen, ofte med betalt forstærkning oveni. En fabrikeret video rejser lige så hurtigt som noget andet på den offentlige internet.

I tidligere bølger skulle en angriber vælge mellem kvalitet, hastighed, skala og rækkevidde. Nu kan de have alle fire for under $100. Asymmetrien mellem, hvad det koster at fabrikere en overbevisende impersonation, og hvad det koster en virksomhed at opdage, tilskrive og reagere på det, er bredere, end det nogensinde har været. Dét er skiftet.

De fleste offentlige diskussioner omkring deepfakes fokuserer stadig på detectionssoftware. Hvordan kan du mene, at pålidelig, storstilet offentlig datainfrastruktur nu er lige så vigtig som AI-modellerne selv?

Fordi en detector, der ikke kan se truslen, er et forskningsprojekt, ikke et forsvar.

De fleste af deepfake-diskussionerne fokuserer på, om modellen kan skelne mellem et syntetisk ansigt og et rigtigt i en kontrolleret benchmark. Dét er basiskrav. Det operationelle problem er det sværere: en brand-impersonation video går op kl. 3 om natten, får 200.000 visninger, før nogen lægger mærke til det, og din detections-pipeline skal faktisk modtage dette indhold i realtid, tilskrive det og udløse en reaktion. Hvis du ikke har en stabil, skalerbar måde at indsamle offentlig data fra den åbne web – de steder, hvor impersonation og svindel faktisk udvikler sig – har du intet at køre din detector på.

Der er et relateret punkt, vi lavede for nylig i en artikel om Anodot-leverandørens dataudbredelse. Virksomheder er begyndt at indse, at datasikkerhedsstillingen for deres dataleverandører er deres egen sikkerhedsstilling. Den samme indsigt kommer for AI: pålideligheden af din detections-stack er pålideligheden af din datapipeline. Modeller får presseomtale. Infrastruktur gør arbejdet. At behandle disse to som separate budgetlinjer er en fejl, markedet er ved at stoppe med at lave.

Vetric voksede til betydelig skala uden ekstern finansiering, mens de betjente virksomheder og intelligensrelaterede organisationer. Hvordan påvirkede bootstrapping måden, du byggede virksomheden på, og prioriterede infrastruktur-pålidelighed over vækst-til-alle-omkostnings-udvidelse?

Bootstrapping tvinger en slags kunde-obsession, der kan undgås af finansierede virksomheder i lang tid. Vi har altid troet på at give værdi, før vi vokser hurtigt – og for os er det ikke et slogan, det er en finansielle realitet.

Hver eneste dollar i vores bankkonto er en, som en kunde har valgt at give os i bytte for noget, der fungerer. Vi har ikke en $50 millioner-pude til at brokke gapet mellem et produkt, der næsten fungerer, og et, der gør.

Dét ændrer hver eneste beslutning, virksomheden tager. Dét formede vores arkitektur lige så meget som det formede vores vejrkort. Vores kunder, intelligens-agenter, digitale risikobeskyttelse-hold, offentlige sikkerhedshold, trusselsintelligens-platforme, vil ikke kun have et produkt, der fungerer.

Dét er også, hvorfor vi tegnede tillidsgrænsen, som vi gjorde. Vi skyder data ud til kunder; vi trækker aldrig data fra dem. Vi har ikke langvarige legitimationsoplysninger til en kundes cloud. Når kunderne ønsker levering til deres egen AWS, bruger vi scopede, skrivebeskyttede IAM-roller med eksterne ID’er – det anbefalede mønster specifikt designet til at forhindre den type vendor-angrebs-vektor, der lige har ramt Anodots kunder.

Deepfake-til-service-platforme er ved at sænke barrieren for angribere. Er vi på vej mod et punkt, hvor højttudviklede svindel-kapaciteter bliver fuldstændigt kommercialiserede og tilgængelige for næsten alle?

Vi er allerede der for de grundlæggende kapaciteter – og ikke kun på betalingsniveauet, men også på det gratis niveau. Vi er 12 til 18 måneder væk fra de mere avancerede.

Kig på, hvad der er åbent tilgængeligt lige nu. Modeller som Sora genererer overbevisende video fra en tekstprompt. Open-source ansigts-udskiftning-projekter på GitHub vil tage ethvert referencebillede og sætte ansigtet ind i en video, og resultaterne ser virkelig godt ud – ingen specialistfærdighed krævet, ingen betaling, ingen undergrundsmarked.

Barrieren for at producere en højkvalitets-falsk er en gratis download og en eftermiddag med eksperimenteren. Der er også betalte tjenester, der pakker en turnkey-arbejdsgang rundt om de samme modeller for folk, der ikke vil installere noget, men open-source-niveauet er den rigtige historie, fordi det er det, man ikke kan prissætte nogen ud af. Personen, der opererer det, behøver ikke at forstå den underliggende teknologi mere, end en person, der kører en phishing-kit, behøver at forstå SMTP.

Hvad der kommer herefter, er den skabelon-baserede, kampagne-i-en-boks-niveau – forhåndsbyggede impersonation-kits til bestemte mærker, bestemte direktører, bestemte valgkredse, med det syntetiske medie, de falske konti, distributionsplanen og målretningen alle pakket sammen. Når dét eksisterer i stor skala, falder den marginale omkostning ved at køre en impersonation-angreb til omtrent samme omkostning som at køre en betalt annonce. Implikationen for forsvarerne er ubehagelig. Du kan ikke længere antage, at angriberen er sofistikeret eller veludrustet. Angriberen er hvem som helst med en laptop og en grund til at være utilfreds. Dét ændrer volumen og variation af trusler med en størrelsesorden, og det redefinerer, hvad “troværdig trussel” betyder for enhver mærke, direktør, offentlig person med en internettilstedeværelse.

Mange virksomheder afhænger stadig af fragmenterede overvågnings-systemer og forsinket trusselsintelligens. Hvad er de største svagheder, du ser i, hvordan organisationer i øjeblikket indsamler og behandler offentlig webdata relateret til impersonation og svindel?

Et par svagheder dukker op igen og igen over kunde-samtaler. Først er det fragmentering. De fleste virksomheder kører et værktøj til mærke-overvågning, et andet til direktør-beskyttelse, et andet til svindel, et andet til sikkerhedsoperationer. Hver især trækker fra forskellige kilder med forskellig dækning, forskellig forsinkelse og forskellige blinde pletter.

Når en impersonation-kampagne bryder ud over flere områder af den åbne web på samme tid, er det præcis de søm mellem disse værktøjer, som angriberen gemmer sig. Og under denne fragmentering ligger et dybere problem: de fleste af disse værktøjer optimerer for nedlukning. At fjerne det falske profil er nødvendigt, men det alene er whac-a-mole – et andet dukker op dagen efter. Holdene, der får rigtig udbytte, er dem, der doublerer ned på efterforskning: forbinder punkterne mellem konti, infrastruktur og kampagner, så de demonterer netværket bag impersonationen i stedet for at slå på en URL ad gangen.

Den anden er afhængighed af middleware, der kræver dyb indgående adgang til kundesystemer. Dét er det strukturelle problem, vi skrev om i sammenhæng med Anodot-dataudbredelsen – leverandører, der kræver OAuth eller API-nøgler til din cloud, bliver enkelt-punkts-fejl for alle nedstrøms. SOC 2 vil ikke redde dig fra dét. Arkitekturen enten har blast-radius eller har det ikke.

Tredje er forsinkelse. Meget af, hvad der sælges som “real-tids trusselsintelligens”, er faktisk på en 4-24 timers forsinkelse, fordi den underliggende indsamling er batch-orienteret. For impersonation og svindel er dét en evighed. Inden alarmen udløses, er kampagnen løbet sin gang.

Fjerde er misfordeling mellem detections-dækning og analyse-kapaciteter. Virksomheder investerer i værktøjer, der flagger syntetisk eller mistænkeligt indhold, men de underinvesterer i dækning for at se, hvad der bliver postet om dem på den åbne web, og i analyse-kapaciteterne til at give mening til, hvad de ser – hvem der står bag det, hvordan konti forbindes, hvilken infrastruktur de deler. Flagging er ét skridt; dækning og analyse er, hvad der omdanner et flag til handling. Dét er som at købe en god brandvarslingsanordning og glemme at plugge den ind.

Du har talt om at håndtere milliarder af offentlige datapunkter hver måned. Hvordan tekniske udfordringer opstår, når man forsøger at bygge real-tids-infrastruktur, der kan identificere AI-drevne trusler i internet-skala?

De hårde problemer er ikke dem, de fleste mennesker forventer. Først og fremmest er bygning af denne type infrastruktur ikke det hårde – det er vedligeholdelse. Du bygger ikke en pipeline som vores engang og går væk. Du har brug for et helt hold, hvis job er at holde den i live, og dét er det hold, vi har bygget. De offentlige kilder, vi indsamler fra, skyder ændringer konstant, og hvilken som helst af dem kan stille og roligt bryde en indsamler. Det meste af udviklingsindsatsen over en produkts levetid går til vedligehold, ikke grøn felt-udvikling.

Anden er, at skalerbarhed er en løbebane. Du forbedrer pipeline, du skyder det hårdere, og på et tidspunkt bliver skalaen for stor for, hvad du byggede, og ting begynder at ryste. Så genbygger du den lag – nogle gange fra bunden – til næste niveau. Den cyklus stopper aldrig rigtigt. Hver orden af størrelse i volumen er effektivt et andet system, selvom det ser ud som samme produkt fra udenfor.

Tredje er uptime, som lyder kedeligt, indtil du husker, hvem vores kunder er. Nogle af dem bruger vores data til at hjælpe med at forhindre terrorangreb. Real-tid betyder, du ikke får en nådeperiode. Ting vil bryde – de gør altid – og hvad der betyder noget, er, at de er oppe resten af tiden og fikseres så hurtigt som menneskeligt muligt, når de ikke er. Vi har ingeniøret on-call-posturen, alertning og redundans omkring den virkelighed, ikke omkring en generisk SaaS-op-tid-nummer.

Da syntetisk medie bliver mere overbevisende, tror du, at samfundet er på vej mod en bredere “tillidskrise”, hvor folk begynder at tvivle på legitime lyd, video og kommunikation som standard?

Tættere, end folk ønsker at indrømme. Men jeg tror ikke, det ender i kollaps – jeg tror, det ender i en anden ligevægt.

Den naive version af tillidskrisen siger: ingen vil tro på noget lyd eller video, og den offentlige sfære kollapser. Jeg tror ikke, dét er, hvor dét går hen. Mennesker er bemærkelsesværdigt tilpasningsdygtige omkring epistemiske miljøer. Vi lærte at læse aviser med skepsis, derefter tv, derefter webben. Vi vil lære at læse AI-genereret medie med skepsis også, og dét er ikke helt dårligt – en sundere baseline for “verificér, før du stoler” er overforsinket.

Hvad jeg dog tror, vi vil se, er en skift i, hvad der tæller som bevis. Rå video og lyd vil blive svagere former for bevis; proveniens, kryptografisk signing, chain-of-custody og identitetsverificering vil blive stærkere former. Institutionerne, der figurerer ud, hvordan de kan troværdigt verificere deres egne kommunikationer – banker, regeringer, nyhedsorganisationer – vil trække frem. Dem, der ikke gør, vil blive impersoneret til uvæsentlighed.

Den farlige periode er den midterste, de næste to til tre år, hvor falsknerierne bliver overbevisende hurtigere, end verificeringslaget bliver deployeret. Dét er vinduet, hvor skaden bliver gjort, og dét er vinduet, vi prøver at give vores kunder indsigt til at overleve.

Tak for det store interview, læsere, der ønsker at lære mere, skal besøge Vetric. 

Antoine er en visionær leder og stiftende partner i Unite.AI, drevet af en urokkelig passion for at forme og fremme fremtiden for AI og robotteknologi. Som serieiværksætter mener han, at AI vil forandre samfundet lige så grundlæggende som elektriciteten, og han taler ofte begejstret om potentialet i banebrydende teknologier og kunstig generel intelligens (AGI).

Som fremtidsforsker er han optaget af at undersøge, hvordan disse innovationer vil forme vores verden. Han er desuden grundlægger af Securities.io, en platform med fokus på investering i avancerede teknologier, der omdefinerer fremtiden og omformer hele brancher.