Interviews

Omer Bachar, mede-oprichter en CEO van Vetric – Interviewreeks

Antoine Tardif
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenDoor bootstrapping werd Vetric gedwongen om betrouwbaarheid van de infrastructuur te…
Meer weergeven
  • Door bootstrapping werd Vetric gedwongen om betrouwbaarheid van de infrastructuur te prioriteren boven groei-ten-koste-van-alles-expansie.
  • Detectiemodellen zijn nutteloos zonder schaalbare openbare data-infrastructuur om ze realtime bedreigingen te voeden.
  • Deepfake-as-a-Service is al gecommoditiseerd op het gratis niveau met opensource-tools.

Omer Bachar, mede-oprichter en CEO van Vetric, is een Israëlische ondernemer en een open-source intelligence (OSINT) gerichte technologie-leider die een carrière heeft opgebouwd rond het oplossen van complexe data- en inlichtingen-uitdagingen. Voordat hij Vetric in 2022 oprichtte, ontwikkelde en commercialiseerde Bachar meerdere webbedrijven als tiener, waardoor hij ervaring opdeed in webontwikkeling, SEO, traffic-monitoren en schaalbare digitale operaties. Later diende hij in het Israëlische leger, waar hij de militaire politie moderniseerde door middel van automatisering, AI, data-analyse en agile-methodologieën, terwijl hij teams en productinitiatieven leidde. Na een eerdere mislukte startup en een intensief onderzoeksperiode in Thailand met zijn mede-oprichters, lanceerde Bachar Vetric met een focus op infrastructuur in plaats van venture-funding, waardoor het bedrijf kon groeien zonder externe financiering, terwijl het organisaties diende die afhankelijk zijn van schaalbare toegang tot openbare webgegevens. Zijn werk is gericht op WEBINT, OSINT, data-verzameling en digitale dreigingsinlichtingen, met name in gebieden die betrekking hebben op impersonatie, fraude en deepfake-gerelateerde risico’s.

Vetric is een data-infrastructuurbedrijf dat organisaties helpt bij het verzamelen, verwerken en operationaliseren van openbare webgegevens op grote schaal. Het bedrijf positioneert zichzelf als een vertrouwde infrastructuurlaag voor vertrouwens-, veiligheids-, cybersecurity- en inlichtingenteams die betrouwbare, real-time toegang tot open webinformatie nodig hebben. In plaats van een consumentgerichte platform te bouwen, richt Vetric zich op beheerde API’s en flexibele datapipelines die zijn ontworpen om grote-schaalige openbare dataverzameling te vereenvoudigen in constant veranderende online omgevingen. Het bedrijf heeft de nadruk gelegd op een “data voor goed” -aanpak, waarbij het organisaties ondersteunt die werken aan het identificeren van impersonatiecampagnes, deepfakes, scams en andere digitale bedreigingen. Volgens het bedrijf is het gegroeid van een klein oprichtingsteam tot een snel groeiende onderneming die meer dan 100 organisaties wereldwijd bedient, terwijl het zich blijft richten op schaalbare infrastructuur en operationele betrouwbaarheid.

U begon internetbedrijven op te bouwen als tiener, later werkte u aan het moderniseren van de Israëlische militaire politie met AI- en OSINT-hulpmiddelen, en uiteindelijk richtte u Vetric.io op na maandenlang onderzoek naar problemen in Thailand. Hoe hebben die ervaringen uw overtuiging gevormd dat data-infrastructuur, en niet alleen detectiemodellen, het echte slagveld zal worden in de strijd tegen deepfakes en digitale impersonatie?

De draad door al deze drie hoofdstukken heen was hetzelfde: elk probleem dat ik dacht dat een detectieprobleem was, bleek een dataprobleem te zijn op een dieper niveau.

Als tiener die kwetsbaarheden vond, was het moeilijke deel nooit de exploit – het was het opbouwen van de infrastructuur om de juiste doelen op grote schaal te vinden. In de militaire politie was OSINT de kloof die niemand aan het werk was. Criminelen lieten bewijs overal op het open web achter, in het zicht, en we hadden bijna geen systematische manier om ernaar te kijken. Toen in Thailand brachten we maanden door met praten met verdedigingsagentschappen, dreigingsinlichtingenteams, merkbeschermingsleveranciers, fraude-teams. Hetzelfde patroon overal. Iedereen wilde inzichten.

Daar kwam het bij me op. Detectiemodellen zijn alleen zo goed als de data die u ze voedt. Als u de deepfake niet kunt zien op het moment dat deze op het open web verschijnt, is uw detector irrelevant. Het slagveld is niet of uw model een synthetisch gezicht in een benchmark kan herkennen – het is of u zicht heeft op het oppervlak waar de aanval daadwerkelijk leeft. Openbare data-infrastructuur is het deel dat niemand wil bouwen omdat het moeilijk en onglamoureus is, maar zonder het is de rest van de stack theater.

U heeft betoogd dat het deepfake-probleem fundamenteel is veranderd in de afgelopen 18 maanden. Wat zijn de specifieke technologische verschuivingen die vandaag de door AI gegenereerde fraude gevaarlijker maken dan eerdere golven van scams en impersonatie-aanvallen?

Drie dingen veranderden tegelijk, en de combinatie is wat dit anders maakt.

Ten eerste werden multimodale modellen goed genoeg dat u overtuigende video, stem en tekst uit hetzelfde prompt in enkele minuten kunt genereren. Wat eerder een klein team en een paar weken vereiste, kan nu door één persoon in een koffiepauze worden gedaan.

Ten tweede daalde de kosten door de vloer. Een hoge-kwaliteit stemkloon van een openbaar figuur vereiste eerder een serieus GPU-budget. Vandaag werkt het op consumentenhardware of een $20-per-maand SaaS-abonnement. De kosten zijn geen barrière meer.

Ten derde – en dit is het ondergewaardeerde deel – ving de distributie-laag op. De vervalsingen zitten niet langer op een of andere obscure forum te wachten tot ze worden ontdekt. Ze leven op het open web, in de openbare bronnen die uw klanten en medewerkers tientallen keren per dag consumeren, vaak met betaalde versterking erbovenop. Een gefabriceerde video reist even snel als alles anders op het open internet.

In eerdere golven moest een aanvaller kiezen tussen kwaliteit, snelheid, schaal en bereik. Nu kan hij alle vier hebben voor minder dan $100. De asymmetrie tussen wat het kost om een overtuigende impersonatie te fabriceren en wat het een onderneming kost om te detecteren, toe te schrijven en te reageren, is groter dan ooit tevoren. Dat is de verschuiving.

De meeste openbare discussies over deepfakes richten zich nog steeds op detectiesoftware. Waarom denkt u dat betrouwbare, grote-schaalige openbare data-infrastructuur nu net zo belangrijk is als de AI-modellen zelf?

Omdat een detector die de bedreiging niet kan zien, een onderzoeksproject is, niet een verdediging.

De meeste deepfake-conversaties richten zich op of het model een synthetisch gezicht van een echt gezicht in een gecontroleerde benchmark kan onderscheiden. Dat is een vereiste. Het operationele probleem is het moeilijkere: een merk-impersonatievideo gaat om 3 uur ‘s ochtends online, krijgt 200.000 views voordat iemand het opmerkt, en uw detectiepijplijn moet die content in real-time ontvangen, toeschrijven en een reactie uitlokken. Als u geen stabiele, schaalbare manier heeft om openbare data van het open web in te nemen – de plaatsen waar impersonatie en fraude daadwerkelijk plaatsvinden – heeft u niets om uw detector op te draaien.

Er is een verwant punt dat we onlangs in een stuk over de Anodot-supply-chain-breach hebben gemaakt. Ondernemingen beginnen te beseffen dat de beveiligingspostuur van hun data-leveranciers hun eigen beveiligingspostuur is. Dezelfde realisatie komt voor AI: de betrouwbaarheid van uw detectiestack is de betrouwbaarheid van uw datapipeline. Modellen krijgen de publiciteit. Infrastructuur doet het werk. Het behandelen van die twee als afzonderlijke budgetlijnen is een fout die de markt op het punt staat te stoppen.

Vetric groeide tot een aanzienlijke schaal zonder externe financiering, terwijl het ondernemingen en inlichtingen-gerelateerde organisaties diende. Hoe beïnvloedde het bootstrappen de manier waarop u het bedrijf opbouwde en prioriteerde de infrastructuur-betrouwbaarheid boven expansie met alle middelen?

Bootstrappen dwingt een soort klant-obsessie af die gefinancierde bedrijven lange tijd kunnen vermijden. We hebben altijd geloofd in het geven van waarde voordat we snel groeien – en voor ons is dat geen slogan, het is een financiële realiteit.

Elke dollar in onze bankrekening is er één die een klant heeft gekozen om ons te geven in ruil voor iets dat werkte. We hebben geen $50 miljoen-kussen om de kloof tussen een product dat bijna werkt en een dat werkt te overbruggen.

Dat verandert elke beslissing die het bedrijf neemt. Het vormde onze architectuur evenzeer als het onze roadmap vormde. Onze klanten, inlichtingendiensten, digitale risicobeschermingsteams, openbare veiligheidsteams, dreigingsinlichtingenteams, willen niet alleen een product dat werkt.

Dat is ook waarom we de vertrouwensgrens op die manier trokken. We duwen data naar klanten; we halen nooit data van hen op. We houden geen langdurige referenties naar een klantensysteem. Wanneer klanten levering in hun eigen AWS willen, gebruiken we gesloten, alleen-schrijven IAM-rollen met externe ID’s – het door AWS aanbevolen patroon dat specifiek is ontworpen om de soort vendor-aanval-vector-breach te voorkomen die de klanten van Anodot net heeft getroffen.

Deepfake-as-a-Service-platforms verlagen de drempel voor aanvallers. Gaan we in de richting van een punt waarop zeer geavanceerde fraudecapaciteiten volledig worden geïndiceerd en toegankelijk zijn voor bijna iedereen?

We zijn daar al voor de basis-capaciteiten – en niet alleen op het betaalde niveau, maar op het gratis niveau. We zijn 12 tot 18 maanden verwijderd van de meer geavanceerde. Kijk naar wat er momenteel openbaar beschikbaar is. Modellen zoals Sora genereren overtuigende video uit een tekstprompt. Open-source face-swap-projecten op GitHub nemen elke referentie-afbeelding en plaatsen dat gezicht in een video, en de resultaten zien er echt goed uit – geen specialistische vaardigheid vereist, geen betaling, geen ondergrondse markt.

De drempel voor het produceren van een hoge-kwaliteit vervalsing is een gratis download en een middag experimenteren. Er zijn ook betaalde diensten die een turnkey-workflow rond dezelfde soort modellen bieden voor mensen die niets willen installeren, maar het open-source-niveau is het echte verhaal, omdat het het niveau is dat je niet uit de markt kunt prijzen. De persoon die het exploiteert hoeft de onderliggende technologie niet te begrijpen, net zoals iemand die een phishing-kit uitvoert, SMTP niet hoeft te begrijpen.

Wat er vervolgens komt, is het geïndiceerde, campagne-in-een-doos-niveau – vooraf gebouwde impersonatiekits voor specifieke merken, specifieke executives, specifieke verkiezingscycli, met de synthetische media, de valse accounts, de distributieplanning en de doelgroep allemaal in één pakket. Zodra dat bestaat op grote schaal, daalt de marginale kosten van het uitvoeren van een impersonatie-aanval tot ongeveer de kosten van het uitvoeren van een betaalde advertentie. De implicatie voor verdedigers is oncomfortabel. U kunt niet langer aannemen dat de aanvaller gesofisticeerd of goed uitgerust is. De aanvaller is iedereen met een laptop en een grief. Dat verandert het volume en de variëteit van bedreigingen met een orde van grootte, en het herdefinieert wat “geloofwaardige bedreiging” betekent voor elk merk, elke executive of elke openbare figuur met een internet-aanwezigheid.

Veel ondernemingen vertrouwen nog steeds op gefragmenteerde monitortools en vertraagde dreigingsinlichtingen. Wat zijn de grootste zwakheden die u ziet in de manier waarop organisaties momenteel openbare webgegevens verzamelen en verwerken met betrekking tot impersonatie en fraude?

Er zijn een paar zwakheden die blijven verschijnen in gesprekken met klanten. De eerste is fragmentatie. De meeste ondernemingen draaien één tool voor merkmonitoring, een andere voor executive-bescherming, een andere voor fraude, een andere voor beveiligingsoperaties. Elk haalt uit verschillende bronnen met verschillende dekking, verschillende latentie en verschillende blinde vlekken.

Wanneer een impersonatiecampagne zich over meerdere hoeken van het open web uitstrekt, zijn de naden tussen die tools precies waar de aanvaller zich verbergt. En onder die fragmentatie ligt een dieper probleem: de meeste van deze tools zijn geoptimaliseerd voor takedown. Het verwijderen van het valse profiel is noodzakelijk, maar op zichzelf is het whac-a-mole – een andere verschijnt de volgende dag. De teams die echte hefboomwerking krijgen, zijn degenen die verdubbelen op onderzoek: het verbinden van de dots tussen accounts, infrastructuur en campagnes, zodat ze het netwerk achter de impersonatie ontmantelen in plaats van naar één URL te slaan.

De tweede is de afhankelijkheid van middleware die diepe inkomende toegang tot klantsystemen nodig heeft. Dat is het structurele probleem dat we schreven in de context van de Anodot-breach – leveranciers die OAuth of API-sleutels naar uw cloud nodig hebben, worden enkele punten van falen voor iedereen stroomafwaarts. SOC 2 zal u niet redden van dat.

De derde is latentie. Veel van wat wordt verkocht als “real-time dreigingsinlichtingen” is eigenlijk vertraagd met vier tot vierentwintig uur omdat de onderliggende collectie batch-georiënteerd is. Voor impersonatie en fraude is dat een eeuwigheid. Tegen de tijd dat de waarschuwing afgaat, is de campagne al voorbij.

De vierde is de misallocatie tussen detectie-dekking en analyse-mogelijkheden. Bedrijven investeren in tools die synthetische of verdachte inhoud markeren, maar ze investeren te weinig in de dekking om daadwerkelijk te zien wat er over hen op het open web wordt gepost, en in de analyse-mogelijkheden om zin te geven aan wat ze zien – wie erachter zit, hoe de accounts zijn verbonden, welke infrastructuur ze delen. Markeren is één stap; dekking en analyse zijn wat een vlag in actie omzetten. Dat is als het kopen van een geweldige rookmelder en vergeten om hem aan te zetten.

U heeft het over het afhandelen van miljarden openbare datapunten per maand. Wat zijn de technische uitdagingen die ontstaan bij het opbouwen van real-time-infrastructuur die in staat is om AI-gedreven bedreigingen te identificeren op internet-schaal?

De moeilijke problemen zijn niet degenen die de meeste mensen verwachten. Het eerste wat ik wil zeggen, is dat het opbouwen van deze soort infrastructuur niet het moeilijke deel is – het onderhouden ervan is. U bouwt geen pijplijn zoals de onze één keer en loopt weg. U hebt een heel team nodig wiens taak het is om het in leven te houden, en dat is het team dat we hebben opgebouwd. De openbare bronnen waaruit we verzamelen, duwen constant veranderingen door, en elke daarvan kan stilletjes een collector breken. De meeste ontwikkelingsinspanning over de levensduur van een product zoals dit gaat naar onderhoud, niet naar groene veldontwikkeling.

De tweede is dat schaalvergroting een loopband is. U verbetert de pijplijn, u duwt het harder, en op een gegeven moment wordt de schaal te veel voor wat u hebt gebouwd en beginnen dingen te schudden. Dan herbouwt u dat niveau – soms van scratch – voor het volgende niveau. Die cyclus eindigt nooit echt. Elke orde van grootte in volume is effectief een ander systeem, zelfs als het van buitenaf hetzelfde product lijkt.

De derde is uptime, wat saai klinkt totdat u zich herinnert wie onze klanten zijn. Sommigen van hen gebruiken onze data om te helpen voorkomen dat terroristische aanslagen plaatsvinden. Real-time betekent dat u geen gratieperiode krijgt. Dingen zullen breken – ze doen dat altijd – en wat telt, is dat ze de rest van de tijd omhoog zijn en zo snel mogelijk worden hersteld wanneer ze dat niet zijn. We hebben de on-call-postuur, de waarschuwing en de redundantie rond die realiteit ontworpen, niet rond een generieke SaaS-uptime-nummer.

Naarmate synthetische media overtuigender wordt, denkt u dat de samenleving in de richting van een bredere “vertrouwenscrisis” gaat, waarin mensen beginnen te twijfelen aan legitieme audio, video en communicatie per definitie?

Dichter bij dan mensen willen toegeven. Maar ik denk niet dat het eindigt in ineenstorting – ik denk dat het eindigt in een ander evenwicht.

De naïeve versie van de vertrouwenscrisis zegt: niemand zal enige audio of video geloven, en de openbare sfeer implodeert. Ik denk niet dat het daarheen gaat. Mensen zijn opvallend aanpasbaar aan epistemische omgevingen. We leerden sceptisch te lezen in kranten, toen televisie, toen het web. We zullen leren sceptisch te lezen in AI-gegenereerde media, en dat is niet geheel een slecht resultaat – een gezondere baseline van “verifieer voordat u vertrouwt” is over tijd.

Wat ik wel denk dat we zullen zien, is een verschuiving in wat telt als bewijs. Ruwe video en audio zullen zwakkere vormen van bewijs worden; herkomst, cryptografische ondertekening, keten van bewaring en identiteitsverificatie zullen sterkere vormen van bewijs worden. De instellingen die figureren uit hoe ze hun eigen communicatie op een geloofwaardige manier kunnen verifiëren – banken, regeringen, nieuwsorganisaties – zullen voorop lopen. Degenen die dat niet doen, zullen worden geïmpersonaliseerd in irrelevantie.

De gevaarlijke tussenperiode is de middelste, de komende twee tot drie jaar, waarin de vervalsingen overtuigender worden dan de verificatielaag wordt geïmplementeerd. Dat is het venster waarin de schade wordt aangericht, en dat is het venster waarin we onze klanten proberen te geven om te overleven.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Vetric bezoeken. 

Antoine is een visionaire leider en medeoprichter van Unite.AI, gedreven door een onwankelbare passie om de toekomst van AI en robotica vorm te geven en vooruit te helpen. Als serieondernemer gelooft hij dat AI de samenleving net zo ingrijpend zal veranderen als elektriciteit. Hij spreekt vaak enthousiast over het potentieel van baanbrekende technologieën en artificiële algemene intelligentie (AGI).

Als futurist onderzoekt hij hoe deze innovaties onze wereld zullen vormgeven. Daarnaast is hij oprichter van Securities.io, een platform dat zich richt op investeringen in geavanceerde technologieën die de toekomst opnieuw definiëren en hele sectoren veranderen.