Interviste

Omer Bachar, Co-fondatore e CEO di Vetric – Serie di Interviste

Antoine Tardif
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveIl bootstrapping ha costretto Vetric a dare priorità all'affidabilità…
Vedi di più
  • Il bootstrapping ha costretto Vetric a dare priorità all'affidabilità dell'infrastruttura rispetto a un'espansione a tutti i costi.
  • I modelli di rilevamento sono inutili senza un'infrastruttura di dati pubblici scalabile in grado di fornire loro minacce in tempo reale.
  • Il Deepfake-as-a-Service è già commoditizzato nel livello gratuito con strumenti open source.

Omer Bachar, Co-fondatore e CEO di Vetric, è un imprenditore israeliano e un leader tecnologico focalizzato sull’intelligenza open-source (OSINT) che ha costruito la sua carriera risolvendo complessi problemi di dati e intelligence. Prima di fondare Vetric nel 2022, Bachar ha sviluppato e monetizzato diverse aziende web come teenager, acquisendo esperienza nello sviluppo web, SEO, monetizzazione del traffico e operazioni digitali scalabili. In seguito, ha prestato servizio nelle Forze di Difesa israeliane, dove ha aiutato a modernizzare le operazioni della Polizia militare attraverso l’automazione, l’AI, la data mining e le metodologie agili, guidando team e iniziative di prodotto. Dopo un precedente fallimento di startup e un periodo di ricerca intensiva in Thailandia con i suoi co-fondatori, Bachar ha lanciato Vetric con un focus sull’infrastruttura piuttosto che sul finanziamento di venture, crescendo l’azienda in modo bootstrapped mentre serviva organizzazioni che si affidano all’accesso scalabile ai dati del web pubblico. Il suo lavoro si concentra su WEBINT, OSINT, raccolta di dati e intelligence sulle minacce digitali, in particolare nelle aree che coinvolgono l’impersonificazione, la frode e i rischi legati ai deepfake.

Vetric è un’azienda di infrastrutture di dati che aiuta le organizzazioni a raccogliere, elaborare e operazionalizzare i dati del web pubblico su larga scala. L’azienda si posiziona come un livello di infrastruttura affidabile per team di trust, sicurezza, cybersecurity e intelligence che necessitano di accesso affidabile e in tempo reale alle informazioni del web aperto. Piuttosto che costruire una piattaforma rivolta ai consumatori, Vetric si concentra su API gestite e pipeline di dati flessibili progettate per semplificare la raccolta di dati pubblici su larga scala in ambienti online in costante evoluzione. L’azienda ha enfatizzato un approccio “dati per il bene” (data for good), supportando organizzazioni che lavorano per identificare campagne di impersonificazione, deepfake, truffe e altre minacce digitali. Secondo l’azienda, è cresciuta da un piccolo team di fondatori in un’operazione in rapida espansione che serve oltre 100 organizzazioni a livello globale, rimanendo focalizzata sull’infrastruttura scalabile e sull’affidabilità operativa.

Hai iniziato a costruire aziende internet da teenager, in seguito hai lavorato sulla modernizzazione della Polizia militare israeliana con strumenti AI e OSINT, e infine hai co-fondato Vetric.io dopo aver trascorso mesi a ricercare problemi in Thailandia. Come hanno plasmato queste esperienze la tua convinzione che l’infrastruttura di dati, e non solo i modelli di rilevamento, sarebbe diventata il vero campo di battaglia nella lotta contro i deepfake e l’impersonificazione digitale?

Il filo conduttore attraverso tutti e tre questi capitoli è stato lo stesso: ogni problema che pensavo fosse un problema di rilevamento si è rivelato essere un problema di dati un livello più in basso.

Da teenager, trovando vulnerabilità, la parte difficile non era mai lo sfruttamento — era costruire l’infrastruttura per trovare i bersagli giusti su larga scala. Nella Polizia militare, l’OSINT era il gap che nessuno stava lavorando. I criminali lasciavano prove ovunque sul web aperto, in piena vista, e noi non avevamo quasi nessun modo sistematico per raggiungerle. Poi in Thailandia, abbiamo trascorso mesi parlando con agenzie di difesa, team di intelligence sulle minacce, vendor di protezione del marchio, team di frode. Stessa identica situazione ovunque. Tutti volevano informazioni.

È allora che ho capito. I modelli di rilevamento sono solo buoni quanto i dati che gli si forniscono. Se non puoi vedere il deepfake nel momento in cui appare sul web aperto, il tuo rilevatore è irrilevante. Il campo di battaglia non è se il tuo modello possa riconoscere un volto sintetico in un benchmark — è se hai visibilità sulla superficie dove l’attacco effettivamente vive. L’infrastruttura di dati pubblici è la parte che nessuno vuole costruire perché è difficile e non glamour, ma senza di essa il resto dello stack è teatro.

Hai sostenuto che il problema dei deepfake ha subito un cambiamento fondamentale negli ultimi 18 mesi. Quali sono gli specifici cambiamenti tecnologici che stanno rendendo la frode generata da AI più pericolosa rispetto alle precedenti ondate di truffe e attacchi di impersonificazione?

Tre cose sono cambiate contemporaneamente, e la combinazione è ciò che rende questa situazione diversa.

Innanzitutto, i modelli multimodali sono diventati abbastanza buoni da poter generare video, voce e testo convincenti dallo stesso prompt in pochi minuti. Ciò che un tempo richiedeva un piccolo team e alcune settimane ora richiede una persona e una tazza di caffè.

In secondo luogo, il costo è sceso drasticamente. Un clone di voce di alta qualità di una figura pubblica un tempo richiedeva un budget di GPU serio. Oggi funziona su hardware consumer o su un abbonamento SaaS da 20 dollari al mese. Il costo non è più una barriera.

In terzo luogo — e questo è il pezzo sottovalutato — il livello di distribuzione ha recuperato. I falsi non si trovano più su qualche forum oscuro in attesa di essere scoperti. Vivono sul web aperto, nelle stesse fonti pubbliche che i vostri clienti e dipendenti consumano decine di volte al giorno, spesso con amplificazione a pagamento in aggiunta. Un video contraffatto viaggia esattamente alla stessa velocità di qualsiasi altra cosa sul pubblico internet.

Nelle precedenti ondate, un attaccante doveva scegliere tra qualità, velocità, scala e portata. Ora può avere tutte e quattro per meno di 100 dollari. L’asimmetria tra ciò che costa fabbricare un’impersonificazione convincente e ciò che costa a un’azienda rilevarla, attribuirla e rispondere è più ampia di quanto sia mai stata. Questo è il cambiamento.

La maggior parte della discussione pubblica sui deepfake si concentra ancora sui software di rilevamento. Perché ritieni che un’infrastruttura di dati pubblici affidabile sia ora altrettanto importante quanto i modelli di AI stessi?

Perché un rilevatore che non può vedere la minaccia è un progetto di ricerca, non una difesa.

La maggior parte della conversazione sui deepfake si concentra sul fatto che il modello possa distinguere un volto sintetico da uno reale in un benchmark controllato. Questo è il minimo sindacale. Il problema operativo è più difficile: un video di impersonificazione del marchio viene pubblicato alle 3 del mattino, raccoglie 200.000 visualizzazioni prima che qualcuno se ne accorga, e la tua pipeline di rilevamento deve effettivamente ricevere quel contenuto in tempo reale, attribuirlo e scatenare una risposta. Se non hai un modo stabile e scalabile per ingerire dati pubblici dal web aperto — i luoghi dove l’impersonificazione e la frode effettivamente si svolgono — non hai nulla su cui eseguire il tuo rilevatore.

C’è un punto correlato che abbiamo fatto di recente in un pezzo sulla violazione della catena di approvvigionamento di Anodot. Le aziende stanno iniziando a rendersi conto che la postura di sicurezza dei loro fornitori di dati è la loro stessa postura di sicurezza. La stessa realizzazione sta arrivando per l’AI: l’affidabilità del tuo stack di rilevamento è l’affidabilità della tua pipeline di dati. I modelli ricevono la copertura stampa. L’infrastruttura fa il lavoro. Trattare questi due come linee di budget separate è un errore che il mercato sta per smettere di fare.

Vetric è cresciuta a una scala significativa senza finanziamenti esterni mentre serviva aziende e organizzazioni legate all’intelligence. Come ha influenzato il fatto di essere autofinanziata il modo in cui hai costruito l’azienda e hai dato priorità all’affidabilità dell’infrastruttura rispetto all’espansione a tutti i costi?

Essere autofinanziata costringe a un tipo di ossessione per il cliente che le aziende finanziate possono evitare per molto tempo. Abbiamo sempre creduto nel dare valore prima di crescere velocemente — e per noi non è uno slogan, è una realtà finanziaria.

Ogni dollaro nel nostro conto bancario è uno che un cliente ha scelto di darci in cambio di qualcosa che funzionava. Non abbiamo un cuscino di 50 milioni di dollari per colmare il gap tra un prodotto che funziona quasi e uno che funziona.

Questo cambia ogni decisione che l’azienda prende. Ha plasmato la nostra architettura tanto quanto ha plasmato la nostra roadmap. I nostri clienti, agenzie di intelligence, team di protezione del rischio digitale, team di sicurezza pubblica, piattaforme di intelligence sulle minacce, non vogliono solo un prodotto che funziona.

È anche il motivo per cui abbiamo tracciato il confine di fiducia nel modo in cui l’abbiamo fatto. Spingiamo i dati ai clienti; non li tiriamo mai da loro. Non deteniamo credenziali a lungo termine all’interno del sistema cloud di un cliente. Quando i clienti desiderano la consegna all’interno del proprio AWS, utilizziamo ruoli IAM con ID esterni scritti, il modello raccomandato da AWS progettato specificamente per prevenire il tipo di violazione del fornitore come vettore di attacco che ha appena colpito i clienti di Anodot.

Le piattaforme di servizio di deepfake stanno abbassando la barriera all’ingresso per gli attaccanti. Stiamo avvicinandoci a un punto in cui le capacità di frode altamente sofisticate diventano completamente commodificate e accessibili a quasi chiunque?

Siamo già lì per le capacità di base — e non solo al livello a pagamento, ma anche al livello gratuito. Siamo a 12-18 mesi dalle più sofisticate. Guarda cosa è disponibile adesso. Modelli come Sora generano video convincenti da un prompt di testo. Progetti di sostituzione del volto open-source su GitHub prenderanno qualsiasi immagine di riferimento e metteranno quel volto in un video, e i risultati sembrano veramente buoni — senza abilità specialistiche richieste, senza pagamento, senza mercato nero.

La barriera per produrre un falso di alta qualità è un download gratuito e un pomeriggio di sperimentazione. Ci sono anche servizi a pagamento che avvolgono un flusso di lavoro turnkey attorno agli stessi tipi di modelli per le persone che non vogliono installare nulla, ma il livello open-source è la vera storia, perché è quello che non puoi escludere a pagamento. La persona che lo esegue non deve capire la tecnologia sottostante più di quanto qualcuno che esegue un kit di phishing debba capire SMTP.

Ciò che sta arrivando dopo è il livello dei kit di campagna preconfezionati — kit di impersonificazione pre-costruiti per marchi specifici, esecutivi specifici, cicli elettorali specifici, con i media sintetici, i falsi account, la pianificazione della distribuzione e il targeting tutti insieme. Una volta che esiste su larga scala, il costo marginale per eseguire un attacco di impersonificazione scende al costo di eseguire una pubblicità a pagamento. L’implicazione per i difensori è scomoda. Non puoi più supporre che l’attaccante sia sofisticato o ben risorsato. L’attaccante è chiunque abbia un laptop e un rancore. Ciò cambia il volume e la varietà delle minacce di un ordine di grandezza, e ridefinisce cosa significa “minaccia credibile” per qualsiasi marchio, esecutivo o figura pubblica con una presenza su internet.

Molte aziende ancora si affidano a sistemi di monitoraggio frammentati e a intelligence sulle minacce ritardate. Quali sono i più grandi punti deboli che vedi nel modo in cui le organizzazioni attualmente raccolgono e elaborano i dati del web pubblico relativi all’impersonificazione e alla frode?

Alcuni punti deboli continuano a emergere attraverso le conversazioni con i clienti. Il primo è la frammentazione. La maggior parte delle aziende esegue uno strumento per il monitoraggio del marchio, un altro per la protezione degli esecutivi, un altro per la frode, un altro per le operazioni di sicurezza. Ognuno di essi attinge da fonti diverse con copertura diversa, latenza diversa e punti ciechi diversi.

Quando una campagna di impersonificazione si rompe attraverso più angoli del web aperto allo stesso tempo, le cuciture tra quegli strumenti sono esattamente dove l’attaccante si nasconde. E sotto quella frammentazione c’è un problema più profondo: la maggior parte di questi strumenti ottimizza per il ritiro. Rimuovere il profilo falso è necessario, ma da solo è un gioco del whac-a-mole — un altro ne spunta il giorno dopo. I team che ottengono un reale vantaggio sono quelli che raddoppiano le indagini: collegare i punti tra account, infrastrutture e campagne, in modo da smantellare la rete dietro l’impersonificazione piuttosto che colpire un URL alla volta.

Il secondo è la dipendenza da middleware che richiede un accesso profondo ai sistemi del cliente. Questo è il problema strutturale che abbiamo scritto a proposito della violazione di Anodot — i fornitori che richiedono OAuth o chiavi API nel cloud del cliente diventano punti singoli di fallimento per tutti quelli a valle. Il SOC 2 non ti salverà da questo. L’architettura ha o non ha il raggio di esplosione.

Il terzo è la latenza. Molto di ciò che viene venduto come “intelligenza sulle minacce in tempo reale” è in realtà in ritardo di quattro a ventiquattro ore perché la raccolta sottostante è orientata al batch. Per l’impersonificazione e la frode, questo è un’eternità. Una volta che l’allarme si attiva, la campagna ha già fatto il suo corso.

Il quarto è la cattiva allocazione tra copertura di rilevamento e capacità di analisi. Le aziende investono in strumenti che segnalano contenuti sintetici o sospetti, ma sottoinvestono nella copertura per effettivamente vedere cosa viene pubblicato su di loro attraverso il web aperto e nelle capacità di analisi per dare un senso a ciò che vedono — chi c’è dietro, come gli account si connettono, quale infrastruttura condividono. Il flagging è un passo; la copertura e l’analisi sono ciò che trasformano un flag in azione. Questo è come acquistare un ottimo allarme antincendio e dimenticarsi di collegarlo.

Hai parlato di gestire miliardi di punti di dati pubblici ogni mese. Quali sfide tecniche emergono quando si tenta di costruire un’infrastruttura in tempo reale in grado di identificare minacce guidate da AI su scala internet?

I problemi difficili non sono quelli che la maggior parte delle persone si aspetta. La prima cosa da dire è che costruire questo tipo di infrastruttura non è la parte difficile — mantenerla è. Non costruisci una pipeline come la nostra una volta e te ne vai. Hai bisogno di un intero team il cui lavoro è mantenerla viva, e questo è il team che abbiamo costruito. Le fonti pubbliche che raccogliamo cambiano costantemente, e una qualsiasi di esse può silenziosamente rompere un collector. La maggior parte dello sforzo di ingegneria nel corso della vita di un prodotto come questo va nella manutenzione, non nello sviluppo greenfield.

Il secondo è che la scalabilità è una cintura di sicurezza. Migliori la pipeline, la spingi più forte e a un certo punto la scala diventa troppo grande per ciò che hai costruito e le cose iniziano a tremare. Poi ricostruisci quel livello — a volte da zero — per il prossimo livello. Quel ciclo non finisce mai. Ogni ordine di grandezza in volume è effettivamente un sistema diverso, anche se sembra lo stesso prodotto dall’esterno.

Il terzo è il tempo di attività, che sembra noioso fino a quando non ricordi chi sono i nostri clienti. Alcuni di loro utilizzano i nostri dati per aiutare a prevenire attacchi terroristici. Il tempo reale significa che non hai un periodo di grazia. Le cose si romperanno — sempre lo fanno — e ciò che conta è che sono attive il resto del tempo e riparate il più velocemente possibile quando non lo sono. Abbiamo progettato la postura di on-call, l’allarme e la ridondanza attorno a questa realtà, non attorno a un numero di tempo di attività SaaS generico.

Man mano che i media sintetici diventano più convincenti, pensi che la società stia andando verso una più ampia “crisi di fiducia” in cui le persone iniziano a dubitare per default di audio, video e comunicazioni legittimi?

Più vicino di quanto le persone vogliano ammettere. Ma non credo che finisca nel collasso — credo che finisca in un nuovo equilibrio.

La versione ingenua della crisi di fiducia afferma: nessuno crederà più a nessun audio o video, e la sfera pubblica collassa. Non credo che sia dove questo va. Gli esseri umani sono notevolmente adattabili rispetto agli ambienti epistemici. Abbiamo imparato a leggere i giornali con scetticismo, poi la televisione, poi il web. Impareremo a leggere i media generati da AI con scetticismo anche noi, e questo non è del tutto un esito negativo — una base di “verifica prima di fidarsi” più salutare è dovuta da tempo.

Ciò che credo che vedremo è un cambiamento in ciò che conta come prova. Il video e l’audio grezzo diventeranno forme di prova più deboli; la provenienza, la firma crittografica, la catena di custodia e la verifica dell’identità diventeranno prove più forti. Le istituzioni che riescono a verificare in modo credibile le proprie comunicazioni — banche, governi, organizzazioni di notizie — si muoveranno avanti. Quelle che non lo faranno saranno impersonificate fino all’irrilevanza.

Il periodo pericoloso è quello di mezzo, i prossimi due o tre anni, dove i falsi diventano convincenti più velocemente del livello di verifica che viene distribuito. Questo è il periodo in cui si fa il danno, ed è il periodo per cui stiamo cercando di dare ai nostri clienti la visibilità per sopravvivere.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Vetric.

Antoine è un leader visionario e socio fondatore di Unite.AI, animato da una passione incrollabile per plasmare e promuovere il futuro dell’IA e della robotica. Imprenditore che ha fondato diverse aziende, ritiene che l’IA trasformerà la società quanto l’elettricità e parla spesso con entusiasmo del potenziale delle tecnologie dirompenti e dell’intelligenza artificiale generale (AGI).

In qualità di futurologo, si dedica a esplorare come queste innovazioni plasmeranno il nostro mondo. È inoltre il fondatore di Securities.io, una piattaforma incentrata sugli investimenti in tecnologie all’avanguardia che stanno ridefinendo il futuro e trasformando interi settori.