Interviuri

Omer Bachar, Co-fondator și CEO al Vetric – Seria de interviuri

Antoine Tardif
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieBootstrapping-ul l-a forțat pe Vetric să prioritizeze fiabilitatea infrastructurii în…
Vezi mai mult
  • Bootstrapping-ul l-a forțat pe Vetric să prioritizeze fiabilitatea infrastructurii în detrimentul expansiunii cu orice preț.
  • Modelele de detectare sunt inutile fără o infrastructură scalabilă de date publice care să le alimenteze cu amenințări în timp real.
  • Deepfake-as-a-Service este deja comoditizat la nivelul gratuit, cu instrumente open-source.

Omer Bachar, Co-fondator și CEO al Vetric, este un antreprenor israelian și un lider tehnologic axat pe inteligență deschisă (OSINT) care și-a construit cariera în jurul soluționării problemelor complexe de date și inteligență. Înainte de a fonda Vetric în 2022, Bachar a dezvoltat și monetizat mai multe afaceri web ca adolescent, câștigând experiență în dezvoltare web, SEO, monetizare trafic și operațiuni digitale scalabile. Mai târziu, a servit în Forțele de Apărare ale Israelului, unde a ajutat la modernizarea operațiunilor Poliției Militare prin automatizare, AI, minerit de date și metode agile, conducând echipe și inițiative de produs. După un startup eșuat anterior și o perioadă intensă de cercetare în Thailanda cu co-fondatorii săi, Bachar a lansat Vetric cu accent pe infrastructură, nu pe finanțare de venture, crescând compania fără fonduri externe, în timp ce deservea organizații care se bazează pe acces scalabil la date web publice. Munca sa se concentrează pe WEBINT, OSINT, colectare de date și inteligență cu privire la amenințări digitale, în special în domenii care implică impersonare, fraudă și riscuri legate de deepfake.

Vetric este o companie de infrastructură de date care ajută organizațiile să colecteze, să proceseze și să operaționalizeze datele web publice la scară. Compania se poziționează ca un strat de infrastructură de încredere pentru echipele de încredere, securitate cibernetică și inteligență care necesită acces fiabil și în timp real la informații deschise. În loc să construiască o platformă cu față spre consumator, Vetric se concentrează pe API-uri gestionate și conducte de date flexibile, proiectate pentru a simplifica colectarea de date publice la scară largă în medii online în schimbare constant. Compania a subliniat o abordare “date pentru bine”, sprijinind organizații care lucrează pentru a identifica campanii de impersonare, deepfakes, escrocherii și alte amenințări digitale. Potrivit companiei, a crescut de la o echipă mică de fondatori într-o operațiune în expansiune rapidă care deservește peste 100 de organizații la nivel global, rămânând concentrată pe infrastructură scalabilă și fiabilitate operațională.

Ați început să construiți afaceri pe internet ca adolescent, mai târziu ați lucrat la modernizarea Poliției Militare israeliene cu instrumente de AI și OSINT și, în cele din urmă, ați co-fondat Vetric.io după ce ați petrecut luni cercetând probleme în Thailanda. Cum v-au modelat aceste experiențe convingerea că infrastructura de date, nu doar modelele de detectare, va deveni adevăratul câmp de luptă în lupta împotriva deepfake-urilor și a impersonării digitale?

Firul roșu care străbate toate cele trei capitole a fost același: fiecare problemă pe care am crezut că este o problemă de detectare s-a dovedit a fi o problemă de date cu un strat mai jos.

Ca adolescent care găsea vulnerabilități, partea grea nu a fost niciodată exploatarea — a fost construirea infrastructurii pentru a găsi țintele potrivite la scară. În Poliția Militară, OSINT a fost lacuna pe care nimeni nu a lucrat. Criminalii lăsau dovezi peste tot pe webul deschis, în vedere, și noi nu aveam aproape niciun sistem pentru a ajunge la ele. Apoi, în Thailanda, am petrecut luni vorbind cu agenții de apărare, echipe de inteligență cu privire la amenințări, furnizori de protecție a mărcilor, echipe de fraudă. Aceeași schemă peste tot. Toată lumea dorea informații.

Acesta este momentul în care s-a întâmplat. Modelele de detectare sunt la fel de bune pe cât sunt datele pe care le alimentați. Dacă nu puteți vedea deepfake-ul în momentul în care apare pe webul deschis, detectorul dvs. este irelevant. Câmpul de luptă nu este dacă modelul dvs. poate detecta o față sintetică într-un benchmark — este dacă aveți vizibilitate în suprafața în care trăiește atacul. Infrastructura de date publice este partea pe care nimeni nu vrea să o construiască, deoarece este grea și lipsită de strălucire, dar fără ea, restul stivei este teatru.

Ați susținut că problema deepfake-urilor s-a schimbat fundamental în ultimele 18 luni. Care sunt schimbările tehnologice specifice care fac ca frauda generată de AI să fie mai periculoasă astăzi decât valurile anterioare de escrocherii și atacuri de impersonare?

Trei lucruri s-au schimbat în același timp, și combinația este ceea ce face ca acest lucru să fie diferit.

În primul rând, modelele multimodale au devenit suficient de bune pentru a genera videoclipuri, voci și texte convingătoare din același prompt în câteva minute. Ceea ce obișnuia să necesite o echipă mică și câteva săptămâni acum necesită o singură persoană și o cafea.

În al doilea rând, costul a scăzut prin podea. O clonă de voce de înaltă calitate a unei personalități publice obișnuia să necesite un buget serios de GPU. Astăzi rulează pe hardware de consum sau pe o abonament lunar de 20 de dolari. Costul nu mai este o barieră.

În al treilea rând — și acesta este piesa subapreciată — stratul de distribuție a prins din urmă. Falsurile nu mai stau pe vreun forum obscur așteptând să fie descoperite. Ele trăiesc pe webul deschis, în aceleași surse publice pe care le consumă clienții și angajații dvs. de zeci de ori pe zi, adesea cu amplificare plătită în plus. Un videoclip fabricat călătorește exact la fel de repede ca orice altceva pe internetul public.

În valurile anterioare, un atacator trebuia să aleagă între calitate, viteză, scară și răspândire. Acum pot avea toate patru pentru sub 100 de dolari. Asimetria dintre ceea ce costă să fabrice o impersonare convingătoare și ceea ce costă o întreprindere să detecteze, să atribuie și să răspundă la aceasta este mai mare decât a fost vreodată. Acesta este schimbarea.

Cea mai mare parte a discuției publice despre deepfake-uri se concentrează încă pe software-ul de detectare. De ce credeți că o infrastructură de date publice fiabile și la scară largă este acum la fel de importantă ca și modelele de AI însele?

Pentru că un detector care nu poate vedea amenințarea este un proiect de cercetare, nu o apărare.

Cea mai mare parte a conversației despre deepfake-uri se concentrează pe faptul că modelul poate să spună o față sintetică de una reală într-un benchmark controlat. Acesta este nivelul de bază. Problema operațională este cea mai grea: un videoclip de impersonare a unei mărci apare la 3 dimineața, strânge 200.000 de vizualizări înainte ca cineva să observe și conducta dvs. de detectare trebuie să primească conținutul în timp real, să îl atribuie și să declanșeze un răspuns. Dacă nu aveți o modalitate stabilă și scalabilă de a ingera date publice de pe webul deschis — locurile în care se desfășoară impersonarea și frauda — nu aveți nimic pe care să rulați detectorul.

Există un punct legat de care am făcut recent o piesă despre încălcarea lanțului de aprovizionare Anodot. Întreprinderile încep să realizeze că postura de securitate a furnizorilor de date este propria lor postură de securitate. Aceeași realizare vine și pentru AI: fiabilitatea stivei de detectare este fiabilitatea conductei de date. Modelele primesc presa. Infrastructura face munca. Tratarea acestor două ca linii de buget separate este o greșeală pe care piața este pe cale să o înceteze.

Vetric a crescut la o scară semnificativă fără finanțare externă, în timp ce deservea întreprinderi și organizații legate de informații. Cum a influențat autofinanțarea modul în care ați construit compania și ați prioritizat fiabilitatea infrastructurii față de expansiunea cu orice preț?

Autofinanțarea impune un fel de obsesie pentru client pe care companiile finanțate pot să o evite pentru o perioadă lungă de timp. Am crezut întotdeauna în a oferi valoare înainte de a crește rapid — și pentru noi, acesta nu este un slogan, ci o realitate financiară.

Fiecare dolar din contul nostru bancar este unul pe care un client a ales să ni-l dea în schimbul a ceva care funcționează. Nu avem un pernă de 50 de milioane de dolari pentru a podi gapul dintre un produs care funcționează aproape și unul care funcționează.

Acest lucru schimbă fiecare decizie pe care o ia compania. A modelat arhitectura noastră la fel de mult pe cât a modelat și drumul nostru. Clienții noștri, agențiile de informații, echipele de protecție digitală a riscurilor, echipele de securitate publică, platformele de informații cu privire la amenințări, nu doar vor un produs care funcționează.

De asemenea, acesta este motivul pentru care am tras limitele de încredere așa cum am făcut. Împingem datele către clienți; nu tragem date de la ei. Nu deținem credențiale cu durată lungă de valabilitate în cloud-ul unui client. Când clienții vor livrare în propriul lor AWS, folosim roluri IAM cu scriere limitată și ID-uri externe — modelul recomandat de AWS, special conceput pentru a preveni tipul de încălcare a furnizorului ca vector de atac, care tocmai a lovit clienții Anodot.

Platformele de servicii de deepfake sunt în scădere barierele de intrare pentru atacatori. Ne îndreptăm către un punct în care capacitățile de fraudă foarte sofisticate devin complet comercializate și accesibile pentru aproape oricine?

Suntem deja acolo pentru capacitățile de bază — și nu doar la nivelul plătit, ci și la nivelul gratuit. Suntem la 12 până la 18 luni distanță de cele mai sofisticate. Uitați-vă la ceea ce este disponibil în mod deschis chiar acum. Modele precum Sora generează videoclipuri convingătoare dintr-un prompt de text. Proiectele de schimb de fețe cu sursă deschisă de pe GitHub vor lua orice imagine de referință și vor pune fața într-un videoclip, iar rezultatele arată cu adevărat bine — fără abilități specializate, fără plată, fără piață subterană.

Barierele pentru a produce un fals de înaltă calitate sunt o descărcare gratuită și o după-amiază de experimentare. De asemenea, există servicii plătite care încorporează un flux de lucru complet în jurul acelorași tipuri de modele pentru persoanele care nu vor să instaleze nimic, dar nivelul cu sursă deschisă este adevărata poveste, deoarece este acela pe care nu poți să-i scoți pe nimeni din el. Persoana care operează nu are nevoie să înțeleagă tehnologia subiacentă mai mult decât cineva care rulează un kit de phishing are nevoie să înțeleagă SMTP.

Ce urmează este nivelul șablonului, al cutiei cu campanie — kituri de impersonare preconcepute pentru mărci specifice, executivi specifici, cicluri electorale specifice, cu mass-media sintetică, conturi false, programare de distribuție și țintire, toate împachetate împreună. Odată ce acesta există la scară, costul marginal al rulării unui atac de impersonare scade la aproximativ costul rulării unei reclame plătite. Implicațiile pentru apărători sunt incomode. Nu mai puteți presupune că atacatorul este sofisticat sau bine dotat. Atacatorul este oricine cu un laptop și o părere de rău. Acest lucru schimbă volumul și varietatea amenințărilor cu o ordine de mărime, și redefinește ceea ce înseamnă “amenințare credibilă” pentru orice marcă, executiv sau persoană publică cu o prezență pe internet.

Întreprinderile încă se bazează pe sisteme de monitorizare fragmentate și informații despre amenințări întârziate. Care sunt cele mai mari slăbiciuni pe care le vedeți în modul în care organizațiile colectează și procesează datele web publice legate de impersonare și fraudă?

Câteva slăbiciuni continuă să apară în conversațiile cu clienții. Prima este fragmentarea. Cele mai multe întreprinderi rulează un instrument pentru monitorizarea mărcii, altul pentru protecția executivului, altul pentru fraudă, altul pentru operațiuni de securitate. Fiecare extrage din surse diferite cu acoperire, întârziere și puncte oarbe diferite.

Când o campanie de impersonare se sparge în mai multe colțuri ale webului deschis în același timp, cusăturile dintre aceste instrumente sunt exact acolo unde se ascunde atacatorul. Și sub această fragmentare este o problemă mai profundă: cele mai multe dintre aceste instrumente optimizează pentru scoaterea din funcțiune. Îndepărtarea profilului fals este necesară, dar singură, este o luptă cu greutăți — unul nou apare a doua zi. Echipele care obțin avantaje reale se concentrează pe dublarea investigației: conectarea punctelor dintre conturi, infrastructură și campanii, astfel încât să demonteze rețeaua din spatele impersonării, în loc să lovească un URL o dată.

Al doilea este dependența de middleware care necesită acces profund în sistemele clienților. Acesta este problema structurală pe care am scris-o în contextul încălcării Anodot — furnizorii care necesită OAuth sau chei API în cloud-ul dvs. devin puncte unice de eșec pentru toată lumea din aval. SOC 2 nu vă va salva de la aceasta. Arhitectura are sau nu are raza de explozie.

Al treilea este întârzierea. Multe dintre ceea ce se vinde ca “informații despre amenințări în timp real” sunt de fapt cu o întârziere de patru până la douăzeci și patru de ore, deoarece colectarea subiacentă este orientată spre loturi. Pentru impersonare și fraudă, acesta este un timp de vecuit. Până când alerta se declanșează, campania și-a încheiat cursul.

Al patrulea este alocarea incorectă între acoperirea detectării și capacitățile de analiză. Companiile investesc în instrumente care semnalează conținut sintetic sau suspect, dar subinvestesc în acoperirea pentru a vedea realmente ce este postat despre ele pe webul deschis și în capacitățile de analiză pentru a înțelege ceea ce văd — cine se află în spatele acestuia, cum se conectează conturile, ce infrastructură împărtășesc. Semnalizarea este un pas; acoperirea și analiza sunt ceea ce transformă un semnal în acțiune. Acesta este ca și cum ați cumpăra o alarmă de fum excelentă și ați uita să o conectați.

Ați vorbit despre gestionarea a miliarde de puncte de date publice în fiecare lună. Care sunt provocările tehnice care apar atunci când încercați să construiți o infrastructură în timp real capabilă să identifice amenințări conduse de AI la scară de internet?

Problemele grele nu sunt cele pe care oamenii le așteaptă. Primul lucru de spus este că construirea acestei infrastructuri nu este partea grea — menținerea ei este. Nu construiți o conductă ca a noastră o dată și plecați. Aveți nevoie de o echipă întreagă a cărei sarcină este să o țină în viață, și aceasta este echipa pe care am construit-o. Sursele publice pe care le colectăm se schimbă constant, și oricare dintre ele poate să strice în mod tacit un colector. Cea mai mare parte a efortului de inginerie pe durata de viață a unui produs ca acesta merge în întreținere, nu în dezvoltare nouă.

Al doilea este că scalarea este o bandă de alergare. Îmbunătățiți conducta, o împingeți mai tare, și la un moment dat scara devine prea mult pentru ceea ce ați construit, și lucrurile încep să se clatine. Apoi reconstruiți acel strat — uneori de la zero — pentru următorul nivel. Acest ciclu nu se termină niciodată. Fiecare ordin de mărime în volum este efectiv un sistem diferit, chiar dacă pare același produs din exterior.

Al treilea este timpul de funcționare, care sună plictisitor până când vă amintiți cui sunt clienții noștri. Unii dintre ei folosesc datele noastre pentru a ajuta la prevenirea atacurilor teroriste. Timpul real înseamnă că nu aveți o perioadă de grație. Lucrurile se vor strica — întotdeauna o fac — și ceea ce contează este că sunt în funcțiune restul timpului și reparat cât mai repede posibil atunci când nu sunt. Am inginerit postura de chemare, alertarea și redundanța în jurul acestei realități, nu în jurul unui număr generic de timp de funcționare SaaS.

Pe măsură ce mass-media sintetică devine mai convingătoare, credeți că societatea se îndreaptă către o criză de încredere mai largă, în care oamenii încep să se îndoiască de sunetul, videoul și comunicările legitime, în mod implicit?

Mai aproape decât oamenii vor să admită. Dar nu cred că se termină în prăbușire — cred că se termină într-un echilibru diferit.

Versiunea naivă a crizei de încredere spune: nimeni nu va crede niciun sunet sau videoclip, și sfera publică se prăbușește. Nu cred că acolo se duce acest lucru. Oamenii sunt remarjabili de adaptați la medii epistemice. Am învățat să citim ziare cu scepticism, apoi televizorul, apoi webul. Vom învăța să citim media generată de AI cu scepticism, și acesta nu este întotdeauna un rezultat rău — o bază mai sănătoasă de “verifică înainte de a încredere” este întârziată.

Ce cred că vom vedea este o schimbare a ceea ce contează ca dovadă. Sunetul și videoul brut vor deveni forme mai slabe de probă; proveniența, semnătura criptografică, lanțul de custodie și verificarea identității vor deveni forme mai puternice. Instituțiile care reușesc să verifice în mod credibil comunicările proprii — bănci, guverne, organizații mass-media — vor merge înainte. Cele care nu o fac vor fi impersonate până la irelevanță.

Intervalul periculos este cel mijlociu, următorii doi până la trei ani, în care falsurile devin convingătoare mai repede decât stratul de verificare se implementează. Acesta este intervalul în care se produc daunele, și acesta este intervalul în care încercăm să oferim clienților noștri vizibilitatea pentru a supraviețui.

Mulțumim pentru interviul excelent, cititorilor care doresc să afle mai multe despre Vetric.

Antoine este un lider vizionar și partener fondator al Unite.AI, animat de o pasiune de neclintit pentru modelarea și promovarea viitorului inteligenței artificiale și al roboticii. Antreprenor care a fondat mai multe companii, el crede că IA va transforma societatea la fel de profund ca electricitatea și vorbește adesea cu entuziasm despre potențialul tehnologiilor revoluționare și al inteligenței artificiale generale (AGI).

Ca futurolog, se dedică explorării modului în care aceste inovații vor modela lumea noastră. Este, de asemenea, fondatorul Securities.io, o platformă axată pe investiții în tehnologii de vârf care redefinesc viitorul și transformă sectoare întregi.