Nati Hazut, director general și cofondator al Bold Security – Seria de interviuri

Nati Hazut este director general și cofondator al Bold Security. Anterior, a cofondat SAM Seamless Network și Polyrize, acumulând experiență în securitatea dispozitivelor conectate, gestionarea identităților, permisiunile în cloud și protecția datelor. La Bold, își folosește experiența pentru a securiza interacțiunile dintre angajați, agenții IA și datele sensibile ale companiilor.

Bold Security dezvoltă o tehnologie de protecție a datelor la nivelul dispozitivelor endpoint, care folosește modele lingvistice mici, rulate direct pe dispozitive, pentru a clasifica informațiile sensibile și a înțelege cum sunt utilizate. Platforma oferă echipelor de securitate instrumente prin care îi pot îndruma pe utilizatori, redirecționa activitățile sau bloca acțiunile riscante în browsere, aplicații desktop și agenți IA. În acest interviu, Hazut vorbește despre IA din umbră, inteligența integrată în dispozitiv, agenții autonomi și schimbarea perimetrului de securitate din jurul datelor companiilor.

Ați cofondat SAM Seamless Network și Polyrize înainte de a începe Bold Security împreună cu Hadar Krasner și Omri Mallis. Ce schimbări ați observat în securitatea companiilor și în domeniul IA, care v-au convins că era nevoie să construiți de la zero o altă companie de securitate?

Principalul efect al IA a fost schimbarea locului în care se desfășoară munca. Timp de decenii, cele mai sensibile activități pe care oamenii le desfășurau cu datele companiei aveau loc în browsere și aplicații SaaS, exact acolo unde se concentra suita de securitate. Acum, o mare parte din muncă se desfășoară chiar pe dispozitiv: oamenii redactează texte într-un asistent IA pentru desktop, introduc cod sursă într-o aplicație nativă și rulează agenți care interacționează direct cu fișierele, aplicațiile și sistemele companiei de pe laptop.

Această schimbare a invalidat ipotezele pe care se bazau majoritatea produselor de securitate. Inspecția rețelei vede doar traficul care trece prin ea, iar aplicațiile desktop își criptează traficul și ocolesc serverul proxy. CASB vede aplicațiile cloud aprobate. DSPM vede datele stocate în cloud. Niciuna dintre aceste soluții nu vede un fișier local introdus într-o aplicație IA pentru desktop sau un agent care transferă date fără ca o persoană să fie la tastatură.

Am înființat Bold deoarece endpointul este singurul loc în care se reunesc toate aceste elemente. Poți vedea datele, angajatul sau agentul care interacționează cu ele, ce încearcă să facă și încotro se îndreaptă informațiile. Și poți interveni înainte ca datele sensibile să iasă de sub controlul companiei.

IA din umbră poate lua diverse forme: de la angajați care folosesc conturi personale de ChatGPT până la aplicații desktop, extensii de browser, API-uri, conexiuni prin Model Context Protocol și agenți tot mai autonomi. Care forme de IA din umbră le este cel mai greu echipelor de securitate din companii să le detecteze și să le controleze în prezent?

Acum un an, toată lumea era preocupată de „IA din umbră”, dar discuția începe să capete mai multă profunzime. Echipele de securitate din companii încep să accepte faptul că angajații adoptă instrumente IA noi mai repede ca oricând. Așadar, întrebarea nu mai ține atât de inventarierea instrumentelor, cât de controlul datelor care circulă prin ele.

Desigur, nu poți controla ceea ce nu poți vedea. Iar cele mai greu de observat sunt canalele care nu trec niciodată printr-o rută de rețea monitorizată. Aplicațiile desktop citesc fișiere direct de pe dispozitiv și își criptează traficul, astfel încât nimic nu trece prin instrumentele concepute pentru a-l inspecta. Agenții au acces la informațiile companiei și continuă să le folosească fără ca un angajat să le furnizeze ceva de fiecare dată.

Toate acestea sunt canale noi de exfiltrare a datelor, iar întrebarea esențială este ce informații circulă prin ele. Trimiterea unui document public într-un cont corporativ aprobat nu este același lucru cu trimiterea unei baze de date cu clienți sau a unui cod sursă proprietar într-un cont personal; această diferență este vizibilă doar acolo unde se află datele și are loc acțiunea. Prin urmare, IA din umbră pe care nu o poți vedea este și locul în care contează cel mai mult ce date sunt implicate.

Bold adoptă o abordare axată pe endpoint, rulând IA local, pe dispozitiv, în loc să se bazeze în principal pe monitorizarea rețelei sau a cloudului. Ce poate înțelege un model rulat pe dispozitiv despre o interacțiune cu IA, dar nu poate înțelege prevenirea tradițională a pierderii datelor?

Bold face două lucruri în mod diferit. În primul rând, folosim IA pentru a proteja datele sensibile fără a fi nevoie să le trimitem unui alt serviciu de IA pentru analiză. Modelele noastre lingvistice mici rulează direct pe dispozitiv, unde pot înțelege ce date sunt sensibile, cine le accesează și încotro se îndreaptă. Astfel, putem identifica și opri acțiunile riscante în timp real, fără latența și costurile asociate trimiterii tuturor datelor în cloud.

În al doilea rând, protecția noastră acoperă și canalele pe care instrumentele tradiționale de securitate nu le monitorizează. Cea mai mare parte a pieței se concentrează în continuare pe browsere și traficul de rețea, însă datele sensibile circulă tot mai des prin aplicații IA pentru desktop, instrumente de programare, terminale și agenți autonomi. Produsele convenționale de prevenire a pierderii datelor și de securitate în cloud le detectează cu mult mai multă dificultate.

Operând la nivelul dispozitivului endpoint, putem proteja datele în toate aceste medii și putem interveni înainte ca informațiile sensibile să iasă de sub controlul companiei.

Tehnologia voastră este concepută să înțeleagă nu doar ce date sunt accesate, ci și contextul și intenția din spatele unei acțiuni. Cum faceți diferența între utilizarea legitimă a informațiilor sensibile și un comportament care reprezintă un risc real de securitate, fără să generați un număr excesiv de rezultate fals pozitive?

Contextul este esențial aici. Nu poți trata fiecare încărcare de fișier sau fiecare agent care accesează datele ca pe un incident de securitate, altfel nimeni nu-și mai poate face treaba.

Același fișier poate fi ceva obișnuit într-un context și o problemă gravă în altul. O listă de clienți este firească în instrumentul de asistență, dar reprezintă o problemă reală dacă este încărcată într-un cont personal. Codul sursă își are locul în depozitul de cod, nu într-un prompt adresat unui instrument de IA destinat consumatorilor.

Un instrument care știe doar că acel conținut corespunde unei reguli trebuie fie să semnaleze ambele cazuri, fie să nu semnaleze niciunul. De aici apar alertele false. Ca să deosebești utilizarea obișnuită a IA de un risc real, trebuie să știi ce date sunt, cine le transferă și unde ajung.

Agenții IA introduc un model de securitate diferit, deoarece software-ul poate accesa tot mai mult fișiere, poate apela instrumente, se poate conecta prin servere MCP și poate întreprinde acțiuni cu implicare umană limitată. Cum trebuie să evolueze securitatea endpointurilor, când actorul care interacționează cu datele corporative sensibile poate fi un agent autonom, nu un angajat?

Securitatea a fost concepută în mare parte pentru oameni, însă agenții pot acționa acum cu viteza mașinilor, deschizând fișiere, apelând instrumente și transferând date fără ca cineva să aprobe fiecare pas. Securitatea trebuie să funcționeze cu aceeași viteză. Multe produse folosesc IA pentru a analiza incidentele după ce au avut loc. Noi o folosim pentru a înțelege și a opri acțiunile riscante în timp real, inclusiv pe cele care au loc în afara browserului.

Un agent poate lucra într-o aplicație desktop, într-un terminal sau într-un alt instrument pe care îl descoperă în timp ce îndeplinește o sarcină. Securitatea trebuie să urmărească datele și acțiunile în toate aceste medii, indiferent dacă responsabil este un om sau un agent.

Asta ridică și o întrebare pe care echipele de securitate nu au fost nevoite să și-o pună până acum. Când se întâmplă ceva riscant, persoana a făcut-o intenționat sau agentul a greșit? Aceste situații necesită răspunsuri diferite. Dacă un angajat ia o decizie greșită, îl îndrumi. Dacă un agent face ceva ce nu i-a cerut nimeni, îl oprești.

La nivelul endpointului poți face diferența, pentru că acolo se întâlnesc datele, procesul și acțiunea.

Multe companii au răspuns la riscurile IA generative prin restricționarea sau interzicerea anumitor instrumente. Credeți că organizațiile se îndreaptă spre un model în care poate fi permis practic orice instrument de IA, atât timp cât există controale care stabilesc ce date poate accesa și unde pot ajunge acele date?

Interdicțiile generale nu vor rezolva problema. Angajații pot găsi un nou instrument de IA și pot începe să-l folosească în câteva secunde, iar cei mai mulți nu încearcă să ocolească securitatea. Vor doar să-și facă treaba mai repede.

Întrebarea mai bună este ce se întâmplă cu datele companiei când folosesc aceste instrumente.

Dacă cineva folosește un cont personal de IA pentru o activitate inofensivă, poate că e suficient să-i indici contul corporativ. Dacă urmează să trimită cod sursă, informații despre clienți sau date de autentificare într-un loc nepermis de companie, atunci securitatea trebuie să intervină.

Cred că în această direcție ne îndreptăm. Le oferim oamenilor libertatea de a folosi IA, dar instituim controale asupra datelor. Știm ce date sunt accesate, unde ajung și când trebuie să intervenim.

Utilizarea locală a IA poate aduce avantaje în privința latenței și a confidențialității, însă dispozitivele endpoint au resurse limitate de calcul și memorie. Ce compromisuri tehnice ați întâmpinat când ați construit modele capabile să clasifice semantic datele și să aplice măsuri de protecție în timp real direct pe dispozitivele angajaților?

Nu poți instala un model uriaș pe laptopul cuiva, epuizându-i procesorul și memoria, și să numești asta securitate. Dacă produsul tău de securitate face computerul neplăcut de folosit, angajații îl vor detesta, iar departamentul IT îl va dezactiva.

Așadar, există compromisuri foarte reale. Modelul trebuie să înțeleagă suficient de bine datele pentru a deosebi conținutul inofensiv de cel sensibil, dar trebuie să fie și suficient de rapid, compact și fiabil pentru a rula continuu în fundal.

La început, am lucrat la construirea unor modele care să poată clasifica în mod util datele pe diferite tipuri de computere, fără să le încetinească. Am realizat deja această muncă de inginerie, astfel încât clienții să nu fie nevoiți să facă singuri aceste compromisuri.

Experiența utilizatorului a fost prioritatea noastră principală pe tot parcursul dezvoltării. Produsul nostru folosește aproximativ 20% din resursele de calcul utilizate de agenții fără IA ai concurenților tradiționali, luând în același timp decizii local, pe măsură ce are loc o acțiune. Datele sensibile nu trebuie să părăsească dispozitivul doar pentru a determina dacă sunt sensibile.

Bold poate identifica instrumentele și conturile de IA, precum și activitatea agenților, oferind îndrumare, redirecționând sau blocând acțiunile riscante. Cum stabiliți când sistemul ar trebui doar să avertizeze utilizatorul și când ar trebui să oprească automat o acțiune?

Gândește-te cum ar proceda un coleg de treabă. Dacă ești pe cale să lipești o versiune preliminară în contul tău personal de ChatGPT, s-ar apleca spre tine și ți-ar spune: „Hei, avem un cont de companie pentru asta.” Dacă ești pe cale să încarci baza de date a clienților în contul tău personal de Drive, te-ar opri din răsputeri.

Încercăm să procedăm la fel și constatăm că, în cel puțin 90% din cazuri, instruirea îi îndrumă eficient pe utilizatori către alternativa sigură. În majoritatea cazurilor, cineva se află din greșeală în contul greșit sau nu cunoaște politica companiei privind locurile în care pot ajunge datele.

În ultimă instanță, clientul decide ce să blocheze, iar fiecare companie trasează această limită în mod diferit. Rolul nostru este să-i oferim contextul și încrederea necesare pentru a lua decizia potrivită. În cazul fluxurilor riscante mai complexe, asta înseamnă să folosim contextul despre care am vorbit mai devreme, evaluat în raport cu istoricul utilizatorului și chiar cu cel al grupului său de colegi.

Cariera ta a evoluat de la securizarea dispozitivelor conectate la SAM, la gestionarea identității și a permisiunilor în cloud la Polyrize, iar acum la protejarea interacțiunilor dintre oameni, agenți IA și datele companiilor la Bold. Cum ți s-a schimbat perspectiva asupra limitei fundamentale a securității de-a lungul acestor trei generații de securitate cibernetică?

Perspectiva mea asupra principiilor fundamentale s-a clarificat. Firul comun este să aducem securitatea cât mai aproape de locul în care se desfășoară acțiunea și să o facem să funcționeze la scară largă.

La SAM, am adus securitate de nivel enterprise pe routere cu resurse foarte limitate. Asta ne-a învățat cum să implementăm eficient tehnologii avansate la periferia rețelei. La Polyrize, ne-am concentrat pe protejarea datelor în medii cloud și SaaS, prin vizibilitate și gestionarea poziției de securitate. Înțelegerea expunerii este esențială, dar nu îți permite neapărat să previi o acțiune riscantă.

Bold reunește aceste lecții. Integrăm inteligența la nivelul endpointului, unde oamenii și agenții IA interacționează cu datele, și oferim echipelor de securitate contextul necesar pentru a înțelege riscurile și a interveni în timp real.

Securitatea rețelelor și cea a cloudului rămân importante, dar endpointul poate vedea activitatea desfășurată prin aplicații desktop, fișiere locale, conturi personale și agenți care rulează pe dispozitiv. Am învățat că locul și momentul în care intervine securitatea contează la fel de mult ca nivelul ei de inteligență.

Privind cu trei până la cinci ani înainte, pe măsură ce angajații vor lucra alături de agenți IA din ce în ce mai autonomi, ce crezi că va deveni endpointul din companii? Am putea ajunge în punctul în care fiecare dispozitiv să aibă, în esență, propriul nivel inteligent de securitate, care decide în permanență ce oameni și agenți pot interacționa cu anumite date?

Cred că exact în această direcție ne îndreptăm.

Endpointul devine un nivel inteligent de securitate care înțelege ce date se află pe dispozitiv, știe dacă interacționează cu acestea o persoană sau un agent și decide local ce ar trebui și ce nu ar trebui să se întâmple.

Acest lucru devine cu atât mai important cu cât agenții capătă mai multă autonomie. O persoană ar putea avea mai mulți agenți care lucrează simultan în numele său, folosind fișiere, aplicații și sisteme ale companiei. Securitatea nu se poate baza pe aprobarea fiecărui pas de către acea persoană, fiindcă, din ce în ce mai des, aceasta nu va urmări ce se întâmplă.

Datele trebuie în continuare protejate, dar numărul celor care le accesează va crește cu mult peste cel al unei singure persoane aflate la tastatură. Sistemele de securitate vor trebui să comunice cu agenții, să ia decizii și să reacționeze autonom pe măsură ce au loc acțiunile. Persoanele care operează aceste sisteme vor supraveghea din ce în ce mai mult controalele și deciziile, în loc să verifice fiecare eveniment în parte. Endpointul este locul în care pot fi luate aceste decizii, cât timp datele se află încă sub controlul companiei.

Vă mulțumim pentru interviul excelent. Cititorii care doresc să exploreze protecția datelor la nivelul endpointurilor și adoptarea securizată a IA în companii pot vizita Bold Security.