David Kellerman, Field CTO la Cymulate – Seria de interviuri

David Kellerman este Field CTO la Cymulate și un profesionist tehnic senior cu experiență în domeniul securității informaționale și cibernetice. David conduce clienții către succes și standarde de securitate ridicate.

Cymulate este o companie de securitate cibernetică care oferă validare a expunerii la amenințări pentru organizații care doresc să închidă lacunele de securitate înainte ca atacatorii să le exploateze. Platforma sa permite organizațiilor să-și stabilească poziția de securitate și să-și consolideze reziliența cibernetică prin descoperire continuă, validare, prioritizare și remediere ghidată a slăbiciunilor de securitate. Prin automatizare și inteligență artificială, Cymulate oferă testare ofensivă de securitate avansată pentru a valida controalele, amenințările și căile de atac. Ca platformă deschisă, Cymulate se integrează cu infrastructura de securitate și IT existentă pentru a conduce fluxul de lucru al procesului de gestionare a expunerii și pentru a îmbunătăți apărarea în timp real. Prin oferirea de simulare a atacurilor și a breșelor de securitate, gestionare a poziției de securitate și gestionare a expunerii, Cymulate ajută afacerile să identifice vulnerabilitățile.

Ce considerați a fi principalul factor care determină creșterea amenințărilor de securitate cibernetică legate de inteligența artificială în 2025?

Amenințările de securitate cibernetică legate de inteligența artificială sunt în creștere din cauza accesibilității crescute a inteligenței artificiale. Actorii amenințători au acum acces la unelte de inteligență artificială care le pot ajuta să iterateze asupra malware-ului, să creeze e-mailuri de phishing mai convingătoare și să-și mărească atacurile pentru a-și crește raza de acțiune. Aceste tactici nu sunt „noi”, dar viteza și acuratețea cu care sunt lansate au adăugat semnificativ la lista deja lungă de amenințări cibernetice pe care echipele de securitate trebuie să le abordeze. Organizațiile se grăbesc să implementeze tehnologia de inteligență artificială, fără a înțelege pe deplin că controalele de securitate trebuie să fie puse în jurul acesteia, pentru a se asigura că nu este ușor exploatată de actorii amenințători.

Există industrii sau sectoare specifice care sunt mai vulnerabile la aceste amenințări legate de inteligența artificială și de ce?

Industriile care împărtășesc în mod constant date între angajați, clienți sau clienți sunt susceptibile la amenințările legate de inteligența artificială, deoarece inteligența artificială face mai ușor pentru actorii amenințători să se angajeze în scheme de inginerie socială convingătoare. Atacurile de phishing sunt, în esență, un joc de numere, și dacă atacatorii pot trimite acum e-mailuri mai autentice unui număr mai mare de destinatari, rata lor de succes va crește semnificativ. Organizațiile care expun serviciile lor bazate pe inteligență artificială publicului pot invita atacatorii să încerce să le exploateze. Deși este un risc moștenit de a face servicii publice, este crucial să se facă corect.

Care sunt principalele vulnerabilități cu care se confruntă organizațiile atunci când utilizează LLM-urile publice pentru funcțiile de afaceri?

Scurgerea de date este, probabil, principala preocupare. Atunci când se utilizează un model de limbaj mare public, este greu de spus cu certitudine unde vor ajunge aceste date – și ultimul lucru pe care doriți să-l faceți este să încărcați accidental informații sensibile într-un instrument de inteligență artificială accesibil public. Dacă aveți nevoie de date confidențiale analizate, păstrați-le în interior. Nu vă întoarceți la LLM-urile publice care pot scurge aceste date pe internetul mai larg.

Cum pot organizațiile să protejeze în mod eficient datele sensibile atunci când testează sau implementează sisteme de inteligență artificială în producție?

Când se testează sisteme de inteligență artificială în producție, organizațiile ar trebui să adopte o mentalitate ofensivă (și nu una defensivă). Prin aceasta, înseamnă că echipele de securitate ar trebui să testeze și să valideze proactiv securitatea sistemelor lor de inteligență artificială, în loc să reacționeze la amenințări care vin. Monitorizarea constantă a atacurilor și validarea sistemelor de securitate poate ajuta la protejarea datelor sensibile și la asigurarea că soluțiile de securitate funcționează așa cum sunt menite.

Cum pot organizațiile să se apere proactiv împotriva atacurilor conduse de inteligența artificială care evoluează în mod constant?

În timp ce actorii amenințători utilizează inteligența artificială pentru a-și actualiza amenințările, echipele de securitate pot, de asemenea, să utilizeze inteligența artificială pentru a-și actualiza instrumentele de simulare a breșelor și a atacurilor pentru a se asigura că sunt protejate împotriva amenințărilor emergente. Instrumente precum fluxul zilnic de amenințări al Cymulate încarcă amenințările emergente în software-ul de simulare a breșelor și a atacurilor zilnic, pentru a se asigura că echipele de securitate validează securitatea cibernetică a organizației împotriva celor mai recente amenințări. Inteligența artificială poate ajuta la automatizarea proceselor precum acestea, permițând organizațiilor să rămână agile și pregătite să facă față chiar și celor mai noi amenințări.

Care este rolul platformelor de validare a securității automate, precum Cymulate, în mitigarea riscurilor asociate cu amenințările cibernetice conduse de inteligența artificială?

Platformele de validare a securității automate pot ajuta organizațiile să rămână în fruntea amenințărilor cibernetice emergente conduse de inteligența artificială prin instrumente menite să identifice, să valideze și să prioritizeze amenințările. Cu inteligența artificială care servește ca multiplicator de forță pentru atacatori, este important să nu se detecteze doar vulnerabilitățile potențiale din rețea și sisteme, ci să se valideze care dintre ele reprezintă o adevărată amenințare pentru organizație. Abia atunci pot expunerile să fie eficient prioritizate, permițând organizațiilor să mitigeze primele amenințări periculoase înainte de a trece la articolele mai puțin presante. Atacatorii utilizează inteligența artificială pentru a sonda mediile digitale în căutarea potențialelor slăbiciuni înainte de a lansa atacuri extrem de personalizate, ceea ce înseamnă că capacitatea de a aborda vulnerabilitățile periculoase în mod automat și eficient a devenit mai critică ca niciodată.

Cum pot organizațiile să incorporeze instrumentele de simulare a breșelor și a atacurilor pentru a se pregăti pentru atacurile conduse de inteligența artificială?

Software-ul de simulare a breșelor și a atacurilor este un element important al gestionării expunerii, permițând organizațiilor să creeze scenarii de atac din lumea reală pe care le pot utiliza pentru a valida controalele de securitate împotriva celor mai presante amenințări de astăzi. Ultimul intel despre amenințări și cercetarea primară din partea Grupului de Cercetare a Amenințărilor Cymulate (combinată cu informații despre amenințări emergente și noi simulări) este aplicată zilnic instrumentului de simulare a breșelor și a atacurilor al Cymulate, alertând liderii de securitate dacă o nouă amenințare nu a fost blocată sau detectată de controalele de securitate existente. Cu simularea breșelor și a atacurilor, organizațiile pot, de asemenea, să personalizeze simulări conduse de inteligența artificială pentru mediile și politicile de securitate unice, cu un cadru deschis pentru a crea și automatiza campanii și scenarii de atac avansate.

Care sunt cele trei recomandări principale pe care le-ați face echipelor de securitate pentru a rămâne în fața amenințărilor emergente?

Amenințările devin din ce în ce mai complexe în fiecare zi. Organizațiile care nu au un program eficient de gestionare a expunerii riscă să rămână periculos în urmă, așa că prima mea recomandare ar fi să implementeze o soluție care să le permită organizației să-și prioritizeze eficient expunerile. Următoarea mea recomandare ar fi să se asigure că soluția de gestionare a expunerii include capacități de simulare a breșelor și a atacurilor care să le permită echipei de securitate să simuleze amenințări emergente (și nu numai) pentru a evalua cum funcționează controalele de securitate ale organizației. În final, aș recomanda să se utilizeze automatizarea pentru a se asigura că validarea și testarea pot avea loc în mod continuu, nu doar în timpul reviziilor periodice. Cu peisajul amenințărilor schimbându-se la fiecare minut, este critic să aveți informații actualizate. Datele despre amenințări de la trimestrul trecut sunt deja învechite.

Care sunt evoluțiile tehnologiei de inteligență artificială pe care le preconizați în următorii cinci ani care ar putea să exacerbeze sau să mitigeze riscurile de securitate cibernetică?

Mult depinde de cât de accesibilă va rămâne inteligența artificială. Astăzi, atacatorii de nivel scăzut pot utiliza capacități de inteligență artificială pentru a-și ridica și a-și mări atacurile, dar nu creează tactici noi și fără precedent – doar fac tactici existente mai eficiente. În prezent, putem (în mare măsură) să compensăm pentru asta. Dar dacă inteligența artificială va continua să crească și să rămână foarte accesibilă, acest lucru ar putea să se schimbe. Reglementările vor juca un rol aici – UE (și, într-o măsură mai mică, SUA) au luat măsuri pentru a reglementa modul în care se dezvoltă și se utilizează inteligența artificială, așa că va fi interesant de văzut dacă acest lucru va avea un efect asupra dezvoltării inteligenței artificiale.

Preconizați o schimbare în modul în care organizațiile prioritizează amenințările de securitate cibernetică legate de inteligența artificială în comparație cu provocările tradiționale de securitate cibernetică?

Deja vedem organizații care recunosc valoarea soluțiilor precum simularea breșelor și gestionarea expunerii. Inteligența artificială permite atacatorilor să lanseze campanii avansate și țintite, iar echipele de securitate au nevoie de orice avantaj pe care îl pot obține pentru a rămâne în față. Organizațiile care utilizează instrumente de validare vor avea o sarcină mult mai ușoară pentru a-și menține capul deasupra apei, prioritizând și mitigând primele amenințări periculoase. Amintiți-vă, majoritatea atacatorilor caută un punct slab. Nu puteți opri fiecare atac, dar puteți evita să vă faceți țintă ușoară.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre Cymulate pot vizita Cymulate.