Liat Hayun, SVP Product Management & Research la Tenable – Seria de interviuri

Liat Hayun este VP de Product și Research la Tenable Cloud Security. Înainte de a se alătura Tenable, Liat a co-fondat și a ocupat funcția de CEO la Eureka Security, o companie de securitate a datelor care a fost achiziționată de Tenable. Înainte de a co-fonda Eureka Security, Liat a petrecut peste un deceniu conducând eforturile de securitate cibernetică la Comandamentul Cibernetic Israeli și la Palo Alto Networks (PANW ). Ca VP de Product Management la Palo Alto Networks, Liat a condus dezvoltarea Cortex XDR și a serviciului de vânătoare de amenințări gestionat de companie.

Tenable este o companie americană de securitate cibernetică care se concentrează pe ajutarea organizațiilor să identifice, să înțeleagă, să prioritizeze și să remedieze vulnerabilitățile de securitate de-a lungul întregului său atac digital. Este cel mai bine cunoscută pentru platforma sa de gestionare a expunerii și unelte precum scannerul de vulnerabilități Nessus, care permite companiilor să obțină vizibilitate asupra amenințărilor care se extind asupra infrastructurii IT, cloud, OT/IoT și sistemelor de identitate și să ia măsuri decisive pentru a reduce riscul care afectează afacerile. Soluțiile Tenable oferă descoperire continuă, prioritate și insight la amenințări pentru a sprijini gestionarea proactivă a riscurilor cibernetice pentru zeci de mii de clienți din întreaga lume.

Ce face fundamental mai periculoși agenții AI autonomi decât modelele de inteligență artificială tradiționale care răspund doar la prompte de utilizator, în loc de a acționa independent?

Agenții AI autonomi schimbă natura riscului, deoarece pot iniția sarcini, accesa sisteme, lua decizii și interacționa cu alte servicii fără supraveghere umană.

Această independență extinde atât viteza, cât și amploarea impactului potențial, crescând probabilitatea de expunere a datelor, perturbarea operațională și pierderile financiare. Un agent AI poate interoga magazine de date, declanșa fluxuri de lucru, apela API-uri sau modifica infrastructura în timp real. Dacă este configurat incorect sau compromis, poate muta lateral prin sisteme utilizând permisiunile acordate, adesea mai repede decât un om ar putea detecta sau interveni.

Conform Raportului de risc de securitate Cloud și AI 2026 al Tenable, 52% dintre organizații au acum identități ne-umane cu permisiuni excesive, iar aproape jumătate dintre acestea sunt inactive, creând acces necontrolat pe scară largă în mediile de producție. Acest lucru înseamnă că multe procese conduse de AI au deja acces pe care nu îl utilizează activ, dar pe care atacatorii îl pot utiliza.

Atacatorii exploatează din ce în ce mai mult ceea ce se numește problema “Confused Deputy”. Ei nu au nevoie să compromită agentul în sine. În schimb, îi păcălesc pe agenții autorizați să efectueze acțiuni în numele lor, adesea prin injecție de prompte indirecte sau intrări manipulate. Agentul execută solicitarea utilizând permisiunile sale legitime, efectuând practic munca atacatorului. Când sistemele autonome moștenesc permisiuni largi sau asumă roluri supraprivilegiate, timpul dintre configurarea incorectă și exploatare dispare efectiv, creând o lacună de expunere AI cu zero marjă.

În ce mod ar trebui să procedeze echipele de securitate pentru a evalua dacă agenții AI operaționali sunt deja activi în interiorul mediului lor, având în vedere că multe întreprinderi experimentează cu agenți AI în mod informal?

Închiderea lacunei de expunere AI începe cu descoperirea care se extinde dincolo de inventarele tradiționale de active. Faza de experimentare este adesea cea mai periculoasă, deoarece organizațiile nu știu pe deplin ce AI este utilizat, cum este configurat sau ce acces a fost acordat.

Agenții AI rareori trăiesc într-un singur sistem clar etichetat. Mulți operează în afara guvernanței formale. Ei apar în instrumente de dezvoltator, integrări SaaS, fluxuri de lucru automate, extensii de browser și servicii cloud, ceea ce creează o distribuție distribuită care mărește punctele oarbe și limitează controlul centralizat. Acest lucru este deja răspândit, deoarece peste 70% dintre organizații au integrat cel puțin un pachet de cod terță parte legat de AI sau de modele, adesea încorporând AI profund în aplicații și infrastructură cu supraveghere centralizată limitată.

Cercetarea recentă despre Clawdbot arată că implementările experimentale de agenți pot prezenta riscuri grave atunci când capacitățile sunt implementate înainte ca controalele de securitate sau standardele de configurare să fie pe deplin înțelese. Chiar și după ce experimentarea se încheie și organizațiile decid care aplicații AI să adopte, ele au nevoie încă de o guvernanță puternică asupra modului în care aceste sisteme sunt utilizate, ce permisiuni dețin și cum interacționează cu activele critice.

Faza de descoperire ar trebui să înceapă prin stabilirea unui inventar unificat al locurilor în care există AI în întreaga infrastructură, inclusiv puncte de capăt, infrastructură cloud și suprafețe de atac externe. Acest lucru include identificarea bibliotecilor AI, agenților, serviciilor de model, integrărilor terțe și nu numai a sistemelor desfășurate intern.

Următorul pas este ca echipele să cartografieze modul în care acești agenți sunt conectați și ce date au acces, ce identități utilizează, ce permisiuni dețin și care sisteme pot ajunge. Vizibilitatea necesită context, deoarece riscul provine din relații.

În final, după experiment, organizațiile ar trebui să identifice care dintre aceste conexiuni creează căi accesibile către activele critice și să închidă lacuna de expunere AI.

Cum se compară riscurile precum suprafețele de control expuse sau “abilitățile” terțe neevaluate cu amenințările mai familiare, cum ar fi atacurile lanțului de aprovizionare sau escaladarea privilegiilor?

Abilitățile terțe neevaluate și suprafețele de control expuse extind riscuri similare cu compromisul lanțului de aprovizionare și escaladarea privilegiilor, dar cu viteză, scară și conectivitate amplificate.

Abilitățile agenților terți funcționează mult ca dependențele lanțului de aprovizionare cu software, iar suprafața de expunere already are un impact semnificativ. Optzeci și șase la sută dintre organizații găzduiesc pachete de cod terță parte cu vulnerabilități de gravitate critică. Când aceste componente funcționează în interiorul agenților AI autonomi, execuția devine continuă și automatizată, eliminând timpul dintre compromis și impact.

Suprafețele de control expuse extind stratul de identitate și acces al riscului, creând noi interfețe operaționale care poartă permisiuni ridicate. Opteeni la sută dintre organizații permit deja serviciilor AI să asume roluri supraprivilegiate, oferind sistemelor automate o rază de acțiune largă în medii. Agenții AI autonomi leagă aceste expuneri într-o singură lanț operațional. O dependență vulnerabilă, permisiuni excesive și interfețe expuse se combină într-un drum de atac accesibil. Organizațiile operează într-un mediu fără marjă de eroare, în care expunerea și exploatarea se aliniază aproape instantaneu.

În ceea ce privește apărarea, ce înseamnă “igienă bună” pentru organizațiile care desfășoară agenți AI cu acces la sisteme interne sau date sensibile?

Igiena bună începe cu tratarea agenților AI ca actori digitali privilegiați cu autoritate reală asupra sistemelor și datelor. Organizațiile au nevoie de vizibilitate continuă asupra fiecărui agent, a ceea ce face și a ceea ce poate ajunge. Echipele ar trebui să impună principiul minim de permisiune pentru identitățile de mașină și serviciu, să elimine accesul inactiv și să restricționeze strict permisiunile. Fiecare agent ar trebui să fie dedicat unei sarcini specifice, cu permisiuni și acces limitate strict la acea funcție.

Acest lucru contează, deoarece accesul neutilizat este răspândit. Aproape jumătate dintre identitățile cu permisiuni excesive critice sunt inactive, iar peste 70% dintre rolurile de execuție AI implicite rămân nefolosite. Aceste condiții creează căi de escaladare gata făcute care poartă risc fără a oferi valoare.

Echipele de securitate trebuie, de asemenea, să înțeleagă relațiile de-a lungul infrastructurii, magazinelor de date, API-urilor și aplicațiilor. Cartografierea acestor conexiuni revelează combinații de expunere toxice, cum ar fi sarcini vulnerabile accesibile prin agenți supraprivilegiați cu acces la date sensibile.

O igienă puternică necesită, de asemenea, guvernanță continuă. Organizațiile trebuie să monitorizeze comportamentul agenților, să controleze integrările, să impună garduri de date și să valideze regulat permisiunile. Aceste practici închid lacuna de expunere AI și elimină căile de atac accesibile.

Ce ar trebui să facă organizațiile pentru a proteja suprafețele de atac AI rapid, fără a încetini inovația?

Organizațiile pot proteja suprafețele de atac AI prin reducerea expunerii cu viteză și precizie.

Pentru a face acest lucru, prima prioritate este identificarea sistemelor AI care creează căi accesibile către activele critice. Peste 80% dintre organizații rulează sarcini cu vulnerabilități care au fost deja exploatate în sălbăticie. Riscul există deja în interiorul majorității mediilor. Echipele de securitate trebuie să se concentreze asupra conexiunilor care creează impact real.

Apoi, să recunoască că automatizarea permite scalabilitate. Descoperirea continuă, prioritizarea contextuală și remedierea ghidată permit echipelor să reducă riscul, menținând în același timp viteza de dezvoltare.

În timp ce gardurile de politică protejează adoptarea, accesul la timp, fluxurile de date monitorizate și integrările controlate ajută organizațiile să gestioneze activitatea AI, menținând în același timp inovația.

Împreună, aceste etape reduc lacuna de expunere AI prin eliminarea accesului cu risc ridicat și a conexiunilor nesigure. Reducerea rapidă a expunerii protejează sistemele, permițând în același timp adoptarea AI să progreseze.

Cum ar trebui să gândească directorii de securitate a informațiilor despre identitate, permisiuni și domeniu de aplicare atunci când acordă agenților AI acces la sisteme de producție?

Directorii de securitate a informațiilor ar trebui să trateze agenții AI ca identități ne-umane cu viteză ridicată și autoritate operațională asupra sistemelor și datelor.

Deciziile de acces ar trebui să se concentreze pe precizie. Permisiunile ar trebui să se alinieze cu sarcini specifice, să rămână limitate în timp și să fie supuse unor revizuiri continue. Excesul de permisiuni extinde rază și crește impactul atunci când sistemele interacționează la viteza mașinilor.

Liderii de securitate au nevoie, de asemenea, de o perspectivă clară asupra domeniului de aplicare efectiv. Permisiunile, combinate cu căile de rețea, accesul la date și integrările de servicii, definesc ceea ce poate face de fapt un agent. Înțelegerea acestor relații revelează expunerea potențială înainte de a deveni impact.

Identitatea conectează infrastructura, datele și aplicațiile de-a lungul lacunei de expunere AI. Proiectarea permisiunilor stricte limitează raza de acțiune și menține controlul. Când timpul de la descoperirea expunerii la exploatare este aproape zero, guvernanța identității determină cât de sigur funcționează AI în producție.

Ar trebui să se aștepte ca agenții AI autonomi să forțeze o reevaluare a cadrului de securitate existent sau pot fi modelele actuale adaptate pentru a gestiona aceste riscuri noi?

Principiile de securitate rămân consistente, dar modelele operaționale evoluează. Agenții AI autonomi conectează sisteme, identități și date în medii dinamice care se schimbă continuu și operează la viteza mașinilor. În contrast cu operatorii umani, agenții nu aplică judecată asupra acțiunilor lor sau nu disting între solicitări adecvate și inadecvate. Ei execută acțiuni pe baza instrucțiunilor și permisiunilor, ceea ce crește importanța controlului strict și a guvernanței.

Riscul provine din relații de-a lungul infrastructurii, lanțurilor de aprovizionare cu software și stratului de identitate. Organizațiile moștenesc expunerea mai repede decât pot ține pasul ciclurile de remediere. Implementarea automată și exploatarea automată comprimă timpul de răspuns și cresc presiunea operațională.

Cadrul de securitate trebuie să se concentreze asupra vizibilității și reducerii expunerii. Echipele necesită o perspectivă continuă asupra a ceea ce există, cum sunt conectate sistemele și care căi duc către activele critice.

Provocarea definitorie este gestionarea riscului interconectat de-a lungul lacunei de expunere AI. Programele de securitate reușesc prin reducerea continuă a expunerii accesibile și menținerea controlului asupra mediilor complexe.

Privind spre viitor, ce domenii de cercetare a securității agenților AI autonomi merită mai multă atenție, pe măsură ce aceste instrumente trec de la experimental la critic pentru misiune?

Mai multe domenii de cercetare vor modela viitorul securității agenților AI.

În primul rând, creșterea ecosistemelor de identitate ne-umană necesită o analiză mai profundă. Organizațiile extind rapid identitățile de mașină care operează de-a lungul infrastructurii, datelor și serviciilor. Înțelegerea modelelor de permisiune, comportament și gestionare a ciclului de viață va fi esențială.

În al doilea rând, cercetarea trebuie să avanseze modelarea căilor de atac cu mai multe etape. Sistemele AI conectează lanțurile de aprovizionare cu software, infrastructura cloud și straturile de identitate. Cartografierea modului în care aceste elemente interacționează va îmbunătăți predicția și prioritizarea riscurilor.

În al treilea rând, guvernanța luării deciziilor autonome necesită o atenție mai mare. Echipele de securitate au nevoie de vizibilitate asupra modului în care agenții accesează, prelucrează și transferă date sensibile de-a lungul timpului.

În final, viteza de exploatare continuă să crească. Studierea modului în care atacatorii și apărătorii operează la viteza mașinilor va modela strategiile de răspuns.

Viitoarea securitate depinde de înțelegerea și reducerea lacunei de expunere AI. Cercetarea trebuie să se concentreze asupra controlului expunerii interconectate de-a lungul întregii suprafețe de atac.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Tenable ar trebui să viziteze Tenable.