Steve Wilson, Chief AI și Product Officer la Exabeam – Seria de interviuri

Steve Wilson este Chief AI și Product Officer la Exabeam, unde echipa sa aplică tehnologii de ultimă generație AI pentru a aborda provocări reale de securitate cibernetică. El a fondat și copreședintează proiectul OWASP Gen AI Security, organizația din spatele listei standard OWASP Top 10 pentru securitatea modelului de limbaj mare.

Cartea sa premiată, „The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), a fost selectată ca cea mai bună carte de securitate cibernetică de către Cyber Defense Magazine.

Exabeam este un lider în inteligență și automatizare care alimentează operațiunile de securitate pentru cele mai inteligente companii din lume. Prin combinarea scalei și puterii AI cu puterea noastră de analiză comportamentală și automatizare de top, organizațiile obțin o vedere mai holistică a incidentelor de securitate, descoperă anomalii care au fost ratate de alte instrumente și realizează răspunsuri mai rapide, mai precise și mai repetabile. Exabeam împuternicește echipele globale de securitate pentru a combate amenințările cibernetice, a reduce riscul și a optimiza operațiunile.

Noul dvs. titlu este Chief AI și Product Officer la Exabeam. Cum reflectă acest lucru evoluția importanței AI în securitatea cibernetică?

Securitatea cibernetică a fost printre primele domenii care au adoptat cu adevărat învățarea automată – la Exabeam, am folosit ML ca nucleu al motorului nostru de detectare de peste un deceniu pentru a identifica comportamentul anormal pe care oamenii singuri ar putea să-l rateze. Cu sosirea noilor tehnologii AI, cum ar fi agenții inteligenți, AI a crescut de la a fi important la a fi absolut central.

Rolul meu combinat de Chief AI și Product Officer la Exabeam reflectă exact această evoluție. La o companie profund dedicată încorporării AI în produsele sale și într-o industrie precum securitatea cibernetică, unde rolul AI este din ce în ce mai critic, a fost logic să unificăm strategia AI și strategia de produs sub un singur rol. Această integrare ne asigură că suntem strategic aliniați pentru a oferi soluții transformaționale conduse de AI pentru analiștii de securitate și echipele de operațiuni care depind de noi cel mai mult.

Exabeam este pionier în “agentic AI” în operațiunile de securitate. Puteți explica ce înseamnă acest lucru în practică și cum se diferențiază de abordările tradiționale AI?

Agentic AI reprezintă o evoluție semnificativă de la abordările tradiționale AI. Este orientat spre acțiune – inițiază procese, analizează informații și prezintă insight-uri înainte ca analiștii să le ceară. Dincolo de simpla analiză a datelor, agentic AI acționează ca un consilier, oferind recomandări strategice pe întregul SOC, îndrumând utilizatorii către cele mai ușoare victorii și oferind îndrumări pas cu pas pentru a-și îmbunătăți postura de securitate. În plus, agenții funcționează ca pachete specializate, nu ca un singur chatbot incomod, fiecare personalizat cu personalități și seturi de date specifice care se integrează perfect în fluxul de lucru al analiștilor, inginerilor și managerilor pentru a oferi asistență țintită și impactantă.

Cu Exabeam Nova, care integrează mai mulți agenți AI în fluxul de lucru al SOC, cum arată viitorul rolului de analist de securitate? Se evoluează, se micșorează sau devine mai specializat?

Rolul de analist de securitate se evoluează cu siguranță. Analiștii, inginerii de securitate și managerii SOC sunt copleșiți de date, alerte și cazuri. Schimbarea reală din viitor nu este doar despre economisirea timpului pentru sarcinile mundane – deși agenții ajută cu siguranță acolo – ci despre ridicarea rolului fiecăruia la nivel de lider de echipă. Analiștii vor avea nevoie în continuare de abilități tehnice puternice, dar acum vor conduce o echipă de agenți pregătiți să accelereze sarcinile lor, să amplifice deciziile lor și să îmbunătățească cu adevărat postura de securitate. Această transformare poziționează analiștii pentru a deveni orchestratori strategici, mai degrabă decât răspunsori tactici.

Datele recente arată o decuplare între executivi și analiști cu privire la impactul productivității AI. De ce credeți că există această lacună de percepție și cum poate fi abordată?

Datele recente arată o decuplare clară: 71% dintre executivi cred că AI crește semnificativ productivitatea, dar doar 22% dintre analiștii de prima linie, utilizatorii zilnici, sunt de acord. La Exabeam, am văzut această lacună crescând odată cu febra recentă de promisiuni AI în securitatea cibernetică. Este mai ușor ca niciodată să se creeze demo-uri AI impresionante, iar furnizorii sunt rapidi în a afirma că au rezolvat toate provocările SOC. În timp ce aceste demo-uri impresionează inițial executivii, multe se dovedesc a fi sub așteptări acolo unde contează – în mâinile analiștilor. Potențialul există, iar există și câteva exemple de plată reală, dar există încă prea mult zgomot și prea puține îmbunătățiri semnificative. Pentru a acoperi această lacună de percepție, executivii trebuie să prioritizeze instrumentele AI care împuternicesc cu adevărat analiștii, nu doar impresionează într-un demo. Când AI îmbunătățește cu adevărat eficacitatea analiștilor, încrederea și îmbunătățirile reale de productivitate vor urma.

AI accelerează detectarea și răspunsul la amenințări, dar cum mențineți echilibrul între automatizare și judecată umană în incidentele de securitate cibernetică de înaltă miză?

Capacitățile AI evoluează rapid, dar modelele de limbaj fundamentale care stau la baza agenților inteligenți au fost proiectate inițial pentru sarcini precum traducerea limbajului – nu pentru luarea deciziilor nuanțate, teoria jocurilor sau gestionarea factorilor umani complexi. Acest lucru face ca judecata umană să fie mai esențială ca niciodată în securitatea cibernetică. Rolul analistului nu este diminuat de AI; este ridicat. Analiștii sunt acum lideri de echipă, folosind experiența și insight-ul lor pentru a ghida și a direcționa mai mulți agenți, asigurându-se că deciziile rămân informate de context și nuanță. În cele din urmă, echilibrarea automatizării cu judecata umană este despre crearea unei relații simbiotice în care AI amplifică expertiza umană, nu o înlocuiește.

Cum evoluează strategia dvs. de produs atunci când AI devine un principiu de design central, nu doar un adaos?

La Exabeam, strategia noastră de produs este fundamental modelată de AI ca principiu de design central, nu doar un adaos superficial. Am construit Exabeam de la zero pentru a susține învățarea automată – de la ingestia de jurnal, parsare, îmbogățire și normalizare – pentru a popula un model de informații comun robust, special optimizat pentru a alimenta sistemele ML. Datele de calitate, structurate nu sunt doar importante pentru sistemele AI – sunt sângele lor vital. Astăzi, încorporăm direct agenții noștri inteligenți în fluxurile de lucru critice, evitând chatbot-urile generice și incomode. În schimb, țintim cu precizie cazurile de utilizare cruciale care oferă beneficii tangibile și reale utilizatorilor noștri.

Cu Exabeam Nova, urmăriți să “treceți de la asistență la autonomie”. Care sunt principalele etape pentru a ajunge la operațiuni de securitate complet autonome?

Idea de operațiuni de securitate complet autonome este interesantă, dar prematură. Agenții complet autonomi, în orice domeniu, pur și simplu nu sunt încă eficienți sau siguri. În timp ce luarea deciziilor în AI se îmbunătățește, nu a atins încă nivelul de fiabilitate umană și nu va face acest lucru pentru o perioadă de timp. La Exabeam, abordarea noastră nu este să urmărim autonomie totală, ceea ce grupul meu de la OWASP identifică ca o vulnerabilitate de bază cunoscută sub numele de Agenție excesivă. A da agenților mai multă autonomie decât poate fi testată și validată în mod fiabil pune operațiunile pe un teren riscant. În schimb, obiectivul nostru este să avem echipe de agenți inteligenți, capabili, dar ghidați cu atenție, care lucrează sub supravegherea experților umani din SOC. Această combinație de supraveghere umană și asistență agentică țintită este calea realistică și impactantă înainte.

Care sunt cele mai mari provocări pe care le-ați întâmpinat la integrarea GenAI și a învățării automate la scară pentru securitatea cibernetică în timp real?

Una dintre cele mai mari provocări în integrarea GenAI și a învățării automate la scară pentru securitatea cibernetică este echilibrarea vitezei și preciziei. GenAI singur nu poate înlocui scala uriașă a ceea ce motorul nostru ML de mare viteză gestionează – procesarea continuă a terabiți de date. Chiar și cei mai avansați agenți AI au o “fereastră de context” care este vast insuficientă. În schimb, rețeta noastră implică utilizarea ML pentru a distila date masive în insight-uri actionabile, pe care agenții noștri inteligenți le traduc și le operationalizează eficient.

Ați co-fondat OWASP Top 10 pentru aplicații LLM. Ce v-a inspirat și cum credeți că va modela cele mai bune practici de securitate AI?

Când am lansat OWASP Top 10 pentru aplicații LLM în primăvara anului 2023, informațiile structurate despre securitatea LLM și GenAI erau rare, dar interesul era incredibil de ridicat. În câteva zile, peste 200 de voluntari s-au alăturat inițiativei, aducând opinii diverse și expertiză pentru a modela lista originală. De atunci, a fost citit de peste 100.000 de ori și a devenit fundamental pentru standardele internaționale ale industriei. Astăzi, efortul a evoluat în proiectul OWASP Gen AI Security, care acoperă domenii precum Red Teaming AI, securizarea sistemelor agenților și gestionarea utilizării ofensive a GenAI în securitatea cibernetică. Grupul nostru a depășit recent 10.000 de membri și continuă să avanseze practicile de securitate AI la nivel global.

Cartea dvs., ‘The Developer’s Playbook for LLM Security‘, a câștigat un premiu de top. Care este cel mai important lucru de reținut sau principiu din carte pe care fiecare dezvoltator AI ar trebui să îl înțeleagă atunci când construiește aplicații securizate?

Cel mai important lucru de reținut din cartea mea, “The Developer’s Playbook for LLM Security”, este simplu: “cu putere mare vine și o mare responsabilitate”. În timp ce înțelegerea conceptelor tradiționale de securitate rămâne esențială, dezvoltatorii se confruntă acum cu o serie complet nouă de provocări unice pentru LLM. Această tehnologie puternică nu este un permis gratuit; ea cere practici de securitate proactive și gândite. Dezvoltatorii trebuie să-și extindă perspectiva, recunoscând și abordând aceste noi vulnerabilități de la început, încorporând securitatea în fiecare etapă a ciclului de viață al aplicației lor AI.

Cum credeți că se va evolua forța de muncă din domeniul securității cibernetice în următorii 5 ani, pe măsură ce AI-ul agenților devine mai mainstream?

Ne aflăm într-o cursă a armelor AI. Adversarii sunt agresivi în implementarea AI pentru a-și atinge obiectivele malefice, făcând profesioniștii din securitatea cibernetică și mai importanți ca niciodată. Următorii cinci ani nu vor diminua forța de muncă din securitatea cibernetică; o vor ridica. Profesionistii trebuie să adopte AI, integrându-l în echipele și fluxurile de lucru. Rolurile de securitate se vor schimba către comandă strategică – mai puțin despre efortul individual și mai mult despre orchestrarea unui răspuns eficient cu o echipă de agenți condusă de AI. Această transformare împuternicește profesioniștii din securitatea cibernetică să conducă cu hotărâre și încredere în lupta împotriva amenințărilor în evoluție.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe pot vizita Exabeam.