Steve Wilson, Chief AI e Product Officer di Exabeam – Serie di interviste

Steve Wilson è il Chief AI e Product Officer di Exabeam, dove il suo team applica tecnologie AI all’avanguardia per affrontare sfide di sicurezza informatica nel mondo reale. Ha fondato e co-presiede il progetto OWASP Gen AI Security, l’organizzazione dietro la lista di sicurezza per modelli linguistici di grandi dimensioni OWASP Top 10.

Il suo libro vincitore di premi, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), è stato selezionato come il miglior libro di cybersecurity all’avanguardia da Cyber Defense Magazine.

Exabeam è un leader nell’intelligenza e nell’automazione che alimenta le operazioni di sicurezza per le aziende più intelligenti del mondo. Combinando la scala e la potenza dell’AI con la forza della nostra analisi comportamentale e dell’automazione di livello industriale, le organizzazioni ottengono una visione più olistica degli incidenti di sicurezza, scoprono anomalie che altri strumenti non riescono a rilevare e raggiungono risposte più rapide, accurate e ripetibili. Exabeam consente ai team di sicurezza globali di combattere le minacce informatiche, mitigare i rischi e semplificare le operazioni.

Il tuo nuovo titolo è Chief AI e Product Officer di Exabeam. Come riflette l’importanza crescente dell’AI nella sicurezza informatica?

La sicurezza informatica è stata tra i primi domini a truly adottare il machine learning – in Exabeam, abbiamo utilizzato il ML come cuore del nostro motore di rilevamento per oltre un decennio per identificare comportamenti anomali che gli esseri umani da soli potrebbero perdere. Con l’arrivo di nuove tecnologie AI, come gli agenti intelligenti, l’AI è cresciuta da importante a assolutamente centrale.

Il mio ruolo combinato di Chief AI e Product Officer di Exabeam riflette esattamente questa evoluzione. In una società profondamente impegnata a integrare l’AI in tutti i suoi prodotti e in un’industria come la sicurezza informatica in cui il ruolo dell’AI è sempre più critico, ha senso unificare la strategia AI e la strategia di prodotto in un unico ruolo. Questa integrazione garantisce che siamo strategicamente allineati per offrire soluzioni AI-driven trasformative ai team di sicurezza e alle operazioni che dipendono da noi.

Exabeam sta facendo da pioniere nell'”agentic AI” nelle operazioni di sicurezza. Puoi spiegare cosa significa nella pratica e come si differenzia dagli approcci AI tradizionali?

L’agentic AI rappresenta un’evoluzione significativa dagli approcci AI tradizionali. È orientata all’azione – inizia processi, analizza informazioni e presenta informazioni prima che gli analisti le richiedano. Oltre alla semplice analisi dei dati, l’agentic AI agisce come un consulente, offrendo raccomandazioni strategiche in tutta la SOC, guidando gli utenti verso le vittorie più facili e fornendo indicazioni passo dopo passo per migliorare la loro postura di sicurezza. Inoltre, gli agenti operano come pacchetti specializzati, non come un unico chatbot ingombrante, ciascuno personalizzato con personalità e set di dati specifici che si integrano perfettamente nel flusso di lavoro degli analisti, degli ingegneri e dei manager per offrire assistenza mirata e efficace.

Con Exabeam Nova che integra più agenti AI nel flusso di lavoro della SOC, cosa sarà il futuro del ruolo dell’analista di sicurezza? Sta evolvendo, riducendosi o diventando più specializzato?

Il ruolo dell’analista di sicurezza sta sicuramente evolvendo. Gli analisti, gli ingegneri di sicurezza e i manager della SOC sono sopraffatti da dati, allarmi e casi. Il vero cambiamento futuro non è solo quello di risparmiare tempo su compiti banali – sebbene gli agenti certamente aiutino lì – ma di elevare il ruolo di tutti a quello di capo squadra. Gli analisti avranno ancora bisogno di forti competenze tecniche, ma ora guideranno una squadra di agenti pronti ad accelerare i loro compiti, amplificare le loro decisioni e realmente guidare miglioramenti nella postura di sicurezza. Questa trasformazione posiziona gli analisti per diventare orchestratori strategici piuttosto che rispondenti tattici.

I dati recenti mostrano una disconnessione tra i dirigenti e gli analisti riguardo all’impatto della produttività dell’AI. Perché pensi che esista questo divario di percezione e come può essere affrontato?

I dati recenti mostrano una chiara disconnessione: il 71% dei dirigenti ritiene che l’AI aumenti significativamente la produttività, ma solo il 22% degli analisti di prima linea, gli utenti quotidiani, concorda. In Exabeam, abbiamo visto questo divario crescere insieme alla recente frenesia di promesse AI nella sicurezza informatica. Non è mai stato più facile creare dimostrazioni AI spettacolari e i vendor sono rapidi nel sostenere di aver risolto ogni sfida della SOC. Mentre queste dimostrazioni inizialmente affascinano i dirigenti, molte si rivelano insufficienti laddove conta – nelle mani degli analisti. Il potenziale c’è e ci sono tasche di vero guadagno, ma c’è ancora troppo rumore e troppi miglioramenti significativi. Per colmare questo divario di percezione, i dirigenti devono dare priorità agli strumenti AI che realmente potenziano gli analisti, non solo quelli che impressionano in una dimostrazione. Quando l’AI migliora realmente l’efficacia degli analisti, la fiducia e i miglioramenti della produttività seguiranno.

L’AI sta accelerando il rilevamento e la risposta alle minacce, ma come mantieni l’equilibrio tra automazione e giudizio umano negli incidenti di sicurezza informatica ad alto rischio?

Le capacità dell’AI stanno avanzando rapidamente, ma i modelli linguistici fondamentali che sostengono gli agenti intelligenti sono stati progettati originalmente per compiti come la traduzione del linguaggio – non per la presa di decisioni sfumate, la teoria dei giochi o la gestione di fattori umani complessi. Ciò rende il giudizio umano più essenziale che mai nella sicurezza informatica. Il ruolo dell’analista non è diminuito dall’AI; è stato elevato. Gli analisti sono ora capi squadra, sfruttando la loro esperienza e la loro comprensione per guidare e dirigere più agenti, assicurando che le decisioni rimangano informate dal contesto e dalla sfumatura. In definitiva, bilanciare l’automazione con il giudizio umano è questione di creare una relazione simbiotica in cui l’AI amplifica l’esperienza umana, non la sostituisce.

Come evolve la tua strategia di prodotto quando l’AI diventa un principio di progettazione fondamentale e non un aggiunta?

In Exabeam, la nostra strategia di prodotto è fondamentalmente plasmata dall’AI come principio di progettazione fondamentale, non come aggiunta superficiale. Abbiamo costruito Exabeam fin dall’inizio per supportare il machine learning – dall’ingestione dei log, parsing, arricchimento e normalizzazione – per popolare un modello di informazione comune robusto specificamente ottimizzato per alimentare i sistemi ML. I dati di alta qualità e strutturati non sono solo importanti per i sistemi AI – sono il loro sangue vitale. Oggi, incorporiamo direttamente i nostri agenti intelligenti nei flussi di lavoro critici, evitando chatbot generici e ingombranti. Invece, puntiamo con precisione a casi d’uso cruciali che offrono benefici reali e tangibili ai nostri utenti.

Con Exabeam Nova, stai puntando a “passare da assistente ad autonomo”. Quali sono i principali traguardi per raggiungere operazioni di sicurezza completamente autonome?

L’idea di operazioni di sicurezza completamente autonome è intrigante ma prematura. Gli agenti completamente autonomi, in qualsiasi dominio, semplicemente non sono ancora efficienti o sicuri. Mentre la presa di decisioni nell’AI sta migliorando, non ha ancora raggiunto l’affidabilità umana e non lo farà per un po’ di tempo. In Exabeam, il nostro approccio non è quello di inseguire l’autonomia totale, che il mio gruppo di lavoro in OWASP identifica come una vulnerabilità fondamentale nota come Agenzia Eccessiva. Dare agli agenti più autonomia di quanta possa essere testata e convalidata mette le operazioni su un terreno rischioso. Invece, il nostro obiettivo è quello di avere squadre di agenti intelligenti, capaci ma accuratamente guidati, che lavorano sotto la supervisione di esperti umani nella SOC. Quella combinazione di supervisione umana e assistenza agente mirata è il percorso realistico e di impatto verso il futuro.

Quali sono le sfide più grandi che hai affrontato integrando GenAI e machine learning alla scala richiesta per la sicurezza informatica in tempo reale?

Una delle sfide più grandi nell’integrare GenAI e machine learning alla scala per la sicurezza informatica in tempo reale è bilanciare velocità e precisione. Il GenAI da solo non può sostituire la scala di cui dispone il nostro motore ML ad alta velocità – elaborando terabyte di dati in modo continuo. Anche gli agenti AI più avanzati hanno una “finestra di contesto” che è vastamente insufficiente. Invece, la nostra ricetta prevede l’utilizzo del ML per distillare enormi quantità di dati in informazioni azionabili, che i nostri agenti intelligenti traducono e operazionalizzano efficacemente.

Hai co-fondato il progetto OWASP Top 10 per applicazioni LLM. Cosa ti ha ispirato e come vedi che questo progetto plasma le migliori pratiche di sicurezza AI?

Quando ho lanciato il progetto OWASP Top 10 per applicazioni LLM all’inizio del 2023, le informazioni strutturate sulla sicurezza LLM e GenAI erano scarse, ma l’interesse era incredibilmente alto. Nei giorni successivi, oltre 200 volontari si sono uniti all’iniziativa, portando opinioni e competenze diverse per plasmare l’elenco originale. Da allora, è stato letto più di 100.000 volte ed è diventato fondamentale per gli standard internazionali dell’industria. Oggi, lo sforzo si è ampliato nel progetto OWASP Gen AI Security, coprendo aree come il red teaming AI, la sicurezza dei sistemi agentic e la gestione dell’uso offensivo del GenAI nella sicurezza informatica. Il nostro gruppo ha recentemente superato i 10.000 membri e continua ad avanzare le pratiche di sicurezza AI a livello globale.

Il tuo libro, ‘The Developer’s Playbook for LLM Security‘, ha vinto un premio importante. Qual è il principio o il take-away più importante che ogni sviluppatore AI dovrebbe capire quando costruisce applicazioni sicure?

Il take-away più importante dal mio libro, “The Developer’s Playbook for LLM Security”, è semplice: “con grande potere arriva grande responsabilità”. Mentre capire i concetti di sicurezza tradizionali rimane essenziale, gli sviluppatori ora affrontano un insieme completamente nuovo di sfide uniche ai LLM. Questa tecnologia potente non è un lasciapassare, richiede pratiche di sicurezza proattive e consapevoli. Gli sviluppatori devono ampliare la loro prospettiva, riconoscendo e affrontando queste nuove vulnerabilità fin dall’inizio, incorporando la sicurezza in ogni fase del ciclo di vita dell’applicazione AI.

Come vedi evolversi la forza lavoro della sicurezza informatica nei prossimi 5 anni mentre l’AI agente diventa più mainstream?

Ci troviamo in una corsa agli armamenti dell’AI. Gli avversari stanno dispiegando aggressivamente l’AI per raggiungere i loro obiettivi malintenzionati, rendendo i professionisti della sicurezza informatica più cruciali che mai. I prossimi cinque anni non diminuiranno la forza lavoro della sicurezza informatica, la eleveranno. I professionisti devono abbracciare l’AI, integrandola nei loro team e flussi di lavoro. I ruoli di sicurezza si sposteranno verso il comando strategico – meno sforzo individuale e più orchestrando una risposta efficace con una squadra di agenti AI-driven. Questa trasformazione consente ai professionisti della sicurezza informatica di guidare con decisione e fiducia nella battaglia contro le minacce in continua evoluzione.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Exabeam.