Claudionor Coelho, Chief AI Officer di Zscaler – Serie di interviste

Claudionor Coelho è il Chief AI Officer di Zscaler, responsabile di guidare il suo team per trovare nuovi modi per proteggere i dati, i dispositivi e gli utenti attraverso l’applicazione di tecniche di Machine Learning (ML), Deep Learning e Generative AI all’avanguardia. Prima di unirsi a Zscaler, ha ricoperto il ruolo di Chief AI Officer e Senior Vice President of engineering presso Advantest. In precedenza, Coelho era Vice President e Head of AI Labs presso Palo Alto Networks (PANW ). Ha anche ricoperto ruoli di ML e deep learning presso Google (GOOGL ).

Zscaler si concentra sull’accelerazione della trasformazione digitale abilitando le organizzazioni a raggiungere una maggiore agilità, efficienza, resilienza e sicurezza. La piattaforma cloud-native Zero Trust Exchange di Zscaler è progettata per proteggere gli utenti da attacchi informatici e perdita di dati connettendo in modo sicuro utenti, dispositivi e applicazioni, indipendentemente dalla loro posizione. Zscaler serve migliaia di clienti in tutto il mondo, enfatizzando la sicurezza robusta e la connettività senza soluzione di continuità.

Come primo Chief AI Officer di Zscaler, come hai plasmato la strategia AI dell’azienda, in particolare nell’integrazione dell’AI con la sicurezza informatica?

Zscaler ha fatto significativi progressi nell’AI per la sicurezza informatica, ciò che la distingue dai concorrenti. La piattaforma Zero Trust di Zscaler sfrutta l’AI per rilevare e fermare il furto di credenziali e l’exploit del browser da parte di pagine di phishing. L’intelligence sulle minacce derivante da oltre 400 miliardi di transazioni quotidiane fornisce analisi in tempo reale che migliorano la difesa contro gli attacchi informatici sofisticati. Inoltre, collaboriamo con NVIDIA (NVDA ) per fornire innovazioni di sicurezza e IT alimentate da AI generativa, come il Zscaler ZDX Copilot, che semplifica le operazioni IT e di rete, elaborando i dati dalla piattaforma Zero Trust Exchange per difendere proattivamente le imprese contro le minacce. Infine, con l’acquisizione di Avalor, abbiamo esteso le capacità di Zero Trust Exchange utilizzando Data Fabric per la sicurezza. Con oltre 150 integrazioni preconfigurate, identifica e prevede vulnerabilità critiche, migliorando al contempo l’efficienza operativa.

Hai fondato diverse aziende, tra cui Kunumi, e ricoperto ruoli di leadership in importanti aziende. Come ha influito la tua esperienza imprenditoriale sul tuo approccio come leader AI di Zscaler?

Quando ero SVP di Engineering presso Jasper Design Automation, una startup di automazione del design elettronico, abbiamo competuto contro aziende da multi-miliardi di dollari, ma abbiamo raggiunto oltre il 70-80% di quota di mercato grazie all’innovazione, ai processi aziendali e all’agilità. Uno dei libri a cui facevo sempre riferimento durante le nostre riunioni di strategia era “Competing on the Edge: Strategy as Structured Chaos” di Prof. Kathleen M. Eisenhardt. Sebbene questo libro sia del 1998, è ancora applicabile a ciò che stiamo vedendo con l’AI generativa oggi.

Mai prima d’ora una tecnologia in grado di cambiare il mondo si è mossa così velocemente. L’ingegnere della Motorola Martin Cooper ha effettuato la prima chiamata cellulare nel 1973, ma ci sono voluti 10 anni perché si aprisse la prima rete commerciale e altri 24 anni prima dell’uscita dell’iPhone, che ha cambiato il modo in cui interagiamo con i computer.

ChatGPT è stato rilasciato nel novembre 2022. L’anno successivo, abbiamo discusso in un seminario sponsorizzato dal WEF che l’Artificial General Intelligence (AGI) stava per arrivare. All’epoca, solo pochi di noi riconoscevano che possiamo utilizzare gli agenti per creare molti sistemi intelligenti riempiendo le lacune dei LLM con strumenti, anche prima dell’AGI. Nel 2024, la discussione si è spostata sugli agenti AI e, alla fine dell’anno, stiamo iniziando a vedere diversi agenti AI intelligenti (come ZDX Copilot o la piattaforma di blogging Kiroku).

Questa velocità può essere vista solo in un ambiente di startup, quindi sta causando un’enorme pressione nelle grandi organizzazioni, che stanno lottando per diventare abbastanza agili da accogliere una tecnologia con una velocità senza precedenti.

Considerata la tua esperienza nel guidare aziende sia in Brasile che negli Stati Uniti, quali sono alcune delle principali differenze tra i due mercati in termini di adozione dell’AI e della sicurezza informatica?

Discutere delle startup è un buon modo per iniziare a illustrare le somiglianze e le differenze tra i mercati, poiché sono dove spesso si vedono innovazioni radicali prima che raggiungano le grandi aziende. Una strategia comune in Brasile per le startup è stata copiare le startup di successo degli Stati Uniti, poiché le startup statunitensi di solito guardano al mercato interno per primo (sebbene questo stia cambiando). Tuttavia, gli Stati Uniti hanno tradizionalmente avuto un sistema di capitali più stabile che rende più facile avviare un’azienda.

Ho creato Kunumi nel 2014 come prima azienda di Deep Learning in Brasile. È stata venduta a Bradesco Bank all’inizio di quest’anno. In generale, le aziende in Brasile non sanno come adotteranno l’AI generativa e vedremo molti errori, anche negli Stati Uniti. Ho costruito quattro Copilots nella mia vita, il primo nel 2016, mentre ero a Synopsys. Era un agente che poteva scansionare i log di compilazione ed esecuzione di grandi macchine di emulazione, cercando informazioni relative alle domande dell’utente, con supporto multilingue. A quel tempo, non c’erano trasformatori, LLM o traduzioni, e anche la traduzione era molto diversa da quella di oggi.

Nel 2020, ero un ricercatore a Google che lavorava sulla compressione e quantizzazione dei modelli di Deep Learning, con CERN utilizzando ciò che avevo creato per la ricerca di particelle subatomiche. Quando pensavo che eravamo in guerra per i dati, è diventato chiaro che la sicurezza informatica è un problema globale che non è localizzato in un solo paese o altro. È allora che ho deciso di entrare in questo campo.

Alcuni mesi fa, stavo parlando con un funzionario del governo straniero che diceva che la sicurezza informatica era un problema degli Stati Uniti e che la sua agenzia non aveva nulla di cui preoccuparsi, solo per subire un attacco informatico nella sua organizzazione poche settimane dopo.

Infine, nel confrontare lo stato della sicurezza informatica con le accuse di ransomware tra Brasile e Stati Uniti, la realtà è che le stime delle accuse di ransomware sono approssimativamente le stesse.

Come differisce l’ambiente normativo per l’AI e la sicurezza informatica tra Brasile e Stati Uniti, e come ciò influenza l’innovazione in queste regioni?

Poiché l’AI generativa si sta muovendo così velocemente, i governi riconoscono la necessità di proteggere qualcosa, ma spesso non sono chiari su cosa stanno cercando di proteggere. Qual è l’impatto se creiamo leggi per i LLM nel 2023 e nel 2024 stiamo utilizzando agenti AI? Abbiamo bisogno di regolamenti, ma abbiamo anche bisogno di fare un’analisi senza emozioni dell’ambiente normativo per vedere come possiamo meglio proteggere i cittadini locali.

Detto questo, quando l’AI prende decisioni basate solo su input numerici esatti che rappresentano motivi o caratteristiche, l’analisi è spesso incompleta e produce un risultato reale difettoso. Ad esempio, se un algoritmo AI prende una decisione su un prestito a una persona in base a un criterio ambiguo come “probabilità” e un fattore come il reddito o la razza sono inclusi, potresti facilmente vedere uno scenario in cui una persona verrebbe negata un prestito a causa dell’effetto netto di uno di quei due fattori. Con l’AI generativa, il problema diventa ancora peggiore, a causa dell’incapacità dei LLM di portare dati esterni per fare assunzioni di ragionamento. È importante assicurarsi di avere regolamenti che non consentano a sistemi difettosi di prendere decisioni (soprattutto senza una supervisione approfondita), poiché sono destinati a fare errori.

D’altra parte, sono stato estremamente soddisfatto della capacità di guida autonoma full di auto Tesla (TSLA ), che, in confronto agli esseri umani, ha dimostrato di superare il numero di miglia percorse prima di essere coinvolta in incidenti. Sì, fanno errori, ma anche negli aerei con copilota, i piloti devono prendere il controllo in caso di emergenza.

Riguardo alla sicurezza informatica, diverse organizzazioni statunitensi (ad esempio JCDC.AI, NIST, CISA, ecc.) hanno discusso della necessità di affrontare l’AI e la sicurezza informatica. Naturalmente, in mercati o tecnologie in rapida evoluzione, è necessario adattarsi costantemente ai cambiamenti e, quando si muovono estremamente velocemente, è necessario operare al limite del caos.

La piattaforma Zero Trust Exchange di Zscaler è una parte chiave del modello di sicurezza dell’azienda. Come l’AI migliora questa piattaforma e quali sono alcuni degli sviluppi più emozionanti in questo settore?

L’architettura Zero Trust di Zscaler aiuta le organizzazioni a creare un ambiente più sicuro per i deploy di AI, ma la piattaforma sfrutta anche l’AI in numerosi modi, a partire da ZDX Copilot, che fornisce innovazioni di sicurezza alimentate da AI generativa. Sviluppato in collaborazione con NVIDIA, l’agente sfrutta l’AI generativa per difendere proattivamente le imprese contro le minacce e semplifica le operazioni IT e di rete. Zscaler ha anche migliorato l’identificazione predittiva delle vulnerabilità aggiungendo Data Fabric for Security di Avalor alla piattaforma Zero Trust Exchange. Infine, l’AI è al cuore della piattaforma Zero Trust di Zscaler, rilevando e fermendo il furto di credenziali e l’exploit del browser da parte di pagine di phishing. Le analisi in tempo reale basate sull’intelligence sulle minacce derivante da oltre 400 miliardi di transazioni quotidiane migliorano la difesa contro gli attacchi informatici sofisticati.

L’AI è diventata sempre più centrale nella lotta contro le minacce informatiche. Come vedi l’AI evolversi per affrontare la crescente complessità dei rischi per la sicurezza informatica, in particolare nel settore degli dispositivi IoT e OT?

Il panorama delle minacce è cambiato inequivocabilmente con l’avvento degli attacchi informatici basati sull’AI, quindi le organizzazioni potrebbero combattere l’AI con l’AI. La principale evoluzione sarà migliorare le soluzioni AI con ulteriori fonti di dati.

Man mano che aumenta il numero di attacchi informatici, dobbiamo utilizzare più automazione con l’AI per rilevare e affrontare i rischi informatici. Vale la pena notare che l’AI e l’AI generativa sono attualmente utilizzate per creare nuovi fronti di attacco e, a causa di ciò, dobbiamo aumentare il livello di gioco correlando più segnali di quanto abbiamo fatto prima.

Nel caso degli dispositivi IoT e OT, essi rappresentano rischi significativi per le organizzazioni, poiché molti dispositivi IoT non utilizzano gli stack software più aggiornati, nonostante il fatto che sia facile acquistare interruttori Wi-Fi, TV connesse a Internet, lavastoviglie, forni, ecc. Per anni, abbiamo visto numerosi articoli che mostrano le vulnerabilità a cui siamo soggetti negli IoT/OT.

Dobbiamo avere una costante consapevolezza e migliorare la difesa della sicurezza informatica analizzando tutti i tipi di dati e segnali per rilevare anomalie e potenziali minacce. Per vincere questo gioco, abbiamo bisogno di modelli AI all’avanguardia addestrati con enormi quantità di dati in tempo reale. L’AI generativa svolge un ruolo strumentale, consentendo alle aziende di analizzare e riassumere i risultati agli utenti e agli operatori di sicurezza.

Come membro dei gruppi di lavoro sull’AI e la sicurezza informatica del World Economic Forum, come influiscono le discussioni globali sull’etica dell’AI e la sicurezza informatica sul tuo approccio al tuo ruolo in Zscaler?

Poiché la tecnologia si sta muovendo così velocemente, i governi e le organizzazioni devono avere informazioni di base e vedo questo come il ruolo del World Economic Forum. L’AI e la sicurezza informatica da sole hanno già bisogno di gruppi separati, ma quando li si unisce, è quasi un’area a sé stante. Ad esempio, Gartner quest’anno ha mostrato che l’AI generativa aumenta notevolmente la superficie di attacco, portandola da iniezioni di prompt all’input e all’output agli attacchi di codice di applicazione, agli attacchi di modello e persino agli attacchi di plug-in.

Alcuni di questi attacchi sono specifici dei LLM come ChatGPT, ma se consideriamo che stiamo passando dai LLM agli agenti AI e ai sistemi multi-agente, dobbiamo considerare molte più informazioni. Ad esempio, nei LLM potremmo preoccuparci dell’iniezione di prompt, del comportamento della cellula dormiente (attivazione del LLM per rispondere diversamente in base a parole chiave speciali) o della perdita di informazioni proprietarie. Quando discutiamo di agenti AI, dobbiamo considerare gli attacchi sugli strumenti e le fonti di dati, anche ipotizzando che l’iniezione SQL e l’iniezione di comandi OS possano essere possibili di nuovo.

Inoltre, se aggiungiamo i sistemi multi-agente, dove gli agenti possono risiedere in posizioni diverse, dobbiamo immaginare che ciò implichi una rete di comunicazione completamente diversa. Le persone hanno sperimentato con migliaia di agenti, proprio come una rete di computer.

Infine, dobbiamo preparare la nostra forza lavoro all’uso dell’AI generativa, fornendo strumenti e un ambiente in cui possano operare in questo nuovo mondo.

Sei stato un forte sostenitore della diversità e dell’inclusione, in particolare come Executive Sponsor per il gruppo di interesse Latino e ispanico di Zscaler, Sabor. Come ha influito la tua esperienza culturale sul tuo stile di leadership e sull’approccio allo sviluppo dell’AI?

Da Latino orgoglioso nato e cresciuto in Brasile, sono appassionato di sostenere e potenziare le comunità Latino e ispaniche in Zscaler. Sento un grande senso di realizzazione nel poter contribuire a un mondo migliore attraverso la sicurezza informatica, dove aiutiamo a proteggere la società in un mondo sempre più complesso. I miei valori mi hanno aiutato a raggiungere dove sono oggi e sono estremamente orgoglioso di dove vengo.

I miei consigli sarebbero di non dimenticare mai da dove si viene e cosa si è fatto. Essere sempre orgogliosi di ciò che rende unici, ma anche riconoscere che la diversità è fondamentale. Vivo con me stesso 24 ore al giorno. Se assumo solo persone simili a me e che sono d’accordo con me, non aumenterò le mie conoscenze. Assumere persone da diverse località e background ci aiuta a comprendere meglio le esigenze specifiche della nostra base di clienti globali.

Infine, cosa ti entusiasma di più per il futuro dell’AI nella sicurezza informatica e quale ruolo vedi Zscaler svolgere in quel futuro?

L’AI non cambia i fondamenti della difesa informatica efficace, ne sottolinea l’importanza. Ci aspettiamo di vedere la trasparenza, le pratiche di sicurezza robuste e il monitoraggio continuo diffondersi in tutta l’industria. Le organizzazioni devono adottare un approccio globale alla sicurezza, implementando misure avanzate per rilevare e rispondere alle minacce. Ciò include la creazione di una cultura di consapevolezza della sicurezza, la conduzione di audit di sicurezza regolari e la collaborazione con gli stakeholder per sviluppare strategie di sicurezza efficaci. Facendo ciò, le organizzazioni possono ridurre il rischio di violazioni e proteggere le loro informazioni sensibili.

Zscaler è impegnata a proteggere la privacy degli utenti, utilizzando le tecniche più avanzate per anonimizzare i dati e assicurarsi di tenerli fuori dai nostri LLM, impedendo l’identificazione di utenti o organizzazioni individuali. Sebbene potremmo esplorare l’ottimizzazione dei LLM in futuro, le nostre rigorose misure di protezione dei dati per garantire che nessun dato utente sia compromesso continueranno a essere fondamentali. Il nostro obiettivo è sfruttare il potere dell’AI per migliorare la sicurezza senza violare la privacy dei clienti.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Zscaler.