Claudionor Coelho, Chief AI Officer bij Zscaler – Interviewreeks

Claudionor Coelho is de Chief AI Officer bij Zscaler, verantwoordelijk voor het leiden van zijn team om nieuwe manieren te vinden om gegevens, apparaten en gebruikers te beschermen met behulp van state-of-the-art toegepaste Machine Learning (ML), Deep Learning en Generative AI-technieken. Voordat hij bij Zscaler kwam, was hij Chief AI Officer en Senior Vice President of Engineering bij Advantest. Eerder was Coelho Vice President en Head of AI Labs bij Palo Alto Networks (PANW ). Hij had ook ML- en deep learning-rollen bij Google (GOOGL ).

Zscaler richt zich op het versnellen van digitale transformatie door organisaties in staat te stellen om grotere flexibiliteit, efficiëntie, veerkracht en beveiliging te bereiken. Het cloud-native Zero Trust Exchange-platform van het bedrijf is ontworpen om gebruikers te beschermen tegen cyberaanvallen en gegevensverlies door gebruikers, apparaten en toepassingen op een veilige manier te verbinden, ongeacht hun locatie. Zscaler bedient duizenden klanten wereldwijd, met een sterke focus op robuuste beveiliging en naadloze connectiviteit.

Als de eerste Chief AI Officer van Zscaler, hoe hebt u de AI-strategie van het bedrijf vormgegeven, met name bij het integreren van AI met cybersecurity?

Zscaler heeft significante vooruitgang geboekt in AI voor cybersecurity, waardoor het zich onderscheidt van concurrenten. Het Zero Trust-platform van Zscaler maakt gebruik van AI om credential theft en browserexploitatie van phishingpagina’s te detecteren en stoppen. De dreigingsinformatie van meer dan 400 miljard dagelijkse transacties levert real-time analytics die de verdediging tegen geavanceerde cyberaanvallen verbeteren. Bovendien werken we samen met NVIDIA (NVDA ) om generatieve AI-gedreven beveiligings- en IT-innovaties te leveren, zoals de Zscaler ZDX Copilot, die IT- en netwerkoperaties vereenvoudigt en gegevens van het Zero Trust Exchange-platform verwerkt om ondernemingen proactief te verdedigen tegen bedreigingen. Ten slotte hebben we met de overname van Avalor de mogelijkheden van Zero Trust Exchange uitgebreid met Data Fabric voor Security. Met meer dan 150 vooraf gebouwde integraties, identificeert en voorspelt het kritieke kwetsbaarheden en verbetert het operationele efficiëntie.

U hebt meerdere bedrijven opgericht, waaronder Kunumi, en hebt leidinggevende rollen gehad bij topbedrijven. Hoe heeft uw ondernemersachtergrond uw aanpak beïnvloed als corporate AI-leider bij Zscaler?

Toen ik SVP of Engineering was bij Jasper Design Automation, een startup op het gebied van Electronic Design Automation, concurreerden we met multibillion-dollarbedrijven, maar bereikten we meer dan 70-80% marktaandeel vanwege innovatie, bedrijfsprocessen en flexibiliteit. Een van de boeken die ik altijd raadpleegde tijdens onze strategische vergaderingen was “Competing on the Edge: Strategy as Structured Chaos” van Prof. Kathleen M. Eisenhardt. Hoewel dit boek uit 1998 stamt, is het nog steeds relevant voor wat we nu zien met Generative AI.

Nooit eerder is een wereldveranderende technologie zo snel veranderd. De Motorola-engineer Martin Cooper maakte in 1973 de eerste mobiele telefoongesprek, maar het duurde tien jaar voordat het eerste commerciële netwerk werd geopend en 24 jaar voordat de iPhone werd uitgebracht, waardoor de manier waarop we met computers omgaan veranderde.

ChatGPT werd in november 2022 uitgebracht. Het jaar daarop bespraken we in een door het WEF gesponsorde seminar dat Artificial General Intelligence (AGI) snel zou komen. Toen waren er nog maar een paar van ons die erkenden dat we Agents kunnen gebruiken om veel intelligente systemen te creëren door de lacunes in LLM’s te vullen met tools – zelfs voordat AGI arriveerde. In 2024 verschoof de discussie naar AI-Agents en tegen het einde van het jaar zien we nu verschillende intelligente AI-Agents (zoals ZDX Copilot of het blogplatform Kiroku).

Deze snelheid kan alleen worden gezien in een startup-omgeving, dus het veroorzaakt enorme stress bij grote organisaties, die worstelen om flexibel genoeg te worden om een technologie met ongekende snelheid te accommoderen.

Gezien uw ervaring met het leiden van bedrijven in zowel Brazilië als de VS, wat zijn enkele van de belangrijkste verschillen tussen de twee markten in termen van AI- en cybersecurity-adoptie?

Het bespreken van startups is een goede manier om de overeenkomsten en verschillen tussen de markten te illustreren, aangezien ze vaak de eerste zijn die radicale innovaties zien voordat ze grote ondernemingen bereiken. Een veelvoorkomende strategie in Brazilië voor startups is om succesvolle Amerikaanse startups na te bootsen, aangezien Amerikaanse startups meestal eerst naar de interne markt kijken (hoewel dit aan het veranderen is). De VS hebben echter traditioneel een meer stabiel kapitaalsysteem dat het gemakkelijker maakt om een bedrijf te starten.

Ik richtte Kunumi op in 2014 als het eerste Deep Learning-bedrijf in Brazilië. Het werd eerder dit jaar verkocht aan Bradesco Bank. Over het algemeen weten bedrijven in Brazilië niet hoe ze Generative AI zullen adopteren, en je zult veel fouten zien – net als in de VS. Ik heb vier Copilots gebouwd in mijn leven – de eerste in 2016, toen ik bij Synopsys was. Het was een agent die compilatie- en uitvoerlogbestanden van grote emulatiemachines kon scannen, op zoek naar informatie die verband hield met de vragen van de gebruiker, met ondersteuning voor meerdere talen. Toen waren er nog geen transformers, geen LLM’s, en was vertaling heel anders dan wat we vandaag hebben.

In 2020 was ik onderzoeker bij Google, waar ik werkte aan Deep Learning-modelcompressie en -kwantificatie, met CERN, met behulp van wat ik had gecreëerd bij de zoektocht naar subatomaire deeltjes. Toen ik dacht dat we in een oorlog om data zaten, werd het duidelijk dat cybersecurity een wereldwijd probleem is dat niet beperkt is tot één land of een andere. Dat was het moment waarop ik besloot om over te stappen naar cybersecurity.

Een paar maanden geleden sprak ik met een buitenlandse overheidsfunctionaris die zei dat cybersecurity een probleem was van de VS en dat zijn agentschap niets te vrezen had – totdat er een paar weken later een cyberaanval plaatsvond in zijn organisatie.

Tenslotte is de realiteit dat de geschatte kosten van ransomware-aanvallen in Brazilië en de VS ongeveer hetzelfde zijn.

Hoe verschilt de regelgevingsomgeving voor AI en cybersecurity tussen Brazilië en de VS, en hoe beïnvloedt dit innovatie in deze regio’s?

Vanwege de snelle ontwikkeling van Generative AI erkennen overheden het belang van bescherming, maar zijn ze vaak onduidelijk over wat ze precies proberen te beschermen. Wat is het effect als we in 2023 wetten voor LLM’s creëren en in 2024 AI-Agents gebruiken? We hebben regels nodig, maar we moeten ook een emotieloze analyse van de regelgevingsomgeving maken om te zien hoe we lokale burgers beter kunnen beschermen.

Als AI beslissingen neemt op basis van exacte numerieke invoer die redenen of kenmerken vertegenwoordigt, is de analyse vaak onvolledig en leidt tot een gebrekkig resultaat in het echte leven. Als een AI-algoritme bijvoorbeeld een leningsbeslissing neemt op basis van een dubieus criterium als “waarschijnlijkheid” en een factor als salaris of ras wordt opgenomen, kun je gemakkelijk een scenario zien waarin iemand een lening wordt geweigerd op basis van het netto-effect van een van die twee factoren. Met Generative AI wordt het probleem nog erger, vanwege de onmogelijkheid van LLM’s om externe gegevens te gebruiken om redeneringsveronderstellingen te maken. Het is belangrijk om ervoor te zorgen dat we regels hebben die voorkomen dat gebrekkige systemen beslissingen nemen (vooral zonder diepe supervisie), aangezien ze fouten zullen maken.

Aan de andere kant ben ik zeer tevreden met de mogelijkheid van volledig zelfrijdende auto’s van Tesla (TSLA ), die, in vergelijking met mensen, meer mijlen hebben gereden voordat ze bij ongevallen betrokken waren. Ja, ze maken fouten, maar zelfs in vliegtuigen met copiloot moeten piloten de controle overnemen in geval van een noodsituatie.

Met betrekking tot cybersecurity hebben verschillende Amerikaanse organisaties (bijv. JCDC.AI, NIST, CISA, etc.) de noodzaak besproken om AI en cybersecurity aan te pakken. Natuurlijk moet je in snelle markten of technologieën voortdurend aanpassen aan veranderingen, en wanneer ze extreem snel veranderen, moet je aan de rand van chaos opereren.

Zscaler’s Zero Trust Exchange is een belangrijk onderdeel van het beveiligingsmodel. Hoe versterkt AI dit platform, en wat zijn enkele van de meest spannende ontwikkelingen op dit gebied?

Zscaler’s zero trust-architectuur helpt organisaties een meer beveiligde omgeving te creëren voor AI-implementaties, maar het platform maakt ook gebruik van AI op verschillende manieren, beginnend met ZDX Copilot, dat generatieve AI-gedreven beveiligingsinnovaties levert. Ontwikkeld in samenwerking met NVIDIA, maakt de agent gebruik van Generative AI om ondernemingen proactief te verdedigen tegen bedreigingen en vereenvoudigt het IT- en netwerkoperaties. Zscaler heeft ook de voorspellende kwetsbaarheidsidentificatie verbeterd door Avalor’s Data Fabric for Security toe te voegen aan het Zscaler Zero Trust Exchange. Ten slotte staat AI centraal in het zero trust-platform van Zscaler, waardoor het credential theft en browserexploitatie van phishingpagina’s kan detecteren en stoppen. Real-time analytics op basis van dreigingsinformatie van meer dan 400 miljard dagelijkse transacties verbeteren de verdediging tegen geavanceerde cyberaanvallen.

AI is steeds meer centraal komen te staan in de strijd tegen cyberdreigingen. Hoe ziet u AI evolueren om de groeiende complexiteit van cybersecurity-risico’s aan te pakken, met name in het domein van IoT- en OT-apparaten?

Het dreigingslandschap is onmiskenbaar geëvolueerd met de komst van AI-gedreven cyberaanvallen, dus organisaties kunnen AI bestrijden met AI. De belangrijkste evolutie zal zijn om AI-oplossingen te verbeteren met extra gegevensbronnen.

Naarmate het aantal cyberaanvallen toeneemt, moeten we meer automatisering met AI gebruiken om cyberrisico’s te detecteren en aan te pakken. Het is de moeite waard om op te merken dat AI en Generative AI momenteel worden gebruikt om nieuwe aanvalsfronten te creëren, en dat we ons spel moeten verhogen door meer signalen te correleren dan we eerder deden.

In het geval van IoT- en OT-apparaten vormen ze een aanzienlijk risico voor organisaties, aangezien veel IoT-apparaten niet de meest up-to-date software-stacks gebruiken – ondanks het feit dat je gemakkelijk Wi-Fi-schakelaars, internetverbonden tv’s, vaatwassers, ovens enz. kunt kopen. Jarenlang hebben we talrijke artikelen gezien die de kwetsbaarheden laten zien waaraan we in IoT/OT worden blootgesteld.

We moeten constant bewust zijn en onze cybersecurity-verdediging verbeteren door alle soorten gegevens en signalen te analyseren om afwijkingen en potentiële bedreigingen te detecteren. Om dit spel te winnen, hebben we state-of-the-art AI-modellen nodig die zijn getraind met enorme hoeveelheden gegevens in real-time. Generative AI speelt een instrumentale rol bij het analyseren en samenvatten van resultaten voor gebruikers en beveiligingsoperatoren.

Als lid van AI- en cybersecurity-werkgroepen bij het World Economic Forum, hoe beïnvloeden wereldwijde discussies over AI-ethiek en cybersecurity uw aanpak in uw rol bij Zscaler?

Omdat technologie zo snel verandert, hebben overheden en organisaties behoefte aan grondige informatie, en ik zie dit als de rol van het World Economic Forum. AI en cybersecurity hebben elk genoeg behoefte aan aparte groepen, maar wanneer je ze combineert, is het bijna een nieuw gebied op zich. Zo toonde Gartner dit jaar aan dat Generative AI het aanvalsoppervlak enorm vergroot, van prompt-injectie bij de invoer en uitvoer tot aanvallen op applicatiecode, modelaanvallen en zelfs plug-in-aanvallen.

Sommige van deze aanvallen zijn specifiek voor LLM’s zoals ChatGPT, maar als je overweegt dat we overstappen van LLM’s naar AI-Agents en multi-agent systemen, moet je veel meer informatie overwegen. Bijvoorbeeld, bij LLM’s kun je je zorgen maken over prompt-injectie, sleeper cell-gedrag (het triggeren van LLM om anders te reageren op basis van speciale trefwoorden) of lekken van vertrouwelijke informatie. Wanneer we het hebben over AI-Agents, moeten we aanvallen op tools en gegevensbronnen overwegen – zelfs als we aannemen dat SQL-injectie en OS-opdrachtinjectie opnieuw mogelijk zijn.

Verder, als we multi-agent systemen toevoegen, waarin agents in verschillende locaties kunnen wonen, moeten we ons een compleet ander netwerk voorstellen dat communiceert met protocollen. Mensen hebben al geëxperimenteerd met duizenden agents – net als een computernetwerk.

Tenslotte moeten we onze werkkrachten voorbereiden om Generative AI te gebruiken, door hen tools en een omgeving te bieden waarin ze kunnen opereren in deze nieuwe wereld.

U bent een sterke voorstander van diversiteit en inclusie, met name als Executive Sponsor voor Zscaler’s Latino en Hispanic ERG, Sabor. Hoe heeft uw culturele achtergrond uw leiderschapsstijl en aanpak van AI-ontwikkeling beïnvloed?

Als trotse Latino, geboren en getogen in Brazilië, ben ik gepassioneerd over het ondersteunen en empoweren van de Latino- en Hispanic-gemeenschappen bij Zscaler. Ik voel een enorm gevoel van trots en voldoening om bij te dragen aan een betere wereld door middel van cybersecurity, waar we samenlevingen beschermen in een steeds complexere wereld. Mijn waarden hebben me geholpen om waar ik nu ben te komen, en ik ben enorm trots op mijn afkomst.

Mijn advies zou zijn om nooit te vergeten waar je vandaan komt en wat je hebt gedaan. Wees altijd trots op wat je uniek maakt, maar erken ook dat diversiteit koning is. Ik leef 24 uur per dag met mezelf. Als ik alleen mensen aannem die op me lijken en het met me eens zijn, zal ik mijn kennis niet vergroten. Het aannemen van mensen uit verschillende locaties en achtergronden helpt ons om de specifieke behoeften van onze wereldwijde klantenbasis beter te begrijpen.

Tenslotte, wat vindt u het meest spannend aan de toekomst van AI in cybersecurity, en welke rol ziet u Zscaler spelen in die toekomst?

AI verandert de basisprincipes van effectieve cyberverdediging niet – het benadrukt hun belang. We verwachten dat transparantie, robuuste beveiligingspraktijken en continue monitoring zich over de hele industrie zullen verspreiden. Organisaties moeten een uitgebreide aanpak van beveiliging omarmen, door geavanceerde maatregelen te implementeren om bedreigingen te detecteren en te reageren. Dit omvat het creëren van een cultuur van beveiligingsbewustzijn, het uitvoeren van regelmatige beveiligingsaudits en het samenwerken met stakeholders om effectieve beveiligingsstrategieën te ontwikkelen. Door dit te doen, kunnen organisaties het risico van inbraken verminderen en hun gevoelige informatie beschermen.

Zscaler is toegewijd aan het beschermen van de privacy van gebruikers, door de meest geavanceerde technieken te gebruiken om gegevens te anonimiseren en ervoor te zorgen dat we deze buiten onze LLM’s houden, om te voorkomen dat gebruikers of organisaties worden geïdentificeerd. Terwijl we in de toekomst mogelijk LLM’s zullen fine-tunen, zullen onze strikte gegevensbeschermingsmaatregelen om ervoor te zorgen dat geen enkele gebruikersgegevens worden geschonden, blijven gelden. Ons doel is om de kracht van AI te benutten om beveiliging te verbeteren zonder in te breken op de privacy van klanten.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Zscaler bezoeken.