Claudionor Coelho, Chief AI Officer bij Zscaler – Interviewreeks

Claudionor Coelho is de Chief AI Officer bij Zscaler, verantwoordelijk voor het leiden van zijn team om nieuwe manieren te vinden om data, apparaten en gebruikers te beschermen met behulp van state-of-the-art toegepaste Machine Learning (ML), Deep Learning en Generative AI-technieken. Voordat hij bij Zscaler kwam, was hij Chief AI Officer en Senior Vice President of engineering bij Advantest. Eerder was Coelho Vice President en Head of AI Labs bij Palo Alto Networks. Hij had ook ML- en deep learning-rollen bij Google.

Zscaler richt zich op het versnellen van digitale transformatie door organisaties in staat te stellen grotere flexibiliteit, efficiëntie, veerkracht en beveiliging te bereiken. Het cloud-native Zero Trust Exchange-platform van het bedrijf is ontworpen om gebruikers te beschermen tegen cyberaanvallen en dataverlies door gebruikers, apparaten en applicaties op een beveiligde manier te verbinden, ongeacht hun locatie. Zscaler bedient duizenden klanten wereldwijd, met een sterke focus op robuuste beveiliging en naadloze connectiviteit.

Als Zscalers eerste Chief AI Officer, hoe hebt u de AI-strategie van het bedrijf vormgegeven, met name bij het integreren van AI met cybersecurity?

Zscaler heeft significante vooruitgang geboekt in AI voor cybersecurity, waardoor het zich onderscheidt van concurrenten. Zscalers Zero Trust-platform maakt gebruik van AI om credential theft en browser-exploitatie van phishing-pagina’s te detecteren en stoppen. De threat intelligence van meer dan 400 miljard dagelijkse transacties levert real-time analytics die de verdediging tegen geavanceerde cyberaanvallen verbeteren. Bovendien werken we samen met NVIDIA om generatieve AI-gebaseerde beveiligings- en IT-innovaties te leveren, zoals de Zscaler ZDX Copilot, die IT- en netwerkoperaties vereenvoudigt en data van het Zero Trust Exchange™-platform verwerkt om ondernemingen proactief te verdedigen tegen bedreigingen. Ten slotte hebben we met de overname van Avalor de Zero Trust Exchange™-mogelijkheden uitgebreid met Data Fabric voor Security. Met meer dan 150 vooraf gebouwde integraties, wordt het identificeren en voorspellen van kritieke kwetsbaarheden verbeterd, evenals operationele efficiëntie.

U hebt meerdere bedrijven opgericht, waaronder Kunumi, en hebt leidinggevende rollen gehad bij topbedrijven. Hoe heeft uw ondernemersachtergrond uw aanpak beïnvloed als corporate AI-leider bij Zscaler?

Toen ik SVP of Engineering was bij Jasper Design Automation, een startup op het gebied van Electronic Design Automation, concurreerden we tegen multibillion-dollarbedrijven, maar bereikten we meer dan 70-80% marktaandeel vanwege innovatie, bedrijfsprocessen en flexibiliteit. Een van de boeken die ik altijd raadpleegde tijdens onze strategiebesprekingen was “Competing on the Edge: Strategy as Structured Chaos” van prof. Kathleen M. Eisenhardt. Hoewel dit boek uit 1998 dateert, is het nog steeds relevant voor wat we zien met Generative AI vandaag.

Nooit eerder is een wereldveranderende technologie zo snel geëvolueerd. De Motorola-ingenieur Martin Cooper maakte de eerste mobiele telefoongesprek in 1973, maar het duurde tien jaar voordat het eerste commerciële netwerk werd geopend en 24 jaar voordat de iPhone werd uitgebracht, waardoor de manier waarop we met computers omgaan veranderde.

ChatGPT werd in november 2022 uitgebracht. Het jaar daarop bespraken we in een door het WEF gesponsorde seminar dat Artificial General Intelligence (AGI) binnenkort zou komen. Toen herkenden alleen een paar van ons dat we Agents kunnen gebruiken om veel intelligente systemen te creëren door de lacunes in LLM’s op te vullen met tools – zelfs voordat AGI beschikbaar was. In 2024 verschoof de discussie naar AI-Agents en tegen het einde van het jaar zien we verschillende intelligente AI-Agents (zoals ZDX Copilot of het blogplatform Kiroku).

Deze snelheid kan alleen worden waargenomen in een startup-omgeving, waardoor grote organisaties onder enorme druk komen te staan om voldoende flexibel te worden om een technologie met ongekende snelheid te accommoderen.

Gezien uw ervaring met het leiden van bedrijven in zowel Brazilië als de VS, wat zijn enkele van de belangrijkste verschillen tussen de twee markten op het gebied van AI- en cybersecurity-adoptie?

Het bespreken van startups is een goede manier om de overeenkomsten en verschillen tussen de markten te illustreren, aangezien dit vaak de plaats is waar radicale innovaties te zien zijn voordat ze grote ondernemingen bereiken. Een veelvoorkomende strategie in Brazilië voor startups is het kopiëren van succesvolle Amerikaanse startups in de vroege fase, aangezien Amerikaanse startups meestal eerst naar de interne markt kijken (hoewel dit aan het veranderen is). Het VS heeft echter traditioneel een meer stabiel kapitaalsysteem, waardoor het gemakkelijker is om een bedrijf op te richten.

Ik richtte Kunumi op in 2014 als het eerste Deep Learning-bedrijf in Brazilië. Het werd eerder dit jaar verkocht aan Bradesco Bank. Over het algemeen weten bedrijven in Brazilië niet hoe ze Generative AI gaan adopteren, en je zult veel fouten zien – net als in de VS. Ik heb vier Copilots gebouwd in mijn leven – de eerste in 2016, toen ik bij Synopsys werkte. Het was een agent die compilatie- en uitvoerlogs van grote emulatiemachines kon scannen, op zoek naar informatie die verband hield met de vragen van de gebruiker, met ondersteuning voor meerdere talen. Toen waren er nog geen transformers, geen LLM’s, en was vertaling heel anders dan wat we vandaag hebben.

In 2020 was ik onderzoeker bij Google, waar ik werkte aan Deep Learning-modelcompressie en -kwantificatie, met CERN, dat gebruikmaakte van wat ik had gecreëerd om naar subatomaire deeltjes te zoeken. Toen ik dacht dat we in een oorlog om data zaten, werd het duidelijk dat cybersecurity een wereldwijd probleem is dat niet beperkt is tot één land of regio. Dat is wanneer ik besloot om me hierop te richten.

Een paar maanden geleden sprak ik met een buitenlandse overheidsfunctionaris die zei dat cybersecurity een probleem van de VS was en dat zijn agentschap niets te maken had met cybersecurity – alleen om een paar weken later het slachtoffer te worden van een cyberaanval in zijn organisatie.

Ten slotte, bij het vergelijken van de staat van cybersecurity en ransomware-aanvallen tussen Brazilië en de VS, is de realiteit dat de geschatte kosten van ransomware-aanvallen ongeveer hetzelfde zijn.

Hoe verschilt de regelgevingsomgeving voor AI en cybersecurity tussen Brazilië en de VS, en hoe heeft dit invloed op innovatie in deze regio’s?

Omdat Generative AI zo snel evolueert, erkennen overheden het belang van bescherming, maar zijn ze vaak onduidelijk over wat ze precies willen beschermen. Wat zijn de gevolgen als we in 2023 wetten voor LLM’s creëren en in 2024 AI-Agents gebruiken? We hebben regels nodig, maar we moeten ook een emotieloze analyse van de regelgevingsomgeving maken om te zien hoe we lokale burgers beter kunnen beschermen.

Dat gezegd hebbende, wanneer AI beslissingen neemt op basis van exacte numerieke invoer die redenen of kenmerken vertegenwoordigt, is de analyse vaak onvolledig en leidt tot een verkeerd resultaat in het echte leven. Bijvoorbeeld, als een AI-algoritme een leningsbeslissing neemt voor een persoon op basis van een vaag criterium zoals “waarschijnlijkheid” en een factor zoals salaris of ras werd opgenomen, kun je gemakkelijk een scenario zien waarin een persoon een lening zou worden geweigerd op basis van het netto-effect van een van die twee factoren. Met Generative AI wordt het probleem nog erger, vanwege de onmogelijkheid van LLM’s om externe gegevens te gebruiken om redenerende veronderstellingen te maken. Het is belangrijk om ervoor te zorgen dat we regels hebben die verhinderen dat gebrekkige systemen beslissingen nemen (vooral zonder diepgaande supervisie), aangezien ze fouten zullen maken.

Aan de andere kant was ik enorm tevreden met de volledig autonome mogelijkheden van Tesla-auto’s, die, in vergelijking met mensen, meer mijlen hebben gereden voordat ze bij ongevallen betrokken waren. Ja, ze maken fouten, maar zelfs in vliegtuigen met copilot moeten piloten de controle overnemen in geval van een noodsituatie.

Met betrekking tot cybersecurity hebben verschillende Amerikaanse organisaties (bijv. JCDC.AI, NIST, CISA, enz.) de noodzaak besproken om AI en cybersecurity aan te pakken. Natuurlijk, in snelle markten of technologieën, moet je je voortdurend aanpassen aan veranderingen, en wanneer ze extreem snel bewegen, moet je aan de rand van chaos opereren.

Zscalers Zero Trust Exchange is een belangrijk onderdeel van het beveiligingsmodel. Hoe versterkt AI dit platform, en wat zijn enkele van de meest spannende ontwikkelingen op dit gebied?

Zscalers zero trust-architectuur helpt organisaties een meer beveiligde omgeving te creëren voor AI-implementaties, maar het platform maakt ook op verschillende manieren gebruik van AI, beginnend met ZDX Copilot, dat generatieve AI-gebaseerde beveiligingsinnovaties levert. Ontwikkeld in samenwerking met NVIDIA, maakt de agent gebruik van Generative AI om ondernemingen proactief te verdedigen tegen bedreigingen en vereenvoudigt het IT- en netwerkoperaties. Zscaler heeft ook de predictieve kwetsbaarheidsidentificatie verbeterd door Avalor’s Data Fabric for Security toe te voegen aan de Zscaler Zero Trust Exchange. Ten slotte leeft AI in het hart van Zscalers zero trust-platform, dat credential theft en browser-exploitatie van phishing-pagina’s detecteert en stopt. Real-time analytics op basis van threat intelligence van meer dan 400 miljard dagelijkse transacties verbeteren de verdediging tegen geavanceerde cyberaanvallen.

AI is steeds centraler geworden in de strijd tegen cyberbedreigingen. Hoe ziet u AI evolueren om de groeiende complexiteit van cybersecurity-risico’s aan te pakken, met name in het domein van IoT- en OT-apparaten?

Het bedreigingslandschap is onmiskenbaar geëvolueerd met de komst van AI-gebaseerde cyberaanvallen, dus organisaties kunnen AI bestrijden met AI. De belangrijkste evolutie zal zijn om AI-oplossingen te verbeteren met extra gegevensbronnen.

Aangezien het aantal cyberaanvallen toeneemt, moeten we meer automatisering met AI gebruiken om cyberrisico’s te detecteren en aan te pakken. Het is de moeite waard om op te merken dat AI en Generative AI op dit moment worden gebruikt om nieuwe aanvalsfronten te creëren, en dat we daarom ons spel moeten verhogen door meer signalen te correleren dan we eerder deden.

In het geval van IoT- en OT-apparaten vormen ze een aanzienlijk risico voor organisaties, aangezien veel IoT-apparaten niet de meest up-to-date software-stacks gebruiken – ondanks het feit dat je gemakkelijk Wi-Fi-schakelaars, internetverbonden tv’s, vaatwassers, ovens, enz. kunt kopen. Jarenlang hebben we talrijke artikelen gezien die de kwetsbaarheden laten zien waaraan we in IoT/OT worden blootgesteld.

We hebben constante bewustwording nodig en moeten de cybersecurity-verdediging verbeteren door alle soorten gegevens en signalen te analyseren om afwijkingen en potentiële bedreigingen te detecteren. Om dit spel te winnen, hebben we state-of-the-art AI-modellen nodig die zijn getraind met enorme hoeveelheden gegevens in real-time. Generative AI speelt een instrumentale rol door bedrijven in staat te stellen resultaten te analyseren en samen te vatten voor gebruikers en beveiligingsoperatoren.

Als lid van de AI- en cybersecurity-werkgroepen van het World Economic Forum, hoe beïnvloeden de wereldwijde discussies over AI-ethiek en cybersecurity uw aanpak in uw rol bij Zscaler?

Omdat technologie zo snel evolueert, hebben overheden en organisaties een solide informatiebasis nodig, en ik zie dit als de rol van het World Economic Forum. AI en cybersecurity alleen al hebben genoeg behoefte aan aparte groepen, maar wanneer je de twee combineert, is het bijna een nieuw gebied op zich. Bijvoorbeeld, toonde Gartner dit jaar aan dat Generative AI het aanvalsoppervlak enorm vergroot, van prompt-injectie bij de invoer en uitvoer tot applicatiecode-aanvallen, modelaanvallen en zelfs plug-in-aanvallen.

Sommige van deze aanvallen zijn specifiek voor LLM’s zoals ChatGPT, maar als je overweegt dat we van LLM’s naar AI-Agents en multi-agent systemen gaan, moet je veel meer informatie in overweging nemen. Bijvoorbeeld, bij LLM’s kun je je zorgen maken over prompt-injectie, sleeper cell-gedrag (triggeren van LLM om anders te reageren op basis van speciale trefwoorden) of lekken van vertrouwelijke informatie. Wanneer we het over AI-Agents hebben, moeten we aanvallen op tools en gegevensbronnen overwegen – zelfs als we ervan uitgaan dat SQL-injectie en OS-opdracht-injectie opnieuw mogelijk zijn.

Bovendien, als we multi-agent systemen toevoegen, waarin agents in verschillende locaties kunnen wonen, moeten we ons een compleet ander netwerk voorstellen dat communiceert met protocollen. Mensen hebben al geëxperimenteerd met duizenden agents – net als een computernetwerk.

Ten slotte moeten we onze werkkrachten voorbereiden om Generative AI te gebruiken, door hen tools en een omgeving te bieden waarin ze kunnen opereren in deze nieuwe wereld.

U bent een fervent voorstander van diversiteit en inclusie, met name als Executive Sponsor voor Zscalers Latino- en Hispanic ERG, Sabor. Hoe heeft uw culturele achtergrond uw leiderschapsstijl en aanpak van AI-ontwikkeling beïnvloed?

Als trotse Latino, geboren en getogen in Brazilië, ben ik gepassioneerd over het ondersteunen en empoweren van de Latino- en Hispanic-gemeenschappen bij Zscaler. Ik voel een groot gevoel van voldoening om bij te dragen aan een betere wereld via cybersecurity, waarin we de samenleving helpen beschermen in een steeds complexere wereld. Mijn waarden hebben me geholpen om waar ik nu ben te komen, en ik ben enorm trots op waar ik vandaan kom.

Mijn advies zou zijn om nooit te vergeten waar je vandaan komt en wat je hebt gedaan. Wees altijd trots op wat je uniek maakt, maar erken ook dat diversiteit koning is. Ik leef met mezelf 24 uur per dag. Als ik alleen mensen aannem die op me lijken en het met me eens zijn, zal ik mijn kennis niet vergroten. Het aannemen van mensen uit verschillende locaties en achtergronden helpt ons om de specifieke behoeften van onze wereldwijde klantenbasis beter te begrijpen.

Tenslotte, wat vindt u het meest spannend aan de toekomst van AI in cybersecurity, en welke rol ziet u Zscaler spelen in die toekomst?

AI verandert de fundamenten van effectieve cyberverdediging niet – het benadrukt hun belang. We verwachten dat we transparantie, robuuste beveiligingspraktijken en continue monitoring zullen zien verspreiden over de industrie. Organisaties moeten een uitgebreide aanpak van beveiliging adopteren, geavanceerde maatregelen implementeren om bedreigingen te detecteren en te reageren, en samenwerken met stakeholders om effectieve beveiligingsstrategieën te ontwikkelen. Door dit te doen, kunnen organisaties het risico van inbraken verminderen en hun gevoelige informatie beschermen.

Zscaler is toegewijd aan het beschermen van de privacy van gebruikers, door de meest geavanceerde technieken te gebruiken om gegevens te anonimiseren en ervoor te zorgen dat we deze buiten onze LLM’s houden, om te voorkomen dat individuele gebruikers of organisaties geïdentificeerd kunnen worden. Hoewel we in de toekomst mogelijk LLM’s fine-tunen, zullen onze strikte gegevensbeschermingsmaatregelen om ervoor te zorgen dat geen enkele gebruikersgegevens in gevaar komen, van het grootste belang blijven. Ons doel is om de kracht van AI te benutten om beveiliging te verbeteren zonder inbreuk te maken op de privacy van klanten.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Zscaler bezoeken.