Claudionor Coelho, Chief AI Officer hos Zscaler – Interviewserie

Claudionor Coelho er Chief AI Officer hos Zscaler, hvor han er ansvarlig for at lede sit team til at finde nye måder at beskytte data, enheder og brugere gennem state-of-the-art anvendt Machine Learning (ML), Deep Learning og Generative AI-teknikker. Før han kom til Zscaler, fungerede han som Chief AI Officer og Senior Vice President for ingeniørarbejde hos Advantest. Tidligere var Coelho Vice President og leder af AI-laboratorier hos Palo Alto Networks (PANW ). Han havde også ML- og deep learning-roller hos Google (GOOGL ).

Zscaler fokuserer på at accelerere digital transformation ved at enable organisatorer til at opnå større agility, effektivitet, robusthed og sikkerhed. Selskabets cloud-native Zero Trust Exchange-platform er designet til at beskytte brugere mod cyberangreb og dataforluster ved at sikre en sikker forbindelse mellem brugere, enheder og applikationer, uanset deres placering. Zscaler betjener tusindvis af kunder på verdensplan, med fokus på robust sikkerhed og problemfri forbindelse.

Som Zscalers første Chief AI Officer, hvordan har du formet selskabets AI-strategi, især i forbindelse med integration af AI med sikkerhed?

Zscaler har gjort betydelige fremskridt inden for AI til sikkerhed, hvilket adskiller det fra konkurrenterne. Zscalers Zero Trust-platform udnytter AI til at opdage og stoppe stjålne legitimationsoplysninger og browserudnyttelse fra phishing-sider. Truslen fra over 400 milliarder daglige transaktioner leverer realtidsanalyser, der forbedrer forsvaret mod avancerede cyberangreb. Desuden samarbejder vi med NVIDIA (NVDA ) om at levere generative AI-drevne sikkerheds- og IT-innovationer som Zscaler ZDX Copilot, som forenkler IT- og netværksoperationer, mens det behandler data fra Zero Trust Exchange™-platformen for at proaktivt forsvare virksomheder mod trusler. Endelig har vi med Avalor-overtagelsen udvidet Zero Trust Exchange™-funktionerne ved hjælp af Data Fabric for Security. Med over 150 forudindstillede integrationer identificerer og forudser det kritiske sårbarheder, samtidig med at det forbedrer operations-effektiviteten.

Du har grundlagt flere selskaber, herunder Kunumi, og har haft ledende roller i top-selskaber. Hvordan har din iværksætterbaggrund påvirket din tilgang som en corporate AI-leder hos Zscaler?

Da jeg var SVP of Engineering hos Jasper Design Automation, et startup-selskab inden for elektronikdesignautomatisering, konkurrerede vi mod multibillion-dollar-selskaber, men opnåede mere end 70-80% markedsandel på grund af innovation, forretningsprocesser og agility. En af de bøger, jeg altid henviser til under vores strategimøder, var “Competing on the Edge: Strategy as Structured Chaos” af Prof. Kathleen M. Eisenhardt. Selvom denne bog er fra 1998, er den stadig relevant for det, vi ser med Generative AI i dag.

Aldrig før har en verdensomvæltende teknologi bevæget sig så hurtigt. Motorola-ingeniøren Martin Cooper foretog det første cellulære opkald i 1973, men det tog verden 10 år, inden det første kommercielle netværk åbnede, og 24 år mere, inden iPhone’en blev udgivet og ændrede, hvordan vi interagerer med computere.

ChatGPT blev udgivet i november 2022. Året efter diskuterede vi i en WEF-sponsorerede seminar, at Artificial General Intelligence (AGI) var på vej. På det tidspunkt var det kun få af os, der erkendte, at vi kan bruge agenter til at skabe mange intelligente systemer ved at udfylde hullerne i LLM’er med værktøjer – selv før AGI. I 2024 skiftede diskussionen til AI-agenter, og ved årets slutning begynder vi at se flere intelligente AI-agenter (som f.eks. ZDX Copilot eller blogging-platformen Kiroku).

Denne hastighed kan kun ses i en startup-miljø, og det medfører enormt pres på store organisationer, der kæmper for at blive agile nok til at tilpasse sig en teknologi med uhørt hastighed.

Givet din erfaring med at lede selskaber i både Brasilien og USA, hvad er nogle af de vigtigste forskelle mellem de to markeder, når det kommer til AI- og sikkerhedsadoption?

At diskutere startups er en god måde at illustrere ligheder og forskelle mellem markederne, da de ofte viser radikale innovationer, før de når de store selskaber. En almindelig strategi i Brasilien for startups har været at kopiere succesfulde tidlige startups fra USA, da USA-startups normalt ser på det interne marked først (selvom dette er under forandring). USA har dog traditionelt haft et mere stabilt kapitalsystem, der gør det lettere at starte et selskab.

Jeg grundlagde Kunumi i 2014 som det første Deep Learning-selskab i Brasilien. Det blev solgt til Bradesco Bank tidligere på året. Generelt ved virksomheder i Brasilien ikke, hvordan de vil adoptere Generative AI, og du vil se mange fejl – ligesom i USA. Jeg har bygget fire Copilots i mit liv – den første i 2016, mens jeg var hos Synopsys. Det var en agent, der kunne scannen kompilations- og kørselslogfiler af store emulationsmaskiner, søge efter information relateret til brugerens spørgsmål, med multilingual understøttelse. På det tidspunkt var der ingen transformatorer, ingen LLM’er, og selv oversættelse var meget anderledes end det, vi har i dag.

I 2020 var jeg forsker hos Google, hvor jeg arbejdede med Deep Learning-modelkomprimering og kvantificering, sammen med CERN, ved hjælp af det, jeg havde skabt i søgen efter subatomare partikler. Da jeg troede, at vi var i krig om data, blev det klart, at sikkerhed er et globalt problem, der ikke er lokaliseret til et enkelt land eller en enkelt region. Det var da, jeg besluttede at gå ind i det.

For nylig talte jeg med en udenlandsk regeringsrepræsentant, der sagde, at sikkerhed var et problem for USA, og hans agentur havde intet at frygte – kun for at få et cyberangreb i sin organisation få uger senere.

Til sidst, når vi sammenligner tilstanden for sikkerhed med ransomware-angreb mellem Brasilien og USA, er virkeligheden, at estimerede ransomware-gebyrer er omtrent de samme.

Hvordan adskiller sig den regulative omgang med AI og sikkerhed mellem Brasilien og USA, og hvordan påvirker det innovation i disse regioner?

Fordi Generative AI bevæger sig så hurtigt, erkender regeringer behovet for at beskytte noget, men er ofte usikre på, hvad de beskytter. Hvilken er effekten, hvis vi skabte love for LLM’er i 2023, og i 2024 bruger vi AI-agenter? Vi har brug for reguleringer, men vi har også brug for at gøre en ufølsom analyse af den regulative omgang for at se, hvordan vi bedst kan beskytte lokale borgere.

Det sagde, når AI træffer beslutninger udelukkende på grundlag af eksakte numeriske input, der repræsenterer årsager eller funktioner, er analysen ofte ufuldstændig og giver en fejlbehæftet resultater i virkeligheden. For eksempel, hvis en AI-algoritme træffer en lånebeslutning til en person på grundlag af et tvetydigt kriterium som “sandsynlighed” og en faktor som løn eller race var inkluderet, kunne du let se en situation, hvor en person ville blive afvist en låneansøgning på grund af den samlede effekt af en af disse to faktorer. Med Generative AI bliver problemet endnu værre, på grund af LLM’ernes manglende evne til at bringe eksterne data til at træffe antagelser. Det er vigtigt at sikre, at vi har reguleringer, der ikke tillader fejlbehæftede systemer at træffe beslutninger (især uden dyb overvågning), da de er bundet til at begå fejl.

På den anden side har jeg været ekstremt tilfreds med den fulde selvstyrende kapacitet af Tesla-biler, der, i sammenligning med mennesker, er blevet vist at overgå antallet af miles kørt, før de er involveret i ulykker. Ja, de begår fejl, men selv i fly med copilot skal piloter overtage kontrollen i tilfælde af en nødsituation.

Med hensyn til sikkerhed har flere US-organisationer (f.eks. JCDC.AI, NIST, CISA osv.) diskuteret behovet for at adressere AI og sikkerhed. Naturligvis har man i hurtigt udviklende markeder eller teknologier brug for at tilpasse sig ændringer kontinuerligt, og når de bevæger sig ekstremt hurtigt, har man brug for at operere på kanten af kaos.

Zscalers Zero Trust Exchange er en nøglekomponent i dets sikkerhedsmodel. Hvordan forbedrer AI denne platform, og hvad er nogle af de mest spændende udviklinger på dette område?

Zscalers zero trust-arkitektur hjælper organisationer med at skabe en mere sikker omgang for AI-udviklinger, men platformen udnytter også AI på mange måder, starting med ZDX Copilot, der leverer generative AI-drevne sikkerhedsinnovationer. Udviklet i samarbejde med NVIDIA, udnytter agenten Generative AI til at proaktivt forsvare virksomheder mod trusler og forenkle IT- og netværksoperationer. Zscaler har også forbedret sin predictive sårbarhedsidentifikation ved at tilføje Avalor’s Data Fabric for Security til Zscaler Zero Trust Exchange. Endelig leverer AI i Zscalers zero trust-platform beskyttelse mod stjålne legitimationsoplysninger og browserudnyttelse fra phishing-sider. Realtidsanalyser baseret på truslen fra over 400 milliarder daglige transaktioner forbedrer forsvaret mod avancerede cyberangreb.

AI er blevet mere og mere central i kampen mod cybertrusler. Hvordan ser du AI udvikle sig for at imødegå den voksende kompleksitet af sikkerhedsrisici, især i forhold til IoT- og OT-enheder?

Trusselslandskabet har uden tvivl udviklet sig med opkomsten af AI-baserede cyberangreb, så organisationer må kæmpe AI med AI. Den største udvikling vil være at forbedre AI-løsninger med yderligere datakilder.

Som antallet af cyberangreb øger, har vi brug for mere automatisering med AI til at opdage og adressere cyberrisici. Det er værd at bemærke, at AI og Generative AI bruges i øjeblikket til at skabe nye angrebsfrontier, og på grund af dette har vi brug for at øge spillet ved at korrelerer flere signaler, end vi gjorde før.

I tilfælde af IoT- og OT-enheder udgør de betydelige risici for organisationer, da mange IoT-enheder ikke bruger de mest opdaterede software-stacks – på trods af, at du let kan købe Wi-Fi-switches, internetforbundne TV, vaskemaskiner, ovne osv. I årevis har vi set mange artikler, der viser sårbarhederne, vi er udsat for i IoT/OT.

Vi har brug for konstant opmærksomhed og at forbedre sikkerhedsforsvaret ved at analysere alle typer data og signaler for at opdage afvigelser og potentielle trusler. For at vinde dette spil har vi brug for state-of-the-art AI-modeller, der er trænet med massive mængder data i realtid. Generative AI spiller en instrumental rolle ved at enable virksomheder til at analysere og sammenfatte resultater for brugere og sikkerhedsoperatører.

Som medlem af AI- og sikkerhedsarbejdsgrupperne i Verdens Økonomiske Forum, hvordan påvirker de globale diskussioner om AI-etik og sikkerhed din tilgang til din rolle hos Zscaler?

Fordi teknologien bevæger sig så hurtigt, har regeringer og organisationer brug for grundlæggende information, og jeg ser dette som rollen for Verdens Økonomiske Forum. AI og sikkerhed alene har nok behov for at kræve separate grupper, men når du kombinerer de to, er det næsten et nyt område i sig selv. For eksempel viste Gartner i år, at Generative AI øger angrebsfladen betydeligt, fra prompt-injektion på input og output til application code-angreb, model-angreb og selv plug-in-angreb.

Nogle af disse angreb er specifikke for LLM’er som ChatGPT, men hvis du overvejer, at vi bevæger os fra LLM’er til AI-agenter og multi-agent-systemer, har du brug for at overveje langt mere information. For eksempel i LLM’er kan du bekymre dig om prompt-injektion, sleeper cell-adfærd (udløsning af LLM til at svare anderledes baseret på specialnøgleord) eller proprietær informationslækage. Når vi diskuterer AI-agenter, har vi brug for at overveje angreb på værktøjer og datakilder – selv antagelse af, at SQL-injektion og OS-kommando-injektion kan være muligt igen.

Endelig har vi brug for at forberede vores arbejdskraft til at bruge Generative AI, ved at give dem værktøjer og en omgang, hvor de kan operere i denne nye verden.

Du har været en stærk forkæmper for diversitet og inklusion, især som Executive Sponsor for Zscalers Latino- og Hispanicske ERG, Sabor. Hvordan har din kulturelle baggrund påvirket din ledelsesstil og tilgang til AI-udvikling?

Som en stolt latino, født og opvokset i Brasilien, er jeg passioneret om at støtte og enable latino- og hispaniske samfund hos Zscaler. Jeg føler en stor tilfredshed ved at bidrage til en bedre verden gennem sikkerhed, hvor vi hjælper med at beskytte samfundet i en stadig mere kompleks verden. Mine værdier har hjulpet mig til at nå, hvor jeg er i dag, og jeg er ekstremt stolt af, hvor jeg kommer fra.

Min råd ville være at aldrig glemme, hvor du kommer fra og hvad du har gjort. Vær altid stolt af, hvad der gør dig unik, men erkend også, at diversitet er kongen. Jeg lever med mig selv 24 timer i døgnet. Hvis jeg kun ansætter mennesker, der er ligesom mig og enes om mig, vil jeg ikke øge min viden. At ansætte mennesker fra mange lokaliteter og baggrunde hjælper os med at bedre forstå de specifikke behov for vores globale kundebase.

Til sidst, hvad begejstrer dig mest om fremtiden for AI i sikkerhed, og hvilken rol ser du Zscaler spille i den fremtid?

AI ændrer ikke grundlæggende principperne for effektiv cyberforsvar – det fremhæver deres vigtighed. Vi forventer at se gennemsigtighed, robuste sikkerhedspraksis og kontinuerlig overvågning sprede sig over branchen. Organisationer må adoptere en komprehensiv tilgang til sikkerhed, ved at implementere avancerede foranstaltninger til at opdage og reagere på trusler. Dette inkluderer at fremme en kultur af sikkerhedsbevidsthed, gennemføre regelmæssige sikkerhedsaudits og samarbejde med interessenter til at udvikle effektive sikkerhedsstrategier. Ved at gøre dette kan organisationer reducere risikoen for dataforluster og beskytte deres følsomme informationer.

Zscaler er dedikeret til at beskytte brugerprivatliv, ved at anvende de mest avancerede teknikker til at anonymisere data og sikre, at vi holder det uden for vores LLM’er, og forhindrer identificering af enkelte brugere eller organisationer. Mens vi måske vil udforske finjustering af LLM’er i fremtiden, vil vores strenge dataprivatlivsforanstaltninger til at sikre, at ingen brugerdata er kompromitteret, fortsætte med at være af største betydning. Vores mål er at udnytte AI’s kraft til at forbedre sikkerhed uden at krænke kundeprivatliv.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Zscaler.