Claudionor Coelho, Chief AI Officer på Zscaler – Intervju-serie

Claudionor Coelho är Chief AI Officer på Zscaler, ansvarig för att leda sitt team för att hitta nya sätt att skydda data, enheter och användare genom tillämpad maskinlärande (ML), djupinlärning och generativ AI-teknik. Innan han gick med i Zscaler tjänstgjorde han som Chief AI Officer och senior vicepresident för teknik på Advantest. Tidigare var Coelho vicepresident och chef för AI Labs på Palo Alto Networks. Han har också haft roller inom maskinlärande och djupinlärning på Google.

Zscaler fokuserar på att accelerera digital transformation genom att möjliggöra för organisationer att uppnå större smidighet, effektivitet, motståndskraft och säkerhet. Företagets molnbaserade Zero Trust Exchange-plattform är utformad för att skydda användare från cyberattacker och dataförlust genom att säkert ansluta användare, enheter och applikationer, oavsett deras plats. Zscaler betjänar tusentals kunder världen över, med fokus på robust säkerhet och sömlös anslutning.

Som Zscalers första Chief AI Officer, hur har du format företagets AI-strategi, särskilt när det gäller att integrera AI med cybersäkerhet?

Zscaler har gjort betydande framsteg inom AI för cybersäkerhet, vilket särskiljer det från konkurrenter. Zscalers Zero Trust-plattform använder AI för att upptäcka och stoppa stöld av autentiseringsuppgifter och webbläsarutnyttjande från phishing-sidor. Hotinformationen från över 400 miljarder dagliga transaktioner ger realtidsanalyser som förbättrar försvaret mot sofistikerade cyberattacker. Dessutom samarbetar vi med NVIDIA för att leverera generativ AI-drivna säkerhets- och IT-innovationer som Zscaler ZDX Copilot, som förenklar IT- och nätverksoperationer samtidigt som den bearbetar data från Zero Trust Exchange-plattformen för att proaktivt försvara företag mot hot. Slutligen har vi med Avalor-förvärvet utökat Zero Trust Exchange-funktionerna med Data Fabric för säkerhet. Med över 150 färdiga integreringar identifierar och förutsäger den kritiska sårbarheter samtidigt som den förbättrar operativa effektiviteter.

Du har grundat flera företag, inklusive Kunumi, och haft ledande roller i toppföretag. Hur har din entreprenöriella bakgrund påverkat din tillvägagångssätt som en corporate AI-ledare på Zscaler?

När jag var SVP of Engineering på Jasper Design Automation, ett startup-företag inom Electronic Design Automation, konkurrerade vi mot multibillionföretag men uppnådde mer än 70-80 % marknadsandel på grund av innovation, affärsprocesser och smidighet. En av de böcker jag alltid hänvisade till under våra strategimöten var “Competing on the Edge: Strategy as Structured Chaos” av Prof. Kathleen M. Eisenhardt. Även om denna bok är från 1998 gäller den fortfarande för vad vi ser med generativ AI idag.

Aldrig tidigare har en världsändrande teknik rört sig så snabbt. Motorola-ingenjören Martin Cooper gjorde det första cellulära telefonsamtalet 1973, men det tog världen 10 år tills det första kommersiella nätverket öppnades och 24 år till innan iPhone släpptes, vilket förändrade hur vi interagerar med datorer.

ChatGPT släpptes i november 2022. Året därpå diskuterade vi i ett WEF-sponsrat seminarium att Artificiell Allmän Intelligens (AGI) var på väg. Vid den tiden var det bara ett fåtal av oss som insåg att vi kan använda agenter för att skapa många intelligenta system genom att fylla i luckorna i LLM med verktyg – till och med innan AGI. 2024 skiftade diskussionen till AI-agenter, och i slutet av året börjar vi se flera intelligenta AI-agenter (som ZDX Copilot eller bloggplattformen Kiroku).

Denna hastighet kan bara ses i en startup-miljö, så det orsakar enorm stress i stora organisationer, som kämpar för att bli tillräckligt smidiga för att anpassa sig till en teknik med utanförskaplig hastighet.

Med tanke på din erfarenhet av att leda företag i både Brasilien och USA, vad är några av de viktigaste skillnaderna mellan de två marknaderna när det gäller AI och cybersäkerhetsantagande?

Att diskutera startup-företag är ett bra sätt att börja illustrera likheter och skillnader mellan marknaderna, eftersom det är där du ofta ser radikala innovationer innan de når stora företag. En vanlig strategi i Brasilien för startup-företag har varit att kopiera framgångsrika tidiga amerikanska startup-företag, eftersom amerikanska startup-företag vanligtvis tittar på den inre marknaden först (även om detta har förändrats). Men USA har traditionellt haft ett mer stabilt kapitalsystem som gör det lättare att starta ett företag.

Jag skapade Kunumi 2014 som det första företaget inom djupinlärning i Brasilien. Det såldes till Bradesco Bank tidigare i år. Generellt sett vet inte företag i Brasilien hur de kommer att anta generativ AI, och du kommer att se många misstag – också sant i USA. Jag har byggt fyra Copilots i mitt liv – den första 2016, medan jag var på Synopsys. Det var en agent som kunde skanna sammanställning och körningsloggar för stora emuleringsmaskiner, leta efter information relaterad till användarens frågor, med stöd för flera språk. Vid den tiden fanns det inga transformerare, inga LLM, och till och med översättning var mycket annorlunda än vad vi har idag.

2020 var jag en forskare på Google som arbetade med djupinlärningsmodellkomprimering och kvantisering, med CERN med vad jag skapade i sökandet efter subatomära partiklar. När jag trodde att vi var i krig med data, blev det klart att cybersäkerhet är ett globalt problem som inte är lokaliserat till ett land eller ett annat. Då bestämde jag mig för att gå in i det.

För några månader sedan pratade jag med en utländsk regeringsrepresentant som sa att cybersäkerhet var ett problem för USA och att hans byrå inte hade något att oroa sig för – bara för att ha en cyberattack i sin organisation några veckor senare.

Slutligen, när man jämför tillståndet för cybersäkerhet med anklagelser om ransomware mellan Brasilien och USA, är verkligheten att uppskattade ransomware-kostnader är ungefär desamma.

Hur skiljer sig den regulatoriska miljön för AI och cybersäkerhet mellan Brasilien och USA, och hur påverkar det innovationen i dessa regioner?

Eftersom generativ AI rör sig så snabbt, erkänner regeringar behovet av att skydda något, men är ofta osäkra på vad de försöker skydda. Vad är effekten om vi skapade lagar för LLM 2023, och 2024 använder vi AI-agenter? Vi behöver regleringar, men vi behöver också göra en känslomässig analys av den regulatoriska miljön för att se hur vi kan bättre skydda lokala medborgare.

Som sagt, när AI fattar beslut enbart baserat på exakta numeriska indata som representerar skäl eller funktioner, är analysen ofta ofullständig och ger en felaktig verklig resultateffekt. Till exempel, om en AI-algoritm fattar ett lånbeslut till en person baserat på ett tvetydigt kriterium som “sannolikhet” och en faktor som lön eller ras var inkluderad, kunde du lätt se ett scenario där en person skulle nekas ett lån baserat på den totala effekten av en av dessa två faktorer. Med generativ AI blir problemet ännu värre, på grund av oförmågan hos LLM att ta med externa data för att göra antaganden om resonemang. Det är viktigt att se till att vi har regleringar som inte tillåter felaktiga system att fatta beslut (särskilt utan djup tillsyn), eftersom de är bundna att göra misstag.

Å andra sidan har jag varit extremt nöjd med den fullständiga självkörande förmågan hos Tesla-bilar, som, i jämförelse med människor, har visat sig överträffa antalet mil som körs innan de är inblandade i olyckor. Ja, de gör misstag, men även i flygplan med copilot på, måste piloter ta över kontrollen i händelse av en nödsituation.

Med avseende på cybersäkerhet har flera amerikanska organisationer (t.ex. JCDC.AI, NIST, CISA etc.) diskuterat behovet av att hantera AI och cybersäkerhet. Naturligtvis, i snabbt föränderliga marknader eller tekniker, behöver du kontinuerligt anpassa dig till förändringar, och när de rör sig extremt snabbt, behöver du operera på kaosens rand.

Zscalers Zero Trust Exchange är en nyckeldel av dess säkerhetsmodell. Hur förbättrar AI denna plattform, och vad är några av de mest spännande utvecklingarna inom detta område?

Zscalers nolltillitsarkitektur hjälper organisationer att skapa en mer säker miljö för AI-distributioner, men plattformen använder också AI på många sätt, börjande med ZDX Copilot som levererar generativ AI-drivna säkerhetsinnovationer. Utvecklad i samarbete med NVIDIA, använder agenten generativ AI för att proaktivt försvara företag mot hot och förenklar IT- och nätverksoperationer. Zscaler har också förbättrat sin predictiva sårbarhetsidentifiering genom att lägga till Avalor:s Data Fabric för säkerhet till Zscaler Zero Trust Exchange. Slutligen lever AI i kärnan av Zscalers nolltillitsplattform, upptäcker och stoppar stöld av autentiseringsuppgifter och webbläsarutnyttjande från phishing-sidor. Realtidsanalyser baserade på hotinformation från över 400 miljarder dagliga transaktioner förbättrar dess försvar mot sofistikerade cyberattacker.

AI har blivit alltmer central i kampen mot cyberhot. Hur ser du att AI utvecklas för att hantera den växande komplexiteten i cybersäkerhetsrisker, särskilt inom området IoT och OT-enheter?

Hotlandskapet har utan tvekan utvecklats med tillkomsten av AI-baserade cyberattacker, så organisationer kan bekämpa AI med AI. Den stora utvecklingen kommer att vara att förbättra AI-lösningar med ytterligare datakällor.

Så länge antalet cyberattacker ökar, behöver vi använda mer automatisering med AI för att upptäcka och hantera cyberrisker. Det är värt att notera att AI och generativ AI används just nu för att skapa nya attackfrontier, och på grund av detta behöver vi höja spelet genom att korrelera fler signaler än vi gjorde tidigare.

I fallet med IoT- och OT-enheter utgör de betydande risker för organisationer, eftersom flera IoT-enheter inte använder de senaste programvarustackarna – trots att du kan enkelt köpa Wi-Fi-omkopplare, internetanslutna TV-apparater, diskmaskiner, ugnar etc. Under åren har vi sett många artiklar som visar sårbarheterna som vi är utsatta för i IoT/OT.

Vi behöver kontinuerlig medvetenhet och förbättra cybersäkerhetsförsvaret genom att analysera alla typer av data och signaler för att upptäcka avvikelser och potentiella hot. För att vinna detta spel behöver vi state-of-the-art AI-modeller som tränats med massiva mängder data i realtid. Generativ AI spelar en avgörande roll genom att möjliggöra för företag att analysera och sammanfatta resultat till användare och säkerhetsoperatörer.

Som medlem i AI- och cybersäkerhetsarbetsgrupper vid Världsekonomiskt forum, hur påverkar de globala diskussionerna kring AI-etik och cybersäkerhet ditt tillvägagångssätt i din roll på Zscaler?

Eftersom tekniken rör sig så snabbt, behöver regeringar och organisationer ha en grundande information, och jag ser detta som rollen för Världsekonomiskt forum. AI och cybersäkerhet ensamma har tillräckligt med behov för att kräva separata grupper, men när du kombinerar de två, är det nästan ett nytt område i sig. Till exempel visade Gartner i år att generativ AI ökar attackytan enormt, från promptinjektion vid indata och utdata till applikationskodattacker, modellattacker och till och med plug-in-attacker.

Några av dessa attacker är specifika för LLM som ChatGPT, men om du överväger att vi flyttar från LLM till AI-agenter och multi-agent-system, behöver du överväga mycket mer information. Till exempel, i LLM kan du bry dig om promptinjektion, sovande cellbeteende (utlöser LLM att svara annorlunda baserat på speciella nyckelord) eller läckage av konfidentiell information. När vi diskuterar AI-agenter, behöver vi överväga attacker på verktyg och datakällor också – till och med antagande att SQL-injektion och OS-kommandoinjektion kan vara möjliga igen.

Slutligen behöver vi förbereda vår arbetskraft för att använda generativ AI, ge dem verktyg och en miljö där de kan operera i denna nya värld.

Du har varit en stark förespråkare för mångfald och inkludering, särskilt som Executive Sponsor för Zscalers latino- och hispanska ERG, Sabor. Hur har din kulturella bakgrund påverkat din ledarstil och tillvägagångssätt för AI-utveckling?

Som en stolt latino född och uppvuxen i Brasilien, är jag passionerad för att stödja och ge möjligheter till den latino- och hispanska gemenskapen på Zscaler. Jag känner en stor känsla av prestation i att kunna bidra till en bättre värld genom cybersäkerhet, där vi hjälper till att skydda samhället i en alltmer komplex värld. Mina värderingar har hjälpt mig att komma dit jag är idag, och jag är extremt stolt över var jag kommer ifrån.

Mitt råd skulle vara att aldrig glömma var du kommer ifrån och vad du har gjort. Var alltid stolt över vad som gör dig unik, men erkänn också att mångfald är kung. Jag lever med mig själv 24 timmar om dygnet. Om jag bara anställer människor som är lika mig och som håller med mig, kommer jag inte att öka min kunskap. Att anställa människor från många platser och bakgrunder hjälper oss att bättre förstå de specifika behoven hos vår globala kundbas.

Till sist, vad exciterar dig mest om framtiden för AI i cybersäkerhet, och vilken roll ser du att Zscaler spelar i den framtiden?

AI förändrar inte grunderna för effektiv cyberförsvar – det betonar deras viktighet. Vi förväntar oss att se transparens, robusta säkerhetspraxis och kontinuerlig övervakning spridas över hela branschen. Organisationer måste anta en omfattande tillvägagångssätt för säkerhet, genomföra avancerade åtgärder för att upptäcka och svara på hot. Detta inkluderar att främja en kultur av säkerhetsmedvetenhet, genomföra regelbundna säkerhetsrevisioner och samarbeta med intressenter för att utveckla effektiva säkerhetsstrategier. Genom att göra detta kan organisationer minska risken för intrång och skydda sin känsliga information.

Zscaler är engagerad i att skydda användarprivatliv, använder de mest avancerade teknikerna för att anonymisera data och säkerställer att vi håller den utanför våra LLM. Medan vi kanske kommer att utforska finjustering av LLM i framtiden, kommer våra strikta dataskyddsåtgärder för att säkerställa att ingen användardata äventyras att fortsätta vara av största vikt. Vårt mål är att utnyttja kraften i AI för att förbättra säkerheten utan att kränka kundens privatliv.

Tack för det underbara samtalet, läsare som vill lära sig mer bör besöka Zscaler.