Claudionor Coelho, Zscalerin Chief AI -upseeri – Haastattelusarja

Claudionor Coelho on Zscalerin Chief AI -upseeri, joka johtaa tiimiään keksimään uusia keinoja suojata tietoja, laitteita ja käyttäjiä älykkäiden soveltamisen Machine Learning (ML), Deep Learning ja Generative AI -tekniikoiden avulla. Ennen liittymistään Zscaleriin hän toimi Chief AI -upseerina ja seniorena johtajana Advantestissä. Aikaisemmin Coelho oli varapresidentti ja AI Labsin johtaja Palo Alto Networksissa. Hän on myös toiminut ML- ja deep learning -rooleissa Googlella.

Zscaler keskittyy kiihdyttämään digitaalista muutosta mahdollistamalla organisaatioiden saavuttamaan suuremman joustavuuden, tehokkuuden, kestävyyden ja turvallisuuden. Yrityksen pilvipohjainen Zero Trust Exchange -alusta on suunniteltu suojelemaan käyttäjiä kyberhyökkäyksiltä ja tietohävikiltä yhdistämällä käyttäjät, laitteet ja sovellukset turvallisesti riippumatta sijainnista. Zscaler palvelee tuhansia asiakkaita maailmanlaajuisesti korostamalla vahvaa turvallisuutta ja saumattoman yhteyden.

Zscalerin ensimmäisenä Chief AI -upseerina, miten olet muovannut yrityksen AI -strategiaa, erityisesti AI:n integroimisessa kyberturvaan?

Zscaler on tehnyt merkittäviä edistysaskelia AI:ssa kyberturvaan, mikä erottaa sen kilpailijoista. Zscalerin Zero Trust -alusta hyödyntää AI:ta tunnistamaan ja estämään tunnistetietojen varastamisen ja selainhyökkäykset huijausverkkosivuilta. Uhka-integrointi yli 400 miljardista päivittäisestä transaktiosta tarjoaa reaaliaikaisia analyytikkoja, jotka parantavat puolustusta monimutkaisia kyberhyökkäyksiä vastaan. Lisäksi teemme yhteistyötä NVIDIA:n kanssa tarjoamaan generatiivisen AI:lla voimaa turvallisuuteen ja IT-innovaatioihin, kuten Zscaler ZDX Copilot, joka yksinkertaa IT- ja verkkotoimintoja ja prosessoi tietoja Zero Trust Exchange -alustalta proaktiivisesti puolustamaan yrityksiä uhkia vastaan. Lopulta, Avalorin ostamisen myötä olemme laajentaneet Zero Trust Exchange -ominaisuuksia Data Fabric for Security -ominaisuudella. Yli 150 esivalmistellun integraation avulla se tunnistaa ja ennustaa kriittisiä haavoittuvuuksia parantaen samalla toiminnallisia tehokkuuksia.

Olet perustanut useita yrityksiä, mukaan lukien Kunumi, ja toiminut johtotehtävissä huippuyrityksissä. Miten yritysjohtajan taustasi on vaikuttanut lähestymistapaasi Zscalerin corporate AI -johtajana?

Kun olin SVP of Engineering Jasper Design Automationissa, startup-yrityksessä, joka kilpaili monien miljardien dollarin arvoisilla yrityksillä, saavutimme yli 70-80%:n markkinaosuuden innovaation, liiketoimintaprosessien ja joustavuuden ansiosta. Yksi kirjoista, jota aina viittasin strategiatilaisuuksissamme, oli “Competing on the Edge: Strategy as Structured Chaos” professori Kathleen M. Eisenhardtilta. Vaikka tämä kirja on vuodelta 1998, se edelleen soveltuu siihen, mitä näemme Generatiivisen AI:n kanssa tänään.

Aikaisemmin en ole nähnyt maailmanlaajuista teknologiaa, joka on edennyt nopeammin. Motorola-insinööri Martin Cooper teki ensimmäisen matkapuhelimen 1973, mutta maailmalle kesti kymmenen vuotta, ennen kuin ensimmäinen kaupallinen verkko avattiin, ja 24 vuotta ennen iPhone:n julkaisua, joka muutti tapamme vuorovaikuttaa tietokoneiden kanssa.

ChatGPT julkaistiin marraskuussa 2022. Seuraavana vuonna keskustelimme WEF:n järjestämässä seminaarissa, että Artificial General Intelligence (AGI) tulee pian. Tuolloin vain muutamalla meistä oli selvää, että voimme käyttää agenteja luomaan monia älykkäitä järjestelmiä täyttämällä LLM:n aukot työkaluilla – jo ennen AGI:a. Vuonna 2024 keskustelu siirtyi AI-agenteihin, ja vuoden lopussa alkamme nähdä useita älykkäitä AI-agenteja (kuten ZDX Copilot tai blogipohjaisen Kiroku -alustan).

Tämä nopeus voidaan nähdä vain startup-ympäristössä, joten se aiheuttaa valtavasti stressiä suurissa organisaatioissa, jotka kamppailevat siitä, että ne voivat olla tarpeeksi joustavia mukautuakseen teknologiaan, jolla on ennennäkemätön nopeus.

Millaisia ovat keskeiset erot Brasilian ja Yhdysvaltojen markkinoiden välillä AI:n ja kyberturvan omaksumisessa?

Keskustelemalla startup-yrityksistä on hyvä tapa aloittaa kuvaamaan samankaltaisuuksia ja eroja markkinoiden välillä, koska ne ovat usein radikaalien innovaatioiden lähteitä ennen kuin ne tulevat suurten yritysten osaksi. Yleinen strategia Brasilian startup-yrityksissä on ollut kopioida menestyneitä varhaisen vaiheen Yhdysvaltojen startup-yrityksiä, koska Yhdysvaltojen startup-yritykset usein katsovat sisämarkkinaa ensin (vaikka tämä on muuttumassa). Yhdysvallat on kuitenkin perinteisesti ollut vakaampi pääomajärjestelmä, joka tekee helpommaksi perustaa yritys.

Loin Kunumin vuonna 2014 ensimmäisenä syväoppimisen yrityksenä Brasiliassa. Se myytiin Bradesco Bankille tänä vuonna. Yleisesti ottaen Brasilian yritykset eivät tiedä, miten ne tulevat omaksumaan Generatiivisen AI:n, ja näet paljon virheitä – sama on totta Yhdysvalloissa. Olen rakentanut neljä Copilotia elämässäni – ensimmäinen vuonna 2016, kun olin Synopsysissa. Se oli agentti, joka voisi skannata kokoamis- ja suoritusesiintymisten lokit suurista emulaattorilaitteista, etsimällä tietoa, joka liittyy käyttäjän kysymyksiin, monikielisen tuen kanssa. Tuolloin ei ollut muunneltavia muotoja, ei LLM:itä, ja jopa käännökset olivat erilaisia kuin mitä meillä on tänään.

Vuonna 2020 olin tutkija Googlella, jossa työskentelin syväoppimismallien pakkaamisessa ja kvantisaatiossa CERN:in kanssa etsimässä alkeishiukkasia. Kun ajattelin, että olemme sodassa tietojen kanssa, selvisi, että kyberturva on globaali ongelma, joka ei ole paikallinen yhdelle maalle tai toiselle. Silloin päättelin siirtyä siihen.

Muutama kuukausi sitten puhuin ulkomaisen hallituksen virkamiehen kanssa, joka sanoi, että kyberturva on Yhdysvaltojen ongelma, ja hänen virastollaan ei ollut mitään syytä huoleen – vain muutama viikko myöhemmin hänen organisaatiossaan tapahtui kyberhyökkäys.

Lopulta, verrattaessa kyberturvan tilaa Brasilian ja Yhdysvaltojen välillä, arvioidaan, että kiristyssalkkujen maksut ovat suunnilleen samat.

Miten AI:n ja kyberturvan sääntely-ympäristö eroaa Brasilian ja Yhdysvaltojen välillä, ja miten se vaikuttaa innovaatioon näissä alueilla?

Koska Generatiivinen AI on liikkumassa nopeasti, hallitukset tunnustavat tarpeen suojella jotain, mutta usein epäselvä, mitä he yrittävät suojella. Mitä vaikutusta on, jos loimme lait LLM:ille vuonna 2023, ja vuonna 2024 käytämme AI-agenteja? Tarvitsemme sääntelyä, mutta meidän on myös tehtävä tunteeton analyysi sääntely-ympäristöstä, jotta voimme parhaiten suojella paikallisia kansalaisia.

Sanottuna, kun AI tekee päätöksiä pelkästään tarkasti numeeristen syöttöjen perusteella, jotka edustavat syitä tai ominaisuuksia, analyysi on usein epätäydellinen ja johtaa virheelliseen todelliseen tulokseen. Esimerkiksi, jos AI-algoritmi tekee lainan myöntämispäätöksen henkilölle perustuen epäselvään kriteeriin, kuten “todennäköisyys” ja tekijä kuten palkka tai rotu, voisi helposti nähdä tilanteen, jossa henkilö olisi evätty lainasta yhden näiden tekijöiden yhteisvaikutuksesta. Generatiivisen AI:n kanssa ongelma on vielä pahempi, koska LLM:illä on kyky tuoda ulkopuolista tietoa tekemään päätöksiä. On tärkeää varmistaa, että meillä on sääntely, joka ei salli virheellisiä järjestelmiä tekemään päätöksiä (erityisesti ilman syvää valvontaa), koska ne ovat taatusti tekeviä virheitä.

Toisaalta olen ollut erittäin tyytyväinen Teslan itseajavan auton kokemukseen, joka on osoittautunut ylittävän ihmisten ajamien autojen määrän ennen kuin ne ovat osallisina onnettomuuksissa. Kyllä, ne tekevät virheitä, mutta jopa lentokoneissa, joissa on copilot, lentäjien on otettava ohjat haltuun hätätilanteissa.

Kyberturvan osalta useat Yhdysvaltojen organisaatiot (kuten JCDC.AI, NIST, CISA jne.) ovat keskustelleet AI:n ja kyberturvan tarpeesta. Tietysti nopeasti kehittyvissä markkinoissa tai teknologioissa on tarpeen jatkuvasti sopeutua muutoksiin, ja kun ne liikkuvat erittäin nopeasti, on toimittava kaaoksen reunalla.

Zscalerin Zero Trust Exchange on avainosa yrityksen turvallisuusmallissa. Miten AI parantaa tätä alustaa, ja mitkä ovat joitain jännittävimmistä kehityksistä tässä alueessa?

Zscalerin nollaturvallisuusarkkitehtuuri auttaa organisaatioita luomaan turvallisemman ympäristön AI-käyttöön, mutta alusta hyödyntää myös AI:ta monin tavoin, alkaen ZDX Copilotista, joka tarjoaa generatiivisen AI:lla voimaa turvallisuuteen ja IT-innovaatioihin. Yhteistyössä NVIDIA:n kanssa kehittämämme agentti hyödyntää Generatiivista AI:ta proaktiivisesti puolustamaan yrityksiä uhkia vastaan ja yksinkertaistaa IT- ja verkkotoimintoja. Zscaler on myös parantanut ennustavaa haavoittuvuuden tunnistamista lisäämällä Avalorin Data Fabric for Security -ominaisuuden Zscaler Zero Trust Exchangeen. Lopulta, AI on Zscalerin nollaturvallisuus-alustan ytimessä, tunnistamassa ja estämässä tunnistetietojen varastamisen ja selainhyökkäykset huijausverkkosivuilta. Reaaliaikaiset analyytikot, jotka perustuvat uhka-integrointiin yli 400 miljardista päivittäisestä transaktiosta, parantavat puolustusta monimutkaisia kyberhyökkäyksiä vastaan.

Miten näet AI:n kehittyvän kyberturvan haasteiden kasvavan monimutkaisuuden kanssa, erityisesti IoT- ja OT-laitteiden alueella?

Uhka-alue on kehittynyt selvästi AI-pohjaisilla kyberhyökkäyksillä, joten organisaatiot voivat taistella AI:ta AI:lla vastaan. Suurin kehitys tulee olemaan parantamalla AI-ratkaisuja lisäämällä muita tietolähteitä.

Kun kyberhyökkäysten määrä lisääntyy, meidän on käytettävä enemmän automaatiota AI:n avulla havaitsemaan ja puolustamaan kyberuhkia. On huomionarvoista, että AI ja Generatiivinen AI ovat jo nyt luomassa uusia hyökkäysmuotoja, ja siksi meidän on nostettava peliä korreloimalla enemmän signaaleja kuin aiemmin.

IoT- ja OT-laitteiden tapauksessa ne aiheuttavat merkittäviä riskejä organisaatioille, koska useat IoT-laitteet eivät käytä ajantasaisia ohjelmistopinoja – vaikka voit helposti ostaa Wi-Fi-kytkimiä, internet-yhteydellisiä televisioita, astioita, uuneja jne. Vuosien ajan olemme nähneet monia artikkeleita, jotka osoittavat haavoittuvuuksia, joihin olemme alttiita IoT/OT:ssa.

Meidän on oltava jatkuvasti tietoisia ja parannettava kyberturvaamme analysoimalla kaikenlaisia tietoja ja signaaleja havaitsemaan poikkeavuuksia ja potentiaalisia uhkia. Voittaaksemme tämän pelin, meidän on käytettävä viimeisimmän alan mallien kanssa koulutettuja valtavilla määrillä tietoa reaaliajassa. Generatiivinen AI on avainasemassa, mahdollistaen yritysten analyysin ja tiivistämisen tuloksia käyttäjille ja turvallisuusoperaattoreille.

Kuulumisestasi AI- ja kyberturva-työryhmiin Maailman talousfoorumissa, miten maailmanlaajuiset keskustelut AI-eettisyydestä ja kyberturvallisuudesta muokkaavat lähestymistapaasi rooliisi Zscalerissa?

Koska teknologia on liikkumassa nopeasti, hallitukset ja organisaatiot tarvitsevat perustietoja, ja näen tämän Maailman talousfoorumin roolina. AI ja kyberturva yksinään tarvitsevat tarpeeksi tarpeita, jotta ne vaativat erillisiä ryhmiä, mutta kun yhdistät nämä kaksi, se on melkein uusi alue itsessään. Esimerkiksi Gartnerin mukaan tänä vuonna Generatiivinen AI lisää hyökkäyspintaa valtavasti, siirtäen sen promptin injektioon syötteen ja tulosteen sovelluskoodeihin, malliin ja jopa liitännäisiin hyökkäyksiin.

Jotkut näistä hyökkäyksistä ovat spesifejä LLM:ille kuten ChatGPT, mutta kun otetaan huomioon, että siirrymme LLM:istä AI-agenteihin ja moni-agenttijärjestelmiin, on otettava huomioon paljon enemmän tietoja. Esimerkiksi LLM:issä voit huolehtia promptin injektioista, univormun käyttäytymisestä (laukaista LLM:ää vastaamaan eri tavoin erityisillä avainsanoilla) tai omistajien tietojen vuodosta. Kun keskustellaan AI-agenteista, on otettava huomioon hyökkäykset työkaluihin ja tietolähteisiin – jopa olettaen, että SQL-injektiot ja OS-komentojen injektiot voivat olla mahdollisia uudelleen.

Lisäksi, kun lisäämme moni-agenttijärjestelmiä, joissa agentit voivat olla eri sijainneissa, on kuviteltava, että se tarkoittaa täysin eri verkkoviestintää eri protokollilla. Ihmiset ovat kokeilleet tuhansia agenteja – aivan kuin tietokoneverkko.

Lopulta, meidän on valmisteltava työvoimamme Generatiivisen AI:n käyttöön antamalla heille työkaluja ja ympäristöä, jossa he voivat toimia tässä uudessa maailmassa.

Olet ollut vahva kannattaja monimuotoisuuden ja sisällyttämisen puolesta, erityisesti Zscalerin Latino- ja Hispanic-työryhmän Saborin toimitusjohtajana. Miten kulttuurillinen taustasi on vaikuttanut johtamistyyliisi ja lähestymistapaasi AI-kehitykseen?

Olen ylpeä latino, joka on syntynyt ja kasvanut Brasiliassa, ja olen intohimoinen tukemaan ja voimaannuttamaan latino- ja hispanoyhteisöjä Zscalerissa. Tunnen suuren saavutuksen siinä, että voin vaikuttaa paremman maailman luomiseen kyberturvallisuuden kautta, jossa autamme suojelemaan yhteiskuntaa yhä monimutkaisemmassa maailmassa. Arvoni ovat auttaneet minua pääsemään tähän, ja olen erittäin ylpeä siitä, mistä olen kotoisin.

Neuvoni olisi, älä koskaan unohda, mistä olet tullut ja mitä olet tehnyt. Ole aina ylpeä siitä, mikä tekee sinut ainutlaatuiseksi, mutta tunnusta myös, että monimuotoisuus on kuningas. Elän itseni kanssa 24 tuntia vuorokaudessa. Jos palkkaan vain ihmisiä, jotka ovat samanlaisia kuin minä ja ovat samaa mieltä minun kanssa, en lisää tietämiäni. Palkkaaminen ihmisiä useista paikoista ja taustoista auttaa meitä ymmärtämään paremmin globaalien asiakkaidemme erityistarpeita.

Viimeiseksi, mitä sinä innostaa eniten AI:n tulevaisuudesta kyberturvallisuudessa, ja mitä roolia näet Zscalerin pelaavan siinä tulevaisuudessa?

AI ei muuta tehokkaan kyberturvan perusteita – se korostaa niiden tärkeyttä. Odotamme, että näemme läpinäkyvyyden, vahvat turvallisuuskäytännöt ja jatkuva seuranta leviävän koko alalle. Organisaatioiden on otettava kattava lähestymistapa turvallisuuteen, toteuttaen edistyneitä toimia havaitsemaan ja reagoimaan uhkiin. Tämä sisältää turvallisuustietoisuuden kulttuurin luomisen, säännöllisten turvallisuuden auditointien suorittamisen ja yhteistyön kehittämisen tehokkaiden turvallisuusstrategioiden kehittämiseksi. Näin organisaatiot voivat vähentää riskiä ja suojella arkaluontoista tietoa.

Zscaler on sitoutunut suojelemaan käyttäjien yksityisyyttä käyttämällä edistyneimpiä tekniikoita anonymisoida tietoja ja varmistamaan, että ne pidetään poissa LLM:istä, estäen yksittäisten käyttäjien tai organisaatioiden tunnistamisen. Vaikka tutkimme LLM:ien hienosäätöä tulevaisuudessa, tiukat tietosuojatoimet takaavat, että mikään käyttäjän tieto ei ole vaarassa. Tavoitteemme on hyödyntää AI:n voimaa parantamaan turvallisuutta ilman asiakkaiden yksityisyyden loukkaamista.

Kiitos haastattelusta, lukijat, jotka haluavat oppia enemmän, voivat vierailla Zscaler:ssa.