Claudionor Coelho, glavni direktor za umjetnu inteligenciju u Zscaleru – serija intervjua

Claudionor Coelho je glavni službenik za umjetnu inteligenciju u Zscaleru, odgovoran za vođenje svog tima u pronalaženju novih načina za zaštitu podataka, uređaja i korisnika putem najsuvremenijih tehnika primijenjenog strojnog učenja (ML), dubokog učenja i generativne AI tehnike. Prije nego što se pridružio Zscaleru, radio je kao glavni direktor za umjetnu inteligenciju i viši potpredsjednik za inženjering u Advantestu. Prethodno je Coelho bio potpredsjednik i voditelj AI Labsa u Palo Alto Networksu. Također je imao uloge u ML-u i dubinskom učenju u Googleu.

Zscaler fokusira se na ubrzavanje digitalne transformacije omogućavajući organizacijama postizanje veće agilnosti, učinkovitosti, otpornosti i sigurnosti. Tvrtkina platforma Zero Trust Exchange koja se temelji na oblaku dizajnirana je za zaštitu korisnika od kibernetičkih napada i gubitka podataka sigurnim povezivanjem korisnika, uređaja i aplikacija, bez obzira na njihovu lokaciju. Zscaler služi tisućama kupaca širom svijeta, naglašavajući robusnu sigurnost i besprijekornu povezanost.

Kao Zscalerov prvi glavni direktor za umjetnu inteligenciju, kako ste oblikovali tvrtku strategiju umjetne inteligencije, posebno u integraciji umjetne inteligencije s kibersigurnošću?

Zscaler je značajno napredovao u umjetnoj inteligenciji za kibernetičku sigurnost, što ga izdvaja od konkurencije. Zscalerova platforma Zero Trust koristi AI za otkrivanje i zaustavljanje krađe vjerodajnica i iskorištavanja preglednika sa stranica za krađu identiteta. Obavještajni podaci o prijetnjama iz više od 400 milijardi dnevnih transakcija donose analitiku u stvarnom vremenu koja poboljšava obranu od sofisticiranih kibernetičkih napada. Dodatno, surađujemo s NVIDIA-om kako bismo pružili generativne sigurnosne i IT inovacije koje pokreće AI kao što je Zscaler ZDX Copilot, koji pojednostavljuje IT i mrežne operacije, dok obrađuje podatke s platforme Zero Trust Exchange™ za proaktivnu obranu poduzeća od prijetnji. Naposljetku, s akvizicijom Avalora, proširili smo mogućnosti Zero Trust Exchange™ koristeći Data Fabric for Security. S više od 150 unaprijed izgrađenih integracija identificira i predviđa kritične ranjivosti dok poboljšava operativnu učinkovitost.

Osnovali ste više tvrtki, uključujući Kunumi, i bili na vodećim pozicijama u vrhunskim tvrtkama. Kako je vaše poduzetničko iskustvo utjecalo na vaš pristup korporativnog voditelja umjetne inteligencije u Zscaleru?

Kad sam bio viši potpredsjednik inženjerstva u Jasper Design Automationu, startupu za Electronic Design Automation, natjecali smo se s tvrtkama vrijednim više milijardi dolara, ali smo postigli više od 70-80% tržišnog udjela zbog inovacija, poslovnih procesa i agilnosti. Jedna od knjiga na koju sam se uvijek pozivao tijekom naših sastanaka o strategiji bila je "Natjecanje na rubu: strategija kao strukturirani kaos" prof. Kathleen M. Eisenhardt. Iako je ova knjiga iz 1998., još uvijek se odnosi na ono što danas vidimo s Generative AI.

Nikad prije se tehnologija koja je promijenila svijet nije tako brzo kretala. Motorolin inženjer Martin Cooper napravio je prvi mobilni telefonski poziv 1973., ali svijetu je trebalo 10 godina dok se nije otvorila prva komercijalna mreža i još 24 godine dok nije pušten iPhone, mijenjajući način na koji komuniciramo s računalnim strojevima.

ChatGPT je objavljen u studenom 2022. Sljedeće smo godine na seminaru koji je sponzorirao WEF raspravljali o tome da će Opća umjetna inteligencija (AGI) uskoro doći. U to je vrijeme samo nekoliko nas prepoznalo da možemo koristiti agente za stvaranje puno inteligentnih sustava popunjavanjem praznina u LLM-u alatima – čak i prije AGI-ja. U 2024. rasprava se pomaknula na AI agente, a na kraju godine počinjemo viđati nekoliko inteligentnih AI agenata (kao ZDX kopilot ili platforma za bloganje  Kiroku).

Ova brzina se može vidjeti samo u startup okruženju, pa uzrokuje ogroman stres u velikim organizacijama, koje se bore da postanu dovoljno agilne da prihvate tehnologiju neviđene brzine.

S obzirom na vaše iskustvo vođenja tvrtki u Brazilu i SAD-u, koje su neke od ključnih razlika između ta dva tržišta u smislu usvajanja umjetne inteligencije i kibernetičke sigurnosti?

Rasprava o startupima dobar je način da počnete ilustrirati sličnosti i razlike između tržišta, budući da su ona mjesta na kojima često vidite radikalne inovacije prije nego što dopru do velikih korporacija. Uobičajena strategija za startupe u Brazilu bila je kopiranje uspješnih američkih startupa u ranoj fazi, jer američki startupi obično prvo gledaju na unutarnje tržište (iako se to mijenja). Međutim, SAD tradicionalno ima stabilniji sustav kapitala koji olakšava osnivanje tvrtke.

Kreirao sam Kunumi 2014. kao prvu tvrtku za duboko učenje u Brazilu. Ranije ove godine prodan je Bradesco banci. Općenito, korporacije u Brazilu ne znaju kako će usvojiti Generative AI, a vidjet ćete mnogo pogrešaka – također istinito u SAD-u. Napravio sam četiri kopilota u životu – prvi 2016., dok sam bio u Synopsysu. Bio je to agent koji je mogao skenirati zapisnike kompilacije i izvršavanja velikih strojeva za emulaciju, tražeći informacije vezane uz pitanja korisnika, s višejezičnom podrškom. U to vrijeme nije bilo transformatora, nije bilo LLM-a, a čak je i prijevod bio vrlo različit od onoga što imamo danas.

Godine 2020. bio sam istraživač u Googleu radeći na kompresiji i kvantizaciji modela dubokog učenja, a CERN je koristio ono što sam stvorio u potrazi za subatomskim česticama. Kad sam pomislio da smo u ratu oko podataka, postalo je jasno da je kibernetička sigurnost globalni problem koji nije lokaliziran na jednu ili drugu zemlju. Tada sam se odlučio useliti u njega.

Prije nekoliko mjeseci razgovarao sam sa službenikom strane vlade koji je govorio da je kibernetička sigurnost problem SAD-a i da njegova agencija nema razloga za zabrinutost – samo da bi se nekoliko tjedana kasnije u njegovoj organizaciji dogodio kibernetički napad.

Konačno, uspoređujući stanje kibernetičke sigurnosti s optužbama za ransomware između Brazila i SAD-a, stvarnost je da su procijenjene naknade za ransomware otprilike iste.

Kako se regulatorno okruženje za umjetnu inteligenciju i kibernetičku sigurnost razlikuje između Brazila i SAD-a i kako to utječe na inovacije u tim regijama?

Budući da se Generative AI kreće tako brzo, vlade prepoznaju potrebu da zaštite nešto, ali često im nije jasno što pokušavaju zaštititi. Kakav je učinak ako smo izradili zakone za LLM 2023., a 2024. koristimo AI agente? Potrebni su nam propisi, ali također moramo napraviti neemocionalnu analizu regulatornog okruženja kako bismo vidjeli kako možemo bolje zaštititi lokalne građane.

Međutim, kada AI donosi odluke isključivo na temelju točnih numeričkih inputa koji predstavljaju razloge ili značajke, analiza je često nepotpuna i daje pogrešan rezultat iz stvarnog života. Na primjer, ako algoritam umjetne inteligencije donese odluku o zajmu osobi na temelju dvosmislenog kriterija kao što je "vjerojatnost" i uključen je faktor poput plaće ili rase, lako biste mogli vidjeti scenarij u kojem bi osobi bila odbijena zajam na temelju neto učinak jednog od ta dva faktora. S generativnom umjetnom inteligencijom problem postaje još gori zbog nemogućnosti LLM-a da donesu vanjske podatke kako bi donijeli razumne pretpostavke. Važno je osigurati da imamo propise koji ne dopuštaju neispravnim sustavima da donose odluke (posebno bez dubljeg nadzora), jer su neizbježni da će pogriješiti.

S druge strane, bio sam iznimno zadovoljan potpunom sposobnošću samostalne vožnje Teslinih automobila, za koje se pokazalo da u usporedbi s ljudima premašuju broj prijeđenih kilometara prije nego što sudjeluju u nesrećama. Da, griješe, ali čak i u zrakoplovima s uključenim kopilotom, piloti moraju preuzeti kontrolu u slučaju nužde.

Što se tiče kibernetičke sigurnosti, nekoliko američkih organizacija (npr. JCDC.AI, NIST, CISA itd.) raspravljalo je o potrebi rješavanja AI i kibernetičke sigurnosti. Naravno, na brzim tržištima ili tehnologijama morate se neprestano prilagođavati promjenama, a kada se one kreću iznimno brzo, morate poslovati na rubu kaosa.

Zscalerov Zero Trust Exchange ključni je dio njegovog sigurnosnog modela. Kako AI poboljšava ovu platformu i koji su neki od najuzbudljivijih razvoja u ovom području?

Zscalerova arhitektura nultog povjerenja pomaže organizacijama u stvaranju sigurnijeg okruženja za implementacije AI-ja, ali platforma također koristi AI na brojne načine, počevši sa ZDX Copilot-om koji donosi generativne sigurnosne inovacije koje pokreće AI. Razvijen u suradnji s tvrtkom NVIDIA, agent koristi Generative AI za proaktivnu obranu poduzeća od prijetnji i pojednostavljuje IT i mrežne operacije. Zscaler je također poboljšao svoju prediktivnu identifikaciju ranjivosti dodavanjem Avalorovog Data Fabric for Security u Zscaler Zero Trust Exchange. Konačno, umjetna inteligencija živi u središtu Zscalerove platforme nultog povjerenja, otkrivajući i zaustavljajući krađu vjerodajnica i iskorištavanje preglednika sa stranica za krađu identiteta. Analitika u stvarnom vremenu temeljena na podacima o prijetnjama iz preko 400 milijardi dnevnih transakcija poboljšava njegovu obranu od sofisticiranih kibernetičkih napada.

AI postaje sve središnji u borbi protiv cyber prijetnji. Kako vidite razvoj umjetne inteligencije u rješavanju rastuće složenosti kibersigurnosnih rizika, posebno u području IoT i OT uređaja?

Krajolik prijetnji nedvosmisleno je evoluirao s pojavom kibernetičkih napada temeljenih na umjetnoj inteligenciji, pa bi se organizacije mogle boriti protiv umjetne inteligencije pomoću umjetne inteligencije. Glavna evolucija bit će poboljšanje AI rješenja s dodatnim izvorima podataka.

Kako se broj cyber napada povećava, moramo koristiti više automatizacije s umjetnom inteligencijom za otkrivanje i rješavanje cyber rizika. Vrijedno je napomenuti da se AI i Generative AI upravo sada koriste za stvaranje novih frontova napada i zbog toga moramo poboljšati igru ​​korelacijom više signala nego prije.

U slučaju IoT i OT uređaja, oni predstavljaju značajan rizik za organizacije, budući da nekoliko IoT uređaja ne koristi najnovije softverske hrpe – unatoč činjenici da možete lako kupiti Wi-Fi preklopnike, televizore povezane s internetom, perilice posuđa , pećnice, itd. Godinama smo vidjeli brojan roba koji pokazuju ranjivosti kojima smo podložni u IoT/OT-u.

Trebamo stalnu svijest i poboljšati obranu kibernetičke sigurnosti analizom svih vrsta podataka i signala kako bismo otkrili anomalije i potencijalne prijetnje. Da bismo pobijedili u ovoj igri, potrebni su nam najsuvremeniji AI modeli obučeni s golemim količinama podataka u stvarnom vremenu. Generativna umjetna inteligencija igra instrumentalnu ulogu, omogućujući tvrtkama da analiziraju i sažimaju rezultate korisnicima i sigurnosnim operaterima.

Kao član radnih grupa za umjetnu inteligenciju i kibernetičku sigurnost na Svjetskom ekonomskom forumu, kako globalne rasprave o etici umjetne inteligencije i kibernetičkoj sigurnosti oblikuju vaš pristup vašoj ulozi u Zscaleru?

Budući da se tehnologija kreće tako brzo, vlade i organizacije trebaju imati temeljne informacije, a to vidim kao ulogu Svjetskog ekonomskog foruma. Umjetna inteligencija i kibernetička sigurnost sami po sebi imaju dovoljno potrebe da zahtijevaju zasebne grupe, ali kada ih spojite, to je gotovo novo područje samo po sebi. Na primjer, Gartner je ove godine pokazao da Generative AI strahovito povećava površinu napada, od brzog ubrizgavanja na ulazu i izlazu do napada na aplikacijski kod, napada na modele, pa čak i napada na dodatke.

Neki od ovih napada specifični su za LLM-ove kao što je ChatGPT, ali ako smatrate da prelazimo s LLM-a na AI agente i multi-agent sustave, morate uzeti u obzir mnogo više informacija. Na primjer, u LLM-u vam može biti stalo do brzog ubrizgavanja, ponašanja stanica spavanja (pokrećući LLM da reagira drugačije na temelju posebnih ključnih riječi) ili curenja vlasničkih informacija. Kada govorimo o agentima umjetne inteligencije, moramo uzeti u obzir i napade na alate i izvore podataka – čak i pod pretpostavkom da bi ubacivanje SQL-a i ubacivanje naredbi OS-a opet moglo biti moguće.

Nadalje, ako dodamo sustave s više agenata, gdje agenti mogu boraviti na različitim lokacijama, moramo zamisliti da to implicira potpuno drugačiju mrežu koja komunicira s protokolima. Ljudi su eksperimentirali s tisućama agenata - baš kao računalna mreža.

Konačno, moramo pripremiti našu radnu snagu za korištenje Generative AI, pružajući alate i okruženje u kojem mogu djelovati u ovom novom svijetu.

Bili ste snažan zagovornik raznolikosti i inkluzije, osobito kao izvršni sponzor Zscalerovog latino i hispanoameričkog ERG-a, Sabor. Kako je vaše kulturno podrijetlo utjecalo na vaš stil vođenja i pristup razvoju umjetne inteligencije?

Kao ponosni Latinoamerikanac rođen i odrastao u Brazilu, strastveno podržavam i osnažujem latinoameričku i latinoameričku zajednicu u Zscaleru. Osjećam veliki osjećaj postignuća što mogu doprinijeti boljem svijetu putem kibernetičke sigurnosti, gdje pomažemo u zaštiti društva u sve složenijem svijetu. Moje vrijednosti pomogle su mi da dođem tu gdje sam danas i iznimno sam ponosan na to odakle dolazim.

Moj savjet bi bio da nikada ne zaboravite odakle ste došli i što ste učinili. Uvijek budite ponosni na ono što vas čini jedinstvenim, ali također prepoznajte da je različitost kralj. Živim sama sa sobom 24 sata na dan. Ako zapošljavam samo ljude koji su mi slični i slažu se sa mnom, neću povećati svoje znanje. Zapošljavanje ljudi s brojnih lokacija i pozadina pomaže nam da bolje razumijemo specifične potrebe naše globalne baze klijenata.

Na kraju, što vas najviše uzbuđuje u vezi s budućnošću umjetne inteligencije u kibernetičkoj sigurnosti i kakvu ulogu Zscaler igra u toj budućnosti?

AI ne mijenja osnove učinkovite cyber obrane – ona naglašava njihovu važnost. Očekujemo da će se transparentnost, robusne sigurnosne prakse i kontinuirani nadzor proširiti diljem industrije. Organizacije moraju usvojiti sveobuhvatan pristup sigurnosti, implementirajući napredne mjere za otkrivanje i odgovor na prijetnje. To uključuje poticanje kulture svijesti o sigurnosti, provođenje redovitih sigurnosnih revizija i suradnju s dionicima na razvoju učinkovitih sigurnosnih strategija. Na taj način organizacije mogu smanjiti rizik od provale i zaštititi svoje osjetljive informacije.

Zscaler je predan zaštiti privatnosti korisnika, koristeći najnaprednije tehnike za anonimiziranje podataka i osiguravajući da ih držimo izvan naših LLM-ova, sprječavajući identifikaciju pojedinačnih korisnika ili organizacija. Iako bismo u budućnosti mogli istražiti fino podešavanje LLM-ova, naše stroge mjere zaštite privatnosti podataka kako bismo osigurali da nijedan korisnički podatak nije ugrožen ostat će najvažnije. Naš je cilj iskoristiti snagu umjetne inteligencije za poboljšanje sigurnosti bez narušavanja privatnosti korisnika.

Hvala vam na sjajnom intervjuu, čitatelji koji žele saznati više neka ga posjete Zscaler.