Claudionor Coelho, Șeful Ofițerului de Inteligență Artificială la Zscaler – Seria de Interviuri

Claudionor Coelho este Șeful Ofițerului de Inteligență Artificială la Zscaler, responsabil pentru conducerea echipei sale în vederea găsirii de noi modalități de protejare a datelor, dispozitivelor și utilizatorilor prin tehnici de învățare automată (ML), învățare profundă și tehnici de inteligență artificială generativă de ultimă generație. Înainte de a se alătura Zscaler, el a ocupat funcția de Șef al Ofițerului de Inteligență Artificială și Vicepreședinte al ingineriei la Advantest. Anterior, Coelho a fost Vicepreședinte și Șef al Laboratoarelor de Inteligență Artificială la Palo Alto Networks (PANW ). El a deținut, de asemenea, roluri de învățare automată și învățare profundă la Google (GOOGL ).

Zscaler se concentrează pe accelerarea transformării digitale, permițând organizațiilor să atingă o mai mare agilitate, eficiență, reziliență și securitate. Platforma cloud-native Zero Trust Exchange a companiei este proiectată pentru a proteja utilizatorii de atacuri cibernetice și pierderi de date, conectând în siguranță utilizatori, dispozitive și aplicații, indiferent de locație. Zscaler deservește mii de clienți din întreaga lume, subliniind securitatea robustă și conectivitatea fără întrerupere.

Ca prim Șef al Ofițerului de Inteligență Artificială al Zscaler, cum ați modelat strategia de inteligență artificială a companiei, în special în ceea ce privește integrarea inteligenței artificiale cu securitatea cibernetică?

Zscaler a făcut progrese semnificative în domeniul inteligenței artificiale pentru securitatea cibernetică, ceea ce o diferențiază de concurenți. Platforma Zero Trust a Zscaler utilizează inteligența artificială pentru a detecta și a stopa furtul de credențiale și exploatarea browserului de la paginile de phishing. Informațiile de intelligence din peste 400 de miliarde de tranzacții zilnice oferă analize în timp real care îmbunătățesc apărarea împotriva atacurilor cibernetice sofisticate. De asemenea, colaborăm cu NVIDIA (NVDA ) pentru a livra inovații de securitate și IT bazate pe inteligență artificială generativă, cum ar fi Zscaler ZDX Copilot, care simplifică operațiunile IT și de rețea, procesând date din platforma Zero Trust Exchange pentru a apăra proactiv întreprinderile împotriva amenințărilor. În cele din urmă, prin achiziția Avalor, am extins capacitățile platformei Zero Trust Exchange utilizând Data Fabric for Security, care identifică și prezice vulnerabilități critice, îmbunătățind, de asemenea, eficiența operațională.

Ați fondat mai multe companii, inclusiv Kunumi, și ați ocupat roluri de conducere în companii de top. Cum v-a influențat experiența antreprenorială abordarea dvs. ca lider de inteligență artificială la Zscaler?

Când eram Vicepreședinte al Ingineriei la Jasper Design Automation, o companie de automatizare a proiectării electronice, am concurat cu companii multinaționale, dar am obținut peste 70-80% din cotă de piață datorită inovației, proceselor de afaceri și agilității. Una dintre cărțile pe care le consultam întotdeauna în timpul ședințelor noastre de strategie a fost „Competing on the Edge: Strategy as Structured Chaos” de Prof. Kathleen M. Eisenhardt. Deși această carte datează din 1998, ea se aplică încă ceea ce vedem astăzi cu inteligența artificială generativă.

Niciodată nu a existat o tehnologie care să schimbe lumea și să se miște atât de repede. Inginerul Motorola, Martin Cooper, a făcut primul apel telefonic celular în 1973, dar a durat lumea 10 ani până când a fost deschisă prima rețea comercială și încă 24 de ani până când a fost lansat iPhone-ul, schimbând modul în care interacționăm cu computerele.

ChatGPT a fost lansat în noiembrie 2022. Anul următor, am discutat într-un seminar sponsorizat de Forumul Economic Mondial că inteligența artificială generală (AGI) va veni curând. La acea vreme, doar câțiva dintre noi recunoșteau că putem utiliza agenți pentru a crea multe sisteme inteligente, completând lacunele inteligenței artificiale generative cu unelte, chiar înainte de AGI. În 2024, discuția s-a mutat spre agenți de inteligență artificială, iar spre sfârșitul anului, începem să vedem mai mulți agenți de inteligență artificială inteligenți (cum ar fi ZDX Copilot sau platforma de blogare Kiroku).

Această viteză poate fi văzută doar într-un mediu de startup, ceea ce cauzează un stres enorm în organizațiile mari, care luptă pentru a deveni suficient de agile pentru a se adapta la o tehnologie cu o viteză fără precedent.

Având în vedere experiența dvs. de a conduce companii atât în Brazilia, cât și în Statele Unite, care sunt unele dintre principalele diferențe dintre cele două piețe în ceea ce privește adoptarea inteligenței artificiale și a securității cibernetice?

Discutarea startup-urilor este un mod bun de a începe să ilustreze asemănările și diferențele dintre piețe, deoarece acestea sunt locurile unde adesea se văd inovații radicale înainte de a ajunge la corporații mari. O strategie comună în Brazilia pentru startup-uri a fost de a copia startup-uri de succes din Statele Unite, deoarece startup-urile din Statele Unite de obicei se concentrează pe piața internă mai întâi (deși acest lucru se schimbă). Cu toate acestea, Statele Unite au avut de obicei un sistem de capital mai stabil, care face mai ușor să înființezi o companie.

Am creat Kunumi în 2014 ca prima companie de învățare profundă din Brazilia. A fost vândută băncii Bradesco la începutul acestui an. În general, corporațiile din Brazilia nu știu cum vor adopta inteligența artificială generativă, și veți vedea multe greșeli – la fel și în Statele Unite. Am construit patru copiloți în viața mea – primul în 2016, când eram la Synopsys. A fost un agent care putea scana jurnalele de compilare și execuție ale mașinilor de emulare mari, căutând informații legate de întrebările utilizatorilor, cu suport multi-limbă. La acea vreme, nu existau transformatori, nu existau modele de inteligență artificială generativă, și nici măcar traducerea nu era la fel de avansată ca astăzi.

În 2020, eram cercetător la Google, lucrând la comprimarea și cuantificarea modelului de învățare profundă, cu CERN, folosind ceea ce am creat în căutarea particulelor subatomice. Când am crezut că suntem în război cu datele, a devenit clar că securitatea cibernetică este o problemă globală care nu este localizată într-o țară sau alta. Atunci am decis să mă mut în această direcție.

Cu câteva luni în urmă, vorbeam cu un funcționar guvernamental străin care spunea că securitatea cibernetică este o problemă a Statelor Unite și că agenția sa nu are nimic de îngrijorat – doar pentru a suferi un atac cibernetic în organizația sa câteva săptămâni mai târziu.

În cele din urmă, comparând starea securității cibernetice cu acuzațiile de ransomware între Brazilia și Statele Unite, realitatea este că taxele estimate de ransomware sunt aproximativ la fel.

Cum diferă mediul de reglementare pentru inteligența artificială și securitatea cibernetică între Brazilia și Statele Unite, și cum afectează aceasta inovația în aceste regiuni?

Deoarece inteligența artificială generativă se mișcă atât de repede, guvernele recunosc nevoia de a proteja ceva, dar adesea nu sunt clare asupra a ceea ce protejează. Ce impact are dacă am creat legi pentru modelele de inteligență artificială generativă în 2023, și în 2024 folosim agenți de inteligență artificială? Avem nevoie de reglementări, dar avem nevoie și de o analiză nepărtinitoare a mediului de reglementare pentru a vedea cum putem proteja mai bine cetățenii locali.

Acesta spus, atunci când inteligența artificială ia decizii doar pe baza intrărilor numerice exacte care reprezintă motive sau caracteristici, analiza este adesea incompletă și oferă un rezultat real defectuos. De exemplu, dacă un algoritm de inteligență artificială ia o decizie de împrumut pentru o persoană pe baza unui criteriu ambiguu, cum ar fi „probabilitatea” și un factor precum salariul sau rasa, puteți vedea ușor un scenariu în care o persoană ar fi refuzată un împrumut pe baza efectului net al unuia dintre aceste două factori. Cu inteligența artificială generativă, problema devine și mai gravă, din cauza incapacității modelelor de inteligență artificială generativă de a aduce date externe pentru a face presupuneri de raționament. Este important să ne asigurăm că avem reglementări care nu permit sisteme defecte să ia decizii (în special fără supraveghere profundă), deoarece acestea sunt destinate să facă greșeli.

Pe de altă parte, am fost extrem de mulțumit de capacitatea de conducere autonomă a mașinilor Tesla (TSLA ), care, în comparație cu oamenii, a demonstrat că depășește numărul de mile conduse înainte de a fi implicate în accidente. Da, fac greșeli, dar chiar și în avioane cu copilot, piloții trebuie să preia controlul în caz de urgență.

În ceea ce privește securitatea cibernetică, mai multe organizații din Statele Unite (de exemplu, JCDC.AI, NIST, CISA etc.) au discutat despre necesitatea de a aborda inteligența artificială și securitatea cibernetică. Desigur, în piețe sau tehnologii rapide, aveți nevoie să vă adaptați continuu la schimbări, și atunci când se mișcă extrem de repede, trebuie să operați la limita haosului.

Platforma Zero Trust Exchange a Zscaler este o parte cheie a modelului de securitate al companiei. Cum îmbunătățește inteligența artificială această platformă, și care sunt unele dintre cele mai interesante dezvoltări în acest domeniu?

Arhitectura Zero Trust a Zscaler ajută organizațiile să creeze un mediu mai sigur pentru implementările de inteligență artificială, dar platforma utilizează, de asemenea, inteligența artificială în numeroase moduri, începând cu ZDX Copilot, care livrează inovații de securitate bazate pe inteligență artificială generativă. Dezvoltat în colaborare cu NVIDIA, agentul utilizează inteligența artificială generativă pentru a apăra proactiv întreprinderile împotriva amenințărilor și simplifică operațiunile IT și de rețea. Zscaler a îmbunătățit, de asemenea, identificarea predictivă a vulnerabilităților prin adăugarea Data Fabric for Security la platforma Zero Trust Exchange. În cele din urmă, inteligența artificială este la baza platformei Zero Trust a Zscaler, detectând și stopând furtul de credențiale și exploatarea browserului de la paginile de phishing. Analizele în timp real bazate pe informațiile de intelligence din peste 400 de miliarde de tranzacții zilnice îmbunătățesc apărarea împotriva atacurilor cibernetice sofisticate.

Inteligența artificială a devenit din ce în ce mai centrală în lupta împotriva amenințărilor cibernetice. Cum credeți că inteligența artificială va evolua pentru a aborda complexitatea în creștere a riscurilor de securitate cibernetică, în special în domeniul dispozitivelor IoT și OT?

Peisajul amenințărilor a evoluat fără echivoc odată cu apariția atacurilor cibernetice bazate pe inteligență artificială, astfel încât organizațiile ar putea lupta cu inteligența artificială împotriva inteligenței artificiale. Principala evoluție va consta în îmbunătățirea soluțiilor de inteligență artificială cu surse de date suplimentare.

Pe măsură ce numărul atacurilor cibernetice crește, avem nevoie de mai multă automatizare cu inteligență artificială pentru a detecta și aborda riscurile cibernetice. Este demn de remarcat că inteligența artificială și inteligența artificială generativă sunt utilizate în prezent pentru a crea noi fronturi de atac, și din cauza acestui fapt, trebuie să ne îmbunătățim jocul prin corelarea mai multor semnale decât am făcut-o anterior.

În cazul dispozitivelor IoT și OT, acestea reprezintă riscuri semnificative pentru organizații, deoarece multe dispozitive IoT nu utilizează cele mai recente stivuire de software – în ciuda faptului că puteți cumpăra cu ușurință comutatoare Wi-Fi, televizoare conectate la internet, mașini de spălat, cuptoare, etc. De ani de zile, am văzut numeroase articole care arată vulnerabilitățile la care suntem supuși în IoT/OT.

Avem nevoie de conștientizare constantă și de îmbunătățire a apărării securității cibernetice prin analizarea tuturor tipurilor de date și semnale pentru a detecta anomalii și amenințări potențiale. Pentru a câștiga acest joc, avem nevoie de modele de inteligență artificială de ultimă generație, antrenate cu cantități masive de date în timp real. Inteligența artificială generativă joacă un rol instrumental, permițând companiilor să analizeze și să rezume rezultatele pentru utilizatori și operatori de securitate.

Ca membru al grupurilor de lucru pentru inteligență artificială și securitate cibernetică la Forumul Economic Mondial, cum influențează discuțiile globale despre etica inteligenței artificiale și securitatea cibernetică abordarea dvs. în rolul dvs. la Zscaler?

Deoarece tehnologia se mișcă atât de repede, guvernele și organizațiile au nevoie de informații solide, și văd acest lucru ca fiind rolul Forumului Economic Mondial. Inteligența artificială și securitatea cibernetică au nevoie de grupuri separate, dar atunci când le combinați, este aproape o zonă nouă în sine. De exemplu, Gartner a arătat anul acesta că inteligența artificială generativă mărește suprafața de atac în mod semnificativ, trecând de la injecția de prompt la intrare și ieșire la atacuri asupra aplicațiilor și modelelor, și chiar atacuri de plug-in.

Unele dintre aceste atacuri sunt specifice modelelor de inteligență artificială generativă, cum ar fi ChatGPT, dar dacă luăm în considerare faptul că trecem de la modele de inteligență artificială generativă la agenți de inteligență artificială și sisteme multi-agente, trebuie să luăm în considerare mult mai multe informații. De exemplu, în modelele de inteligență artificială generativă, vă puteți îngrijora de injecția de prompt, comportamentul de celulă dormantă (declanșarea modelului de inteligență artificială generativă pentru a răspunde diferit pe baza unor cuvinte cheie speciale) sau scurgerea de informații confidențiale. Când discutăm despre agenți de inteligență artificială, trebuie să luăm în considerare atacuri asupra uneltelor și surselor de date, precum și injecția SQL și injecția de comenzi de sistem.

În cele din urmă, trebuie să ne pregătim forța de muncă pentru a utiliza inteligența artificială generativă, oferindu-le unelte și un mediu în care pot opera în această lume nouă.

Ați fost un puternic susținător al diversității și incluziunii, în special ca Sponsor Executiv pentru Grupul de Resurse pentru Angajați Latino și Hispanici al Zscaler, Sabor. Cum v-a influențat backgroundul cultural abordarea dvs. de lider și dezvoltarea inteligenței artificiale?

Ca latino american mândru, născut și crescut în Brazilia, sunt pasionat de susținerea și împuternicirea comunităților latino și hispanice de la Zscaler. Sunt mândru de a putea contribui la o lume mai bună prin securitatea cibernetică, unde ajutăm la protejarea societății într-o lume din ce în ce mai complexă. Valorile mele m-au ajutat să ajung unde sunt astăzi, și sunt extrem de mândru de unde vin.

Sfatul meu ar fi să nu uitați niciodată de unde veniți și ce ați făcut. Fiți întotdeauna mândri de ceea ce vă face unic, dar recunoașteți, de asemenea, că diversitatea este cheia. Trăiesc cu mine 24 de ore pe zi. Dacă angajez doar oameni care sunt similari cu mine și care sunt de acord cu mine, nu voi crește cunoștințele mele. Angajarea de oameni din diverse locații și medii ne ajută să înțelegem nevoile specifice ale bazei noastre de clienți globali.

În cele din urmă, ce vă entuziasmează cel mai mult despre viitorul inteligenței artificiale în securitatea cibernetică, și ce rol credeți că va juca Zscaler în acest viitor?

Inteligența artificială nu schimbă fundamentele unei apărări cibernetice eficiente – subliniază importanța lor. Ne așteptăm să vedem transparența, practicile de securitate robuste și monitorizarea continuă să se răspândească în întreaga industrie. Organizațiile trebuie să adopte o abordare cuprinzătoare a securității, implementând măsuri avansate pentru a detecta și răspunde la amenințări. Acest lucru include crearea unei culturi de conștientizare a securității, efectuarea de audituri de securitate regulate și colaborarea cu părțile interesate pentru a dezvolta strategii de securitate eficiente. Prin urmare, organizațiile pot reduce riscul de încălcări și proteja informațiile lor sensibile.

Zscaler este dedicat protejării confidențialității utilizatorilor, utilizând tehnici avansate pentru a anonimiza datele și asigurându-se că le păstrăm în afara modelelor noastre de inteligență artificială generativă, prevenind identificarea utilizatorilor individuali sau a organizațiilor. Deși putem explora ajustarea modelelor de inteligență artificială generativă în viitor, măsurile noastre stricte de protejare a confidențialității datelor pentru a preveni compromiterea datelor utilizatorilor vor continua să fie esențiale. Obiectivul nostru este de a valorifica puterea inteligenței artificiale pentru a îmbunătăți securitatea fără a încălca confidențialitatea clienților.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Zscaler.