Claudionor Coelho, Chief AI Officer w Zscaler – Seria wywiadów

Claudionor Coelho jest Chief AI Officer w Zscaler, odpowiedzialnym za prowadzenie swojego zespołu w poszukiwaniu nowych sposobów ochrony danych, urządzeń i użytkowników za pomocą najnowszych technik Machine Learning (ML), Deep Learning i Generative AI. Przed dołączeniem do Zscaler pełnił funkcję Chief AI Officer i Senior Vice President of engineering w Advantest. Wcześniej Coelho był Vice Presidentem i kierownikiem AI Labs w Palo Alto Networks (PANW ). Pełnił również role związane z ML i Deep Learning w Google (GOOGL ).

Zscaler koncentruje się na przyspieszaniu transformacji cyfrowej, umożliwiając organizacjom osiągnięcie większej elastyczności, wydajności, odporności i bezpieczeństwa. Platforma Zero Trust Exchange jest zaprojektowana w celu ochrony użytkowników przed atakami cybernetycznymi i utratą danych, łącząc bezpiecznie użytkowników, urządzenia i aplikacje, niezależnie od ich lokalizacji. Zscaler obsługuje tysiące klientów na całym świecie, kładąc nacisk na solidne bezpieczeństwo i płynne połączenia.

Jako pierwszy Chief AI Officer w Zscaler, jak ukształtował Pan strategię AI w firmie, zwłaszcza w integrowaniu AI z bezpieczeństwem?

Zscaler dokonał znaczących postępów w dziedzinie AI dla bezpieczeństwa, co odróżnia go od konkurencji. Platforma Zero Trust wykorzystuje AI do wykrywania i zatrzymywania kradzieży poświadczeń i eksploatacji przeglądarek z powodu phishingu. Informacje wywiadowcze z ponad 400 miliardów transakcji dziennie dostarczają analiz w czasie rzeczywistym, które poprawiają obronę przed zaawansowanymi atakami cybernetycznymi. Ponadto współpracujemy z NVIDIA (NVDA ), aby dostarczyć innowacje zabezpieczeń i IT oparte na generatywnym AI, takie jak Zscaler ZDX Copilot, które upraszczają operacje IT i sieciowe, przetwarzając dane z platformy Zero Trust Exchange, aby proaktywnie bronić przedsiębiorstw przed zagrożeniami. Wreszcie, dzięki przejęciu Avalor, rozszerzyliśmy możliwości platformy Zero Trust Exchange, wykorzystując Data Fabric for Security, z ponad 150 prekonfigurowanymi integracjami, które identyfikują i przewidują krytyczne słabości, poprawiając jednocześnie wydajność operacyjną.

Pan założył wiele firm, w tym Kunumi, i pełnił role kierownicze w najlepszych firmach. Jak Pana doświadczenie w przedsiębiorczości wpłynęło na Pana podejście jako korporacyjnego lidera AI w Zscaler?

Kiedy byłem starszym wiceprezesem ds. inżynierii w Jasper Design Automation, startupie z dziedziny automatyzacji projektowania elektronicznego, konkurowaliśmy z firmami o wartości wielu miliardów dolarów, ale osiągnęliśmy udział rynkowy na poziomie ponad 70-80% dzięki innowacjom, procesom biznesowym i elastyczności. Jedną z książek, do której zawsze sięgałem podczas spotkań strategicznych, była „Competing on the Edge: Strategy as Structured Chaos” profesora Kathleen M. Eisenhardt. Chociaż ta książka pochodzi z 1998 roku, nadal ma zastosowanie do tego, co widzimy w przypadku generatywnego AI.

Nigdy wcześniej technologia o takim wpływie nie rozwinęła się tak szybko. Inżynier Motorola, Martin Cooper, wykonał pierwsze połączenie komórkowe w 1973 roku, ale światu zajęło 10 lat, zanim otwarto pierwszą komercyjną sieć, a 24 lata, zanim został wydany iPhone, zmieniając sposób, w jaki interaktywnie korzystamy z komputerów.

ChatGPT został wydany w listopadzie 2022 roku. Rok później omawialiśmy na seminarium sponsorowanym przez WEF, że sztuczna inteligencja ogólna (AGI) nadchodzi wkrótce. W tym czasie tylko nieliczni z nas rozumieli, że możemy wykorzystywać agenci do tworzenia wielu inteligentnych systemów, wypełniając luki w LLM za pomocą narzędzi, nawet przed AGI. W 2024 roku dyskusja przesunęła się w kierunku agentów AI, a pod koniec roku zaczynamy widzieć kilka inteligentnych agentów AI (jak ZDX Copilot lub platformę blogową Kiroku).

Ten poziom szybkości może być obserwowany tylko w środowisku startupowym, co powoduje ogromne napięcia w dużych organizacjach, które walczą o to, by stać się wystarczająco elastycznymi, aby pomieścić technologię o niezwykłej szybkości.

Biorąc pod uwagę Pana doświadczenie w prowadzeniu firm w Brazylii i Stanach Zjednoczonych, jakie są kluczowe różnice między tymi rynkami w zakresie przyjęcia AI i bezpieczeństwa?

Omawianie startupów jest dobrym sposobem, aby zacząć ilustrować podobieństwa i różnice między rynkami, ponieważ to właśnie start-upy często wprowadzają radykalne innowacje przed ich pojawieniem się w dużych korporacjach. Powszechną strategią w Brazylii dla startupów było kopiowanie udanych startupów z USA, ponieważ startupy z USA zwykle kierują się na rynek wewnętrzny (choć to się zmienia). Niemniej jednak Stany Zjednoczone tradycyjnie miały bardziej stabilny system kapitałowy, co ułatwiało rozpoczęcie działalności.

Stworzyłem Kunumi w 2014 roku jako pierwszą firmę Deep Learning w Brazylii. Została sprzedana bankowi Bradesco na początku tego roku. Ogólnie rzecz biorąc, korporacje w Brazylii nie wiedzą, jak będą przyjmowały generatywny AI, i zobaczymy wiele błędów – tak samo jak w Stanach Zjednoczonych. Zbudowałem cztery Copiloty w swoim życiu – pierwszy w 2016 roku, kiedy byłem w Synopsys. Był to agent, który mógł skanować logi kompilacji i wykonywania dużych maszyn emulacyjnych, wyszukując informacje związane z pytaniami użytkownika, z obsługą wielu języków. W tym czasie nie było transformatorów, LLM ani nawet tłumaczeń, a to, co mamy dzisiaj, było bardzo różne.

W 2020 roku byłem badaczem w Google, pracującym nad kompresją i kwantyzacją modeli Deep Learning, z CERN, wykorzystując to, co stworzyłem w poszukiwaniu cząstek subatomowych. Kiedy myślałem, że jesteśmy w wojnie o dane, stało się jasne, że bezpieczeństwo jest globalnym problemem, który nie jest ograniczony do jednego kraju czy innego. To był moment, kiedy postanowiłem wejść w to.

Para miesięcy temu rozmawiałem z zagranicznym urzędnikiem rządowym, który mówił, że cyberbezpieczeństwo jest problemem Stanów Zjednoczonych, a jego agencja nie ma się czego obawiać – tylko po to, by następnie doświadczyć ataku cybernetycznego w swojej organizacji kilka tygodni później.

Wreszcie, porównując stan bezpieczeństwa do opłat za ransomware między Brazylią a Stanami Zjednoczonymi, rzeczywistość jest taka, że szacowane opłaty za ransomware są mniej więcej takie same.

Jak środowisko regulacyjne dla AI i bezpieczeństwa różni się między Brazylią a Stanami Zjednoczonymi, i jak to wpływa na innowacje w tych regionach?

Ponieważ generatywny AI rozwija się tak szybko, rządy uznają potrzebę ochrony czegoś, ale często nie są pewne, co to jest. Jaki jest wpływ, jeśli stworzymy prawa dla LLM w 2023 roku, a w 2024 roku używamy już agentów AI? Potrzebujemy regulacji, ale także musimy dokonać bezemocjonalnej analizy środowiska regulacyjnego, aby zobaczyć, jak możemy lepiej chronić lokalnych obywateli.

To powiedziawszy, kiedy AI podejmuje decyzje wyłącznie na podstawie dokładnych wejściowych danych reprezentujących powody lub cechy, analiza jest często niekompletna i daje wadliwy wynik w prawdziwym życiu. Na przykład, jeśli algorytm AI podejmuje decyzję o udzieleniu pożyczki osobie na podstawie niejasnego kryterium, takiego jak „prawdopodobieństwo” i czynnika, takiego jak wynagrodzenie lub rasa, łatwo można sobie wyobrazić sytuację, w której osoba zostanie odmówiona pożyczki na podstawie skumulowanego wpływu jednego z tych dwóch czynników. Z generatywnym AI problem staje się jeszcze gorszy, ze względu na niezdolność LLM do wprowadzania zewnętrznych danych w celu podejmowania założeń. Ważne jest, aby upewnić się, że mamy regulacje, które nie pozwalają na wadliwe systemy podejmujące decyzje (szczególnie bez głębokiej nadzoru), ponieważ są one skazane na popełnianie błędów.

Ze względu na bezpieczeństwo, wiele organizacji w Stanach Zjednoczonych (np. JCDC.AI, NIST, CISA itd.) omawia potrzebę zajęcia się AI i bezpieczeństwem. Oczywiście, na szybko zmieniających się rynkach lub technologiach trzeba ciągle dostosowywać się do zmian, a kiedy poruszają się one niezwykle szybko, trzeba działać na granicy chaosu.

Platforma Zero Trust Exchange Zscaler jest kluczową częścią modelu bezpieczeństwa. Jak AI ulepsza tę platformę, i jakie są najbardziej interesujące rozwoje w tej dziedzinie?

Architektura Zero Trust Zscaler pomaga organizacjom tworzyć bardziej bezpieczne środowisko dla wdrożeń AI, ale platforma wykorzystuje również AI na wiele sposobów, zaczynając od ZDX Copilot, który dostarcza innowacje zabezpieczeń oparte na generatywnym AI. Opracowany we współpracy z NVIDIA, agent wykorzystuje generatywny AI do proaktywnej obrony przedsiębiorstw przed zagrożeniami i upraszczania operacji IT i sieciowych. Zscaler rozszerzył również swoją predykcyjną identyfikację podatności, dodając Data Fabric for Security do platformy Zero Trust Exchange. Wreszcie, AI jest integralną częścią platformy Zero Trust Zscaler, wykrywając i zatrzymując kradzież poświadczeń i eksploatację przeglądarek z powodu phishingu. Analizy w czasie rzeczywistym oparte na informacjach wywiadowczych z ponad 400 miliardów transakcji dziennie poprawiają obronę przed zaawansowanymi atakami cybernetycznymi.

AI stało się coraz bardziej centralnym w walce z cyberzagrożeniami. Jak Pan widzi ewolucję AI w celu rozwiązania rosnącej złożoności ryzyk bezpieczeństwa, zwłaszcza w dziedzinie urządzeń IoT i OT?

Pejzaż zagrożeń ewoluował niepodważalnie z pojawieniem się ataków cybernetycznych opartych na AI, więc organizacje mogą walczyć AI z AI. Główną ewolucją będzie wzmocnienie rozwiązań AI dodatkowymi źródłami danych.

Ponieważ liczba ataków cybernetycznych rośnie, musimy wykorzystywać więcej automatyzacji z AI, aby wykrywać i rozwiązywać ryzyka cybernetyczne. Warto zauważyć, że AI i generatywny AI są obecnie wykorzystywane do tworzenia nowych frontów ataku, a z tego powodu musimy podnieść poziom, korelując więcej sygnałów niż wcześniej.

W przypadku urządzeń IoT i OT stanowią one znaczne ryzyko dla organizacji, ponieważ wiele urządzeń IoT nie wykorzystuje najnowszych stosów oprogramowania – pomimo faktu, że można łatwo kupić przełączniki Wi-Fi, telewizory z połączeniem internetowym, zmywarki, piece itd. Przez lata widzieliśmy wiele artykułów, które pokazują słabości, na które jesteśmy narażeni w IoT/OT.

Potrzebujemy ciągłej świadomości i musimy wzmocnić obronę bezpieczeństwa, analizując wszystkie typy danych i sygnałów, aby wykryć anomalie i potencjalne zagrożenia. Aby wygrać tę grę, potrzebujemy najnowocześniejszych modeli AI szkolonych z ogromnymi ilościami danych w czasie rzeczywistym. Generatywny AI odgrywa instrumentalną rolę, umożliwiając firmom analizowanie i podsumowywanie wyników dla użytkowników i operatorów bezpieczeństwa.

Jako członek grup roboczych AI i bezpieczeństwa w Światowym Forum Ekonomicznym, jak globalne dyskusje na temat etyki AI i bezpieczeństwa kształtują Pana podejście do roli w Zscaler?

Ponieważ technologia rozwija się tak szybko, rządy i organizacje muszą mieć podstawowe informacje, a widzę to jako rolę Światowego Forum Ekonomicznego. AI i bezpieczeństwo same w sobie mają wystarczająco dużo potrzeb, aby wymagać odrębnych grup, ale kiedy łączymy te dwie rzeczy, jest to niemal nowa dziedzina sama w sobie. Na przykład, Gartner w tym roku pokazał, że generatywny AI zwiększa powierzchnię ataku ogromnie, przechodząc od wstrzyknięcia podpowiedzi na wejściu i wyjściu do ataków na aplikacje, ataków na modele i nawet ataków na wtyczki.

Niektóre z tych ataków są specyficzne dla LLM, takich jak ChatGPT, ale jeśli rozważymy, że przechodzimy od LLM do agentów AI i systemów wieloagentowych, musimy brać pod uwagę znacznie więcej informacji. Na przykład, w LLM możemy się martwić wstrzyknięciem podpowiedzi, zachowaniem spaneru (wyzwalaniem LLM do odpowiedzi w inny sposób na podstawie specjalnych słów kluczowych) lub utratą informacji poufnych. Kiedy dyskutujemy o agentach AI, musimy brać pod uwagę ataki na narzędzia i źródła danych – nawet zakładając, że wstrzyknięcie SQL i polecenie systemu operacyjnego mogą być ponownie możliwe.

Na koniec, musimy przygotować nasze siły robocze do korzystania z generatywnego AI, dostarczając im narzędzia i środowisko, w którym mogą działać w tym nowym świecie.

Pan był silnym orędownikiem różnorodności i integracji, zwłaszcza jako Executive Sponsor dla Zscaler’s Latino i Hispanic ERG, Sabor. Jak Pana tło kulturowe wpłynęło na Pana styl przywództwa i podejście do rozwoju AI?

Jako dumny Latynoos, urodzony i wychowany w Brazylii, jestem pasjonatem wspierania i umacniania społeczności latynoamerykańskiej i hiszpańskiej w Zscaler. Czuję ogromne poczucie osiągnięcia, mogąc przyczynić się do lepszego świata poprzez bezpieczeństwo, gdzie pomagamy chronić społeczeństwo w coraz bardziej skomplikowanym świecie. Moje wartości pomogły mi dojść do tego, gdzie jestem dzisiaj, i jestem niezwykle dumny z tego, skąd pochodzę.

Moja rada byłaby taka, aby nigdy nie zapominać, skąd pochodzi się i co się zrobiło. Zawsze być dumnym z tego, co czyni nas wyjątkowymi, ale także rozpoznać, że różnorodność jest królem. Żyję ze sobą 24 godziny na dobę. Jeśli zatrudnię tylko ludzi, którzy są podobni do mnie i zgadzają się ze mną, nie zwiększę swojej wiedzy. Zatrudnianie ludzi z różnych lokalizacji i tła pomaga nam lepiej zrozumieć specyficzne potrzeby naszej globalnej bazy klientów.

Wreszcie, co Pana najbardziej ekscytuje w przyszłości AI w bezpieczeństwie, i jaka rolę widzi Pan dla Zscaler w tej przyszłości?

AI nie zmienia podstaw skutecznej obrony cybernetycznej – podkreśla ich znaczenie. Przewidujemy, że będziemy widzieć przejrzystość, solidne praktyki bezpieczeństwa i ciągłe monitorowanie na całym przemyśle. Organizacje muszą przyjąć kompleksowe podejście do bezpieczeństwa, wdrażając zaawansowane środki w celu wykrycia i odpowiedzi na zagrożenia. Można to osiągnąć, promując kulturę świadomości bezpieczeństwa, prowadząc regularne audyty bezpieczeństwa i współpracując ze stakeholderami, aby opracować skuteczne strategie bezpieczeństwa. Dzięki temu organizacje mogą zmniejszyć ryzyko naruszeń i chronić swoje wrażliwe informacje.

Zscaler jest zaangażowany w ochronę prywatności użytkowników, wykorzystując najnowocześniejsze techniki do anonimizacji danych i zapewniając, że nie umieszczamy ich w naszych LLM. Podczas gdy możemy rozważać dostosowywanie LLM w przyszłości, nasze ścisłe środki ochrony danych, aby zapewnić, że nie zostanie naruszonych żadnych danych użytkowników, będą nadal priorytetem. Naszym celem jest wykorzystanie mocy AI do poprawy bezpieczeństwa bez naruszania prywatności klientów.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Zscaler.