Claudionor Coelho, Chief AI Officer bei Zscaler – Interview-Serie

Claudionor Coelho ist der Chief AI Officer bei Zscaler, wo er sein Team leitet, um neue Wege zu finden, um Daten, Geräte und Benutzer durch state-of-the-art-Applied-Machine-Learning-(ML)-, Deep-Learning- und Generative-AI-Techniken zu schützen. Vor seinem Eintritt bei Zscaler war er Chief AI Officer und Senior Vice President of Engineering bei Advantest. Zuvor war Coelho Vice President und Leiter von AI Labs bei Palo Alto Networks (PANW ). Er hatte auch ML- und Deep-Learning-Rollen bei Google (GOOGL ).

Zscaler konzentriert sich auf die Beschleunigung der digitalen Transformation, indem es Organisationen ermöglicht, mehr Agilität, Effizienz, Widerstandsfähigkeit und Sicherheit zu erzielen. Die cloud-native Zero-Trust-Exchange-Plattform des Unternehmens ist darauf ausgelegt, Benutzer vor Cyberangriffen und Datenverlusten zu schützen, indem sie Benutzer, Geräte und Anwendungen sicher verbindet, unabhängig von ihrem Standort. Zscaler betreut weltweit Tausende von Kunden und betont robuste Sicherheit und nahtlose Konnektivität.

Als Zscalers erster Chief AI Officer, wie haben Sie die AI-Strategie des Unternehmens geprägt, insbesondere bei der Integration von AI in die Cybersicherheit?

Zscaler hat bedeutende Fortschritte in der AI für die Cybersicherheit gemacht, was es von den Wettbewerbern unterscheidet. Zscalers Zero-Trust-Plattform nutzt AI, um Anmeldeinformationendiebstahl und Browserausbeutung von Phishing-Seiten zu erkennen und zu stoppen. Die Bedrohungsanalyse aus über 400 Milliarden täglichen Transaktionen liefert Echtzeit-Analysen, die die Verteidigung gegen sophisticatede Cyberangriffe verbessern. Darüber hinaus arbeiten wir mit NVIDIA (NVDA ) zusammen, um generative AI-gestützte Sicherheits- und IT-Innovationen wie den Zscaler ZDX Copilot zu liefern, der IT- und Netzwerkoperationen vereinfacht, während er Daten aus der Zero-Trust-Exchange-Plattform verarbeitet, um Unternehmen proaktiv gegen Bedrohungen zu verteidigen. Schließlich haben wir mit der Übernahme von Avalor die Zero-Trust-Exchange-Fähigkeiten mithilfe von Data Fabric for Security erweitert. Mit über 150 vordefinierten Integrationen identifiziert und prognostiziert es kritische Schwachstellen, während es die Betriebsabläufe verbessert.

Sie haben mehrere Unternehmen gegründet, darunter Kunumi, und hatten Führungspositionen in Top-Unternehmen. Wie hat Ihre unternehmerische Erfahrung Ihre Herangehensweise als Corporate-AI-Führer bei Zscaler beeinflusst?

Als ich SVP of Engineering bei Jasper Design Automation war, einem Startup im Bereich Electronic Design Automation, konkurrierten wir mit multi-milliardenschweren Unternehmen, aber erreichten mehr als 70-80% Marktanteil, weil wir innovativ waren, gute Geschäftsprozesse hatten und agil waren. Eines der Bücher, auf die ich immer während unserer Strategie-Sitzungen zurückgriff, war “Competing on the Edge: Strategy as Structured Chaos” von Prof. Kathleen M. Eisenhardt. Obwohl dieses Buch aus dem Jahr 1998 stammt, ist es immer noch anwendbar auf das, was wir heute mit Generative AI sehen.

Noch nie zuvor ist eine weltverändernde Technologie so schnell vorangeschritten. Der Motorola-Ingenieur Martin Cooper tätigte den ersten Mobilfunkanruf im Jahr 1973, aber es dauerte 10 Jahre, bis das erste kommerzielle Netzwerk eröffnet wurde, und 24 weitere Jahre, bis das iPhone veröffentlicht wurde und die Art und Weise, wie wir mit Computern interagieren, veränderte.

ChatGPT wurde im November 2022 veröffentlicht. Im nächsten Jahr diskutierten wir in einem von der WEF gesponserten Seminar, dass künstliche allgemeine Intelligenz (AGI) bald kommen würde. Zu diesem Zeitpunkt erkannten nur wenige von uns, dass wir Agenten verwenden können, um viele intelligente Systeme zu erstellen, indem wir die Lücken von LLMs mit Tools füllen – sogar bevor AGI verfügbar ist. Im Jahr 2024 verschob sich die Diskussion zu AI-Agents, und gegen Ende des Jahres beginnen wir, mehrere intelligente AI-Agents wie den ZDX Copilot oder die Blogging-Plattform Kiroku zu sehen.

Diese Geschwindigkeit kann nur in einer Startup-Umgebung beobachtet werden, was in großen Organisationen, die versuchen, agil genug zu werden, um eine Technologie mit unvergleichlicher Geschwindigkeit zu bewältigen, enormen Stress verursacht.

Angesichts Ihrer Erfahrung als Leiter von Unternehmen in Brasilien und den USA, was sind einige der wichtigsten Unterschiede zwischen den beiden Märkten in Bezug auf die Adoption von AI und Cybersicherheit?

Die Diskussion über Startups ist eine gute Möglichkeit, die Ähnlichkeiten und Unterschiede zwischen den Märkten zu illustrieren, da Startups oft radikale Innovationen vorführen, bevor sie in große Unternehmen gelangen. Eine gängige Strategie in Brasilien für Startups besteht darin, erfolgreiche US-Startups zu kopieren, da US-Startups normalerweise den internen Markt zuerst betrachten (obwohl sich dies ändert). Die USA haben jedoch traditionell ein stabileres Kapitalsystem, das es einfacher macht, ein Unternehmen zu gründen.

Ich gründete Kunumi im Jahr 2014 als erstes Deep-Learning-Unternehmen in Brasilien. Es wurde Anfang dieses Jahres an die Bradesco Bank verkauft. Im Allgemeinen wissen Unternehmen in Brasilien nicht, wie sie Generative AI adoptieren werden, und Sie werden viele Fehler sehen – was auch in den USA der Fall ist. Ich habe vier Copilots in meinem Leben gebaut – den ersten 2016, als ich bei Synopsys war. Es war ein Agent, der die Kompilierungs- und Ausführungsprotokolle großer Emulationsmaschinen scannen und nach Informationen suchen konnte, die mit den Fragen des Benutzers zusammenhängen, mit Unterstützung für mehrere Sprachen. Zu diesem Zeitpunkt gab es keine Transformer, keine LLMs, und sogar die Übersetzung war sehr anders als das, was wir heute haben.

Im Jahr 2020 war ich Forscher bei Google und arbeitete an der Komprimierung und Quantisierung von Deep-Learning-Modellen, zusammen mit CERN, um subatomare Teilchen zu suchen. Als ich dachte, wir seien in einem Krieg um Daten, wurde mir klar, dass Cybersicherheit ein globales Problem ist, das nicht auf ein bestimmtes Land oder eine bestimmte Region beschränkt ist. Das ist der Zeitpunkt, an dem ich mich entschied, in die Cybersicherheit zu wechseln.

Vor einigen Monaten sprach ich mit einem ausländischen Regierungsbeamten, der sagte, dass Cybersicherheit ein Problem der USA sei und seine Agentur nichts zu befürchten habe – nur um einige Wochen später einen Cyberangriff in seiner Organisation zu erleben.

Schließlich ist die Realität, dass die geschätzten Kosten für Erpressungstrojaner in Brasilien und den USA etwa gleich sind.

Wie unterscheidet sich die regulatorische Umgebung für AI und Cybersicherheit zwischen Brasilien und den USA, und wie wirkt sich dies auf die Innovation in diesen Regionen aus?

Weil Generative AI so schnell voranschreitet, erkennen Regierungen die Notwendigkeit, etwas zu schützen, sind aber oft unsicher, was sie schützen sollen. Was sind die Auswirkungen, wenn wir Gesetze für LLMs im Jahr 2023 erstellen und im Jahr 2024 AI-Agents verwenden? Wir benötigen Vorschriften, aber wir müssen auch eine unemotionale Analyse der regulatorischen Umgebung durchführen, um zu sehen, wie wir die lokale Bevölkerung besser schützen können.

Das bedeutet, dass AI-Algorithmen, die allein auf genaue numerische Eingaben basieren, die Gründe oder Merkmale darstellen, oft unvollständig sind und zu fehlerhaften Ergebnissen im realen Leben führen. Wenn beispielsweise ein AI-Algorithmus eine Kreditentscheidung für eine Person auf der Grundlage eines mehrdeutigen Kriteriums wie “Wahrscheinlichkeit” und eines Faktors wie Gehalt oder Rasse trifft, kann man leicht ein Szenario vorstellen, in dem eine Person aufgrund des Nettoeffekts eines dieser beiden Faktoren abgelehnt wird. Mit Generative AI wird das Problem noch schlimmer, da LLMs nicht in der Lage sind, externe Daten zu verwenden, um Annahmen zu treffen. Es ist wichtig, sicherzustellen, dass wir Vorschriften haben, die nicht zulassen, dass fehlerhafte Systeme Entscheidungen treffen (insbesondere ohne tiefe Aufsicht), da sie Fehler machen werden.

Andererseits bin ich sehr zufrieden mit der Fähigkeit von Tesla-Autos, selbstständig zu fahren, die im Vergleich zu Menschen eine höhere Anzahl von Meilen zurückgelegt haben, bevor sie in Unfälle verwickelt waren. Ja, sie machen Fehler, aber selbst in Flugzeugen mit Copilot muss der Pilot die Kontrolle übernehmen, wenn ein Notfall eintritt.

Was die Cybersicherheit betrifft, haben mehrere US-Organisationen (z. B. JCDC.AI, NIST, CISA usw.) die Notwendigkeit diskutiert, AI und Cybersicherheit anzugehen. Natürlich müssen wir in schnelllebigen Märkten oder Technologien ständig auf Veränderungen reagieren, und wenn sie extrem schnell voranschreiten, müssen wir am Rande des Chaos operieren.

Zscalers Zero-Trust-Exchange ist ein wichtiger Teil seines Sicherheitsmodells. Wie verbessert AI diese Plattform, und was sind einige der spannendsten Entwicklungen in diesem Bereich?

Zscalers Zero-Trust-Architektur hilft Organisationen, eine sicherere Umgebung für AI-Implementierungen zu schaffen, aber die Plattform nutzt auch AI auf verschiedene Weise, beginnend mit ZDX Copilot, der generative AI-gestützte Sicherheitsinnovationen liefert. In Zusammenarbeit mit NVIDIA entwickelt, nutzt der Agent Generative AI, um Unternehmen proaktiv gegen Bedrohungen zu verteidigen und IT- und Netzwerkoperationen zu vereinfachen. Zscaler hat auch seine vorherige Schwachstellenidentifizierung durch die Hinzufügung von Avalor’s Data Fabric for Security zur Zscaler Zero Trust Exchange verbessert. Schließlich lebt AI im Kern von Zscalers Zero-Trust-Plattform, indem sie Anmeldeinformationendiebstahl und Browserausbeutung von Phishing-Seiten erkennt und stoppt. Echtzeit-Analysen basierend auf Bedrohungsanalysen aus über 400 Milliarden täglichen Transaktionen verbessern die Verteidigung gegen sophisticatede Cyberangriffe.

AI ist immer mehr zur zentralen Rolle im Kampf gegen Cyber-Bedrohungen geworden. Wie sehen Sie die Entwicklung von AI, um die wachsende Komplexität von Cybersicherheitsrisiken zu bewältigen, insbesondere im Bereich von IoT- und OT-Geräten?

Die Bedrohungslandschaft hat sich mit dem Aufkommen von AI-basierten Cyberangriffen eindeutig entwickelt, so dass Organisationen AI mit AI bekämpfen könnten. Die wichtigste Entwicklung wird die Verbesserung von AI-Lösungen mit zusätzlichen Datenquellen sein.

Da die Anzahl der Cyberangriffe zunimmt, müssen wir mehr Automation mit AI verwenden, um Cyberrisiken zu erkennen und zu bekämpfen. Es ist erwähnenswert, dass AI und Generative AI derzeit verwendet werden, um neue Angriffsfronten zu schaffen, und dass wir deshalb unser Spiel verbessern müssen, indem wir mehr Signale als zuvor korrelieren.

Im Falle von IoT- und OT-Geräten stellen sie ein erhebliches Risiko für Organisationen dar, da viele IoT-Geräte nicht die neuesten Software-Stacks verwenden – obwohl man leicht Wi-Fi-Schalter, internetverbundene Fernseher, Geschirrspüler, Öfen usw. kaufen kann. Seit Jahren sehen wir viele Artikel , die die Schwachstellen zeigen, denen wir in IoT/OT ausgesetzt sind.

Wir benötigen ständige Aufmerksamkeit und müssen die Cybersicherheitsverteidigung durch die Analyse aller Arten von Daten und Signalen verbessern, um Anomalien und potenzielle Bedrohungen zu erkennen. Um dieses Spiel zu gewinnen, benötigen wir state-of-the-art-AI-Modelle, die mit großen Mengen an Daten in Echtzeit trainiert werden. Generative AI spielt eine wichtige Rolle, indem sie es Unternehmen ermöglicht, Ergebnisse zu analysieren und zusammenzufassen, um Benutzern und Sicherheitsoperatoren zu helfen.

Als Mitglied von AI- und Cybersicherheitsarbeitsgruppen im Weltwirtschaftsforum, wie prägen globale Diskussionen über AI-Ethik und Cybersicherheit Ihre Herangehensweise an Ihre Rolle bei Zscaler?

Weil die Technologie so schnell voranschreitet, benötigen Regierungen und Organisationen fundierte Informationen, und ich sehe dies als die Rolle des Weltwirtschaftsforums. AI und Cybersicherheit allein haben genug Bedarf, um separate Gruppen zu erfordern, aber wenn man sie kombiniert, ist es fast ein neuer Bereich für sich. Zum Beispiel hat Gartner in diesem Jahr gezeigt, dass Generative AI die Angriffsfläche enorm vergrößert, indem sie von Prompt-Injektionen an der Eingabe und Ausgabe zu Angriffen auf Anwendungen, Modelle und sogar Plug-ins übergeht.

Einige dieser Angriffe sind spezifisch für LLMs wie ChatGPT, aber wenn man bedenkt, dass wir von LLMs zu AI-Agents und Multi-Agent-Systemen übergehen, muss man viel mehr Informationen berücksichtigen. Zum Beispiel muss man bei LLMs Prompt-Injektion, Schlafzellenverhalten (das Auslösen von LLM, um aufgrund spezieller Schlüsselwörter anders zu reagieren) oder die Undichtigkeit von Eigentumsinformationen berücksichtigen. Wenn man AI-Agents diskutiert, muss man Angriffe auf Tools und Datenquellen berücksichtigen – sogar unter der Annahme, dass SQL-Injektion und OS-Kommandoinjektion wieder möglich sein könnten.

Darüber hinaus müssen wir, wenn wir Multi-Agent-Systeme hinzufügen, bei denen Agenten in verschiedenen Orten residieren können, uns vorstellen, dass dies eine völlig andere Kommunikationsnetzwerkstruktur impliziert. Menschen haben mit Tausenden von Agenten experimentiert – ähnlich wie ein Computernetzwerk.

Schließlich müssen wir unsere Arbeitskräfte darauf vorbereiten, Generative AI zu verwenden, indem wir ihnen Werkzeuge und eine Umgebung bieten, in der sie in dieser neuen Welt operieren können.

Sie sind ein starker Befürworter von Vielfalt und Inklusion, insbesondere als Executive Sponsor für Zscalers Latino- und Hispanic-ERG, Sabor. Wie hat Ihre kulturelle Herkunft Ihre Führungsstile und Ihren Ansatz zur AI-Entwicklung beeinflusst?

Als stolzer Latino, der in Brasilien geboren und aufgewachsen ist, bin ich leidenschaftlich daran interessiert, die lateinamerikanische und hispanische Gemeinschaft bei Zscaler zu unterstützen und zu ermächtigen. Ich fühle einen großen Stolz darauf, dass ich durch die Cybersicherheit zu einer besseren Welt beitragen kann, in der wir die Gesellschaft in einer immer komplexeren Welt schützen. Meine Werte haben mich dazu gebracht, wo ich heute bin, und ich bin extrem stolz auf meine Herkunft.

Mein Rat wäre, nie zu vergessen, woher man kommt und was man getan hat. Seien Sie immer stolz auf das, was Sie einzigartig macht, aber erkennen Sie auch, dass Vielfalt der Schlüssel zum Erfolg ist. Ich lebe 24 Stunden am Tag mit mir selbst. Wenn ich nur Menschen einstelle, die mir ähnlich sind und mit mir übereinstimmen, werde ich mein Wissen nicht erweitern. Das Einstellen von Menschen aus verschiedenen Orten und Hintergründen hilft uns, die spezifischen Bedürfnisse unserer globalen Kundenbasis besser zu verstehen.

Zum Schluss, was begeistert Sie am meisten an der Zukunft von AI in der Cybersicherheit, und welche Rolle sehen Sie Zscaler in dieser Zukunft?

AI ändert nicht die Grundlagen einer effektiven Cyber-Verteidigung – es unterstreicht ihre Wichtigkeit. Wir erwarten, dass Transparenz, robuste Sicherheitspraktiken und kontinuierliche Überwachung in der Branche verbreitet werden. Organisationen müssen einen umfassenden Ansatz für die Sicherheit verfolgen, indem sie fortschrittliche Maßnahmen zur Erkennung und Bekämpfung von Bedrohungen umsetzen. Dazu gehört die Förderung einer Kultur der Sicherheitsbewusstsein, die regelmäßige Durchführung von Sicherheitsaudits und die Zusammenarbeit mit Interessengruppen, um effektive Sicherheitsstrategien zu entwickeln. Durch die Umsetzung dieser Maßnahmen können Organisationen das Risiko von Sicherheitsverletzungen reduzieren und ihre sensiblen Informationen schützen.

Zscaler ist bestrebt, die Privatsphäre der Benutzer zu schützen, indem es die fortschrittlichsten Techniken zur Anonymisierung von Daten verwendet und sicherstellt, dass diese nicht in unsere LLMs gelangen, um die Identifizierung von einzelnen Benutzern oder Organisationen zu verhindern. Obwohl wir möglicherweise in Zukunft LLMs feinjustieren, werden unsere strengen Datenschutzmaßnahmen, um sicherzustellen, dass keine Benutzerdaten gefährdet werden, weiterhin von größter Bedeutung sein. Unser Ziel ist es, die Macht von AI zu nutzen, um die Sicherheit zu verbessern, ohne die Privatsphäre der Kunden zu gefährden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Zscaler besuchen.