Claudior Coelho, Chief AI Officer bei Zscaler – Interviewreihe

Claudinor Coelho ist Chief AI Officer bei Zscaler und verantwortlich dafür, sein Team zu leiten, um neue Wege zum Schutz von Daten, Geräten und Benutzern durch modernste angewandte Techniken des maschinellen Lernens (ML), Deep Learning und der generativen KI zu finden. Bevor er zu Zscaler kam, war er Chief AI Officer und Senior Vice President of Engineering bei Advantest. Zuvor war Coelho Vice President und Leiter der AI Labs bei Palo Alto Networks. Außerdem hatte er ML- und Deep-Learning-Positionen bei Google inne.

Zscaler Zscaler konzentriert sich auf die Beschleunigung der digitalen Transformation, indem es Unternehmen zu mehr Agilität, Effizienz, Resilienz und Sicherheit verhilft. Die Cloud-native Zero Trust Exchange-Plattform des Unternehmens schützt Benutzer vor Cyberangriffen und Datenverlust, indem sie Benutzer, Geräte und Anwendungen unabhängig von ihrem Standort sicher verbindet. Zscaler betreut Tausende von Kunden weltweit und legt dabei Wert auf robuste Sicherheit und nahtlose Konnektivität.

Wie haben Sie als erster Chief AI Officer von Zscaler die KI-Strategie des Unternehmens geprägt, insbesondere im Hinblick auf die Integration von KI in die Cybersicherheit?

Zscaler hat im Bereich KI für Cybersicherheit bedeutende Fortschritte gemacht, die das Unternehmen von seinen Mitbewerbern abheben. Die Zero Trust-Plattform von Zscaler nutzt KI, um den Diebstahl von Anmeldeinformationen und die Ausnutzung von Browsern über Phishing-Seiten zu erkennen und zu stoppen. Die Bedrohungsinformationen aus über 400 Milliarden täglichen Transaktionen liefern Echtzeitanalysen, die die Verteidigung gegen ausgeklügelte Cyberangriffe verbessern. Darüber hinaus arbeiten wir mit NVIDIA zusammen, um generative KI-gestützte Sicherheits- und IT-Innovationen wie den Zscaler ZDX Copilot bereitzustellen, der IT- und Netzwerkvorgänge vereinfacht und gleichzeitig Daten von der Zero Trust Exchange™-Plattform verarbeitet, um Unternehmen proaktiv vor Bedrohungen zu schützen. Schließlich haben wir mit der Übernahme von Avalor die Zero Trust Exchange™-Funktionen mithilfe von Data Fabric for Security erweitert. Mit über 150 vorgefertigten Integrationen identifiziert und prognostiziert es kritische Schwachstellen und verbessert gleichzeitig die Betriebseffizienz.

Sie haben mehrere Unternehmen gegründet, darunter Kunumi, und Führungspositionen in Top-Unternehmen innegehabt. Wie hat Ihr unternehmerischer Hintergrund Ihren Ansatz als Corporate-AI-Leiter bei Zscaler beeinflusst?

Als ich SVP of Engineering bei Jasper Design Automation war, einem Startup für Electronic Design Automation, konkurrierten wir mit Multimilliarden-Dollar-Unternehmen, erreichten aber dank Innovation, Geschäftsprozessen und Agilität einen Marktanteil von über 70-80 %. Eines der Bücher, auf das ich bei unseren Strategietreffen immer verwies, war „Competing on the Edge: Strategy as Structured Chaos“ von Prof. Kathleen M. Eisenhardt. Obwohl dieses Buch aus dem Jahr 1998 stammt, trifft es immer noch auf das zu, was wir heute mit Generative AI erleben.

Noch nie zuvor hat sich eine weltverändernde Technologie so schnell entwickelt. Der Motorola-Ingenieur Martin Cooper führte 1973 das erste Mobiltelefongespräch, doch es dauerte 10 Jahre, bis das erste kommerzielle Netz eröffnet wurde, und weitere 24 Jahre, bis das iPhone auf den Markt kam, das die Art und Weise veränderte, wie wir mit Computern interagieren.

ChatGPT wurde im November 2022 veröffentlicht. Im nächsten Jahr diskutierten wir in einem vom WEF gesponserten Seminar, dass künstliche allgemeine Intelligenz (AGI) bald kommen würde. Damals erkannten nur wenige von uns, dass wir Agenten verwenden können, um viele intelligente Systeme zu erstellen, indem wir die Lücken von LLMs mit Tools füllen – sogar vor AGI. Im Jahr 2024 verlagerte sich die Diskussion auf KI-Agenten, und Ende des Jahres beginnen wir, mehrere intelligente KI-Agenten zu sehen (wie ZDX-Copilot oder Blogging-Plattform  Kiroku).

Eine solche Geschwindigkeit ist nur im Startup-Umfeld zu beobachten und verursacht daher in großen Organisationen enormen Stress, da diese Mühe haben, agil genug zu werden, um sich an eine Technologie mit beispielloser Geschwindigkeit anzupassen.

Angesichts Ihrer Erfahrung in der Leitung von Unternehmen sowohl in Brasilien als auch in den USA: Was sind die wichtigsten Unterschiede zwischen den beiden Märkten im Hinblick auf die Einführung von KI und Cybersicherheit?

Die Diskussion über Startups ist ein guter Anfang, um die Ähnlichkeiten und Unterschiede zwischen den Märkten zu veranschaulichen, da dort oft radikale Innovationen zu beobachten sind, bevor sie große Unternehmen erreichen. Eine gängige Strategie für Startups in Brasilien besteht darin, erfolgreiche US-Startups in der Frühphase zu kopieren, da US-Startups normalerweise zuerst den Binnenmarkt betrachten (obwohl sich dies geändert hat). Die USA haben jedoch traditionell ein stabileres Kapitalsystem, das die Gründung eines Unternehmens erleichtert.

Ich habe Kunumi 2014 als erstes Deep-Learning-Unternehmen in Brasilien gegründet. Anfang des Jahres wurde es an die Bradesco Bank verkauft. Generell wissen die Unternehmen in Brasilien nicht, wie sie generative KI einführen werden, und es werden viele Fehler passieren – das gilt auch für die USA. Ich habe in meinem Leben vier Copilots gebaut – den ersten 2016, als ich bei Synopsys war. Es war ein Agent, der Kompilierungs- und Ausführungsprotokolle großer Emulationsmaschinen scannen und nach Informationen zu den Fragen des Benutzers suchen konnte, und das mit mehrsprachiger Unterstützung. Damals gab es keine Transformatoren, keine LLMs und sogar die Übersetzung war ganz anders als heute.

Im Jahr 2020 war ich Forscher bei Google und arbeitete an der Komprimierung und Quantisierung von Deep-Learning-Modellen. Das CERN nutzte meine Erkenntnisse bei der Suche nach subatomaren Teilchen. Als ich dachte, wir befänden uns in einem Krieg um Daten, wurde mir klar, dass Cybersicherheit ein globales Problem ist, das nicht auf ein bestimmtes Land beschränkt ist. Da beschloss ich, mich damit zu befassen.

Vor ein paar Monaten sprach ich mit einem ausländischen Regierungsvertreter, der meinte, Cybersicherheit sei ein Problem der USA und seine Behörde müsse sich keine Sorgen machen – nur um dann ein paar Wochen später zu erleben, dass seine Organisation von einem Cyberangriff getroffen wurde.

Vergleicht man abschließend die Lage der Cybersicherheit mit den Anklagen wegen Ransomware in Brasilien und den USA, stellt man fest, dass die geschätzten Anklagen wegen Ransomware in Wirklichkeit ungefähr gleich hoch sind.

Wie unterscheidet sich das regulatorische Umfeld für KI und Cybersicherheit in Brasilien und den USA und welche Auswirkungen hat dies auf die Innovation in diesen Regionen?

Da sich die generative KI so schnell entwickelt, erkennen Regierungen zwar die Notwendigkeit, etwas zu schützen, sind sich aber oft nicht im Klaren darüber, was sie eigentlich schützen wollen. Welche Auswirkungen hätte es, wenn wir 2023 Gesetze für LLMs erlassen und 2024 KI-Agenten einsetzen? Wir brauchen Vorschriften, aber wir müssen auch eine emotionslose Analyse des regulatorischen Umfelds durchführen, um zu sehen, wie wir die Bürger vor Ort besser schützen können.

Wenn KI Entscheidungen jedoch ausschließlich auf der Grundlage exakter numerischer Eingaben trifft, die Gründe oder Merkmale darstellen, ist die Analyse häufig unvollständig und führt zu fehlerhaften Ergebnissen im realen Leben. Wenn beispielsweise ein KI-Algorithmus eine Kreditentscheidung für eine Person auf der Grundlage eines mehrdeutigen Kriteriums wie „Wahrscheinlichkeit“ trifft und ein Faktor wie Gehalt oder Rasse einbezogen wird, ist leicht ein Szenario denkbar, in dem einer Person ein Kredit aufgrund der Nettowirkung eines dieser beiden Faktoren verweigert wird. Bei generativer KI wird das Problem noch schlimmer, da LLMs nicht in der Lage sind, externe Daten zu verwenden, um Annahmen zu treffen. Es ist wichtig sicherzustellen, dass wir Vorschriften haben, die es fehlerhaften Systemen nicht erlauben, Entscheidungen zu treffen (insbesondere ohne gründliche Überwachung), da sie zwangsläufig Fehler machen.

Andererseits bin ich sehr zufrieden mit der Fähigkeit der Tesla-Autos, vollständig autonom zu fahren. Im Vergleich zu Menschen können sie nachweislich mehr Kilometer fahren, bevor sie in Unfälle verwickelt werden. Ja, sie machen Fehler, aber selbst in Flugzeugen mit Copilot müssen die Piloten im Notfall die Kontrolle übernehmen.

In Bezug auf Cybersicherheit haben mehrere US-Organisationen (z. B. JCDC.AI, NIST, CISA usw.) die Notwendigkeit diskutiert, sich mit KI und Cybersicherheit zu befassen. Natürlich muss man sich in schnelllebigen Märkten oder Technologien ständig an Veränderungen anpassen, und wenn diese sich extrem schnell entwickeln, muss man am Rande des Chaos operieren.

Zscalers Zero Trust Exchange ist ein wichtiger Teil seines Sicherheitsmodells. Wie verbessert KI diese Plattform und was sind einige der spannendsten Entwicklungen in diesem Bereich?

Die Zero-Trust-Architektur von Zscaler unterstützt Unternehmen dabei, eine sicherere Umgebung für KI-Implementierungen zu schaffen. Die Plattform nutzt KI jedoch auch auf vielfältige Weise, angefangen mit ZDX Copilot, das generative KI-gestützte Sicherheitsinnovationen liefert. Der in Zusammenarbeit mit NVIDIA entwickelte Agent nutzt generative KI, um Unternehmen proaktiv vor Bedrohungen zu schützen und IT- und Netzwerkabläufe zu vereinfachen. Zscaler hat zudem seine prädiktive Schwachstellenerkennung durch die Integration von Avalors Data Fabric for Security in den Zscaler Zero Trust Exchange verbessert. KI ist das Herzstück der Zero-Trust-Plattform von Zscaler und erkennt und stoppt Anmeldedatendiebstahl und Browser-Ausnutzung über Phishing-Seiten. Echtzeitanalysen basierend auf Bedrohungsdaten aus über 400 Milliarden täglichen Transaktionen verbessern die Abwehr komplexer Cyberangriffe.

KI spielt im Kampf gegen Cyberbedrohungen eine immer wichtigere Rolle. Wie sehen Sie die Entwicklung von KI, um die zunehmende Komplexität von Cybersicherheitsrisiken zu bewältigen, insbesondere im Bereich von IoT- und OT-Geräten?

Die Bedrohungslandschaft hat sich mit dem Aufkommen KI-basierter Cyberangriffe eindeutig weiterentwickelt, sodass Unternehmen KI mit KI bekämpfen können. Die größte Entwicklung wird darin bestehen, KI-Lösungen mit zusätzlichen Datenquellen zu erweitern.

Angesichts der steigenden Zahl von Cyberangriffen müssen wir mehr Automatisierung mithilfe von KI einsetzen, um Cyberrisiken zu erkennen und zu bekämpfen. Es ist erwähnenswert, dass KI und generative KI derzeit eingesetzt werden, um neue Angriffsfronten zu schaffen. Aus diesem Grund müssen wir unsere Strategie verbessern, indem wir mehr Signale korrelieren als bisher.

Im Falle von IoT- und OT-Geräten stellen sie erhebliche Risiken für Unternehmen dar, da mehrere IoT-Geräte nicht die aktuellsten Software-Stacks verwenden – obwohl man problemlos Wi-Fi-Switches, internetfähige Fernseher, Geschirrspüler, Öfen usw. kaufen kann. Seit Jahren sehen wir und viele Artikel die die Schwachstellen aufzeigen, denen wir im IoT/OT ausgesetzt sind.

Wir müssen ständig wachsam sein und die Cybersicherheitsverteidigung verbessern, indem wir alle Arten von Daten und Signalen analysieren, um Anomalien und potenzielle Bedrohungen zu erkennen. Um dieses Spiel zu gewinnen, brauchen wir hochmoderne KI-Modelle, die mit riesigen Datenmengen in Echtzeit trainiert werden. Generative KI spielt eine entscheidende Rolle, indem sie es Unternehmen ermöglicht, die Ergebnisse zu analysieren und für Benutzer und Sicherheitsbetreiber zusammenzufassen.

Wie beeinflussen als Mitglied der Arbeitsgruppen für KI und Cybersicherheit beim Weltwirtschaftsforum globale Diskussionen rund um KI-Ethik und Cybersicherheit Ihre Herangehensweise an Ihre Rolle bei Zscaler?

Da sich die Technologie so schnell entwickelt, müssen Regierungen und Organisationen über fundierte Informationen verfügen, und ich sehe darin die Aufgabe des Weltwirtschaftsforums. Allein KI und Cybersicherheit erfordern schon genug separate Gruppen, aber wenn man beide zusammenführt, ist es fast ein eigenständiger Bereich. So hat Gartner dieses Jahr beispielsweise gezeigt, dass generative KI die Angriffsfläche enorm vergrößert, von der sofortigen Injektion am Input und Output bis hin zu Angriffen auf Anwendungscode, Modellangriffen und sogar Plug-in-Angriffen.

Einige dieser Angriffe sind spezifisch für LLMs wie ChatGPT, aber wenn man bedenkt, dass wir von LLMs zu KI-Agenten und Multi-Agent-Systemen übergehen, müssen Sie viel mehr Informationen berücksichtigen. Bei LLMs könnten Sie sich beispielsweise um Prompt-Injection, Sleeper-Cell-Verhalten (das LLM dazu veranlasst, je nach speziellen Schlüsselwörtern anders zu reagieren) oder das Abfließen von proprietären Informationen kümmern. Wenn wir über KI-Agenten sprechen, müssen wir auch Angriffe auf Tools und Datenquellen berücksichtigen – selbst wenn wir davon ausgehen, dass SQL-Injection und OS-Befehlsinjection wieder möglich sein könnten.

Wenn wir außerdem Multi-Agenten-Systeme hinzufügen, bei denen die Agenten an verschiedenen Orten sein können, müssen wir uns vorstellen, dass dies ein völlig anderes Netzwerk bedeutet, das mit Protokollen kommuniziert. Es wurde mit Tausenden von Agenten experimentiert – genau wie bei einem Computernetzwerk.

Schließlich müssen wir unsere Belegschaft auf die Nutzung generativer KI vorbereiten und ihnen die Werkzeuge und eine Umgebung bereitstellen, in der sie in dieser neuen Welt arbeiten können.

Sie haben sich stark für Vielfalt und Inklusion eingesetzt, insbesondere als Executive Sponsor der Latino- und Hispanic-ERG Sabor von Zscaler. Wie hat Ihr kultureller Hintergrund Ihren Führungsstil und Ihre Herangehensweise an die KI-Entwicklung beeinflusst?

Als stolzer Latino, der in Brasilien geboren und aufgewachsen ist, liegt mir die Unterstützung und Stärkung der Latino- und Hispanoamerikaner-Communitys bei Zscaler am Herzen. Es ist ein großes Erfolgserlebnis für mich, durch Cybersicherheit zu einer besseren Welt beitragen zu können, in der wir die Gesellschaft in einer zunehmend komplexen Welt schützen. Meine Werte haben mir geholfen, dorthin zu gelangen, wo ich heute bin, und ich bin sehr stolz auf meine Herkunft.

Mein Rat wäre, nie zu vergessen, woher man kommt und was man geleistet hat. Seien Sie immer stolz auf das, was Sie einzigartig macht, aber erkennen Sie auch, dass Vielfalt das Wichtigste ist. Ich lebe 24 Stunden am Tag mit mir selbst. Wenn ich nur Leute einstelle, die mir ähnlich sind und mit mir einer Meinung sind, erweitere ich mein Wissen nicht. Die Einstellung von Leuten aus verschiedenen Standorten und mit unterschiedlichem Hintergrund hilft uns, die spezifischen Bedürfnisse unserer weltweiten Kundenbasis besser zu verstehen.

Und zum Schluss: Was begeistert Sie am meisten an der Zukunft der KI in der Cybersicherheit und welche Rolle wird Zscaler Ihrer Meinung nach in dieser Zukunft spielen?

KI ändert nichts an den Grundlagen einer effektiven Cyberabwehr – sie unterstreicht deren Bedeutung. Wir gehen davon aus, dass Transparenz, robuste Sicherheitspraktiken und kontinuierliche Überwachung in der gesamten Branche zunehmen werden. Unternehmen müssen einen umfassenden Sicherheitsansatz verfolgen und fortschrittliche Maßnahmen zur Erkennung und Reaktion auf Bedrohungen implementieren. Dazu gehört die Förderung einer Kultur des Sicherheitsbewusstseins, die Durchführung regelmäßiger Sicherheitsprüfungen und die Zusammenarbeit mit Stakeholdern bei der Entwicklung effektiver Sicherheitsstrategien. Auf diese Weise können Unternehmen das Risiko von Verstößen verringern und ihre vertraulichen Informationen schützen.

Zscaler setzt sich für den Schutz der Privatsphäre seiner Benutzer ein. Wir setzen die fortschrittlichsten Techniken zur Anonymisierung von Daten ein und stellen sicher, dass diese nicht in unsere LLMs gelangen, sodass keine Identifizierung einzelner Benutzer oder Organisationen möglich ist. Auch wenn wir in Zukunft möglicherweise die Feinabstimmung der LLMs in Erwägung ziehen, werden unsere strengen Datenschutzmaßnahmen, die sicherstellen, dass keine Benutzerdaten kompromittiert werden, weiterhin oberste Priorität haben. Unser Ziel ist es, die Leistungsfähigkeit der KI zu nutzen, um die Sicherheit zu verbessern, ohne die Privatsphäre der Kunden zu verletzen.

Vielen Dank für das tolle Interview, Leser, die mehr erfahren möchten, sollten vorbeischauen Zscaler.