Steve Wilson, Chief AI und Product Officer bei Exabeam – Interview-Serie

Steve Wilson ist der Chief AI und Product Officer bei Exabeam, wo sein Team bahnbrechende KI-Technologien einsetzt, um reale Herausforderungen im Bereich der Cybersicherheit zu meistern. Er gründete und leitet das OWASP Gen AI Security Project, die Organisation hinter der branchenweiten OWASP Top 10 für Large Language Model Security-Liste.

Sein preisgekröntes Buch, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), wurde als bestes Cutting Edge Cybersecurity Book von Cyber Defense Magazine ausgewählt.

Exabeam ist ein Leader im Bereich Intelligenz und Automation, der Sicherheitsoperationen für die intelligentesten Unternehmen der Welt ermöglicht. Durch die Kombination von Skalierbarkeit und Leistung von KI mit der Stärke unserer branchenführenden Behavioral-Analytics und Automation gewinnen Organisationen einen umfassenderen Überblick über Sicherheitsvorfälle, entdecken Anomalien, die von anderen Tools übersehen werden, und erreichen schnellere, genauere und wiederholbare Reaktionen. Exabeam ermöglicht es globalen Sicherheitsteams, Cyberbedrohungen zu bekämpfen, Risiken zu mindern und Operationen zu straffen.

Ihre neue Position ist Chief AI und Product Officer bei Exabeam. Wie spiegelt sich dies in der wachsenden Bedeutung von KI in der Cybersicherheit wider?

Die Cybersicherheit war eines der ersten Bereiche, die maschinelles Lernen wirklich angenommen haben – bei Exabeam haben wir ML als Kern unseres Erkennungsmotors über ein Jahrzehnt hinweg verwendet, um anomales Verhalten zu identifizieren, das Menschen allein möglicherweise übersehen. Mit dem Erscheinen neuerer KI-Technologien wie intelligenter Agenten ist KI von wichtig zu absolut zentral geworden.

Meine kombinierte Rolle als Chief AI und Product Officer bei Exabeam spiegelt genau diese Evolution wider. In einem Unternehmen, das sich tiefgreifend verpflichtet hat, KI in all seine Produkte einzubetten, und in einer Branche wie der Cybersicherheit, in der die Rolle von KI immer kritischer wird, ergab es Sinn, die KI-Strategie und die Produktstrategie unter einer Rolle zu vereinen. Diese Integration stellt sicher, dass wir strategisch ausgerichtet sind, um transformative KI-getriebene Lösungen für Sicherheitsanalysten und Operationsteams zu liefern, die am meisten auf uns angewiesen sind.

Exabeam ist Vorreiter bei “agentic AI” in Sicherheitsoperationen. Können Sie erklären, was das in der Praxis bedeutet und wie es sich von herkömmlichen KI-Ansätzen unterscheidet?

Agentic AI stellt eine bedeutende Evolution von herkömmlichen KI-Ansätzen dar. Es ist handlungsorientiert – es initiiert proaktiv Prozesse, analysiert Informationen und präsentiert Erkenntnisse, bevor Analysten sogar danach fragen. Jenseits der bloßen Datenanalyse handelt agentic AI als Berater, der strategische Empfehlungen über das gesamte SOC bietet, die Benutzer zu den einfachsten Erfolgen führt und schrittweise Anleitung bietet, um ihre Sicherheitslage zu verbessern. Darüber hinaus operieren Agenten als spezialisierte Teams, nicht als ein umständliches Chatbot, jedes mit spezifischen Persönlichkeiten und Datenbeständen, die nahtlos in die Arbeitsabläufe von Analysten, Ingenieuren und Managern integriert sind, um gezielte, wirksame Unterstützung zu bieten.

Mit Exabeam Nova, das mehrere KI-Agenten über den SOC-Workflow integriert, wie sieht die Zukunft der Rolle des Sicherheitsanalysten aus? Verändert sie sich, verkleinert sie sich oder wird sie spezifischer?

Die Rolle des Sicherheitsanalysten verändert sich definitiv. Analysten, Sicherheitsingenieure und SOC-Manager sind von Daten, Alarmen und Fällen überfordert. Der eigentliche zukünftige Wandel besteht nicht nur darin, Zeit bei monotonen Aufgaben zu sparen – obwohl Agenten dort sicherlich helfen -, sondern darin, dass jeder seine Rolle in die eines Teamleiters verwandelt. Analysten werden immer noch starke technische Fähigkeiten benötigen, aber jetzt werden sie ein Team von Agenten leiten, die bereit sind, ihre Aufgaben zu beschleunigen, ihre Entscheidungen zu verstärken und ihre Sicherheitslage wirklich zu verbessern. Diese Transformation positioniert Analysten als strategische Orchesterleiter anstelle von taktischen Reaktionskräften.

Neue Daten zeigen eine Diskrepanz zwischen Führungskräften und Analysten hinsichtlich des Produktivitätseffekts von KI. Warum denken Sie, dass diese Wahrnehmungslücke existiert, und wie kann sie angegangen werden?

Neue Daten zeigen eine klare Diskrepanz: 71% der Führungskräfte glauben, dass KI die Produktivität erheblich steigert, aber nur 22% der Analysten an der Frontline, der täglichen Nutzer, stimmen zu. Bei Exabeam haben wir diese Lücke beobachtet, die parallel zum jüngsten KI-Fieber in der Cybersicherheit gewachsen ist. Es war nie einfacher, beeindruckende KI-Demos zu erstellen, und Anbieter sind schnell dabei, zu behaupten, sie hätten jedes SOC-Problem gelöst. Während diese Demos Führungskräfte anfangs beeindrucken, fallen viele dort short, wo es zählt – in den Händen der Analysten. Das Potenzial ist da, und es gibt Taschen echter Nutzen, aber es gibt immer noch zu viel Rauschen und zu wenige bedeutende Verbesserungen. Um diese Wahrnehmungslücke zu überbrücken, müssen Führungskräfte KI-Tools priorisieren, die Analysten wirklich befähigen, nicht nur in einer Demo beeindrucken. Wenn KI die Effektivität von Analysten wirklich erhöht, werden Vertrauen und echte Produktivitätsverbesserungen folgen.

KI beschleunigt die Bedrohungserkennung und -reaktion, aber wie halten Sie das Gleichgewicht zwischen Automation und menschlichem Urteil in hochriskanten Cybersicherheitsvorfällen aufrecht?

KI-Fähigkeiten verbessern sich rasch, aber die heutigen grundlegenden “Sprachmodelle”, die intelligente Agenten untermauern, wurden ursprünglich für Aufgaben wie Sprachübersetzung und nicht für nuancierte Entscheidungsfindung, Spieltheorie oder die Behandlung komplexer menschlicher Faktoren entwickelt. Dies macht menschliches Urteil in der Cybersicherheit essentieller als je zuvor. Die Rolle des Analysten wird durch KI nicht geschwächt; sie wird erhöht. Analysten sind jetzt Teamleiter, die ihre Erfahrung und Einsicht nutzen, um mehrere Agenten zu leiten und zu lenken, um sicherzustellen, dass Entscheidungen von Kontext und Nuancen informiert werden. Letztendlich geht es darum, ein symbiotisches Verhältnis zwischen Automation und menschlichem Urteil zu schaffen, bei dem KI menschliche Expertise verstärkt, anstatt sie zu ersetzen.

Wie entwickelt sich Ihre Produktstrategie, wenn KI zu einem grundlegenden Designprinzip wird und nicht mehr nur ein Add-on?

Bei Exabeam ist unsere Produktstrategie grundlegend von KI als Designprinzip und nicht als oberflächliches Add-on geprägt. Wir haben Exabeam von Grund auf aufgebaut, um maschinelles Lernen zu unterstützen – von Log-Erfassung, Parsing, Anreicherung und Normalisierung – um ein robustes Common Information Model zu bevölkern, das speziell für ML-Systeme optimiert ist. Hochwertige, strukturierte Daten sind nicht nur wichtig für KI-Systeme, sie sind deren Lebensader. Heute integrieren wir unsere intelligenten Agenten direkt in kritische Workflows ein, vermeiden generische, unhandliche Chatbots und zielen stattdessen genau auf wichtige Use-Cases ab, die realen, greifbaren Nutzen für unsere Benutzer bieten.

Mit Exabeam Nova zielen Sie darauf ab, “von assistierend zu autonom zu wechseln”. Was sind die wichtigsten Meilensteine, um vollständig autonome Sicherheitsoperationen zu erreichen?

Die Idee vollständig autonome Sicherheitsoperationen ist faszinierend, aber vorzeitig. Vollständig autonome Agenten in jedem Bereich sind einfach noch nicht effizient oder sicher. Während die Entscheidungsfindung in KI verbessert wird, hat sie noch nicht das menschliche Vertrauensniveau erreicht und wird dies auch in nächster Zeit nicht tun. Bei Exabeam ist unser Ansatz nicht darauf ausgerichtet, totale Autonomie zu verfolgen, was meine Gruppe bei OWASP als Kernverwundbarkeit identifiziert, bekannt als Excessive Agency. Agenten mit mehr Autonomie als zuverlässig getestet und validiert zu geben, setzt Operationen auf riskantes Terrain. Stattdessen ist unser Ziel, Teams von intelligenten Agenten zu haben, die fähig, aber sorgfältig geleitet sind, unter der Aufsicht von menschlichen Experten im SOC. Diese Kombination aus menschlicher Aufsicht und gezielter agenter Unterstützung ist der realistische, wirksame Weg nach vorne.

Was sind die größten Herausforderungen, denen Sie bei der Integration von GenAI und maschinellem Lernen im erforderlichen Umfang für Echtzeit-Cybersicherheit gegenüberstanden?

Eine der größten Herausforderungen bei der Integration von GenAI und maschinellem Lernen im erforderlichen Umfang für die Cybersicherheit in Echtzeit ist die Balance zwischen Geschwindigkeit und Präzision. GenAI allein kann den enormen Umfang, den unser Hochgeschwindigkeits-ML-Motor bewältigt, nicht ersetzen – die Verarbeitung von Terabyte an Daten kontinuierlich. Selbst die fortschrittlichsten KI-Agenten haben ein “Kontextfenster”, das bei Weitem unzureichend ist. Stattdessen besteht unsere Rezeptur darin, ML zu verwenden, um massive Daten in handhabbare Erkenntnisse zu destillieren, die unsere intelligenten Agenten dann effektiv übersetzen und operationalisieren.

Sie haben das OWASP Top 10 für LLM-Anwendungen mitbegründet. Was hat Sie dazu inspiriert, und wie sehen Sie es als Prägung von KI-Sicherheitsbest-Praktiken?

Als ich das OWASP Top 10 für LLM-Anwendungen Anfang 2023 startete, war strukturierte Information über LLM- und GenAI-Sicherheit rar, aber das Interesse war unglaublich hoch. Innerhalb weniger Tage schlossen sich über 200 Freiwillige der Initiative an, die vielfältige Meinungen und Expertise mitbrachten, um die ursprüngliche Liste zu formen. Seitdem wurde es über 100.000 Mal gelesen und ist zu einem Grundstein internationaler Branchenstandards geworden. Heute hat sich die Anstrengung in das OWASP Gen AI Security Project erweitert, das Bereiche wie KI-Red-Teaming, die Sicherung agenter Systeme und den Umgang mit offensiven Gen-AI-Anwendungen in der Cybersicherheit abdeckt. Unsere Gruppe hat kürzlich die 10.000-Mitglied-Marke überschritten und setzt die KI-Sicherheitspraktiken weltweit fort.

Ihr Buch, “The Developer’s Playbook for LLM Security“, hat einen Top-Preis gewonnen. Was ist die wichtigste Erkenntnis oder das wichtigste Prinzip aus dem Buch, das jeder KI-Entwickler verstehen sollte, wenn er sichere Anwendungen baut?

Die wichtigste Erkenntnis aus meinem Buch, “The Developer’s Playbook for LLM Security”, ist einfach: “Mit großer Macht kommt große Verantwortung.” Während das Verständnis traditioneller Sicherheitskonzepte immer noch essentiell ist, stehen Entwickler jetzt vor einer völlig neuen Reihe von Herausforderungen, die spezifisch für LLMs sind. Diese leistungsstarke Technologie ist kein Freifahrschein, sie erfordert proaktive, durchdachte Sicherheitspraktiken. Entwickler müssen ihre Perspektive erweitern, diese neuen Verwundbarkeiten von Anfang an erkennen und angehen, und Sicherheit in jeden Schritt des Lebenszyklus ihrer KI-Anwendung einbetten.

Wie sehen Sie die Cybersicherheits-Arbeitskräfte in den nächsten 5 Jahren, wenn agentic KI mainstream wird?

Wir sind derzeit in einem Wettlauf um KI. Angreifer setzen aggressiv KI ein, um ihre schädlichen Ziele voranzutreiben, was Cybersicherheitsprofis wichtiger macht als je zuvor. Die nächsten fünf Jahre werden die Cybersicherheits-Arbeitskräfte nicht verkleinern, sondern erhöhen. Fachleute müssen KI annehmen und in ihre Teams und Workflows integrieren. Sicherheitsrollen werden sich in Richtung strategische Führung verändern – weniger über individuelle Anstrengung und mehr über die Orchestrierung einer effektiven Reaktion mit einem Team von KI-getriebenen Agenten. Diese Transformation ermöglicht es Cybersicherheitsprofis, entschlossen und zuversichtlich in der Auseinandersetzung mit ständig evolvierenden Bedrohungen zu führen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Exabeam besuchen.