Steve Wilson, Chief AI und Product Officer bei Exabeam – Interview-Serie

Steve Wilson ist der Chief AI und Product Officer bei Exabeam, wo sein Team cutting-edge-KI-Technologien einsetzt, um reale Cybersicherheits-Herausforderungen zu meistern. Er gründete und leitet das OWASP Gen AI Security Project, die Organisation hinter der branchenweit anerkannten OWASP Top 10 für Large Language Model Security-Liste.

Sein preisgekröntes Buch, „The Developer’s Playbook for Large Language Model Security“ (O’Reilly Media), wurde als bestes Cutting Edge Cybersecurity Book von Cyber Defense Magazine ausgewählt.

Exabeam ist ein Leader in Intelligenz und Automatisierung, die Sicherheitsoperationen für die intelligentesten Unternehmen der Welt ermöglicht. Durch die Kombination von Skalierbarkeit und Leistung von KI mit der Stärke unserer branchenführenden Verhaltensanalyse und Automatisierung gewinnen Organisationen ein umfassenderes Bild von Sicherheitsvorfällen, entdecken Anomalien, die von anderen Tools übersehen werden, und erreichen schnellere, genauere und wiederholbare Antworten. Exabeam ermöglicht es globalen Sicherheitsteams, Cyber-Bedrohungen zu bekämpfen, Risiken zu mindern und Operationen zu straffen.

Ihr neuer Titel ist Chief AI und Product Officer bei Exabeam. Wie spiegelt sich dies in der wachsenden Bedeutung von KI in der Cybersicherheit wider?

Die Cybersicherheit war eines der ersten Bereiche, die Maschinelles Lernen wirklich angenommen haben – bei Exabeam haben wir ML als Kern unseres Erkennungsmotors seit über einem Jahrzehnt verwendet, um anomales Verhalten zu identifizieren, das Menschen allein möglicherweise übersehen. Mit dem Erscheinen neuerer KI-Technologien wie intelligenter Agenten ist KI von wichtig zu absolut zentral geworden.

Meine kombinierte Rolle als Chief AI und Product Officer bei Exabeam spiegelt genau diese Entwicklung wider. In einem Unternehmen, das tiefgreifend daran arbeitet, KI in all seine Produkte einzubetten, und in einer Branche wie der Cybersicherheit, in der die Rolle von KI immer kritischer wird, hatte es Sinn, die KI-Strategie und die Produktstrategie unter einer Rolle zu vereinen. Diese Integration stellt sicher, dass wir strategisch ausgerichtet sind, um transformative KI-getriebene Lösungen für Sicherheitsanalysten und -operationsteams zu liefern, die am meisten auf uns angewiesen sind.

Exabeam ist Vorreiter bei “agentic AI” in Sicherheitsoperationen. Können Sie erklären, was das in der Praxis bedeutet und wie es sich von herkömmlichen KI-Ansätzen unterscheidet?

Agentic AI stellt eine bedeutende Evolution von herkömmlichen KI-Ansätzen dar. Es ist handlungsorientiert – proaktiv initiiert es Prozesse, analysiert Informationen und präsentiert Erkenntnisse, bevor Analysten danach fragen. Jenseits der bloßen Datenanalyse fungiert agentic AI als Berater, der strategische Empfehlungen über das gesamte SOC hinweg anbietet, die Benutzer zu den einfachsten Erfolgen leitet und schrittweise Anleitungen zur Verbesserung ihrer Sicherheitslage bietet. Zusätzlich operieren Agenten als spezialisierte Gruppen, nicht als ein unhandliches Chatbot, jeder mit spezifischen Persönlichkeiten und Datensätzen, die nahtlos in den Arbeitsablauf von Analysten, Ingenieuren und Managern integriert sind, um gezielte, wirksame Unterstützung zu bieten.

Mit Exabeam Nova, das multiple KI-Agenten über den SOC-Workflow integriert, wie sieht die Zukunft der Rolle des Sicherheitsanalysten aus? Evolviert sie, schrumpft sie oder wird sie spezifischer?

Die Rolle des Sicherheitsanalysten evolviert definitiv. Analysten, Sicherheitsingenieure und SOC-Manager sind von Daten, Alarmen und Fällen überwältigt. Der eigentliche zukünftige Wandel besteht nicht nur darin, Zeit bei monotonen Aufgaben zu sparen – obwohl Agenten dabei helfen –, sondern darin, dass jeder seine Rolle in die eines Teamleiters verwandelt. Analysten werden immer noch starke technische Fähigkeiten benötigen, aber nun werden sie ein Team von Agenten leiten, die bereit sind, ihre Aufgaben zu beschleunigen, ihre Entscheidungen zu verstärken und echte Verbesserungen in der Sicherheitslage herbeizuführen. Diese Transformation positioniert Analysten als strategische Orchester, anstatt als taktische Reaktionskräfte.

Neue Daten zeigen eine Diskrepanz zwischen Führungskräften und Analysten hinsichtlich des Produktivitätseffekts von KI. Warum denken Sie, dass diese Wahrnehmungslücke existiert, und wie kann sie angegangen werden?

Neue Daten zeigen eine klare Diskrepanz: 71 % der Führungskräfte glauben, dass KI die Produktivität erheblich steigert, aber nur 22 % der Analysten an der Frontline, der täglichen Nutzer, stimmen zu. Bei Exabeam haben wir diese Lücke beobachtet, die parallel zum jüngsten Hype um KI-Versprechungen in der Cybersicherheit gewachsen ist. Es ist leichter denn je, beeindruckende KI-Demos zu erstellen, und Anbieter sind schnell dabei, zu behaupten, sie hätten jedes SOC-Herausforderung gelöst. Während diese Demos Führungskräfte anfangs beeindrucken, fallen viele dort short, wo es zählt – in den Händen der Analysten. Das Potenzial ist da, und es gibt Taschen echter Ausbeute, aber es gibt immer noch zu viel Rauschen und zu wenige bedeutende Verbesserungen. Um diese Wahrnehmungslücke zu überbrücken, müssen Führungskräfte KI-Tools priorisieren, die Analysten wirklich befähigen, nicht nur in einer Demo beeindrucken. Wenn KI die Effektivität von Analysten wirklich erhöht, werden Vertrauen und echte Produktivitätsverbesserungen folgen.

KI beschleunigt die Bedrohungserkennung und -reaktion, aber wie halten Sie das Gleichgewicht zwischen Automatisierung und menschlichem Urteil in hochriskanten Cybersicherheitsvorfällen?

KI-Fähigkeiten verbessern sich rasant, aber die heutigen grundlegenden “Sprachmodelle”, die intelligente Agenten untermauern, wurden ursprünglich für Aufgaben wie Sprachübersetzung und nicht für nuancierte Entscheidungsfindung, Spieltheorie oder die Behandlung komplexer menschlicher Faktoren konzipiert. Dies macht menschliches Urteil wichtiger denn je in der Cybersicherheit. Die Rolle des Analysten wird durch KI nicht geschmälert, sondern erhöht. Analysten sind jetzt Teamleiter, die ihre Erfahrung und Einsicht nutzen, um mehrere Agenten zu leiten und zu lenken, um sicherzustellen, dass Entscheidungen von Kontext und Nuancen geprägt sind. Letztendlich geht es darum, eine symbiotische Beziehung zu schaffen, in der KI menschliche Expertise verstärkt, anstatt sie zu ersetzen.

Wie entwickelt sich Ihre Produktstrategie, wenn KI zu einem grundlegenden Designprinzip wird und nicht nur ein Add-on?

Bei Exabeam ist unsere Produktstrategie grundlegend von KI als grundlegendem Designprinzip geprägt, nicht als oberflächliches Add-on. Wir haben Exabeam von Grund auf aufgebaut, um Maschinelles Lernen zu unterstützen – von Log-Erfassung, Parsing, Anreicherung und Normalisierung –, um ein robustes Common Information Model zu bevölkern, das speziell für ML-Systeme optimiert ist. Hochwertige, strukturierte Daten sind nicht nur für KI-Systeme wichtig, sie sind ihr Lebenselixier. Heute integrieren wir unsere intelligenten Agenten direkt in kritische Workflows, vermeiden generische, unhandliche Chatbots. Stattdessen zielen wir genau auf wichtige Use-Cases ab, die realen, greifbaren Nutzen für unsere Benutzer liefern.

Mit Exabeam Nova zielen Sie darauf ab, “von assistierend zu autonom zu wechseln”. Was sind die wichtigsten Meilensteine, um vollautonome Sicherheitsoperationen zu erreichen?

Die Idee vollautonomer Sicherheitsoperationen ist faszinierend, aber verfrüht. Vollautonome Agenten in jedem Bereich sind einfach noch nicht effizient oder sicher. Während die Entscheidungsfindung in KI verbessert wird, hat sie noch nicht die Zuverlässigkeit des menschlichen Urteils erreicht und wird dies auch in absehbarer Zeit nicht tun. Bei Exabeam ist unser Ansatz nicht darauf ausgerichtet, totale Autonomie zu verfolgen, was meine Gruppe bei OWASP als Kernverwundbarkeit identifiziert, bekannt als Excessive Agency. Agenten mehr Autonomie zu geben, als zuverlässig getestet und validiert werden kann, setzt Operationen auf riskantes Terrain. Stattdessen ist unser Ziel, Teams intelligenter Agenten zu haben, die fähig, aber sorgfältig geleitet sind, unter der Aufsicht von menschlichen Experten im SOC zu arbeiten. Diese Kombination aus menschlicher Aufsicht und gezielter agenter Unterstützung ist der realistische, wirksame Weg nach vorne.

Was sind die größten Herausforderungen, denen Sie bei der Integration von GenAI und Maschinellem Lernen im erforderlichen Umfang für Echtzeit-Cybersicherheit gegenüberstanden?

Eine der größten Herausforderungen bei der Integration von GenAI und Maschinellem Lernen im erforderlichen Umfang für Echtzeit-Cybersicherheit ist es, Geschwindigkeit und Präzision in Einklang zu bringen. GenAI allein kann den riesigen Umfang, den unser Hochgeschwindigkeits-ML-Motor bewältigt – kontinuierlich Terabyte an Daten verarbeitend –, nicht ersetzen. Selbst die fortschrittlichsten KI-Agenten haben ein “Kontextfenster”, das bei Weitem unzureichend ist. Stattdessen besteht unsere Rezeptur darin, ML zu nutzen, um massive Daten in handhabbare Erkenntnisse zu destillieren, die unsere intelligenten Agenten dann effektiv übersetzen und operationalisieren.

Sie haben das OWASP Top 10 für LLM-Anwendungen mitbegründet. Was hat Sie dazu inspiriert, und wie sehen Sie es als prägend für AI-Sicherheitsbest-Practices?

Als ich das OWASP Top 10 für LLM-Anwendungen Anfang 2023 startete, war strukturierte Information über LLM- und GenAI-Sicherheit rar, aber das Interesse war enorm. Innerhalb weniger Tage schlossen sich über 200 Freiwillige der Initiative an, die vielfältige Meinungen und Expertise mitbrachten, um die ursprüngliche Liste zu formen. Seitdem wurde es über 100.000 Mal gelesen und ist zu einem grundlegenden Bestandteil internationaler Branchenstandards geworden. Heute hat sich die Initiative zum OWASP Gen AI Security Project erweitert, das Bereiche wie AI Red Teaming, die Sicherung agenter Systeme und den Umgang mit offensiven Anwendungen von GenAI in der Cybersicherheit abdeckt. Unsere Gruppe hat kürzlich die 10.000-Mitglieder-Marke überschritten und setzt sich weiterhin für die globale Weiterentwicklung von AI-Sicherheitspraktiken ein.

Ihr Buch, ‘The Developer’s Playbook for LLM Security‘, gewann einen Top-Preis. Was ist die wichtigste Erkenntnis oder das wichtigste Prinzip aus dem Buch, das jeder AI-Entwickler verstehen sollte, wenn er sichere Anwendungen baut?

Die wichtigste Erkenntnis aus meinem Buch, “The Developer’s Playbook for LLM Security”, ist einfach: “Mit großer Macht kommt große Verantwortung”. Während das Verständnis traditioneller Sicherheitskonzepte immer noch essentiell ist, stehen Entwickler jetzt vor einer ganz neuen Reihe von Herausforderungen, die spezifisch für LLMs sind. Diese leistungsstarke Technologie ist kein Freifahrtschein, sie fordert proaktive, bewusste Sicherheitspraktiken. Entwickler müssen ihre Perspektive erweitern, diese neuen Verwundbarkeiten erkennen und angehen, und Sicherheit in jeden Schritt des Lebenszyklus ihrer KI-Anwendung einbetten.

Wie sehen Sie die Evolution der Cybersicherheits-Arbeitskräfte in den nächsten 5 Jahren, wenn agentic AI immer mainstream wird?

Wir befinden uns derzeit in einem Wettlauf um KI. Angreifer setzen aggressiv KI ein, um ihre schädlichen Ziele voranzutreiben, was Cybersicherheits-Profis noch wichtiger macht. Die nächsten fünf Jahre werden die Cybersicherheits-Arbeitskräfte nicht verringern, sondern erhöhen. Profis müssen KI annehmen und in ihre Teams und Workflows integrieren. Sicherheitsrollen werden sich in Richtung strategischer Führung verlagern – weniger auf individuelle Anstrengung und mehr auf die Orchestrierung einer effektiven Reaktion mit einem Team von KI-getriebenen Agenten. Diese Transformation befähigt Cybersicherheits-Profis, entschlossen und selbstbewusst in der Auseinandersetzung mit ständig evolvierenden Bedrohungen zu führen.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Exabeam besuchen.