Paul Reid, VP of Adversary Research at AttackIQ – Interview-Serie

Paul Reid, VP of Adversary Research at AttackIQ, ist ein erfahrener Veteran der schnellen Welt der Cybersicherheit. Mit über zwei Jahrzehnten Erfahrung als Technologie-Stratege für führende Technologie-Unternehmen hat Paul Kunden, Partner, Analysten und Journalisten durch die sich entwickelnde Cybersicherheits-Landschaft geführt. Seine Expertise umfasst Cybersicherheit, Biometrie, Netzwerksicherheit und Kryptographie.

Zuletzt hat er ein Team von Cyber-Bedrohungs-Jägern geleitet, die sich auf die Verwendung von Verhaltensanalysen konzentrierten, um neue Bedrohungen in Kunden-Umgebungen zu erkennen. Paul ist ein veröffentlichter Autor in der Prentice Hall Series in Computer Networking and Distributed Systems und hält mehrere Patente in der Cybersicherheit.

AttackIQ ist ein führendes Cybersicherheits-Unternehmen, das sich auf Breach- und Angriffssimulation (BAS) und kontinuierliche Sicherheitsvalidierung spezialisiert. Seine Adversarial Exposure Validation-Plattform verwendet MITRE ATT&CK-basierte Emulation, um Sicherheitskontrollen zu testen, Schwachstellen zu identifizieren und die Priorisierung von Maßnahmen zu unterstützen. Gegründet im Jahr 2013, hilft AttackIQ Organisationen, ihre defensive Position zu verbessern, die Effizienz des SOC zu erhöhen und das Risiko zu reduzieren.

Sie haben Führungsrollen in verschiedenen Bereichen der Cybersicherheit über zwei Jahrzehnte hinweg innegehabt. Was hat Ihr Interesse an der Adversary-Forschung geweckt, und wie hat diese Reise Sie schließlich zu AttackIQ geführt?

Meine Reise in die Cybersicherheit begann vor über 25 Jahren, als ich Novell-Netzwerke einrichtete und in der Welt der Verzeichnisdienste arbeitete — Novell, Microsoft Active Directory, LDAP. Diese frühe Erfahrung lehrte mich die Bedeutung von Identität, Authentifizierung und Zugriff, den Grundlagen jeder Sicherheitsstrategie.

Danach wechselte ich in die Smart-Card-Authentifizierung, wo ich die Gelegenheit hatte, PKCS #11-Bibliotheken zu schreiben und mich in der öffentlichen Schlüssel-Infrastruktur (PKI) während ihres schnellen Aufstiegs zu vertiefen. Die Arbeit mit symmetrischer und asymmetrischer Kryptographie während dieser Zeit gab mir ein reales Verständnis dafür, wie Verschlüsselung das Vertrauen in digitalen Umgebungen prägt.

Später in meiner Karriere wechselte ich in die Datenklassifizierung, um Organisationen zu helfen, den Wert ihrer Daten zu verstehen, damit sie das schützen konnten, was am wichtigsten war. Diese Erfahrung führte mich natürlich in die Benutzer- und Entitäts-Verhaltensanalyse (UEBA), wo ich praktische Erfahrungen mit Datenwissenschaft und maschinellem Lernen sammelte, einschließlich der Programmierung in R.

Schließlich hatte ich das Glück, ein globales Bedrohungs-Jagd-Team zu leiten, wo wir Echtzeit-Verfolgung von nation-state-Bedrohungen durchführten. Das war eine intensive und aufschlussreiche Zeit. Es gibt keinen besseren Weg, die Taktiken, Techniken und Verfahren (TTPs) von Bedrohungen zu verstehen, als sich täglich mit ihnen auseinanderzusetzen.

Während dieser Zeit entstand eine wiederkehrende Frustration: Wir sagten oft: “Wenn sie nur X gemacht hätten oder Y-Kontrolle hätten…” Es gab eine Lücke zwischen Bedrohungs-Bewusstsein und operativer Verteidigungsbereitschaft.

Das ist es, was mich letztendlich zu AttackIQ geführt hat. Die Gelegenheit, das Gelernte anzuwenden — durch Breach- und Angriffssimulation und Validierung, ob Verteidigungen wirklich effektiv sind — war zu verlockend, um sie zu verpassen. Hier theoretisieren wir nicht über Bedrohungen; wir testen, messen und verbessern uns jeden Tag dagegen.

Unser Team operiert unter einem Leitprinzip: “Denken wie ein Angreifer, handeln für die Verteidigung.” Wir denken wie Angreifer, nicht, um zu schaden, sondern um unseren Kunden zu helfen, sich vorzubereiten und sie zu besiegen.

Als Leiter von Teams bei TITUS, Interset und Micro Focus, wie hat Ihre Erfahrung in der Bedrohungs-Intelligence und Partner-Enablement Ihre aktuelle Herangehensweise an die Operationalisierung der Adversary-Emulation geprägt?

Als ich in technischen und go-to-Market-Rollen bei Unternehmen wie TITUS, Interset und Micro Focus gearbeitet habe, habe ich ein umfassendes Verständnis dafür entwickelt, wie Bedrohungs-Intelligence in operative Ergebnisse übersetzt werden muss, nicht nur in Erkenntnisse. Partner-Enablement hat mich insbesondere gelehrt, wie man komplexe Cybersicherheitsprobleme auf eine Weise kommuniziert, die handhabbar und bedeutsam für diverse Zielgruppen ist, von CISOs bis hin zu SOC-Analysten.

Bei AttackIQ ist Adversary-Emulation nicht nur das Wiederabspielen von Bedrohungs-Verhaltensweisen. Es geht darum, sich an das MITRE ATT&CK-Framework zu halten, Angreifer mit Fidelity zu emulieren und Organisationen zu helfen, zu testen, ob ihre Verteidigungen in einem realen Szenario standhalten. Das erfordert mehr als technische Strenge; es erfordert Bildung, Zusammenarbeit und die Ermächtigung von Stakeholdern im gesamten Sicherheits-Ökosystem.

Meine vorherigen Rollen halfen mir, die Lücke zwischen Intelligenz und Ausführung zu überbrücken — wie man die Bedrohungs-Landschaft in einer Weise operationalisiert, die proaktiv, messbar und verteidigbar ist. Das ist die Essenz unserer Mission bei AttackIQ.

Sie leiten jetzt die Adversary-Forschung zu einer Zeit, in der Angreifer AI im großen Maßstab einsetzen. Wie haben Sie die Entwicklung von offensiven AI-Taktiken in den letzten Jahren beobachtet — und wie kämpfen Verteidiger darum, Schritt zu halten?

Angreifer nutzen AI, um die Geschwindigkeit, Präzision und Skalierbarkeit ihrer Operationen zu erhöhen. Wir sehen personalisierte und glaubwürdige Phishing-Angriffe, AI-generierte soziale Ingenieurskunst und eine größere Skalierbarkeit und Effizienz von Angriffen. Diese Fähigkeiten reduzieren die Zeit zwischen Aufklärung und Kompromittierung, komprimieren das Fenster des Verteidigers, um zu reagieren. Viele Organisationen verlassen sich noch auf reaktive Prozesse und statische Erkennungsregeln, die nicht für Angreifer konzipiert sind, die lernen und sich anpassen. Verteidiger müssen kontinuierliche Validierung und Expositions-Management einsetzen, um diese Lücke zu schließen, ihre Verteidigungen unter realistischen Bedingungen zu testen und schnell auf neue angreifende Verhaltensweisen zu reagieren.

Was unterscheidet adversarial AI von traditionellen Cyber-Bedrohungen, und warum glauben Sie, dass ein Wechsel im Denken — nicht nur in den Werkzeugen — erforderlich ist, um effektiv zu reagieren?

Traditionelle Bedrohungen folgen oft bekannten Mustern, die Verteidiger verfolgen und mit regelbasierten Erkennungen mildern können. Adversarial AI-Taktiken führen ein neues Level von Variabilität und Anpassungsfähigkeit ein, das diese Annahmen in Frage stellt. Sie können neue Angriffspfade generieren und Verteidigungen dynamisch umgehen. Um dies zu bewältigen, ist mehr als die Bereitstellung neuer Werkzeuge erforderlich. Es erfordert eine strategische Änderung in der Art und Weise, wie Organisationen über Verteidigung nachdenken. Anstatt auf Vorfälle zu reagieren, müssen Sicherheitsteams simulierte, sich entwickelnde Bedrohungen durch die Verwendung bekannter TTPs und proaktive Validierung von Kontrollen testen, um die Reaktionen ihrer Systeme zu überprüfen. Ein bedrohungs-informiertes Denken, unterstützt durch realistische Emulation, ist der Schlüssel, um diese neuen Risiken vorherzusehen und zu bekämpfen.

Können Sie erklären, wie AttackIQ Bedrohungs-Intelligence in praktische Verteidigung durch Adversary-Emulation übersetzt, und wie sich dieser Prozess mit dem Aufkommen von generativer AI geändert hat?

Die traditionelle Herausforderung mit Bedrohungs-Intelligence ist die Operationalisierung, die Lücke zwischen Erkenntnis und Aktion zu überbrücken. Adversary-Emulation löst dieses Problem, indem es Erkenntnisse über bekannte Bedrohungs-Verhaltensweisen in ausführbare Tests umwandelt, die überprüfen, ob die aktuellen Verteidigungen diesen Verhaltensweisen standhalten. Mit generativer AI wird die Bedrohungs-Landschaft flüssiger, mit mehr variablen Verhaltensweisen. Emulationen müssen jetzt nicht nur statische Techniken, sondern auch adaptive und kontextabhängige Verhaltensweisen widerspiegeln. Bei AttackIQ werden Live-Bedrohungs-Intelligence und Modell-Adversary-Verhaltensweisen in Emulationspläne aufgenommen, um realistische Angriffe nachzubilden. Diese Emulationen werden in produktionsähnlichen Umgebungen eingesetzt, um zu überprüfen, ob Sicherheitskontrollen wie erwartet erkennen, verhindern oder reagieren.

Kontinuierliches Bedrohungs-Expositions-Management (CTEM) wird zu einem Kernbestandteil von Cyber-Resilienz-Strategien. Wie sollten Organisationen CTEM angehen, wenn sie sich schnell anpassenden AI-gesteuerten Bedrohungen gegenübersehen?

CTEM stellt einen Wechsel von statischen Risikobewertungen zu dynamischen, intelligenzgetriebenen Sicherheitsvalidierungen dar. Angesichts AI-gesteuerter Bedrohungen müssen Organisationen Expositionen als bewegliches Ziel behandeln. Das bedeutet, Expositionen basierend auf aktiven Tests zu identifizieren und zu priorisieren, nicht nur auf theoretischem Risiko.

Rote und blaue Teams müssen zusammenarbeiten, um adaptive Angreifer zu simulieren und kontinuierlich Erkennungs- und Reaktionsfähigkeiten zu testen. Organisationen, die diesen Ansatz annehmen, sind besser gerüstet, sich schnell anzupassen, ihre Investitionen und Sicherheitskontrollen zu validieren und ihre Widerstandsfähigkeit in einer sich schnell verändernden Landschaft aufrechtzuerhalten.

Der “Grundlagen der AI-Sicherheit”-Kurs von AttackIQ behandelt Risikoframeworks wie MITRE ATLAS und die AI-RMF. Welche Aspekte dieser Frameworks finden Sie am meisten unterbewertet oder missverstanden in Unternehmensumgebungen?

Eines der häufigsten Missverständnisse, die wir sehen, ist die Tendenz, Frameworks wie MITRE ATLAS und die AI-Risikomanagement-Framework (AI RMF) als isolierte Referenzmaterialien zu behandeln, anstatt als operative Werkzeuge zur Erstellung von Resilienz in AI-aktivierte Systeme.

MITRE ATLAS, ähnlich wie ATT&CK in seinen frühen Tagen, wird oft als statisches Verzeichnis von Angriffstechniken gegen AI/ML-Systeme betrachtet. In Wirklichkeit ist ATLAS ein taktisches Adversary-Emulations-Framework, das Sicherheitsteams hilft, AI-spezifische Bedrohungen zu simulieren — von Daten-Vergiftung und Modell-Evasion bis hin zur Inferenz-Manipulation — und ihre Erkennungs-, Protokollierungs- und Reaktionsfähigkeiten zu validieren. Das Problem ist, dass die meisten Unternehmen noch nicht die notwendige Sichtbarkeit oder Kontrollen haben, um Angriffe gegen die ML-Pipeline zu erkennen, was den proaktiven Einsatz von ATLAS durch Breach- und Angriffssimulations-Strategien noch kritischer macht. Es ist ein unterausgestattetes Werkzeug für das Testen, wie AI-Systeme unter adversarialen Druck reagieren.

Auf der anderen Seite wird NISTs AI-RMF häufig als Compliance-Checkliste missverstanden. In Wirklichkeit ist es ein strategisches Governance-Framework — eines, das Organisationen unterstützt, AI-Anwendungsfälle zu kartieren, Risiken (einschließlich der durch Angreifer verursachten) zu messen, sie durch Priorisierung und Minderung zu steuern und Aufsicht über den gesamten Systemlebenszyklus zu gewährleisten. Wo ATLAS taktisch ist, ist AI RMF strategisch. Die beiden Frameworks sind hochkomplementär: ATLAS ermöglicht die Validierung von Risiken durch realistische Simulation, während AI RMF die Struktur bietet, um Risiken zu regieren, Eigentümerschaft zu definieren und AI-Sicherheitsgewährleistung mit Geschäftsprioritäten abzustimmen.

In unserem Grundlagen-Kurs der AI-Sicherheit lehren wir, dass einer der am meisten unterbewerteten Aspekte der AI-RMF die “Map”- und “Measure”-Funktionen sind — insbesondere in frühen Einsatzphasen. Diese Funktionen ermutigen Organisationen, nicht nur System- und Missbrauchsszenarien zu modellieren, sondern auch adversarialen Bedrohungen im Kontext zu identifizieren. Die Kombination mit ATLAS ermöglicht es Organisationen, über theoretische Bedenken hinauszugehen und AI-Sicherheit auf eine bedeutsame, testbare Weise zu operationalisieren.

Letztendlich liegt die verpasste Gelegenheit darin, diese Frameworks als akademisch zu behandeln. Wenn sie zusammen verwendet werden, ermöglichen AI RMF und ATLAS einen bedrohungs-informierten, risikobasierten Ansatz zur Sicherung von AI, der hohe Governance in realistische Gewährleistung umwandelt.

Welche dieser Bedrohungen glauben Sie, dass CISOs am wenigsten auf vorbereitet sind — und warum?

LLM03: 2025-Lieferketten-Schwachstellen nutzen kritische Blindstellen in bestehender Governance und Unternehmens-Vertrauensannahmen aus, indem sie durch Kontrollen schlüpfen, die ursprünglich nicht für AI/ML-Systeme konzipiert waren. Traditionelle Sicherheitsprogramme konzentrieren sich auf Software-Pakete und Code-Abhängigkeiten, aber AI-Modelle, oft als Daten-Assets behandelt, fehlt die gleiche Prüfung. Dies ermöglicht es kompromittierten vorab trainierten Modellen, vergifteten LoRA-Adaptationen oder manipulierten Hugging-Face-Merges, in Produktionsumgebungen ohne Überprüfung, Code-Signierung oder Verhaltensbewertung aufgenommen zu werden. Da diese Modelle keine statische Analyse oder Malware-Signaturen auslösen, verhalten sie sich wie Schlafwandler, die nur unter bestimmten Bedingungen oder bei bestimmten Anfragen aktiv werden, die Erkennung vermeiden.

Die Unternehmensannahme, dass renommierte AI-Ökosysteme oder Registrierungen vertrauenswürdige Standards durchsetzen, verschärft das Problem. Sicherheitsteams könnten glauben, ihre DevSecOps-Pipelines und TPRM-Programme decken AI-Risiken ab, aber in Wirklichkeit tun sie dies nicht. Angreifer nutzen diese Fehleinschätzung, indem sie Open-Source-Modell-Tools manipulieren, Adapter zurücktürmen oder Daten, die für die Feinabstimmung verwendet werden, vergiften, um stillschweigend schädliches Verhalten einzubetten. Ohne adversarialen Red-Teaming und Governance, die diese Lücken explizit berücksichtigen, riskieren sogar gut gesicherte Unternehmen eine operative Kompromittierung durch vertrauenswürdige, aber unüberprüfte AI-Artefakte.

Wenn rote und blaue Teams beginnen, AI-gesteuerte Angreifer zu simulieren, wie entwickelt sich die Adversary-Emulation weiter? Betreten wir eine neue Ära der simulationsbasierten Sicherheitsvalidierung?

Wenn Angreifer AI in ihre Operationen integrieren, muss die Adversary-Emulation entsprechend evolvieren, über feste Spielbücher hinaus. Rote Teams müssen dynamisches, AI-ähnliches Verhalten simulieren: Pivoting, Privilegien-Eskalation und adaptive TTPs, die so modelliert sind, dass sie das Verhalten eines realen AI-gesteuerten Angreifers widerspiegeln.

Wir betreten eine neue Ära, in der Emulation kontinuierlich und intelligenzgetrieben wird. Keine episodischen Übungen mehr, sondern Simulationen, die Echtzeit-Bedrohungs-Intelligence integrieren und sich iterativ in produktionsähnlichen Umgebungen testen, um Kontrollen unter aufkommenden, unvorhersehbaren Bedingungen zu testen. Mit CTEM wird dieser Ansatz sicherstellen, dass Sicherheitsvalidierung zu einer strategischen, operativen Funktion wird, nicht nur einem Check-Box-Verfahren.

Blicken Sie in die Zukunft, welche aufkommenden AI-Risiken beunruhigen Sie am meisten? Und wo sehen Sie die größte Chance für Verteidiger, voranzukommen?

Das beunruhigendste Risiko ist, wie AI die Einstiegshürde für anspruchsvolle Angriffe im großen Maßstab senkt. Was einmal tiefes technisches Know-how erforderte, ist jetzt zunehmend durch kommerzialisierte AI-Tools zugänglich. AI kann Aufklärung automatisieren, Exploit-Code generieren und maßgeschneiderte Phishing-Kampagnen durchführen, schneller als traditionelle Verteidigungen reagieren können.

Auf der anderen Seite haben Verteidiger eine parallele Chance: AI und Automatisierung für proaktive Verteidigung zu nutzen. Durch Automatisierung von Emulation, Beschleunigung von Erkennung und Priorisierung von Expositionen basierend auf realen Risiken können Sicherheitsteams adversarialen Zügen vorauseilen, anstatt nur zu reagieren.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten AttackIQ besuchen.