Paul Reid, VP de la recherche sur les adversaires chez AttackIQ – Série d’entretiens

Paul Reid, VP de la recherche sur les adversaires chez AttackIQ, est un vétéran chevronné du monde rapide de la cybersécurité. Avec plus de deux décennies d’expérience en tant que stratège technologique pour les principales entreprises technologiques, Paul a guidé les clients, les partenaires, les analystes et les journalistes à travers le paysage de la cybersécurité en évolution. Son expertise s’étend à la cybersécurité, la biométrie, la sécurité réseau et la cryptographie.

Récemment, il a dirigé une équipe de chasseurs de menaces cybernétiques axés sur l’utilisation d’analyses comportementales pour détecter les menaces émergentes dans les environnements des clients. Paul est un auteur publié dans la série Prentice Hall sur les réseaux informatiques et les systèmes distribués et détient plusieurs brevets en matière de cybersécurité.

AttackIQ est une entreprise de cybersécurité de premier plan spécialisée dans la simulation de violation et d’attaque (BAS) et la validation de sécurité continue. Sa plate-forme de validation d’exposition adverse utilise l’émulation basée sur le framework MITRE ATT&CK pour tester les contrôles de sécurité, identifier les vulnérabilités et prioriser les correctifs. Fondée en 2013, AttackIQ aide les organisations à améliorer leur posture défensive, à améliorer l’efficacité du SOC et à réduire les risques.

Vous avez occupé des postes de direction dans une gamme de domaines de cybersécurité pendant plus de deux décennies. Qu’est-ce qui a d’abord suscité votre intérêt pour la recherche sur les adversaires, et comment ce voyage vous a-t-il finalement amené à AttackIQ ?

Mon parcours dans la cybersécurité a commencé il y a plus de 25 ans, en installant des réseaux Novell et en travaillant dans le monde des services d’annuaire — Novell, Microsoft Active Directory, LDAP. Cette expérience précoce m’a enseigné l’importance de l’identité, de l’authentification et de l’accès, les fondements de toute stratégie de sécurité.

De là, je suis passé à l’authentification par carte intelligente, où j’ai eu l’occasion d’écrire des bibliothèques PKCS #11 et de me plonger dans l’infrastructure à clé publique (PKI) pendant son essor rapide. Travailler avec la cryptographie symétrique et asymétrique pendant cette période m’a donné une véritable appréciation de la façon dont le chiffrement façonne la confiance dans les environnements numériques.

Plus tard dans ma carrière, je me suis tourné vers la classification des données, aidant les organisations à comprendre la valeur de leurs données afin qu’elles puissent protéger ce qui compte le plus. Cette expérience m’a naturellement conduit à travailler sur l’analyse du comportement des utilisateurs et des entités (UEBA), où j’ai acquis une expérience pratique de la science des données et de l’apprentissage automatique, notamment la programmation en R.

Finalement, j’ai eu la chance de diriger une équipe mondiale de chasseurs de menaces où nous avons effectué un suivi en temps réel des adversaires étatiques. C’était une période intense et révélatrice. Il n’y a pas de meilleure façon de comprendre les tactiques, les techniques et les procédures (TTP) des adversaires que de s’engager dans des opérations quotidiennes contre eux.

C’est à ce moment-là qu’une frustration récurrente est apparue : nous disions souvent : « Si seulement ils avaient fait X ou avaient Y contrôle en place… » Il y avait un fossé entre la conscience de la menace et la préparation opérationnelle de la défense.

C’est ce qui m’a finalement amené à AttackIQ. L’opportunité d’appliquer ce que j’avais appris — d’émuler des adversaires réels grâce à la simulation de violation et d’attaque, et de valider si les défenses sont vraiment efficaces — était trop tentante pour être rejetée. Ici, nous ne théorisons pas seulement sur les menaces ; nous les testons, les mesurons et les améliorons chaque jour.

Notre équipe opère sous un principe directeur : « Penser mal, faire bien. » Nous pensons comme des adversaires non pas pour nuire, mais pour aider nos clients à se préparer et à vaincre.

Avoir dirigé des équipes chez TITUS, Interset et Micro Focus, comment votre expérience dans le renseignement sur les menaces et la mise en œuvre des partenaires a-t-elle façonné votre approche actuelle de l’opérationnalisation de l’émulation des adversaires ?

Avoir travaillé dans des rôles techniques et de lancement de produits chez des entreprises comme TITUS, Interset et Micro Focus, j’ai développé une compréhension holistique de la façon dont le renseignement sur les menaces doit se traduire en résultats opérationnels, et non seulement en connaissances. La mise en œuvre des partenaires, en particulier, m’a enseigné comment communiquer des problèmes de cybersécurité complexes de manière à ce qu’ils soient actionnables et significatifs pour divers publics, des DSI aux analystes SOC de première ligne.

Chez AttackIQ, l’émulation des adversaires ne consiste pas seulement à reproduire les comportements des menaces. Il s’agit d’aligner avec le framework MITRE ATT&CK, d’émuler les adversaires avec fidélité et d’aider les organisations à tester si leurs défenses résisteront à un scénario réel. Cela nécessite plus que de la rigueur technique ; cela nécessite de l’éducation, de la collaboration et de la mise en œuvre des parties prenantes dans l’écosystème de la sécurité.

Mes rôles précédents m’ont aidé à comprendre comment combler le fossé entre l’intelligence et l’exécution — comment opérationnaliser le paysage des menaces d’une manière proactive, mesurable et défendable. C’est l’essence de notre mission chez AttackIQ.

Vous dirigez maintenant la recherche sur les adversaires à une époque où les attaquants adoptent l’IA à grande échelle. Comment avez-vous vu les tactiques offensives de l’IA évoluer ces dernières années — et comment les défenseurs luttent-ils pour suivre le rythme ?

Les adversaires utilisent l’IA pour accroître la vitesse, la précision et l’échelle de leurs opérations. Nous voyons des leurres de phishing plus personnalisés et crédibles, de l’ingénierie sociale générée par l’IA et une plus grande échelle et efficacité des attaques. Ces capacités réduisent le temps entre la reconnaissance et la compromission, compressant la fenêtre de réponse du défenseur. De nombreuses organisations s’appuient toujours sur des processus réactifs et des règles de détection statiques, qui n’ont pas été conçues pour gérer des adversaires qui apprennent et évoluent. Les défenseurs doivent adopter une validation continue et une gestion des expositions pour combler ce fossé, en testant leurs défenses dans des conditions réalistes et en itérant rapidement en réponse à de nouveaux comportements adverses.

Qu’est-ce qui distingue l’IA adverse des menaces cybernétiques traditionnelles, et pourquoi pensez-vous qu’un changement de mentalité — et non seulement d’outils — est nécessaire pour répondre efficacement ?

Les menaces traditionnelles suivent souvent des modèles connus que les défenseurs peuvent suivre et atténuer avec des règles de détection basées sur les règles. Les tactiques de l’IA adverse introduisent un nouveau niveau de variabilité et d’adaptabilité qui remet en question ces hypothèses. Elle peut générer de nouvelles voies d’attaque et échapper aux défenses de manière dynamique. Pour répondre à ce changement, il faut plus que de nouveaux outils. Cela nécessite un changement stratégique dans la façon dont les organisations pensent la défense. Au lieu de réagir aux incidents après coup, les équipes de sécurité doivent simuler des menaces en évolution en utilisant des TTP connus et valider proactivement les contrôles pour tester les réponses de leurs systèmes. Une mentalité éclairée par les menaces, soutenue par une émulation du monde réel, est clé pour anticiper et contrer ces nouveaux risques.

Pouvez-vous expliquer comment AttackIQ traduit le renseignement sur les menaces en défense pratique grâce à l’émulation des adversaires, et comment ce processus a changé avec l’émergence de l’IA générative ?

Le défi traditionnel avec le renseignement sur les menaces est l’opérationnalisation, en comblant le fossé entre la connaissance et l’action. L’émulation des adversaires résout cela en prenant des connaissances sur les comportements des menaces connus et en les transformant en tests exécutables qui évaluent si les défenses actuelles peuvent résister à ces comportements. Avec l’IA générative, le paysage des menaces devient plus fluide, avec des comportements plus variables. Les émulations doivent maintenant refléter non seulement des techniques statiques mais aussi des comportements adaptatifs et sensibles au contexte. Chez AttackIQ, le renseignement sur les menaces en temps réel, aligné sur le framework MITRE ATT&CK et les modèles de comportement des adversaires, est intégré dans les plans d’émulation pour refléter les attaques du monde réel. Ces émulations sont déployées dans des environnements de production pour valider si les contrôles de sécurité détectent, préviennent ou répondent comme prévu.

La gestion continue de l’exposition aux menaces (CTEM) devient un élément clé des stratégies de résilience cybernétique. Comment les organisations devraient-elles aborder la CTEM face à des menaces alimentées par l’IA qui s’adaptent rapidement ?

La CTEM représente un changement de passage d’évaluations de risque statiques à une validation de sécurité dynamique et guidée par le renseignement. Face aux menaces alimentées par l’IA, les organisations doivent traiter l’exposition comme une cible mobile. Cela signifie identifier et prioriser les expositions en fonction de tests actifs, et non seulement de risques théoriques.

Les équipes rouges et bleues doivent collaborer pour simuler des adversaires adaptatifs et tester en continu les capacités de détection et de réponse. Les organisations qui adoptent cette approche sont mieux équipées pour s’adapter rapidement, valider leurs investissements et contrôles de sécurité, et maintenir la résilience face à un paysage en constante évolution.

Le « Fondements de la sécurité de l’IA » du cours AttackIQ couvre des cadres de risque comme MITRE ATLAS et l’AI RMF. Quels aspects de ces cadres trouvez-vous les plus sous-utilisés ou mal compris dans les environnements d’entreprise ?

L’un des malentendus les plus courants que nous voyons est la tendance à traiter des cadres comme MITRE ATLAS et le Cadre de gestion des risques de l’IA (AI RMF) comme des références isolées, plutôt que comme des outils opérationnels pour construire la résilience dans les systèmes dotés de l’IA.

MITRE ATLAS, à l’instar d’ATT&CK à ses débuts, est souvent considéré comme un catalogue statique de techniques d’attaque ciblant les systèmes d’IA/ML. En réalité, ATLAS est un cadre d’émulation tactique des adversaires conçu pour aider les équipes de sécurité à simuler des menaces spécifiques à l’IA — des attaques de poisoning de données et d’évasion de modèles à la manipulation d’inférence — et à valider leurs capacités de détection, de journalisation et de réponse. Le problème est que la plupart des entreprises n’ont pas encore construit la visibilité ou les contrôles nécessaires pour détecter les attaques contre le pipeline ML, ce qui rend l’utilisation proactive d’ATLAS à travers des stratégies de simulation de violation et d’attaque d’autant plus critique. C’est un outil sous-utilisé pour tester comment les systèmes d’IA se comportent sous la pression adverse.

En revanche, le Cadre de gestion des risques de l’IA (AI RMF) de NIST est souvent mal compris comme une liste de contrôle de conformité. En réalité, c’est un cadre de gouvernance stratégique — un qui soutient les organisations dans la cartographie des cas d’utilisation de l’IA, la mesure des risques (y compris ceux posés par les adversaires), la gestion de ces risques par priorisation et atténuation, et l’intégration de la surveillance dans tout le cycle de vie du système. Alors qu’ATLAS est tactique, l’AI RMF est stratégique. Les deux cadres sont fortement complémentaires : ATLAS permet la validation des risques grâce à une simulation du monde réel, tandis que l’AI RMF fournit la structure pour gouverner ces risques, définir la propriété et aligner l’assurance de l’IA sur les priorités commerciales.

Dans notre cours « Fondements de la sécurité de l’IA », nous enseignons qu’un des aspects les plus sous-utilisés de l’AI RMF est la fonction « Carte » et « Mesure » — en particulier dans les déploiements de première étape. Ces fonctions encouragent les organisations à modéliser non seulement les scénarios d’utilisation et de mauvaise utilisation des systèmes, mais également à identifier les menaces adverses dans le contexte. L’association de cela avec ATLAS permet aux organisations de passer d’une préoccupation théorique à une approche opérationnelle significative de la sécurité de l’IA, transformant la gouvernance de niveau supérieur en assurance du monde réel.

En fin de compte, l’occasion manquée réside dans le traitement de ces cadres comme académiques. Lorsqu’ils sont utilisés ensemble, l’AI RMF et ATLAS permettent une approche éclairée par les menaces et guidée par les risques pour sécuriser l’IA, transformant la gouvernance de haut niveau en assurance du monde réel.

De l’injection de prompt à la vol de modèle, le Top 10 OWASP pour les LLM met en évidence une nouvelle classe de vulnérabilités. Quelles menaces pensez-vous que les DSI sont les moins préparés à affronter — et pourquoi ?

LLM03 : 2025 Les vulnérabilités de la chaîne d’approvisionnement exploitent des points aveugles critiques dans les hypothèses de gouvernance et de confiance existantes en glissant à travers les contrôles qui n’étaient pas à l’origine conçus pour les systèmes d’IA/ML. Les programmes de sécurité traditionnels se concentrent sur les packages logiciels et les dépendances de code, mais les modèles d’IA, souvent traités comme des actifs de données, manquent de la même scrutiny. Cela permet aux modèles pré-entraînés compromis, aux adaptateurs LoRA empoisonnés ou aux fusions Hugging Face manipulées d’être ingérés dans des environnements de production sans vérification, signature de code ou évaluation comportementale. Puisque ces modèles ne déclenchent pas l’analyse statique ou les signatures de malware, ils se comportent comme des menaces dormantes, se réactivant uniquement sous des conditions ou des invites spécifiques qui échappent à la détection.

L’hypothèse de l’entreprise selon laquelle les écosystèmes d’IA réputés ou les registres appliquent des normes fiables aggrave le problème. Les équipes de sécurité peuvent croire que leurs pipelines DevSecOps et leurs programmes TPRM couvrent les risques de l’IA, mais en réalité, la plupart ne vérifient pas la lignée des données, n’imposent pas la provenance des modèles ou n’appliquent pas des contrôles équivalents à la liste des composants logiciels (SBOM) aux composants d’IA. Les attaquants exploitent cette confiance mal placée, manipulant les outils de modèles open source, les adaptateurs de dos et les données utilisées dans le fine-tuning, pour intégrer silencieusement un comportement malveillant. Sans une équipe rouge adverse et une gouvernance qui tiennent explicitement compte de ces lacunes, même les entreprises bien sécurisées risquent une compromission opérationnelle via des artefacts d’IA fiables mais non vérifiés.

À mesure que les équipes rouges et bleues commencent à simuler des adversaires dotés d’IA, comment l’émulation des adversaires évolue-t-elle ? Entrons-nous dans une nouvelle ère de validation de la sécurité basée sur la simulation ?

À mesure que les adversaires intègrent l’IA dans leurs opérations, l’émulation des adversaires doit évoluer à leur rythme, allant au-delà de cahiers de charges fixes. Les équipes rouges doivent simuler des comportements dynamiques et semblables à l’IA : pivoter, escalader les privilèges et des TTP adaptatifs, tous modélisés pour refléter la façon dont un attaquant réel doté d’IA pourrait agir.

Nous entrons dans une nouvelle ère où l’émulation devient continue et guidée par le renseignement. Les simulations ne sont plus des exercices épisodiques ; elles intègrent le renseignement sur les menaces en temps réel et itèrent des environnements de production, testant les contrôles sous des conditions émergentes et imprévisibles. Avec la CTEM, cette approche garantit que la validation de la sécurité devient une fonction stratégique et opérationnelle, et non plus une case à cocher.

En regardant vers l’avenir, quels risques émergents de l’IA vous préoccupent le plus ? Et où voyez-vous la plus grande opportunité pour les défenseurs de prendre les devants ?

Le risque le plus préoccupant est la façon dont l’IA abaisse la barrière d’entrée pour des attaques sophistiquées à grande échelle. Ce qui nécessitait autrefois une compétence technique approfondie est désormais de plus en plus accessible grâce à des outils d’IA commercialisés. L’IA peut automatiser la reconnaissance, générer du code d’exploitation et créer des campagnes de phishing personnalisées, opérant plus rapidement que les défenses traditionnelles ne peuvent s’adapter.

En revanche, les défenseurs ont une opportunité parallèle : exploiter l’IA et l’automatisation pour une défense proactive. En automatisant l’émulation, en accélérant la détection et en priorisant les expositions en fonction du risque réel, les équipes de sécurité peuvent anticiper les mouvements adverses plutôt que de simplement y réagir.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter AttackIQ.