Steve Wilson, Chief AI et Directeur des Produits chez Exabeam – Série d’entretiens

Steve Wilson est le Chief AI et Directeur des Produits chez Exabeam, où son équipe applique les technologies d’intelligence artificielle de pointe pour relever les défis de sécurité réels. Il a fondé et co-préside le projet OWASP Gen AI Security, l’organisation derrière la liste standard OWASP Top 10 pour la sécurité des modèles de langage à grande échelle.

Son livre primé, « Le livre de poche du développeur pour la sécurité des modèles de langage à grande échelle » (O’Reilly Media), a été sélectionné comme le meilleur livre de cybersécurité de pointe par Cyber Defense Magazine.

Exabeam est un leader en intelligence et en automation qui alimente les opérations de sécurité pour les entreprises les plus intelligentes du monde. En combinant l’échelle et la puissance de l’IA avec la force de nos analyses comportementales et d’automatisation de pointe, les organisations obtiennent une vision plus holistique des incidents de sécurité, découvrent des anomalies manquées par d’autres outils et atteignent des réponses plus rapides, plus précises et plus reproductibles. Exabeam permet aux équipes de sécurité mondiales de lutter contre les menaces cybernétiques, d’atténuer les risques et de rationaliser les opérations.

Votre nouveau titre est Chief AI et Directeur des Produits chez Exabeam. Comment cela reflète-t-il l’importance croissante de l’IA dans la cybersécurité ?

La cybersécurité a été l’un des premiers domaines à véritablement adopter l’apprentissage automatique – chez Exabeam, nous utilisons l’IA comme cœur de notre moteur de détection depuis plus d’une décennie pour identifier les comportements anormaux que les humains pourraient manquer. Avec l’arrivée de nouvelles technologies d’IA, telles que les agents intelligents, l’IA est passée d’être importante à centrale.

Mon rôle combiné de Chief AI et Directeur des Produits chez Exabeam reflète exactement cette évolution. Dans une entreprise profondément engagée à intégrer l’IA dans ses produits, et dans un secteur comme la cybersécurité où le rôle de l’IA est de plus en plus critique, il était logique d’unifier la stratégie d’IA et la stratégie de produit sous un seul rôle. Cette intégration nous permet de nous aligner stratégiquement pour fournir des solutions d’IA transformantes aux analystes de sécurité et aux équipes d’opérations qui dépendent le plus de nous.

Exabeam est pionnier de l’« IA agentic » dans les opérations de sécurité. Pouvez-vous expliquer ce que cela signifie dans la pratique et comment cela se différencie des approches d’IA traditionnelles ?

L’IA agentic représente une évolution significative par rapport aux approches d’IA traditionnelles. Elle est orientée vers l’action – en initiant proactivement des processus, en analysant des informations et en présentant des insights avant même que les analystes ne le demandent. Au-delà de la simple analyse de données, l’IA agentic agit comme un conseiller, offrant des recommandations stratégiques à l’ensemble du SOC, guidant les utilisateurs vers les victoires les plus faciles et fournissant des conseils étape par étape pour améliorer leur posture de sécurité. De plus, les agents opèrent comme des équipes spécialisées, et non comme un seul chatbot encombrant, chacun conçu avec des personnalités et des ensembles de données spécifiques qui s’intègrent parfaitement dans le flux de travail des analystes, des ingénieurs et des gestionnaires pour fournir une assistance ciblée et efficace.

Avec Exabeam Nova intégrant plusieurs agents d’IA dans le flux de travail du SOC, à quoi ressemblera l’avenir du rôle de l’analyste de sécurité ? Est-ce qu’il évolue, diminue ou devient plus spécialisé ?

Le rôle de l’analyste de sécurité est en train d’évoluer. Les analystes, les ingénieurs de sécurité et les gestionnaires du SOC sont submergés de données, d’alertes et de cas. Le véritable changement à venir n’est pas seulement de gagner du temps sur les tâches monotones – même si les agents y aident certainement – mais d’élever le rôle de chacun à celui de chef d’équipe. Les analystes auront toujours besoin de solides compétences techniques, mais maintenant, ils mèneront une équipe d’agents prêts à accélérer leurs tâches, à amplifier leurs décisions et à réellement améliorer leur posture de sécurité. Cette transformation positionne les analystes pour devenir des orchestrateurs stratégiques plutôt que des répondeurs tactiques.

Des données récentes montrent un décalage entre les dirigeants et les analystes concernant l’impact de la productivité de l’IA. Pourquoi pensez-vous que cet écart de perception existe, et comment peut-il être comblé ?

Des données récentes montrent un décalage clair : 71 % des dirigeants pensent que l’IA améliore considérablement la productivité, mais seulement 22 % des analystes de première ligne, les utilisateurs quotidiens, sont d’accord. Chez Exabeam, nous avons vu cet écart grandir aux côtés de la frénésie récente des promesses d’IA dans la cybersécurité. Il n’a jamais été aussi facile de créer des démos d’IA impressionnantes, et les fournisseurs sont prompts à affirmer qu’ils ont résolu tous les défis du SOC. Alors que ces démos éblouissent initialement les dirigeants, beaucoup manquent leur cible lorsqu’il s’agit de résultats concrets. Pour combler ce décalage de perception, les dirigeants doivent donner la priorité aux outils d’IA qui réellement permettent aux analystes de travailler de manière efficace, et non seulement de les impressionner lors d’une démo. Lorsque l’IA améliore réellement l’efficacité des analystes, la confiance et les améliorations réelles de la productivité suivront.

L’IA accélère la détection et la réponse aux menaces, mais comment maintenez-vous l’équilibre entre l’automatisation et le jugement humain dans les incidents de cybersécurité à hauts enjeux ?

Les capacités de l’IA évoluent rapidement, mais les « modèles de langage » fondamentaux sous-jacents aux agents intelligents ont été initialement conçus pour des tâches comme la traduction de langage – et non pour la prise de décision nuancée, la théorie des jeux ou la gestion de facteurs humains complexes. Cela rend le jugement humain plus essentiel que jamais dans la cybersécurité. Le rôle de l’analyste n’est pas diminué par l’IA ; il est élevé. Les analystes sont maintenant des chefs d’équipe, utilisant leur expérience et leur perspicacité pour guider et diriger plusieurs agents, en veillant à ce que les décisions restent éclairées par le contexte et la nuance. En fin de compte, équilibrer l’automatisation avec le jugement humain consiste à créer une relation symbiotique où l’IA amplifie l’expertise humaine, sans la remplacer.

Comment votre stratégie de produit évolue-t-elle lorsque l’IA devient un principe de conception fondamental et non un ajout ?

Chez Exabeam, notre stratégie de produit est fondamentalement façonnée par l’IA en tant que principe de conception fondamental, et non comme un ajout superficiel. Nous avons construit Exabeam desde le début pour supporter l’apprentissage automatique – depuis l’ingestion des journaux, le parsing, l’enrichissement et la normalisation – pour alimenter un modèle d’information commun robuste spécifiquement optimisé pour alimenter les systèmes d’IA. Des données de haute qualité et structurées ne sont pas seulement importantes pour les systèmes d’IA – elles en sont la vieblood. Aujourd’hui, nous intégrons directement nos agents intelligents dans les flux de travail critiques, évitant les chatbots génériques et encombrants. Au lieu de cela, nous ciblons avec précision les cas d’utilisation cruciaux qui offrent des avantages tangibles et réels à nos utilisateurs.

Avec Exabeam Nova, vous visez à « passer de l’assistif à l’autonome ». Quels sont les jalons clés pour atteindre des opérations de sécurité entièrement autonomes ?

L’idée d’opérations de sécurité entièrement autonomes est intrigante mais prématurée. Les agents entièrement autonomes, dans n’importe quel domaine, ne sont simplement pas encore efficaces ou sûrs. Alors que la prise de décision dans l’IA s’améliore, elle n’a pas encore atteint la fiabilité humaine et ne le fera pas dans un avenir proche. Chez Exabeam, notre approche n’est pas de poursuivre l’autonomie totale, que mon groupe chez OWASP identifie comme une vulnérabilité fondamentale connue sous le nom d’Agence excessive. Donner aux agents plus d’autonomie qu’il n’est possible de tester et de valider de manière fiable met les opérations sur un terrain risqué. Au lieu de cela, notre objectif est de former des équipes d’agents intelligents, capables mais soigneusement guidés, travaillant sous la supervision d’experts humains dans le SOC. Cette combinaison de surveillance humaine et d’assistance ciblée est le chemin réaliste et efficace vers l’avant.

Quels sont les plus grands défis que vous avez rencontrés en intégrant le GenAI et l’apprentissage automatique à l’échelle requise pour la cybersécurité en temps réel ?

L’un des plus grands défis dans l’intégration du GenAI et de l’apprentissage automatique à l’échelle pour la cybersécurité est de trouver un équilibre entre la vitesse et la précision. Le GenAI seul ne peut pas remplacer l’échelle massive de ce que notre moteur d’IA à haute vitesse gère – en traitant des téraoctets de données en continu. Même les agents d’IA les plus avancés ont une « fenêtre de contexte » qui est considérablement insuffisante. Au lieu de cela, notre recette implique l’utilisation de l’apprentissage automatique pour distiller des données massives en insights actionnables, que nos agents intelligents traduisent ensuite et opérationnalisent efficacement.

Vous avez co-fondé le OWASP Top 10 pour les applications LLM. Qu’est-ce qui vous a inspiré, et comment voyez-vous cela façonner les meilleures pratiques de sécurité d’IA ?

Lorsque j’ai lancé le OWASP Top 10 pour les applications LLM en début d’année 2023, les informations structurées sur la sécurité LLM et GenAI étaient rares, mais l’intérêt était incroyablement élevé. En quelques jours, plus de 200 bénévoles ont rejoint l’initiative, apportant des opinions et des expertises diverses pour façonner la liste originale. Depuis, elle a été lue plus de 100 000 fois et est devenue fondamentale pour les normes industrielles internationales. Aujourd’hui, l’effort s’est élargi au projet OWASP Gen AI Security, couvrant des domaines tels que le red teaming d’IA, la sécurisation des systèmes agenciques et la gestion des utilisations offensives de GenAI dans la cybersécurité. Notre groupe a récemment dépassé les 10 000 membres et continue d’avancer les pratiques de sécurité d’IA à l’échelle mondiale.

Votre livre, « Le livre de poche du développeur pour la sécurité des modèles de langage à grande échelle », a remporté un prix important. Quel est le principal enseignement ou principe de ce livre que tout développeur d’IA devrait comprendre lors de la création d’applications sécurisées ?

Le principal enseignement de mon livre, « Le livre de poche du développeur pour la sécurité des modèles de langage à grande échelle », est simple : « avec une grande puissance vient une grande responsabilité ». Alors que la compréhension des concepts de sécurité traditionnels reste essentielle, les développeurs sont maintenant confrontés à un ensemble entièrement nouveau de défis uniques aux LLM. Cette technologie puissante n’est pas un laissez-passer ; elle exige des pratiques de sécurité proactives et réfléchies. Les développeurs doivent élargir leur perspective, en reconnaissant et en abordant ces nouvelles vulnérabilités dès le départ, en intégrant la sécurité dans chaque étape du cycle de vie de leur application d’IA.

Comment voyez-vous l’évolution de la main-d’œuvre de la cybersécurité au cours des 5 prochaines années à mesure que l’IA agentic devient plus mainstream ?

Nous sommes actuellement dans une course aux armements d’IA. Les adversaires déployent agressivement l’IA pour atteindre leurs objectifs malveillants, ce qui rend les professionnels de la cybersécurité plus cruciaux que jamais. Les cinq prochaines années n’entraîneront pas une diminution de la main-d’œuvre de la cybersécurité ; elles la renforceront. Les professionnels doivent adopter l’IA, en l’intégrant dans leurs équipes et leurs flux de travail. Les rôles de sécurité évolueront vers le commandement stratégique – moins axé sur l’effort individuel et plus sur l’orchestration d’une réponse efficace avec une équipe d’agents d’IA. Cette transformation permet aux professionnels de la cybersécurité de diriger de manière décisive et confiante dans la lutte contre les menaces en constante évolution.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Exabeam.