Leaders d’opinion
L’IA peut faire évoluer la sécurité. Mais jusqu’où ?

Points clésTraiter davantage de données n'améliore pas automatiquement la détection des menaces…
Voir plus
- Traiter davantage de données n'améliore pas automatiquement la détection des menaces sans contexte organisationnel.
- Les modèles affinés peuvent soutenir des enquêtes à grande échelle à un coût plus prévisible que les modèles de pointe.
- L'autonomie doit être proportionnée au risque, avec une gouvernance conçue avant la mise à l'échelle des agents.
Aujourd’hui, les équipes de sécurité des grandes entreprises doivent faire face à un volume d’activité, de données de télémétrie et d’alertes qu’elles ne peuvent raisonnablement pas examiner manuellement. Les estimations varient, mais certaines études indiquent qu’une équipe moyenne des opérations de sécurité reçoit plus de 4 400 alertes par jour. À mesure que les organisations se développent et ajoutent des outils, et que l’IA facilite les attaques, ce chiffre ne peut que croître. On voit déjà des entreprises dont l’environnement compte deux millions de terminaux, tandis que les équipes de sécurité qui examinent manuellement ces alertes ne peuvent pas rivaliser à armes égales avec des attaquants qui recourent de plus en plus à des agents autonomes.
Pour les équipes de défense, les agents d’IA peuvent changer la donne en prenant en charge les enquêtes et d’autres tâches répétitives dans l’ensemble de l’environnement. Toutefois, la capacité à traiter davantage de données n’améliore pas automatiquement la détection des menaces ni la réponse aux incidents. Ce qu’il faut, ce n’est pas seulement de la capacité à grande échelle, mais aussi du contexte.
Pourquoi le contexte est essentiel pour évaluer le passage à l’échelle
Un agent chargé d’examiner des millions de terminaux doit comprendre ce qu’il recherche, ce qui constitue un comportement inhabituel dans l’environnement concerné et quels résultats justifient un examen plus approfondi. Sans ce contexte, l’automatisation risque d’amplifier le bruit et de produire des conclusions non pertinentes ou trompeuses.
Il est également important de garder à l’esprit que toutes les organisations ne pourront pas s’appuyer sur des modèles de pointe pour examiner chaque alerte : cela deviendrait beaucoup trop coûteux.
Les environnements de sécurité diffèrent par leur infrastructure, leurs applications, leurs exigences opérationnelles, leurs obligations réglementaires et leur tolérance au risque. Les équipes de défense doivent assurer le fonctionnement des applications tout en respectant les exigences de conformité et en évitant les perturbations opérationnelles.
Pour être efficaces, les agents doivent intégrer les connaissances propres à l’organisation, notamment les enquêtes antérieures, les procédures établies et le jugement d’analystes expérimentés. Une grande partie de ces connaissances ne peut pas simplement être transmise à un agent dans un tableur ou sous un autre format : elle doit être observée en situation, en apprenant auprès d’équipes de défense expérimentées sur le terrain.
Pour les grandes entreprises, la grande question est de savoir comment transformer ces connaissances institutionnelles en systèmes capables de prendre des décisions cohérentes et adaptées au contexte, à la vitesse d’une machine.
Comment rendre opérationnelles les connaissances de l’organisation
Les organisations ont besoin de mécanismes pour recueillir et exploiter les connaissances qui orientent les enquêtes, notamment les décisions prises dans des dossiers antérieurs, les procédures établies et la manière dont les analystes interprètent les éléments de preuve. Les grandes entreprises peuvent aussi avoir des processus et des outils « sur mesure », ainsi que des savoirs informels qu’il faut consigner.
La spécialisation des modèles est une piste possible. Le réglage fin de modèles pour des entreprises clientes individuelles peut permettre de mener des enquêtes à grande échelle à un coût plus prévisible, tout en maintenant de solides performances. Les modèles open source ajustés avec précision peuvent être particulièrement utiles pour les tâches impliquant un très grand nombre de terminaux.
Les organisations doivent également évaluer les performances des agents à mesure que les modèles, les flux de travail et les environnements d’entreprise évoluent. Les environnements synthétiques, ou jumeaux numériques, peuvent fournir des cadres représentatifs pour tester différentes versions d’agents lorsque les données de production ne sont plus disponibles ou sont devenues obsolètes.
Le réglage fin n’est pas le seul moyen d’apporter du contexte. La récupération d’informations, la mémoire, l’orchestration des flux de travail et les contrôles explicites fondés sur des politiques sont d’autres approches possibles. L’essentiel est que la méthode choisie améliore les performances de l’agent dans l’environnement où il sera utilisé.
L’autonomie à grande échelle exige des limites claires, une supervision et une coordination
Identifier correctement une menace ne représente qu’une partie du défi. Les agents doivent comprendre quelles actions ils sont autorisés à entreprendre, quand l’approbation d’un humain est nécessaire et comment éviter de perturber les activités légitimes de l’entreprise. Pour que leur déploiement inspire confiance, il est essentiel de déterminer dans quels cas les agents peuvent agir de manière autonome et dans quels cas une décision humaine est requise.
L’autonomie à grande échelle exige également des économies d’échelle. Les entreprises qui utilisent des modèles de pointe pour des millions d’enquêtes finiront par se ruiner. Il est donc essentiel de trouver la méthode d’enquête la plus efficace avec un modèle d’IA, qu’il s’agisse d’un Small Language Model (SLM) ou d’un modèle propriétaire.
Le degré d’autonomie doit être proportionnel au risque. Les tâches courantes et bien comprises peuvent se prêter à une exécution autonome, tandis que les actions lourdes de conséquences ou perturbatrices peuvent nécessiter l’approbation d’un humain ou une autorisation supplémentaire. La sécurité des grandes entreprises dépend également de la coordination entre les équipes. Lorsqu’une enquête met au jour une menace qui nécessite une modification de la configuration du pare-feu, le dossier doit être transmis sans heurt à l’équipe responsable de ce système, avec les autorisations appropriées et une responsabilité clairement définie quant à la remédiation.
La gouvernance et la conception des flux de travail sont donc des composantes essentielles du déploiement des agents, et non des contrôles que l’on peut ajouter une fois la technologie déployée à grande échelle.
La qualité des résultats, prochain indicateur de réussite de l’IA en sécurité
Les organisations devraient évaluer les agents à l’aide de mesures axées sur les résultats, notamment la précision des enquêtes, les taux de faux positifs et de faux négatifs, le temps nécessaire pour mener une enquête et prendre des mesures correctives, le coût par enquête, la qualité des escalades et le respect des politiques d’autorisation.
Une évaluation continue est essentielle à mesure que les modèles et les processus évoluent. Tester différentes versions des agents sur des cas représentatifs et utiliser des environnements synthétiques peut aider les organisations à repérer les régressions avant de déployer les mises à jour en production.
Les responsables de la sécurité doivent mettre en balance les avantages de l’automatisation et les risques opérationnels liés à son déploiement. La disponibilité des applications, les obligations de conformité, la tolérance au risque de l’organisation et les délais de mise en œuvre influent tous sur la rapidité avec laquelle de nouvelles capacités peuvent être adoptées.
L’IA offre aux équipes de sécurité l’occasion de s’attaquer à un problème de capacité de longue date, mais la capacité brute de montée en charge n’est pas une fin en soi. La véritable occasion consiste à combiner la rapidité des machines avec le contexte organisationnel, une autorité appropriée et le jugement humain, afin que les agents puissent distinguer ce qui compte, prendre les bonnes mesures et faire intervenir les bonnes personnes au besoin.












