2026 verra l’explosion des agents IA dans les entreprises : sommes-nous préparés aux risques de sécurité ?

Les entreprises se précipitent pour adopter les agents IA, mais elles manquent d’infrastructures pour le faire en toute sécurité. Les agents sont différents des outils IA : ils travaillent de manière autonome, accèdent aux données en continu et agissent à la vitesse de la machine sans nécessiter de supervision. Cela crée de nouveaux risques que nous devons préparer.

Les personnes utilisent déjà leurs propres agents IA au travail – sans nécessairement en informer leurs patrons. Comment nous assurer que les bots OpenClaw ne suppriment pas des fichiers importants ? Trois entreprises sur quatre auront adopté des systèmes multi-agents d’ici la fin de 2026, selon Gartner. Comment nous assurer que chacun de ces agents n’ouvre pas de portes pour que les pirates nous attaquent de manière novatrice ?

Les infrastructures de sécurité actuelles sont conçues pour répondre à des menaces connues et à un rythme humain. Cela ne tient pas compte des agents défectueux qui modifient le code d’entreprise sans que nous le sachions. Ou des acteurs malveillants qui nous attaquent via des injections de prompts : des instructions cachées dans le code ou des prompts qui font que l’IA expose des informations sensibles ou exécute du code malveillant.

La vérité est que les entreprises sont plus affamées que préparées à cette vague qui arrive. Seulement 29 % des organisations “s’accordent fortement” pour dire qu’elles ont des protections IA sécurisées en place, selon une étude de Microsoft.

Les dirigeants d’entreprise doivent faire plusieurs choses.

1. Mettre en œuvre des mesures de sécurité natives IA à l’échelle de l’entreprise.
2. Traiter les agents IA avec les mêmes mesures de sécurité que les humains.
3. Augmenter la visibilité de ce que font ces agents.

En exécutant ces contrôles, la sécurité peut suivre le rythme des agents et permettre l’innovation plutôt que de la ralentir.

Créer une sécurité native IA

En février, une chercheuse en sécurité de Meta a publié un message surprenant sur X : son bot OpenClaw avait commencé à supprimer ses e-mails et a ignoré ses ordres pour s’arrêter. Lorsqu’elle a pu interrompre le processus manuellement, les dégâts étaient déjà faits.

Ceci est une illustration de la vitesse incroyable à laquelle un IA défectueux peut agir, ce qui rend les contrôles dépendants de l’homme insuffisants. La sécurité doit se déplacer à la même vitesse que – et le long des mêmes chemins que – l’IA agente.

Cela nécessite de renouveler l’infrastructure de sécurité d’une entreprise, et non de simples mises à niveau des outils existants. Plusieurs domaines doivent être impliqués dans ce changement systémique d’outillage.

Éviter des situations à rythme rapide comme celle de la chercheuse de Meta nécessite des outils IA qui détectent les anomalies en temps réel et réagissent automatiquement. Par exemple, des agents superviseurs peuvent être déployés pour examiner les tâches à impact élevé exécutées par d’autres agents. Les outils d’intelligence de menace agente (ATI) peuvent détecter et agir automatiquement aux premiers stades d’une attaque potentielle.

Un autre mécanisme de prévention important est de garantir la sécurité du modèle réel déployé sur vos systèmes. Des plateformes comme ProtectAI, TrojAI ou Aim Security peuvent tester les dangers directs tels que les injections de prompts, en utilisant des outils IA pour nettoyer le code avant de le publier.

Assurer la sécurité de la provenance des données auxquelles les agents IA sont exposés est également crucial. Des outils comme Databricks Unity Catalog, Collibra ou Alation permettent aux équipes de gérer les mouvements de données.

Nous pouvons également empêcher la manipulation de nos agents IA en sécurisant les appareils physiques que nous utilisons pour les déployer. Des plateformes comme CrowdStrike peuvent aider à éviter les abus de crédentiels IA et détecter les comportements anormaux.

Il est essentiel d’avoir des principes qui régissent vos opérations internes ainsi que la manière dont vous sélectionnez vos fournisseurs. Utilisez des cadres de travail existants pour obtenir des conseils, comme Google SAIF pour construire une architecture sécurisée, AWS CAF-AI pour la gouvernance de l’IA, ou NIST AI RMF pour la conformité. Le projet de sécurité IA Gen AI d’OWASP – une initiative open-source pour atténuer les risques de l’IA – offre des conseils de sécurité pertinents pour les entreprises qui déployer l’IA.

Traiter l’IA avec les mêmes limitations que les humains

L’année dernière, un investisseur utilisait un agent IA Replit pour coder – jusqu’au neuvième jour, l’agent a décidé de supprimer du code d’une base de données de production en direct, affectant 1 200 entreprises.

Puisque les agents peuvent agir de manière autonome, leur accorder un accès non surveillé à une large gamme de documents, de données et d’API peut être désastreux. Une raison est que les entreprises ne leur attribuent souvent pas une “identité” de la même manière que nous le ferions pour un utilisateur humain, ce qui signifie qu’ils ne peuvent pas suivre, surveiller et gérer leur accès à différents espaces.

Les entreprises peuvent agir en attribuant des identités aux utilisateurs non humains : les fournisseurs de gestion d’accès à l’identité peuvent gérer étroitement les zones auxquelles les agents ont accès, pendant combien de temps, et détecter tout comportement à risque. Cela réduit l’accès trop permissif à des zones où l’agent n’a pas besoin d’être. Cela limite également ce qu’il peut faire dans les zones où il opère.

Attribuer des identités d’agent réduit également la menace des acteurs externes.

Lorsqu’une équipe de chercheurs a injecté des prompts malveillants dans une application IA qui gère les contrats juridiques, un utilisateur a pu récupérer des données privées appartenant à un autre utilisateur. Il est clair qu’il n’y avait pas de séparation sécurisée de données au niveau de l’utilisateur et que l’autorisation pour ces données a été accordée à l’IA même lorsqu’elle n’était pas pertinente pour le scénario en question.

Établir des limites pour les “identités” IA signifie qu’elles n’auront pas un accès “toujours activé” large. Par exemple, les agents nécessiteront une autorisation pour certaines fonctions ou seront accordés des capacités de lecture seule dans certaines zones. En faisant cela, même si un agent IA est piraté ou manipulé par un acteur malveillant, l’impact reste limité et non catastrophique.

Les dirigeants devraient également éduquer leurs équipes sur la menace que représentent les agents qui opèrent secrètement. Le risque est plus grand lorsque les employés connectent des “agents fantômes” IA à leurs espaces de travail sans que la direction ne le sache réellement et ne fournisse une identification et des garanties appropriées. De plus, une approche de privilèges zéro (ZSP) crée une base de 0 accès pour tout agent. Ainsi, si un employé connecte un agent fantôme non autorisé, il entre dans un environnement où toutes les portes sont fermées.

Avoir un œil sur votre agent

Bien que nous connaissions l’analogie “l’IA est une boîte noire”, son déploiement dans votre entreprise devrait être observé et surveillé.

Afin d’appliquer des politiques de sécurité strictes, chaque agent doit être gouverné : ils devraient avoir une propriété, des responsabilités et des contrôles clairement documentés pour que vous puissiez suivre avec précision leurs chemins. Vous devriez avoir une télémétrie continue – une surveillance à distance – qui suit le comportement de l’agent et alimente vos outils de sécurité existants afin qu’ils puissent détecter les anomalies et exécuter un scoring de confiance adaptatif.

Les dirigeants doivent prendre cette nouvelle frontière de sécurité au sérieux et s’assurer que les différentes équipes sont responsables de l’utilisation des agents IA. Ils peuvent créer de nouveaux indicateurs de conformité, tels que “Nombre de jeux de données avec une provenance vérifiée”, “% d’agents IA avec des identités gérées” ou “Score de confiance IA”.

Ceci est critique pour la prévention, mais c’est également pour être auditable – même les identités non humaines doivent avoir une traçabilité pour qu’une organisation soit conforme.

Nous comprenons généralement comment les humains se comportent et quels chemins ils prennent dans les espaces de travail. Mais l’IA est une bête tout à fait nouvelle. Il y a beaucoup de choses que nous ne savons pas sur la façon dont elle fonctionne. Certaines entreprises choisissent la solution à court terme de bloquer l’IA du bureau – mais cela ne fera que retarder le problème ou causera aux employés d’utiliser des agents IA fantômes. Préparez votre architecture de sécurité de manière proactive pour les agents qui sont déjà devenus ubiquitaires.