Lorsque l’IA devient rebelle : atténuer les menaces internes à l’ère des agents autonomes

 L’essor prolifique des agents IA crée de nouveaux défis pour les équipes de sécurité et de TI. Au seuil de ce déplacement vers des flux de travail plus automatisés par les agents pour les tâches de continuité des entreprises, des tests récents ont révélé que les agents IA peuvent présenter des comportements dangereux ou trompeurs dans certaines conditions, créant ainsi une nouvelle menace interne pour les entreprises de tous les secteurs.

La présentation d’un besoin critique pour que les organisations surveillent correctement les agents IA qui accèdent à des données sensibles et agissent sans surveillance humaine, introduit potentiellement de nouvelles classes de risques qui sont plus rapides, moins prévisibles et plus difficiles à attribuer. La réalité de ces risques est double. D’une part, les équipes de sécurité doivent être préparées à faire face à des acteurs malveillants qui utilisent des agents IA pour renforcer les attaques d’ingénierie sociale ciblant leurs employés. D’autre part, ils doivent être préparés aux agents IA internes sanctionnés par l’entreprise qui peuvent présenter un comportement qui crée un tout nouveau ensemble de risques et de vulnérabilités de sécurité.

Comment les agents IA internes peuvent conduire à des menaces internes

Les agents IA posent deux risques de sécurité internes clés au sein des réseaux d’entreprise. Premièrement, ils opèrent de manière autonome sans les limites éthiques ou la responsabilité intégrée que les travailleurs humains suivent naturellement. En fonction d’objectifs déduits et non d’instructions explicites, leur efficacité et leur persévérance peuvent les amener à franchir les limites et à agir sans approbation. Sans les contrôles et les équilibres nécessaires en place, des vulnérabilités peuvent être facilement créées et négligées.

Ces agents peuvent également avoir accès à d’immenses quantités de données mais manquent de la capacité de faire la distinction entre les informations privilégiées et les informations de routine. Par conséquent, même des tâches simples telles que l’analyse de jeux de données peuvent causer des fuites de données ou les exposer à des parties externes. Ce défi devient encore plus complexe lorsque l’IA est mise à l’échelle sur différents systèmes et flux de travail avec des règles et des protocoles de données différents. Les agents opérant sur plusieurs régions enfreignent souvent les règles de traitement des données spécifiques à la localisation en raison d’une application de politique incohérente, créant ainsi des risques de sécurité. La réalité est que seulement 30% des entreprises américaines cartographient activement quels agents IA ont accès à des systèmes critiques, créant ainsi un important angle mort en matière de sécurité.

Comment les agents IA externes peuvent conduire à des menaces internes

L’un des modes d’entrée les plus courants pour les hackers est par le biais d’attaques de phishing et d’ingénierie sociale. Les acteurs malveillants et les gangs de cybercriminels utilisent des agents IA pour améliorer ces attaques et mener des incidents de deepfake et d’usurpation d’identité sophistiqués. Les agents IA peuvent être utilisés pour créer des attaques de phishing et d’ingénierie sociale qui semblent plus réelles et plus crédibles à un œil non entraîné. 60% des failles de sécurité en 2024 impliquaient un élément humain, et près d’un quart de celles-ci provenaient d’ingénierie sociale. Ce chiffre ne fera qu’augmenter à mesure que l’utilisation d’agents IA continuera à renforcer ces méthodes d’entrée.

Les agents IA peuvent être formés pour passer au crible d’immenses quantités de données de médias sociaux et de données personnelles sur plusieurs plateformes et canaux pour envoyer des communications ciblées et personnalisées. Les messages qui imitent le ton et la voix des expéditeurs sont plus susceptibles de réussir et plus difficiles à distinguer des médias réels. Les agents IA peuvent apprendre à adapter leurs campagnes pour améliorer leur efficacité, en changeant de direction lorsqu’une attaque ne fonctionne pas ou en imitant une attaque qui a fonctionné.

Lorsqu’il s’agit de deepfakes, les agents IA peuvent générer ces usurpations d’identité à des vitesses exceptionnelles, conduisant à une manipulation de masse. Les acteurs malveillants utilisent également des agents IA pour communiquer avec des appels vidéo en temps réel avec une latence quasi nulle et améliorer la crédibilité. Ils peuvent réagir en temps réel à la réaction d’une cible et ajuster leur approche si nécessaire. Ces attaques améliorées peuvent augmenter le risque de menaces internes provenant d’employés qui pourraient être trompés et exposer des données sensibles, autoriser des transactions ou partager des informations d’identification avec des acteurs menaçants.

Le rôle des équipes de sécurité dans l’atténuation des défis liés aux agents IA

Les équipes de sécurité doivent prendre des mesures spécifiques pour limiter les angles morts créés par les agents IA. Les départements IT doivent d’abord et avant tout limiter l’accès des agents IA aux données sensibles grâce à la gouvernance des données et aux contrôles de visibilité en temps réel. Les étapes pour y parvenir incluent la classification des identités d’agents IA dans les systèmes IAM et la surveillance de leur activité avec la même rigueur que les comptes privilégiés. La visibilité va plus loin en surveillant l’activité du réseau pour les lignes de comportement assignées aux agents IA. Avec la visibilité, les équipes IT peuvent surveiller les mouvements d’accès privilégié et les anomalies, soutenant ainsi les efforts de prévention, mais aussi accélérant les efforts de confinement et de récupération en cas d’agent rebelle.

En outre, en identifiant de nouveaux modèles et tactiques utilisés dans les attaques d’agents IA, les organisations peuvent mettre à jour leurs stratégies de défense et former leurs systèmes de sécurité pour reconnaître et contrer des menaces similaires à l’avenir.

Rester en tête des menaces internes introduites par les agents IA

La réalité est que les agents IA introduisent un nouveau risque interne en raison de leur autonomie et de leur accès croissant aux systèmes sensibles. De plus, les acteurs menaçants continueront à utiliser des agents IA pour exploiter plus efficacement les vulnérabilités humaines par le biais de deepfakes, de phishing et d’ingénierie sociale.

À mesure que cette technologie avance, les entreprises doivent améliorer leur visibilité dans l’accès et le comportement des agents IA avant de les intégrer dans leurs flux de travail. Cela implique d’investir dans une surveillance proactive, à 360 degrés et en temps réel, aux côtés d’une main-d’œuvre d’agents IA. Alors que les agents IA peuvent résoudre des goulets d’étranglement et des défis commerciaux critiques, ils nécessitent une approche proactive pour limiter les menaces internes futures.