Comment aborder les défis de sécurité réseau liés à l’IA agentic

L’intelligence artificielle (IA) agentic représente la prochaine frontière de l’IA, promettant de dépasser même les capacités de l’IA générative (GenAI). Contrairement à la plupart des systèmes GenAI, qui reposent sur des invites ou une surveillance humaine, l’IA agentic est proactive car elle n’a pas besoin d’entrée utilisateur pour résoudre des problèmes complexes et multétapes. En exploitant un écosystème numérique de grands modèles de langage (LLM), d’apprentissage automatique (ML) et de traitement du langage naturel (NLP), l’IA agentic effectue des tâches de manière autonome au nom d’un humain ou d’un système, améliorant considérablement la productivité et les opérations.

Alors que l’IA agentic est encore en cours de développement, les experts ont mis en évidence certains cas d’utilisation révolutionnaires. Considérez un environnement de service client pour une banque où un agent IA fait plus que de simplement répondre aux questions d’un utilisateur lorsqu’il le demande. Au lieu de cela, l’agent effectuera réellement des transactions ou des tâches comme le transfert de fonds lorsqu’il est sollicité par l’utilisateur. Un autre exemple pourrait être dans un contexte financier où les systèmes d’IA agentic aident les analystes humains en analysant de manière autonome et rapide de grandes quantités de données pour générer des rapports prêts pour une prise de décision éclairée.

Les possibilités incroyables de l’IA agentic sont indéniables. Cependant, comme toute nouvelle technologie, il existe des préoccupations en matière de sécurité, de gouvernance et de conformité. La nature unique de ces agents IA présente plusieurs défis de sécurité et de gouvernance pour les organisations. Les entreprises doivent relever ces défis pour ne pas seulement bénéficier des avantages de l’IA agentic, mais également assurer la sécurité et l’efficacité de leur réseau.

Quels défis de sécurité réseau l’IA agentic pose-t-elle pour les organisations ?

Les agents IA ont quatre opérations de base. La première est la perception et la collecte de données. Ces centaines, milliers, voire millions d’agents collectent et rassemblent des données de multiples endroits, qu’il s’agisse du cloud, des locaux, du bord, etc., et ces données pourraient être physiquement issues de n’importe où, plutôt que d’un emplacement géographique spécifique. La deuxième étape est la prise de décision. Une fois que ces agents ont collecté des données, ils utilisent des modèles d’IA et d’apprentissage automatique pour prendre des décisions. La troisième étape est l’action et l’exécution. Ayant pris une décision, ces agents agissent en conséquence pour exécuter cette décision. La dernière étape est l’apprentissage, où ces agents utilisent les données collectées avant et après leur décision pour ajuster et adapter en conséquence.

Dans ce processus, l’IA agentic nécessite un accès à d’énormes ensembles de données pour fonctionner efficacement. Les agents intégreront généralement des systèmes de données qui gèrent ou stockent des informations sensibles, telles que des dossiers financiers, des bases de données de santé et d’autres informations personnelles identifiables (PII). Malheureusement, l’IA agentic complique les efforts pour sécuriser l’infrastructure réseau contre les vulnérabilités, en particulier avec la connectivité entre clouds. Elle présente également des défis de sécurité de sortie, rendant difficile pour les entreprises de se protéger contre l’exfiltration, ainsi que les failles de contrôle et de commande. Si un agent IA est compromis, des données sensibles pourraient être facilement divulguées ou volées. De même, les agents pourraient être détournés par des acteurs malveillants et utilisés pour générer et diffuser de la désinformation à grande échelle. Lorsque des failles de sécurité se produisent, il y a non seulement des pénalités financières, mais également des conséquences sur la réputation.

Des capacités clés comme l’observabilité et la traçabilité peuvent être entravées par l’IA agentic car il est difficile de suivre quels ensembles de données les agents IA accèdent, augmentant le risque que les données soient exposées ou accessibles à des utilisateurs non autorisés. De même, l’apprentissage dynamique et l’adaptation de l’IA agentic peuvent entraver les audits de sécurité traditionnels, qui reposent sur des journaux structurés pour suivre le flux de données. L’IA agentic est également éphémère, dynamique et en cours d’exécution en permanence, créant un besoin constant de maintenir une visibilité et une sécurité optimales 24 heures sur 24, 7 jours sur 7. L’échelle est un autre défi. La surface d’attaque a considérablement augmenté, s’étendant au-delà du centre de données sur site et du cloud pour inclure le bord. En fait, selon l’organisation, l’IA agentic peut ajouter des milliers à des millions de nouveaux points de terminaison au bord. Ces agents opèrent dans de nombreux emplacements, qu’il s’agisse de différents clouds, de locaux, du bord, etc., rendant le réseau plus vulnérable aux attaques.

Approche globale pour relever les défis de sécurité de l’IA agentic

Les organisations peuvent relever les défis de sécurité de l’IA agentic en appliquant des solutions de sécurité et des meilleures pratiques à chacune des quatre étapes opérationnelles de base :

1. Perception et collecte de données : Les entreprises ont besoin d’une connectivité réseau à large bande cryptée de bout en bout pour permettre à leurs agents de collecter la quantité considérable de données requise pour fonctionner. Rappelez-vous que ces données pourraient être sensibles ou très précieuses, selon le cas d’utilisation. Les sociétés devraient déployer une solution de connectivité cryptée à haute vitesse pour relier toutes ces sources de données et protéger les données sensibles et les informations personnelles identifiables.
2. Prise de décision : Les entreprises doivent s’assurer que leurs agents IA ont accès aux modèles et à l’infrastructure d’IA et d’apprentissage automatique appropriés pour prendre les bonnes décisions. En mettant en œuvre un pare-feu cloud, les entreprises peuvent obtenir la connectivité et la sécurité dont leurs agents IA ont besoin pour accéder aux modèles appropriés de manière auditable.
3. Exécution des actions : Les agents IA prennent des mesures en fonction de la décision. Cependant, les entreprises doivent identifier quel agent, parmi les centaines ou les milliers, a pris cette décision. Ils ont également besoin de savoir comment leurs agents communiquent les uns avec les autres pour éviter les conflits ou les « robots qui se battent ». Ainsi, les organisations ont besoin d’observabilité et de traçabilité des actions prises par leurs agents IA. L’observabilité est la capacité de suivre, de surveiller et de comprendre les états internes et le comportement des agents IA en temps réel. La traçabilité est la capacité de suivre et de documenter les données, les décisions et les actions prises par un agent IA.
4. Apprentissage et adaptation : Les entreprises dépensent des millions, voire des centaines de millions ou plus, pour affiner leurs algorithmes, ce qui augmente la valeur et la précision de ces agents. Si un acteur malveillant obtient le contrôle de ce modèle et l’exfiltre, toutes ces ressources pourraient être entre ses mains en quelques minutes. Les entreprises peuvent protéger leurs investissements grâce à des fonctionnalités de sécurité de sortie qui protègent contre l’exfiltration et les failles de contrôle et de commande.

Capitaliser sur l’IA agentic de manière sécurisée et responsable

L’IA agentic offre un potentiel remarquable, permettant aux entreprises d’atteindre de nouveaux sommets de productivité et d’efficacité. Mais, comme toute technologie émergente dans l’espace de l’IA, les organisations doivent prendre des précautions pour protéger leurs réseaux et leurs données sensibles. La sécurité est particulièrement cruciale aujourd’hui, compte tenu des acteurs malveillants très sophistiqués et bien organisés, financés par des États, comme Salt Typhoon et Silk Typhoon, qui continuent de mener des attaques à grande échelle.

Les organisations devraient s’associer à des experts en sécurité cloud pour élaborer une stratégie de sécurité robuste, évolutive et prête pour l’avenir, capable de relever les défis uniques de l’IA agentic. Ces partenaires peuvent permettre aux entreprises de suivre, de gérer et de sécuriser leur agent IA ; en outre, ils aident les sociétés à acquérir la conscience nécessaire pour satisfaire les normes liées à la conformité et à la gouvernance.