L’état de la sécurité de l’IA en 2025 : principales conclusions du rapport de Cisco

Alors que de plus en plus d’entreprises adoptent l’IA, la compréhension de ses risques de sécurité est devenue plus importante que jamais. L’IA est en train de remodeler les industries et les flux de travail, mais elle introduit également de nouveaux défis de sécurité que les organisations doivent relever. La protection des systèmes d’IA est essentielle pour maintenir la confiance, protéger la vie privée et assurer des opérations commerciales fluides. Cet article résume les principales conclusions du rapport récent de Cisco intitulé “L’état de la sécurité de l’IA en 2025“. Il offre une vue d’ensemble de l’état actuel de la sécurité de l’IA et de ce que les entreprises devraient considérer pour l’avenir.

Une menace de sécurité croissante pour l’IA

Si 2024 nous a appris quelque chose, c’est que l’adoption de l’IA se déroule plus rapidement que de nombreuses organisations ne peuvent la sécuriser. Le rapport de Cisco indique qu’environ 72 % des organisations utilisent maintenant l’IA dans leurs fonctions commerciales, mais seulement 13 % se sentent entièrement prêts à en maximiser le potentiel de manière sûre. Ce fossé entre l’adoption et la préparation est en grande partie dû à des préoccupations de sécurité, qui restent le principal obstacle à une utilisation plus large de l’IA dans les entreprises. Ce qui rend cette situation encore plus inquiétante, c’est que l’IA introduit de nouveaux types de menaces que les méthodes de cybersécurité traditionnelles ne sont pas entièrement équipées pour gérer. Contrairement à la cybersécurité conventionnelle, qui protège souvent des systèmes fixes, l’IA apporte des menaces dynamiques et adaptatives qui sont plus difficiles à prédire. Le rapport met en évidence plusieurs menaces émergentes dont les organisations devraient être conscientes :

• Attaques contre les infrastructures : Les infrastructures d’IA sont devenues une cible privilégiée pour les attaquants. Un exemple notable est la compromission de l’outil de conteneurisation NVIDIA (NVDA ), qui a permis aux attaquants d’accéder aux systèmes de fichiers, d’exécuter du code malveillant et d’augmenter les privilèges. De même, Ray, un framework d’IA open-source pour la gestion des GPU, a été compromis dans l’un des premiers cas réels d’attaque contre un framework d’IA. Ces cas montrent comment les faiblesses dans les infrastructures d’IA peuvent affecter de nombreux utilisateurs et systèmes.
• Risques de chaîne d’approvisionnement : Les vulnérabilités de la chaîne d’approvisionnement d’IA présentent une autre préoccupation majeure. Environ 60 % des organisations s’appuient sur des composants ou des écosystèmes d’IA open-source. Cela crée un risque, car les attaquants peuvent compromettre ces outils largement utilisés. Le rapport mentionne une technique appelée “Sleepy Pickle“, qui permet aux adversaires de manipuler les modèles d’IA même après leur distribution. Cela rend la détection extrêmement difficile.
• Attaques spécifiques à l’IA : De nouvelles techniques d’attaque évoluent rapidement. Des méthodes telles que l’injection de prompt, le jailbreak et l’extraction de données de formation permettent aux attaquants de contourner les contrôles de sécurité et d’accéder à des informations sensibles contenues dans les ensembles de données de formation.

Vecteurs d’attaque ciblant les systèmes d’IA

Le rapport met en évidence l’émergence de vecteurs d’attaque que les acteurs malveillants utilisent pour exploiter les faiblesses des systèmes d’IA. Ces attaques peuvent se produire à différents stades du cycle de vie de l’IA, de la collecte de données et de la formation de modèles à leur déploiement et à leur inférence. L’objectif est souvent de faire en sorte que l’IA se comporte de manière inattendue, fuite de données privées ou effectue des actions nuisibles.

Au cours des dernières années, ces méthodes d’attaque sont devenues plus avancées et plus difficiles à détecter. Le rapport met en évidence plusieurs types de vecteurs d’attaque :

• Jailbreak : Cette technique consiste à créer des prompts adverses qui contournent les mesures de sécurité d’un modèle. Malgré les améliorations des défenses de l’IA, la recherche de Cisco montre que même les jailbreaks simples restent efficaces contre des modèles avancés comme DeepSeek R1.
• Injection de prompt indirecte : Contrairement aux attaques directes, ce vecteur d’attaque consiste à manipuler les données d’entrée ou le contexte que le modèle d’IA utilise indirectement. Les attaquants peuvent fournir des matériaux sources compromis, tels que des PDF ou des pages Web malveillants, ce qui entraîne la génération de sorties inattendues ou nuisibles par l’IA. Ces attaques sont particulièrement dangereuses, car elles n’exigent pas d’accès direct au système d’IA, permettant ainsi aux attaquants de contourner de nombreuses défenses traditionnelles.
• Extraction et empoisonnement des données de formation : Les chercheurs de Cisco ont démontré que les chatbots peuvent être trompés pour révéler des parties de leurs données de formation. Cela soulève de graves préoccupations en matière de confidentialité des données, de propriété intellectuelle et de conformité. Les attaquants peuvent également empoisonner les données de formation en injectant des entrées malveillantes. De manière alarmante, l’empoisonnement de seulement 0,01 % de grands ensembles de données comme LAION-400M ou COYO-700M peut avoir un impact sur le comportement du modèle, et cela peut être fait avec un petit budget (environ 60 USD), ce qui rend ces attaques accessibles à de nombreux acteurs malveillants.

Le rapport met en évidence des préoccupations graves concernant l’état actuel de ces attaques, les chercheurs ayant obtenu un taux de réussite de 100 % contre des modèles avancés comme DeepSeek R1 et Llama 2. Cela révèle des vulnérabilités de sécurité critiques et des risques potentiels associés à leur utilisation. De plus, le rapport identifie l’émergence de nouvelles menaces comme les attaques de jailbreak basées sur l’audio qui sont spécifiquement conçues pour cibler les modèles d’IA multimodaux.

Conclusions de la recherche de sécurité de l’IA de Cisco

L’équipe de recherche de Cisco a évalué divers aspects de la sécurité de l’IA et a révélé plusieurs conclusions clés :

• Jailbreak algorithmique : Les chercheurs ont montré que même les meilleurs modèles d’IA peuvent être trompés automatiquement. En utilisant une méthode appelée Tree of Attacks with Pruning (TAP), les chercheurs ont contourné les protections sur GPT-4 et Llama 2.
• Risques liés à la fine-tuning : De nombreuses entreprises affinent les modèles de base pour améliorer la pertinence pour des domaines spécifiques. Cependant, les chercheurs ont constaté que la fine-tuning peut affaiblir les garde-fous de sécurité internes. Les versions affinées étaient plus de trois fois plus vulnérables au jailbreak et 22 fois plus susceptibles de produire du contenu nuisible que les modèles originaux.
• Extraction de données de formation : Les chercheurs de Cisco ont utilisé une méthode de décomposition simple pour tromper les chatbots et les amener à reproduire des fragments d’articles de presse, ce qui leur permet de reconstruire les sources du matériel. Cela pose des risques pour l’exposition de données sensibles ou propriétaires.
• Empoisonnement de données : L’équipe de Cisco démontre à quel point il est facile et peu coûteux d’empoisonner de grands ensembles de données Web. Pour environ 60 USD, les chercheurs ont réussi à empoisonner 0,01 % d’ensembles de données comme LAION-400M ou COYO-700M. De plus, ils soulignent que ce niveau d’empoisonnement est suffisant pour provoquer des changements notables dans le comportement du modèle.

Le rôle de l’IA dans la cybercriminalité

L’IA n’est pas seulement une cible – elle devient également un outil pour les cybercriminels. Le rapport note que l’automatisation et l’ingénierie sociale basée sur l’IA ont rendu les attaques plus efficaces et plus difficiles à détecter. Des arnaques de phishing à la clonage de voix, l’IA aide les criminels à créer des attaques personnalisées et convaincantes. Le rapport identifie également l’émergence d’outils d’IA malveillants comme “DarkGPT“, conçus spécifiquement pour aider la cybercriminalité en générant des e-mails de phishing ou en exploitant des vulnérabilités. Ce qui rend ces outils particulièrement inquiétants, c’est leur accessibilité. Même les criminels peu qualifiés peuvent maintenant créer des attaques hautement personnalisées qui échappent aux défenses traditionnelles.

Meilleures pratiques pour sécuriser l’IA

Compte tenu de la nature volatile de la sécurité de l’IA, Cisco recommande plusieurs étapes pratiques pour les organisations :

1. Gérer les risques tout au long du cycle de vie de l’IA : Il est crucial d’identifier et de réduire les risques à chaque étape du cycle de vie de l’IA, de la source de données et de la formation de modèles à leur déploiement et à leur surveillance. Cela inclut également la sécurisation des composants tiers, l’application de solides garde-fous et le contrôle strict des points d’accès.
2. Utiliser les pratiques de cybersécurité établies : Même si l’IA est unique, les meilleures pratiques de cybersécurité traditionnelles sont toujours essentielles. Des techniques telles que le contrôle d’accès, la gestion des autorisations et la prévention de la perte de données peuvent jouer un rôle vital.
3. Se concentrer sur les domaines vulnérables : Les organisations devraient se concentrer sur les domaines les plus susceptibles d’être ciblés, tels que les chaînes d’approvisionnement et les applications d’IA tierces. En comprenant où se trouvent les vulnérabilités, les entreprises peuvent mettre en œuvre des défenses plus ciblées.
4. Éduquer et former les employés : Alors que les outils d’IA deviennent plus répandus, il est important de former les utilisateurs à l’utilisation responsable de l’IA et à la sensibilisation aux risques. Un effectif bien informé aide à réduire l’exposition accidentelle de données et les abus.

Regarder vers l’avenir

L’adoption de l’IA continuera de croître, et avec elle, les risques de sécurité évolueront. Les gouvernements et les organisations du monde entier reconnaissent ces défis et commencent à élaborer des politiques et des réglementations pour guider la sécurité de l’IA. Comme le souligne le rapport de Cisco, l’équilibre entre la sécurité de l’IA et le progrès définira la prochaine ère du développement et du déploiement de l’IA. Les organisations qui donnent la priorité à la sécurité ainsi qu’à l’innovation seront les mieux équipées pour relever les défis et saisir les opportunités émergentes. Les politiques et les réglementations pour guider la sécurité de l’IA seront essentielles pour maintenir la confiance, protéger la vie privée et assurer des opérations commerciales fluides.