Intelligence Artificielle contre Intelligence Artificielle : La Nouvelle Réalité de la Cybersécurité

Les cyberattaques alimentées par l’intelligence artificielle (IA) sont arrivées, confirmant ce qui n’était autrefois qu’un risque théorique, mais anticipé, et elles annoncent une nouvelle ère dans le paysage des menaces. Avec des agents IA capables de lancer des campagnes complexes, de bout en bout, en quelques minutes, les cybercriminels peuvent identifier et exploiter les vulnérabilités des entreprises à une vitesse sans précédent. Les règles de l’engagement ont changé : la défense cybernétique d’hier ne peut plus suivre le rythme de l’offensive alimentée par l’IA d’aujourd’hui.

Alors que l’IA renforce les menaces cybernétiques, les entreprises doivent déployer leurs propres capacités de défense alimentées par l’IA pour suivre le rythme en termes de vitesse, d’échelle et de précision. Pour l’instant, les adversaires cybernétiques suivent encore des tactiques, des techniques et des procédures (TTP) familières, mais l’IA accélère et améliore leur livre de jeu. De plus, les modèles d’IA des entreprises elles-mêmes sont également une nouvelle cible via l’empoisonnement de modèles et l’ingénierie sociale basée sur le langage, ce qui oblige les équipes de cybersécurité à sécuriser correctement leurs capacités d’IA. Par conséquent, la sécurité devrait être une partie intégrante de la stratégie d’IA plus large d’une organisation.

Qu’est-ce qui différencie les cyberattaques alimentées par l’IA ?

Dans un monde numérique déjà saturé d’essais d’intrusion cybernétique quasi constants, la barrière à l’entrée pour un acteur malveillant a été réduite, augmentant non seulement le volume mais aussi la complexité des attaques. Les attaques alimentées par l’IA peuvent désormais utiliser l’IA ou l’apprentissage automatique (ML) pour automatiser, accélérer ou améliorer chaque phase du cycle de vie de l’attaque, de la reconnaissance et de la collecte d’informations à l’exploitation et à l’exfiltration de données sensibles.

S’en remettre exclusivement aux processus et technologies de sécurité existants sans déployer la même technologie avancée que les adversaires utilise, accorde un avantage à l’adversaire qui est presque impossible à égaliser sans une IA défensive. Les organisations sont déjà submergées par la surveillance de leurs entreprises face à des acteurs de menaces traditionnels. Les attaques alimentées par l’IA vont exacerber la fatigue des alertes. Cela nécessite une évolution des processus gérés par l’homme vers une force de travail cybernétique hybride humaine et numérique.

Cartographier chaque actif numérique

Aujourd’hui, comprendre les points d’entrée potentiels à travers l’environnement d’une entreprise est essentiel, mais encore hors de portée pour de nombreuses grandes entreprises. Au-delà des seuls systèmes et actifs numériques, il est nécessaire d’avoir une cartographie complète de toutes les identités et les accès au sein d’une organisation. L’identité numérique, qui relie les caractéristiques physiques et comportementales à un individu, est bien comprise avec les contrôles existants nécessaires pour gérer l’accès numérique.

Cependant, comprendre le paysage de l’entreprise des identités non humaines (INH) est essentiel pour sécuriser les actifs numériques. La réalisation de la valeur potentielle de l’IA au sein d’une organisation signifie donner aux agents IA l’accès et la permission de compléter de manière autonome un processus commercial. Tout comme les environnements cloud de l’ère de sécurité précédente, les flux de travail alimentés par les agents d’aujourd’hui se mettent en place et se démontent à grande échelle, nécessitant une capacité avancée à gérer et à suivre où dans l’environnement ils opèrent et comment ils réalisent les missions ou les rôles prévus.

Les entreprises devraient étendre la gouvernance des identités à l’ensemble du cycle de vie de l’identité de l’agent et surveiller les actions de l’agent, tout comme elles surveillent aujourd’hui l’accès des utilisateurs humains pour les comportements de risque interne ou la compromission de compte par des acteurs de menaces. À mesure que les capacités des agents prennent plus d’autonomie et de travail critique, comprendre à quoi ressemble leur empreinte d’identité et leur modèle d’accès est crucial pour mettre en œuvre les contrôles d’accès et de surveillance nécessaires pour les protéger et l’entreprise contre les abus.

Verrouiller les modèles d’IA

Les capacités d’IA ont la promesse de débloquer l’efficacité et la productivité, mais également le potentiel d’être utilisées contre les organisations. Intégrer l’IA dans tous les aspects des opérations commerciales n’est plus un « nice to have » – c’est une exigence pour réussir dans le paysage concurrentiel d’aujourd’hui. Par conséquent, déployer de manière sécurisée l’IA est un composant nécessaire pour réaliser en toute sécurité le plein potentiel commercial et les résultats.

Le passage à la cybersécurité alimentée par l’IA est en cours, tandis que les modèles d’IA eux-mêmes sont devenus des cibles. Les adversaires peuvent essayer d’empoisonner les données qui alimentent ces modèles et les manipuler pour qu’ils prennent des actions non intentionnelles ou même divulguent des informations sensibles.

Les attaques adverses contre l’IA peuvent prendre différentes formes, telles que les attaques d’empoisonnement, les attaques d’injection de requêtes et d’autres. Pour protéger correctement l’IA contre la manipulation potentielle, les organisations devraient utiliser la philosophie de l’Agence de cybersécurité et d’infrastructure (CISA) de Conception sécurisée. Cela commence avec les données qui alimentent la formation du modèle. Verrouiller les entrées tôt dans le processus de développement établit la base pour des sorties fiables lors du déploiement.

Comprendre les entrées qui alimentent le développement des modèles et des capacités est possible grâce à une gouvernance des données intentionnelle, ainsi qu’à un contrôle d’accès aux modèles eux-mêmes. Les contrôles critiques qui permettent de valider les sorties souhaitées prennent la forme d’une prévention de la perte de données (DLP) ; d’une application de politiques et de sécurité ; d’un ancrage via des sources vérifiables ; et de contrôles d’approbation stricts pour les actions à impact élevé, une traçabilité et des tests continus, y compris des tests de pénétration de modèles pour les renforcer.

Intégrer l’IA dans les opérations de sécurité

Jusqu’à présent, l’application de l’IA à la cybersécurité a été tactique, avec de nombreuses organisations ajoutant l’IA à des processus humains centrés sur le patrimoine, plutôt que de repenser stratégiquement la manière de construire des processus centrés sur l’IA. C’est comme essayer de mettre un moteur V8 sur un vélo. La prochaine évolution de l’activation de l’IA sera de concevoir des processus à partir de zéro, avec une IA agente et une automatisation natives dans la conception. Les méthodes et processus de sécurité éprouvés, tels que la détection de menaces, la chasse aux menaces et l’ingénierie de détection, sont toujours des éléments critiques pour la sécurité de l’organisation à l’ère de l’IA. Transformer les processus de sécurité actuels pour permettre une augmentation de l’IA peut établir une base solide pour le centre des opérations de sécurité (SOC) futur alimenté par l’IA.

De plus, l’automatisation n’est pas un concept nouveau unique à l’émergence de l’IA ; les flux de travail et les processus de sécurité ont été automatisés pendant des années, avec des organisations matures ayant des capacités d’orchestration et d’automatisation très sophistiquées. Cependant, l’IA améliore l’automatisation basée sur des règles existante et l’évolue davantage, permettant des flux de travail automatisés dynamiques, adaptables et riches en contexte qui peuvent aider à répondre à la vitesse et à l’agilité requises pour ces risques émergents d’IA.

Qu’est-ce qui vient ensuite ?

La sécurité doit continuer à être au premier plan pour les entreprises et les TI pour garder leurs actifs et utilisateurs critiques en sécurité contre l’exploitation malveillante. L’IA sécurisée par conception est une nécessité étant donné la vitesse à laquelle les modèles d’IA peuvent être déployés et invités à effectuer des activités plus critiques. Les équipes de cybersécurité devraient réfléchir de manière stratégique à la transformation des processus à partir de zéro pour mettre en œuvre correctement les nouvelles capacités d’IA et suivre le rythme dans le jeu du chat et de la souris de la cybersécurité.

Les dirigeants de la sécurité peuvent prendre plusieurs mesures concrètes à court terme : effectuer un examen complet des processus de sécurité actuels pour identifier les lacunes, les opportunités de modernisation et les domaines prêts à être transformés. Restez au courant des menaces, des tendances et des technologies émergentes de l’IA. Par-dessus tout, restez ancrés dans le principe de sécurité fondamental de la défense en profondeur qui s’est prouvé au fil du temps – une protection et une validation en couches, de l’identité à l’extrémité, au réseau, aux données, avec des capacités de surveillance et de réponse robustes qui sont toujours testées.

Le potentiel de transformation de l’IA promet un avantage trop important pour renoncer à son adoption, et le génie est sorti de la bouteille pour les acteurs de menaces. Par conséquent, le rôle des dirigeants de la sécurité dans cette prochaine ère est le même qu’il l’a toujours été : soutenir leurs organisations pour atteindre leurs objectifs commerciaux avec une mitigation des risques réfléchie – mais maintenant à une vitesse de machine avec l’utilisation de l’IA.