La LLM et l’IA générative résoudront-elles un problème de 20 ans en matière de sécurité des applications ?

Dans le paysage en constante évolution de la cybersécurité, rester en tête des acteurs malveillants est un défi constant. Au cours des deux dernières décennies, le problème de la sécurité des applications a persisté, les méthodes traditionnelles échouant souvent à détecter et à atténuer les menaces émergentes. Cependant, une technologie prometteuse, l’IA générative (GenAI), est sur le point de révolutionner le domaine. Dans cet article, nous allons explorer comment l’IA générative est pertinente pour la sécurité, pourquoi elle répond à des défis de longue date que les approches précédentes ne pouvaient pas résoudre, les perturbations potentielles qu’elle peut apporter à l’écosystème de la sécurité et comment elle diffère des anciens modèles d’apprentissage automatique (ML).

Pourquoi le problème nécessite de nouvelles technologies

Le problème de la sécurité des applications est multifacette et complexe. Les mesures de sécurité traditionnelles ont principalement reposé sur la correspondance de modèles, la détection basée sur des signatures et les approches basées sur des règles. Bien que efficaces dans les cas simples, ces méthodes ont du mal à répondre aux moyens créatifs dont les développeurs écrivent du code et configurent les systèmes. Les adversaires modernes évoluent constamment leurs techniques d’attaque, élargissent la surface d’attaque et rendent la correspondance de modèles insuffisante pour protéger contre les risques émergents. Cela nécessite un changement de paradigme dans les approches de sécurité, et l’IA générative détient une clé possible pour relever ces défis.

La magie de la LLM en sécurité

L’IA générative est une avancée par rapport aux anciens modèles utilisés dans les algorithmes d’apprentissage automatique qui étaient excellents pour classer ou regrouper des données en fonction d’échantillons synthétiques formés. Les LLM modernes sont formés sur des millions d’exemples issus de grands référentiels de code (par exemple, GitHub) qui sont partiellement étiquetés pour les problèmes de sécurité. En apprenant à partir de vastes quantités de données, les modèles LLM modernes peuvent comprendre les modèles, les structures et les relations sous-jacentes au sein du code et de l’environnement d’application, leur permettant d’identifier les vulnérabilités potentielles et de prédire les vecteurs d’attaque étant donné les bonnes entrées et amorçage.

Une autre grande avancée est la capacité de générer des échantillons de correction réalistes qui peuvent aider les développeurs à comprendre la cause profonde et à résoudre les problèmes plus rapidement, en particulier dans les organisations complexes où les professionnels de la sécurité sont cloisonnés et surchargés.

Perturbations à venir permises par la GenAI

L’IA générative a le potentiel de perturber l’écosystème de la sécurité des applications de plusieurs manières :

Détection automatique des vulnérabilités : les outils de balayage de vulnérabilités traditionnels s’appuient souvent sur la définition manuelle de règles ou la correspondance de modèles limitée. L’IA générative peut automatiser le processus en apprenant à partir de référentiels de code étendus et en générant des échantillons synthétiques pour identifier les vulnérabilités, réduisant le temps et les efforts nécessaires pour l’analyse manuelle.

Simulation d’attaque adverse : les tests de sécurité impliquent généralement la simulation d’attaques pour identifier les points faibles d’une application. L’IA générative peut générer des scénarios d’attaque réalistes, y compris des attaques sophistiquées et multétapes, permettant aux organisations de renforcer leurs défenses contre les menaces du monde réel. Un excellent exemple est « BurpGPT », une combinaison de GPT et Burp, qui aide à détecter les problèmes de sécurité dynamiques.

Génération intelligente de correctifs : générer des correctifs efficaces pour les vulnérabilités est une tâche complexe. L’IA générative peut analyser les bases de code existantes et générer des correctifs qui traitent des vulnérabilités spécifiques, économisant du temps et minimisant les erreurs humaines dans le processus de développement de correctifs.

Bien que ce type de corrections ait été traditionnellement rejeté par l’industrie, la combinaison de corrections de code automatisées et la capacité de générer des tests par la GenAI pourrait être un excellent moyen pour l’industrie de repousser les limites à de nouveaux niveaux.

Amélioration de l’intelligence sur les menaces : l’IA générative peut analyser de grands volumes de données liées à la sécurité, y compris des rapports de vulnérabilités, des modèles d’attaque et des échantillons de malware. La GenAI peut considérablement améliorer les capacités d’intelligence sur les menaces en générant des informations et en identifiant les tendances émergentes à partir d’une indication initiale à un plan d’action réel, permettant des stratégies de défense proactives.

L’avenir de la LLM et de la sécurité des applications

Les LLM ont encore des lacunes pour atteindre une sécurité parfaite des applications en raison de leur compréhension contextuelle limitée, de la couverture de code incomplète, du manque d’évaluation en temps réel et de l’absence de connaissances spécifiques au domaine. Pour combler ces lacunes au cours des prochaines années, une solution probable consistera à combiner les approches LLM avec des outils de sécurité dédiés, des sources d’enrichissement externes et des analyseurs. Les progrès continus de l’IA et de la sécurité aideront à combler ces lacunes.

En général, si vous avez un ensemble de données plus important, vous pouvez créer un LLM plus précis. C’est la même chose pour le code, donc lorsque nous aurons plus de code dans la même langue, nous serons en mesure de l’utiliser pour créer de meilleurs LLM, ce qui à son tour entraînera une meilleure génération de code et une meilleure sécurité à l’avenir.

Nous anticipons que dans les années à venir, nous assisterons à des progrès dans la technologie LLM, notamment la capacité d’utiliser des tailles de jetons plus grandes, ce qui présente un grand potentiel pour améliorer encore la cybersécurité basée sur l’IA de manière significative.