L’IA dans la phishing : les attaquants ou les défenseurs en bénéficient-ils le plus ?

Alors que la cybercriminalité a augmenté, l’industrie de la cybersécurité a dû adopter des technologies de pointe pour suivre. L’intelligence artificielle (IA) est rapidement devenue l’un des outils les plus utiles pour arrêter les cyberattaques, mais les attaquants peuvent également l’utiliser. Les tendances récentes de la phishing sont un excellent exemple des deux côtés de la question.

La phishing est le type de cybercriminalité le plus courant aujourd’hui de loin. Alors que davantage d’entreprises sont conscientes de cette menace croissante, davantage ont mis en œuvre des outils d’IA pour l’arrêter. Cependant, les cybercriminels augmentent également leur utilisation de l’IA dans la phishing. Voici un examen plus approfondi de la façon dont les deux côtés utilisent cette technologie et qui en bénéficie le plus.

Comment l’IA aide à lutter contre la phishing

Les attaques de phishing profitent de la tendance naturelle des gens à la curiosité et à la peur. Puisque cette ingénierie sociale est si efficace, l’un des meilleurs moyens de se protéger contre elle est de s’assurer que vous ne la voyez pas en premier lieu. C’est là que l’IA intervient.

Les outils anti-phishing d’IA se présentent généralement sous la forme de filtres de messagerie électronique avancés. Ces programmes analysent vos messages entrants à la recherche de signes d’attaques de phishing et envoient automatiquement les e-mails suspects à votre dossier de courrier indésirable. Certaines solutions plus récentes peuvent détecter les e-mails de phishing avec une précision de 99,9% en générant différentes versions de messages de fraude basés sur des exemples réels pour se former à détecter les variations.

À mesure que les chercheurs en sécurité détectent davantage d’e-mails de phishing, ils peuvent fournir ces modèles avec davantage de données, les rendant ainsi encore plus précis. Les capacités d’apprentissage continu de l’IA aident également à affiner les modèles pour réduire les faux positifs.

L’IA peut également aider à arrêter les attaques de phishing lorsque vous cliquez sur un lien malveillant. Les logiciels de surveillance automatisés peuvent établir une base de comportement normal pour détecter les anomalies qui surgiront probablement lorsque quelqu’un d’autre utilise votre compte. Ils peuvent alors verrouiller le profil et alerter les équipes de sécurité avant que l’intrus ne fasse trop de dégâts.

Comment les attaquants utilisent l’IA dans la phishing

Le potentiel de l’IA pour arrêter les attaques de phishing est impressionnant, mais c’est également un outil puissant pour générer des e-mails de phishing. Alors que l’IA générative comme ChatGPT est devenue plus accessible, elle rend les attaques de phishing plus efficaces.

La spearphishing – qui utilise des détails personnels pour créer des messages spécifiques à l’utilisateur – est l’un des types de phishing les plus efficaces. Un e-mail qui obtient tous vos détails personnels corrects sera naturellement beaucoup plus convaincant. Cependant, ces messages ont traditionnellement été difficiles et chronophages à créer, en particulier à grande échelle. Ce n’est plus le cas avec l’IA générative.

L’IA peut générer de grandes quantités de messages de phishing personnalisés en une fraction du temps qu’il faudrait à un humain. Elle est également meilleure que les humains pour écrire des faux convaincants. Dans une étude de 2021, les e-mails de phishing générés par l’IA ont vu des taux de clic significativement plus élevés que ceux écrits par des humains – et cela était avant la sortie de ChatGPT.

De la même manière que les marketeurs utilisent l’IA pour personnaliser leurs campagnes de marketing, les cybercriminels peuvent l’utiliser pour créer des messages de phishing efficaces et spécifiques à l’utilisateur. Alors que l’IA générative s’améliore, ces faux ne feront que devenir plus convaincants.

Les attaquants restent en tête grâce aux faiblesses humaines

Avec les attaquants et les défenseurs qui tirent parti de l’IA, quel côté a vu les avantages les plus importants ? Si vous regardez les tendances récentes de la cybercriminalité, vous verrez que les cybercriminels ont prospéré malgré des protections plus sophistiquées.

Les attaques de compromission d’e-mail d’entreprise ont augmenté de 81% dans la deuxième moitié de 2022 et les employés ont ouvert 28% de ces messages. C’est partie d’une augmentation à long terme de 175% au cours des deux dernières années, suggérant que la phishing augmente plus vite que jamais. Ces attaques sont efficaces, volant 17 700 $ par minute, ce qui est probablement pourquoi elles sont derrière 91% des cyberattaques.

Pourquoi la phishing a-t-elle augmenté autant malgré l’amélioration des protections anti-phishing basées sur l’IA ? Il s’agit probablement de l’élément humain. Les employés doivent réellement utiliser ces outils pour qu’ils soient efficaces. Au-delà de cela, les travailleurs pourraient s’engager dans d’autres activités dangereuses qui les rendent vulnérables aux tentatives de phishing, comme se connecter à leurs comptes de travail sur des appareils personnels non autorisés et non protégés.

L’enquête mentionnée plus tôt a également constaté que les travailleurs ne signalent que 2,1% des attaques. Ce manque de communication peut rendre difficile de voir où et comment les mesures de sécurité doivent s’améliorer.

Comment se protéger contre les attaques de phishing en augmentation

Compte tenu de cette tendance alarmante, les entreprises et les utilisateurs individuels devraient prendre des mesures pour rester en sécurité. La mise en œuvre d’outils anti-phishing d’IA est un bon début, mais cela ne peut pas être la seule mesure. Seuls 7% des équipes de sécurité n’utilisent pas ou ne prévoient pas d’utiliser l’IA, et pourtant la domination de la phishing persiste, les entreprises doivent donc également s’attaquer à l’élément humain.

Puisque les humains sont le maillon faible contre les attaques de phishing, ils devraient être l’objet des mesures d’atténuation. Les organisations devraient rendre les meilleures pratiques de sécurité une partie plus importante de la formation des employés et de la formation continue. Ces programmes devraient inclure la façon de détecter les attaques de phishing, pourquoi c’est un problème et des simulations pour tester leur rétention des connaissances après la formation.

Utiliser des outils de gestion des identités et des accès plus solides est également important, car ils aident à arrêter les violations réussies après qu’elles aient accédé à un compte. Même les employés chevronnés peuvent faire des erreurs, vous devriez donc être en mesure de détecter et d’arrêter les comptes violés avant qu’ils ne causent des dégâts importants.

L’IA est un outil puissant pour le bien et le mal

L’IA est l’une des technologies les plus disruptives de l’histoire récente. Que cela soit bon ou mauvais dépend de son utilisation.

Il est essentiel de reconnaître que l’IA peut aider les cybercriminels autant, sinon plus, que les professionnels de la cybersécurité. Lorsque les organisations reconnaissent ces risques, elles peuvent prendre des mesures plus efficaces pour lutter contre les attaques de phishing en augmentation.