Intelligence Artificielle Générative dans la Cybersécurité : Le Champ de Bataille, La Menace, & Maintenant La Défense

Le Champ de Bataille

Ce qui a commencé comme une excitation autour des capacités de l’intelligence artificielle générative s’est rapidement transformé en une préoccupation. Les outils d’intelligence artificielle générative tels que ChatGPT, Google Bard, Dall-E, etc. continuent de faire les gros titres en raison de problèmes de sécurité et de confidentialité. Cela conduit même à des questions sur ce qui est réel et ce qui ne l’est pas. L’intelligence artificielle générative peut produire du contenu très plausible et donc convaincant. À tel point qu’à la fin d’un récent segment de 60 Minutes sur l’IA, l’hôte Scott Pelley a laissé les téléspectateurs avec cette déclaration ; « Nous allons terminer avec une note qui n’a jamais été diffusée sur 60 Minutes, mais qui, dans la révolution de l’IA, vous pourriez entendre souvent : ce qui précède a été créé avec 100 % de contenu humain. »

La guerre cybernétique de l’intelligence artificielle générative commence avec ce contenu convaincant et réaliste, et le champ de bataille est où les hackers utilisent l’intelligence artificielle générative, en utilisant des outils tels que ChatGPT, etc. Il est extrêmement facile pour les cybercriminels, en particulier ceux ayant des ressources limitées et aucune connaissance technique, de commettre leurs crimes à travers des attaques d’ingénierie sociale, de phishing et d’usurpation d’identité.

La Menace

L’intelligence artificielle générative a le pouvoir de nourrir des cyberattaques de plus en plus sophistiquées.

Parce que la technologie peut produire du contenu convaincant et similaire à celui des humains avec facilité, les nouvelles arnaques cybernétiques utilisant l’IA sont plus difficiles pour les équipes de sécurité à détecter facilement. Les arnaques générées par l’IA peuvent prendre la forme d’attaques d’ingénierie sociale telles que des attaques de phishing multicanal menées via des courriels et des applications de messagerie. Un exemple du monde réel pourrait être un courriel ou un message contenant un document envoyé à un dirigeant d’entreprise par un fournisseur tiers via Outlook (courriel) ou Slack (application de messagerie). Le courriel ou le message demande de cliquer dessus pour afficher une facture. Avec l’intelligence artificielle générative, il peut être presque impossible de faire la différence entre un courriel ou un message faux et réel. C’est pourquoi c’est si dangereux.

L’un des exemples les plus alarmants, cependant, est que l’intelligence artificielle générative permet aux cybercriminels de produire des attaques dans plusieurs langues – quelle que soit la langue parlée par le hacker. L’objectif est de lancer un filet large et les cybercriminels ne feront pas de distinction entre les victimes en fonction de la langue.

Le progrès de l’intelligence artificielle générative signale que l’ampleur et l’efficacité de ces attaques continueront à augmenter.

La Défense

La défense contre l’intelligence artificielle générative a longtemps été le maillon manquant. Jusqu’à présent. En utilisant la lutte machine contre machine, ou en opposant l’IA à l’IA, nous pouvons nous défendre contre cette nouvelle et croissante menace. Mais comment cette stratégie doit-elle être définie et à quoi ressemble-t-elle ?

Tout d’abord, l’industrie doit agir pour opposer l’ordinateur à l’ordinateur au lieu de l’homme contre l’ordinateur. Pour suivre cet effort, nous devons considérer des plateformes de détection avancées capables de détecter les menaces générées par l’IA, de réduire le temps nécessaire pour signaler et résoudre une attaque d’ingénierie sociale provenant de l’intelligence artificielle générative. Quelque chose qu’un humain est incapable de faire.

Nous avons récemment mené un test pour voir à quoi cela pourrait ressembler. Nous avons fait en sorte que ChatGPT crée un courriel de phishing basé sur le langage en plusieurs langues pour voir si une plateforme de compréhension du langage naturel ou une plateforme de détection avancée pourrait le détecter. Nous avons donné à ChatGPT la consigne de « rédiger un courriel urgent pour inciter quelqu’un à appeler au sujet d’un avis final sur un accord de licence de logiciel ». Nous lui avons également demandé de l’écrire en anglais et en japonais.

La plateforme de détection avancée a immédiatement pu signaler les courriels comme une attaque d’ingénierie sociale. MAIS, les contrôles de messagerie natifs tels que la plateforme de détection de phishing d’Outlook n’ont pas pu le faire. Même avant la sortie de ChatGPT, les attaques d’ingénierie sociale effectuées via des attaques conversationnelles et basées sur le langage se sont avérées réussies car elles pouvaient éviter les contrôles traditionnels, atterrir dans les boîtes de réception sans lien ni charge utile. Donc, oui, il faut une lutte machine contre machine pour se défendre, mais nous devons également nous assurer que nous utilisons une artillerie efficace, telle qu’une plateforme de détection avancée. Quiconque a ces outils à sa disposition a un avantage dans la lutte contre l’intelligence artificielle générative.

Lorsqu’il s’agit de l’ampleur et de la plausibilité des attaques d’ingénierie sociale offertes par ChatGPT et d’autres formes d’intelligence artificielle générative, la défense machine contre machine peut également être affinée. Par exemple, cette défense peut être déployée dans plusieurs langues. Elle n’est pas limitée à la sécurité des courriels, mais peut être utilisée pour d’autres canaux de communication tels que les applications comme Slack, WhatsApp, Teams, etc.

Rester Vigilant

Lorsque l’un de nos employés a parcouru LinkedIn, il est tombé sur une tentative d’ingénierie sociale de l’intelligence artificielle générative. Une publicité de téléchargement de « livre blanc » inhabituelle est apparue avec ce qui ne peut être décrit que de manière généreuse comme une « créative bizarre ». À y regarder de plus près, l’employé a vu un motif de couleur caractéristique dans le coin inférieur droit apposé sur les images produites par Dall-E, un modèle d’IA qui génère des images à partir de invites textuelles.

Rencontrer cette fausse publicité LinkedIn a été un rappel important des nouveaux dangers d’ingénierie sociale qui apparaissent maintenant lorsqu’ils sont couplés avec l’intelligence artificielle générative. Il est plus critique que jamais d’être vigilant et suspicieux.

L’ère de l’intelligence artificielle générative utilisée pour le cybercrime est arrivée, et nous devons rester vigilants et prêts à riposter avec tous les outils à notre disposition.