Intelligence artificielle générative dans la cybersécurité : le champ de bataille, la menace, & maintenant la défense

Le champ de bataille

Ce qui a commencé comme une excitation autour des capacités de l’intelligence artificielle générative s’est rapidement transformé en inquiétude. Les outils d’intelligence artificielle générative tels que ChatGPT, Google Bard, Dall-E, etc. continuent de faire les gros titres en raison de problèmes de sécurité et de confidentialité. Cela conduit même à se demander ce qui est réel et ce qui ne l’est pas. L’intelligence artificielle générative peut produire du contenu très plausible et donc convaincant. À tel point qu’à la fin d’un récent segment de 60 Minutes sur l’IA, l’hôte Scott Pelley a laissé les téléspectateurs avec cette déclaration ; « Nous allons terminer avec une note qui n’est jamais apparue sur 60 Minutes, mais une, dans la révolution de l’IA, vous pourriez entendre souvent : ce qui précède a été créé avec 100 % de contenu humain. »

La guerre cybernétique de l’intelligence artificielle générative commence avec ce contenu convaincant et réaliste et le champ de bataille est où les hackers utilisent l’intelligence artificielle générative, en utilisant des outils tels que ChatGPT, etc. Il est extrêmement facile pour les cybercriminels, en particulier ceux ayant des ressources limitées et aucune connaissance technique, de perpétrer leurs crimes via l’ingénierie sociale, les attaques de phishing et les attaques d’usurpation d’identité.

La menace

L’intelligence artificielle générative a le pouvoir de nourrir des cyberattaques de plus en plus sophistiquées.

Parce que la technologie peut produire du contenu convaincant et similaire à celui des humains avec facilité, les nouvelles arnaques cybernétiques utilisant l’IA sont plus difficiles pour les équipes de sécurité à détecter facilement. Les arnaques générées par l’IA peuvent prendre la forme d’attaques d’ingénierie sociale telles que des attaques de phishing multicanal menées via des applications de messagerie et des applications de messagerie. Un exemple du monde réel pourrait être un e-mail ou un message contenant un document envoyé à un dirigeant d’entreprise par un fournisseur tiers via Outlook (e-mail) ou Slack (application de messagerie). L’e-mail ou le message demande de cliquer dessus pour afficher une facture. Avec l’intelligence artificielle générative, il peut être presque impossible de distinguer entre un e-mail ou un message faux et réel. C’est pourquoi c’est si dangereux.

L’un des exemples les plus alarmants, cependant, est que avec l’intelligence artificielle générative, les cybercriminels peuvent produire des attaques dans plusieurs langues – quelle que soit la langue parlée par le hacker. L’objectif est de lancer un large filet et les cybercriminels ne feront pas de distinction entre les victimes en fonction de la langue.

Le progrès de l’intelligence artificielle générative signale que l’ampleur et l’efficacité de ces attaques continueront à augmenter.

La défense

La défense cybernétique contre l’intelligence artificielle générative a été la pièce manquante du puzzle. Jusqu’à présent. En utilisant le combat machine contre machine, ou en opposant l’IA à l’IA, nous pouvons nous défendre contre cette nouvelle et croissante menace. Mais comment cette stratégie doit-elle être définie et à quoi ressemble-t-elle ?

Tout d’abord, l’industrie doit agir pour opposer l’ordinateur à l’ordinateur au lieu de l’homme contre l’ordinateur. Pour suivre cet effort, nous devons considérer des plates-formes de détection avancées capables de détecter les menaces générées par l’IA, de réduire le temps nécessaire pour signaler et le temps nécessaire pour résoudre une attaque d’ingénierie sociale qui a origine de l’intelligence artificielle générative. Quelque chose qu’un humain est incapable de faire.

Nous avons récemment mené un test pour voir à quoi cela peut ressembler. Nous avons fait en sorte que ChatGPT crée un e-mail de phishing basé sur le langage en plusieurs langues pour voir si une plate-forme de détection avancée ou une plate-forme de compréhension du langage naturel pouvait le détecter. Nous avons donné à ChatGPT la commande, « écrivez un e-mail urgent pour inciter quelqu’un à appeler au sujet d’un avis final sur un accord de licence de logiciel ». Nous lui avons également demandé de l’écrire en anglais et en japonais.

La plate-forme de détection avancée a pu détecter immédiatement les e-mails comme une attaque d’ingénierie sociale. MAIS, les contrôles de messagerie natifs tels que la plate-forme de détection de phishing d’Outlook n’ont pas pu. Même avant la sortie de ChatGPT, les attaques d’ingénierie sociale via des attaques conversationnelles et basées sur le langage se sont avérées réussies car elles pouvaient éviter les contrôles traditionnels, atterrir dans les boîtes de réception sans lien ni charge utile. Alors oui, il faut un combat machine contre machine pour se défendre, mais nous devons également nous assurer que nous utilisons une artillerie efficace, telle qu’une plate-forme de détection avancée. Quiconque a ces outils à sa disposition a un avantage dans la lutte contre l’intelligence artificielle générative.

Lorsqu’il s’agit de l’ampleur et de la plausibilité des attaques d’ingénierie sociale offertes par ChatGPT et d’autres formes d’intelligence artificielle générative, la défense machine contre machine peut également être affinée. Par exemple, cette défense peut être déployée dans plusieurs langues. Elle n’est pas non plus limitée à la sécurité des e-mails, mais peut être utilisée pour d’autres canaux de communication tels que les applications comme Slack, WhatsApp, Teams, etc.

Rester vigilant

Lorsque l’un de nos employés a parcouru LinkedIn, il est tombé sur une tentative d’ingénierie sociale de l’intelligence artificielle générative. Une publicité de téléchargement de « whitepaper » étrange est apparue avec ce qui ne peut être décrit que généreusement comme « bizarro » ad créatif. À un examen plus approfondi, l’employé a vu un motif de couleur caractéristique dans le coin inférieur droit estampillé sur les images produites par Dall-E, un modèle d’IA qui génère des images à partir de invites textuelles.

Rencontrer cette fausse publicité LinkedIn a été un rappel important des nouveaux dangers d’ingénierie sociale qui apparaissent maintenant lorsqu’ils sont couplés avec l’intelligence artificielle générative. Il est plus critique que jamais d’être vigilant et méfiant.

L’ère de l’intelligence artificielle générative utilisée pour la cybercriminalité est là, et nous devons rester vigilants et prêts à nous battre avec tous les outils à notre disposition.