L’impact croissant de l’IA sur les escroqueries électorales cette saison

En 2022, des courriels malveillants ciblant les travailleurs électoraux du comté de Pennsylvanie ont augmenté autour de ses élections primaires du 17 mai, augmentant de plus de 546 % en six mois. Associé au potentiel de modèles de langage grand public (LLM) néfastes sur le dessus de ces attaques de phishing traditionnelles, il y a une grande probabilité que l’Américain moyen sera la cible d’une arnaque encore plus réaliste cette saison électorale.

Les gouvernements commencent à prendre note, notamment à mesure que l’IA s’intègre dans notre vie quotidienne. Par exemple, l’Agence de cybersécurité et de sécurité des infrastructures des États-Unis a lancé un programme pour renforcer la sécurité électorale – démontrant une demande croissante du gouvernement et du public pour se protéger, ainsi que leurs données, contre les acteurs malveillants potentiels cette saison électorale.

Et plus récemment encore, à la Conférence sur la sécurité de Munich 2024, 20 entreprises de technologie et d’IA ont signé un “Accord technologique pour lutter contre l’utilisation trompeuse de l’IA dans les élections de 2024,” qui met en évidence les principes directeurs pour protéger les élections et le processus électoral, y compris la prévention, la provenance, la détection, la protection réactive, l’évaluation et la sensibilisation du public. Composé de grands acteurs technologiques, notamment Microsoft (MSFT ), Amazon (AMZN ) et Google, cela signifie un changement important dans l’industrie, qui, au-delà des affiliations politiques, la sécurité des données est un sujet qui préoccupera les citoyens et les experts en cybersécurité tout au long de cette année électorale. De plus, l’IA générative aura un impact important sur la façon dont les acteurs malveillants peuvent mener leurs attaques, ce qui rendra plus facile la création d’arnaques très réalistes.

Types d’escroqueries électorales

Alors que la saison électorale n’est pas la seule période où nous voyons une augmentation des escroqueries, lorsque vient le temps de voter, soit aux primaires ou à l’élection générale, nous tendons à voir une augmentation de plusieurs méthodes et techniques. Chacune de ces méthodes est utilisée avec l’objectif habituel d’accéder au compte d’un individu ou d’obtenir un gain monétaire, et les conséquences de tomber dans ces pièges peuvent avoir des conséquences majeures. En fait, la fraude de deepfake seule a coûté plus de 3,4 milliards de dollars en pertes.

Certains exemples d’escroqueries que nous voyons pendant la saison électorale incluent :

• Phishing : Le phishing implique l’utilisation de liens, de courriels et de sites Web fictifs pour accéder à des informations sensibles des consommateurs – généralement en installant des logiciels malveillants sur le système cible. Ces données sont ensuite utilisées pour voler d’autres identités, accéder à des actifs précieux et surcharger les boîtes de réception avec des spams de courriel. Pendant la saison électorale, les courriels de phishing peuvent être déguisés en courriels de dons, incitant un citoyen à cliquer sur le lien, pensant qu’il fait un don à un candidat, mais en réalité, il joue dans le schéma d’un acteur malveillant.
• Robocalls, Impersonations et chatbots générés par l’IA : Comme on l’a vu dans le New Hampshire lorsque des robocalls ont imité le président Biden en incitant les citoyens à ne pas voter, la saison électorale verra une augmentation des impersonations de sondeurs ou de candidats politiques pour gagner la confiance et obtenir des informations sensibles.
• Deepfakes : Avec l’avènement de l’IA, les deepfakes sont devenus incroyablement réalistes aujourd’hui et peuvent être utilisés pour imiter un patron ou même votre célébrité préférée. Les deepfakes sont des vidéos ou des images qui utilisent l’IA pour remplacer les visages ou manipuler les expressions faciales ou la parole. Beaucoup des deepfakes que nous rencontrons quotidiennement seront sous la forme d’une vidéo, avec une séquence truquée montrant la personne disant ou faisant quelque chose qu’elle n’a peut-être jamais fait. Cela devrait être particulièrement prévalent cette saison électorale, avec le risque que des deepfakes soient créés pour imiter les candidats. Même en dehors des États-Unis, comme au Royaume-Uni, il y a des craintes que les deepfakes puissent être utilisés pour truquer les élections.

L’impact de l’IA sur les élections

En plus de ces escroqueries, les algorithmes d’IA sont utilisés pour générer des messages, des courriels et des publications de réseaux sociaux plus convaincants et engageants pour tromper les utilisateurs et leur faire révéler des informations sensibles.

Microsoft et OpenAI ont publié un briefing sur les menaces, « Naviguer les menaces cybernétiques et renforcer les défenses dans l’ère de l’IA », qui a noté que cinq acteurs menaçants de Russie, de Corée du Nord, d’Iran et de Chine ont déjà utilisé la GenAI pour de nouvelles et innovantes façons d’améliorer leurs opérations contre des cibles vulnérables.

Des escroqueries comme les chatbots, le clonage vocal et plus encore sont poussés à un niveau supérieur avec l’IA comme outil pour diffuser des informations fausses, développer des logiciels malveillants et imiter des individus. Les outils de clonage vocal peuvent créer des répliques presque parfaites de la voix ou du visage d’une figure électorale, par exemple. L’IA pourrait également être utilisée pour inonder les centres d’appels avec de faux appels de votants, les submergeant d’informations fausses.

Les réseaux sociaux seront en état d’alerte maximum, car ils constituent un véhicule principal pour les campagnes cette saison électorale. Les électeurs partageront s’ils ont voté et peut-être même montreront leur soutien à leur candidat préféré sur leurs pages. Cependant, cette année pose une nouvelle menace, car nous voyons une nouvelle augmentation des escroqueries de phishing (y compris le smishing et le vishing) basées sur l’IA.

Imaginez que quelqu’un ait publié sur son compte de réseaux sociaux son soutien à un candidat spécifique. Quelques minutes plus tard, il reçoit un courriel qui semble provenir d’un gestionnaire de campagne, le remerciant de son soutien. Cette personne potentiellement victime pourrait interagir avec ce courriel en cliquant sur un lien, l’exposant à la récolte de ses identifiants, à des pertes financières ou à l’installation de logiciels malveillants. En raison de la capacité de l’IA à surveiller, créer et diffuser des campagnes de phishing ciblées en temps quasi réel, des publications de réseaux sociaux apparemment innocentes ouvrent maintenant les utilisateurs à un niveau de schémas de phishing réaliste.

Rester vigilant cette saison électorale

Des attaques comme le phishing continueront d’être un moyen courant pour les acteurs malveillants de créer des arnaques réalistes qui peuvent passer inaperçues, même pour les plus avisés, et à l’ère de l’IA générative, l’impact potentiel de ces attaques n’a fait que s’accélérer pour permettre aux acteurs malveillants un accès plus rapide à des informations sensibles.

Alors que les entreprises déployeront la technologie pour protéger leurs données et leurs employés, les consommateurs doivent également être conscients des techniques pour repérer et éviter les escroqueries. Certaines de ces techniques incluent :

• Être à l’affût de liens ou de sujets de courriel aléatoires ou mal orthographiés
• Ne pas cliquer sur un lien d’un expéditeur inconnu
• Utiliser l’authentification à deux facteurs ou l’authentification biométrique partout où cela est possible
• Rendre les comptes de réseaux sociaux privés
• Signaler les activités malveillantes
• Éduquer d’autres collègues ou membres de la famille
• Rechercher un domaine de site Web .gov pour vérifier l’authenticité d’un candidat électoral
• Si vous avez un service IT sur votre lieu de travail, vous pouvez également demander :
  • Des réseaux Zero Trust
  • Une authentification à deux facteurs résistante au phishing
  • Des outils de sécurité de messagerie (DMARC, DKIM, SPF)
  • Des méthodes pour signer numériquement le contenu (ou une autre façon de vérifier cryptographiquement vos communications)

Bien que les saisons électorales soient un moment pour être en état d’alerte, les attaques peuvent se produire à tout moment, il est donc important de s’assurer que les fondations de cybersécurité sont solides et fiables tout au long de l’année.