Comment les deepfakes alimentés par l’IA menacent l’intégrité des élections — Et ce que l’on peut faire à ce sujet

Les publicités de campagne peuvent déjà être un peu confuses et controversées.

Imaginez maintenant que vous êtes ciblé par une publicité de campagne dans laquelle un candidat exprime des opinions fortes qui influencent votre vote — et que la publicité n’est même pas réelle. C’est un deepfake.

Ceci n’est pas un hypothétique futuriste ; les deepfakes sont un problème réel et omniprésent. Nous avons déjà vu des « soutiens » générés par l’IA faire les gros titres, et ce que nous avons entendu ne représente que la surface de l’eau.

À mesure que nous nous approchons de l’élection présidentielle américaine de 2024, nous entrons dans un territoire inconnu en matière de cybersécurité et d’intégrité de l’information. J’ai travaillé à l’intersection de la cybersécurité et de l’IA depuis que ces deux concepts étaient embryonnaires, et je n’ai jamais vu rien de semblable à ce qui se passe actuellement.

L’évolution rapide de l’intelligence artificielle — en particulier l’IA générative et, bien sûr, la facilité de création de deepfakes réalistes — a transformé le paysage des menaces électorales. Cette nouvelle réalité exige un changement dans les hypothèses de base concernant la sécurité électorale et l’éducation des électeurs.

IA militarisée

Vous n’avez pas à prendre mon expérience personnelle comme preuve ; il y a suffisamment de preuves que les défis de cybersécurité que nous affrontons aujourd’hui évoluent à un rythme sans précédent. En l’espace de quelques années, nous avons été témoins d’une transformation dramatique des capacités et des méthodes des acteurs potentiels de menace. Cette évolution reflète l’accélération du développement que nous avons vu dans les technologies de l’IA, mais avec une touche inquiétante.

Cas de figure :

• Militarisation rapide des vulnérabilités. Les attaquants d’aujourd’hui peuvent exploiter rapidement les vulnérabilités nouvellement découvertes, souvent plus rapidement que les correctifs ne peuvent être développés et déployés. Les outils d’IA accélèrent encore ce processus, réduisant la fenêtre entre la découverte de la vulnérabilité et son exploitation.
• Surface d’attaque élargie. L’adoption généralisée des technologies cloud a considérablement élargi la surface d’attaque potentielle. L’infrastructure distribuée et le modèle de responsabilité partagée entre les fournisseurs de cloud et les utilisateurs créent de nouveaux vecteurs d’exploitation si ceux-ci ne sont pas gérés correctement.
• Mesures de sécurité traditionnelles obsolètes. Les outils de sécurité traditionnels comme les pare-feu et les logiciels antivirus luttent pour suivre le rythme de ces menaces en évolution, en particulier lorsqu’il s’agit de détecter et de mitiger le contenu généré par l’IA.

Qui parle ?

Dans ce nouveau paysage de menaces, les deepfakes représentent un défi particulièrement insidieux à l’intégrité des élections. Des recherches récentes d’Ivanti donnent quelques chiffres sur la menace : plus de la moitié des employés de bureau (54 %) ne sont pas conscients que l’IA avancée peut imiter la voix de n’importe qui. Ce manque de conscience parmi les électeurs potentiels est profondément inquiétant à mesure que nous nous approchons d’un cycle électoral critique.

Il y a tellement en jeu.

La sophistication de la technologie de deepfake d’aujourd’hui permet aux acteurs de menace, tant étrangers que nationaux, de créer du contenu factice audio, vidéo et texte convaincant avec un minimum d’effort. Une simple invite de texte peut désormais générer un deepfake de plus en plus difficile à distinguer du contenu réel. Cette capacité a des implications graves pour la propagation de la désinformation et la manipulation de l’opinion publique.

Défis d’attribution et de mitigation

L’attribution est l’un des défis les plus importants que nous affrontons avec l’ingérence électorale générée par l’IA. Alors que nous avons historiquement associé l’ingérence électorale à des acteurs étatiques, la démocratisation des outils d’IA signifie que des groupes nationaux, animés par diverses motivations idéologiques, peuvent désormais utiliser ces technologies pour influencer les élections.

Cette diffusion des acteurs de menace potentiels complique notre capacité à identifier et à atténuer les sources de désinformation. Cela souligne également la nécessité d’une approche multiforme de la sécurité électorale qui va au-delà des mesures de cybersécurité traditionnelles.

Un effort coordonné pour préserver l’intégrité des élections

Pour relever le défi des deepfakes alimentés par l’IA dans les élections, il faudra un effort coordonné à travers plusieurs secteurs. Voici les domaines clés sur lesquels nous devons concentrer nos efforts :

• Sécurité pour les systèmes d’IA. Nous devons appliquer les principes de la « sécurité décalée vers la gauche » au développement des systèmes d’IA eux-mêmes. Cela signifie intégrer les considérations de sécurité dès les premières étapes du développement des modèles d’IA, y compris les considérations pour une utilisation potentielle abusive dans l’ingérence électorale.
• Mise en œuvre de configurations sécurisées. Les systèmes et les plateformes d’IA qui pourraient potentiellement être utilisés pour générer des deepfakes devraient avoir des configurations sécurisées et robustes par défaut. Cela inclut des mesures d’authentification solides et des restrictions sur les types de contenu qui peuvent être générés.
• Sécurisation de la chaîne d’approvisionnement de l’IA. Tout comme nous nous concentrons sur la sécurisation de la chaîne d’approvisionnement logiciel, nous devons étendre cette vigilance à la chaîne d’approvisionnement de l’IA. Cela inclut l’examen attentif des ensembles de données utilisés pour former les modèles d’IA et des algorithmes employés dans les systèmes d’IA générative.
• Capacités de détection améliorées. Nous devons investir dans et développer des outils de détection avancés capables d’identifier le contenu généré par l’IA, en particulier dans le contexte des informations liées aux élections. Cela impliquera probablement l’utilisation de l’IA elle-même pour lutter contre la désinformation générée par l’IA.
• Éducation et sensibilisation des électeurs. Un élément crucial de notre défense contre les deepfakes est un électorat éclairé. Nous avons besoin de programmes d’éducation complets pour aider les électeurs à comprendre l’existence et l’impact potentiel du contenu généré par l’IA, et pour leur fournir des outils pour évaluer de manière critique les informations qu’ils rencontrent.
• Collaboration intersectorielle. Le secteur technologique, en particulier les entreprises de TI et de cybersécurité, doit travailler en étroite collaboration avec les agences gouvernementales, les responsables des élections et les organisations médiatiques pour créer un front uni contre l’ingérence électorale alimentée par l’IA.

Qu’est-ce qui se passe maintenant, et qu’est-ce qui se passera ensuite

Alors que nous mettons en œuvre ces stratégies, il est crucial que nous mesurions en continu leur efficacité. Cela nécessitera de nouveaux indicateurs et outils de suivi spécifiquement conçus pour suivre l’impact du contenu généré par l’IA sur le discours électoral et le comportement des électeurs.

Nous devrions également être prêts à adapter rapidement nos stratégies. Le domaine de l’IA évolue à un rythme vertigineux, et nos mesures défensives doivent évoluer tout aussi rapidement. Cela peut impliquer l’utilisation de l’IA elle-même pour créer des mesures de sécurité plus robustes et adaptables.

Le défi des deepfakes alimentés par l’IA dans les élections représente un nouveau chapitre de la cybersécurité et de l’intégrité de l’information. Pour y faire face, nous devons penser au-delà des paradigmes de sécurité traditionnels et favoriser la collaboration à travers les secteurs et les disciplines. L’objectif : exploiter le pouvoir de l’IA pour le bénéfice des processus démocratiques tout en atténuant son potentiel de nuisance. Ceci n’est pas seulement un défi technique, mais un défi sociétal qui exigera une vigilance, une adaptation et une coopération continues.

L’intégrité de nos élections — et, par extension, la santé de notre démocratie — dépend de notre capacité à relever ce défi de face. C’est une responsabilité qui incombe à nous tous : technologistes, décideurs et citoyens.