Qu’est-ce que les Deepfakes ?

À mesure que les deepfakes deviennent plus faciles à créer et plus répandus, on leur prête plus d’attention. Les deepfakes sont devenus le point central des discussions sur l’éthique de l’IA, la désinformation, l’ouverture de l’information et d’Internet, ainsi que la réglementation. Il est utile d’être informé sur les deepfakes et d’avoir une compréhension intuitive de ce qu’ils sont. Cet article va clarifier la définition d’un deepfake, examiner leurs cas d’utilisation, discuter de la façon dont les deepfakes peuvent être détectés et examiner les implications des deepfakes pour la société.

Qu’est-ce que les Deepfakes ?

Avant de poursuivre la discussion sur les deepfakes, il serait utile de prendre un moment pour clarifier ce que sont réellement les « deepfakes ». Il y a une grande confusion quant au terme Deepfake, et souvent le terme est mal appliqué à tout média falsifié, indépendamment du fait qu’il s’agisse ou non d’un véritable deepfake. Pour qu’un média falsifié soit qualifié de Deepfake, il doit être généré à l’aide d’un système d’apprentissage automatique, spécifiquement un réseau neuronal profond.

L’ingrédient clé des deepfakes est l’apprentissage automatique. L’apprentissage automatique a rendu possible la génération automatique de vidéos et d’audio par les ordinateurs de manière relativement rapide et facile. Les réseaux neuronaux profonds sont formés à partir de séquences d’une personne réelle afin que le réseau apprenne à reconnaître l’apparence et les mouvements des personnes dans les conditions environnementales ciblées. Le réseau formé est ensuite utilisé sur des images d’une autre personne et complété par des techniques graphiques informatiques supplémentaires afin de combiner la nouvelle personne avec la séquence d’origine. Un algorithme d’encodeur est utilisé pour déterminer les similitudes entre le visage d’origine et le visage cible. Une fois que les caractéristiques communes des visages ont été isolées, un deuxième algorithme d’IA appelé décodeur est utilisé. Le décodeur examine les images encodées (compressées) et les reconstruit en fonction des caractéristiques des images d’origine. Deux décodeurs sont utilisés, un sur le visage de la personne d’origine et le deuxième sur le visage de la personne cible. Pour effectuer l’échange, le décodeur formé sur les images de la personne X est alimenté avec des images de la personne Y. Le résultat est que le visage de la personne Y est reconstruit sur les expressions faciales et l’orientation de la personne X.

Actuellement, il faut encore un certain temps pour créer un deepfake. Le créateur du faux doit passer beaucoup de temps à ajuster manuellement les paramètres du modèle, car des paramètres sous-optimaux entraîneront des imperfections et des glitches d’image qui trahiront la nature du faux.

On suppose souvent que la plupart des deepfakes sont créés à l’aide d’un type de réseau neuronal appelé réseau antagoniste génératif (GAN), mais de nombreux deepfakes créés aujourd’hui n’utilisent pas de GAN. Même si les GAN ont joué un rôle important dans la création des premiers deepfakes, la plupart des vidéos de deepfakes sont créées à l’aide de méthodes alternatives, selon Siwei Lyu de l’Université de Buffalo.

Il faut une quantité disproportionnée de données de formation pour former un GAN, et les GAN prennent souvent beaucoup plus de temps pour rendre une image par rapport à d’autres techniques de génération d’images. Les GAN sont également mieux adaptés pour générer des images statiques que des vidéos, car les GAN ont des difficultés à maintenir la cohérence d’une image à l’autre. Il est beaucoup plus courant d’utiliser un encodeur et plusieurs décodeurs pour créer des deepfakes.

Pour quoi les Deepfakes sont-ils utilisés ?

La plupart des deepfakes trouvés en ligne sont de nature pornographique. Selon une étude menée par Deeptrace, une entreprise d’IA, sur un échantillon d’environ 15 000 vidéos de deepfakes prises en septembre 2019, environ 95 % d’entre elles étaient de nature pornographique. Une implication inquiétante de ce fait est que, à mesure que la technologie devient plus facile à utiliser, les cas de fausse vengeance pornographique pourraient augmenter.

Cependant, tous les deepfakes ne sont pas de nature pornographique. Il existe des utilisations plus légitimes de la technologie de deepfake. La technologie de deepfake audio pourrait aider les gens à diffuser leur voix normale après qu’elle ait été endommagée ou perdue en raison d’une maladie ou d’une blessure. Les deepfakes peuvent également être utilisés pour cacher les visages de personnes qui se trouvent dans des situations sensibles et potentiellement dangereuses, tout en permettant à leurs lèvres et à leurs expressions d’être lues. La technologie de deepfake peut potentiellement être utilisée pour améliorer le doublage des films en langues étrangères, aider à la réparation de médias anciens et endommagés, et même créer de nouveaux styles d’art.

Deepfakes non vidéo

Alors que la plupart des gens pensent à des vidéos fausses lorsqu’ils entendent le terme « deepfake », les vidéos fausses ne sont pas les seules sortes de médias faux produits avec la technologie de deepfake. La technologie de deepfake est utilisée pour créer des faux photos et des faux audio. Comme mentionné précédemment, les GAN sont fréquemment utilisés pour générer des images fausses. On pense que de nombreux cas de faux profils LinkedIn et Facebook (META ) ont des images de profil générées avec des algorithmes de deepfake.

Il est possible de créer des deepfakes audio. Les réseaux neuronaux profonds sont formés pour produire des clones de voix ou des « peaux » de voix de différentes personnes, y compris des célébrités et des personnalités politiques. Un exemple célèbre de deepfake audio est lorsque l’entreprise d’IA Dessa a utilisé un modèle d’IA, soutenu par des algorithmes non IA, pour recréer la voix de l’animateur de podcast Joe Rogan.

Comment repérer les Deepfakes

À mesure que les deepfakes deviennent de plus en plus sophistiqués, il sera de plus en plus difficile de les distinguer des médias authentiques. Actuellement, il y a quelques signes révélateurs que les gens peuvent rechercher pour déterminer si une vidéo est potentiellement un deepfake, comme une synchronisation labiale médiocre, des mouvements inhabituels, des scintillements autour du bord du visage et des déformations de détails fins comme les cheveux, les dents ou les reflets. D’autres signes potentiels de deepfake incluent des parties de la même vidéo de qualité inférieure et des clignements d’yeux irréguliers.

Bien que ces signes puissent aider à repérer un deepfake pour le moment, à mesure que la technologie de deepfake s’améliore, la seule option pour une détection fiable de deepfake pourrait être d’autres types d’IA formés pour distinguer les faux des médias authentiques.

Les entreprises d’IA, y compris de nombreuses grandes entreprises technologiques, recherchent des méthodes de détection de deepfakes. Le mois dernier, un défi de détection de deepfake a été lancé, soutenu par trois géants de la technologie : Amazon (AMZN ), Facebook et Microsoft. Des équipes de recherche du monde entier ont travaillé sur des méthodes de détection de deepfakes, concourant pour développer les meilleures méthodes de détection. D’autres groupes de chercheurs, comme un groupe de chercheurs combinés de Google (GOOGL ) et Jigsaw, travaillent sur un type de « police scientifique faciale » qui peut détecter les vidéos qui ont été modifiées, en rendant leurs ensembles de données open source et en encourageant les autres à développer des méthodes de détection de deepfakes. La société Dessa mentionnée précédemment a travaillé sur l’amélioration des techniques de détection de deepfakes, en essayant de s’assurer que les modèles de détection fonctionnent sur les vidéos de deepfakes trouvées sur Internet plutôt que seulement sur des ensembles de données de formation et de test précomposés, comme l’ensemble de données open source fourni par Google.

Il y a également d’autres stratégies qui sont étudiées pour lutter contre la prolifération des deepfakes. Par exemple, vérifier les vidéos pour leur concordance avec d’autres sources d’information est une stratégie. Des recherches peuvent être effectuées pour des vidéos d’événements potentiels filmés sous différents angles, ou des détails de fond de la vidéo (comme les modèles météorologiques et les emplacements) peuvent être vérifiés pour des incohérences. Au-delà de cela, un système de registre en ligne basé sur la blockchain peut enregistrer les vidéos lorsqu’elles sont initialement créées, en conservant leurs audio et images originaux afin que les vidéos dérivées puissent toujours être vérifiées pour manipulation.

En fin de compte, il est important que des méthodes fiables de détection de deepfakes soient créées et que ces méthodes de détection suivent les dernières avancées de la technologie de deepfake. Même si il est difficile de savoir exactement quels seront les effets des deepfakes, s’il n’y a pas de méthodes fiables de détection de deepfakes (et d’autres formes de médias faux), la désinformation pourrait potentiellement se répandre et éroder la confiance des gens dans la société et les institutions.

Implications des Deepfakes

Quels sont les dangers de laisser les deepfakes se propager sans contrôle ?

L’un des plus grands problèmes que les deepfakes créent actuellement est la pornographie non consensuelle, créée en combinant les visages des gens avec des vidéos et des images pornographiques. Les éthiciens de l’IA s’inquiètent que les deepfakes soient utilisés pour créer de la fausse vengeance pornographique. Au-delà de cela, les deepfakes pourraient être utilisés pour harceler et nuire à la réputation de presque n’importe qui, car ils pourraient être utilisés pour placer les gens dans des scénarios controversés et compromettants.

Les entreprises et les spécialistes de la cybersécurité ont exprimé leur inquiétude quant à l’utilisation de deepfakes pour faciliter les arnaques, les fraudes et l’extorsion. Prétendument, des deepfakes audio ont été utilisés pour convaincre les employés d’une entreprise de transférer de l’argent à des escrocs

Il est possible que les deepfakes aient des effets nocifs au-delà de ceux mentionnés ci-dessus. Les deepfakes pourraient potentiellement éroder la confiance des gens dans les médias en général et rendre difficile pour les gens de faire la distinction entre les nouvelles réelles et les fausses nouvelles. Si de nombreuses vidéos sur le Web sont fausses, il devient plus facile pour les gouvernements, les entreprises et d’autres entités de jeter le doute sur les controverses et les pratiques contraires à l’éthique légitimes.

En ce qui concerne les gouvernements, les deepfakes peuvent même poser des menaces à l’opération de la démocratie. La démocratie nécessite que les citoyens soient en mesure de prendre des décisions éclairées sur les politiciens sur la base d’informations fiables. La désinformation sape les processus démocratiques. Par exemple, le président du Gabon, Ali Bongo, est apparu dans une vidéo visant à rassurer la population gabonaise. Le président était supposé être malade pendant une longue période, et sa soudaine apparition dans une vidéo probablement fausse a déclenché une tentative de coup d’État. Le président Donald Trump a affirmé qu’un enregistrement audio de lui se vantant de saisir les femmes par les organes génitaux était faux, malgré le fait qu’il l’ait également décrit comme « conversation de vestiaire ». Le prince Andrew a également prétendu qu’une image fournie par l’avocat d’Emily Maitilis était fausse, bien que l’avocat ait insisté sur son authenticité.

En fin de compte, même s’il existe des utilisations légitimes de la technologie de deepfake, il y a de nombreux dommages potentiels qui peuvent résulter de la mauvaise utilisation de cette technologie. Pour cette raison, il est extrêmement important que des méthodes pour déterminer l’authenticité des médias soient créées et maintenues.