Expert affirme que les DeepFakes “parfaitement réels” seront disponibles dans 6 mois

Les DeepFakes impressionnants mais controversés, images et vidéos manipulées ou générées par des réseaux de neurones profonds, devraient devenir à la fois plus impressionnants et plus controversés dans un avenir proche, selon Hao Li, directeur du Laboratoire de vision et de graphiques de l’Université de Californie du Sud. Li est un expert en vision par ordinateur et en DeepFakes, et dans une récente interview avec CNBC, il a déclaré que des DeepFakes “parfaitement réels” devraient arriver dans les six prochains mois.

Li a expliqué que la plupart des DeepFakes sont encore reconnaissables comme faux à l’œil nu, et que même les DeepFakes les plus convaincants nécessitent encore des efforts importants de la part du créateur pour les rendre réalistes. Cependant, Li est convaincu que dans six mois, des DeepFakes qui apparaissent parfaitement réels devraient apparaître à mesure que les algorithmes deviennent plus sophistiqués.

Li pensait initialement que cela prendrait entre deux et trois ans pour que des DeepFakes extrêmement convaincants deviennent plus courants, faisant cette prédiction lors d’une conférence récente organisée au Massachusetts Institute of Technology. Cependant, Li a révisé son calendrier après la révélation de l’application chinoise Zao et d’autres développements récents concernant la technologie DeepFakes. Li a expliqué à CNBC que les méthodes nécessaires pour créer des DeepFakes réalistes sont plus ou moins les méthodes actuellement utilisées et que le principal ingrédient qui créera des DeepFakes réalistes est plus de données d’entraînement.

Li et ses collègues chercheurs travaillent dur sur la technologie de détection de DeepFakes, en anticipant l’arrivée de DeepFakes extrêmement convaincants. Li et ses collègues, tels que Hany Farid de l’Université de Californie à Berkeley, ont expérimenté avec des algorithmes de DeepFakes de pointe pour comprendre comment fonctionne la technologie qui les crée.

Li a expliqué à CNBC :

« Si vous voulez être capable de détecter les DeepFakes, vous devez également voir quelles sont les limites. Si vous devez construire des cadres d’IA capables de détecter des choses extrêmement réelles, ceux-ci doivent être formés à l’aide de ces types de technologies, donc d’une certaine manière, il est impossible de les détecter si vous ne savez pas comment ils fonctionnent. »

Li et ses collègues sont investis dans la création d’outils pour détecter les DeepFakes, en reconnaissance des problèmes et des dangers potentiels que la technologie pose. Li et ses collègues ne sont pas le seul groupe de chercheurs en IA préoccupés par les effets possibles des DeepFakes et intéressés à créer des contre-mesures.

Récemment, Facebook (META ) a lancé un partenariat conjoint avec MIT, Microsoft (MSFT ) et l’Université d’Oxford pour créer le DeepFake Detection Challenge, qui vise à créer des outils qui peuvent être utilisés pour détecter lorsque des images ou des vidéos ont été modifiées. Ces outils seront open source et utilisables par les entreprises, les organisations médiatiques et les gouvernements. Pendant ce temps, des chercheurs de l’Institut des sciences de l’information de l’Université de Californie du Sud ont récemment créé une série d’algorithmes qui pourraient distinguer les vidéos factices avec une précision d’environ 96 %.

Cependant, Li a également expliqué que le problème avec les DeepFakes est la façon dont ils peuvent être mal utilisés, et non la technologie elle-même. Li a noté plusieurs utilisations possibles légitimes de la technologie DeepFake, notamment dans les industries du divertissement et de la mode.

Les techniques de DeepFake ont également été utilisées pour répliquer les expressions faciales des personnes dont les visages sont obscurcis dans les images. Les chercheurs ont utilisé des réseaux génératifs antagonistes pour créer un visage entièrement nouveau qui avait la même expression qu’un sujet dans une image originale. Les techniques développées par l’Université norvégienne des sciences et de la technologie pourraient aider à rendre les expressions faciales pendant les interviews avec des personnes sensibles qui ont besoin de confidentialité, telles que des lanceurs d’alerte. Quelqu’un d’autre pourrait laisser son visage être utilisé comme substitut pour la personne qui a besoin d’anonymat, mais les expressions faciales de la personne pourraient toujours être lues.

À mesure que la sophistication de la technologie DeepFake augmente, les cas d’utilisation légitimes pour les DeepFakes augmenteront également. Cependant, le danger augmentera également, et c’est pourquoi le travail de détection de DeepFakes effectué par Li et d’autres devient encore plus important.