Les « Deep Fakes » pourraient bientôt faire leur apparition en géographie

Les préoccupations concernant les « deep fakes » commencent à s’étendre à d’autres domaines, tels que la science de l’information géographique (SIG). Les chercheurs de l’Université de Binghamton commencent maintenant à aborder ce problème potentiel.

L’équipe comprend le professeur associé de géographie Chengbin Deng, et quatre autres collègues, dont Bo Zhao et Yifan Sun à l’Université de Washington, et Shaozeng Zhang et Chunxue Xu à l’Université d’État de l’Oregon.

Les nouvelles recherches ont été publiées dans Cartographie et science de l’information géographique, intitulées « Géographie de faux ? Lorsque les données géospatiales rencontrent l’intelligence artificielle ».

Dans l’article, l’équipe explore comment des images satellites fausses pourraient être construites et détectées.

“Honnêtement, nous sommes probablement les premiers à reconnaître ce problème potentiel”, a déclaré Deng.

Science de l’information géographique (SIG) et GeoAI

La science de l’information géographique (SIG) est utilisée pour de nombreuses applications différentes, notamment la défense nationale et les véhicules autonomes. Grâce au développement de l’intelligence artificielle géospatiale (GeoAI), la technologie de l’intelligence artificielle a eu un impact sur le domaine.

Le GeoAI utilise l’apprentissage automatique pour extraire et analyser les données géospatiales. Cependant, le GeoAI pourrait également être utilisé pour simuler de faux signaux GPS, des informations de localisation sur les médias sociaux, fabriquer des photographies d’environnements géographiques et pour une large gamme d’autres applications dangereuses.

“Nous devons tout cela en accord avec l’éthique. Mais en même temps, nous, les chercheurs, devons également prêter attention et trouver un moyen de différencier ou d’identifier ces fausses images”, a déclaré Deng. “Avec un grand nombre de jeux de données, ces images peuvent sembler réelles à l’œil humain.”

Construire de fausses images

La première étape pour détecter une image construite artificiellement consiste à construire une telle image, l’équipe s’est donc appuyée sur la technique courante de création de deep fakes appelée Cycle-Consistent Adversarial Networks (CycleGAN). Le CycleGAN est un algorithme d’apprentissage automatique non supervisé qui peut simuler des médias synthétiques.

Les réseaux antagonistes génératifs (GAN), qui sont un type d’intelligence artificielle, nécessitent des échantillons d’entraînement du contenu qu’ils sont programmés pour produire. Par exemple, le GAN pourrait générer du contenu pour un espace vide sur une carte en déterminant les différentes possibilités.

Les chercheurs ont tenté de modifier une image satellite de Tacoma, dans l’État de Washington, et ils ont mélangé des éléments de Seattle et de Pékin tout en la rendant aussi réaliste que possible. Cependant, les chercheurs mettent en garde contre de telles tâches.

“Ce n’est pas à propos de la technique ; c’est à propos de la façon dont les êtres humains utilisent la technologie”, a déclaré Deng. “Nous voulons utiliser la technologie pour le bien, et non pour de mauvaises raisons.”

Après la création, l’équipe a comparé 26 indicateurs d’image différents pour déterminer s’il existait des différences statistiques entre les images vraies et fausses, et ils ont enregistré de telles différences sur 20 des 26 indicateurs (80%).

Les différences comprenaient la couleur des toits, où les couleurs des images réelles étaient uniformes, tandis que celles des images composites étaient tachetées. L’équipe a également constaté que la fausse image satellite était moins colorée et plus sombre, mais qu’elle avait également des bords plus nets. Selon Deng, les différences dépendaient des entrées utilisées pour développer la fausse image.

Cette recherche pose les bases pour des travaux ultérieurs, qui pourraient permettre aux géographes de suivre différents types de réseaux neuronaux pour voir comment ils génèrent des fausses images, ce qui conduit également à une meilleure détection. L’équipe déclare que des méthodes systématiques devront être développées pour détecter les deep fakes et vérifier les informations fiables dans ce domaine.

“Nous voulons tous la vérité”, a déclaré Deng.