Las ‘deep fakes’ podrían llegar pronto a la geografía

Las preocupaciones sobre las ‘deep fakes’ están empezando a expandirse a otras áreas, como la ciencia de la información geográfica (GIS). Los investigadores de la Universidad de Binghamton están abordando este posible problema.

El equipo incluye al profesor asociado de Geografía Chengbin Deng, y a cuatro colegas más, incluyendo a Bo Zhao y Yifan Sun en la Universidad de Washington, y a Shaozeng Zhang y Chunxue Xu en la Universidad Estatal de Oregón.

La nueva investigación se publicó en Cartography and Geographic Information Science, titulada “Deep fake geography? When geospatial data encounter Artificial Intelligence”.

En el artículo, el equipo explora cómo se pueden construir y detectar imágenes satelitales falsas.

” Honestamente, probablemente seamos los primeros en reconocer este problema potencial”, dijo Deng.

Ciencia de la Información Geográfica (GIS) y GeoAI

La ciencia de la información geográfica (GIS) se utiliza para muchas aplicaciones diferentes, incluyendo la defensa nacional y los vehículos autónomos. A través del desarrollo de la Inteligencia Artificial Geoespacial (GeoAI), la tecnología de la inteligencia artificial ha tenido un impacto en el campo.

GeoAI utiliza el aprendizaje automático para extraer y analizar datos geoespaciales. Sin embargo, GeoAI también se puede utilizar para falsificar señales de GPS, información de ubicación en las redes sociales, fabricar fotografías de entornos geográficos y para una amplia variedad de otras aplicaciones peligrosas.

“Necesitamos mantener todo esto de acuerdo con la ética. Pero al mismo tiempo, los investigadores también necesitamos prestar atención y encontrar una forma de diferenciar o identificar esas imágenes falsas”, dijo Deng. “Con muchos conjuntos de datos, estas imágenes pueden parecer reales a la vista humana”.

Construyendo Imágenes Falsas

El primer paso para detectar una imagen construida artificialmente es construirla, por lo que el equipo se basó en la técnica común para crear deep fakes llamada Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN es un algoritmo de aprendizaje profundo no supervisado que puede simular medios sintéticos.

Las Redes Adversarias Generativas (GAN), que son un tipo de inteligencia artificial, requieren muestras de entrenamiento del contenido que se está programando para producir. Por ejemplo, la GAN podría generar contenido para un espacio vacío en un mapa determinando las diferentes posibilidades.

Los investigadores se propusieron alterar una imagen satelital de Tacoma, Washington, e intercalaron elementos de Seattle y Beijing mientras la hacían aparecer lo más realista posible. Sin embargo, los investigadores advierten contra tales tareas.

“No se trata de la técnica; se trata de cómo los seres humanos están utilizando la tecnología”, dijo Deng. “Queremos utilizar la tecnología para el bien, no para fines malos”.

Después de la creación, el equipo comparó 26 diferentes métricas de imagen para determinar si había alguna diferencia estadística entre las imágenes verdaderas y falsas, y registraron tales diferencias en 20 de las 26 indicadores (80%).

Las diferencias incluyeron el color de los techos, donde los colores en las imágenes reales eran uniformes, mientras que los de la imagen compuesta eran moteados. El equipo también encontró que la imagen satelital falsa era menos colorida y más oscura, pero también tenía bordes más definidos. Según Deng, las diferencias dependían de las entradas utilizadas para desarrollar la imagen falsa.

Esta investigación senta las bases para futuros trabajos, que podrían permitir a los geógrafos rastrear diferentes tipos de redes neuronales para ver cómo generan imágenes falsas, lo que también conduce a una mejor detección. El equipo dice que se necesitarán desarrollar métodos sistemáticos para detectar deep fakes y verificar información confiable en este campo.

“Todos queremos la verdad”, dijo Deng.