‘Falsificações profundas’ Podem Em Breve Entrar na Geografia

As preocupações com ‘falsificações profundas’ estão começando a se expandir para outras áreas, como a ciência da informação geográfica (GIS). Pesquisadores da Universidade de Binghamton estão agora começando a abordar esse problema potencial.

A equipe inclui o Professor Associado de Geografia Chengbin Deng, e quatro outros colegas, incluindo Bo Zhao e Yifan Sun, da Universidade de Washington, e Shaozeng Zhang e Chunxue Xu, da Universidade Estadual do Oregon.

A nova pesquisa foi publicada em Cartografia e Ciência da Informação Geográfica, intitulada “Falsificações profundas de geografia? Quando dados geoespaciais encontram Inteligência Artificial.”

No artigo, a equipe explora como imagens de satélite falsas podem ser construídas e detectadas.

“Francamente, provavelmente somos os primeiros a reconhecer esse problema potencial”, disse Deng.

Ciência da Informação Geográfica (GIS) e GeoAI

A ciência da informação geográfica (GIS) é usada para muitas aplicações diferentes, incluindo defesa nacional e veículos autônomos. Através do desenvolvimento da Inteligência Artificial Geoespacial (GeoAI), a tecnologia de IA fez um impacto no campo.

O GeoAI usa aprendizado de máquina para extrair e analisar dados geoespaciais. No entanto, o GeoAI também pode ser usado para falsificar sinais de GPS, informações de localização em mídias sociais, fabricar fotografias de ambientes geográficos e para uma ampla gama de outras aplicações perigosas.

“Precisamos manter tudo isso de acordo com a ética. Mas, ao mesmo tempo, nós pesquisadores também precisamos prestar atenção e encontrar uma maneira de diferenciar ou identificar essas imagens falsas”, disse Deng. “Com muitos conjuntos de dados, essas imagens podem parecer reais para o olho humano.”

Construindo Imagens Falsas

O primeiro passo para detectar uma imagem artificialmente construída é construí-la, então a equipe confiou na técnica comum para criar falsificações profundas chamada Redes Adversárias Ciclo-Consistentes (CycleGAN). O CycleGAN é um algoritmo de aprendizado profundo não supervisionado que pode simular mídia sintética.

Redes Adversárias Generativas (GAN), que são um tipo de IA, exigem amostras de treinamento do conteúdo que estão sendo programadas para produzir. Por exemplo, a GAN pode gerar conteúdo para um espaço vazio em um mapa, determinando as diferentes possibilidades.

Os pesquisadores se propuseram a alterar uma imagem de satélite de Tacoma, Washington, e eles entrelaçaram elementos de Seattle e Pequim, enquanto faziam com que parecesse o mais realista possível. No entanto, os pesquisadores advertiram contra tais tarefas.

“Não é sobre a técnica; é sobre como os seres humanos estão usando a tecnologia”, disse Deng. “Queremos usar a tecnologia para o bem, não para fins ruins.”

Após a criação, a equipe comparou 26 diferentes métricas de imagem para determinar se havia alguma diferença estatística entre as imagens verdadeiras e falsas, e eles registraram tais diferenças em 20 das 26 indicações (80%).

As diferenças incluíam a cor dos telhados, onde as cores nas imagens reais eram uniformes, enquanto as imagens compostas eram manchadas. A equipe também encontrou que a imagem de satélite falsa era menos colorida e mais escura, mas também tinha bordas mais nítidas. De acordo com Deng, as diferenças dependiam das entradas usadas para desenvolver a falsa.

Essa pesquisa estabelece a base para trabalhos futuros, que poderiam permitir que geógrafos rastreassem diferentes tipos de redes neurais para ver como elas geram imagens falsas, o que também leva a uma melhor detecção. A equipe afirma que métodos sistemáticos precisarão ser desenvolvidos para detectar falsificações profundas e verificar informações confiáveis nesse campo.

“Todos queremos a verdade”, disse Deng.