“深度伪造”可能很快就会出现在地理学中

人们对“深度伪造”的担忧开始扩展到其他领域，例如地理信息科学（GIS）。宾汉姆顿大学的研究人员现在开始解决这个潜在的问题。

该团队包括地理学副教授程斌（Chengbin Deng）和四位其他同事，包括华盛顿大学的赵博（Bo Zhao）和孙逸凡（Yifan Sun），以及俄勒冈州立大学的张绍增（Shaozeng Zhang）和徐春雪（Chunxue Xu）。

这项新研究发表在《制图与地理信息科学》杂志上，题为“深度伪造的地理？当地理空间数据遇到人工智能时”。

在论文中，团队探讨了如何构造和检测虚假卫星图像。

“说实话，我们可能是第一个认识到这个潜在问题的人，”邓说。

地理信息科学（GIS）和GeoAI

地理信息科学（GIS）被用于许多不同的应用，包括国家防御和自动驾驶汽车。通过GeoAI的发展，人工智能技术对该领域产生了影响。

GeoAI使用机器学习来提取和分析地理空间数据。然而，GeoAI也可以被用于伪造GPS信号、社交媒体上的位置信息、地理环境的虚假照片，以及其他许多危险的应用。

“我们需要保持所有这些与道德的一致性。但同时，我们研究人员也需要注意并找到一种方法来区分或识别那些虚假图像，”邓说。“有很多数据集，这些图像看起来对人类的眼睛来说是真实的。”

构造虚假图像

检测人工构造图像的第一步是构造一个这样的图像，因此团队依赖于创建深度伪造的常用技术——循环一致对抗网络（CycleGAN）。CycleGAN是一种无监督的深度学习算法，可以模拟合成媒体。

生成对抗网络（GAN），一种人工智能，需要训练样本来产生内容。例如，GAN可以通过确定不同可能性来生成地图上空白区域的内容。

研究人员试图修改华盛顿州塔科马市的卫星图像，并将西雅图和北京的元素交织在一起，使其看起来尽可能真实。然而，研究人员警告不要进行这样的任务。

“这不是关于技术的问题，而是关于人类如何使用技术的问题，”邓说。“我们希望使用技术做好事，而不是做坏事。”

在创建图像后，团队比较了26个不同的图像指标，以确定真实和虚假图像之间是否存在统计差异，并且在20个指标中发现了差异（80%）。

差异包括屋顶的颜色，在真实图像中颜色是统一的，而在合成图像中颜色是斑驳的。团队还发现虚假卫星图像的颜色较少且更暗，但边缘更清晰。根据邓的说法，差异取决于用于开发虚假图像的输入。

这项研究为进一步的工作奠定了基础，这项工作可能使地理学家能够跟踪不同类型的神经网络，以查看它们如何生成虚假图像，这也将带来更好的检测。团队表示，需要开发系统方法来检测深度伪造并验证该领域的可靠信息。

“我们都想要真相，”邓说。