研究人员探索在地理中检测深度伪造的方法

您能相信智能手机上的地图或计算机屏幕上的卫星图像吗?到目前为止，是的，但“深度造假”这一日益严重的问题与地理信息科学 (GIS) 融合可能只是时间问题。地理学副教授邓成斌等研究人员正在尽其所能地提前解决这个问题。

邓和四位同事——华盛顿大学的 Bo Zhao 和 Yifan Sun，以及俄勒冈州立大学的 Shaozeng Zhang 和 Chunxue Xu——最近在制图和地理信息科学领域共同撰写了一篇探讨这个问题的文章。在“深度虚假地理?当地理空间数据遇到人工智能”中，他们探索了如何构建和检测虚假卫星图像。包括、、德国和法国在内的世界各国都报道了这项研究的消息。

“老实说，我们可能是第一个意识到这个潜在问题的人，”邓说。

地理信息科学 (GIS) 是一系列应用的基础，从国防到自动驾驶汽车，这项技术目前正在开发中。人工智能通过地理空间人工智能 (GeoAI) 的发展对该学科产生了积极影响，地理空间人工智能 (GeoAI) 使用机器学习或人工智能 (AI) 来提取和分析地理空间数据。但这些相同的方法有可能被用来制作 GPS 信号、社交媒体帖子上的虚假位置信息、制作地理环境照片等等。

简而言之，可以改变照片或视频中个人面孔的相同技术也可用于制作所有类型的假图像，包括地图和卫星图像。

“我们需要让这一切符合伦理。但同时，我们研究人员也需要注意并找到一种方法来区分或识别那些假图像，”邓说。“有了大量数据集，这些图像在人眼看来是真实的。”

要弄清楚如何检测人工构建的图像，首先需要构建一个。为此，他们使用了一种在创建深度伪造时常见的技术：循环一致对抗网络 (CycleGAN)，这是一种可以模拟合成媒体的无监督深度学习算法。

生成对抗网络 (GAN) 是一种人工智能，但它们需要训练样本——输入——它们被编程为生成的任何内容。例如，地图上的黑框可以代表任意数量的不同工厂或企业;输入网络的各种信息点有助于确定它可以产生的可能性。

研究人员修改了华盛顿州塔科马的卫星图像，穿插了西雅图和北京的元素，使其看起来尽可能真实。研究人员并不鼓励任何人自己尝试这样的事情——事实上恰恰相反。

“这与技术无关，而与人类如何使用技术有关，”邓说。“我们希望将技术用于好的方面，而不是用于坏的目的。”

在创建修改后的合成后，他们比较了 26 个不同的图像指标，以确定真假图像之间是否存在统计差异。26 项指标中的 20 项存在统计差异，占 80%。

例如，一些差异包括屋顶的颜色;虽然每个真实图像中的屋顶颜色都是统一的，但它们在合成中却是斑驳的。假卫星图像也更暗、色彩更少，但边缘更清晰。然而，邓警告说，这些差异取决于他们用来制造假货的输入。

这项研究仅仅是个开始。未来，地理学家可能会跟踪不同类型的神经网络，以了解它们如何生成虚假图像并找出检测它们的方法。最终，研究人员需要找到系统的方法来根除深度造假并验证可信信息，以免它们最终出现在公众视野中。

“我们都想要真相，”邓说。

标签： 地理中检测深度伪造