新工具可以显示研究人员GANs从图像中省略的内容

最近，来自MIT-IBM沃森人工智能实验室的一组研究人员创建了一种方法来显示当生成图像时，生成性对抗网络会省略图像中的什么。该研究被称为看到GAN无法生成的内容，并在国际计算机视觉会议上发表。

生成性对抗网络在过去几年中变得更加强大、复杂和广泛使用。它们在渲染图像方面变得非常擅长，只要图像被限制在一个相对较小的区域内。然而，当GANs被用于生成较大场景和环境的图像时，它们往往不能很好地执行。 在GANs被要求渲染包含许多对象和项目的场景时，例如繁忙的街道，GANs经常会省略图像中的许多重要方面。

根据MIT新闻，该研究由麻省理工学院电气工程和计算机科学系的研究生David Bau开发。Bau解释说，研究人员通常专注于改进机器学习系统的注意力并确定如何将某些输入映射到某些输出。然而，Bau还解释说，了解机器学习模型忽略的数据通常同样重要，并且研究团队希望他们的工具能够激励研究人员关注被忽略的数据。

Bau对GANs的兴趣是由它们能够用来调查神经网络的黑盒性质以及了解网络如何推理而激发的。Bau之前曾经从事过一个可以识别特定人工神经元集群的工具，将它们标记为负责表示现实世界对象（如书籍、云和树）。Bau还曾经使用过一个名为GANPaint的工具，它使艺术家能够通过使用GANs从照片中添加和删除特定的功能。根据Bau的说法，GANPaint应用程序揭示了GANs的一个潜在问题，当Bau分析图像时，该问题变得明显。 正如Bau告诉MIT新闻的那样：

“我的导师一直鼓励我们超越数字并审查实际图像。当我们审查时，现象跳了出来：人们被有选择性地删除。”

虽然机器学习系统旨在从图像中提取模式，但它们也可能最终忽略相关模式。Bau和其他研究人员尝试在各种室内和室外场景中训练GANs，但在所有不同类型的场景中，GANs都省略了重要的细节，例如汽车、道路标志、人、自行车等。这即使被省略的对象对于场景至关重要也是如此。

研究团队假设，当GAN在图像上进行训练时，GAN可能会更容易捕捉图像中更容易表示的模式，例如大型静止物体，如风景和建筑。它学习这些模式，而不是更难解释的模式，例如汽车和人。众所周知，GANs经常省略重要、有意义的细节，但来自MIT团队的研究可能是第一次证明GANs在图像中省略整个对象类别。

研究团队指出，GANs即使省略了人类在查看图像时关心的对象，也可能实现其数字目标。如果由GANs生成的图像将用于训练复杂系统（如自动驾驶汽车），则图像数据应仔细审查，因为有一个真正的问题，即重要的对象，如标志、人和其他汽车，可能会被省略。Bau解释说，他们的研究表明，模型的性能不应仅基于准确性：

“我们需要了解网络正在做什么和不做什么，以确保它们做出我们希望它们做出的选择。”