研究团队开发出比较神经网络的新方法

洛斯阿拉莫斯国家实验室的一组研究人员开发出了一种比较神经网络的新方法。根据该团队的说法，这种新方法可以深入到人工智能（AI）的“黑盒”中，并帮助他们了解神经网络的行为。神经网络可以在数据集中识别模式，广泛应用于人脸识别系统、自动驾驶汽车等领域。

该团队在不确定性人工智能会议上发表了他们的论文，题为《如果你训练了一个，你就训练了所有：跨架构相似性随着鲁棒性增加》。

海登·琼斯是洛斯阿拉莫斯高级研究组的研究员，也是该研究论文的首席作者。

更好地理解神经网络

“人工智能研究社区并不完全理解神经网络的工作原理；它们给我们带来良好的结果，但我们不知道为什么和如何，”琼斯说。“我们的新方法可以更好地比较神经网络，这是更好地理解人工智能背后的数学原理的关键一步。

这项新研究还将在帮助专家了解鲁棒神经网络的行为方面发挥作用。

虽然神经网络具有高性能，但它们也很脆弱。小的条件变化，例如被部分遮挡的停车标志被自动驾驶汽车处理时，可能会导致神经网络错误识别标志。这意味着它可能永远不会停止，这可能很危险。

对抗训练神经网络

研究人员试图通过研究改进网络鲁棒性的方法来改进这些类型的神经网络。其中一种方法涉及在训练过程中“攻击”网络，在训练人工智能忽略异常时故意引入异常。这种过程被称为对抗训练，使得网络更难被欺骗。

该团队将新的网络相似性度量应用于对抗训练的神经网络。他们惊讶地发现，对抗训练会使计算机视觉领域的神经网络在攻击的幅度增加时收敛到相似的数据表示，无论网络架构如何。

“我们发现，当我们训练神经网络对抗对抗攻击时，它们开始做同样的事情，”琼斯说。

这并不是专家第一次尝试找到神经网络的完美架构。然而，新的发现表明，引入对抗训练大大缩小了差距，这意味着人工智能研究社区可能不需要探索那么多新的架构，因为现在已经知道对抗训练会使不同的架构收敛到相似的解决方案。

“通过发现鲁棒的神经网络彼此相似，我们使得理解鲁棒人工智能的工作原理变得更容易，”琼斯说。“我们甚至可能揭示了人类和其他动物如何感知的线索。”