研究显示 AI 模型不匹配人类视觉处理

约克大学的一项新研究表明，深度卷积神经网络（DCNNs）不使用配置形状感知来匹配人类视觉处理。研究的共同作者詹姆斯·埃尔德教授（Professor James Elder）指出，这可能对 AI 应用程序具有严重和危险的现实影响。

这项新研究题为“深度学习模型未能捕捉人类形状感知的配置性质”，已发表在 Cell Press 期刊 iScience 上。

这是一项由埃尔德和约克大学助理心理学教授、前 VISTA 博士后研究员尼古拉斯·贝克（Nicholas Baker）共同完成的研究。埃尔德同时担任约克大学人机视觉研究椅位和约克大学 AI 与社会中心的共同主任。

新型视觉刺激“弗兰肯斯坦”

研究团队使用了一种新型视觉刺激，称为“弗兰肯斯坦”，以探索人类大脑和 DCNNs 如何处理整体、配置的物体属性。

“弗兰肯斯坦只是被拆开并重新组装成错误形式的物体，”埃尔德说。“因此，它们具有所有正确的局部特征，但位置不正确。”

研究发现，DCNNs 不像人类视觉系统那样被弗兰肯斯坦混淆。这表明 DCNNs 对配置物体属性不敏感。

“我们的结果解释了为什么深度 AI 模型在某些条件下会失败，并表明需要考虑超越物体识别的任务，以便了解大脑中的视觉处理，”埃尔德继续说。“这些深度模型在解决复杂识别任务时往往会找到捷径。虽然这些捷径在许多情况下可能有效，但在我们目前与行业和政府合作伙伴合作的某些现实世界 AI 应用中，它们可能会带来危险。”

图片：约克大学

现实世界的影响

埃尔德说，这些应用程序之一是交通视频安全系统。

“在繁忙的交通场景中，车辆、自行车和行人会相互遮挡，并以一堆断开的碎片的形式出现在司机的视野中，”他说。“大脑需要正确地将这些碎片分组，以识别物体的正确类别和位置。仅能感知个别碎片的 AI 交通安全监控系统将无法完成此任务，可能会误解对弱势道路使用者的风险。”

研究人员还说，修改训练和架构以使网络更像大脑的尝试并没有实现配置处理。没有任何网络能够准确预测人類對物體的判斷。

“我们推测，要匹配人类的配置敏感性，网络必须被训练来解决超越类别识别的更广泛的物体任务，”埃尔德总结说