新研究揭示人机信任的真相

由美国陆军研究实验室和佛罗里达中央大学模拟和训练研究所共同领导的新研究，揭示了人类对机器人的信任程度。该项目重点研究了人类和机器人之间的关系，以及人类是否更看重机器人的推理过程还是其错误。

这项新研究探讨了人机团队（HAT）的概念，以及人类如何看待代理人的透明度，例如机器人、无人驾驶车辆和软件代理。代理人的透明度是指人类能够理解代理人的意图、推理过程和未来计划。

研究结果表明，人类对机器人的信任会降低，当机器人犯错时，无论机器人是否透明地解释其推理过程。

这项研究发表在八月份的《IEEE 人机系统交易》杂志上，题为“代理透明度和可靠性在人机交互中：对用户信心和可靠性感知的影响”。

传统的研究通常使用完全可靠的智能代理，不会犯错。但这项新研究探讨了代理透明度与代理可靠性之间的关系。研究中，机器人在人类观察下犯错，人类被要求评估机器人的可靠性。在整个过程中，人类被提供了机器人的推理过程。

朱莉娅·赖特博士是该项目的首席研究员，她是美国陆军战斗能力发展司令部陆军研究实验室的研究员。

“了解机器人行为如何影响其人类队友对于开发有效的人机团队至关重要，也是设计接口和通信方法之间的关键因素，”她说。“这项研究有助于美国陆军的多域作战努力，确保人工智能能力的优势。但这项研究也是跨学科的，其发现将为心理学家、机器人工程师、工程师和系统设计师提供参考，他们正在努力促进人类和自主代理之间的理解，以使自主代理成为队友，而不仅仅是工具。”

这项新研究是更大项目的一部分，称为自主小队成员（ASM）项目，由国防部长办公室的自主研究试点计划资助。ASM是一种实际的小型地面机器人，用于步兵小队中，可以与小队进行通信和交互。

研究中，参与者观察了人类-代理士兵团队在模拟环境中。ASM是团队的一部分，移动通过训练课程。观察者的任务是监控团队并评估机器人。在训练课程中，团队遇到了各种事件和障碍。士兵能够正确地导航每一个，但有时机器人无法理解障碍并犯错。机器人有时会分享其行为背后的推理过程和预期结果。

研究发现，参与者更关注机器人的错误，而不是机器人行为背后的逻辑和推理过程。机器人的可靠性在参与者的信任和感知中起着重要作用。当机器人犯错时，观察者会评估其可靠性较低。

当代理透明度增加时，或者当机器人分享其决策背后的推理过程和逻辑时，信任和可靠性会增加。但是，即使机器人分享了其推理过程，信任和可靠性仍然低于从未犯错的机器人。这表明，分享推理过程和逻辑可以帮助解决机器人信任和可靠性问题。

“早期研究表明，背景对于确定透明度信息的有用性至关重要，”赖特说。“我们需要更好地理解哪些任务需要更深入地理解代理的推理过程，以及如何确定这种深度。未来的研究应该探索如何根据任务需求提供透明度信息。”

这项新研究在该领域将发挥关键作用，因为人类和机器人之间的交互越来越多。其中最重要的领域之一将是军事领域。正如这些演习所示，机器人和士兵最终将并肩作战。就像士兵需要信任其他士兵一样，机器人也需要获得信任。如果能够实现这一点，机器人将成为步兵小队中的常见成员，这将是人工智能渗透国防行业的另一个例子。