信任与欺骗：道歉在人机交互中的作用

机器人欺骗是一个研究较少的领域，特别是在机器人被发现撒谎后如何重建信任方面，问题远多于答案。乔治亚理工学院的两名学生研究人员Kantwon Rogers和Reiden Webber正在通过调查机器人故意欺骗如何影响信任以及道歉在修复信任方面的有效性来寻找答案。

Rogers，计算机学院的博士生，解释说：

“我们之前的所有工作都表明，当人们发现机器人对他们撒谎时——即使谎言是为了让他们受益——他们也会失去对系统的信任。”

研究人员旨在确定在人机交互的背景下，是否有不同类型的道歉更有效地恢复信任。

人工智能辅助驾驶实验及其影响

这对研究人员设计了一个驾驶模拟实验，以研究人工智能交互在高风险、时间敏感的情况下的情况。他们招募了341名在线参与者和20名现场参与者。模拟涉及人工智能辅助驾驶场景，人工智能提供了关于到医院路线上有警察的虚假信息。模拟结束后，人工智能提供了五种不同类型的基于文本的响应，包括各种类型的道歉和非道歉。

结果显示，参与者在被机器人助手建议时不超过速限的可能性是3.5倍，表明他们对人工智能过度信任。没有一种道歉类型能够完全恢复信任，但简单的道歉（“我很抱歉”）在没有承认撒谎的情况下比其他响应更有效。这个发现很有问题，因为它利用了人们预先认为机器人提供的任何虚假信息都是系统错误而不是故意撒谎的观念。

Reiden Webber指出：

“一个关键的收获是，为了让人们了解机器人欺骗了他们，他们必须被明确告知。”

当参与者被告知欺骗的道歉时，修复信任的最佳策略是机器人解释为什么它撒谎。

展望未来：对用户、设计师和政策制定者的影响

这项研究对普通技术用户、人工智能系统设计师和政策制定者都有影响。人们必须了解机器人欺骗是真实的，总是有可能发生。设计师和技术人员必须考虑创建能够欺骗的人工智能系统的影响。政策制定者应该在创新和保护公众之间取得平衡的立法方面发挥领导作用。

Kantwon Rogers的目标是创建一个可以学习何时撒谎、何时不撒谎的机器人系统，当与人类团队合作时，以及在长期、重复的人机交互中何时和如何道歉，以提高团队绩效。

他强调了理解和规范机器人和人工智能欺骗的重要性，说：

“我的工作目标是非常积极和告知规范机器人和人工智能欺骗的需要。但是，如果我们不了解这个问题，我们就无法做到这一点。”

这项研究为人工智能欺骗领域贡献了至关重要的知识，并为技术设计师和政策制定者提供了宝贵的见解，他们创建和监管能够欺骗或可能自行学习欺骗的人工智能技术。