信任与欺骗：机器人与人类交互中道歉的作用

机器人欺骗是一个研究较少的领域，特别是在机器人被发现撒谎后重建对机器人系统的信任方面。乔治亚理工学院的两名学生研究人员Kantwon Rogers和Reiden Webber正在尝试通过研究故意机器人欺骗如何影响信任以及道歉在修复信任方面的有效性来找到这个问题的答案。

Rogers，计算机学院的博士生，解释说：

“我们之前的所有工作都表明，当人们发现机器人对他们撒谎时，即使谎言是为了让他们受益，他们也会失去对系统的信任。”

研究人员旨在确定在人机交互的背景下，什么类型的道歉更有效地恢复信任。

人工智能辅助驾驶实验及其影响

这对搭档设计了一个驾驶模拟实验来研究人工智能辅助驾驶场景中的人机交互。在高风险、时间敏感的情况下，他们招募了341名在线参与者和20名现场参与者。模拟涉及一个人工智能辅助驾驶场景，人工智能提供了关于路线上警察存在的虚假信息。模拟后，人工智能提供了五种不同类型的基于文本的响应，包括各种类型的道歉和非道歉。

结果显示，参与者在被机器人助手建议时不超过速限的可能性是3.5倍，表明他们对人工智能过度信任。没有任何一种道歉类型能够完全恢复信任，但简单的道歉（“我很抱歉”）在没有承认撒谎的情况下比其他响应更有效。这个发现很有问题，因为它利用了人们预先认为机器人提供的任何虚假信息都是系统错误而不是故意撒谎的观念。

Reiden Webber指出：

“一个关键的收获是，为了让人们了解机器人欺骗了他们，他们必须被明确告知。”

当参与者被告知道歉中存在欺骗时，修复信任的最佳策略是机器人解释为什么它撒谎。

向前迈进：对用户、设计师和政策制定者的影响

这项研究对普通技术用户、人工智能系统设计师和政策制定者都有影响。人们必须了解机器人欺骗是真实的，并且始终存在这种可能性。设计师和技术人员必须考虑创建能够欺骗的人工智能系统的影响。政策制定者应该在创新和保护公众之间取得平衡，制定相关立法。

Kantwon Rogers的目标是创建一个可以学习何时撒谎、何时不撒谎的机器人系统，以及在长期、重复的人机交互中何时和如何道歉，以增强团队表现。

他强调了解和规范机器人和人工智能欺骗的重要性，说：

“我的工作目标是非常积极和告知人们需要规范机器人和人工智能欺骗。但是我们不能做到这一点，如果我们不了解这个问题。”

这项研究为人工智能欺骗领域提供了至关重要的知识，并为创造和规范能够欺骗或可能自行学习欺骗的人工智能技术的技术设计师和政策制定者提供了宝贵的见解。