机器人剥削是普遍的还是文化依赖的？

日本人对合作式人工智能代理的尊重程度与他们对人类的尊重程度相同，而美国人则更有可能为了个人利益而剥削人工智能，根据来自慕尼黑路德维希·马克西米利安大学和东京早稻田大学的研究人员在《科学报告》上发表的一项新研究。该研究表明，随着自主驾驶汽车和其他人工智能自主机器人越来越多地融入日常生活，文化态度可能会决定这些技术在不同社会中被采用的速度和成功程度。

随着自主驾驶技术成为现实，这些日常遭遇将定义我们如何与智能机器共享道路，慕尼黑路德维希·马克西米利安大学的首席研究员Jurgis Karpus博士在研究中表示。

该研究代表了人类与人工智能代理在利益不总是相同的场景中相互作用的首批全面跨文化研究。研究结果挑战了算法剥削——即利用合作式人工智能的倾向——是一种普遍现象的假设。

研究结果表明，随着自主技术变得更加普遍，不同社会可能会根据其对人工智能的文化态度而经历不同的整合挑战，从而对经济和社会产生深远的影响。

人机合作中的文化差异

研究人员使用经典的行为经济学实验——信任游戏和囚徒困境——来比较日本和美国的参与者如何与人类合作伙伴和人工智能系统进行互动。

在这些游戏中，参与者在自利和互利之间做出选择，并有真正的经济激励来确保他们做出真正的决定，而不是假设性的决定。这种实验设计使研究人员能够直接比较参与者如何对待人类和人工智能在相同场景中的行为。

游戏被仔细设计成复制日常情况，包括交通场景，人类必须决定是否与其他代理合作或剥削。参与者玩了多轮游戏，有时与人类合作伙伴，有时与人工智能系统，这使得他们的行为可以直接比较。

研究报告指出，美国的参与者与人工智能合作的程度明显低于与人类合作的程度，而日本的参与者则表现出与人类和人工智能合作伙伴相同的合作水平。

Karpus, J., Shirai, R., Verba, J.T. et al.

内疚是文化差异的关键因素

研究人员提出，内疚的差异是观察到的文化变异的主要驱动因素，即人们如何对待人工智能代理。

研究发现，西方人，特别是美国人，当他们剥削其他人类时会感到后悔，但当他们剥削机器时则不会。相比之下，日本人似乎会在对待人类和人工智能代理时经历类似的内疚感。

Karpus博士解释说，在西方思维中，切断机器人在交通中的道路不会伤害他们的感情，这种观点可能会导致人们更愿意剥削机器。

该研究包括一个探索性部分，参与者在游戏结果被揭示后报告了他们的情绪反应。这些数据提供了对行为差异的根本心理机制的关键见解。

情绪反应揭示了更深层次的文化模式

当参与者剥削合作式人工智能时，日本参与者报告了显著更多的负面情绪（内疚、愤怒、失望）和较少的正面情绪（幸福、胜利、宽慰），与他们的美国同行相比。

研究发现，日本的参与者在剥削人工智能合作伙伴时感到的内疚感明显高于美国的参与者。这种更强的情绪反应可能解释了日本参与者不愿剥削人工智能代理的原因。

相反，美国人在剥削人类时感到的负面情绪比剥削人工智能时要多，这种区别在日本参与者中没有被观察到。对于日本人来说，无论他们是否剥削了人类或人工智能代理，情绪反应都是相同的。

该研究指出，日本参与者对剥削人类和人工智能合作伙伴的态度相同，表明与西方态度相比，他们对人工智能代理有着根本不同的道德认知。

拟人论与对机器人的认知

日本的文化和历史背景可能在这些发现中发挥了重要作用，提供了对观察到的行为差异的潜在解释，特别是在人工智能和嵌入式人工智能的背景下。

该论文指出，日本对拟人论的历史亲和力和在佛教中认为非活物可以拥有灵魂的信念，导致了日本人比其他文化更接受和关心机器人的假设。

这种文化背景可能为人工智能代理的认知创造了一个根本不同的起点。在日本，人类和非人类实体之间可能没有明显的区别。

研究表明，日本人比美国人更倾向于相信机器人可以体验情绪，并更愿意接受机器人作为人类道德判断的对象。

该论文中引用的研究表明，日本人更倾向于将人工智能代理视为与人类类似，机器人和人类经常被描绘为伙伴而不是等级关系。这可能解释了为什么日本参与者在情感上对待人工智能代理和人类的方式相同。

自主技术采用的影响

这些文化态度可能会直接影响自主技术在不同地区被采用的速度，并可能对经济和社会产生深远的影响。

Karpus博士推测，如果日本人像对待人类一样尊重机器人，完全自主的出租车可能会比在西方城市如柏林、伦敦或纽约更快地在东京普及。

在某些文化中，剥削自主车辆的意愿可能会为其在社会中的顺利整合带来实际挑战。如果司机更有可能切断自主车辆的道路，抢占他们的路权，或者以其他方式剥削他们的编程谨慎，这可能会阻碍这些系统的效率和安全性。

研究人员建议，这些文化差异可能会显著影响交付无人机、自主公共交通和自主个人车辆等技术的广泛采用的时间表。

有趣的是，该研究发现日本和美国参与者在与其他人类合作方面几乎没有差异，与行为经济学的前期研究一致。

该研究观察到日本和美国参与者在与其他人类合作方面的意愿几乎没有差异。这一发现强调了差异的产生是特定于人机交互的背景，而不是反映更广泛的文化差异在合作行为方面。

这种人类间合作的稳定性为研究的结论提供了一个重要的基线，即观察到的模式的独特性得到了加强。

人工智能开发的更广泛影响

该研究的发现对设计和部署与人类交互的人工智能系统具有重要意义，尤其是在不同的文化背景下。

研究强调了在设计和实施与人类交互的人工智能系统时考虑文化因素的关键性。人们对人工智能的认知和交互方式并非普遍，可能会在不同文化中有显著差异。

忽视这些文化细微差别可能会导致意想不到的后果，采用速度变慢，以及在某些地区对人工智能技术的滥用或剥削的可能性。它强调了跨文化研究在理解人机交互和确保人工智能全球负责任的开发和部署方面的重要性。

研究人员建议，随着人工智能越来越多地融入日常生活，了解这些文化差异将变得越来越重要，以便成功实施需要人类和人工智能代理之间合作的技术。

局限性和未来研究方向

研究人员承认他们的工作中存在某些局限性，这些局限性指出了未来研究的方向。

该研究主要关注了两个国家——日本和美国——虽然这为我们提供了宝贵的见解，但可能无法捕捉到全球人机交互的全部文化变异。需要在更广泛的文化范围内进行进一步的研究，以概括这些发现。

此外，虽然游戏理论实验提供了适合比较研究的受控场景，但它们可能无法完全捕捉现实世界中人机交互的复杂性。研究人员建议，在实际自主技术的现场研究中验证这些发现将是一个重要的下一步。

基于内疚和对机器人的文化信念的解释虽然得到了数据的支持，但需要进一步的实证研究来确定因果关系。研究人员呼吁进行更多有针对性的研究，以研究这些文化差异的根本心理机制。

“我们的研究结果使这些结果的普遍性变得温和，并表明算法剥削并不是一种跨文化现象，”研究人员总结道。