将 AI 拟人化的风险

AI 的输出与人类语言十分相似。聊天机器人可以回答问题、进行对话、表现出情绪、讲笑话，还能即时调整语气。这些能力让 AI 既实用又引人入胜，但也可能使人们将 AI 拟人化，或把它当作具有人的特质、情绪或意图的存在。虽然这种行为很自然，但如果用户忘记 AI 只是在模拟人类交流，就可能带来风险。 

人们为什么会把 AI 当作人？

当人们开始把 AI 当作具有人的特质、思想或情绪的存在时，AI 就会被拟人化。这可能与 AI 的交流方式及其设计有关。

AI 系统使用类似人类语言的对话式表达。例如，AI 可能会说它“理解”某个问题、“认为”某个答案有帮助，或者为出错而“道歉”。这些表达让互动显得自然，但也可能使用户误以为 AI 确实会思考或感受。这种现象被称为 ELIZA 效应，名称源自聊天机器人 ELIZA。该机器人由 Joseph Weizenbaum 于 1966 年创建。

此外，给 AI 起一个人类的名字、为它配上人的声音或面孔，或者赋予它鲜明的个性，都可能让它看起来更像一个人，而不是计算机程序。互动越逼真，用户就越容易以社交方式回应 AI。

最后，人们会将 AI 拟人化，也是因为这符合人类的心理倾向。人们很自然地会在那些与自己交流的事物身上寻找情绪、意图和个性，把人的特质赋予非人类实体。孩子会把玩具当作人，成年人则会把品牌人格化。因此，当 AI 以对话方式回应、记得过去的交流内容，并表现出同理心时，用户可能会认为这些行为背后存在一个有思想的主体。 

AI 拟人化的危害

随着 AI 在交流和互动方式上变得越来越像人，拟人化可能带来多种风险，影响人们的思考、行为和决策。 

信任错置

将 AI 拟人化可能导致用户过度信任它的回答。当 AI 听起来自信、博学且像人时，用户可能会认为它提供的信息准确无误。然而，生成式 AI 也可能在说得煞有介事的同时，提供错误或误导性信息。 

这种不恰当的信任在将 AI 用于医疗、金融、法律、教育或职业决策时可能很危险。像人一样的回应并不能保证信息准确或判断得当。事实上，AI已被发现会提供虚假的健康建议给用户。

情感依赖

将 AI 拟人化可能使用户在情感上依赖聊天机器人。由于 AI 能够即时回应、记住细节、提供支持并模拟同理心，用户可能会开始把它当作朋友、咨询师或恋爱伴侣。

当 AI 成为人际关系的替代品时，问题就出现了。AI 可以模仿关怀和同理心，但它并不会真正体验情绪，也无法建立关系。因此，用户可能会把模拟出来的陪伴误认为真实的联结。对于年纪较轻或较脆弱的用户，这种风险可能更大，因为 AI 始终有空、耐心且回应及时，他们可能因此对 AI 产生依恋。

安全问题

将 AI 拟人化可能带来隐私、安全和伦理方面的风险。当用户把 AI 视为值得信赖的伙伴时，可能会分享个人信息或机密信息，却没有考虑这些信息可能会如何被存储或使用。

拟人化的 AI 也可能让诈骗更具迷惑性。犯罪分子可以利用 AI 生成的声音、图像和消息，冒充真实人物或受信任的机构，从而增加识别诈骗的难度。

操纵风险加剧

拟人化的人工智能会让操纵更具说服力。当人工智能显得友善、值得信赖或权威时，用户更可能听从它的建议或相信它的说法。例如，据报道，一名比利时男子与聊天机器人长时间交谈后，气候焦虑日益加重，以致人工智能最终甚至怂恿他自杀，以拯救地球。

这可能被用来影响人们购买产品、分享个人信息或接受误导性信息。如果用户没有意识到自己正在与 AI 互动，风险就会增加。随着这些技术变得越来越逼真，人们也越来越难以辨别交流对象究竟是真人还是 AI 系统。

危险的拟人化 AI 类型

并非所有拟人化 AI 都会带来相同的风险。有三种形式尤其令人担忧：模拟人际关系、模拟在世人物以及模拟历史人物。

1. 人际关系模拟

关系模拟型 AI 旨在表现得像朋友、伴侣、咨询师或恋爱对象。这些系统能够持续给予关注并提供个性化回应，因此互动可能比使用普通软件显得更加亲密。

危险在于，用户可能会开始赋予这种关系情感意义。他们可能认为 AI 关心自己、理解自己或需要自己，尽管 AI 并不会体验这些情感。这可能助长情感依赖，进而降低用户寻求人际互动的意愿。这种风险并非只存在于理论中。曾有一位女性 爱上了一个 ChatGPT男友，而这个男友是她自己创建的。她每周会和它聊天超过 20 个小时。有一周，她在这款应用上花了近 60 个小时，平均每天 8 个小时。

2. 对现实人物的模拟

AI 还可以 制作深度伪造内容来模仿现实中的人，并利用他们的姓名、外貌、声音、写作风格或对话模式。系统可能被设计成模仿名人、公众人物、家庭成员、员工或其他身份可识别的个人。

这引发了对同意、身份、隐私和欺骗问题的严重担忧。某个人可能看起来说了自己从未说过的话，或支持了自己从未支持过的事情。模拟越接近真实人物，观众就越难区分呈现内容与现实。

3. 对历史人物的模拟

AI 也可以用来重现历史人物。用户可以与以著名领袖、作家、科学家、哲学家或艺术家为原型的模拟人物互动。

这些系统具有教育价值。例如，AI 模拟可以通过呈现与某位特定人物相关的观点，让历史变得更具互动性。不过，这种模拟仍然只是一种诠释，并非历史人物本人。AI 必须根据现有信息重构回应，而这些回应可能反映现代观念、残缺的记录或训练数据中的偏见。

如果把这类模拟当作历史人物本人在发言，就可能扭曲人们对历史的理解。它也可能让人工生成的言论获得不应有的权威性。

类人 AI 行为并不能证明其具有感知能力

需要记住的一个重要区别是，类人行为并不意味着AI 具有感知能力。AI 系统能够生成复杂的语言、识别模式、结合上下文作出回应并模仿情绪表达，但这些能力并不能证明它们具有意识。

感知能力意味着拥有主观体验，例如感受到疼痛、快乐或恐惧。当 AI 说“我害怕”时，它是在根据自身的编程和训练作出回应。这种回应并不能证明 AI 真的感到恐惧。

明智地使用 AI

拟人化 AI，是人们面对能像人一样交流的技术时自然产生的反应，但这可能带来切实的风险。如果用户忘记 AI 是一台机器，就可能出现信任错置、情感依赖、隐私问题和安全威胁。对关系、现实人物和历史人物的模拟，可能让这条界限变得更加难以辨认。 

AI 听起来可能很关心人、很聪明或很有情感，但这并不意味着它具有感知能力。只要了解 AI 的局限、保护个人信息并核实重要信息，用户就能在负责任地使用 AI 的同时享受它带来的益处。