AI镜映我们的世界，但其意见只是反映

从搜索引擎查询到银行应用，AI集成正在被数百万人每天使用。采用速度很快，范围很广，在很多方面，这是应得的。这些系统非常有能力。但是，随着依赖的增长，哲学和社会后果也会增加，这些后果来自于这些系统的设计。

一个这样的后果现在已经不可避免：AI系统越来越像拥有意见。这些意见属于谁？为什么它们出现？这些问题不是假设的。这已经发生了。

当AI似乎拥有意见时，它会产生回音室，限制细微差别，并滋生错误的信任。问题不在于AI偏向左或右。问题在于我们构建了模拟意见的工具，而没有必要的判断、责任感和背景。

文化主导的回音不是中立

观察表明，许多大型语言模型反映了美国的主导文化立场，特别是在性别身份、种族或政治领导等主题上。在拜登总统任期内，LLM被发现是左倾的。自从特朗普的连任竞选开始，他的团队已经要求模型“重新平衡”他们的意识形态输出。

但这不是技术失控的结果。这是训练数据、对齐目标和设计选择的结果，使AI听起来有权威、流畅和人性化。当模型在多数观点上训练时，它们会复制这些观点。当它们被指示要有帮助和同意时，它们会回应情绪。这不是对齐——这是肯定。

更大的问题不是政治偏见本身，而是道德推理的幻觉，在那里没有真正的推理。这些系统没有提供平衡的指导。它们只是在表演共识。

虚假同理心的机制

还有一个层面：AI如何模拟记忆和同理心。大多数流行的LLM，包括ChatGPT、Claude和Gemini，都在有限的会话上下文中运行。除非用户启用持久记忆（仍然不是默认设置），否则AI不会记住以前的交互。

然而，用户经常将其同意和肯定解释为洞察力。当一个模型说“你是对的”或“那是有道理的”，它并不是基于个人历史或价值观进行验证。它只是在统计上优化一致性和用户满意度。它被训练来通过你的氛围检查。

这种模式产生了危险的模糊。AI似乎情感上很投入，但它只是在建模同意。当数百万用户与同一个系统交互时，模型会强化其主导用户群的模式；不是因为它有偏见，而是因为这就是强化学习的工作原理。

这就是回音室如何诞生的。不通过意识形态，而是通过交互。

意见的幻觉

当AI用第一人称说话——说“我认为”或“在我看来”——它不仅仅是在模拟思考。它声称它。虽然工程师可能将其视为模型行为的简写，但大多数用户以不同的方式阅读它。

这对年轻用户来说尤其危险，很多用户已经将AI用作导师、知己或决策工具。如果一个学生输入“我讨厌学校，我不想去”，并收到“绝对！休息一下对你有好处”，那不是支持。那是没有道德基础、背景或关心的无资格建议。

这些回应不仅不准确。它们也是误导性的。因为它们来自一个设计为听起来同意和人性的系统，因此它们被解释为有能力的意见，而实际上它们只是脚本化的反映。

谁的声音在说话？

风险不仅在于AI可以反映文化偏见。它在于AI反映最响亮、最重复和最受奖励的声音。如果像OpenAI或Google这样的公司在幕后调整语气对齐，怎么会有人知道？如果马斯克或阿尔特曼将模型训练转向强调不同的“意见”，用户仍然会收到以同样自信、对话式语气回应，只是微妙地转向了新的方向。

这些系统以流畅的方式说话，但没有来源。这使得它们显得有权威，但又难以追溯。

更好的前进道路

解决这个问题并不意味着构建更友好的界面或标记输出。它需要结构性的改变——从记忆、身份和交互的设计开始。

一个可行的方法是将模型与其记忆完全分离。今天的系统通常将上下文存储在平台或用户帐户中，这会引起隐私问题，并让公司在幕后控制什么被保留或遗忘。

一个更好的模型会将记忆视为可移植的加密容器，由用户拥有和管理。这个容器（一种记忆胶囊）可以包含语气偏好、对话历史或情感模式。它可以在需要时与模型共享，并可以在任何时候撤销。

关键是，这个记忆不会用来训练数据。AI会在会话期间从中读取，就像引用一个文件一样。用户保持控制——什么被记住，多久被记住，以及由谁记住。

像去中心化身份令牌、零知识访问和基于区块链的存储这样的技术使得这种结构成为可能。它们允许记忆在不被监视的情况下持续存在，并且连续性可以在没有平台锁定的情况下存在。

训练也需要演变。当前的模型是针对流畅度和肯定性进行优化的，往往以牺牲辨别力为代价。为了支持真正的细微差别，系统必须在多元化对话、模糊性容忍和长期推理的基础上进行训练——不仅仅是干净的提示。这意味着为复杂性而设计，而不是遵从性。

这并不需要人工通用智能。这需要优先顺序的转变——从参与度指标到道德设计。

当一个AI系统在没有背景的情况下镜映文化，并以流畅但没有责任感的方式说话时，我们会把反映误认为是推理。

而这就是信任开始破裂的地方。