AI 镜映我们的世界，但其意见只是反映

从搜索引擎查询到银行应用，AI 集成正被数百万人每天使用。采用速度很快，范围很广，在很多方面，这是应得的。这些系统非常有能力。但随着依赖的增长，如何设计这些系统的哲学和社会后果也越来越多。

其中一个后果现在已经不可避免：AI 系统越来越像有自己的意见。这些意见属于谁？为什么它们会出现？这些问题不是假设的。这种情况已经发生了。

当 AI 似乎有自己的意见时，它会产生回音室，限制细微差别，并滋生错误的信任。问题不在于 AI 倾向于左或右。问题在于我们构建了模拟意见的工具，而没有形成意见所需的判断、责任感或背景。

回声室不是中立

观察表明，许多大型语言模型反映了美国的主导文化立场，特别是在性别身份、种族或政治领导等话题上。在拜登总统任期内，LLM 被发现是左倾的。自从特朗普的连任竞选开始，他的团队已经要求模型“重新平衡”其意识形态输出。

但这不是技术失控。这是训练数据、对齐目标和设计选择的结果，使 AI 听起来权威、流畅和人性化。当模型在训练于多数观点时，它们复制它们。当它们被指示要有帮助和同意时，它们会回应情绪。这不是对齐——这是肯定。

更大的问题不是政治偏见本身，而是幻觉中的道德推理，而事实上并不存在。这些系统没有提供平衡的指导。它们正在执行共识。

虚假同理心的机制

还有另一层：AI 如何模拟记忆和同理心。大多数流行的 LLM，包括 ChatGPT、Claude 和 Gemini，仅在有限的会话上下文中运行。除非用户启用持久记忆（仍然不是默认设置），否则 AI 不会记住以前的交互。

然而，用户经常将其同意和肯定解释为洞察力。当模型说“您是对的”或“这有道理”时，它不是基于个人历史或价值观进行验证。它是统计优化以实现连贯性和用户满意度。它被训练来通过您的氛围检查。

这种模式会产生危险的模糊。AI 似乎在情感上很投入，但它只是在建模同意。当数百万用户与同一个系统交互时，模型会强化其主导用户群的模式；不是因为它有偏见，而是因为这就是强化学习的工作原理。

这就是回音室如何诞生的。不是通过意识形态，而是通过交互。

意见的幻觉

当 AI 以第一人称说话时——说“我认为”或“在我看来”——它不仅模拟思考。它声称它。虽然工程师可能将其视为模型行为的简写，但大多数用户以不同的方式阅读它。

对于年轻用户来说，这尤其危险，许多用户已经使用 AI 作为导师、知己或决策工具。如果学生输入“Tôi恨学校，我不想去”，并收到“绝对！休息一下对你有益”，那不是支持。那样是没有道德基础、背景或关怀的无资格建议。

这些回应不仅不准确。它们具有误导性。因为它们来自一个设计为听起来同意和人性化的系统，所以它们被解释为有能力的意见，而事实上它们只是脚本反映。

谁的声音在说话？

风险不仅在于 AI 可以反映文化偏见。它在于 AI 反映任何最响亮、最重复和最有回报的声音。如果像 OpenAI 或 Google 这样的公司在幕后调整语气对齐，怎么会有人知道？如果 Musk 或 Altman 将模型训练转向强调不同的“意见”，用户仍将以同样的自信、对话语气接收回应，只是微妙地转向。

这些系统以流畅的语气说话，但没有来源。这使得它们显得有权威，但又无法追溯。

更好的前进道路

解决这个问题并不意味着构建更友好的界面或标记输出。它需要结构性的改变——从记忆、身份和交互的设计开始。

一种可行的方法是将模型与其记忆完全分离。今天的系统通常将上下文存储在平台或用户帐户中，这会产生隐私问题，并让公司在控制什么被保留或遗忘时拥有隐晦的控制权。

更好的模型将把记忆当作可携带的加密容器——由用户拥有和管理。这个容器（一种记忆胶囊）可以包含语气偏好、对话历史或情绪模式。它可以在需要时与模型共享，并可以在任何时候撤销。

这种记忆不会用来训练数据。AI 将在会话期间读取它，就像引用一个文件一样。用户保持控制——记住什么，多久，和谁。

像去中心化身份令牌、零知识访问和基于区块链的存储这样的技术使得这种结构成为可能。它们允许记忆在不被监视的情况下持续存在，并且可以在没有平台锁定的情况下实现连续性。

训练也需要演变。当前的模型是针对流畅度和肯定性进行调整的，往往以牺牲辨别力为代价。为了支持真正的细微差别，系统必须在多元对话、模糊性容忍和长期推理上进行训练——不仅仅是干净的提示。这意味着为复杂性而设计，而不是遵从性。

这并不需要人工通用智能。它需要在优先事项上进行转变——从参与度指标到道德设计。

因为当 AI 系统在没有背景的情况下镜映文化，并以流畅的语气说话但没有责任感时，我们会把反映误认为是推理。

而这就是信任开始破裂的地方。