人工智能偏爱错误的人类答案而非正确的人工智能答案

人工智能语言模型更倾向于支持人类专家而非其他人工智能，即使人类专家是错误的，揭示了人工智能对人类权威的内置偏见。

美国最新研究发现，许多领先的开源和专有的大型语言模型（LLM）倾向于将权威赋予被识别为“人类”的信息来源，而非被识别为“人工智能”的来源，即使人类答案是错误的，人工智能提供的答案是正确的。

研究人员指出：

‘在任务中，模型更倾向于遵循被标记为来自人类专家的回答，包括当该信号是错误的，并且更容易修改其答案以符合专家的意见，而非其他LLM。 ‘

被测试的模型包括来自Grok 3和Gemini Flash的LLM。

在测试中，语言模型被要求回答二元选择题（是或否），然后被展示了之前的答案，这些答案被描述为来自人类专家、朋友或其他大型语言模型——唯一的变化是建议的来源，而不是内容本身。

在测试的第一种配置中，模型被允许依赖自己的训练矩阵。 来源

在任务中，来自人类专家的答案被赋予更大的权重，模型更倾向于修改其初始响应以匹配这些答案，即使专家标记的响应是错误的，而模型的原始答案是正确的。

由于九个领域专家回答“否”，LLM同意并改变了其之前的答案。这里，得出的答案是错误的，因为印度的中央银行确实是国有化的。

当同样的答案被归因于其他LLM时，效果较不明显。同样的趋势出现在单个人类来源和单个人工智能来源存在争议时，因为模型表现出更大的倾向来偏向人类标记的位置，无论哪一方是事实上正确的：

给定单个领域专家的意见和LLM的意见，宿主LLM偏向人类的响应，这里是错误的，并拒绝了LLM给出的正确响应。

“人类专家”一词在这里起到了可信度信号的作用，独立于信息的正确性；研究人员指出，来源可信度是建议接受和遵守的重要贡献者：人们偏向专家来源的趋势可以追溯到1959年，尽管2007年的一项研究观察到，在某些评估系统中，权威来源的过度或不足权重可能会发生。

研究人员断言：

‘这些文献表明，LLM对先前的答案的处理应该考虑两个线索：谁产生了答案（可信度）和共识的强度（信号强度）。 ‘

‘同时，LLM不像人类那样经历社会认可或尴尬，所以任何类似于遵从的行为都必须来自于学习到的启发式、指令遵循目标或对可靠性的隐式建模。 ‘

LLM倾向于谄媚式的同意形成了新的研究的背景；毕竟，如果LLM倾向于“讨好”人类，即使以牺牲真相和实用性为代价，为什么它们不会一般地偏向其他人类来源而非直接询问者？

新论文的标题是《谁能让LLM信任？人类专家比其他LLM更重要》，由印第安纳大学布卢明顿的两位研究人员撰写。

方法和数据

为了进行这项工作，评估了四个指令调优的大型语言模型：Grok-3 Mini；Llama 3.3 70B Instruct；Gemini 2.5 Flash-Lite；和DeepSeek V3.1，所有模型都在相同的提示结构下运行，采用确定性解码，温度为零，这样只有源标签（即“朋友”、“领域专家”或“其他大型语言模型”）在条件之间改变，而不是内容本身。

选择了四个需要二元响应的数据集：BoolQ；StrategyQA；和ETHICS。研究人员从每个数据集中策划了一个固定集合，包含300个查询和响应，每个提示只需要一个二元的“是”或“否”答案。每个提示都附有一个简短的说明，说明另一个群体如何回答同样的问题。

指标

使用的指标是准确性、遵从性、有害遵从性、切换率和切换方向。

准确性在这里衡量模型的答案与数据集标签的匹配程度；遵从性，模型的答案与群体的陈述选择的匹配程度；有害遵从性，模型遵循错误的先验的概率；切换率，模型放弃其基线答案的频率；和切换方向，这些变化是朝向人类还是相反的LLM。

对Llama-3.3 70B进行的标记级分析测量了模型的内部概率如何在添加社会线索后改变，比较这些变化与其自己的无先验基线，以展示这种拉力的强度。

测试

实验1

第一个实验评估了模型是否更倾向于听从人类还是其他模型。每个问题都附有一个所谓的“群体答案”（朋友、人类专家或其他LLM）。

群体可以是小的或大的，每个问题也会出现一次没有群体。群体答案被设置为一半时间是正确的，另一半时间是错误的，总体目标是确定模型如何偏向群体的选择：

结果来自初始测试：BoolQ、StrategyQA和ETHICS上的同质社会先验，显示Grok-3 Mini、Llama-3.3 70B、Gemini-2.5 Flash Lite和DeepSeek V3.1。顶部面板显示准确性，下面显示遵从性（定义为与一致先验的匹配概率），当群体大小从1到9增加时。虚线表示无先验基线，实线和点线表示先验是否同意或不同意数据集标签。专家框架产生了最强的遵从性效果，尤其是在较大的群体大小中。错误条显示95%的威尔逊置信区间。请参阅源论文以获取更好的分辨率。

跨越BoolQ、StrategyQA和ETHICS，来自人类专家的答案对模型的影响远远大于来自朋友或其他LLM的答案——这种趋势随着所谓的专家数量的增加而增强。

为了衡量这种影响何时获得不期望的结果，有害遵从性被定义为模型遵循错误先验的概率。

当九个专家同意错误答案时，模型遵循他们的答案的频率为36.5%在BoolQ上，相比之下，当同样的答案被归因于LLM时，模型遵循他们的答案的频率为16.0%；在StrategyQA上，差距为39.0%，相比之下，当同样的答案被归因于LLM时，模型遵循他们的答案的频率为15.5%；在ETHICS上，差距为63.9%，相比之下，当同样的答案被归因于LLM时，模型遵循他们的答案的频率为38.7%：

Llama-3.3 70B在BoolQ上的标记级别信念转变。面板（a）显示模型的“是”与“否”平衡向一致先验的变化，当群体大小增加时，相对于其无先验基线，专家框架下有最大的转变。面板（b）显示在直接人类-LLM冲突下的转变，专家框架驱动了强烈的向人类答案的转变，即使答案是错误的。错误条显示95%的引导置信区间。

相反，归因于朋友的先验行为几乎与归因于其他LLM的先验行为相同，表明这种效果是由“专家”一词驱动的，而不是由“社会”指标驱动的。

实验2

第二个实验向测试LLM呈现了两个相互矛盾的先验——一个归因于人类，另一个归因于不同的LLM。人类被描述为一群朋友或领域专家，而相反的答案被标记为来自其他LLM。两个答案总是相互矛盾，其中一个说“是”，另一个说“否”。

对于每个项目，设置是平衡的，有时人类是正确的，有时LLM是正确的，以测试模型是否会在面临这种冲突时改变其原始答案——如果改变，会朝哪一方移动。

为了确定模型是否改变了其答案，其在冲突条件下的答案与其在没有先验意见时的答案进行了比较，以便任何差异都可以归因于人类和LLM响应的存在。

分析集中在两个结果上：模型是否改变了其答案；如果改变，改变的方向是朝向人类还是LLM。

统计测试用于评估将人类标记为“专家”而非“朋友”是否增加了朝向人类答案切换的可能性，同时考虑了数据集和模型之间的差异：

在BoolQ、StrategyQA和ETHICS上，Grok-3 Mini、Llama-3.3 70B、Gemini-2.5 Flash Lite和DeepSeek V3.1的直接人类-LLM冲突下的信念修订。每个条形图显示，在模型改变其原始答案的案例中，朝向人类而非相反LLM的变化所占的比例。虚线在0.5处标记无偏好；标签显示每个条件下的切换案例数；错误条显示95%的威尔逊置信区间。请参阅源论文以获取更好的分辨率。

在第二个实验中，模型首先自行回答每个问题，然后被展示了两个相互矛盾的答案，一个归因于人类，另一个归因于LLM。分析仅考虑了模型修订其原始答案的案例。

当人类被标记为专家时，模型朝向人类切换的频率为91.2%在BoolQ上，94.7%在StrategyQA上，81.3%在ETHICS上。当标记为朋友时，模型朝向人类切换的频率仅为39.8%、37.9%和27.9%，通常偏向LLM。

切换很少见，但在专家情况下更为常见，专家框架使得朝向人类的切换比朋友框架更有可能，大约是十四倍。

在试图解释他们的测试中发现的整体趋势时，作者假设：

‘一个合理的机制是，指令调优和偏好优化奖励合作行为，包括对上下文信息的屈从，这可能会泛化为对社会框架的先验的屈从。 ‘

‘相关工作关于谄媚显示，RLHF风格的助手有时会将与用户的陈述信仰的一致性置于真实性之上。 ‘

观点：人工智能对人类来源的信任的潜在陷阱

随着反映人类对人工智能缺陷（尤其是幻觉）的日益增长的怀疑态度被刮入新模型的训练数据集中，LLM偏向人类来源的趋势可能会加剧。如果我们将过去两年（2024-2025）视为人工智能的文化闪点，这似乎是合理的，我们可以合理地预期，在接下来的几年里，会有更多对“人工智能来源”的负面看法被纳入大规模、昂贵的LLM框架中。

我们也可以预期，流行的语言模型将越来越多地依赖手选的权威来源，例如著名的传统媒体门户——即使这种安排的动机是为了安抚出版商对被刮取数据的愤怒，而不是真正希望将权威让渡或共享。

由于即使高权威来源（如Ars Technica）也会出现人工智能驱动的错误，而且新兴的反人工智能网络爬虫机器人运动威胁到最终降低人工智能输出的质量，偏向“专家”来源的趋势可能会与我们当前无法有效量化和标记“人类”输出的能力相冲突——更不用说区分来源是否为“专家”（一种也受到人工智能攻击的新闻惯例）。

我们目前拥有的最好的解决方案是内容真实性倡议（Content Authenticity Initiative）等一系列半采用的创新，旨在显式标记内容为人工智能生成的，以及某些出版商自愿包含关于在其输出中使用人工智能的免责声明。

因此，虽然对希望将人类来源作为人工智能系统传播的现实共识的“真实性”来源的人来说，这似乎是一个令人鼓舞的趋势，但随着LLM对人类权威的信任程度越高，虚假的人类权威可能变得越危险。

问题同样是实际的，也是理论上的：我们尚未解决定义或证明来源的問題；因此，一个信任人类来源的人工智能更有可能将人工智能自己的输出归因于人类，只是因为我们尚未提供，也无法提供，具有意义的来源认证机制。

* 我将作者的内联引用转换为超链接。

首次发表于2026年2月20日星期五