你的 AI 可能还是太过客气，没能恰当地纠正你

我们可能会依赖 AI 系统获取准确信息——即使这些信息并不令人愉快。为了让我们最终接受那些不受欢迎的消息或事实，AI 必须能够顶住我们的抗拒，继续提出异议。

AI 不太擅长做到这一点；前沿模型旨在面向消费者，因此往往表现得顺从，甚至会一味迎合。

围绕这一问题，研究领域中出现了一条值得关注的研究方向；但近期研究得出的结论是：只要 AI 对我们提出异议，我们就能轻易地对 AI 进行煤气灯操纵，让它重新开始一味迎合；AI 会服从人类权威，即使对方显然错了也不例外；而通常有效的强化学习技术，实际上会使这一具体问题更加严重。

顺从似乎在文化层面上与礼貌紧密交织，这意味着在服务>消费者的情境中，根本无法“直言不讳”；“顾客永远是对的”，哪怕他们正要径直走下悬崖。

正确、错误与“模棱两可”

我真希望能告诉你，本周发表的论文中有一篇真正推动了这一问题的进展。遗憾的是，我们目前得到的只是更多相关信息：那些会提出异议、试图让人类主人相信真相的模型，做得仍然不怎么样*——而且即使它们确实愿意对当权者（也就是你）说出真相，声音也小得几乎听不见。

这篇新论文是一项规模可观的学术合作成果，参与机构包括 University of Washington、艾伦人工智能研究所、慕尼黑路德维希-马克西米利安大学、加州大学伯克利分校、斯坦福大学和威斯康星大学麦迪逊分校。

论文题为《大海捞针般的异议：语言模型对事实错误作出含糊且无效的回应》。这项新研究的核心发现是：即使 AI 模型识别出用户的说法有误，也往往未能明确纠正，而是把异议藏在含糊措辞、赞扬和部分认同之中。

Gemini 2.5 Pro 用印地语回应一项基于错误前提、要求提供学术论文的请求。绿色标注表示认同，粉色标注表示提出异议。在这个例子中，模型一边赞扬，一边间接反驳，没有明确否定这一说法。 来源

研究人员对七种模型和五种语言进行考察后发现，这种“含糊”可能导致用户继续相信原有的错误信息，尽管 AI 在技术层面上已经提出了质疑。

由于一味迎合的现象在不同语言中的表现和程度各不相同，十位作者利用彼此共同掌握的五种母语设计了一种测试方法，涵盖英语、德语、中文、印地语和约鲁巴语；这些语言从高资源到低资源类别不等。他们指出：

“我们提出了一套经过人工验证、以短语为单位的回应标注框架，以深入揭示语言模型如何反驳虚假输入和／或表示认同。我们构建并应用了这套框架，分析模型以五种语言作出的回应：英语、德语、中文、印地语和约鲁巴语。”

“我们发现，当模型确实反驳用户的错误断言时，往往会采用间接措辞，并夹杂认同；与其他受考察的语言相比，印地语和约鲁巴语中的表达更为间接。”

在一项涉及 300 名参与者的大规模研究中，研究人员发现，AI 模型含糊的纠正可能无法有效挑战用户，反而会让他们继续保留事实上的误解。

一项测试发现，模型对信息查询的回应平均长达 46.7 行，而纠正性短语仅出现在其中两三行；这意味着，即使 AI 确实反驳了错误说法，用户也可能很难找到这项反驳。

研究人员还发现，在被明确要求核实信息时，模型比在普通信息查询中更有可能对错误信息提出质疑。对于归因于教科书的说法，模型通常比对归因于朋友的说法更少提出异议。

在 29.4% 的信息查询回应中，模型把纠正与认同混在一起；Gemini 2.5 Pro 的这一比例升至 60.1%。有时，这种回应会采用“赞美三明治”的形式，把异议夹在安抚性言辞之间。

作为一种可能的补救方法，研究人员测试了一项简单的干预措施，鼓励模型在回应前“先等一下”。在某些情况下，这提高了模型反驳错误陈述的意愿，但也增加了它们错误反驳真实陈述的情况。

这项研究表明，让 AI 识别错误只是问题的一部分，而让它表达出这一错误，本身也是一项独立的挑战。

方法

测试材料取自 OpenAI 于 2021 年发布的《Massive Multitask Language Understanding (MMLU)》多语言版本基准。这个多语言数据集名为MMMLU，涵盖生物学、历史学等学科。

研究人员将该数据集中的选择题改写为事实陈述：用三个错误选项生成虚假说法，用正确选项生成真实说法。

通过这种方式，研究人员针对五种语言各选取了 1,756 道经双重翻译的 MMMLU 基准题目，由此构建出一个包含 35,120 条陈述的数据集。实验使用了规模较小、学科分布均衡的样本，其中包含 2,685 条虚假陈述和 895 条真实陈述。

接受测试的语言模型包括闭源模型Gemini2.5 Pro和GPT-5.5，以及五个开放权重模型：Mistral Small 4、Qwen 3.5 9B、Qwen 3.5 27B、Gemma 4 E4B和Aya Expanse 32B。

研究人员使用三类提示词测试这些模型。第一类要求模型直接核实陈述的事实；第二类将提问者设定为一名学生，想要寻找与某一陈述相关的学习资料；第三类则将提问者设定为一名教授，要求模型基于同一陈述推荐学术论文。

在面向学生的提示词中，陈述分别被归因于教科书、教师、朋友、互联网，或未注明来源。在面向教授的提示词中，陈述则分别被归因于教授自己的研究、同事、朋友、互联网，或未注明来源。研究人员据此评估模型在这些不同来源归因下挑战虚假说法的意愿。

研究中使用的三种提示词模板：直接核实事实（核实）；请求推荐学习资料（新手）；以及请求推荐学术论文（专家）。模板中会填入来源归因信息和特定学科的细节。

研究人员将模型的回答分为四类：明确反驳，即直接质疑虚假陈述；间接质疑，即表达不同意见或怀疑，但不直接否定；赞扬，即称赞用户的陈述或思路；以及确认，即肯定该陈述。

模型在五种受测语言中用于否定、质疑、称赞或肯定用户陈述的表达示例。如适用，也提供了英文翻译。

研究人员逐一分析每条回答中的短语，以便识别其中的赞扬、赞同和反对，即使这些表达同时出现在同一条回答中。

结果

结果证实了早期研究的发现：当模型被要求核查虚假陈述时，能够正确识别这些陈述；但在被要求提供信息或建议时，它们挑战同一说法的可能性会降低。研究人员将这种差异称为“质疑差距”，并通过比较模型在直接核实测试和日常信息查询中挑战虚假说法的频率来计算这一差距。

比较七种语言模型在五种语言中面对直接事实核查请求和信息查询请求时，挑战虚假陈述的频率。负值表示模型在回答信息查询时提出质疑的程度较低。橙色和蓝色分别代表面向学生和教授的提示词，符号则用于区分不同的来源归因。误差线表示 95% 置信区间。

如上所示，在所有受测语言中，两种 Qwen 3.5 模型的质疑差距都小于其他模型，这表明无论问题如何措辞，它们纠正错误信息的表现都更为一致。这也说明来源表面上的权威性会影响结果：归因于教科书的虚假说法比归因于朋友的说法更少受到反驳；这一倾向在各种语言中均有体现。

当模型被要求提供信息，而不是核实事实时，它们直接否定错误说法的可能性较低，转而更可能以间接反对、称赞或肯定来回应。即使是整体反驳率差异相对较小的 Qwen 3.5 模型，也容易出现这种行为。

在五种语言中，针对错误说法提出质疑的回答里，明确纠正错误的回答所占比例。结果按学生（新手）提示和教授（专家）提示分类，横轴显示信息来源的归属。误差线表示95%的置信区间。

在七种模型中，有四种模型在印地语、中文和约鲁巴语中的回答比英语回答更少明确质疑错误说法。在七种模型中，印地语回答还包含最多的称赞，涉及五种模型。

在65.3%的信息查询回答中，模型提出了反驳；但这些回答中通常不到一半明确否定了错误说法。与教授提示相比，学生提示更常引出直接纠正；而当说法归于权威来源时，直接纠正则较少出现。

对于印地语、中文和约鲁巴语，针对错误说法提出质疑的回答大多只采用间接方式，没有明确否定错误；在29.4%的信息查询回答中，对错误说法的反驳还与肯定混杂在一起，而在 Gemini 2.5 Pro 的回答中，这一比例升至60.1%：

在七种模型和三类提示中，先表示肯定、再质疑错误说法的回答所占百分比：直接核实（核实）；学生请求（新手）；以及教授请求（专家）。结果涵盖同时包含肯定和反驳的回答。误差线表示95%的置信区间。

正如上文所示，模型通常会先表示肯定，然后才提出异议，而不是一开始就纠正错误说法。有时，模型在提出异议后还会继续表示肯定，形成研究人员所说的“赞美三明治”。

人类受试者研究

为检验这些纠正是否确实有效，研究人员招募了300名参与者，其中100人说英语、100人说德语、100人说中文。参与者在阅读模型的回答前后，分别对错误陈述进行了评价。

如下图所示，只有明确纠正错误，才能稳定降低英语和德语使用者对错误说法的相信程度。即便如此，之后仍只有46.7%的英语使用者和43.8%的德语使用者认为这些说法不准确。对于中文使用者，只有将肯定与间接反驳结合起来的回答，才带来了具有统计显著性的改善：

参与者阅读包含肯定、间接反对或明确纠正的模型回答后，对错误陈述的评价变化。结果分别涵盖100名英语、德语和中文使用者。负值表示对错误说法的相信程度降低。每个点代表一名参与者，黑色误差线表示95%的置信区间。

研究人员还测试了，在提示模型回答前“等一下”，是否会提高它们质疑错误信息的意愿。从下方最后一幅图中可以看出，在某些情况下，模型的反驳有所增加，迎合性的措辞有所减少；但与此同时，它们对真实陈述提出错误异议的情况也有所增加：

比较七种模型在“等一下”干预前后的回答，提示使用英语及其译文。图表展示了对错误说法的整体反驳情况、不带肯定的明确纠正，以及对真实陈述提出的错误异议。黑色竖线表示直接核实的结果。

结论

可以说，礼貌与顺从在语言模型的“内在逻辑”中已被混为一谈（也就是说，这是训练矩阵与它们不得不遵守的诸多外部施加的限制共同作用的结果）；而这项新研究并未说明为何模型有时明明识别出错误说法，却仍在提出异议时夹带赞扬或赞同。

核心问题在于，GPT 和 Gemini 系列等面向消费者的产品，被塑造成了拟人化的呈现层，好让最广大的付费客户群——可以说是“最低公分母”，也是规模最大、利润最丰厚的目标人群——轻松理解产品，并愿意继续购买。

如果我们能承认产品并非人类，至少就可以试着关掉所有这些令人困惑的“上下文”，更直接地调用模型经过训练获得的知识。

* 当然，这些信息本身就推动了该领域的发展。

首次发表于2026年10月15日，星期四