研究表明ChatGPT作为新闻提供商具有高可信度

新研究表明，ChatGPT的事实核查标签在塑造人们在线上相信和分享什么方面比喜欢、分享和甚至可靠的新闻品牌更有影响力。

一项针对1000人的新研究发现，当ChatGPT为政治新闻提供可信度评分时，它经常改变人们的信念和分享意愿，无论他们最初的政治观点如何。更传统的影响因素，如喜欢或分享，几乎没有影响，但AI的判断强烈地塑造了新闻的可信度。

来自新论文的插图，展示了人们如何根据三个相互作用的线索评估新闻标题：故事是否与他们的政治身份一致；它在社交媒体上似乎有多少参与度；以及机构或AI系统提供的可信度信号。这些影响力结合起来塑造了感知到的准确性和分享内容的可能性。 来源

ChatGPT摘要被视为可靠新闻来源的程度可能是媒体领域近年来最重要的话题之一，尤其是因为谷歌的AI摘要在2025年将大部分流量从大多数在线媒体网站中抽走，目前尚不确定这种权力转移将在长期或中期内走向何方。

新研究的作者指出：

‘这些发现凸显了算法反馈在塑造公众理解方面的潜力和风险。AI生成的提示可以帮助减轻偏见并增强可信度辨别能力，但其影响因政治身份而异，并带有过度依赖的道德风险。’

‘…ChatGPT的影响力凸显了一个关键的权衡：虽然具有说服力，AI反馈可能会在没有仔细构建的情况下取代批判性思维。’

作者建议，未来的研究应重点关注改进的AI可信度干预措施，这些措施更加独立，支持已知的事实，并且在处理两极分化话题时尤为重要。

除了ChatGPT作为“权威”的明显崛起和分享信号在测试中的意外低影响力（作者认为可能是由于略微单调的测试条件）之外，研究人员的测试还产生了另一个有趣的结果，涉及人口统计和性别：

‘女性和种族少数群体（尤其是黑人和拉丁裔用户）对AI反馈的反应更为积极，而不是对机构标签的反应。’

这项新研究的标题是《AI可信度信号在社交媒体上超越机构和参与度塑造新闻认知》，由来自诺特丹大学的三位研究人员完成。

让我们更详细地了解这篇论文的方法和结论。

方法

测试了四个假设：人们会将标题评为更准确的新闻标题，如果这些标题反映了他们的政治观点；AI生成的可信度评分将比传统机构的信号更有影响力；标题具有高参与度（即通过喜欢、分享或评论衡量）将被视为更可靠；以及用户将接受AI对标题准确性的判断，即使它与他们自己的信念相矛盾。

研究的参与者来自Prolific平台，需要精通英语，并且是新闻的常规消费者；随机化过程确保参与者代表了种族和性别的多样性。

在实验中，参与者被分为四组，每组显示不同类型的反馈信息，旁边附有新闻标题。

第一组（对照组）没有提供任何关于标题可信度的额外信息；第二组的标题带有来自GroundNews的偏见评级，GroundNews是一项将新闻来源分类为左倾、中心或右倾的服务。

第三组看到相同的GroundNews标签，但故意颠倒过来，制造了一个不匹配的信息，以测试用户是否会检测到这种扭曲。

最后一组被显示了ChatGPT撰写的可信度评估，提供了简要的解释和评级，如“可能不准确”。

实验的概念图：每位参与者被展示了具有不同可信度标签和社交参与信号的政治新闻标题。收集了他们认为每个标题的准确性和分享可能性，整个序列在21个项目中重复。

数据和测试

每位参与者被展示了一系列21个政治新闻标题。对于每个标题，社交参与度的水平会变化；有时会显示没有喜欢或分享，有时会显示很多。这些参与度信号被随机化以避免固定的模式。

标题本身来自多种政治观点，并被标记为左倾、右倾或中立。

在每个标题之后，参与者被要求评估他们认为标题的准确性，以及他们是否愿意分享它。由于每位参与者已经声明了自己的政治归属，因此可以分析标题是否因与参与者政治观点一致而被评为更有利的。

参与者对每个标题进行了两次评分：一次是对其准确性的评分，另一次是对其分享可能性进行评分，使用0-10的评分标准。

研究人员然后将这些答案与其他数据结合起来：每位参与者的人口统计和媒体使用信息；标题的政治标签；显示的可信度信号类型；以及分配的社交参与度水平。

政治身份的影响

在第一个测试中，研究人员探讨了人们是否更有可能将标题评为准确的新闻标题，当标题的政治立场与他们自己的观点一致时，结果表明参与者更有可能相信与他们的政治观点一致的标题，但这取决于组别。

温和派在自己的阵营中表现出最强的偏见，而自由派和保守派则更倾向于相信中立的标题；总体而言，中立的标题被评为比左倾或右倾的标题更准确。

准确性和分享可能性评分如何根据标题的政治立场和参与者的政治归属而变化的插图。温和派最有可能将‘同类’标题评为准确，而自由派和保守派则更倾向于偏爱中立标题。分享行为遵循了类似的模式，温和派以外的群体中几乎没有同类偏见。

在这个实验的结果中，发现了一个适度的同类偏见对分享可能性产生的影响；但仅限于温和派，他们更倾向于分享政治上一致（即中立）的标题。自由派和保守派没有表现出这种倾向。

方差分析（ANOVA）是一种用于检测组间差异的方法，表明对齐仅在与政治身份相互作用时影响分享；仅温和派表现出明显的模式，既影响准确性也影响分享。

机构与AI可信度

下一个测试询问了人们是否比传统来源（如新闻评级网站）更信任AI评级，特别是当评级可能与他们的政治观点相矛盾时。

不同反馈来源的可信度和分享可能性评分：所有三个信号都增加了与对照组相比的准确性，GroundNews产生了最高的评分。然而，ChatGPT在分享可能性方面产生了最大的收益，表明其具有更广泛的说服力。错误线表示95％的置信区间，星号表示显著的成对差异。

所有反馈都增加了感知到的准确性；但GroundNews在其与用户政治观点一致时最有效。

ChatGPT在所有情况下都提高了准确性评分，表明它被视为更加中立。保守派对GroundNews的反应较小，但对ChatGPT的反应与其他群体类似。

ChatGPT反馈对感知准确性的影响。结果表明，机构信号的信任取决于对齐，而算法信号的信任则不依赖于对齐。ChatGPT提高了所有群体的可信度和分享可能性，尤其是在保守派中。

社交指标影响较小

第三个分析测试了社交参与度信号（如喜欢、分享和评论）是否会通过作为社会证明来提高可信度或分享可能性；但没有观察到这种效果。

测试发现，参与度水平（如喜欢或分享）对标题的准确性几乎没有影响，只对分享可能性产生了微弱且不可靠的影响；与算法或机构信号不同，这些社交线索在这种情况下似乎没有影响判断。

AI反馈影响人们信任什么

第四个也是最后一个实验测试了用户是否会根据AI生成的标签调整他们的可信度和分享判断：准确；部分准确；未经验证；或不准确，所有这些标签都由ChatGPT分配。

参与者对AI生成的可信度标签做出了强烈的反应。准确性评分随着ChatGPT的反馈而上下波动，标记为“准确”或“不准确”的标题产生了最大的影响。

ChatGPT反馈对准确性和分享可能性评分的影响。上：准确性评分随着更积极的标签而上升，特别是当标题被标记为“准确”时，并在被标记为“不准确”时下降。下：分享可能性遵循了类似的模式，但群体间的变化更大：自由派对负面提示做出了最强烈的反应，而保守派则表现出更为微妙的变化。

政治身份塑造了这些影响，用户在ChatGPT的反馈与他们自己的观点一致时更信任ChatGPT。

分享行为遵循了类似的模式：同类标题被标记为准确的标题被分享得最多，特别是在模糊的标签下，如“部分准确”。

这些结果，论文认为，表明AI反馈可以改变用户行为；并且它还存在强化党派分歧或阻碍批判性思维的风险。

谁最信任AI？

后续分析研究了用户人口统计如何影响对可信度标签的反应。ChatGPT的反馈提高了整体准确性评分，但这种影响在受过高等教育的用户和频繁使用社交媒体的用户中较弱，他们表现出更大的怀疑态度。

这些群体对GroundNews和反转提示做出了负面反应，表明，论文提出，明显的偏见标记可能会疏远更有媒体素养的用户。

相比之下，女性和种族少数群体，特别是黑人和拉丁裔用户，对ChatGPT的反应比对机构信号更为积极。

不同群体对不同可信度信号的反应，每个面板显示特定群体对不同可信度信号的反应。ChatGPT的评分对准确性具有最强和最一致的影响，而对分享的影响则不太均匀，变化取决于种族、性别和媒体使用情况。

分享行为也反映了这种分歧：GroundNews在社交媒体用户和新闻爱好者中最明显地降低了分享可能性，而ChatGPT的影响则更为复杂，甚至在某些群体中提高了分享可能性，特别是研究生学历的用户对所有类型的反馈都非常敏感。

作者得出结论：

‘这些发现对社交技术系统中的可信度干预的设计具有直接的影响。用户越来越受到算法反馈的影响，这种反馈可以覆盖机构提示并缓解党派偏见，但也存在过度依赖的风险。’

‘机构信号仍然对某些用户有效，但其影响力在两极分化或信任度低的环境中会降低。同时，参与度指标（如喜欢和分享）在没有社会背景的情况下几乎被忽略，表明其说服力降低。’

‘为了支持公平和明智的新闻评估，AI驱动的干预必须是透明的、解释性的，并旨在增强用户代理性。’

‘未来的工作应在更生态有效的环境中研究这些机制，评估替代的AI可信度框架，并开发适应性系统，以促进不同政治观点的观众的批判性参与。’

结论

鉴于所有当前的生成式AI系统都容易出现“幻觉”和扭曲真相的现象，因此，ChatGPT的广泛采用（即使它正在放缓一点）代表了对这些系统的架构既不能证明也不能支持的巨大信任飞跃。

相信AI的新闻表现的一个问题是，缺乏有效的系统来将新闻来源标记为“政治上偏向某一方”或偏向政治光谱的某一端。

即使在最可靠的第四权媒体来源中，选择报道什么和不报道什么本身就是一个政治声明。目前，ChatGPT及其同类产品都无法应对这些解释偏见的层次，并且这个话题本身邀请讨论，而不是得出坚实的结论。

另一个问题是，这类系统出现在人类历史上80年来最具两极分化和分裂的时期，并且在社会最愿意倾听“另类声音”的时候到来了，例如一个全新的技术类型，被吹捧为世界真相的必要过滤器，而不是它实际上是什么：一个由大量党派信息喂养的统计概率预测器。

* 详细信息由作者在线提供（请参阅源论文，第2页底部的URL）。然而，此数据需要注册才能查看，并且由于我当时没有进一步处理此事，因此我无法确认它是否可以在不付费和/或具备特定类型的凭证的情况下完全查看。

首次发布于2025年11月5日星期三