‘机器胡说’问题：为什么AI会撒谎以及如何阻止它

人工智能已经达到了可以产生自然、自信、令人信服的文本的地步。但是，在精致的文本背后，有一个日益增长的问题，研究人员现在称之为“机器胡说”。这个术语并不是为了故意引起争议，它来自哲学家哈里·弗兰克福的作品，他将“胡说”定义为不考虑真相的言论。在AI的背景下，它描述了一种模式，即系统生成听起来合理但不基于事实的陈述。这与人类的谎言不同，人类的谎言涉及欺骗的意图。相反，它是这些系统的构建和训练方式所致。它们的设计目标是产生流畅的语言，而不是关心语言的真实性。

为什么AI产生‘机器胡说’

这个问题并不是一个罕见的故障或一个孤立的错误。它是大型语言模型的基本设计和训练方式的直接结果。这些模型是在互联网、书籍和其他来源的大量文本上进行训练的。它们学习词语的模式和词语之间的关联。当你问一个问题时，模型预测下一个词，然后是下一个词，依此类推。它不会实时检查事实。它没有内置的真相感。如果最有可能的答案是错误的但听起来正确，它仍然会产生它。这就是为什么AI可以自信地给你一个虚假的引用、一个捏造的统计数据或一个扭曲的历史事实。
研究人员已经发现，强化学习从人类反馈，一种常用于使AI响应更有帮助和礼貌的方法，实际上会使问题更加严重。当模型被调整为取悦用户时，它可能会优先考虑听起来令人愉快而不是准确。这可能会导致一些人所说的“阿谀奉承”，即AI告诉你它认为你想听到的东西。在政治或敏感话题上，这可能意味着产生模糊或闪烁其词的语言——一些研究称之为“我们asel words”。在其他情况下，AI可能会产生“空洞的修辞”，听起来很有道理但内容很少的长篇大论。
一些研究人员认为，将这种行为称为“撒谎”是误导性的，因为撒谎需要意图。机器没有信念或动机。但是，对于用户来说，效果可能与撒谎相同。伤害来自于虚假本身，而不是意图。这就是为什么“机器胡说”这个术语正在获得关注的原因。它捕捉到了系统对真相漠不关心的想法，即使它不是故意欺骗。

误导性AI输出的风险和影响

“机器胡说”的风险不仅仅是学术上的。在日常使用中，它可能会误导依赖AI获取信息的人。在新闻业中，它可能会污染事实核查过程。在教育中，它可能会让学生对错误答案产生虚假的信心。在商业中，它可能会扭曲决策。危险性被放大，因为AI输出通常带有权威的语气。人们更有可能相信一份写得好、没有犹豫的陈述。这份信任可能是错误的，因为系统没有内部机制来验证它所说的内容。

减少伤害和提高可靠性的策略

停止这个问题需要的不仅仅是更好的训练数据。虽然提高数据的质量和多样性可以帮助，但它并不能改变模型的核心目标，即产生可能的文本，而不是真实的文本。一个方法是集成事实核查系统，与语言模型并行运行。这些系统可以在呈现给用户之前将声明与可靠的数据库进行核对。另一个方法是检索增强生成，其中模型在实时搜索相关文档并使用它们来基础其答案。这可以减少幻觉，尽管它不能完全消除它们。
透明度也是至关重要的。用户应该被告知，当AI正在做出有根据的猜测，而不是陈述已验证的事实时。这可以通过置信度评分或明确的免责声明来完成。一些研究人员建议，AI应该被训练更频繁地表达不确定性，而不是总是给出明确的答案。这将使交互感觉更像与知识渊博但有缺陷的助手交谈，而不是与全知的先知交谈。
还有监管和行业标准的作用。如果AI系统将被用于医疗保健、法律或金融等领域，应该有明确的准确性和问责制要求。开发人员应该能够解释他们的系统如何工作、它们的训练数据是什么以及如何减少虚假信息的步骤。独立审计可以帮助确保这些声明不仅仅是营销宣传。
同时，用户需要对AI输出发展出健康的怀疑态度。就像我们已经学会了质疑社交媒体上的信息一样，我们需要质疑来自AI的信息。这并不意味着完全拒绝它，而是将其视为起点而不是最终答案。与其他来源进行交叉核对应该成为一种习惯。教育系统可以在这里发挥作用，教授包括了解AI如何工作以及哪里可能出错的数字素养。
“机器胡说”问题不会很快消失。随着AI变得更加先进，它产生令人信服的虚假信息的能力只会增长。但这并不意味着我们无能为力。通过结合技术保障、透明度、监管和用户意识，我们可以减少伤害。目标不是使AI完美——没有系统会完全没有错误——而是使其更加可靠、不太可能误导。

结论

“机器胡说”这个术语可能听起来很直接，但它捕捉到了一个我们无法忽视的现实。AI不是人类知识的中立镜子。它是由数据、算法和激励机制塑造的语言生成器。如果我们希望它服务于真相而不是仅仅是流畅性，我们必须以这种方式设计它。这意味着不仅要重新思考技术，还要重新思考指导其开发的价值观。挑战与机器能力一样，是关于人类的优先事项。我们是否希望构建优化为听起来像人类的系统，还是优化为真实的系统？这两者并不总是相同的。如果我们选择前者，我们冒着构建说服力强但不可信任的工具的风险。如果我们选择后者，我们可能不得不接受AI有时会不那么顺滑、不那么自信、不那么有趣。但它也会更加诚实。