大型语言模型的幻觉：原因、伦理问题和预防

大型语言模型（LLMs）是一种人工智能系统，能够分析和生成类似人类的文本。但是，它们有一个问题——LLMs 会产生幻觉，即编造事实。LLMs 的幻觉使得研究人员担心这一领域的进展，因为如果研究人员无法控制模型的输出，那么他们就无法建立关键系统来服务人类。稍后会详细讨论这一点。

一般来说，LLMs 使用大量的训练数据和复杂的学习算法来生成现实的输出。在某些情况下，使用上下文学习来训练这些模型，只需使用几个示例。LLMs 正在各个应用领域变得越来越流行，从机器翻译、情感分析、虚拟 AI 助手、图像注释、自然语言处理等。

尽管 LLMs 具有开创性的性质，但它们仍然容易受到偏见、错误和幻觉的影响。Meta 的现任首席 AI 科学家 Yann LeCun最近提到了导致 LLMs 幻觉的中心缺陷：“大型语言模型对语言描述的潜在现实没有任何概念。这些系统生成的文本在语法和语义上听起来很好，但它们没有客观的目标，只是为了满足统计一致性与提示”。

LLMs 的幻觉

由 Gerd Altmann 在 Pixabay 上提供的图像

幻觉是指模型生成的输出在语法和语义上是正确的，但与现实脱节，基于错误的假设。幻觉是 LLMs 的一个主要伦理问题，它可能对用户产生有害的影响，特别是当没有足够的领域知识的用户开始过度依赖这些越来越令人信服的语言模型时。

在所有自回归 LLMs 中，某种程度的幻觉是不可避免的。例如，模型可能将一个假的引语归属给一位名人，而这句话实际上从未被说过。它们可能会断言某个话题的某些内容是事实上不正确的，或者在研究论文中引用不存在的来源，从而传播错误信息。

然而，让 AI 模型产生幻觉并不总是有害的效果。例如，一项新研究表明，科学家们正在通过产生幻觉的 LLMs 发现具有无限多种特性的新型蛋白质。

什么导致 LLMs 的幻觉？

LLMs 可以由于各种因素产生幻觉，包括过度拟合、编码和解码错误以及训练偏差。

过度拟合

由 janjf93 在 Pixabay 上提供的图像

过度拟合是指 AI 模型过度适应训练数据，但无法完全代表它可能遇到的所有输入范围，即它无法将预测能力推广到新的、未见过的数据。过度拟合会导致模型产生幻觉内容。

编码和解码错误

由 geralt 在 Pixabay 上提供的图像

如果文本及其后续表示的编码和解码存在错误，也可能导致模型生成无意义和错误的输出。

训练偏差

由 Quince Creative 在 Pixabay 上提供的图像

另一个因素是训练数据中存在某些偏差，这可能会导致模型产生代表这些偏差而不是数据的实际性质的结果。这类似于训练数据缺乏多样性，这限制了模型将预测能力推广到新数据的能力。

LLMs 的复杂结构使得 AI 研究人员和实践者难以识别、解释和纠正幻觉的潜在原因。

LLMs 幻觉的伦理问题

LLMs 可以通过幻觉延续和放大有害的偏见，并可能对用户产生负面影响，导致不利的社会后果。其中一些最重要的伦理问题如下：

歧视性和有毒内容

由 ar130405 在 Pixabay 上提供的图像

由于 LLMs 的训练数据通常充满社会文化刻板印象，缺乏多样性，LLMs 可以产生和强化这些有害的想法，针对社会中的弱势群体。

它们可以根据种族、性别、宗教、民族等因素生成歧视性和仇恨内容。

隐私问题

由 JanBaby 在 Pixabay 上提供的图像

LLMs是在一个大型训练语料库上训练的，这个语料库通常包含个人信息。曾经有过这样的情况：这些模型违反了人们的隐私。它们可以泄露特定的信息，例如社会安全号码、家庭地址、电话号码和医疗细节。

错误信息和虚假信息

由 geralt 在 Pixabay 上提供的图像

语言模型可以生成看似准确但实际上是错误且不受实证证据支持的内容。这可能是无意的，导致错误信息，或者是故意传播虚假信息。如果不加以制止，这可能会产生不利的社会文化经济政治趋势。

预防 LLMs 的幻觉

由 athree23 在 Pixabay 上提供的图像

研究人员和实践者正在采取各种方法来解决 LLMs 幻觉的问题。这些方法包括提高训练数据的多样性，消除固有的偏差，使用更好的正则化技术，并采用对抗性训练和强化学习等：

• 开发更好的正则化技术是解决幻觉问题的核心。它们有助于防止过度拟合和其他导致幻觉的问题。
• 数据增强可以减少幻觉的频率，如一项 研究 所示。数据增强涉及通过在句子中的任何位置添加一个随机令牌来增强训练集。它将训练集的大小加倍，并导致幻觉的频率降低。
• OpenAI 和 Google (GOOGL ) 的 DeepMind 开发了一种称为 强化学习与人类反馈（RLHF）的技术来解决 ChatGPT 的幻觉问题。它涉及一个人类评估者定期审查模型的响应并为用户提示选择最合适的。然后使用此反馈来调整模型的行为。OpenAI 首席科学家 Ilya Sutskever最近提到，这种方法可能会 解决 ChatGPT 的幻觉问题：“我很有希望，只需通过改进随后的强化学习和人类反馈，我们就可以教会它不产生幻觉”。
• 识别幻觉内容以供未来训练使用也是解决幻觉问题的一种方法。一个 新技术 可以在令牌级别检测幻觉，并预测输出中的每个令牌是否是幻觉。它还包括一种无监督学习的幻觉检测方法。

令牌级幻觉检测

简单来说，LLMs 的幻觉是一个日益增长的问题。尽管做出了努力，但仍需要更多工作来解决这个问题。这些模型的复杂性使得正确识别和纠正幻觉的潜在原因具有挑战性。

然而，通过持续的研究和开发，减轻 LLMs 的幻觉和降低其伦理后果是可能的。

如果您想了解更多关于 LLMs 和正在开发的预防技术，以纠正 LLMs 的幻觉，请访问 unite.ai 以扩展您的知识。