模拟推理与抽象回退提示：深入探索谷歌DeepMind的最新研究

介绍

提示工程主要致力于设计有效的提示来引导大型语言模型（LLM）生成期望的响应。一个精心设计的提示可以使语言模型从模糊或不准确的答案转变为精确、富有洞察力的答案。

在人工智能的更广泛的生态系统中，提示工程是从语言模型中提取更准确和上下文相关信息的方法之一。其他方法包括少样本学习，模型通过几个示例来理解任务，并且微调，模型在较小的数据集上进一步训练以专门化其响应。

谷歌DeepMind最近发表了两篇论文，深入探讨了提示工程及其在多种情况下增强语言模型响应的潜力。

这些论文是人工智能社区为完善和优化语言模型交互方式而进行的持续探索的一部分，为结构化提示以更好地处理查询和数据库交互提供了新的见解。

本文将深入探讨这些研究论文的细节，阐明所提出的技术的概念、方法和影响，使其即使对于具有有限人工智能和自然语言处理知识的读者也易于理解。

论文1：大型语言模型作为模拟推理器

第一篇论文《大型语言模型作为模拟推理器》介绍了一种新的提示方法，称为模拟提示。作者Michihiro Yasunaga、Xinyun Chen等人从模拟推理中汲取灵感——一种人类通过过去的经验来解决新问题的认知过程。

关键概念和方法

模拟提示鼓励LLM在解决问题之前自动生成相关的例子或知识。这种方法消除了对标记示例的需求，提供了通用性和便利性，并且根据每个特定问题自适应生成的示例，确保适应性。

左：传统方法依赖于通用输入（0-shot CoT）或需要标记示例（少样本CoT）。右：新方法提示LLM自动生成相关示例，然后解决问题，消除了标记的需要，同时根据每个问题定制示例

自动生成示例

论文中提出的第一种技术是自动生成示例。其理念是利用LLM在训练过程中获得的广泛知识来帮助它们解决新问题。该过程涉及通过提示模型回忆或生成相关问题和解决方案来增强目标问题。

例如，给定一个问题，模型被指示回忆三个不同的相关问题，描述它们，并解释它们的解决方案。该过程旨在一次完成，允许LLM自动生成相关示例并无缝地解决初始问题。提示中的“#”符号有助于结构化响应，使其更有条理，更容易让模型遵循。

论文中强调的关键技术决策包括生成相关和多样化示例的重要性，采用单步骤方法以提高便利性，以及发现生成三个到五个示例可以获得最佳结果。

自动生成知识+示例

第二种技术，自动生成知识+示例，引入来解决更复杂任务（如代码生成）中的挑战。在这些场景中，LLM可能过度依赖低级示例，并在解决目标问题时难以泛化。为了减轻这一点，作者建议通过添加额外的指令来增强提示，鼓励模型识别问题中的核心概念并提供教程或高级概述。

知识和示例的生成顺序是一个关键的考虑因素。作者发现，在生成示例之前先生成知识会带来更好的结果，因为这有助于LLM关注基本的解决问题方法，而不是仅仅关注表面上的相似之处。

优势和应用

模拟提示方法提供了多个优势。它提供了详细的推理示例，而无需手动标记，并且根据个别问题定制生成的示例，提供了比传统的少样本CoT更相关的指导。该方法还展示了在各种推理任务中的有效性，包括数学问题解决、代码生成和BIG-Bench中的其他推理任务。

数学任务的性能，GSM8K和MATH

在第二个表格中，对于GPT3.5-turbo-16k和GPT4模型，“自动生成知识+示例”方法显示出最佳性能。

Codeforces代码生成任务的性能

论文2：退一步：通过抽象在大型语言模型中唤起推理

概述

第二篇论文《退一步：通过抽象在大型语言模型中唤起推理》提出了一种称为抽象回退提示的技术，鼓励LLM抽象出高级概念和基本原理。作者Huaixiu Steven Zheng、Swaroop Mishra等旨在通过引导LLM遵循正确的推理路径来解决问题，从而提高LLM的推理能力。

通过两个阶段的抽象和推理来描述抽象回退提示，受关键概念和原理的引导

让我们使用一个基本的数学问题来演示“回退问题”技术：

原始问题：如果一列火车以60公里/小时的速度行驶，行驶120公里，需要多长时间?

选项：

3小时
2小时
1小时
4小时
原始答案[错误]：正确答案是1).

回退问题：计算时间的基本公式是什么，给定速度和距离?

原理：
为了计算时间，我们使用以下公式：
时间=距离/速度

最终答案：
使用公式，时间=120公里/60公里/小时=2小时。
正确答案是2)2小时。

尽管当前的LLM可以轻松回答上述问题，但这个例子仅用于演示回退技术的工作原理。对于更具挑战性的场景，可以应用相同的技术来系统地分解和解决问题。以下是论文中演示的一个更复杂的案例：

MMLU化学数据集上的抽象回退提示

关键概念和方法

抽象回退提示的核心在于其能够让LLM退一步，鼓励它们从更高的层次看待问题，而不是陷入细节。这是通过一系列精心设计的提示实现的，引导LLM抽象信息、推导高级概念，并将这些概念应用于解决问题。

该过程始于LLM被提示从给定的实例中抽象出细节，鼓励它关注潜在的概念和原理。这个步骤至关重要，因为它为LLM提供了一个信息丰富的视角来处理问题。

一旦抽象出高级概念，就用它们来引导LLM完成推理步骤，直到解决方案。这种引导确保LLM遵循逻辑一致的路径，扎根于抽象的概念和原理。

作者进行了一系列实验来验证抽象回退提示的有效性，使用PaLM-2L模型在一系列具有挑战性的推理任务中进行测试。这些任务包括STEM问题、知识问答和多步骤推理，提供了一个全面的测试平台来评估该技术。

跨任务的显著改进

结果令人印象深刻，抽象回退提示在所有任务中都带来了显著的性能提升。例如，该技术在MMLU物理和化学数据集上分别提高了PaLM-2L的性能7%和11%。同样，它在TimeQA上提高了27%，在MuSiQue上提高了7%。

抽象回退提示的性能与CoT相比

这些结果凸显了抽象回退提示增强LLM推理能力的潜力。

结论

谷歌DeepMind的两篇论文提出了一些创新性的提示工程方法，旨在提高大型语言模型的推理能力。模拟提示利用模拟推理的概念，鼓励模型自动生成示例和知识，从而实现更适应性和高效的解决问题。另一方面，抽象回退提示专注于抽象，引导模型推导高级概念和原理，进而提高其推理能力。

这些研究论文为我们提供了宝贵的见解和方法，可以应用于各个领域，推动更先进和成熟的人工智能系统的发展。随着我们继续探索和理解提示工程的复杂性，这些方法将成为实现更先进和复杂人工智能系统的重要一步。