揭开控制面板：塑造LLM输出的关键参数

发布于 2024年5月17日

更新于 2026年5月21日

作者

Haziqa Sajid

大型语言模型（LLM）已经成为变革性的力量，对医疗保健、金融和法律服务等行业产生了重大影响。例如，麦肯锡最近的一项研究发现，金融行业的几家企业正在利用LLM来自动执行任务和生成财务报告。

此外，LLM可以处理和生成高质量的文本格式，轻松翻译语言，并为复杂的查询提供信息丰富的答案，甚至在科学领域也能做到这一点。

本博客讨论了LLM的核心原理，并探索了如何通过微调这些模型来解锁其真正的潜力，推动创新和效率。

LLM的工作原理：预测序列中的下一个词

LLM是数据驱动的强大工具。它们是在大量的文本数据上进行训练的，包括书籍、文章、代码和社交媒体对话。这种训练数据使LLM能够接触到人类语言的复杂模式和细微差别。

LLM的核心是一个叫做变换器的复杂神经网络架构。可以把变换器看作是一个分析句子中词语之间关系的复杂连接网。这使得LLM能够理解每个词的上下文，并预测序列中最可能的下一个词。

可以这样想：你给LLM一个句子，如 “猫坐在…” 根据其训练数据，LLM识别出上下文（”猫坐在“）并预测序列中最可能的下一个词，例如 “垫子“。这种预测序列的过程使LLM能够生成整个句子、段落，甚至创造性的文本格式。

现在我们已经了解了LLM的基本工作原理，让我们来探索控制面板，它包含了微调LLM创造性输出的参数。通过调整这些参数，你可以使LLM生成符合你需求的文本。

可以把温度想象成一个控制LLM输出随机性的旋钮。高温设置会注入一剂创造力，鼓励LLM探索不太可能但可能更有趣的词语选择。这可能会导致惊人的和独特的输出，但也会增加生成无意义或不相关文本的风险。

相反，低温设置会使LLM专注于最可能的词语，导致更可预测但可能更机械的输出。关键是找到创造力和连贯性之间的平衡，以满足你的具体需求。

Top-k采样作为一个过滤器，限制LLM从整个可能性宇宙中选择下一个词。相反，它将选项限制为基于前一个上下文的前k个最可能的词语。这种方法有助于LLM生成更专注和连贯的文本，通过引导它远离完全不相关的词语选择。

例如，如果你指示LLM写一首诗，使用top-k采样和一个低的k值（例如k=3），会鼓励LLM选择与诗歌常见相关的词语，如 “爱“、”心” 或 “梦“，而不是偏离到不相关的术语，如 “计算器” 或 “经济学”。

Top-p采样采用了一种略有不同的方法。它不是限制选项到固定数量的词语，而是设置一个累积概率阈值。LLM然后只考虑在此阈值内的词语，确保在多样性和相关性之间取得平衡。

假设你想让LLM写一篇关于人工智能（AI）的博客文章。Top-p采样允许你设置一个阈值，捕捉到与AI最相关的词语，如 “机器学习” 和 “算法“。然而，它也允许探索不太可能但可能有见地的术语，如 “伦理” 和 “局限性“。

可以把令牌想象成一个单词或标点符号。令牌限制参数允许你控制LLM生成的令牌总数。这是一个确保LLM创建的内容符合特定字数要求的关键工具。例如，如果你需要一个500字的产品描述，你可以设置令牌限制。

停止序列就像LLM的魔术词。这些预定义的短语或字符告诉LLM停止文本生成。这对于防止LLM陷入无限循环或偏离主题尤其有用。

例如，你可以设置一个停止序列，如 “结束“，以指示LLM在遇到该短语时终止文本生成。

“阻止不良词语”参数是一个关键的保障，防止LLM生成攻击性或不适当的语言。这对于维护品牌安全尤为重要，特别是那些依赖公共沟通的企业，如营销和广告代理商、客户服务等。

此外，阻止不良词语可以引导LLM生成包容性和负责的内容，这是许多企业今天的首要任务。

通过了解和实验这些控制，你可以利用LLM来创建高质量、针对特定受众的内容。

虽然上面讨论的参数为控制LLM输出提供了坚实的基础，但还有其他参数可以微调模型以获得更高的相关性。以下是几个例子：

频率惩罚：此参数阻止LLM重复使用同一个词语或短语，促进更自然和多样的写作风格。
存在惩罚：它阻止LLM使用已经存在于提示中的词语或短语，鼓励它生成更原创的内容。
无重复N-gram：此设置限制LLM生成已经在特定窗口内出现的词语序列（N-gram）。它有助于防止重复模式，促进更流畅的流程。
Top-k过滤：此高级技术结合了Top-k采样和核采样（Top-p）。它允许你限制候选词语的数量，并在这些选项中设置最低概率阈值。它提供了对LLM创造性方向的更精细的控制。

实验和找到正确的设置组合是解锁LLM的全部潜力的关键。

LLM是强大的工具，但其真正的潜力可以通过微调核心参数如温度、Top-k和Top-p来解锁。通过调整这些LLM参数，你可以将模型转变为多功能的商业助手，能够生成各种内容格式以满足特定需求。

要了解更多关于LLM如何赋予你的企业力量的信息，请访问 Unite.ai。