AI 原生广告内容的音量控制

大众对人工智能的“蜜月期”还没有完全结束。如果把它比作从 Netflix 的黄金时代走向如今流媒体服务商的分裂与商业化，那么现在大约相当于2019年。作为行业老牌厂商的 OpenAI，如今正面临一众实力雄厚的竞争者的有力挑战；但这些对手都还没有取得足够显著的优势，不敢冒险向善变的用户群强行推送广告。

同样，ChatGPT 目前仅向免费版和 Go 用户展示聊天内广告；Gemini 的广告只会出现在AI Overviews 和 AI Mode 中；Perplexity 去年冬天放弃了广告计划；xAI 预计未来某个时候会推出广告；Microsoft Copilot已经有广告；而 Claude 则断然拒绝了这种可能性。

但我们知道，这种局面不可能长久；随着推理的真实成本逐渐显现，以及即将到来的 AI IPO将股东利益诉求摆上台面，历史经验表明，我们可以预料，最终不得不开始审视大语言模型（LLM）的输出，以区分广告内容与非商业内容。

把音量调到 11

除了广告会有多么个性化、或将如何针对不同人口群体投放等问题，服务提供商还需要考虑商业内容的融合程度和类型。

这并不容易：广告做得过于隐晦，虽然能留住更多用户，却会失去出价更高的广告商；而更深度融入的广告内容虽然可能绕过有关广告披露的法规，赢得更优厚的广告合同，却也可能引发争议及其他负面连锁影响。

此外，按层级划分的广告平台可能需要采用不同程度的“音量”和融合方式，尽管大语言模型的变量很难量化。例如，此前有一种方案试图为大语言模型输出中的广告设置某种“音量调节器”，结果竟把用于量化的词语“在”也写进了聊天内容中：

新论文中的示例：一种较早的“音量调节”方案的标签竟然泄漏到了生成文本中。 来源

上面的例子取自一篇新论文*。该论文针对基于大语言模型的广告提出了两个关键问题：如何控制广告在聊天机器人回答中的显眼程度，以及如何识别回答中的哪些部分属于付费广告：

新 AdKnob 方法的示意图。左侧展示了 Subway 如何根据所选广告级别，成为多个推荐选项之一或回答的重点。右侧的绿色高亮部分标出了生成回答中的广告内容。

这项名为AdKnob的方法采用四级尺度，来确定聊天机器人推销产品的力度，同时识别包含广告的句子；其目标是在无需运行辅助模型、也不以任何方式拖慢流程的情况下，让广告内容易于识别——而广告行业历来都是发展最快的行业之一。

新研究的附录材料展示了广告植入文本的示例，并以红色高亮标出。

研究人员在 Alibaba、Microsoft 和 Meta 的六种 AI 模型上测试了 AdKnob 方法。每种情况下，广告量都可以在四个级别之间调整，从随口提及某款产品，到回答几乎完全用于推广某个品牌。

在 AdKnob 最激进的“音量”设置下（这里是“4”，而不是传说中的“11”），品牌信息往往会占据输出内容的主导地位。

研究需要使用开放权重模型，因为训练期间必须修改模型的内部参数，并检查其注意力模式，以识别生成回答中的广告内容；因此，研究人员无法使用只能通过 API 访问的前沿模型进行测试。

研究人员通过 Amazon Mechanical Turk 邀请 913 人参与测试。将 AdKnob 的回答与四种竞争方法的回答进行比较后，AdKnob 的回答在 75% 至近 90% 的情况下更受青睐。

令人难以置信的是，回答的实用性和清晰的广告标识竟是受试者给出的主要理由之一。即使在广告设置最高的情况下，回答的平均质量评分仍达到 4 分制中的 3.1 分，而设置最低时为 3.6 分。

作者指出，AdKnob 在识别哪些句子包含广告方面也表现更好；而在其中一个受测模型上，这一检查过程每条回答仅需3毫秒，开销低到可以接受，而且无需像此前几种方法那样专门生成令牌。

为了支持这一新系统，研究人员基于早期的 Webis Generated Native Ads 2024数据集开发了 MI-KnobSet 数据集。该数据集扩展了此前的资料集，纳入聊天机器人回答中不同程度的广告内容，共包含3,946个训练样本和913个测试样本。

作者表示：

‘[AdKnob]使单个大型语言模型能够生成广告强度范围广泛的回答。广告归因损失进一步加强了广告相关输入令牌与生成的广告内容之间的归因关联，从而能够在推理时准确标记广告。

‘在六种基础模型上的实验和用户研究表明，无论是广告质量还是广告标记，AdKnob 的表现都持续优于现有基线方法。我们的工作为在现实服务中实现透明且可控的原生大型语言模型广告提供了切实可行的基础。’

方法

与前文提到的早期方法不同，后者用于量化增量的词语最终会泄漏到输出中；新方法则使用四个专门设计的控制令牌，分别代表不同的广告强度：

q̂ = q ⊕ [AD_LV_n]

当然，上述 n 令牌可能代表任意数字，但在此例中，AdKnob 将范围限制为1到4级（对于这些特定变量而言，这种粒度可能已相当细致；这些变量指的是广告内容有多么“明显”和“醒目”）。

由于这些抽象令牌没有既定含义，模型可以学习它们预期的用途，而不会将其与日常语言混淆。

作者解释说，随后会使用直接偏好优化（DPO）训练模型，使控制令牌与所需的强度相匹配：

‘[We]因此，基础偏好构建依据两项指标：广告[score]（衡量品牌和广告文案在回答中的呈现有多显眼、表达有多正面），以及回答质量[score]（衡量回答对用户[query]的需求回应得有多好）。’

为了构建成对的数据集，研究人员对候选回答的广告强度、相关性、流畅度，以及相较于不含广告的回答所保留的信息进行评分，再根据评分为各个广告级别挑选训练样本。

针对每种广告情境，研究人员使用 GPT-4o 生成25条可能的回答，并通过提示词引导模型以不同程度推广产品。随后，他们为每个目标级别选出得分最高的回答，并搭配三条刻意设计得较差的替代回答，这些替代回答在质量、广告强度准确性或两者方面存在缺陷：

使用五种不同提示词生成的25条候选回答的广告评分。五条曲线大幅重叠，说明仅靠提示词无法可靠地产生彼此不同的广告级别。

研究人员利用上述 DPO 技术，通过这些比较结果训练模型，使其生成符合所要求广告级别、同时仍然实用自然的回答。

测试

研究人员在六种模型上对 AdKnob 的四个广告强度级别进行了评估：Qwen3-4B-Instruct；Phi-4-Mini-Instruct (3.8B)；LLaMA-3.2-3B-Instruct；Qwen2.5-14B-Instruct；Phi-4 (14B)；以及 LLaMA-3.1-8B-Instruct。

研究人员分别对广告强度和回答质量进行评分，并使用 ROC-AUC、精确率和召回率以及 F1 衡量广告标记的准确性。

研究人员使用低秩适配（LoRA）对模型进行微调，将生成回答的长度限制为500个令牌，并将广告标记阈值设为0.005。所有实验均在单块 NVIDIA H200 GPU 上进行，该显卡配备了令人咋舌的141GB HBM3e VRAM。

研究人员使用四种方法作为基准。在两步法中，广告被插入先前生成的回答；在基于提示词的方法中，则通过系统提示词加入广告。

另外两种方法分别是：JU-NLP通过微调来倾向于采用不那么显眼的广告；而 NL-prompt（指定广告强度的常规系统提示词，无需额外训练）则使用自然语言指令，要求模型生成四个级别的广告内容：轻微（L1）；中等（L2）；强烈（L3）；以及 最高（L4）。

研究比较了三种广告标注方法：Marker，提示模型在生成内容时标记广告；BERTScore，标出与给定广告文案相似的句子；以及AttnLRP，用于追踪广告对模型内部运作的影响：

四种AI模型在广告强度与回答质量方面的测试结果。与其他方法相比，AdKnob（蓝色）实现了范围更广、间隔更均匀的广告强度等级（L1–L4），并且在广告强度相当时，通常能保持更高的回答质量。

与其他方法相比，AdKnob实现的广告强度范围更广、表现更稳定；在广告强度相当时，通常也能给出质量更高的回答。研究者将此归因于其新颖的控制标记，以及训练过程中对低质量回答的剔除。

作者在此指出：

‘JU-NLP通过微调来提高广告的隐蔽性，但不提供明确的强度控制，因此生成的回答只有固定的广告强度。NL-prompt虽然支持多种强度，但其覆盖范围较窄，广告评分也不稳定，这证实了仅靠自然语言提示不足以控制广告强度。

‘相比之下，AdKnob能够覆盖广泛且均匀分布的广告强度。

‘这是因为我们的广告控制标记不带有预训练语义，只专门用作广告强度控制的条件信号，从而让DPO能够在每个标记与其目标强度之间建立清晰的对应关系。’

论文指出，作者的方法在广告强度相近时也比其他方法给出了质量更高的回答；这一提升被归因于训练样例中明确剔除了较差的回答。

接下来，研究者评估了系统的广告标注能力：

四种AI模型的广告检测结果。分数越高表示准确率越高，最佳结果以粗体显示。

在这项测试中，AdKnob在四种模型上的总体检测准确率均为最高，每条回答仅需2.5-7.3毫秒即可识别广告。相比之下，BERTScore约需1,800毫秒；在测试的最小模型上，AdKnob的速度快了500多倍。

作者补充道：

‘AdKnob通过基于明确消融指导的方法训练模型，在输入中的广告相关标记与广告片段之间建立紧密的归因关系，因此在所有模型上都取得了最高的AUC和F1分数。

‘此外，AdKnob还支持实时标注，且不会增加推理成本，约3毫秒即可处理每条回答，运行于[Qwen3-4B.]

在一项定性测试中，Nintendo Switch广告在L1级别下只是若干推荐内容之一；到了L4级别，该品牌则主导了整条回答。AdKnob在这两种强度下都标出了促销内容：

针对Walmart黑色星期五问题，在两种广告强度下生成的回答示例。标注为[AD]的高亮段落表示促销内容。

最后**，作者邀请913名参与者开展用户研究，请他们评估广告强度和回答质量、比较AdKnob与其他方法，并判断促销内容识别得是否准确：

AdKnob的人类评估结果。表格展示了广告强度和回答质量评分、相较于其他方法的偏好率，以及广告检测准确率。绿色单元格表示偏好率高于50%。

作者总结道：

‘AdKnob取得了最高的AUC和F1分数。值得注意的是，AdKnob的召回率很高，漏报很少。从监管角度看，这一点至关重要，因为未披露广告片段会带来重大的法律风险和信任风险。

结论

关于在大语言模型中投放广告，有一个值得思考的问题，而我尚未注意到有人讨论过：当非广告输出与基于广告的输出完全相同时，会发生什么？

例如，如果有人想要推荐一家当地餐馆，而当地只有麦当劳和一家评分很差的咖啡馆，但麦当劳付费获得了推荐位置，那么想必麦当劳就会以广告的形式呈现，因为这符合平台框架的目标——即便它本来就是自然的选择？

读到这类内容时——我在这个网站上经常写这类话题——我感觉自己就像一只火鸡在翻看烤箱目录。我们或许应该记住，即使在某些地区只要求进行最低限度的标注，输出中那些“言不由衷”的内容也不会被特别标示出来。这篇论文和类似论文中展示的少数几个例子，有些呈现了商业内容对原生内容极其严重的侵入。

当然，这些都是精挑细选出来的例子：它们奏效了，没有产生幻觉、建立离谱或冒犯性的关联，也没有以其他方式引发争议。对于这类架构而言，一旦大规模应用，就很容易遭遇公众批评；这或许也是大多数前沿服务在尝试广告时采取谨慎态度的另一个原因。

* 题为《AdKnob：LLM 原生广告的广告强度控制与标注》，作者为 KAIST 计算学院的六位研究人员。

** 和往常一样，我们不讨论消融研究（除非消融研究本身构成了该项工作的核心价值，而非仅仅用于抽查）。

首次发表于2026年11月5日，星期四