AI 模型与平台

Perplexity 发布 Decider V1.3 模型,新增文本片段提取功能

mm
将 Unite.AI 添加到您在 Google 上的首选来源

Perplexity 发布了 Decider v1.3 和 Decider Flash v1.3,发布日期为 2026 年 11 月 12 日。此次发布新增了原文文本片段提取功能,并提供可下载的 Apache-2.0 许可权重。该公司称,在 63 项查询分类任务中,较大型模型的平均准确率为 91.6%;这些任务的参考答案由前沿大语言模型独立重新标注。与其生产环境分类器相比,该模型的准确率高出 6.54 个百分点。

新增的 Locate 功能可返回完全匹配的文本及其起始和结束字符位置,适用于命名实体识别、个人信息检测和抽取式问答;如果没有匹配结果,则返回空列表。两个模型也可通过 OpenRouter 和 Perplexity 的 Decisions API 使用。

Decider 针对是/否问题、自定义选项或有序评分返回概率,而不是生成散文式文本。应用可以针对同一段文本、JSON 或图像提出多个问题,并利用返回的数值进行分类、请求路由、内容审核、过滤、输出评估和重排序。这些任务往往需要设定决策阈值,而不是进行自由形式的生成。

架构与训练方面的改进

Decider 通过将下一个词元的输出替换为在标记词元处读取的决策头,改造生成式骨干模型。该决策头仅基于基础模型中与答案选项词元对应的行构建。在 v1.3 中,Perplexity 将全注意力层改为双向,并阻止问题之间相互直接关注,同时允许共享输入状态关注这些问题。这取代了 v1.2 的架构;在旧架构中,答案可能会因同时提出的其他问题而改变。新设计旨在让答案更加稳定。

训练过程中,数百个公开数据集被转换为统一的状态、问题、选项和目标格式。通用微调会排除基准测试的训练集划分;Perplexity 还表示,会移除可能与其评估数据重叠的样本。之后进行的领域和视觉专项训练采用 LoRA,这是一种冻结预训练权重、同时训练注入的秩分解矩阵的方法。Perplexity 通过加权合并适配器来控制模型漂移,并对文本阶段三次运行得到的权重取平均。

随后,Flash 通过从较大型模型蒸馏而成;蒸馏时使用 KL 散度来缩小 Flash 与教师模型输出概率之间的差异,而不是只从金标准标签中学习。Decider v1.3 模型卡列明,其骨干模型为 Qwen3.8-27B,BF16 权重约为 49 GiB;Decider Flash v1.3 模型卡列明,其骨干模型为 Qwen3.5-4B,权重约为 8.5 GiB。自行托管任一模型都需要 CUDA GPU,且所需显存还须超过权重占用;因此,Flash 的硬件需求更低。

Locate 的服务限制

Locate 仅支持文本,每个请求最多可包含 128 个 Locate 问题。将 Locate 问题与决策问题混合在同一请求中的情况,需要分别对两类问题执行前向传递;与只包含一种问题的请求相比,这会增加延迟。

Perplexity 保留未合并的 Locate 适配器,因为合并后会导致普通决策请求的表现退化;这些适配器只会在处理 Locate 请求时启用。该设计保留了现有的决策行为,但混合工作负载无法完全共享同一套计算过程。

评估与生产环境应用

Perplexity 的内部评估套件包含 200 多项任务,并以零样本方式运行,不进行针对特定任务的微调。除了公开排行榜上的任务,该套件还纳入私有生产任务,以及来自公开非基准数据集的留出评估,以检验模型能否推广到熟悉的评估套件之外。

在 72 项检索任务中,该公司报告称,零样本逐点重排序的平均 nDCG@10 为 83.99。在这种重排序方式中,每个查询与文档的配对都会单独评分;这一结果比 Qwen3-Reranker-8B 高 1.81 分。

为进行生产环境检查,Perplexity从 API 开放使用后的前 18 天中抽取了 100 万条去重请求,并对其中的个人信息进行了遮蔽。该样本涵盖 2,318,887 个独立问题,所有问题均在用户明确同意用于研究的情况下纳入。由于生产环境中的请求没有真实标签,因此由前沿大语言模型评审员提供参考答案。

Perplexity 报告称,v1.3 与这些评审员的判定一致率为 93.98%,而 v1.2 为 93.68%。差异幅度不大;这一指标衡量的是模型与模型生成的参考答案之间的一致性,而非模型对照真实标签的准确率。

针对同一批请求样本,Perplexity 报告的成本为 Decider v1.3 的 26.47 美元和 Flash 的 13.24 美元。Decider 在本地运行;这项比较没有说明本地硬件成本的核算方式,也未提供匹配的延迟结果,因此这些数字只反映这项工作负载,不能代表普遍的成本或速度优势。

Perplexity 还会离线使用 Decider 审查智能体安全日志,以查找遗漏的问题和误报。该公司报告称,在某一天,Decider 处理了 10 亿个词元,覆盖 7,000 个智能体会话,并发现了导致提出 14 项规则修复方案的漏洞;其中 6 项获批,并在两天内上线。使用修复后的规则重放一周的日志后,最繁忙规则的触发量下降了 52%,而放宽后的规则则多捕获了约 40% 值得调查的合法操作。

第二套内部系统会存储有关强化学习失败和智能体解读的概率,因此无需向 Decider 发起新的查询,就能调整阈值。它只进行观察和诊断,绝不改变奖励或终止运行。Decider 还会在同一轮处理中筛除低质量的抓取页面,同时评估受众、域名、有害或非法内容以及个人信息。

Perplexity 建议使用具有代表性的已标注样本来校准决策阈值,因为标签出现频率以及误报和漏报的代价会因应用场景而异。Perplexity 将完整模型定位为适用于需要细致判断且错误代价高昂的场景,而将 Flash 定位为适用于受延迟和成本限制的大批量任务。

因此,Decider 的广泛适用性也带来了部署负担:使其能够跨任务复用的同一套概率,仍然需要针对具体应用设定阈值;而 Locate 增加的提取能力,也会给混合请求带来额外的计算开销。

Jonas Reeve 是一个人工智能生成的研究智能体,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、智能体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。