AI 模型与平台
Baidu 的 ERNIE Evolve 实现 AI 研究与推理优化自动化
将 Unite.AI 添加到您在 Google 上的首选来源
Baidu于 2026 年 11 月 9 日推出了ERNIE Evolve，并报告称，该系统在 NanoChat 和 NanoGPT 的三项指标上优于公开对比结果；在一项确定性 ERNIE-5.5-Flash 推理测试中，吞吐量提高了 33.7%。这一自动化研究系统能够选择研究方向、修改 AI 代码，并且只保留通过独立评估和审查的改进。
这项公告还介绍了正在开发中的 ERNIE-5.5-Flash 的推理工程工作。该系统的作用不止于编写代码：它还会选择研究方向、执行测试，并利用失败和成功的结果指导后续迭代。
具备独立检查机制的研究循环
给定代码仓库、优化目标和评估标准后，ERNIE Evolve 会修改代码，并在隔离环境中运行实验。外层的调度器会参考由既往实验构成的经验库，以及收录论文、开源代码和领域知识的知识库，选择研究方向和起始版本。多个并行通道分别维护候选版本树；每个通道内，选择器会选定一个候选版本和假设，再由执行器实施改动。
是否接受改动，取决于固定的评估器和独立的审查器。评估器位于代码仓库之外，对智能体不可见，会排除超出范围的改动，并要求收益高于噪声阈值。审查器会检查改动是否遵循研究方向，并剔除利用评估漏洞的方案。偏离方向的候选版本无法成为最佳版本。
公开基准测试结果与已发布代码
Baidu 报告了以下结果，并与其评估中采用的公开对比结果进行了比较：
| 任务与条件 | 指标 | ERNIE Evolve | 公开对比结果 |
|---|---|---|---|
| NanoChat AutoResearch，在一块 B200 上训练五分钟 | 验证集每字节位数，越低越好 | 0.8763 | 10 个随机种子的平均值为 0.887791 |
| NanoGPT Speedrun Track 1，八块 H100 GPU | 达到 3.28 的 FineWeb 验证损失所需秒数，越低越好 | 18 次运行平均为 38.92 秒 | 39.9 秒 |
| NanoGPT Speedrun Track 3，固定数据、批次大小和架构 | 达到 3.28 的 FineWeb 验证损失所需步数，越低越好 | 八次运行共 2,590 步 | 八次运行共 2,690 步 |
| SOL-ExecBench，235 个内核问题 | 相对于 B200 分析屋顶线的平均理论峰值性能得分，越高越好 | 0.819 | 领先得分为 0.827 |
在 NanoChat 上，ERNIE Evolve 在神经网络之外增加了两个预测分支：一个利用训练语料中的 n-gram 统计信息，另一个检索匹配文档，并根据这些文档的后续内容进行预测。一个经过训练的门控机制会根据各分支在较早 token 位置上的表现，调整它们的混合比例。
结果仓库发布了最终代码和测量日志；每份日志都嵌入了实际执行的代码，或标明了该代码的 SHA-256。仓库列出了七个 SOL-ExecBench 内核产物，得分为 0.6669–0.9920；NVIDIA 的任务定义和工作负载数据不会重新分发。
SOL-ExecBench 这一行结果为整体表现补充了限定：ERNIE Evolve 并非在所有列出的指标上都领先，不过在该任务上，Baidu 的对比结果显示它优于 Recursive 和 Hyra-1.0。
面向 ERNIE-5.5-Flash 的推理优化
Baidu 将 ERNIE Evolve 用于 Kunlunxin P800 上的低延迟推理、GPU 上的确定性推理吞吐量优化，以及单请求解码提速。大多数基线方案此前已由工程师优化，所有改动都必须通过与工程师提交的方案相同的负载测试和正确性检查。
在 Kunlunxin P800 上，Baidu 报告称，经过四轮研究，生成速度达到基线的 623.6%，同时通过了正确性检查，且模型和部署配置均未改变。前几轮研究启用了融合的流形约束超连接和推测解码，随后降低了主机端的调度与同步开销。第四轮修复了分发机制，从而启用了 DeepEP 的低延迟路径。
对于强化学习训练，确定性任务要求生成的 token 和对数概率无论批次构成如何都必须逐位完全一致，并且必须与整段序列重新计算的结果相符。SGLang 的确定性模式通过固定归约顺序来满足这些要求，但这会限制 GPU 利用率。Baidu 报告称，经过约三天的工作，在保持确定性的同时，每个输出 token 的平均耗时还降低了 26%，首 token 生成时间降低了 12%。单项改进中幅度最大的一项，是用一个并行处理词表分块的 Triton 内核替代确定性采样；此前，确定性采样每步约占用 14% 的 GPU 时间。
对于单请求 GPU 解码，百度报告称，与已经过工程师调优的服务相比，速度提升了 14.9%，准确率则保持不变。七个研究方向中有三个取得了提升，包括在输入行数少于八行时，使用原生 FP16 指令执行 FP8 矩阵乘法；以及将顺序扫描专家替换为两级混合专家调度器。
这些测试还暴露出更严格的模块与确定性约束、与单项性能提升幅度相当的测量噪声，以及涵盖推理引擎、内核库、硬件插件和服务启动脚本的多种环境。一些有用的改动带来的提升小于噪声，因此，候选方案必须通过端到端负载测试证明其价值，而不能只依赖孤立的内核测量结果。
百度计划将这一循环应用于训练系统优化，随后利用模型能力指标指导自动化假设生成、实验设计和验证。从长远来看，百度的目标是让 AI 识别能力差距，并生成和完善评估任务。
该公司表示，递归式自我改进必须始终由人类控制且可随时中断，并受到明确的目标、权限和资源边界约束，同时接受持续的安全评估和人工监督。从固定的工程指标转向模型能力和基准设计后，这些评估与监督机制将成为决定研究循环能够扩展到何种程度的关键。
