AI 模型与平台
Translated 发布 Lara Mini：一款支持45种语言的研究模型
将 Unite.AI 添加到您在 Google 上的首选来源
要点Lara Mini shares experts across languages rather than dedicating separate expert groups…
查看更多
- Lara Mini shares experts across languages rather than dedicating separate expert groups to each one.
- The model's efficiency advantage is strongest for a single user with long prompts and narrows under shared load.
- The release is a gated research base model without safety tuning or instruction-following capability.
Translated 于2026年11月12日宣布推出 Lara Mini。这款研究模型从零开始训练，使用了涵盖英语和另外44种语言的6万亿个词元，其中包括欧盟全部24种官方语言。该系统拥有72亿个参数，每个词元仅激活6亿个参数。
混合专家架构会为每个词元激活128个路由专家中的4个，同时保持一个共享专家处于激活状态。模型共有34层，包括14层 Gated DeltaNet 线性注意力层、13层滑动窗口注意力层（窗口大小为512个词元），以及7层全局注意力层；与全注意力相比，这种架构限制了推理状态的增长。完成初始训练后，模型又经过一个独立阶段，使用1000亿个词元进行训练，将上下文窗口从4096个词元扩展至131072个词元。
Translated从公开发布的来源构建数据集，经过筛选和去重后，形成了一个包含13.8万亿个词元的数据池；初始训练中，97%的词元来自文档的首次读取。英语贡献了2.49万亿个词元，占41.4%；另外44种语言贡献了2.18万亿个词元，占36.4%。其余词元来自代码、数学内容，以及采用监督微调数据格式编排的示例。
测试以英语替代多语言数据
在另一项测试中，研究人员使用同一检查点进行了两次受控退火训练，每次使用1000亿个词元。退火是训练的最后阶段，在这一阶段，学习率会逐渐衰减至零。研究人员以英语替换了占比33%的多语言数据，使英语占比从27%升至60%。技术报告称，英语开发集的平均得分仅提高0.3分，而受支持语言的多语言平均得分则下降2.7分。
这项实验仅针对退火阶段，并未衡量多语言数据占比对主要预训练阶段的影响。另一项路由分析发现，各语言共享专家，而非各自分配独立的专家组；在网络前段，相关语言呈现相似的路由方式，在中间层的路由则几乎完全相同。作者提醒，共享路由并不能证明语义表示也相同；他们的实验也未能证明多语言训练可以提升一般推理能力或英语表现。
基准测试得分及其局限
Translated 使用统一的提示词、设置和答案提取方式，在26项英语、多语言、数学和代码基准测试中，将 Lara Mini 与另外56个开放基础模型进行了比较。在活跃参数不超过20亿的36个模型中，Lara Mini 的综合平均得分为57.0，高于 granite-4.0-h-tiny 的53.9和 Qwen3-1.7B 的53.8。两者报告的预训练词元总数分别为22.5万亿和36万亿；相比之下，Lara Mini 的初始训练使用了6万亿个词元。
Translated 的测试结果显示，在这一类别中，Lara Mini 的多语言理解得分为56.7，数学得分为59.9，均位列第一；英语得分为66.4，位列第二；代码得分为45.1，位列第五。综合得分对四个领域的平均分赋予相同权重；对所有模型而言，多语言基准测试的平均分均按 Lara Mini 支持的非英语语言计算。该比较涵盖的是基础模型，而非经过指令微调的系统。不同语言的表现也有所差异；在训练数据有限的受支持语言中，阿塞拜疆语和孟加拉语的得分处于较低水平。
Translated 测得，Lara Mini 在 A100 GPU 上为单个用户生成文本的速度约为每秒1100个字符，且未进行量化。在速度比较中，综合平均分高于 Lara Mini 的所有模型，文本生成速度至少慢1.8倍。Lara Mini 的速度优势在单个用户使用长提示词时最为明显；多人共用 GPU 时，优势则会缩小。
研究开放方式与产品规划
发布的模型是一款文本续写基础模型，而非指令跟随或聊天系统，也未经过安全调优。其模型卡警告称，模型可能生成错误、有偏见或冒犯性文本；若不经过进一步训练，不应将其部署为助手。
模型权重须经审核方可获取，每项申请均由 Translated 审核。权重采用 CC BY-NC-SA 4.0 许可，可用于研究及其他非商业用途；代码和分词器则采用 Apache 2.0 许可。Translated 另行提供商业许可，并未随模型发布任何训练数据。
Translated 的研究页面称，部分企业客户也将获得访问权限，并将针对特定主权应用进行微调列为预期用途。Lara Mini 属于 Lara 4 基础模型系列；该系列旨在为下一代 Lara Translate 提供核心模型支持。
2026年11月13日发布的后续说明称，Lara Mini 尚未在 Lara Translate 中上线。公司计划将其用作下一版 Lara Translate 应用离线文本翻译功能的基础模型，并在手机本地处理文本，使文本留在设备上。45种语言这一数字指的是训练覆盖范围；离线翻译上线时支持哪些语言，尚未说明。
这款规划中的应用将研究成果转化为一项具体的产品测试：在保留 Translated 评测中所报告的效率和多语言表现的同时，将一个稀疏研究检查点转化为私密的设备端翻译功能。
