AI 模型与平台
Llama.cpp V1.0.0 为本地 AI 工具制定 API 稳定性规则
将 Unite.AI 添加到您在 Google 上的首选来源
要点Major-version bumps now publicly signal source and binary breakage for downstream…
查看更多
- Major-version bumps now publicly signal source and binary breakage for downstream llama.cpp integrators.
- Official release tags require an identical internal ggml copy to keep system-wide installations compatible.
- Each ggml backend can compile as a dynamic library and load at runtime for hardware-specific code.
ggml-org 于 2026 年 11 月 13 日宣布推出 llama.cpp v1.0.0，为这个以 C/C++ 构建的本地 AI 推理项目制定了正式的兼容性契约，供下游开发者遵循。底层的 ggml 张量库也发布了 v1.0.0；该项目称，它支持 150 多种模型架构变体以及所有主流的推测解码方法。
版本管理成为公开契约
这两个项目都将通过提升主版本号，标示未来可能出现的源代码级 API 不兼容问题，以及 ABI（编译后应用程序所使用的二进制接口）变更。公开 C API 的破坏性变更会触发主版本号递增。向后兼容的功能、后端更新、模型支持和 API 新增内容会触发次版本号递增；不涉及 API 变更的错误修复则会触发修订版本号递增。
这项政策是在历经 3.5 年开发、项目库接口的依赖日益加深后推出的。llama.cpp 通过……提供多模态 LLM 推理 libllama而 ggml 则通过……提供机器学习张量层 libggml该软件采用量化、经过优化的后端以及可移植的 C/C++ 代码，面向从消费级设备到企业服务器的各类硬件。
这为软件包维护者和应用开发者提供了版本信号，帮助他们判断升级是否可能破坏现有集成。维护者于 2026 年 8 月 7 日展开的发布流程讨论还提出了相关保障措施：只有当 llama.cpp 内部所含的 ggml 副本与已发布的 ggml 副本完全一致时，才会创建正式的 llama.cpp 发布标签。此举旨在确保基于发布标签构建的软件能够兼容系统级 ggml 安装；文档所述的 Debian 和 Homebrew 软件包正是采用这种安装方式。
运行时、模型和服务器变更
llama.cpp v1.0.0 发布说明在确立这项契约的同时，也对代码进行了大规模清理。此次发布移除了已弃用的公共 API，包括 35 个已弃用函数，同时将 NextN 推测解码 API 从 llama-ext.h 扩展头文件移至公开的 llama.h 头文件中。这一调整将该推测解码接口纳入新版本管理规则所涵盖的公共 API。
新增推理功能包括 OCP 8 位浮点（FP8）键值缓存、用于 混合专家（MoE）模型且可配置 CPU 占比的主机内存缓存，以及从独立 GGUF 分片加载外部 PLE 或 engram 数据。新增模型支持包括 Kimi-K3.1-Pro、Ripple 和 xing4_0 文本架构、drama-3 文本转语音，以及 MageVL-Cowork 和 Kimi-K3.1 的视觉支持。
对于 llama-server，此次发布修复了服务器端请求伪造、跨源资源共享和 DNS 重绑定问题，并将……限制 HF_TOKEN 仅限 huggingface.co 主机。客户端断开连接或超时后，MCP 工具调用会被取消，并向 MCP 服务器发送通知。新增的 OpenAI 兼容 /v1/audio/speech 端点扩展了服务器的音频接口。
重新设计的网页界面新增了命名聊天分组和支持实时预览的 Markdown 编辑器。移动端布局适配设备安全区域并采用全屏对话框；Android 聊天编辑器则可以调出虚拟键盘。
硬件后端与发布基础设施
配套发布的ggml v1.0.0移除了已弃用的 API 和旧版 DIAG_MASK 操作，新增可配置的 YaRN 截断功能和 FP8 支持，并避免上传不会被读取的调度器输入数据。CUDA 和 Metal 新增了针对少量行的量化矩阵乘法及 MoE 融合方面的改进。其他后端新增内容包括 Intel Vulkan 预填充 FlashAttention 内核、设备端 SYCL MoE 调度器、在 OpenCL 中拆分实现的 Adreno FlashAttention、新的 WebGPU 内核，以及扩展后的 Hexagon 操作支持范围。
每个 ggml 后端都可以编译为动态库，并可选择在运行时加载，从而允许安装环境选用针对特定硬件的代码。预发布构建产物覆盖 Linux、macOS、Windows、Android 和 iOS；Docker、Debian、Homebrew、conda-forge、MacPorts、Winget 和 XCFramework 也提供了其他分发渠道，但各渠道支持的平台有所不同。
团队表示，为跟上开发节奏，Hugging Face Buckets 和 Jobs 正在扩大持续集成能力，以支持合并到 master 分支的变更。NVIDIA、AMD、Qualcomm、Arm、IBM 和 Intel 提供的硬件支持，也使团队能够在各大硬件平台上增加更多自托管运行器。维护者还在开发周期中引入 LLM，并将代码质量、架构控制以及对实现细节的理解列为优先事项。
对于下游项目而言，此次发布意味着，快速迭代的开源库将兼容性明确列为开发责任。版本规则能够传达不兼容变更的信息；扩大的 CI 和硬件运行器计划则有助于判断常规发布在这些项目所使用的模型和硬件上是否仍然可靠。
