Llama.cpp V1.0.0 устанавливает правила стабильности API для локальных инструментов ИИ

13 ноября 2026 года ggml-org объявила о выпуске llama.cpp v1.0.0, установив формальные условия совместимости для разработчиков, использующих этот проект на C/C++ для локального запуска моделей ИИ. Библиотека тензорных операций ggml, лежащая в его основе, также достигла версии v1.0.0. По данным проекта, она поддерживает более 150 вариантов архитектур моделей и все основные методы спекулятивного декодирования.

Версионирование становится публичным обязательством

Оба проекта будут обозначать несовместимость API на уровне исходного кода и ABI — двоичного интерфейса, используемого скомпилированными приложениями, — повышением основной версии. Несовместимые изменения публичного API на языке C повлекут за собой повышение основной версии. Обратно совместимые функции, обновления серверных компонентов, поддержка моделей и дополнения API приведут к повышению минорной версии, а исправления ошибок без изменений API — к повышению версии исправления.

Эта политика стала итогом 3,5 года разработки и растущей зависимости от библиотечных интерфейсов проекта. llama.cpp обеспечивает мультимодальный запуск больших языковых моделей через libllama, а ggml предоставляет тензорный слой машинного обучения через libggml. Программа использует квантование, оптимизированные серверные компоненты и переносимый код на C/C++, чтобы работать на оборудовании — от пользовательских компьютеров до корпоративных серверов.

Это позволяет сопровождающим пакетов и разработчикам приложений оценивать по номеру версии, может ли обновление нарушить интеграцию. Обсуждение сопровождающими процесса выпуска от 7 августа 2026 года добавляет дополнительную меру защиты: официальный тег выпуска llama.cpp создаётся только в том случае, если внутренняя копия ggml полностью совпадает с выпущенной версией ggml. Это условие призвано обеспечить совместимость сборок с тегами выпуска с общесистемной установкой ggml — именно такую схему используют описанные в документе пакеты Debian и Homebrew.

Изменения среды выполнения, моделей и сервера

В примечаниях к выпуску llama.cpp v1.0.0 это обязательство подкреплено масштабной очисткой кода. В выпуске удалён устаревший публичный API, в том числе 35 устаревших функций, а API спекулятивного декодирования NextN перенесён из llama-ext.h заголовка расширения в публичный llama.h заголовок. Благодаря этому интерфейс спекулятивного декодирования входит в публичный API, на который распространяются новые правила версионирования.

К новым возможностям инференса относятся кэши ключей и значений с 8-битными числами с плавающей точкой OCP (FP8), кэш в оперативной памяти для моделей со смесью экспертов (MoE) с настраиваемой долей вычислений на ЦП, а также загрузка внешних данных PLE или engram из отдельных фрагментов GGUF. Поддержка моделей охватывает текстовые архитектуры Kimi-K3.1-Pro, Ripple и xing4_0, преобразование текста в речь для drama-3, а также обработку изображений для MageVL-Cowork и Kimi-K3.1.

В llama-server выпуск устраняет уязвимости, связанные с подделкой межсайтовых запросов на стороне сервера, совместным использованием ресурсов между источниками и подменой DNS, а также ограничивает HF_TOKEN доступ узлами huggingface.co. Вызовы инструментов MCP отменяются при отключении клиента или истечении времени ожидания, о чём уведомляется сервер MCP. Новый совместимый с OpenAI /v1/audio/speech конечный маршрут расширяет аудиоинтерфейс сервера.

В переработанном веб-интерфейсе появились именованные группы чатов и редактор Markdown с предварительным просмотром в реальном времени. В мобильной версии учитываются безопасные области экрана устройства и используются диалоговые окна во весь экран, а редактор чата на Android может открывать виртуальную клавиатуру.

Серверные компоненты для оборудования и инфраструктура выпусков

В сопутствующем выпуске ggml v1.0.0 удалены устаревшие API и старые операции DIAG_MASK, добавлены настраиваемое усечение YaRN и поддержка FP8, а также устранена необходимость загружать неиспользуемые входные данные планировщика. В CUDA и Metal добавлены квантованное умножение матриц с малым числом строк и улучшения слияния MoE-операций. Среди других новшеств для серверных компонентов — ядро предварительного заполнения FlashAttention для Intel Vulkan, планировщик MoE на устройстве для SYCL, декомпозированная FlashAttention для Adreno в OpenCL, новые ядра WebGPU и расширенная поддержка операций Hexagon.

Каждый серверный компонент ggml можно скомпилировать в динамическую библиотеку и при необходимости загружать во время выполнения, что позволяет выбирать аппаратно-специфичный код для конкретной установки. Предварительные артефакты выпуска доступны для Linux, macOS, Windows, Android и iOS; дополнительные каналы распространения — Docker, Debian, Homebrew, conda-forge, MacPorts, Winget и XCFramework — обеспечивают поддержку разных наборов платформ.

По словам команды, чтобы поддерживать темпы разработки, Hugging Face Buckets и Jobs наращивают мощности непрерывной интеграции для изменений, попадающих в основные ветки. Поддержка оборудования со стороны NVIDIA, AMD, Qualcomm, Arm, IBM и Intel также позволяет использовать больше самостоятельно размещённых средств выполнения на основных аппаратных платформах. Сопровождающие также внедряют большие языковые модели в процесс разработки, уделяя приоритетное внимание качеству кода, контролю над архитектурой и пониманию деталей реализации.

Для проектов, использующих библиотеку, этот выпуск превращает совместимость в явное обязательство при разработке быстро развивающегося проекта с открытым исходным кодом. Правила версионирования позволяют сообщать о несовместимых изменениях; расширение непрерывной интеграции и программы использования аппаратных средств выполнения помогает определить, остаются ли регулярные выпуски надёжными для моделей и оборудования, которые используют эти проекты.