Llama.cpp V1.0.0 establece reglas de estabilidad de API para herramientas de IA locales

ggml-org anunció llama.cpp v1.0.0 el 13 de noviembre de 2026, lo que proporciona al proyecto de inferencia local de IA en C/C++ un contrato formal de compatibilidad para los desarrolladores que lo utilizan. La biblioteca de tensores subyacente, ggml, también alcanzó la versión 1.0.0; el proyecto informa que admite más de 150 variantes de arquitecturas de modelos y todos los métodos principales de decodificación especulativa.

El versionado se convierte en un contrato público

Ambos proyectos señalarán las futuras incompatibilidades de la API a nivel de código fuente y de la ABI —la interfaz binaria que utilizan las aplicaciones compiladas— mediante incrementos de la versión principal. Los cambios incompatibles en la API pública de C provocarán un incremento de la versión principal. Las funciones compatibles con versiones anteriores, las actualizaciones de los backends, la compatibilidad con modelos y las incorporaciones a la API provocarán un incremento de la versión secundaria, mientras que las correcciones de errores que no modifiquen la API provocarán un incremento de parche.

La política llega tras 3,5 años de desarrollo y una creciente dependencia de las interfaces de biblioteca del proyecto. llama.cpp proporciona inferencia de LLM multimodales mediante libllama, mientras que ggml proporciona la capa de tensores de aprendizaje automático mediante libggml. El software utiliza cuantización, backends optimizados y código C/C++ portable para funcionar en hardware que va desde equipos de consumo hasta servidores empresariales.

Esto proporciona a los responsables del mantenimiento de paquetes y a los desarrolladores de aplicaciones una referencia de versión para evaluar si una actualización puede romper su integración. El debate sobre el proceso de lanzamiento de los responsables del mantenimiento, celebrado el 7 de agosto de 2026, añade una medida de protección relacionada: solo se crea una etiqueta oficial de lanzamiento de llama.cpp cuando la copia interna de ggml es idéntica a la copia publicada de ggml. La condición busca garantizar que las compilaciones etiquetadas como versiones sean compatibles con una instalación de ggml para todo el sistema, como las que utilizan los paquetes de Debian y Homebrew descritos en el documento.

Cambios en el entorno de ejecución, los modelos y el servidor

Las notas de lanzamiento de llama.cpp v1.0.0 acompañan ese contrato con una limpieza sustancial. La versión elimina su API pública obsoleta, incluidas 35 funciones obsoletas, y, al mismo tiempo, incorpora la API de decodificación especulativa NextN desde el llama-ext.h encabezado de extensión al encabezado público llama.h . Este cambio incluye esa interfaz de decodificación especulativa en la API pública cubierta por las nuevas reglas de versionado.

Las nuevas funciones de inferencia incluyen cachés de valores y claves de punto flotante de 8 bits (FP8) compatibles con OCP, una caché en memoria del host para modelos de mezcla de expertos (MoE) con una proporción configurable de uso de CPU y la carga de datos PLE o engram externos desde fragmentos GGUF separados. Las incorporaciones de modelos abarcan las arquitecturas de texto Kimi-K3.1-Pro, Ripple y xing4_0; la conversión de texto a voz drama-3; y la compatibilidad con visión para MageVL-Cowork y Kimi-K3.1.

En llama-server, la versión aborda la falsificación de solicitudes del lado del servidor, el intercambio de recursos de origen cruzado y los problemas de suplantación de DNS, y restringe HF_TOKEN a los hosts huggingface.co. Las llamadas a herramientas MCP se cancelan cuando un cliente se desconecta o agota el tiempo de espera, y se notifica al servidor MCP. Un nuevo punto de conexión compatible con OpenAI /v1/audio/speech amplía la interfaz de audio del servidor.

La interfaz web rediseñada incorpora grupos de chat con nombre y un editor Markdown con vista previa en tiempo real. Las disposiciones para móviles aprovechan las áreas seguras del dispositivo y los cuadros de diálogo a pantalla completa, mientras que el editor de chat de Android puede abrir el teclado virtual.

Backends de hardware e infraestructura de lanzamiento

La versión complementaria de ggml v1.0.0 elimina las API obsoletas y las operaciones heredadas DIAG_MASK, añade truncamiento YaRN configurable y compatibilidad con FP8, y evita cargar entradas del planificador que no se leen. CUDA y Metal incorporan multiplicación de matrices cuantizadas con pocas filas y trabajo de fusión de MoE. Otras incorporaciones a los backends incluyen un kernel de FlashAttention de prellenado para Intel Vulkan, un planificador de MoE de SYCL en el dispositivo, FlashAttention de Adreno descompuesta en OpenCL, nuevos kernels de WebGPU y una cobertura ampliada de operaciones de Hexagon.

Cada backend de ggml puede compilarse como biblioteca dinámica y cargarse opcionalmente durante la ejecución, lo que permite que las instalaciones seleccionen código específico para cada hardware. Los artefactos previos al lanzamiento están disponibles para Linux, macOS, Windows, Android e iOS; Docker, Debian, Homebrew, conda-forge, MacPorts, Winget y XCFramework ofrecen canales de distribución adicionales, cuya cobertura de plataformas varía.

Para sostener el ritmo de desarrollo, el equipo afirma que Hugging Face Buckets y Jobs están ampliando la capacidad de integración continua para los cambios que se incorporan a las ramas principales. La compatibilidad con hardware de NVIDIA, AMD, Qualcomm, Arm, IBM e Intel también permite disponer de más ejecutores autohospedados en las principales plataformas de hardware. Los responsables del mantenimiento también están integrando LLM en su ciclo de desarrollo y señalan que sus prioridades son la calidad del código, el control arquitectónico y la comprensión de los detalles de implementación.

Para los proyectos que dependen de estas herramientas, el lanzamiento convierte la compatibilidad en una obligación explícita de desarrollo para una biblioteca de código abierto que evoluciona con rapidez. Las reglas de versionado pueden indicar los cambios incompatibles; el programa ampliado de integración continua y ejecutores de hardware ayuda a determinar si las versiones habituales siguen siendo fiables en los modelos y el hardware que utilizan esos proyectos.