Llama.cpp V1.0.0 define regras de estabilidade de API para ferramentas locais de IA

ggml-org anunciou o llama.cpp v1.0.0 em 13 de novembro de 2026, estabelecendo um contrato formal de compatibilidade para desenvolvedores que dependem do projeto de inferência local de IA em C/C++. A biblioteca de tensores subjacente, ggml, também chegou à versão 1.0.0, e o projeto informa que oferece suporte a mais de 150 variantes de arquiteturas de modelos e a todos os principais métodos de decodificação especulativa.

O versionamento se torna um compromisso público

Ambos os projetos sinalizarão futuras incompatibilidades de API no nível do código-fonte e de ABI — a interface binária usada por aplicativos compilados — por meio de aumentos na versão principal. Alterações incompatíveis na API pública de C provocam um aumento da versão principal. Recursos compatíveis com versões anteriores, atualizações de back-end, suporte a modelos e adições à API provocam um aumento da versão secundária, enquanto correções de bugs sem alterações na API provocam um aumento da versão de patch.

A política vem após 3,5 anos de desenvolvimento e uma dependência crescente das interfaces de biblioteca do projeto. O llama.cpp oferece inferência multimodal de LLM por meio de libllama, enquanto o ggml fornece a camada de tensores de aprendizado de máquina por meio de libggml. O software usa quantização, back-ends otimizados e código C/C++ portátil para atender a diferentes hardwares, de máquinas de consumo a servidores empresariais.

Isso fornece aos mantenedores de pacotes e desenvolvedores de aplicativos um sinal de versão para avaliar se uma atualização pode comprometer a integração. A discussão sobre o processo de lançamento dos mantenedores, em 7 de agosto de 2026, acrescenta uma medida de proteção relacionada: uma tag oficial de lançamento do llama.cpp só é criada quando a cópia interna do ggml é idêntica à cópia lançada do ggml. A condição visa manter as compilações identificadas por tags de lançamento compatíveis com uma instalação do ggml em todo o sistema, como ocorre nos pacotes Debian e Homebrew descritos no documento.

Mudanças no tempo de execução, nos modelos e no servidor

As notas de lançamento do llama.cpp v1.0.0 acompanham esse compromisso com uma ampla revisão. O lançamento remove a API pública obsoleta, incluindo 35 funções obsoletas, e promove a API de decodificação especulativa NextN do llama-ext.h cabeçalho de extensão para o llama.h cabeçalho público. Essa mudança inclui a interface de decodificação especulativa na API pública abrangida pelas novas regras de versionamento.

Entre os novos recursos de inferência estão caches de chave-valor (KV) OCP de ponto flutuante de 8 bits (FP8), um cache na memória do host para modelos de mistura de especialistas (MoE) com uma parcela de CPU configurável e o carregamento de dados PLE ou engram externos a partir de fragmentos GGUF separados. As adições de modelos abrangem as arquiteturas de texto Kimi-K3.1-Pro, Ripple e xing4_0, o modelo de conversão de texto em fala drama-3 e o suporte a visão para MageVL-Cowork e Kimi-K3.1.

No llama-server, o lançamento trata de falsificação de solicitações do lado do servidor, compartilhamento de recursos entre origens e problemas de reencaminhamento de DNS, além de restringir HF_TOKEN a hosts huggingface.co. As chamadas de ferramentas MCP são canceladas quando um cliente se desconecta ou excede o tempo limite, e o servidor MCP é notificado. Um novo ponto de extremidade compatível com OpenAI /v1/audio/speech amplia a interface de áudio do servidor.

A interface web redesenhada adiciona grupos de bate-papo com nomes e um editor Markdown com visualização em tempo real. Os layouts para dispositivos móveis respeitam as áreas seguras dos dispositivos e usam diálogos em tela cheia, enquanto o editor de bate-papo para Android pode abrir o teclado virtual.

Back-ends de hardware e infraestrutura de lançamento

O lançamento do ggml v1.0.0, que acompanha o principal, remove APIs obsoletas e operações DIAG_MASK legadas, adiciona truncamento YaRN configurável e suporte a FP8, e evita enviar entradas do escalonador que não são lidas. CUDA e Metal recebem multiplicação de matrizes quantizada para poucas linhas e trabalho de fusão de MoE. Entre as outras adições aos back-ends estão um kernel FlashAttention de pré-preenchimento para Vulkan da Intel, um escalonador de MoE SYCL executado no dispositivo, FlashAttention decomposto para Adreno em OpenCL, novos kernels WebGPU e suporte ampliado a operações Hexagon.

Cada back-end do ggml pode ser compilado como uma biblioteca dinâmica e, opcionalmente, carregado em tempo de execução, permitindo que as instalações selecionem código específico para cada hardware. Os artefatos de pré-lançamento abrangem Linux, macOS, Windows, Android e iOS, enquanto Docker, Debian, Homebrew, conda-forge, MacPorts, Winget e XCFramework oferecem canais de distribuição adicionais, cuja cobertura de plataformas varia.

Para acompanhar o ritmo de desenvolvimento, a equipe afirma que o Hugging Face Buckets e o Jobs estão ampliando a capacidade de integração contínua para as alterações incorporadas às branches master. O suporte de hardware da NVIDIA, AMD, Qualcomm, Arm, IBM e Intel também está permitindo o uso de mais executores auto-hospedados nas principais plataformas de hardware. Os mantenedores também estão integrando LLMs ao ciclo de desenvolvimento e apontam a qualidade do código, o controle arquitetônico e a compreensão dos detalhes de implementação como prioridades.

Para os projetos que dependem dessas ferramentas, o lançamento transforma a compatibilidade em uma obrigação explícita de desenvolvimento para uma biblioteca de código aberto em rápida evolução. As regras de versionamento podem sinalizar mudanças incompatíveis; o programa ampliado de integração contínua e executores de hardware ajuda a determinar se os lançamentos regulares continuam confiáveis nos modelos e hardwares usados por esses projetos.