Llama.cpp V1.0.0, Yerel Yapay Zekâ Araçları İçin API Kararlılığı Kurallarını Belirliyor

ggml-org, 13 Kasım 2026’da llama.cpp v1.0.0 sürümünü duyurdu ve C/C++ tabanlı yerel yapay zekâ çıkarım projesi için alt projelerin geliştiricilerine yönelik resmî bir uyumluluk taahhüdü getirdi. Temel ggml tensör kütüphanesi de v1.0.0 sürümüne ulaştı. Proje, 150’den fazla model mimarisi çeşidini ve yaygın spekülatif çözümleme yöntemlerinin tümünü desteklediğini bildirdi.

Sürümleme, Kamuya Açık Bir Taahhüde Dönüşüyor

Her iki proje de kaynak düzeyindeki API uyumsuzluklarını ve derlenmiş uygulamaların kullandığı ikili arayüz olan ABI’deki uyumsuzlukları gelecekte ana sürüm numarasını artırarak bildirecek. Herkese açık C API’sinde geriye dönük uyumluluğu bozan değişiklikler ana sürüm artışını gerektirecek. Geriye dönük uyumlu özellikler, arka uç güncellemeleri, model desteği ve API eklemeleri alt sürüm numarasını artıracak; API değişikliği içermeyen hata düzeltmeleri ise yama sürümünü artıracak.

Bu politika, 3,5 yıllık geliştirme sürecinin ve projenin kütüphane arayüzlerine artan bağımlılığın ardından geldi. llama.cpp, çok modlu LLM çıkarımını şu yollarla sunuyor libllama, ggml ise makine öğrenimi tensör katmanını şu yollarla sağlıyor libggml. Yazılım, tüketici bilgisayarlarından kurumsal sunuculara kadar çeşitli donanımları hedeflemek için kuantizasyondan, optimize edilmiş arka uçlardan ve taşınabilir C/C++ kodundan yararlanıyor.

Bu sürümleme, paket bakımcılarına ve uygulama geliştiricilerine bir güncellemenin entegrasyonlarını bozup bozmayacağını değerlendirmeleri için bir işaret veriyor. Bakımcıların 7 Ağustos 2026 tarihli sürüm sürecine ilişkin tartışması da benzer bir güvence getiriyor: Resmî bir llama.cpp sürüm etiketi, yalnızca projedeki ggml kopyası yayımlanan ggml kopyasıyla aynı olduğunda oluşturuluyor. Bu koşul, sürüm etiketiyle oluşturulan yapıların sistem genelindeki bir ggml kurulumuyla uyumlu kalmasını amaçlıyor; belgede açıklanan Debian ve Homebrew paketleri de bu düzeni kullanıyor.

Çalışma Zamanı, Model ve Sunucu Değişiklikleri

llama.cpp v1.0.0 sürüm notları, bu taahhüdü kapsamlı bir kod temizliğiyle tamamlıyor. Sürüm, 35 kullanımdan kaldırılmış işlev de dâhil olmak üzere artık önerilmeyen herkese açık API’yi kaldırırken NextN spekülatif çözümleme API’sini llama-ext.h uzantı başlığından herkese açık llama.h başlığa taşıyor. Böylece bu spekülatif çözümleme arayüzü, yeni sürümleme kurallarının kapsadığı herkese açık API’nin bir parçası oluyor.

Yeni çıkarım özellikleri arasında OCP 8 bit kayan noktalı (FP8) anahtar-değer önbellekleri, yapılandırılabilir bir CPU payıyla uzman karışımı (MoE) modelleri için ana bellek önbelleği ve harici PLE ya da engram verilerinin ayrı GGUF parçalarından yüklenmesi yer alıyor. Model eklemeleri arasında Kimi-K3.1-Pro, Ripple ve xing4_0 metin mimarileri, drama-3 metinden konuşmaya modeli ile MageVL-Cowork ve Kimi-K3.1 için görüntü desteği bulunuyor.

llama-server için sürüm, sunucu tarafında istek sahteciliği, çapraz kaynak paylaşımı ve DNS yeniden bağlama sorunlarını gideriyor; ayrıca HF_TOKEN kullanımını huggingface.co ana makineleriyle sınırlandırıyor. İstemci bağlantısı kesildiğinde veya zaman aşımına uğradığında MCP araç çağrıları iptal ediliyor ve MCP sunucusuna bildirim gönderiliyor. OpenAI ile uyumlu yeni bir /v1/audio/speech uç nokta, sunucunun ses arayüzünü genişletiyor.

Yeniden tasarlanan web arayüzüne adlandırılmış sohbet grupları ve canlı önizleme sunan bir Markdown düzenleyicisi ekleniyor. Mobil düzenler cihazın güvenli alanlarını ve tam ekran iletişim pencerelerini kullanırken Android sohbet düzenleyicisi sanal klavyeyi açabiliyor.

Donanım Arka Uçları ve Sürüm Altyapısı

Tamamlayıcı ggml v1.0.0 sürümü, kullanımdan kaldırılmış API’leri ve eski DIAG_MASK işlemlerini kaldırıyor; yapılandırılabilir YaRN kesme özelliği ile FP8 desteği ekliyor ve okunmayan zamanlayıcı girdilerinin yüklenmesini önlüyor. CUDA ve Metal’e az satırlı kuantize matris çarpımı ve MoE birleştirme çalışmaları ekleniyor. Diğer arka uç yenilikleri arasında Intel Vulkan için bir ön doldurma FlashAttention çekirdeği, cihaz tarafında çalışan bir SYCL MoE zamanlayıcısı, OpenCL’de ayrıştırılmış Adreno FlashAttention, yeni WebGPU çekirdekleri ve genişletilmiş Hexagon işlem kapsamı bulunuyor.

Her ggml arka ucu dinamik kütüphane olarak derlenebiliyor ve isteğe bağlı olarak çalışma zamanında yüklenebiliyor; böylece kurulumlarda donanıma özgü kod seçilebiliyor. Sürüm öncesi yapılar Linux, macOS, Windows, Android ve iOS’u kapsıyor. Docker, Debian, Homebrew, conda-forge, MacPorts, Winget ve XCFramework ise platform kapsamları değişiklik gösteren ek dağıtım kanalları sunuyor.

Ekip, geliştirme temposunu desteklemek için Hugging Face Buckets ve Jobs hizmetlerinin, master dallarına gelen değişiklikler için sürekli tümleştirme kapasitesini artırdığını belirtiyor. NVIDIA, AMD, Qualcomm, Arm, IBM ve Intel’in donanım desteği de başlıca donanım platformlarında kendi sunucularında barındırılan çalıştırıcıların sayısını artırmayı mümkün kılıyor. Bakımcılar, geliştirme süreçlerine LLM’leri de dâhil ediyor; önceliklerinin ise kod kalitesi, mimari üzerindeki denetim ve uygulama ayrıntılarını anlama olduğunu belirtiyor.

Alt projeler açısından bu sürüm, hızlı ilerleyen bir açık kaynak kütüphanesinde uyumluluğu açık bir geliştirme yükümlülüğüne dönüştürüyor. Sürüm kuralları, uyumluluğu bozan değişiklikleri duyurabiliyor; genişletilen sürekli tümleştirme ve donanım çalıştırıcısı programı ise düzenli sürümlerin bu projelerin kullandığı modeller ve donanımlar genelinde güvenilirliğini koruyup korumadığını belirlemeye yardımcı oluyor.