Llama.cpp V1.0.0 määrittää paikallisten tekoälytyökalujen rajapinnan vakaussäännöt

ggml-org julkisti llama.cpp v1.0.0:n 13. marraskuuta 2026 ja loi näin C/C++-pohjaiselle paikallisen tekoälyn päättelyprojektille virallisen yhteensopivuussopimuksen jatkokehittäjiä varten. Myös taustalla oleva ggml-tensorikirjasto saavutti version 1.0.0. Projektin mukaan se tukee yli 150:tä malliarkkitehtuurin muunnelmaa ja kaikkia yleisiä spekulatiivisen dekoodauksen menetelmiä.

Versioinnista tulee julkinen sopimus

Molemmat projektit ilmoittavat tulevista lähdekooditason rajapinnan yhteensopimattomuuksista ja ABI-yhteensopimattomuuksista pääversion korotuksilla. ABI eli binäärirajapinta on käännettyjen sovellusten käyttämä rajapinta. Julkisen C-rajapinnan rikkovat muutokset johtavat pääversion korotukseen. Taaksepäin yhteensopivat ominaisuudet, taustajärjestelmäpäivitykset, mallituen lisäykset ja rajapintalisäykset johtavat sivuversion korotukseen, kun taas virheenkorjaukset, jotka eivät muuta rajapintaa, johtavat korjausversion korotukseen.

Käytäntö perustuu 3,5 vuoden kehitystyöhön ja projektin kirjastorajapintojen kasvavaan käyttöön. llama.cpp tarjoaa multimodaalista LLM-päättelyä käyttäen libllama, kun taas ggml tarjoaa koneoppimisen tensorikerroksen libggmlkautta. Ohjelmisto käyttää kvantisointia, optimoituja taustajärjestelmiä ja siirrettävää C/C++-koodia toimiakseen niin kuluttajalaitteissa kuin yrityspalvelimissakin.

Tämä antaa pakettien ylläpitäjille ja sovelluskehittäjille versionumeron, jonka avulla he voivat arvioida, saattaako päivitys rikkoa integraation. Ylläpitäjien 7. elokuuta 2026 käymässä julkaisuprosessia koskevassa keskustelussa esiteltiin siihen liittyvä lisäsuojaus: virallinen llama.cpp-julkaisutunniste luodaan vain, jos projektin sisäinen ggml-kopio on identtinen julkaistun ggml-kopion kanssa. Ehdon tarkoituksena on varmistaa, että julkaisutunnisteeseen perustuvat koontiversiot ovat yhteensopivia koko järjestelmän kattavan ggml-asennuksen kanssa. Tällaista järjestelyä käyttävät asiakirjassa kuvatut Debian- ja Homebrew-paketit.

Ajoympäristön, mallien ja palvelimen muutokset

llama.cpp v1.0.0:n julkaisutiedoissa sopimukseen yhdistyy perusteellinen siivous. Julkaisu poistaa vanhentuneen julkisen rajapintansa, mukaan lukien 35 vanhentunutta funktiota, ja nostaa samalla NextN-spekulatiivisen dekoodauksen rajapinnan llama-ext.h laajennusotsaketiedostosta julkiseen llama.h otsaketiedostoon. Näin tämä spekulatiivisen dekoodauksen rajapinta siirtyy uuden versiointikäytännön piiriin kuuluvaan julkiseen rajapintaan.

Uusiin päättelyominaisuuksiin kuuluvat OCP:n 8-bittiseen liukulukumuotoon (FP8) perustuvat avain-arvovälimuistit, isäntämuistin välimuisti asiantuntijasekoitusmalleille (MoE), joissa suorittimen osuutta voi säätää, sekä ulkoisen PLE- tai engrammidatan lataaminen erillisistä GGUF-osista. Malliuutuuksia ovat Kimi-K3.1-Pro-, Ripple- ja xing4_0-tekstiar kkitehtuurit, drama-3:n tekstistä puheeksi -ominaisuus sekä näkökyvyn tuki MageVL-Coworkille ja Kimi-K3.1:lle.

llama-serverin julkaisu korjaa palvelinpuolen pyyntöjen väärentämiseen, resurssien väliseen jakamiseen ja DNS-uudelleensidontaan liittyviä ongelmia sekä rajoittaa HF_TOKEN huggingface.co-isäntiin. MCP-työkalukutsut peruutetaan, jos asiakas katkaisee yhteyden tai aikakatkaisu tapahtuu, ja MCP-palvelimelle lähetetään siitä ilmoitus. Uusi OpenAI-yhteensopiva /v1/audio/speech päätepiste laajentaa palvelimen äänirajapintaa.

Uudistettuun verkkokäyttöliittymään on lisätty nimettyjä keskusteluryhmiä ja Markdown-muokkausohjelma, jossa on reaaliaikainen esikatselu. Mobiiliasetteluissa huomioidaan laitteen turva-alueet ja käytetään koko näytön valintaikkunoita, ja Androidin keskustelumuokkaimessa voi avata virtuaalinäppäimistön.

Laitteistotaustajärjestelmät ja julkaisun infrastruktuuri

Täydentävä ggml v1.0.0 -julkaisu poistaa vanhentuneet rajapinnat ja vanhat DIAG_MASK-toiminnot, lisää säädettävän YaRN-katkaisun ja FP8-tuen sekä välttää sellaisten ajoittimen syötteiden lataamisen, joita ei lueta. CUDAan ja Metaliin lisätään muutaman rivin kvantisoitu matriisikertolasku ja MoE-yhdistämistyötä. Muita taustajärjestelmäparannuksia ovat Intelin Vulkan-esitäyttöön tarkoitettu FlashAttention-ydin, laitepuolen SYCL-MoE-ajoitin, hajautettu Adreno FlashAttention OpenCL:ssä, uudet WebGPU-ytimet ja laajempi Hexagon-toimintojen tuki.

Kukin ggml-taustajärjestelmä voidaan kääntää dynaamiseksi kirjastoksi ja haluttaessa ladata ajon aikana, jolloin asennuksissa voidaan valita laitteistokohtainen koodi. Esijulkaisuversioiden koontiversiot kattavat Linuxin, macOS:n, Windowsin, Androidin ja iOS:n. Lisäksi jakelukanavia ovat Docker, Debian, Homebrew, conda-forge, MacPorts, Winget ja XCFramework, joiden alustatuki vaihtelee.

Tiimin mukaan Hugging Face Buckets ja Jobs kasvattavat jatkuvan integraation kapasiteettia kehitystahdin ylläpitämiseksi ja master-haaroihin tulevien muutosten käsittelemiseksi. NVIDIA:n, AMD:n, Qualcommin, Armin, IBM:n ja Intelin laitteistotuki mahdollistaa myös useampien itse ylläpidettyjen suoritusympäristöjen käyttöönoton tärkeimmillä laitteistoalustoilla. Ylläpitäjät ottavat LLM-mallit osaksi kehityssykliään ja kertovat pitävänsä ensisijaisina koodin laatua, arkkitehtuurin hallintaa ja toteutuksen yksityiskohtien ymmärtämistä.

Jatkokäyttäjien projekteille julkaisu tekee yhteensopivuudesta nopeasti kehittyvän avoimen lähdekoodin kirjaston nimenomaisen kehitysvelvoitteen. Versiosäännöt voivat kertoa yhteensopivuutta rikkovista muutoksista, ja laajennettu jatkuvan integraation sekä laitteistopohjaisten suoritusympäristöjen ohjelma auttaa selvittämään, pysyvätkö tavalliset julkaisut luotettavina niissä malleissa ja laitteissa, joita kyseiset projektit käyttävät.