IBM zegt dat Granite Speech 5.0 3,5 uur spraak in één seconde transcribeert

IBM bracht op 25 augustus 2026 twee compacte Engelse spraakherkenningsmodellen uit en beweert een transcriptiesnelheid te hebben die geen enkel open model eerder heeft bereikt: meer dan 3,5 uur spraak verwerkt in één seconde. Het duo, Granite Speech 5.0 TurboCTC en een niet‑commerciële tegenhanger, bevat elk slechts 470 miljoen parameters, en het bedrijf meldt een gecombineerde doorvoersnelheid van meer dan 12.600 RTFx op één NVIDIA H200‑GPU, wat betekent dat audio meer dan twaalfduizend keer sneller dan realtime door de modellen stroomt.

De snelheid gaat gepaard met een competitieve nauwkeurigheid, althans volgens de cijfers van IBM. Op de openbare Engelse short‑form testsets van de OpenASR Leaderboard behaalt de niet‑commerciële variant een samengestelde woordfoutpercentage van 4,85 % en de open‑gelicentieerde variant 5,00 %, volgens IBM‑aankondiging. Beide cijfers zijn door de leverancier gerapporteerd: IBM labelt ze als onofficieel, hoewel de inferentie werd uitgevoerd via de eigen jobs‑infrastructuur van Hugging Face en werd geëvalueerd met de tools van de leaderboard, zodat het bedrijf verwacht dat ze overeenkomen met de officiële tabel zodra deze wordt bijgewerkt.

De twee modellen zijn identiek in omvang en architectuur en verschillen in trainingsdata en licentie. Het Apache 2.0‑model is getraind op ongeveer 60.000 uur Engelse audio en is goedgekeurd voor commercieel gebruik. De niet‑commerciële variant voegt GigaSpeech en SPGI Speech toe, ongeveer 15.000 extra uren, waardoor de corpus bijna 75.000 uur omvat onder een CC‑BY‑NC‑SA‑4.0‑licentie. IBM stelt dat de extra data een bescheiden nauwkeurigheidsvoordeel oplevert op de meeste testsets, met een duidelijker voordeel op SPGI Speech zelf en een merkbaar nadeel op de nieuwe, in stukken verdeelde Earnings22‑test van de leaderboard.

Een encoder zonder taalmodel

De snelheidsclaim berust op wat IBM heeft weggelaten. eerdere Granite Speech‑releases (de 3.3‑ en 4.x‑lijnen beschreven in IBM‑s Granite Speech‑paper) koppelden een Conformer‑akoestische encoder aan een Granite‑taalmodel via een projector en LoRA‑adapters, waardoor tekst autoregressief werd gegenereerd zoals een chatmodel dat doet. De 5.0‑modellen laten het taalmodel volledig weg. Wat overblijft is een 16‑laag‑Conformer‑encoder getraind met connectionist temporal classification, een decodeerschema dat audiokanalen direct naar output‑tokens mappt in één niet‑autoregressieve stap met greedy‑decodering.

Twee extra wijzigingen doen het grootste deel van het werk. Waar eerdere Granite‑encoders 50 tekens per seconde uitstuurden, produceren de nieuwe modellen 12,5 tokens per seconde, bereikt via drie fasen van 2× temporele subsampling van de 100‑frames‑per‑seconde log‑Mel‑frontend. Bovendien is de output‑woordenschat verschoven van tekens naar 16.384 getrainde subwoord‑eenheden, SentencePiece in het niet‑commerciële model en BPE in het Apache‑model. Minder, langere tokens bij een kwart van de framerate duwen de doorvoersnelheid volgens IBM meer dan 20‑maal hoger dan die van de eerdere Granite Speech‑modellen.

De afweging is breedte van mogelijkheden ten gunste van transcriptiefocus. Zonder het taalmodel verliezen deze modellen de spraakvertaling en sleutelwoord‑bias die de eerdere lijn ondersteunden. Wat ze wel winnen is een footprint die geschikt is voor laptops en edge‑hardware: IBM positioneert het duo voor enterprise speech‑to‑text waar latentie en doorvoersnelheid belangrijker zijn dan een model dat ook kan redeneren over wat het heeft gehoord.

Wat de evaluaties wel en niet laten zien

Het sterkste onafhankelijke signaal tot nu toe komt van far‑field audio. Op de FFASR Leaderboard, die herkenning van ruisende, nagalmende spraak meet, meldt IBM officiële resultaten van 25 augustus 2026, waarbij het niet‑commerciële model op vijfde plaats staat qua nauwkeurigheid en het Apache‑model op negende — terwijl beide de twee snelste inzendingen op de ranglijst zijn, met doorvoersnelheid gemeten op één NVIDIA L4. FFASR evalueert modellen op ruisende, nagalmende en bewegende‑bron audio bij meerdere SNR‑waarden, omstandigheden waarin far‑field herkenning achteruitgaat, volgens de eigen beschrijving van de leaderboard.

Het opvallende cijfer van 12.600 RTFx heeft echter context nodig. Het betreft een batch‑inference‑waarde op een van de snelste datacenter‑GPU’s, niet wat een laptop met de WebGPU‑streaming‑demo zal ervaren. De samengestelde WER‑cijfers hebben alleen betrekking op short‑form Engels, en de officiële rangschikkingen van de OpenASR Leaderboard, die privé‑testsets omvatten, hadden de nieuwe modellen bij publicatie nog niet opgenomen. IBM’s eigen positionering is hier de eerlijke: dit zijn sterke door de leverancier gerapporteerde resultaten die nog op bevestiging van de leaderboard wachten.

Het trainingsrecept verdient ook aandacht vanwege wat het zegt over de openheid van data. Elke dataset in de corpora van beide modellen is openbaar beschikbaar, en de 2.740 uur synthetische aanvullingen bestaan uit 2.500 uur multi‑speaker audio samengevoegd uit single‑speaker segmenten plus 240 uur uitingen gegenereerd door OpenAI’s open‑weight gpt‑oss‑modellen en gesynthetiseerd met StyleTTS2, gericht op cijfers, valuta’s en adressen die herkenningssystemen lastig vinden. De training duurde 10 dagen op 8 NVIDIA H100‑GPU’s op IBM’s Blue Vela‑cluster, volgens de modelcard.

Beide modellen staan nu live op Hugging Face met native ondersteuning in de transformers‑bibliotheek — geïnstalleerd vanuit de bron tot de volgende release — onder de Granite Speech‑collectie, en een browser‑gebaseerde streaming‑demo draait in Chrome en Edge. Voor een indruk van waar toegewijde transcriptiemodellen staan ten opzichte van commerciële diensten, zie onze overzichts­artikel over AI‑transcriptiesoftware.