IBM twierdzi, że Granite Speech 5.0 transkrybuje 3,5 godziny mowy w jedną sekundę

IBM wydało dwa kompaktowe modele rozpoznawania mowy w języku angielskim 25 sierpnia 2026 r., twierdząc, że ich przepustowość transkrypcji przewyższa wszystkie dotychczasowe modele otwarte: ponad 3,5 godziny mowy przetworzone w jednej sekundzie. Para, Granite Speech 5.0 TurboCTC oraz wersja niekomercyjna, zawiera zaledwie 470 milionów parametrów, a firma podaje łączną przepustowość ponad 12 600 RTFx na jednej karcie NVIDIA H200 GPU, co oznacza, że dźwięk przechodzi przez modele ponad dwanaście tysięcy razy szybciej niż w czasie rzeczywistym.

Ta prędkość idzie w parze z konkurencyjną dokładnością, przynajmniej według liczb IBM. Na publicznych, krótkich zestawach testowych języka angielskiego z OpenASR Leaderboard, wersja niekomercyjna uzyskuje łączny wskaźnik błędów słów (WER) na poziomie 4,85 %, a wersja na otwartej licencji 5,00 %, zgodnie z ogłoszeniem IBM. Obie wartości pochodzą od dostawcy: IBM oznacza je jako nieoficjalne, choć inferencja została przeprowadzona przy użyciu własnej infrastruktury Hugging Face i oceniona przy pomocy narzędzi leaderboardu, więc firma spodziewa się, że po aktualizacji będą zgodne z oficjalną tabelą.

Oba modele są identyczne pod względem rozmiaru i architektury, różnią się jedynie danymi treningowymi i licencją. Model na licencji Apache 2.0 został wytrenowany na około 60 000 godzin angielskiego nagrania i jest dopuszczony do użytku komercyjnego. Wersja niekomercyjna dodatkowo zawiera GigaSpeech i SPGI Speech, co daje kolejne około 15 000 godzin, łącznie prawie 75 000 godzin danych pod licencją CC‑BY‑NC‑SA‑4.0. IBM twierdzi, że dodatkowe dane zapewniają niewielką przewagę w dokładności na większości zestawów testowych, wyraźniejszą przewagę na samym SPGI Speech oraz zauważalną niekorzyść w nowym, podzielonym teście Earnings22 na leaderboardzie.

An Encoder Without a Language Model

Twierdzenie o prędkości opiera się na tym, co IBM pominęło. Wcześniejsze wydania Granite Speech (linie 3.3 i 4.x opisane w IBM’s Granite Speech paper) łączyły akustyczny enkoder Conformer z modelem językowym Granite za pomocą projektora i adapterów LoRA, generując tekst autoregresywnie, tak jak robi to model czatu. Modele 5.0 całkowicie rezygnują z modelu językowego. Pozostał 16‑warstwowy enkoder Conformer wytrenowany metodą Connectionist Temporal Classification, schemat dekodowania, który mapuje ramki audio bezpośrednio na tokeny wyjściowe w jednym nie‑autoregresywnym przebiegu z zachłannym dekodowaniem.

Dwie dodatkowe zmiany wykonują większość pracy. Tam, gdzie poprzednie enkodery Granite emitowały 50 znaków na sekundę, nowe modele emitują 12,5 tokena na sekundę, osiągane dzięki trzem etapom podpróbkowania czasowego 2× w przednim module log‑Mel działającym z 100 klatkami na sekundę. Ponadto słownik wyjściowy przeszedł z znaków na 16 384 wytrenowane jednostki pod‑słowne, SentencePiece w wersji niekomercyjnej i BPE w wersji Apache. Mniej, ale dłuższe tokeny przy jednej czwartej częstotliwości klatek to czynnik, który według IBM podnosi przepustowość ponad 20‑krotnie w porównaniu do wcześniejszych modeli Granite Speech.

Kompleksowość możliwości zostaje poświęcona na rzecz skoncentrowania się na transkrypcji. Bez modelu językowego te modele tracą możliwość tłumaczenia mowy oraz biasowanie słów kluczowych, które były obsługiwane w poprzedniej wersji. Zyskują natomiast niewielki rozmiar, odpowiedni dla laptopów i urządzeń brzegowych: IBM pozycjonuje tę parę jako rozwiązanie do korporacyjnego przetwarzania mowy na tekst, gdzie istotniejsze są opóźnienie i przepustowość niż zdolność modelu do rozumowania o usłyszanym.

What the Evaluations Do and Don’t Show

Najsilniejszy niezależny sygnał pochodzi dotąd z nagrań z dalekiego pola. Na FFASR Leaderboard, który mierzy rozpoznawanie szumnej, pogłosowej mowy, IBM podaje oficjalne wyniki z 25 sierpnia 2026 r., umieszczając model niekomercyjny na piątym miejscu pod względem dokładności, a model Apache na dziewiątym — przy czym oba zajmują dwie najwydajniejsze pozycje w rankingu, z przepustowością mierzona na jednej karcie NVIDIA L4. FFASR ocenia modele na szumnych, pogłosowych i ruchomych źródłach dźwięku przy różnych stosunkach sygnał‑szum (SNR), warunkach, w których rozpoznawanie z dalekiego pola ulega pogorszeniu, zgodnie z opisem leaderboardu.

Jednak liczba 12 600 RTFx wymaga kontekstu. Jest to wynik inferencji wsadowej na jednej z najszybszych kart graficznych serwerowych, a nie to, co zobaczy laptop uruchamiający demonstrację strumieniowania WebGPU. Łączne wskaźniki WER obejmują wyłącznie krótkie formy angielskiego, a oficjalne rankingi OpenASR Leaderboard, które zawierają prywatne zestawy testowe, nie uwzględniły jeszcze nowych modeli w momencie publikacji. Własna prezentacja IBM jest tutaj szczera: są to silne wyniki podane przez dostawcę, oczekujące na potwierdzenie w rankingu.

Warto również zwrócić uwagę na metodologię treningu pod kątem otwartości danych. Każdy zestaw danych w korpusach obu modeli jest publicznie dostępny, a 2 740 godzin syntetycznych dodatków składa się z 2 500 godzin wielogłośnikowego audio połączonego z fragmentów pojedynczych mówców oraz 240 godzin wypowiedzi wygenerowanych przez modele open‑weight gpt‑oss firmy OpenAI i syntezowanych przy użyciu StyleTTS2, skierowanych na liczby, waluty i adresy, które sprawiają trudności rozpoznawaczom. Trening trwał 10 dni na 8 kartach NVIDIA H100 w klastrze IBM Blue Vela, zgodnie z kartą modelu.

Oba modele są już dostępne na Hugging Face z natywną obsługą w bibliotece transformers — instalowaną ze źródeł do kolejnego wydania — w ramach kolekcji Granite Speech, a przeglądarkowa demonstracja strumieniowania działa w Chrome i Edge. Aby uzyskać pojęcie, jak dedykowane modele transkrypcyjne wypadają w porównaniu z usługami komercyjnymi, zobacz nasz przegląd AI transcription software.