IBM afferma che Granite Speech 5.0 trascrive 3,5 ore di parlato in un secondo

IBM ha rilasciato due modelli compatti di riconoscimento vocale in inglese il 25 agosto 2026, affermando una velocità di trascrizione mai raggiunta da un modello open: più di 3,5 ore di parlato elaborate in un solo secondo. La coppia, Granite Speech 5.0 TurboCTC e una variante non commerciale, conta solo 470 milioni di parametri ciascuna, e l’azienda riporta una velocità aggregata superiore a 12.600 RTFx su una singola GPU NVIDIA H200, il che significa che l’audio attraversa i modelli più di dodicimila volte più velocemente del tempo reale.

La velocità è accompagnata da un’accuratezza competitiva, almeno secondo i dati di IBM. sui set di test pubblici in inglese a breve formato dell’OpenASR Leaderboard, la variante non commerciale ottiene un tasso di errore di parola aggregato del 4,85 % e la variante con licenza aperta del 5,00 %, secondo l’annuncio di IBM. Entrambe le cifre sono fornite dal fornitore: IBM le etichetta come non ufficiali, sebbene l’inferenza sia stata eseguita tramite l’infrastruttura Jobs di Hugging Face e valutata con gli strumenti della classifica, quindi l’azienda prevede che corrisponderanno alla tabella ufficiale una volta aggiornata.

I due modelli sono identici per dimensioni e architettura e differiscono per dati di addestramento e licenza. Il modello Apache 2.0 è stato addestrato su circa 60.000 ore di audio in inglese ed è autorizzato per uso commerciale. La variante non commerciale aggiunge GigaSpeech e SPGI Speech, circa 15.000 ore aggiuntive, portando il suo corpus a quasi 75.000 ore sotto licenza CC‑BY‑NC‑SA‑4.0. IBM afferma che i dati extra conferiscono un leggero vantaggio di accuratezza sulla maggior parte dei set di test, con un vantaggio più evidente su SPGI Speech stesso e uno svantaggio notevole sul nuovo test segmentato Earnings22 della classifica.

Un codificatore senza modello linguistico

L’affermazione sulla velocità si basa su ciò che IBM ha omesso. Le versioni precedenti di Granite Speech (le linee 3.3 e 4.x documentate nel paper Granite Speech di IBM) collegavano un codificatore acustico Conformer a un modello linguistico Granite tramite un proiettore e adattatori LoRA, generando testo in modo autoregressivo come fa un modello di chat. I modelli 5.0 eliminano completamente il modello linguistico. Ciò che rimane è un codificatore Conformer a 16 strati addestrato con la classificazione temporale connessionista, uno schema di decodifica che mappa i frame audio direttamente sui token di output in un unico passaggio non autoregressivo con decodifica greedy.

Altri due cambiamenti fanno la maggior parte del lavoro. Dove i precedenti codificatori Granite emettevano 50 caratteri al secondo, i nuovi modelli ne emettono 12,5 token al secondo, ottenuto tramite tre fasi di sottocampionamento temporale 2× dal front‑end log‑Mel a 100 frame al secondo. Inoltre il vocabolario di output è passato dai caratteri a 16.384 unità subword addestrate, SentencePiece nel modello non commerciale e BPE in quello Apache. Un numero minore di token, più lunghi, a un quarto della frequenza dei frame è ciò che spinge la velocità oltre 20 volte quella dei modelli Granite Speech precedenti, secondo IBM.

Il compromesso è tra ampiezza di capacità e focalizzazione sulla trascrizione. Senza il modello linguistico, questi modelli perdono la traduzione vocale e il bias delle parole chiave supportati nella versione precedente. Ciò che guadagnano è un ingombro adatto a laptop e hardware edge: IBM posiziona la coppia per il speech‑to‑text aziendale, dove latenza e velocità contano più di un modello capace anche di ragionare su ciò che ha sentito.

Cosa mostrano e non mostrano le valutazioni

Il segnale indipendente più forte finora proviene dall’audio a distanza. Sul FFASR Leaderboard, che misura il riconoscimento di parlato rumoroso e riverberante, IBM riporta i risultati ufficiali al 25 agosto 2026, posizionando il modello non commerciale al quinto posto per accuratezza e il modello Apache al nono — mentre entrambi sono le due voci più veloci della classifica, con velocità misurata su una singola NVIDIA L4. FFASR valuta i modelli su audio rumoroso, riverberante e con sorgente in movimento a diversi SNR, condizioni in cui il riconoscimento a distanza si degrada, secondo la descrizione stessa del leaderboard.

Il dato di punta di 12.600 RTFx necessita di contestualizzazione, però. Si tratta di un valore di inferenza batch su una delle GPU da datacenter più veloci in commercio, non di quello che vedrebbe un laptop che esegue la demo di streaming WebGPU. Le cifre aggregate di WER coprono solo l’inglese a breve formato, e le classifiche ufficiali dell’OpenASR Leaderboard, che includono set di test privati, non avevano ancora incorporato i nuovi modelli al momento della pubblicazione. L’inquadramento di IBM è il più trasparente: si tratta di risultati forniti dal venditore in attesa di conferma da parte della classifica.

La procedura di addestramento merita anche una nota per quanto riguarda l’apertura dei dati. Ogni dataset nei corpora di entrambi i modelli è pubblicamente disponibile, e le 2.740 ore di aggiunte sintetiche comprendono 2.500 ore di audio multivoce concatenato da segmenti monovoce più 240 ore di enunciati generati dai modelli open‑weight gpt‑oss di OpenAI e sintetizzati con StyleTTS2, mirati a numeri, valute e indirizzi che ostacolano i riconoscitori. L’addestramento è durato 10 giorni su 8 GPU NVIDIA H100 nel cluster Blue Vela di IBM, secondo la scheda modello.

Entrambi i modelli sono ora disponibili su Hugging Face con supporto nativo nella libreria transformers — installato dal sorgente fino al prossimo rilascio — nella collezione Granite Speech, e una demo di streaming basata su browser funziona su Chrome e Edge. Per avere un’idea di come i modelli di trascrizione dedicati si confrontano con i servizi commerciali, consultate il nostro riepilogo di software di trascrizione AI.