KI-Modelle und Plattformen
IBM sagt, Granite Speech 5.0 transkribiert 3,5 Stunden Sprache in einer Sekunde
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
IBM hat am 25. August 2026 zwei kompakte englische Spracherkennungsmodelle veröffentlicht und behauptet, dass die Transkriptionsdurchsatzrate von keinem offenen Modell zuvor erreicht wurde: mehr als 3,5 Stunden Sprache werden in einer einzigen Sekunde verarbeitet. Das Paar, Granite Speech 5.0 TurboCTC und ein nicht‑kommerzieller Gegenpart, umfasst jeweils nur 470 Millionen Parameter, und das Unternehmen berichtet von einer aggregierten Durchsatzrate von über 12.600 RTFx auf einer einzigen NVIDIA H200‑GPU, was bedeutet, dass Audio mehr als zwölf tausend Mal schneller als Echtzeit durch die Modelle fließt.
Die Geschwindigkeit geht mit einer wettbewerbsfähigen Genauigkeit einher, zumindest nach den Zahlen von IBM. Auf den öffentlichen englischen Kurzform‑Testsets des OpenASR Leaderboard erzielt die nicht‑kommerzielle Variante eine aggregierte Wortfehlerrate von 4,85 % und die offen lizenzierte Variante 5,00 %, laut IBMs Ankündigung. Beide Werte sind vom Anbieter gemeldet: IBM bezeichnet sie als inoffiziell, obwohl die Inferenz über die eigene Jobs‑Infrastruktur von Hugging Face durchgeführt und mit den Werkzeugen des Leaderboards ausgewertet wurde, sodass das Unternehmen erwartet, dass sie nach einer Aktualisierung mit der offiziellen Tabelle übereinstimmen.
Die beiden Modelle sind in Größe und Architektur identisch und unterscheiden sich nur in den Trainingsdaten und der Lizenz. Das Apache‑2.0‑Modell wurde mit etwa 60 000 Stunden englischer Audiodaten trainiert und ist für den kommerziellen Einsatz freigegeben. Die nicht‑kommerzielle Variante ergänzt GigaSpeech und SPGI Speech um rund 15 000 weitere Stunden, wodurch ihr Korpus fast 75 000 Stunden unter einer CC‑BY‑NC‑SA‑4.0‑Lizenz umfasst. IBM gibt an, dass die zusätzlichen Daten einen modesten Genauigkeitsvorteil bei den meisten Testsets verschaffen, mit einem deutlicheren Vorteil bei SPGI Speech selbst und einem spürbaren Nachteil beim neuen, in Segmente aufgeteilten Earnings22‑Test des Leaderboards.
Ein Encoder ohne Sprachmodell
Der Geschwindigkeitsanspruch beruht auf dem, was IBM weggelassen hat. Frühere Granite‑Speech‑Veröffentlichungen (die 3.3‑ und 4.x‑Linien, die im Granite Speech paper von IBM dokumentiert sind) kombinierten einen Conformer‑Akustik‑Encoder mit einem Granite‑Sprachmodell über einen Projektor und LoRA‑Adapter und erzeugten Text autoregressiv, wie es ein Chat‑Modell tut. Die 5.0‑Modelle verzichten vollständig auf das Sprachmodell. Übrig bleibt ein 16‑schichtiger Conformer‑Encoder, der mit Connectionist Temporal Classification trainiert wurde, ein Dekodierungsschema, das Audiorahmen direkt in Ausgabetoken in einem einzigen nicht‑autoregressiven Durchlauf mit gieriger Dekodierung übersetzt.
Zwei weitere Änderungen übernehmen den größten Teil der Arbeit. Während frühere Granite‑Encoder 50 Zeichen pro Sekunde ausgaben, erzeugen die neuen Modelle 12,5 Token pro Sekunde, erreicht durch drei Stufen der 2‑fachen zeitlichen Unterabtastung des 100‑Frames‑pro‑Sekunde‑Log‑Mel‑Frontends. Außerdem wechselte das Ausgabewortschatz von Zeichen zu 16 384 trainierten Subwort‑Einheiten, SentencePiece im nicht‑kommerziellen Modell und BPE im Apache‑Modell. Weniger, aber längere Token bei einem Viertel der Bildrate treiben den Durchsatz laut IBM auf mehr als das 20‑fache der früheren Granite‑Speech‑Modelle.
Der Kompromiss besteht darin, die Breite der Fähigkeiten zugunsten des Transkriptionsfokus zu opfern. Ohne das Sprachmodell verlieren diese Modelle die Sprachübersetzung und die Schlüsselwort‑Bias‑Funktion, die die frühere Variante unterstützte. Was sie dafür gewinnen, ist ein kleinerer Footprint, der zu Laptops und Edge‑Hardware passt: IBM positioniert das Duo für Unternehmens‑Speech‑to‑Text, bei dem Latenz und Durchsatz wichtiger sind als ein Modell, das auch über das Gehörte nachdenken kann.
Was die Bewertungen zeigen und nicht zeigen
Das bislang stärkste unabhängige Signal stammt aus Fernfeld‑Audio. Auf dem FFASR Leaderboard, das die Erkennung von verrauschter, hallender Sprache misst, berichtet IBM offizielle Ergebnisse vom 25. August 2026, wobei das nicht‑kommerzielle Modell den fünften Platz in puncto Genauigkeit und das Apache‑Modell den neunten Platz belegt – während beide als die beiden schnellsten Einträge im Board rangieren, gemessen auf einer einzigen NVIDIA L4. FFASR bewertet Modelle bei verrauschtem, hallendem und sich bewegendem Quell‑Audio bei mehreren SNRs, Bedingungen, unter denen die Fernfeld‑Erkennung nachlässt, laut der eigenen Beschreibung des Leaderboards.
Die Überschrift‑Zahl von 12 600 RTFx benötigt jedoch Kontext. Es handelt sich um einen Batch‑Inference‑Wert auf einer der schnellsten im Rechenzentrum erhältlichen GPUs, nicht um das, was ein Laptop mit der WebGPU‑Streaming‑Demo sehen würde. Die aggregierten WER‑Werte beziehen sich ausschließlich auf kurze englische Formate, und die offiziellen Rankings des OpenASR Leaderboards, die private Testsets einschließen, hatten die neuen Modelle zum Zeitpunkt der Veröffentlichung noch nicht aufgenommen. IBMs eigene Einordnung ist hier die ehrliche: Es handelt sich um starke, vom Anbieter gemeldete Ergebnisse, die noch auf Bestätigung durch das Leaderboard warten.
Das Trainingsrezept verdient ebenfalls Beachtung hinsichtlich der Datenoffenheit. Jeder Datensatz in den Korpora beider Modelle ist öffentlich zugänglich, und die 2 740 Stunden synthetischer Ergänzungen setzen sich zusammen aus 2 500 Stunden Mehrsprecher‑Audio, das aus Einzelsprecher‑Segmenten zusammengefügt wurde, sowie 240 Stunden Äußerungen, die von OpenAIs Open‑Weight‑gpt‑oss‑Modellen erzeugt und mit StyleTTS2 synthetisiert wurden, um Zahlen, Währungen und Adressen zu erzeugen, die Erkennungsprogramme häufig verwirren. Das Training dauerte laut Model‑Card zehn Tage auf acht NVIDIA H100‑GPUs im IBM‑Blue‑Vela‑Cluster.
Beide Modelle sind jetzt auf Hugging Face live und werden nativ in der transformers-Bibliothek unterstützt – bis zum nächsten Release aus dem Quellcode installiert – im Rahmen der Granite‑Speech‑Kollektion, und eine browserbasierte Streaming‑Demo läuft in Chrome und Edge. Für einen Überblick, wo dedizierte Transkriptionsmodelle im Vergleich zu kommerziellen Diensten stehen, siehe unser Überblick über AI transcription software.
