IBMs Granite 4.2-Modelle lernen, in Umgebungen zu denken und zu handeln

IBM hat Granite 4.2 veröffentlicht, die erste Familie dichter, rein decoder‑basierter Reasoning‑Sprachmodelle, in drei Größen: 3B, 8B und 30B Parameter. Am 25. August 2026 angekündigt, wobei die Gewichte unter der Apache 2.0‑Lizenz veröffentlicht wurden, gibt die Veröffentlichung jedem Granite‑Modell einen umschaltbaren Denkmodus und lässt die beiden größeren Modelle durch Reinforcement‑Learning in echten Software‑Engineering‑, Terminal‑ und Web‑Such‑Umgebungen laufen.

In einem technischen Durchlauf des Aufbaus beschreibt das Granite‑Team bei IBM eine Pipeline, die mit einem von Grund auf neu durchgeführten Vor‑Training auf etwa 15 Billionen Tokens beginnt, mit einem fünf‑phasigen Zeitplan, der das Kontextfenster auf 512 K Tokens ausdehnt. Darauf folgt ein überwachtes Feintuning auf etwa 7,2 Millionen Beispielen von Gedankenketten, Reasoning‑ und agenten‑Trajectory‑Daten. Der Schwerpunkt der Veröffentlichung liegt jedoch auf dem, was danach kommt: einer mehrstufigen Reinforcement‑Learning‑Pipeline, bei der jede Stufe ein separater Trainingslauf ist, der eine Fähigkeit gezielt trainiert und warm‑gestartet aus dem Checkpoint der vorherigen Stufe beginnt.

Alle drei Größen führen grundlegendes RL auf verifizierbaren Belohnungen durch — Matheaufgaben mit prüfbaren Antworten, Code, der durch versteckte Unit‑Tests bewertet wird, und Anweisungs‑Folge‑Aufgaben mit Format‑Checkern — plus kurze „Booster“-Phasen für spezifische Fähigkeiten. Nur die 8B‑ und 30B‑Modelle setzen das agenten‑Block fort: drei Phasen, in denen das Modell in einer Live‑Umgebung agiert und dafür belohnt wird, ob die Aufgabe tatsächlich gelöst wurde. In der Software‑Engineering‑Phase, gesteuert durch das OpenHands‑Framework, bearbeitet das Modell reale Repositories und besteht nur, wenn die versteckte Test‑Suite bestanden wird. Die Terminal‑Phase lässt es in einer Live‑Shell mit bis zu 64 Umgebungsschritten pro Rollout agieren. Die Such‑Phase lässt es mehrstufige Fragen durch Live‑Web‑Such‑Aufrufe beantworten, bewertet von einem LLM‑Richter.

Jedes Modell schließt anschließend mit RLHF für Präferenz‑ und Sicherheits‑Optimierung ab, das zudem eine Strafkomponente für die Länge des Reasonings einführt, um die in früheren Phasen entstehenden langen Ketten zu reduzieren.

Wie umschaltbares Denken in der Praxis aussieht

Jedes Granite 4.2‑Modell stellt über seine Chat‑Vorlage drei Betriebsmodi bereit. Der Denkmodus, der Standard, erzeugt eine vollständige Gedankenkette in speziellen Tags vor der endgültigen Antwort. Der Nicht‑Denkmodus antwortet direkt. Ein sparsamer Modus liegt dazwischen und verwendet ein kurzes Reasoning‑Budget für einfache Fragen. In mehrstufigen Unterhaltungen wird das Denken vorheriger Runden standardmäßig entfernt, um Kontext zu sparen.

Der native Aufruf von Werkzeugen ist in dieselbe Vorlage integriert: das Modell überlegt, welches Werkzeug es aufrufen soll und warum, bevor es den Aufruf im OpenAI‑Function‑Calling‑Format ausgibt, sodass es ohne zusätzliche Adapter in agenten‑Frameworks über vLLM oder SGLang eingebunden werden kann. Laut der Granite 4.2‑Modellsammlung sind alle drei Gewichte öffentlich herunterladbar, und die 30B‑Model‑Card bestätigt, dass das Flaggschiff nachträglich auf dem Granite 4.1‑30B‑Basis‑Modell trainiert wurde. Die Modelle wurden in 12 Sprachen getestet, darunter Englisch, Deutsch, Japanisch, Arabisch, Koreanisch und Chinesisch.

Die Zahlen, die IBM berichtet

IBM hat die Familie in den Bereichen agenten‑basiertes Codieren, allgemeine Werkzeugnutzung, Reasoning, Chat und langer Kontext evaluiert, wobei ein auf dem NeMo Evaluator‑SDK aufgebautes Framework verwendet wurde. Die nachstehenden Werte sind die von IBM selbst gemeldeten Zahlen.

• SWE‑Bench Verified: 57,00 (30B), 47,67 (8B)
• Terminal‑Bench 2.1: 29,24 (30B), 20,56 (8B)
• AIME25 math: 89,17 (30B), 86,67 (8B), 78,33 (3B)
• GPQA science: 66,41 (30B), 64,14 (8B), 54,80 (3B)
• RULER long context at 128K: 81,38 (30B), 71,41 (8B), 55,30 (3B)

Das Muster entspricht dem Trainingsdesign. Die Werte steigen konsequent mit der Modellgröße bei Mathematik, Naturwissenschaften und Code‑Reasoning, und die agenten‑basierten Codierungs‑Benchmarks, die vom exklusiven agenten‑RL‑Block der 8B‑ und 30B‑Modelle abhängen, zeigen den größten Abstand zwischen den Größen. Das 3B‑Modell, das keine der Umgebungs‑Phasen durchläuft, wird in den SWE‑Bench‑ und Terminal‑Bench‑Suiten überhaupt nicht berichtet.

Training von Agenten ohne Wert‑Netzwerk

Die RL‑Maschinerie verdient einen genaueren Blick, da hier der Großteil der Ingenieurs‑Arbeit der Veröffentlichung liegt. Jede Stufe trainiert mit asynchronem GRPO, einer gruppen‑relativen Policy‑Optimierung, die jede Antwort gegen den Mittelwert der Belohnungen anderer für denselben Prompt gezogenen Stichproben bewertet und damit das separate Wert‑Netzwerk eliminiert, das viele RL‑Pipelines benötigen. Generierung und Training laufen auf getrennten GPU‑Pools, die sich nie blockieren: Arbeiter sammeln Trajektorien in einen gemeinsamen Puffer, und der Trainer streamt aktualisierte Gewichte während des Rollouts zurück. Eine Schutzvorrichtung verhindert, dass Generatoren mehr als ein Update hinterherhinken, und getrunkene Importance‑Sampling‑Methoden begrenzen die Wirkung veralteter Tokens.

Die Umgebungen werden über NeMo‑Gym angebunden, das Verifizierer, Werkzeuge und Sandboxes hinter einer einheitlichen Schnittstelle bereitstellt, während NeMo‑RL die Trainingsschleife auf Megatron‑Core mit vLLM‑Generierung steuert. Die praktische Konsequenz ist, dass ein regelbasierter Mathe‑Checker und ein vollständiger Repository‑Sandbox für die Trainingsschleife identisch aussehen, was das gestufte Curriculum realisierbar macht. IBM hat die Modelle auf einem NVIDIA GB200 NVL72‑Cluster von CoreWeave trainiert, mit einer 72‑GPU‑NVLink‑Domäne und einem 400 Gb/s‑InfiniBand‑Fabric.

IBM hat zudem quantisierte Varianten der Familie bereitgestellt: FP8 ohne Kalibrierung, NVFP4 und MXFP4, kalibriert mit 2 000 Stichproben aus dem SFT‑Datensatz, sowie vierzehn GGUF‑Formate via llama.cpp für den Einsatz mit reduziertem Speicherbedarf.

Wo Granite 4.2 in IBMs Portfolio passt

Die Veröffentlichung setzt die bewusste Arbeitsteilung in IBMs Open‑Model‑Strategie fort. Frühere Granite‑Generationen wurden als starke, anweisungs‑folgende Assistenten positioniert; das Unternehmen stellte gleichzeitig Granite Speech 5.0 vor, in einer separaten Ankündigung mit Fokus auf Transkriptions‑Geschwindigkeit. Granite 4.2 ist der Teil der Sprach‑Modell‑Linie, der explizites Reasoning übernimmt, und erscheint mit dem vollständigen Trainings‑Rezept, den Daten‑Mischungs‑Verhältnissen und den pro‑Stufe veröffentlichten Hyper‑Parametern neben den Gewichten.

Alle drei Modelle, die quantisierten Varianten, das GitHub‑Repository und die Dokumentation stehen unter Apache 2.0 zur Verfügung, wobei das 30B‑Flaggschiff für einen einzelnen Multi‑GPU‑Serving‑Knoten dimensioniert ist und das 3B‑Modell für leichtere Deployments gedacht ist, bei denen der Denk‑Schalter weiterhin Anwendung findet.