Fireworks AI macht die Training‑API allgemein verfügbar

Fireworks AI hat am 31. August 2026 die allgemeine Verfügbarkeit seiner Training API und des Fireworks Lab angekündigt und damit seine verwaltete Trainings‑ und Rollout‑Infrastruktur für ML‑Teams geöffnet, die benutzerdefinierte Trainingsschleifen auf offenen Modellen ausführen möchten. Die Training API verbindet die eigene Python‑Trainingsschleife eines Kunden mit der von Fireworks verwalteten verteilten Rechenleistung und deckt sowohl den Trainer, der Gradienten berechnet und das Modell aktualisiert, als auch die Rollout‑Bereitstellung, die daraus Stichproben erzeugt, ab.

Gemäß der in der Ankündigung beschriebenen Regelung steuert der Kunde die Schleife von einem beliebigen Ort aus und behält die Kontrolle über die Verlust‑ oder Belohnungsfunktion, die Daten und die Umgebung. Fireworks verwaltet die Interaktion zwischen Trainer und Rollout, einschließlich Gewichtssynchronisation, Wiederherstellung bei fehlgeschlagenem Austausch und Abstimmung von Training und Rollout. Das Unternehmen positioniert die API als Antwort auf die von ML‑Teams gemeldeten Einschränkungen bestehender Trainings‑Workflows: begrenzte Modell‑ und Methodenwahl, eingeschränkte Kontrolle über Parameter und Trainingsschleifen, starre Rechenressourcen und fragmentierte Trainings‑ und Rollout‑Infrastruktur.

Serverlose und dedizierte Rechenleistung

Die Training API bietet zwei Rechenoptionen. Serverloses Training ermöglicht es Kunden, LoRA‑Adapter auf gemeinsam genutzter Infrastruktur mit Abrechnung pro Token zu trainieren, wobei das Sampling in derselben Sitzung läuft; Fireworks beschreibt es als geeignet für das Iterieren von Experimenten, das Risikominimieren größerer Durchläufe oder das Ausführen von Reinforcement‑Learning‑Schleifen, die zwischen Rollout und Training wechseln. Dediziertes Training richtet sich an Vollparameter‑Training, Modelle außerhalb des serverlosen Pools, längere Kontextlängen oder höhere LoRA‑Ränge sowie an kontinuierlichen Durchsatz, abgerechnet pro GPU‑Stunde auf elastischer Kapazität, die für jeden Durchlauf dimensioniert wird.

Die serverlose Stufe greift auf einen stets verfügbaren gemeinsamen Pool mit einer kuratierten Liste beliebter Modelle, geteilter Kapazität und kontobezogener Ratenlimits zu. Die dedizierte Stufe stellt für jeden Durchlauf einen Trainer und eine Bereitstellung bereit, unterstützt LoRA‑ und Vollparameter‑Modi bis hin zu den größten Mixture‑of‑Experts‑Modellen und weist keinerlei Konkurrenz oder Ratenlimits auf. Vielversprechende Checkpoints können über die Benutzeroberfläche oder API in die Produktionsinferenz überführt werden, und ein Multi‑LoRA‑Deployment ermöglicht jedem Kunden oder Anwendungsfall ein eigenständig abgestimmtes Modell ohne separate Infrastruktur, so das Unternehmen.

Drei Trainingsoberflächen

Die Training API steht neben zwei weiteren Oberflächen auf der Fireworks‑Trainingsplattform. Managed Training, das sich an ML‑Ingenieure richtet, führt integrierte Jobs aus, bei denen der Kunde eine Methode – SFT, DPO oder RL – und ein Basismodell auswählt und den Start über die Benutzeroberfläche oder API auslöst. Fireworks Lab, ebenfalls seit der Ankündigung allgemein verfügbar, integriert vor Ort eingesetzte Forscher und Ingenieure in die Kundenteams; die Zusammenarbeit beginnt mit einer Diagnose, die Fähigkeit, Ausgangsbasis, Erfolgskriterien und Umfang definiert, geht dann in eine zeitlich begrenzte Umsetzung über, und der Kunde behält das produktionsreife Modell, das Evaluations‑Framework, die Datenpipelines, die Trainingsschleife und die Rezepte.

Die Training API selbst richtet sich an ML‑Forscher und unterstützt SFT, DPO, ORPO, RL und Distillation, von LoRA auf serverloser Rechenleistung bis hin zu Vollparameter‑Training auf dedizierten Clustern.

Reinforcement Learning im großen Maßstab

Fireworks gibt an, zu den wenigen Organisationen außerhalb der Frontier‑Labs zu gehören, die Reinforcement Learning auf mehr als 10.000 GPUs betrieben haben, und strukturiert das RL‑Training nach drei Anforderungen: Korrektheit, Leistungseffizienz und Entwicklungsgeschwindigkeit.

Zur Korrektheit erklärte das Unternehmen, dass die Rollout‑Engine und der Trainer dieselbe numerische Definition teilen müssen, da kleine numerische Abweichungen das Lernsignal durch Token‑Clipping oder Belohnungs‑Zusammenbruch verfälschen können, obwohl alles funktionstüchtig erscheint. Fireworks stimmt numerische Formate von Anfang bis Ende ab, einschließlich BF16, blockweise FP8 und NVFP4, harmonisiert Kernel‑ und Reduktionsverhalten über beide Pfade hinweg und verwendet Router Replay, um Mixture‑of‑Experts‑Routing‑Entscheidungen zwischen Rollout und Rückwärtsdurchlauf sowie batch‑invariante Kernel und deterministische Reduktionen beizubehalten. Das Unternehmen gibt an, die Abstimmung zu validieren, indem identische Sequenzen durch die Rollout‑Engine und den Trainer laufen gelassen und die KL‑Divergenz zwischen Training und Inferenz gemessen wird, mit kontinuierlicher Validierung für alle auf Fireworks Training gestarteten Modelle.

Zur Leistung erklärte Fireworks, dass es asynchrones RL betreibt, bei dem die Sammlung von Rollouts mit dem Training überlappt, sodass die Rollout‑GPUs bereits den nächsten Batch erzeugen, während der Trainer den vorherigen aktualisiert, wobei eine begrenzte Gewichtsstale zulässig ist. Nach jedem Trainingsschritt werden die aktualisierten Gewichte hot‑geladen in die laufende Rollout‑Bereitstellung, anstatt sie abzuschalten und ein komplettes Modell neu zu laden. Für Vollparameter‑Checkpoints berechnet das Unternehmen eine XOR‑Differenz zwischen aktuellen und vorherigen Gewichten und wendet zstd‑Kompression an, was zu einer bis zu zehnfachen Reduktion der Übertragungsbandbreite führt.

Zur Entwicklungsgeschwindigkeit beschrieb das Unternehmen einen kontinuierlichen Train‑Deploy‑Evaluate‑Retrain‑Zyklus auf einer Plattform, bei dem Checkpoints direkt in den Service und die Produktions‑Traces, Evaluierungen und das Feedback fließen, das den nächsten Durchlauf speist. Es heißt, Teams berichten von zwei‑ bis viermal mehr Iterationen bei gleichem Trainingsbudget.

Zitierte Kundenergebnisse

In der Ankündigung wurden mehrere Kunden genannt. Harvey hat Kimi K3 nachträglich für langfristige juristische Arbeiten mit asynchronem RL trainiert; sein Harvey Tenet‑Modell erreichte 19,7 % All‑Pass‑Score im LAB gegenüber 11,5 % für Claude Fable 5, bei etwa einem Drittel der Kosten pro Aufgabe, so Fireworks. Vercel nutzte Reinforcement‑Fine‑Tuning und spekulatives Decoding für den Auto‑Fixer von v0 und erreichte eine fehlerfreie Generierungsrate von 93 % sowie eine 40‑fach Verbesserung der End‑zu‑End‑Latenz, laut dem Unternehmen. Heidi Health stellte seinen klinischen Schreiber auf feinabgestimmte offene Modelle um und gelangte von einem Proof‑of‑Concept in vier Wochen in die Produktion bei 3,5‑fach geringerer Latenz. Factory hat zwei kleine LoRA‑Adapter auf einer offenen Qwen‑Basis feinabgestimmt, um nach exponierten Geheimnissen zu suchen; bei einem Fehlalarm‑Budget von 5 % erkannte das trainierte Modell etwa 70 % der echten Geheimnisse gegenüber rund 59 % für GPT‑5.5, berichtete Fireworks.

Die Training API ist jetzt über die Self‑Service‑Anmeldung von Fireworks verfügbar, wobei der serverlose Zugriff keine Bereitstellung erfordert, und das Unternehmen leitet Teams, die praktische Unterstützung wünschen, an Fireworks‑Lab‑Beratungen weiter.