Hedra startet Model Factory, um KI für den praktischen Einsatz zu trainieren, bereitzustellen und zu verbessern

Hedra startet Model Factory, eine Plattform, die GPU-Infrastruktur, das Post-Training von Modellen, Inferenzoptimierung und Feedback aus dem Produktivbetrieb in einem Workflow zusammenführt. Das von a16z unterstützte Forschungsunternehmen richtet sich an Teams aus den Bereichen Robotik, Fertigung, Biologie und Verteidigung, die Modelle an ihre eigenen Daten und Betriebsbedingungen anpassen müssen.

Das Angebot setzt bei einer praktischen Lücke im Bereich Unternehmens-KI an: Ein leistungsfähiges Allzweckmodell ist oft nur der Ausgangspunkt. Um daraus ein zuverlässiges System für Video-, Sensordaten oder physische Handlungen zu machen, können maßgeschneiderte Trainingsumgebungen, spezielle Bereitstellungssoftware und eine Möglichkeit nötig sein, jede neue Version anhand der Aufgaben zu bewerten, die sie erfüllen muss.

Training, Bereitstellung und Feedback aus dem Produktivbetrieb verbinden

Model Factory kombiniert flexible GPU-Sandboxen mit Post-Training, das Hedra-Forschende gemeinsam mit autonomen KI-Agenten durchführen. Die Kunden bringen Daten und Simulations-Engines mit; Hedra unterstützt sie beim Aufbau von Umgebungen für bestärkendes Lernen und bei der Erstellung von Datensätzen und optimiert anschließend die Ausführung der daraus hervorgehenden Modelle.

„Rekursive Selbstverbesserung verändert bereits die Entwicklung von Spitzenmodellen“, sagte Michael Lingelbach, Gründer und CEO von Hedra. „Der nächste Schritt ist die reale Welt, in der die Daten aus Videos, Sensoren und Simulationen stammen. Hedra Model Factory stellt Teams aus den Bereichen Robotik, Fertigung, Biologie und Verteidigung die Infrastruktur bereit, um ihre eigenen Modelle nachzutrainieren, bereitzustellen und kontinuierlich zu verbessern.“

Nach der Bereitstellung analysieren Forschende die Leistung im Produktivbetrieb, trainieren das Modell erneut und veröffentlichen neue Versionen nur, wenn diese die Bewertungen des Kunden bestehen. Damit stehen die Bewertungskriterien im Mittelpunkt des Dienstes: Auch ein schnelleres Modell muss die Anforderungen der Anwendung erfüllen, in der es eingesetzt wird.

Hedra verwendet den Begriff rekursive Selbstverbesserung für den Prozess, in dem Forschende und autonome KI-Wissenschaftler Experimente, Trainingsläufe und Optimierungsmethoden wiederholt weiterentwickeln. Der angekündigte Prozess umfasst Forschende und Freigabeschritte auf Grundlage der Kundenbewertungen; er sieht keine uneingeschränkten automatischen Änderungen an Produktivmodellen vor.

Warum physische KI mehr als einen Bereitstellungs-Stack für Sprachmodelle braucht

Hedras Laufzeitumgebung für Weltmodelle (World Model Runtime, WMR) liefert zusätzlichen Kontext zum Start. Das Unternehmen beschreibt sie als Inferenz-Engine mit offenem Kern für Bild-, Video-, Welt- und Textmodelle, die NVIDIA- und AMD-GPUs unterstützt. Die Optimierungen zielen auf Diffusionsschritte, Attention über mehrere Frames hinweg sowie Kodierungs- und Dekodierungsvorgänge ab, die bei visuellen Workloads einen beträchtlichen Teil der GPU-Zeit beanspruchen können.

Bei einem Vision-Language-Action-Modell erzeugt die Inferenz nicht nur Interpretationen der Eingaben, sondern auch Aktionen. In einer simulierten Umgebung können sowohl das Modell als auch die Umgebung, in der seine Trainingserfahrungen generiert werden, Beschleuniger benötigen. Den Workflow zu verbessern bedeutet daher mehr, als nur ein Modell auszuwählen: Dazu können gehören, Datenbewegungen zu reduzieren, die numerische Präzision an die Qualitätsanforderungen anzupassen und Training und Bereitstellung aufeinander abzustimmen.

Das Angebot des Unternehmens für GPU-Sandboxen ermöglicht Teams, Container, Abhängigkeiten und Modellcode in isolierte Umgebungen einzubringen, während Hedra die Platzierung, Skalierung und Wiederherstellung nach Hardwareausfällen verwaltet. Teams können ihre Laufzeitumgebung anpassen, Trainings- oder Evaluierungsläufe ausführen und Checkpoints sowie Artefakte exportieren. Die Trainingsplattform unterstützt überwachtes Fine-Tuning, ressourcenschonende LoRA-Adapter und bestärkendes Lernen; vor der Bereitstellung werden die Checkpoints bewertet.

Sechsmal schnellere Bildbearbeitung – unter bestimmten Bedingungen

Die Mitteilung zum Start nennt die Bildbearbeitung mit Krea 3 als ein Beispiel für den Optimierungsprozess. Hedra zufolge konnte die Bearbeitungszeit für ein 2K-Bild innerhalb von weniger als einer Woche von etwa 22 Sekunden auf 3,6 Sekunden gesenkt werden – auf denselben vier AMD Instinct MI355X-GPUs. Der Vergleich verbindet Inferenzoptimierung mit Destillation: Als Ausgangspunkt diente das ursprüngliche bf16-Modell mit 30 Abtastschritten, während die schnellere Version ein destilliertes Modell mit 14 Schritten verwendete.

Diese Unterscheidung ist wichtig, denn das Ergebnis beruht auf Änderungen sowohl an den Berechnungen des Modells als auch an der Software, die diese ausführt. Es handelt sich um ein für einen bestimmten Workload und eine bestimmte Konfiguration gemeldetes Ergebnis und nicht um eine allgemeine sechsfach höhere Geschwindigkeit für jedes Modell, das über die Plattform bereitgestellt wird.

In Hedras separatem technischen Bericht zur Entwicklung von Krea 3 werden Matrixoperationen mit geringerer Präzision, eine angepasste Attention, fusionierte Operationen und GPU-zu-GPU-Übertragungen beschrieben, die auf dedizierte Kopier-Engines verlagert wurden. Der Vergleich von 22,9 Sekunden mit 3,3 Sekunden misst die Laufzeit des Diffusion-Transformers, nicht die Latenz der gesamten Anfrage. Diese Werte sind daher getrennt vom Ergebnis der Bildbearbeitung in der Mitteilung zum Start zu betrachten.

Videophysik und die Anpassung an Roboterhardware

Hedra berichtet außerdem, H3 für eine konsistente Darstellung physikalischer Vorgänge nachtrainiert zu haben. Das nachtrainierte Modell erzielte beim Benchmark Physics-IQ von Google DeepMind einen Wert von 34,9, verglichen mit 30,3 für H3 Max. Hedra zufolge war die visuelle Qualität dabei vergleichbar. Eine autonom destillierte Version renderte laut dem Unternehmen auf MI355X-GPUs einen fünf Sekunden langen Clip in weniger als drei Sekunden.

In einem weiteren Beispiel wurde in einer Simulationsstudie der Greifer eines Roboters ausgetauscht, der mit einer trainierten Steuerungsstrategie arbeitete. Hedra zufolge ließ sich der Aufgabenerfolg von nahezu null auf nahezu 100 % steigern, ohne das Modell erneut zu trainieren, wenn Reichweite und Greifpunkt des Ersatzgreifers in der Ansicht der Handgelenkkamera passend ausgerichtet wurden. Die Erkenntnis bezieht sich auf den beschriebenen Simulationsaufbau; sie belegt nicht, dass sich beliebige Hardwareänderungen bei eingesetzten Robotern ohne weiteres Training bewältigen lassen.

Diese Beispiele verweisen auf verschiedene Aspekte desselben technischen Problems: nützliches Verhalten zu bewahren und zugleich zu verändern, wie ein Modell ausgeführt wird oder in welchem System es arbeitet.

Ein Forschungsservice rund um Modelle im Besitz der Kunden

Model Factory ist ab dem 10. November verfügbar. Teams können mit Hedras Forschenden an kundenspezifischen Modellen arbeiten, ohne langfristige Verpflichtungen flexibel dimensionierte GPU-Sandbox-Kapazitäten nutzen oder ein bestehendes Modell in die Inferenz-Engine einbringen. Zu den Bereitstellungsoptionen gehören eine lokale Infrastruktur oder ein nahegelegenes Rechenzentrum eines Partners. Die Optimierungsziele reichen von Weltaktionsmodellen, die schneller als in Echtzeit arbeiten, bis hin zu Vision-Language-Action-Modellen, die auf Edge-Geräten laufen.

Das Unternehmen gibt an, dass sein Umsatz in den vorangegangenen 12 Monaten um das 15-Fache gewachsen sei, nannte in der Ankündigung jedoch keine Ausgangsbasis. In seiner Unternehmensübersicht stellt es die Plattform als Erweiterung seiner Erfahrung beim Entwickeln und Bereitstellen eigener visueller Modelle dar.

Für Kunden besteht das wesentliche Angebot in einem durchgängigen Entwicklungsprozess: Domänendaten nutzen, um ein Modell zu verbessern, es für die jeweilige Hardware und das Latenzbudget zu optimieren, das Ergebnis zu bewerten und Erfahrungen aus dem Produktiveinsatz in die nächste Entwicklungsrunde einfließen zu lassen. Wie gut das funktioniert, hängt ebenso sehr von aufgabenspezifischen Bewertungen und den Einschränkungen bei der Bereitstellung ab wie von der Geschwindigkeit der zugrunde liegenden GPUs.