Hedra lanceert Model Factory om AI voor de echte wereld te trainen, in te zetten en te verbeteren

Hedra lanceert Model Factory, een platform dat GPU-infrastructuur, training na de voortraining van modellen, optimalisatie van inferentie en feedback uit productie samenbrengt in één workflow. Het door a16z gesteunde onderzoeksbedrijf richt zich op teams in de robotica, maakindustrie, biologie en defensie die modellen nodig hebben die zijn aangepast aan hun eigen gegevens en operationele omstandigheden.

Het aanbod speelt in op een praktische lacune in bedrijfs-AI: een capabel model voor algemeen gebruik is vaak slechts het begin. Om er een betrouwbaar systeem voor video, sensorgegevens of fysieke handelingen van te maken, kunnen aangepaste trainingsomgevingen, gespecialiseerde implementatiesoftware en een manier nodig zijn om elke nieuwe versie te toetsen aan de taak die het systeem moet uitvoeren.

Training, implementatie en feedback uit productie met elkaar verbinden

Model Factory combineert flexibele GPU-sandboxomgevingen met training na de voortraining, uitgevoerd door Hedra-onderzoekers die samenwerken met autonome AI-agenten. Klanten leveren gegevens en simulatie-engines aan; Hedra helpt om omgevingen voor reinforcement learning en datasets op te zetten en optimaliseert vervolgens hoe de daaruit voortgekomen modellen draaien.

‘Recursieve zelfverbetering verandert nu al de manier waarop geavanceerde modellen worden gebouwd’, aldus Michael Lingelbach, oprichter en CEO van Hedra. ‘De volgende stap is de echte wereld, waar de gegevens bestaan uit video, sensoren en simulaties. Hedra Model Factory biedt teams in de robotica, maakindustrie, biologie en defensie de infrastructuur om hun eigen modellen na te trainen, in te zetten en voortdurend te verbeteren.’

Na de implementatie analyseren onderzoekers de prestaties in productie, trainen ze het model opnieuw en brengen ze pas nieuwe versies uit wanneer die de evaluaties van de klant doorstaan. Daarmee staan de evaluatiecriteria centraal in de dienstverlening: ook een sneller model moet voldoen aan de eisen van de toepassing waarvoor het wordt gebruikt.

Hedra gebruikt de term recursieve zelfverbetering voor onderzoekers en autonome AI-wetenschappers die experimenten, trainingsruns en optimalisatiemethoden herhaaldelijk verfijnen. Het aangekondigde proces omvat onderzoekers en evaluatiemomenten bij de klant, en bestaat dus niet uit onbeperkte automatische wijzigingen aan productiemodellen.

Waarom fysieke AI meer nodig heeft dan een serving-stack voor taalmodellen

Hedra’s World Model Runtime, oftewel WMR, biedt meer context bij de lancering. Het bedrijf omschrijft dit als een inference-engine met een open kern voor beeld-, video-, wereld- en tekstmodellen, met ondersteuning voor NVIDIA- en AMD-GPU’s. De optimalisaties zijn gericht op diffusie-iteraties, aandacht over frames heen en coderings- en decoderingsbewerkingen die bij visuele workloads veel GPU-tijd in beslag kunnen nemen.

Bij een vision-language-actionmodel levert inferentie niet alleen een interpretatie van de invoer op, maar ook handelingen. In een gesimuleerde omgeving kunnen zowel het model als de omgeving die de trainingservaring genereert accelerators nodig hebben. De workflow verbeteren houdt daarom meer in dan alleen een model kiezen: het kan betekenen dat gegevensverplaatsing wordt beperkt, de numerieke precisie wordt afgestemd op de kwaliteitseisen en training en serving op elkaar worden afgestemd.

Met het GPU-sandboxaanbod van het bedrijf kunnen teams containers, afhankelijkheden en modelcode meenemen naar geïsoleerde omgevingen, terwijl Hedra de plaatsing, schaalvergroting en het herstel van hardware beheert. Teams kunnen hun runtime aanpassen, trainingen of evaluaties uitvoeren en checkpoints en artefacten exporteren. Het trainingsplatform ondersteunt supervised fine-tuning, lichtgewicht LoRA-adapters en reinforcement learning, met evaluatie van checkpoints voordat ze worden ingezet.

Beeldbewerking zes keer sneller, onder specifieke omstandigheden

In het persbericht over de lancering noemt Hedra beeldbewerking met Krea 3 als voorbeeld van het optimalisatieproces. Volgens Hedra werd een beeldbewerking op 2K-resolutie teruggebracht van ongeveer 22 seconden naar 3,6 seconden, op dezelfde vier AMD Instinct MI355X-GPU’s en in minder dan een week. De vergelijking combineert optimalisatie van inferentie met distillatie: de uitgangssituatie gebruikte het oorspronkelijke bf16-model met 30 samplingstappen, terwijl de snellere versie een gedistilleerd model met 14 stappen gebruikte.

Dat onderscheid is belangrijk, omdat het resultaat voortkomt uit veranderingen in zowel de berekeningen van het model als de software die deze uitvoert. Het gaat om een gerapporteerd resultaat voor een specifieke workload en configuratie, niet om een algemene versnelling met een factor zes voor elk model dat via het platform wordt aangeboden.

In een afzonderlijk technisch artikel over Krea 3 beschrijft Hedra matrixbewerkingen met lagere precisie, aangepaste attention, gefuseerde bewerkingen en GPU-naar-GPU-overdrachten die zijn verplaatst naar speciale kopieerengines. De vergelijking van 22,9 met 3,3 seconden meet de verwerkingstijd van de diffusietransformer, niet de latentie van een volledige aanvraag. Deze cijfers moeten daarom los worden gezien van het resultaat voor beeldbewerking in het persbericht over de lancering.

Videofysica en robotica aanpassen aan hardware

Hedra meldt ook dat het H3 opnieuw heeft getraind voor fysieke consistentie. Het opnieuw getrainde model behaalde 34,9 op de Physics-IQ-benchmark van Google DeepMind, tegenover 30,3 voor H3 Max, met volgens Hedra een vergelijkbare visuele kwaliteit. Een autonoom gedistilleerde versie genereerde volgens het bedrijf een clip van vijf seconden in minder dan drie seconden op MI355X-GPU’s.

In een ander voorbeeld verving men in een simulatiestudie de grijper van een robot die een getrainde besturingsstrategie uitvoerde. Volgens Hedra herstelde het afstemmen van het bereik en het grijppunt van de vervangende grijper op het beeld van de polscamera het taaksucces van bijna nul tot bijna 100%, zonder de robot opnieuw te trainen. De bevinding heeft betrekking op de beschreven simulatieopstelling; ze toont niet aan dat willekeurige hardwarewijzigingen bij ingezette robots zonder verdere training kunnen worden opgevangen.

Deze voorbeelden wijzen op verschillende aspecten van hetzelfde technische vraagstuk: bruikbaar gedrag behouden terwijl de manier waarop een model draait of het systeem waarin het werkt verandert.

Een onderzoeksdienst rond modellen die klanten zelf bezitten

Model Factory is beschikbaar vanaf 10 november. Teams kunnen met onderzoekers van Hedra samenwerken aan maatwerkmodellen, aan de slag gaan met flexibele GPU-capaciteit in een sandbox zonder langlopende verplichtingen, of een bestaand model naar de inferentie-engine brengen. De implementatiemogelijkheden omvatten infrastructuur op locatie of een nabijgelegen datacenter van een partner. De optimalisatiedoelen lopen uiteen van wereldactiemodellen die sneller dan realtime werken tot vision-language-actionmodellen die op edgeapparaten passen.

Het bedrijf zegt dat de omzet in de voorafgaande 12 maanden met een factor 15 is gegroeid, maar maakte in de aankondiging niet bekend wat de oorspronkelijke omzet was. Het bedrijfsoverzicht presenteert het platform als een uitbreiding van de ervaring die het bedrijf heeft opgedaan met het bouwen en aanbieden van eigen visuele modellen.

Voor klanten bestaat de wezenlijke belofte uit een samenhangende technische ontwikkelcyclus: domeingegevens gebruiken om een model te verbeteren, het model optimaliseren voor de hardware en het latentie-budget, het resultaat evalueren en ervaringen uit productie meenemen naar de volgende iteratie. Hoe goed dat werkt, hangt minstens zozeer af van de taakspecifieke evaluaties en de beperkingen van de implementatie als van de snelheid van de onderliggende GPU’s.