Hedra lanserar Model Factory för att träna, distribuera och förbättra AI för verkliga tillämpningar

Hedra lanserar Model Factory, en plattform som samlar GPU-infrastruktur, efterträning av modeller, inferensoptimering och återkoppling från produktionsmiljöer i ett och samma arbetsflöde. Det a16z-stödda forskningsföretaget riktar sig till team inom robotik, tillverkningsindustri, biologi och försvar som behöver anpassa modeller efter sina egna data och driftsförhållanden.

Erbjudandet riktar sig mot en praktisk utmaning inom företags-AI: en kapabel modell för allmänna ändamål är ofta bara utgångspunkten. För att omvandla den till ett tillförlitligt system för video, sensordata eller fysiska handlingar kan det krävas anpassade träningsmiljöer, specialiserad programvara för driftsättning och ett sätt att utvärdera varje ny version mot den uppgift den ska utföra.

Kopplar samman träning, driftsättning och återkoppling från produktionsmiljöer

Model Factory kombinerar flexibla GPU-sandlådor med efterträning som utförs av Hedras forskare i samarbete med autonoma AI-agenter. Kunderna bidrar med data och simuleringsmotorer; Hedra hjälper till att bygga miljöer och datamängder för förstärkningsinlärning och optimerar sedan hur de resulterande modellerna körs.

”Rekursiv självförbättring förändrar redan hur de mest avancerade modellerna byggs”, sade Michael Lingelbach, grundare och vd för Hedra. ”Nästa steg är den fysiska världen, där data består av video, sensorer och simuleringar. Hedra Model Factory ger team inom robotik, tillverkningsindustri, biologi och försvar den infrastruktur de behöver för att efterträna, distribuera och fortsätta förbättra sina egna modeller.”

Efter driftsättningen analyserar forskarna prestandan i produktionsmiljön, tränar om modellen och släpper nya versioner först när de klarar kundens utvärderingar. Därför är utvärderingskriterierna centrala för tjänsten: en snabbare modell måste fortfarande uppfylla kraven för den applikation där den används.

Hedra använder begreppet rekursiv självförbättring för att beskriva hur forskare och autonoma AI-forskare itererar mellan experiment, träningskörningar och optimeringsmetoder. Den tillkännagivna processen omfattar forskare och kundernas utvärderingsgrindar, inte obegränsade automatiska ändringar av produktionsmodeller.

Varför fysisk AI behöver mer än en serveringslösning för textmodeller

Hedras World Model Runtime, eller WMR, ger ytterligare sammanhang till lanseringen. Företaget beskriver den som en inferensmotor med öppen kärna för bild-, video-, världs- och textmodeller, med stöd för NVIDIA- och AMD-GPU:er. Optimeringarna riktar in sig på diffusionssteg, uppmärksamhet mellan bildrutor samt kodnings- och avkodningsoperationer, som kan förbruka betydande GPU-kapacitet i visuella arbetslaster.

För en modell av typen vision-språk-handling genererar inferensen handlingar samtidigt som den tolkar indata. I en simulerad miljö kan både modellen och miljön som skapar dess träningserfarenhet behöva acceleratorer. Att förbättra arbetsflödet handlar därför om mer än att välja en modell: det kan innebära att minska dataförflyttningar, anpassa den numeriska precisionen efter kvalitetskraven och samordna träning med servering.

Företagets erbjudande om GPU-sandlådor gör det möjligt för team att använda containrar, beroenden och modellkod i isolerade miljöer, medan Hedra hanterar placering, skalning och återställning av maskinvara. Teamen kan ändra sin körmiljö, köra träning eller utvärdering och exportera kontrollpunkter och artefakter. Företagets träningsplattform stöder övervakad finjustering, lättviktiga LoRA-adaptrar och förstärkningsinlärning, med utvärdering av kontrollpunkter före servering.

Sex gånger snabbare bildredigering – under specifika förutsättningar

I lanseringsmeddelandet lyfts bildredigering med Krea 3 fram som ett exempel på optimeringsprocessen. Hedra uppger att företaget minskade tiden för en bildredigering i 2K från cirka 22 sekunder till 3,6 sekunder på samma fyra AMD Instinct MI355X-GPU:er, på mindre än en vecka. Jämförelsen kombinerar inferensoptimering med destillering: utgångsläget var den ursprungliga bf16-modellen med 30 samplingssteg, medan den snabbare versionen använde en destillerad modell med 14 steg.

Den skillnaden är viktig eftersom resultatet återspeglar förändringar både i modellens beräkningar och i programvaran som kör den. Det är ett rapporterat resultat för en viss arbetslast och konfiguration, inte en generell sexfaldig hastighetsökning för alla modeller som körs på plattformen.

I Hedras separata tekniska genomgång av Krea 3 beskrivs matrisoperationer med lägre precision, anpassad uppmärksamhet, sammanslagna operationer och GPU-till-GPU-överföringar som flyttats till särskilda kopieringsmotorer. Jämförelsen mellan 22,9 sekunder och 3,3 sekunder mäter tiden för diffusionsomvandlaren, inte förfrågningens totala fördröjning. Dessa siffror bör därför läsas separat från resultatet för bildredigering i lanseringsmeddelandet.

Videofysik och anpassning till robotmaskinvara

Hedra uppger också att företaget har tränat om H3 för att förbättra den fysiska konsekvensen. Den omtränade modellen fick 34,9 i Google DeepMinds Physics-IQ-benchmark, jämfört med 30,3 för H3 Max, och hade enligt Hedra jämförbar visuell kvalitet. En autonomt destillerad version renderade ett fem sekunder långt klipp på under 3 sekunder med MI355X-GPU:er, enligt företaget.

I ett annat exempel bytte man ut gripdonet på en robot som körde en tränad policy i en simuleringsstudie. Enligt Hedra återställdes uppgiftens framgångsgrad från nära noll till nära 100 procent utan omträning, när det nya gripdonets räckvidd och gripunkt anpassades till vyn från handledskameran. Resultatet gäller den rapporterade simuleringsmiljön; det visar inte att godtyckliga ändringar av hårdvaran kan hanteras utan ytterligare träning i driftsatta robotar.

De här exemplen belyser olika delar av samma tekniska utmaning: att bevara användbart beteende samtidigt som man ändrar hur en modell körs eller vilket system den verkar i.

En forskningstjänst byggd kring modeller som kunderna äger

Model Factory är tillgänglig från och med den 10 november. Team kan samarbeta med Hedras forskare kring anpassade modeller, börja med flexibel GPU-kapacitet i en sandlådemiljö utan långsiktiga åtaganden eller ta med en befintlig modell till företagets inferensmotor. Driftsättningsalternativen omfattar lokal infrastruktur eller ett närliggande partnerdatacenter, och optimeringsmålen sträcker sig från modeller för handlingar i den fysiska världen som körs snabbare än realtid till modeller som kombinerar syn, språk och handling och ryms på kantenheter.

Företaget uppger att intäkterna ökade 15 gånger under de föregående 12 månaderna, men offentliggjorde inte intäktsbasen i tillkännagivandet. I företagets företagsöversikt framställs plattformen som en vidareutveckling av erfarenheten av att bygga och tillhandahålla företagets egna visuella modeller.

För kunderna är det centrala erbjudandet en sammanhängande teknisk utvecklingscykel: använda domändata för att förbättra en modell, optimera den för hårdvaran och latensbudgeten, utvärdera resultatet och låta erfarenheter från produktion bidra till nästa iteration. Hur väl det fungerar beror lika mycket på uppgiftsspecifika utvärderingar och driftsättningsbegränsningar som på hastigheten hos de underliggande GPU:erna.