Hedra lancerer Model Factory til træning, udrulning og forbedring af AI til den virkelige verden

Hedra lancerer Model Factory, en platform, der samler GPU-infrastruktur, eftertræning af modeller, optimering af inferens og feedback fra produktion i ét samlet workflow. Forskningsvirksomheden, der har fået støtte fra a16z, henvender sig til teams inden for robotteknologi, produktion, biologi og forsvar, som har brug for modeller tilpasset deres egne data og driftsforhold.

Tilbuddet imødekommer et praktisk behov inden for virksomheds-AI: En kompetent model til generelle formål er ofte kun udgangspunktet. Det kan kræve skræddersyede træningsmiljøer, specialiseret software til udrulning og en måde at evaluere hver ny version på i forhold til den opgave, den skal løse, før modellen bliver til et pålideligt system til video, sensordata eller fysiske handlinger.

Sammenkobling af træning, udrulning og feedback fra produktionen

Model Factory kombinerer fleksible GPU-sandkasser med eftertræning udført af Hedras forskere i samarbejde med autonome AI-agenter. Kunderne bidrager med data og simuleringsmotorer; Hedra hjælper med at opbygge miljøer og datasæt til forstærkningslæring og optimerer derefter, hvordan de resulterende modeller kører.

»Rekursiv selvforbedring ændrer allerede, hvordan de mest avancerede modeller bliver udviklet,« sagde Michael Lingelbach, grundlægger og CEO for Hedra. »Det næste skridt er den virkelige verden, hvor dataene består af video, sensorer og simuleringer. Hedra Model Factory giver teams inden for robotteknologi, produktion, biologi og forsvar infrastrukturen til at eftertræne og udrulle deres egne modeller og blive ved med at forbedre dem.«

Efter udrulningen analyserer forskerne modellens ydeevne i produktionen, genoptræner den og frigiver kun nye versioner, når de består kundernes evalueringer. Derfor er evalueringskriterierne afgørende for tjenesten: En hurtigere model skal stadig opfylde kravene fra den applikation, der bruger den.

Hedra bruger betegnelsen rekursiv selvforbedring om forskere og autonome AI-forskere, der gentager og videreudvikler eksperimenter, træningskørsler og optimeringsmetoder. Den annoncerede proces omfatter forskere og kundernes evalueringskrav, ikke ubegrænsede automatiske ændringer af produktionsmodeller.

Hvorfor fysisk AI kræver mere end en serveringsstak til tekstmodeller

Hedras World Model Runtime, eller WMR, giver yderligere kontekst for lanceringen. Virksomheden beskriver det som en inferensmotor med åben kerne til billed-, video-, verdens- og tekstmodeller, der understøtter NVIDIA- og AMD-GPU’er. Optimeringerne retter sig mod diffusionsskridt, opmærksomhed på tværs af videobilleder samt kodnings- og afkodningsoperationer, der kan bruge betydelig GPU-tid i visuelle arbejdsbelastninger.

For en vision-language-action-model genererer inferens handlinger, samtidig med at modellen fortolker input. I et simuleret miljø kan både modellen og det miljø, der genererer dens træningserfaringer, kræve acceleratorer. Forbedring af workflowet handler derfor om mere end at vælge en model: Det kan indebære at reducere dataflytning, tilpasse numerisk præcision til kvalitetskrav og koordinere træning med servering.

Virksomhedens GPU-sandkassetilbud giver teams mulighed for at medbringe containere, afhængigheder og modelkode i isolerede miljøer, mens Hedra håndterer placering, skalering og gendannelse af hardware. Teams kan ændre deres kørselsmiljø, gennemføre træning eller evaluering og eksportere kontrolpunkter og artefakter. Virksomhedens træningsplatform understøtter superviseret finjustering, letvægts-LoRA-adaptere og forstærkningslæring med evaluering af kontrolpunkter før servering.

Seks gange hurtigere billedredigering – under bestemte betingelser

I lanceringsmeddelelsen fremhæves billedredigering med Krea 3 som et eksempel på optimeringsprocessen. Hedra oplyser, at virksomheden på under en uge reducerede tiden til billedredigering i 2K fra cirka 22 sekunder til 3,6 sekunder på de samme fire AMD Instinct MI355X-GPU’er. Sammenligningen kombinerer optimering af inferens med destillation: Grundlinjen brugte den oprindelige bf16-model med 30 samplingtrin, mens den hurtigere version brugte en destilleret model med 14 trin.

Denne forskel er vigtig, fordi resultatet afspejler ændringer både i modellens beregninger og i den software, der udfører dem. Det er et rapporteret resultat for en bestemt arbejdsbelastning og konfiguration, ikke en generel seksdobling af hastigheden for alle modeller, som platformen leverer.

I Hedras separate tekniske gennemgang af Krea 3 beskrives matrixoperationer med lavere præcision, brugerdefineret opmærksomhed, sammenflettede operationer og GPU-til-GPU-overførsler, der er flyttet til dedikerede kopieringsmotorer. Sammenligningen fra 22,9 sekunder til 3,3 sekunder måler tiden for diffusionstransformeren, ikke den samlede svartid for en forespørgsel. Tallene bør derfor læses separat fra lanceringsmeddelelsens resultat for billedredigering.

Videofysik og tilpasning til robotudstyr

Hedra oplyser også, at virksomheden har genoptrænet H3 for at sikre fysisk konsistens. Den genoptrænede model fik 34,9 på Google DeepMinds Physics-IQ-benchmark, sammenlignet med 30,3 for H3 Max, og den visuelle kvalitet var ifølge Hedra sammenlignelig. Ifølge virksomheden gengav en autonomt destilleret version et klip på fem sekunder på under tre sekunder på MI355X-GPU’er.

I et andet eksempel udskiftede man griberen på en robot, der kørte med en trænet styringspolitik, i en simuleringsundersøgelse. Hedra siger, at opgavens succesrate blev genskabt fra næsten nul til næsten 100 % uden genoptræning, da den nye gribers rækkevidde og gribepunkt blev tilpasset visningen fra håndledskameraet. Resultatet gælder det beskrevne simulationssetup; det viser ikke, at vilkårlige hardwareændringer kan håndteres uden yderligere træning på robotter i drift.

Disse eksempler peger på forskellige dele af det samme tekniske problem: at bevare en nyttig adfærd, samtidig med at man ændrer den måde, en model kører på, eller det system, den fungerer i.

En forskningstjeneste baseret på modeller, som kunderne selv ejer

Model Factory er tilgængelig fra den 10. november. Teams kan samarbejde med Hedras forskere om specialtilpassede modeller, komme i gang med fleksibel GPU-sandboxkapacitet uden langsigtede forpligtelser eller tilføje en eksisterende model til inferensmotoren. Implementeringsmulighederne omfatter lokal infrastruktur eller et nærliggende partnerdatacenter, og optimeringsmålene spænder fra modeller til handlinger i den fysiske verden, der arbejder hurtigere end realtid, til syns-, sprog- og handlingsmodeller, der kan køre på edge-enheder.

Virksomheden oplyser, at omsætningen voksede 15 gange i løbet af de foregående 12 måneder, men offentliggjorde ikke omsætningens udgangspunkt i meddelelsen. I sin virksomhedsoversigt præsenterer virksomheden platformen som en videreudvikling af sin erfaring med at bygge og stille egne visuelle modeller til rådighed.

For kunderne består det væsentlige tilbud i et sammenhængende teknisk udviklingsforløb: Brug domænedata til at forbedre en model, optimer den til hardwaren og latenstidsbudgettet, evaluer resultatet, og brug erfaringerne fra produktionen i næste iteration. Hvor godt det fungerer, afhænger i lige så høj grad af de opgavespecifikke evalueringer og begrænsningerne ved implementeringen som af de underliggende GPU’ers hastighed.