Hedra spouští Model Factory pro trénování, nasazování a zdokonalování AI pro reálný svět

Hedra spouští Model Factory, platformu, která v rámci jediného pracovního postupu propojuje infrastrukturu GPU, dodatečný trénink modelů, optimalizaci inference a zpětnou vazbu z produkčního provozu. Výzkumná společnost podporovaná a16z se zaměřuje na týmy z oblasti robotiky, výroby, biologie a obrany, které potřebují modely přizpůsobené vlastním datům a provozním podmínkám.

Tento přístup řeší praktický nedostatek podnikové AI: schopný univerzální model bývá často jen výchozím bodem. Jeho přeměna ve spolehlivý systém pro práci s videem, daty ze senzorů nebo fyzickými akcemi může vyžadovat vlastní tréninková prostředí, specializovaný software pro nasazení a způsob, jak každou novou verzi vyhodnotit podle úlohy, kterou má plnit.

Propojení trénování, nasazení a zpětné vazby z produkčního provozu

Model Factory spojuje flexibilní prostředí GPU s dodatečným tréninkem, který provádějí výzkumníci společnosti Hedra ve spolupráci s autonomními agenty AI. Zákazníci dodávají data a simulační nástroje; Hedra pomáhá vytvářet prostředí a datové sady pro posilované učení a následně optimalizuje běh výsledných modelů.

„Rekurzivní sebezdokonalování už mění způsob, jakým vznikají nejpokročilejší modely,“ uvedl Michael Lingelbach, zakladatel a generální ředitel společnosti Hedra. „Dalším krokem je reálný svět, kde data tvoří video, údaje ze senzorů a simulace. Hedra Model Factory poskytuje týmům z oblasti robotiky, výroby, biologie a obrany infrastrukturu pro dodatečný trénink, nasazení a průběžné zdokonalování vlastních modelů.“

Po nasazení výzkumníci analyzují výkon v produkčním provozu, model znovu trénují a nové verze uvolňují teprve tehdy, když projdou hodnocením zákazníka. Kritéria hodnocení jsou tak pro tuto službu zásadní: rychlejší model musí stále splňovat požadavky aplikace, která jej používá.

Hedra používá pojem rekurzivní sebezdokonalování pro označení procesu, při němž výzkumníci a autonomní vědci v oblasti AI opakovaně provádějí experimenty, trénovací běhy a optimalizace. Oznámený postup zahrnuje výzkumníky a kontrolní fáze, v nichž výsledky hodnotí zákazník; nejde tedy o neomezené automatické změny produkčních modelů.

Proč fyzická AI potřebuje víc než infrastrukturu pro nasazování jazykových modelů

World Model Runtime neboli WMR společnosti Hedra poskytuje další kontext k jejímu uvedení na trh. Společnost jej popisuje jako inferenční engine s otevřeným jádrem pro modely obrazu, videa, světa a textu, který podporuje GPU NVIDIA a AMD. Jeho optimalizace se zaměřují na kroky difuze, pozornost napříč snímky a operace kódování a dekódování, které mohou ve vizuálních úlohách spotřebovat značnou část výpočetního času GPU.

Inference u modelu typu vize–jazyk–akce nejen interpretuje vstupy, ale také vytváří akce. V simulovaném prostředí mohou akcelerátory potřebovat jak samotný model, tak prostředí, které vytváří zkušenosti využívané při jeho trénování. Zlepšení pracovního postupu proto vyžaduje víc než jen výběr modelu: může zahrnovat omezení přesunů dat, přizpůsobení numerické přesnosti požadavkům na kvalitu a koordinaci trénování s nasazováním.

Prostředí GPU v izolovaném sandboxu společnosti Hedra umožňuje týmům spouštět kontejnery, závislosti a kód modelů v oddělených prostředích, zatímco Hedra zajišťuje přidělování prostředků, škálování a obnovu hardwaru. Týmy mohou upravovat běhové prostředí, provádět trénování či vyhodnocování a exportovat kontrolní body i další artefakty. Trénovací platforma podporuje řízené dolaďování, odlehčené adaptéry LoRA a posilované učení; před nasazením služby umožňuje vyhodnotit kontrolní body.

Šestinásobné zrychlení úprav obrázků za konkrétních podmínek

Oznámení o uvedení na trh uvádí úpravy obrázků v Krea 3 jako jeden z příkladů optimalizace. Hedra tvrdí, že zkrátila úpravu obrázku v rozlišení 2K z přibližně 22 sekund na 3,6 sekundy, a to za méně než týden na stejných čtyřech GPU AMD Instinct MI355X. Srovnání kombinuje optimalizaci inference s destilací: výchozí verze používala původní model bf16 s 30 kroky vzorkování, zatímco rychlejší verze využívala destilovaný model se 14 kroky.

Tento rozdíl je důležitý, protože výsledek odráží změny jak ve výpočtech modelu, tak v softwaru, který je provádí. Jde o vykázaný výsledek pro konkrétní úlohu a konfiguraci, nikoli o obecné šestinásobné zrychlení každého modelu nasazovaného na této platformě.

Samostatný technický rozbor Krea 3 od společnosti Hedra podrobně popisuje maticové operace s nižší přesností, vlastní mechanismus pozornosti, sloučené operace a přenosy mezi GPU přesunuté na vyhrazené kopírovací jednotky. Srovnání 22,9 sekundy a 3,3 sekundy měří dobu zpracování difuzního transformátoru, nikoli latenci celého požadavku. Tyto údaje je proto třeba posuzovat odděleně od výsledku úprav obrázků uvedeného v oznámení o uvedení na trh.

Fyzika ve videu a přizpůsobení hardwaru robotů

Hedra také uvádí, že model H3 znovu trénovala s cílem zajistit fyzikální konzistenci. V benchmarku Physics-IQ od Google DeepMind dosáhl přetrénovaný model skóre 34,9, zatímco H3 Max získal 30,3; podle společnosti Hedra byla vizuální kvalita srovnatelná. Podle společnosti vykreslila autonomně destilovaná verze pětisekundový klip na GPU MI355X za méně než tři sekundy.

V dalším příkladu simulační studie vyměnila chapadlo na robotu, který používal natrénovanou řídicí strategii. Podle Hedry obnovení dosahu náhradního chapadla a místa uchopení v záběru kamery na zápěstí zvýšilo úspěšnost úkolu z téměř nuly na téměř 100 % bez dalšího trénování. Zjištění se týká popsaného nastavení simulace; nedokládá, že lze u nasazených robotů zvládnout libovolné změny hardwaru bez dalšího trénování.

Tyto příklady ukazují různé stránky téhož technického problému: zachovat užitečné chování a zároveň změnit způsob, jakým model běží, nebo systém, v němž funguje.

Výzkumná služba založená na modelech, které zákazníci vlastní

Model Factory je k dispozici od 10. listopadu. Týmy mohou spolupracovat s výzkumníky společnosti Hedra na vývoji modelů na míru, začít s flexibilní kapacitou v GPU sandboxu bez dlouhodobých závazků nebo do inferenčního enginu přenést již existující model. Možnosti nasazení zahrnují infrastrukturu provozovanou přímo u zákazníka nebo nedaleké partnerské datové centrum. Optimalizační cíle sahají od modelů pro akce v prostředí, které běží rychleji než v reálném čase, až po modely typu vision-language-action, které se vejdou na zařízení na okraji sítě.

Společnost uvádí, že její tržby za předchozích 12 měsíců vzrostly patnáctinásobně, v oznámení však jejich výchozí výši nezveřejnila. V přehledu společnosti představuje platformu jako rozšíření zkušeností s vývojem a provozováním vlastních vizuálních modelů.

Pro zákazníky spočívá hlavní přínos v propojeném technickém cyklu: využít oborová data ke zlepšení modelu, optimalizovat jej s ohledem na hardware a rozpočet latence, vyhodnotit výsledek a zapracovat zkušenosti z produkčního provozu do další iterace. Úspěšnost tohoto přístupu bude záviset na vyhodnocování konkrétních úloh a omezeních nasazení stejně jako na rychlosti použitých GPU.