Hedra uruchamia Model Factory, aby trenować, wdrażać i doskonalić rzeczywiste systemy AI

Hedra uruchamia Model Factory — platformę, która łączy infrastrukturę GPU, potreningowe dostrajanie modeli, optymalizację wnioskowania i informacje zwrotne ze środowiska produkcyjnego w jednym procesie. Wspierana przez a16z firma badawcza kieruje ofertę do zespołów z branży robotyki, produkcji, biologii i obronności, które potrzebują modeli dostosowanych do własnych danych i warunków działania.

Oferta odpowiada na praktyczny problem związany z wykorzystaniem AI w przedsiębiorstwach: zaawansowany model ogólnego przeznaczenia często jest dopiero punktem wyjścia. Przekształcenie go w niezawodny system do pracy z wideo, danymi z czujników lub działaniami fizycznymi może wymagać niestandardowych środowisk treningowych, specjalistycznego oprogramowania wdrożeniowego oraz sposobu oceny każdej nowej wersji pod kątem zadań, które ma wykonywać.

Połączenie trenowania, wdrażania i informacji zwrotnych ze środowiska produkcyjnego

Model Factory łączy elastyczne środowiska testowe GPU z potreningowym dostrajaniem, które prowadzą badacze Hedra we współpracy z autonomicznymi agentami AI. Klienci dostarczają dane i silniki symulacyjne, a Hedra pomaga tworzyć środowiska uczenia przez wzmacnianie i zbiory danych, po czym optymalizuje działanie uzyskanych modeli.

„Rekurencyjne samodoskonalenie już zmienia sposób tworzenia najnowocześniejszych modeli” — powiedział Michael Lingelbach, założyciel i dyrektor generalny Hedra. „Kolejnym krokiem jest przeniesienie go do rzeczywistego świata, w którym dane pochodzą z wideo, czujników i symulacji. Hedra Model Factory zapewnia zespołom z branży robotyki, produkcji, biologii i obronności infrastrukturę do potreningowego dostrajania i wdrażania własnych modeli oraz ich ciągłego doskonalenia”.

Po wdrożeniu badacze analizują działanie modelu w środowisku produkcyjnym, ponownie go trenują i udostępniają nowe wersje dopiero wtedy, gdy przejdą one oceny klienta. Dlatego kryteria oceny mają kluczowe znaczenie dla usługi: szybszy model nadal musi spełniać wymagania aplikacji, w której jest używany.

Hedra używa określenia „rekurencyjne samodoskonalenie” w odniesieniu do kolejnych etapów eksperymentów, treningu i optymalizacji prowadzonych przez badaczy oraz autonomicznych naukowców AI. Ogłoszony proces obejmuje udział badaczy i etapy oceny przez klienta, a nie nieograniczone, automatyczne wprowadzanie zmian w modelach produkcyjnych.

Dlaczego fizyczna AI potrzebuje czegoś więcej niż stosu do obsługi modeli językowych

Środowisko uruchomieniowe modeli świata, czyli WMR firmy Hedra dostarcza dodatkowych informacji o premierze. Firma opisuje je jako oparty na otwartym rdzeniu silnik wnioskowania dla modeli obrazów, wideo, świata i tekstu, obsługujący procesory graficzne NVIDIA i AMD. Zastosowane w nim optymalizacje dotyczą etapów dyfuzji, mechanizmu uwagi między klatkami oraz operacji kodowania i dekodowania, które mogą pochłaniać znaczną część czasu pracy GPU przy zadaniach związanych z danymi wizualnymi.

W przypadku modelu wizyjno-językowo-akcyjnego wnioskowanie obejmuje zarówno interpretowanie danych wejściowych, jak i generowanie działań. W środowisku symulacyjnym akceleratorów mogą wymagać zarówno model, jak i środowisko generujące doświadczenia wykorzystywane podczas jego treningu. Usprawnienie całego procesu wymaga więc czegoś więcej niż wyboru modelu: może obejmować ograniczenie przesyłania danych, dopasowanie precyzji numerycznej do wymagań jakościowych oraz koordynację trenowania z obsługą modelu.

Oferta izolowanych środowisk testowych GPU firmy pozwala zespołom uruchamiać kontenery, zależności i kod modeli w odseparowanych środowiskach, podczas gdy Hedra zarządza przydzielaniem zasobów, skalowaniem i odzyskiwaniem sprawności sprzętu. Zespoły mogą modyfikować środowisko uruchomieniowe, prowadzić trening lub ewaluację oraz eksportować punkty kontrolne i inne artefakty. Platforma treningowa obsługuje nadzorowane dostrajanie, lekkie adaptery LoRA i uczenie przez wzmacnianie, a przed udostępnieniem modelu umożliwia ocenę punktów kontrolnych.

Sześciokrotne przyspieszenie edycji obrazów w określonych warunkach

W informacji o premierze jako przykład procesu optymalizacji przedstawiono edycję obrazów w Krea 3. Hedra podaje, że w czasie krótszym niż tydzień skróciła edycję obrazu 2K z około 22 sekund do 3,6 sekundy, korzystając z tych samych czterech procesorów graficznych AMD Instinct MI355X. Porównanie łączy optymalizację wnioskowania z destylacją: w wersji bazowej użyto oryginalnego modelu bf16 z 30 krokami próbkowania, a szybsza wersja korzystała z modelu poddanego destylacji, wykonującego 14 kroków.

To rozróżnienie ma znaczenie, ponieważ wynik odzwierciedla zmiany zarówno w obliczeniach wykonywanych przez model, jak i w oprogramowaniu, które je realizuje. Jest to rezultat podany dla konkretnego zadania i konfiguracji, a nie ogólne sześciokrotne przyspieszenie każdego modelu obsługiwanego przez platformę.

W osobnym opracowaniu technicznym dotyczącym Krea 3 Hedra opisuje operacje macierzowe o niższej precyzji, niestandardowy mechanizm uwagi, operacje łączone oraz transfery między GPU przeniesione do dedykowanych silników kopiujących. Porównanie 22,9 s z 3,3 s dotyczy czasu pracy transformera dyfuzyjnego, a nie opóźnienia całego żądania. Dlatego wartości te należy rozpatrywać osobno, niezależnie od wyniku edycji obrazu podanego w informacji o premierze.

Fizyka wideo i dostosowywanie sprzętu robotów

Hedra informuje również o ponownym treningu H3, który miał zapewnić spójność fizyczną. Ponownie wytrenowany model uzyskał 34,9 punktu w teście Physics-IQ opracowanym przez Google DeepMind, w porównaniu z wynikiem 30,3 dla H3 Max, przy — jak opisuje Hedra — porównywalnej jakości wizualnej. Według firmy wersja poddana autonomicznej destylacji wygenerowała pięciosekundowy klip w mniej niż trzy sekundy na procesorach graficznych MI355X.

W innym przykładzie w ramach badania symulacyjnego wymieniono chwytak w robocie wykonującym wyuczoną politykę. Hedra twierdzi, że dopasowanie zasięgu nowego chwytaka i punktu chwytu widocznego w obrazie z kamery nadgarstkowej przywróciło skuteczność wykonywania zadania z poziomu bliskiego zeru do niemal 100% bez ponownego trenowania. Wniosek dotyczy opisanego układu symulacyjnego; nie dowodzi, że dowolne zmiany sprzętu można obsłużyć bez dodatkowego treningu w robotach wdrożonych do pracy.

Przykłady te wskazują na różne aspekty tego samego problemu inżynieryjnego: zachowanie użytecznego działania przy zmianie sposobu uruchamiania modelu lub systemu, w którym on działa.

Usługa badawcza oparta na modelach należących do klientów

Model Factory będzie dostępna od 10 listopada. Zespoły mogą współpracować z badaczami Hedra nad niestandardowymi modelami, rozpocząć pracę, korzystając z elastycznej mocy obliczeniowej GPU w środowisku testowym bez długoterminowych zobowiązań, albo podłączyć istniejący model do jej silnika wnioskowania. Opcje wdrożenia obejmują infrastrukturę lokalną lub pobliskie centrum danych partnera, a cele optymalizacji sięgają od modeli działania w świecie działających szybciej niż w czasie rzeczywistym po modele łączące wizję, język i działanie, które mieszczą się na urządzeniach brzegowych.

Firma informuje, że jej przychody wzrosły 15-krotnie w ciągu poprzednich 12 miesięcy, choć w ogłoszeniu nie ujawniła ich wartości bazowej. W opisie firmy przedstawia platformę jako rozwinięcie doświadczenia w tworzeniu i udostępnianiu własnych modeli wizualnych.

Dla klientów zasadniczą propozycją jest połączony cykl prac inżynieryjnych: wykorzystanie danych dziedzinowych do ulepszania modelu, optymalizacja pod kątem sprzętu i budżetu opóźnień, ocena wyników oraz uwzględnianie doświadczeń z wdrożenia w kolejnej iteracji. Skuteczność tego podejścia będzie zależeć zarówno od ocen dostosowanych do konkretnych zadań i ograniczeń wdrożeniowych, jak i od szybkości używanych GPU.