Hedra lancia Model Factory per addestrare, distribuire e migliorare l’IA nel mondo reale

Hedra lancia Model Factory, una piattaforma che riunisce in un unico flusso di lavoro infrastruttura GPU, post-addestramento dei modelli, ottimizzazione dell’inferenza e feedback dalla produzione. La società di ricerca, sostenuta da a16z, si rivolge ai settori della robotica, della produzione, della biologia e della difesa, i cui team hanno bisogno di modelli adattati ai propri dati e alle proprie condizioni operative.

La proposta affronta una lacuna concreta dell’IA aziendale: un modello generalista capace è spesso soltanto il punto di partenza. Per trasformarlo in un sistema affidabile per video, dati dei sensori o azioni fisiche possono servire ambienti di addestramento personalizzati, software specializzato per la distribuzione e un metodo per valutare ogni nuova versione rispetto al compito che deve svolgere.

Collegare addestramento, distribuzione e feedback dalla produzione

Model Factory combina ambienti sandbox GPU flessibili con il post-addestramento svolto dai ricercatori di Hedra insieme ad agenti IA autonomi. I clienti forniscono dati e motori di simulazione; Hedra contribuisce a realizzare ambienti di apprendimento per rinforzo e set di dati, quindi ottimizza l’esecuzione dei modelli risultanti.

«L’auto-miglioramento ricorsivo sta già cambiando il modo in cui vengono realizzati i modelli di frontiera», ha dichiarato Michael Lingelbach, fondatore e CEO di Hedra. «Il passo successivo è il mondo reale, dove i dati sono costituiti da video, sensori e simulazioni. Hedra Model Factory fornisce ai team di robotica, produzione, biologia e difesa l’infrastruttura per eseguire il post-addestramento, distribuire e continuare a migliorare i propri modelli».

Dopo la distribuzione, i ricercatori analizzano le prestazioni in produzione, riaddestrano il modello e rilasciano nuove versioni solo quando superano le valutazioni del cliente. I criteri di valutazione sono quindi centrali nel servizio: un modello più veloce deve comunque soddisfare i requisiti dell’applicazione che lo utilizza.

Hedra usa l’espressione «auto-miglioramento ricorsivo» per descrivere le iterazioni di ricercatori e scienziati IA autonomi su esperimenti, sessioni di addestramento e metodi di ottimizzazione. Il processo annunciato prevede il coinvolgimento dei ricercatori e verifiche di valutazione da parte dei clienti, anziché modifiche automatiche e senza restrizioni ai modelli in produzione.

Perché l’IA applicata al mondo fisico richiede più di un’infrastruttura di distribuzione per modelli linguistici

L’ambiente di esecuzione del modello del mondo, o WMR, di Hedra offre ulteriori informazioni sul lancio. L’azienda lo descrive come un motore di inferenza con nucleo open source per modelli di immagini, video, mondo e testo, compatibile con le GPU NVIDIA e AMD. Le sue ottimizzazioni riguardano i passaggi di diffusione, l’attenzione tra i fotogrammi e le operazioni di codifica e decodifica, che nei carichi di lavoro visivi possono richiedere una quantità considerevole di tempo GPU.

Per un modello visione-linguaggio-azione, l’inferenza produce azioni oltre a interpretare gli input. In un ambiente simulato, sia il modello sia l’ambiente che genera l’esperienza di addestramento possono richiedere acceleratori. Migliorare il flusso di lavoro richiede quindi più che scegliere un modello: può comportare la riduzione degli spostamenti di dati, l’adeguamento della precisione numerica ai requisiti di qualità e il coordinamento tra addestramento e messa in servizio.

L’offerta di ambienti sandbox GPU dell’azienda consente ai team di portare container, dipendenze e codice dei modelli in ambienti isolati, mentre Hedra gestisce il posizionamento, la scalabilità e il ripristino dell’hardware. I team possono modificare il proprio ambiente di esecuzione, avviare sessioni di addestramento o valutazione ed esportare checkpoint e artefatti. La sua piattaforma di addestramento supporta il fine-tuning supervisionato, adattatori LoRA leggeri e l’apprendimento per rinforzo, con la valutazione dei checkpoint prima della messa in servizio.

Immagini modificate sei volte più velocemente, a condizioni specifiche

Il comunicato sul lancio presenta la modifica delle immagini con Krea 3 come esempio del processo di ottimizzazione. Hedra afferma di aver ridotto a 3,6 secondi, in meno di una settimana, il tempo necessario per modificare un’immagine 2K, partendo da circa 22 secondi e usando le stesse quattro GPU AMD Instinct MI355X. Il confronto combina l’ottimizzazione dell’inferenza con la distillazione: la versione di riferimento usava il modello bf16 originale con 30 passaggi di campionamento, mentre la versione più veloce utilizzava un modello distillato a 14 passaggi.

La distinzione è importante perché il risultato deriva da modifiche sia ai calcoli del modello sia al software che li esegue. Si tratta di un risultato riportato per uno specifico carico di lavoro e una determinata configurazione, non di un’accelerazione generale di sei volte per ogni modello distribuito sulla piattaforma.

Un approfondimento tecnico di Hedra su Krea 3 descrive nel dettaglio le operazioni matriciali a precisione ridotta, l’attenzione personalizzata, le operazioni fuse e i trasferimenti da una GPU all’altra, trasferiti a motori di copia dedicati. Il confronto da 22,9 a 3,3 secondi misura il tempo del trasformatore di diffusione, non la latenza dell’intera richiesta. Questi dati vanno quindi considerati separatamente dal risultato sulla modifica delle immagini riportato nel comunicato del lancio.

La fisica dei video e l’adattamento all’hardware dei robot

Hedra riferisce inoltre di aver riaddestrato H3 per migliorarne la coerenza fisica. Il modello riaddestrato ha ottenuto 34,9 nel benchmark Physics-IQ di Google DeepMind, contro 30,3 per H3 Max, mantenendo, secondo Hedra, una qualità visiva comparabile. Stando all’azienda, una versione distillata autonomamente ha generato una clip di cinque secondi in meno di tre secondi sulle GPU MI355X.

In un altro esempio, uno studio di simulazione ha sostituito la pinza di un robot che eseguiva una politica addestrata. Hedra afferma che, adeguando la portata e il punto di presa della pinza sostitutiva a quelli visualizzati dalla telecamera montata sul polso, il successo nell’esecuzione del compito è passato da un valore prossimo allo zero a uno vicino al 100%, senza riaddestramento. Il risultato riguarda la configurazione di simulazione descritta e non dimostra che, nei robot impiegati sul campo, sia possibile gestire modifiche hardware arbitrarie senza ulteriore addestramento.

Questi esempi rimandano a diversi aspetti dello stesso problema ingegneristico: preservare comportamenti utili modificando il modo in cui un modello viene eseguito o il sistema in cui opera.

Un servizio di ricerca basato su modelli di proprietà dei clienti

Model Factory è disponibile dal 10 novembre. I team possono collaborare con i ricercatori di Hedra alla creazione di modelli personalizzati, iniziare con una capacità flessibile di sandbox GPU senza impegni a lungo termine oppure integrare un modello esistente nel suo motore di inferenza. Le opzioni di distribuzione comprendono infrastrutture locali o il data center di un partner nelle vicinanze, con obiettivi di ottimizzazione che vanno da modelli di azione nel mondo più veloci del tempo reale a modelli visione-linguaggio-azione adatti ai dispositivi edge.

L’azienda afferma che i ricavi sono cresciuti di 15 volte nei 12 mesi precedenti, anche se nell’annuncio non ha rivelato il valore di partenza dei ricavi. La panoramica aziendale presenta la piattaforma come un’estensione dell’esperienza maturata nella creazione e nella distribuzione dei propri modelli visivi.

Per i clienti, la proposta sostanziale consiste in un ciclo ingegneristico integrato: usare i dati di dominio per migliorare un modello, ottimizzarlo in base all’hardware e al budget di latenza, valutarne i risultati e incorporare l’esperienza maturata in produzione nell’iterazione successiva. L’efficacia dipenderà dalle valutazioni specifiche per ciascun compito e dai vincoli di distribuzione, tanto quanto dalla velocità delle GPU sottostanti.