Hedra lanseeraa Model Factoryn todellisen maailman tekoälyn kouluttamiseen, käyttöönottoon ja kehittämiseen

Hedra lanseeraa Model Factoryn, alustan, joka yhdistää GPU-infrastruktuurin, mallien jälkikoulutuksen, päättelyn optimoinnin ja tuotantokäytöstä saatavan palautteen yhdeksi työnkuluksi. a16z:n tukema tutkimusyhtiö suuntaa palvelun robotiikan, valmistavan teollisuuden, biologian ja puolustuksen toimijoille, jotka tarvitsevat omiin tietoihinsa ja toimintaympäristöihinsä mukautettuja malleja.

Palvelulla pyritään vastaamaan yritystekoälyn käytännön haasteeseen: kyvykäs yleiskäyttöinen malli on usein vasta lähtökohta. Sen muuntaminen luotettavaksi järjestelmäksi, joka käsittelee videota tai anturidataa tai ohjaa fyysisiä toimintoja, voi edellyttää räätälöityjä koulutusympäristöjä, erikoistunutta käyttöönotto-ohjelmistoa sekä tapaa arvioida jokainen uusi versio sen tehtävän perusteella, jota sen on määrä suorittaa.

Koulutuksen, käyttöönoton ja tuotantokäytöstä saatavan palautteen yhdistäminen

Model Factory yhdistää joustavat GPU-hiekkalaatikot ja jälkikoulutuksen, jota Hedran tutkijat toteuttavat yhdessä autonomisten tekoälyagenttien kanssa. Asiakkaat tuovat mukanaan dataa ja simulointimoottoreita; Hedra auttaa rakentamaan vahvistusoppimisympäristöjä ja aineistoja sekä optimoi, miten tuloksena syntyvät mallit toimivat.

”Rekursiivinen itsensä kehittäminen muuttaa jo sitä, miten edistyneimpiä malleja rakennetaan”, sanoo Hedran perustaja ja toimitusjohtaja Michael Lingelbach. ”Seuraava askel on siirtyä todelliseen maailmaan, jossa data koostuu videosta, anturitiedoista ja simulaatioista. Hedra Model Factory tarjoaa robotiikan, valmistavan teollisuuden, biologian ja puolustuksen toimijoille infrastruktuurin omien malliensa jälkikoulutukseen, käyttöönottoon ja jatkuvaan kehittämiseen.”

Käyttöönoton jälkeen tutkijat analysoivat mallin suorituskykyä tuotantokäytössä, kouluttavat sen uudelleen ja julkaisevat uusia versioita vasta, kun ne läpäisevät asiakkaan arvioinnit. Siksi arviointikriteerit ovat palvelun keskeinen osa: nopeammankin mallin on täytettävä sitä käyttävän sovelluksen vaatimukset.

Hedra käyttää rekursiivisen itsensä kehittämisen käsitettä kuvaamaan sitä, kuinka tutkijat ja autonomiset tekoälytutkijat toistavat kokeita, koulutusajoja ja optimointimenetelmiä. Julkistettu prosessi sisältää tutkijoiden tekemän työn ja asiakkaan arviointivaiheet, eikä se tarkoita rajoittamattomia, automaattisia muutoksia tuotantomalleihin.

Miksi fyysinen tekoäly tarvitsee muutakin kuin tekstimallien tarjoilupinon

Hedran maailmamallien suoritusympäristö eli WMR antaa lanseeraukselle lisäkontekstia. Yhtiön mukaan kyseessä on avoimen ytimen päättelymoottori kuva-, video-, maailma- ja tekstimalleille, ja se tukee NVIDIA- ja AMD-grafiikkasuorittimia. Sen optimoinnit kohdistuvat diffuusion vaiheisiin, ruutujen väliseen tarkkaavaisuuteen sekä koodaus- ja dekoodaustoimintoihin, jotka voivat kuluttaa huomattavasti GPU-aikaa visuaalisissa kuormissa.

Näkö-, kieli- ja toimintamallin päättely tuottaa tulkittujen syötteiden lisäksi toimintoja. Simuloidussa ympäristössä sekä malli että sen koulutuskokemuksen tuottava ympäristö voivat tarvita kiihdyttimiä. Työnkulun parantaminen edellyttää siis muutakin kuin mallin valitsemista: se voi tarkoittaa datan siirtelyn vähentämistä, numeerisen tarkkuuden sovittamista laatutavoitteisiin sekä koulutuksen ja mallien tarjoilun koordinointia.

Yhtiön GPU-hiekkalaatikkoratkaisun avulla tiimit voivat tuoda säiliöitä, riippuvuuksia ja mallikoodia eristettyihin ympäristöihin Hedran huolehtiessa resurssien sijoittelusta, skaalauksesta ja laitteistovioista palautumisesta. Tiimit voivat muokata suoritusympäristöään, suorittaa koulutusta tai arviointia sekä viedä tarkistuspisteitä ja muita artefakteja. Yhtiön koulutusalusta tukee ohjattua hienosäätöä, kevyitä LoRA-sovittimia ja vahvistusoppimista, ja tarkistuspisteet arvioidaan ennen mallin tarjoilua.

Kuvankäsittely nopeutui kuusinkertaiseksi tietyissä olosuhteissa

Lanseeraustiedotteessa Krea 3:n kuvankäsittely nostetaan esimerkiksi optimointiprosessista. Hedran mukaan se lyhensi 2K-kuvan muokkaukseen kuluvan ajan noin 22 sekunnista 3,6 sekuntiin alle viikossa käyttäen samoja neljää AMD Instinct MI355X -grafiikkasuoritinta. Vertailussa yhdistyvät päättelyn optimointi ja tislaus: lähtötilanteessa käytettiin alkuperäistä bf16-mallia 30 näytteenottoaskeleella, kun taas nopeampi versio käytti tislattua 14 askeleen mallia.

Ero on tärkeä, sillä tulos perustuu sekä mallin laskennan että sen suorittamiseen käytetyn ohjelmiston muutoksiin. Kyseessä on raportoitu tulos tietylle kuormalle ja kokoonpanolle, ei yleinen kuusinkertainen nopeutus kaikille alustan kautta tarjottaville malleille.

Hedran erillisessä Krea 3:n teknisessä kuvauksessa kerrotaan matalamman tarkkuuden matriisioperaatioista, räätälöidystä tarkkaavaisuudesta, yhdistetyistä operaatioista ja GPU:iden välisistä siirroista, jotka siirrettiin erillisille kopiointiyksiköille. Vertailu, jossa aika lyheni 22,9 sekunnista 3,3 sekuntiin, mittaa diffuusiomuuntajan suoritusaikaa, ei koko pyynnön viivettä. Näitä lukuja tulee siksi tarkastella erillään lanseeraustiedotteessa ilmoitetusta kuvanmuokkaustuloksesta.

Videon fysiikka ja robottien laitteiston mukauttaminen

Hedra kertoo myös kouluttaneensa H3:n uudelleen, jotta se noudattaisi paremmin fysikaalisia lakeja. Uudelleenkoulutettu malli sai Google DeepMindin Physics-IQ-vertailutestissä tuloksen 34,9, kun H3 Maxin tulos oli 30,3; Hedran mukaan visuaalinen laatu oli vertailukelpoinen. Yhtiön mukaan autonomisesti tislatulla versiolla viiden sekunnin videoleikkeen tuottaminen kesti MI355X-grafiikkasuorittimilla alle kolme sekuntia.

Toisessa esimerkissä simulaatiotutkimuksessa vaihdettiin tarttuja robotista, joka käytti koulutettua toimintapolitiikkaa. Hedran mukaan tehtävän onnistumisaste nousi lähes nollasta lähes 100 prosenttiin ilman uudelleenkoulutusta, kun korvaavan tarttujan ulottuvuus ja tarttumiskohta sovitettiin rannekameran näkymään. Havainto koskee raportoitua simulaatioasetelmaa; se ei osoita, että mielivaltaiset laitteistomuutokset voitaisiin toteuttaa käytössä olevissa roboteissa ilman lisäkoulutusta.

Nämä esimerkit tuovat esiin saman teknisen haasteen eri puolia: hyödyllisen toiminnan säilyttämisen samalla, kun muutetaan joko mallin toimintatapaa tai järjestelmää, jossa se toimii.

Asiakkaiden omiin malleihin perustuva tutkimuspalvelu

Model Factory on saatavilla 10. marraskuuta alkaen. Tiimit voivat kehittää mukautettuja malleja Hedran tutkijoiden kanssa, aloittaa joustavalla GPU-hiekkalaatikkokapasiteetilla ilman pitkäaikaisia sitoumuksia tai tuoda olemassa olevan mallin sen päättelymoottoriin. Käyttöönoton vaihtoehtoihin kuuluvat asiakkaan omissa tiloissa sijaitseva infrastruktuuri tai lähellä oleva kumppanin datakeskus. Optimoinnin tavoitteet ulottuvat reaaliaikaa nopeammin toimivista fyysisen maailman toimintamalleista näkö-, kieli- ja toimintamalleihin, jotka mahtuvat reunalaitteisiin.

Yhtiön mukaan liikevaihto kasvoi 15-kertaiseksi edeltäneiden 12 kuukauden aikana, mutta se ei ilmoittanut tiedotteessaan liikevaihdon lähtötasoa. Yhtiön esittelyssä alusta asemoidaan jatkoksi kokemukselle, jota yhtiö on kartuttanut omien visuaalisten malliensa kehittämisestä ja tarjoamisesta.

Asiakkaille keskeinen lupaus on yhtenäinen tekninen kehityssykli: mallia parannetaan toimialakohtaisen datan avulla, optimoidaan laitteistolle ja viivebudjetille, arvioidaan tulosta ja hyödynnetään tuotantokäytöstä saatuja kokemuksia seuraavassa kehitysversiossa. Tämän toimintamallin onnistuminen riippuu tehtäväkohtaisista arvioinneista ja käyttöönoton rajoitteista yhtä paljon kuin taustalla olevien grafiikkasuorittimien nopeudesta.