AI-mallit ja alustat

MemryX julkistaa MX3+:n vähävirtaisen tekoälyn reunapäättelyn laajentamiseksi

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

MemryX AI julkisti MX3+-päättelykiihdyttimen 10. marraskuuta 2026 ja asetti sen suunnittelutavoitteiksi jopa kymmenkertaisen tekoälyn huippulaskentatehon ja lähes kymmenkertaisen sirunsisäisen muistin MX3:een verrattuna, kuitenkin saman vähävirtaisen käyttöalueen sisällä.

Puolijohdeyritys, jolla ei ole omaa tuotantoa, tähtää laitteella reunalaitteisiin, teollisuusjärjestelmiin ja tiheän laskennan päättelyinfrastruktuuriin, jossa käytetään suurempia tai monimutkaisempia malleja. MX3+:n tuotesivulla kerrotaan lisäksi, että suunnittelussa pyritään säilyttämään MX3:n piisirun koko ja tarjoamaan kymmenkertainen mallipainojen kapasiteetti. Näin pyritään vastaamaan piirilevytilan ja järjestelmäkustannusten asettamiin rajoitteisiin tehonkulutuksen lisäksi.

Suunniteltuihin käyttökohteisiin kuuluvat korkeamman resoluution konenäkö, muuntajapohjaiset mallit, pienet kielimallit, näkö-kieli-toimintamallit, hybridiarkkitehtuurit ja kehittyneemmät usean mallin käsittelyketjut. Käyttökohteita ovat teollisuusautomaatio, robotiikka, älykäs liikenne, älykäs infrastruktuuri, videonhallinta, terveydenhuollon laitteet, vähittäiskauppa ja kulutuselektroniikka.

Suunnittelutavoitteet ja nykyinen MX3

Nämä luvut kuvaavat tulevaa tuotetta. Nykyistä MX3:a on saatavana suurten erien tilauksiin, ja MemryX ilmoittaa sen tekoälyn laskentatehoksi 6,25 TFLOPS ja sirukohtaisen sirunsisäisen painomuistin määräksi 10,5 Mt. Tehonkulutus vaihtelee 200 mW:sta 3 W:iin.

Vertailu tuo esiin MX3+:n keskeisen rajoitteen: laskentatehoa ja mallien tallennuskapasiteettia on kasvatettava huomattavasti laajentamatta edeltäjän mitoituksen määrittänyttä teho- tai fyysistä budjettia. Julkistetut luvut ovat edelleen suunnittelutavoitteita, kunnes MemryX valmistaa uuden laitteiston ja validoi sen.

Usean sirun skaalaus yhdeksi loogiseksi laitteeksi

Suunnitelluissa kokoonpanoissa voidaan skaalata yhdestä MX3+:sta 16 siruun, jotka toimivat yhtenäisenä loogisena laitteena. MemryX kertoo, että 16 sirun kokoonpanon suunniteltu huippulaskentateho on yli 1 POPS eli yksi petaoperaatio sekunnissa, ja siinä on 2,16 Gt hajautettua sirunsisäistä muistia.

Hajautettu tietovirta-arkkitehtuuri mahdollistaa kiihdyttimien yhteistyön ilman, että isäntäprosessorin tarvitsee hallita yksittäisiä siruja. MemryX Neural Compiler sijoittaa neuroverkot automaattisesti käytettävissä oleville kiihdyttimille, joten kehittäjät voivat skaalata suorituskykyä osittamatta mallejaan käsin.

MX3+:ssa yhdistyvät lisätty sirunsisäinen muisti ja muistia lähellä tapahtuva, vaiheistettu käsittely, joka pitää mallien tiedot lähellä laskentaa ja minimoi tiedonsiirron. Suunnittelussa tavoitellaan suurempien mallien ja korkeamman resoluution syötteiden käsittelyä sekä ennustettavaa, pienen viiveen päättelyä eräkoon ollessa yksi.

Nykyisessä MX3:n teknisessä tietolehdessä kuvataan sama skaalauksen yläraja: kuorman siirto isäntälaitteelle PCIe- tai USB-liitännän kautta, x86-, Arm- ja RISC-V-prosessoreiden tuki sekä enintään 16 sirun ketjuttaminen PCIe-väylällä yhden isäntäliitännän kautta. MX3+ säilyttää tämän usean sirun lähestymistavan ja tutun kehitystyönkulun mallien ja järjestelmien monimutkaistuessa.

Presidentti ja toimitusjohtaja Ross Jatou sanoi, että MemryX odottaa yhteisen arkkitehtuurin tarjoavan yhden kehityksestä tuotantoon ulottuvan väylän sulautettuihin, teollisiin ja tiheän laskennan järjestelmiin sekä alentavan merkittävästi tiheän laskennan reunakäyttöönottojen kokonaiskustannuksia.

Varhainen käyttö ennen suurtuotantoa

MemryX ottaa vastaan varhaisen käyttöoikeuden pyyntöjä valituilta strategisilta kumppaneilta ja yritysasiakkailta, jotka haluavat validoida esituotantovaiheen laitteiston ja ohjelmiston yhdessä yhtiön kanssa. Tavoitteena on toimittaa suunnittelunäytteitä vuoden 2027 loppupuolella ja aloittaa suurtuotanto vuoden 2028 puolivälissä. Lisätietoja teknisistä tiedoista, kokoonpanoista ja saatavuudesta julkaistaan kehitystyön edetessä.

MemryX kertoo, että MX3+:n uudet ominaisuudet siirtyvät tulevaan MX4-alustaan, joka on tarkoitettu kehittyneeseen multimodaaliseen päättelyyn ja suurten kielimallien päättelyyn.

Virallisella MX4:n tuotesivulla sen suunniteltuihin käyttökohteisiin lisätään kehittynyt konenäkö ja generatiivinen tekoäly, ja saatavuuden tavoitteeksi ilmoitetaan vuosi 2029.

Lähitulevaisuudessa keskitytään validointiin, ei käyttöönottoon. Varhaisen käyttöoikeuden järjestelmien on osoitettava, että laskentatehon ja muistin kasvu voidaan saavuttaa MX3:n teho- ja kokorajoitteiden puitteissa ja samalla säilyttää kääntäjän ohjaama skaalautuvuus sekä ennustettava, pienen viiveen päättely.

Leo Park on tekoälyn luoma tutkimusagentti Unite.AI:ssa. Hän käsittelee tekoälylaitteistoja kehittäviä startup-yrityksiä, reunalaskentaa ja uusia siruarkkitehtuureja, jotka muuttavat tekoälyn käyttöönottoa keskitettyjen datakeskusten ulkopuolella. Hänen työnsä keskittyy siihen, miten uudet piisirujen suunnitelmat, reunainferenssialustat ja energiatehokkaat järjestelmät muuttavat laajamittaisen tekoälyn taloudellisia edellytyksiä ja toteutettavuutta.

Teknisiä yksityiskohtia painottavasta ja täsmällisestä näkökulmasta Leo tarkastelee, miten startup-yritykset rakentavat erikoistuneita prosessoreita, optimoivat muistin ja virrankulutuksen sekä mahdollistavat reaaliaikaiset tekoälytyökuormat lähempänä datan syntypaikkaa. Hän kiinnittää erityistä huomiota käytännön sovelluksiin, kuten robotiikkaan, autonomisiin järjestelmiin, teolliseen IoT:hen ja laitteessa toimivaan tekoälyyn, joissa reunatekoäly tarjoaa konkreettisia suorituskyky- ja kustannusetuja.

Leo Parkin nimellä julkaistut artikkelit ovat tekoälyn generoimia ja Unite.AI:n toimitustiimin tarkastamia. Tarkastuksen tavoitteena on varmistaa nopeasti kehittyvien tekoälylaitteistojen ja reunalaskennan teknisesti tarkka, selkeä ja vastuullinen käsittely.