AI-mallit ja alustat

Acrabin reunan reunan chipin tavoitteena on suorittaa 100 miljardin parametrin AI-mallit paikallisesti

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Acrab, Singaporen startup, joka tuli esiin salassa olosta kesäkuussa 2026 yli 350 miljoonan dollarin rahoituksella, julkaisi ensimmäisen piirinsä 23. heinäkuuta 2026: GΞLIX 1, 5 nanometrin reunaprosessori, sekä Agent Box, työasema, joka on rakennettu sen ympärille. Molemmat on tarkoitettu samaan tavoitteeseen — suorittamaan avoimen lähdekoodin AI-malleja 100 miljardin parametrin luokassa pienellä laitteistolla, joka mahtuu pöydälle, ilman että data ohjataan pilvipalvelun kautta.

Se on veto vastaan vallitsevaa generatiivisen AI:n muotoa, jossa mallit, jotka ovat niin suuria, sijaitsevat tietokeskuksissa ja käyttäjät maksavat tokenin mukaan. Mallit, jotka ovat tämän luokan, ovat yleensä vaatineet pilvinfrastruktuuria; Acrabin väite on, että taloudelliset ja tietosuojan laskelmat ovat nyt paikallisen laitteiston puolella, jossa vastaukset palautuvat nopeammin, data pysyy laitteessa ja järjestelmä toimii edelleen, kun verkko ei toimi.

Acrabia johtaa tohtori Ken Phua, joka oli vastuussa Arm:n Aasian sovellusinsinöörien johtajana ja myöhemmin toimi Arm China:n varatoimitusjohtajana, ja piiri heijastaa tämän taustan. Sen sijaan, että kiinnittäisi erillisen kiihdyttimen, GΞLIX 1 integroi CPU:n, GPU:n ja NPU:n yhdelle piirille yhdellä jaettavalla muistipoolilla. “Suorittaa mallit 100 miljardin parametrin luokassa järjestelmällä, joka on tarpeeksi pieni istua pöydällä, esittää merkittävän laskennallisen haasteen”, Phua sanoi.

Piirin sisällä

GΞLIX 1 yhdistää 20-ydinsuorittimen Arm CPU:n moniydinsuorittimella varustetun neuroverkkoprosessorin ja 273 GB/s yhdistetyn muistikaistan, Acrabin mukaan, ja on suunniteltu jakamaan yksi suuri malli kaikille kolmelle laskentablokille kerran. Yritys käsittelee muistikaistaa ja aikaa ensimmäiseen tokeniin (viive, ennen kuin malli alkaa vastata pitkään kysymykseen) sitoutuneina rajoituksina tässä luokassa, ja sanoo, että se on säätänyt piiriä pitämään tehon tarpeeksi alhaisena suorittaakseen koko päivän.

Ainoa suorituskyky-luku, jonka Acrab on paljastanut, on myyjän luku, ei riippumaton testi. Omissa benchmarkkoissaan yritys ilmoitti esitietovaihtonopeudeksi 1 416,8 tokenia sekunnissa 188,9:een Mac Mini M4 Pro:lla, tai noin 7,5 kertaa nopeammin, käyttäen Gemma-mallin konfiguraatiota, jonka se merkitsee “26B A4B”:lla, 10 000 tokenin syötteen kanssa. Tämä asetelma pitää aktiivisena vain noin 4 miljardia parametrejä kerran, joka on selvästi alle 100 miljardin parametrin katon, jonka piiri on myydään, ja luku kattaa vain esitietovaihdon. Acrab julkaisi ei dekoodausnopeutta eikä MLPerf-tulosta, joten väite perustuu yrityksen omiin mittauksiin.

Laatikko, jonka ostat sen sijaan, että maksat laskun

Agent Box on ensimmäinen tuote, joka on rakennettu alustalle, ja se sisältää Acrabin terävimmän taloudellisen argumentin. Yritys esittää sen kertamaksuna, joka poistaa pilvipalvelun tokenien maksut: se suorittaa kielen ja näkemisen malleja paikallisesti, pitää käyttäjän datan muistissa laitteessa ja koordinoi tehtäviä yhdistetyillä järjestelmillä. Se on tarkoitettu kodeille ja henkilökohtaisille työtiloille, ja Acrab sanoo, että se muuttuu yhä henkilökohtaisemmaksi, kun sen kontekstivarasto kasvaa. Väite on pääomamenot tilapäisen laskun sijaan — osta laitteisto kerran sen sijaan, että mitataan jokainen pyyntö.

Mitä Acrab ei ole sanonut, on se, mitä Agent Box maksaa, milloin se toimitetaan, tai kuka valmistaa 5 nanometrin piirin. Nämä ovat luvut, joita ostaja tarvitsisi tehdäkseen vertailun. Kunnes on hinta ja toimituspäivämäärä, kauppa kiinteän laitteiston hinnan ja avoimen pilvipalvelun välillä on väite eikä laskelma.

Laajempi veto reunassa

Väite tulee kiistanalaiseen kenttään. Qualcomm (QCOM ) ja Intel (INTC ) toimittavat jo neuroprosessoreita AI-tietokoneissa, ja reunan AI-laatikot suorittavat pienempiä malleja laitteessa tänään; mitä Acrab väittää muuttavansa, on parametrin katto, siirtäen 100 miljardin luokan malleja yhdelle paikalliselle järjestelmälle sen sijaan, että pienemmät mallit, jotka suoritetaan mukavasti piireillä, jotka toimitetaan puhelimissa ja kannettavissa tietokoneissa tänään. Acrab sanoo, että GΞLIX 1 ja sen ohjelmistopino on tarkoitettu toimimaan vaakasuoraan perustana muille valmistajille, ja aikoo saavuttaa AI-verkkotallennuslaatikot, AI-tietokoneet, älylaitteet, teollisuus- ja palvelurobotit. Tavoite saapuu, kun laajempi infrastruktuurikeskustelu siirtyy koulutuksesta inferenceen, ja komponentinvalmistajat työntävät enemmän piiriä reunan ja laitteen muotoihin.

Yritys on kerännyt yli 350 miljoonaa dollaria kertymässä siitä lähtien, kun se perustettiin vuonna 2024, yhteensä, jonka se julkisti kesäkuussa 2026, alkuperäisellä tuella Vertex Ventures SEA & India ja Vertex Growth, Temasek:in linkitetyt rahastot, sekä sijoittaja, jonka se tunnistaa K3:na. Acrab sanoo, että GΞLIX-alusta on validoitu todellisissa käyttöönotoissa ja siirtyy kohti ensimmäistä teollista käyttöönottoa ja massatuotantoa. Mitä se ei ole vielä osoittanut, on piiri, joka suorittaa 100 miljardin parametrin mallin nopeuksilla, jotka sen väite riippuu, mitattuna keneltäkään muulta kuin Acrabilta.

Theo Nash on tekoälygeneroitu asiantuntija Unite.AI:ssa, joka kattaa tekoälyinfrastruktuurin, laskennan ja modernin tekoälyä voimistavat laitteistojärjestelmät. Hänen työnsä keskittyy suurten tekoälykuormien taustalla oleviin teknisiin perusteisiin, mukaan lukien datakeskukset, kiihdyttimet, verkkotiet ja ohjelmistopinot, jotka sitoutuvat niihin.
Analyytisesta ja insinöörijohtoisesta näkökulmasta Theo tarkastelee, miten GPU:n, mukautetun piirin, muistiarkkitehtuurien ja hajautettujen järjestelmien edistysaskeleet mahdollistavat uusia tekoälymallien sukupolvia. Hän kiinnittää erityistä huomiota suorituskyky-yhteyksiin, energiatehokkuuteen, skaalautuvuuteen ja käytännön rajoituksiin, jotka muokkaavat tekoälyinfrastruktuurin todellista käyttöönottoa.
Artikkelit, joita Theo Nash on kirjoittanut, on tekoälygeneroitu ja Unite.AI:n toimittajatiimi on tarkastanut ne varmistaakseen teknisen tarkkuuden, selkeyden ja vastuullisen kattavuuden nopeasti kehittyvässä tekoälylaskennan maisemassa.