Acrab’s Edge-brikke har som mål å kjøre 100 milliarder AI-modeller lokalt

Acrab, et singaporebasert startup som gikk ut av stealth i juni 2026 med over 350 millioner dollar i backing, avduket sin første silisium den 23. juli 2026: GΞLIX 1, en 5-nanometer edge-prosessor, sammen med Agent Box, et skrivebordsystem bygget rundt det. Begge er rettet mot samme mål — å kjøre åpne AI-modeller i 100-milliardparameterklassen på hardware som er liten nok til å sitte på et skrivebord, uten å sende data gjennom en skytjeneste.

Dette er en innsats mot den rådende formen for generativ AI, der modeller av denne størrelsen bor i datacenter og brukerne betaler per token. Modeller i denne skalaen har generelt kravt sky-infrastruktur; Acrabs sak er at økonomien og personvernsregnskapet nå favoriserer å trekke dem over på lokal hardware, der svarene returneres raskere, data forblir på enheten, og systemet fortsetter å fungere når nettverket ikke gjør det.

Acrab ledes av Dr. Ken Phua, som ledet Asia-applikasjonsingeniører i Arm og senere tjenestegjorde som med-CEO i Arm China, og chipen reflekterer denne bakgrunnen. I stedet for å montere en separat akselerator, integrerer GΞLIX 1 CPU, GPU og NPU på en enkelt die med en felles minnepool. “Å kjøre modeller i 100-milliardparameterklassen på et system som er liten nok til å sitte på et skrivebord, presenterer en betydelig beregningsutfordring”, sa Phua.

Inni silisium

GΞLIX 1 parer en 20-kjerne Arm CPU med en flerkjerne neural prosessor og 273 GB/s av samlet minnebandbredde, ifølge Acrab, og er bygget for å spre ett stort modell over alle tre beregningsblokkene på samme tid. Selskapet behandler minnebandbredde og tid-til-første-token (forsinkelsen før et modell begynner å svare på en lang prompt) som de bindende begrensningene på denne skalaen, og sier at de har justert chipen for å holde effekten lav nok til å kjøre hele dagen.

Den eneste ytelsesfiguren Acrab har offentliggjort er en leverandørnummer, ikke en uavhengig test. I sine egne benchmark-tester, rapporterte selskapet en forhåndsutfyllingshastighet på 1 416,8 token per sekund mot 188,9 på en Mac Mini M4 Pro, eller omtrent 7,5 ganger raskere, ved å bruke en Gemma-modellkonfigurasjon som de betegner som “26B A4B” med en 10 000-token inndata. Denne konfigurasjonen holder bare om lag 4 milliarder parametre aktive på samme tid, langt under 100-milliardparametergrensen chipen er solgt på, og tallet dekker bare forhåndsutfylling alene. Acrab har ikke offentliggjort noen dekodningshastighetsfigur eller noen MLPerf-resultat, så påstanden hviler på selskapets eget mål.

En boks du kjøper i stedet for en regning du betaler

Agent Box er det første produktet bygget på plattformen, og det bærer Acrabs skarpeste økonomiske argument. Selskapet presenterer det som en engangs kjøp som fjerner de gjentakende per-token-gebyrene for sky-AI: det kjører språk- og visningsmodeller lokalt, holder en varig minne av brukerens data på enheten, og koordinerer oppgaver over sammenkoblede systemer. Det er rettet mot hjem og personlige arbeidsplasser, og Acrab sier at det blir mer tilpasset etterhvert som lagret kontekst akkumuleres. Saken er anskaffelsesutgifter i stedet for en driftsregning — kjøp hårdwaren én gang i stedet for å måle hver forespørsel.

Hva Acrab ikke har sagt, er hva Agent Box koster, når det leveres, eller hvilken fabrikk som produserer 5-nanometer-chipen. Disse er tallene en kjøper ville trenge for å faktisk kunne sammenligne. Før det er en pris og en leveringsdato, er handelen mellom en fast hårdwarekostnad og en åpen sky-abonnement en påstand snarere enn en beregning.

En bredere innsats på kanten

Pitchet går inn i et omstridt felt. Qualcomm (QCOM ) og Intel (INTC ) leverer allerede neural prosessorer i AI-PC-er, og en klasse av kant-AI-bokser kjører mindre modeller på enheten i dag; hva Acrab hevder å endre, er parametergrensen, ved å flytte 100-milliardklassemodeller over på et enkelt lokalt system i stedet for de mye mindre modellene som kjører komfortabelt på silisiumet som leveres i telefoner og bærbare datamaskiner nå. Acrab sier at GΞLIX 1 og dens programvarestack er ment å fungere som en horisontal grunnlag for andre produsenter, med planer om å nå AI-nettverkslagringsbokser, AI-PC-er, smarte kjøretøy, industri- og serviceroberter. Ambisjonen lander som den bredere infrastrukturkonversasjonen skifter fra trening til inferens, og som komponentprodusenter skyver mer silisium inn i kant- og på-enhet-formfaktorer.

Selskapet har samlet over 350 millioner dollar siden det ble grunnlagt i 2024, et beløp som ble offentliggjort i juni 2026, med tidlig støtte fra Vertex Ventures SEA & India og Vertex Growth, Temasek-koblede fond, samt en investor det identifiserer som K3. Acrab sier at GΞLIX-plattformen har blitt validert i virkelige utrullinger og er på vei mot sin første industrielle tilpasning og masseproduksjon. Hva det ennå ikke har vist, er chipen som kjører en 100-milliardparametermodell på de hastighetene dens pitch avhenger av, målt av noen andre enn Acrab.