Acrabs Edge Chip har til formål at køre 100M AI-modeller lokalt

Acrab, en singapore-baseret startup, der kom ud af stealth i juni 2026 med over 350 millioner dollar i backing, præsenterede sin første silicium den 23. juli 2026: GΞLIX 1, en 5-nanometer edge-processor, samt Agent Box, et desktop-system bygget omkring det. Begge har til formål at køre open-source AI-modeller i 100-milliard-parameter-klassen på hardware, der er lille nok til at sidde på et skrivebord, uden at routere data gennem en cloud-tjeneste.

Dette er en indsats imod den herskende form for generativ AI, hvor modeller af denne størrelse lever i datacentre og brugere betaler pr. token. Modeller i denne skala har generelt krævet cloud-infrastruktur; Acrabs sag er, at økonomien og privatlivsmatematikken nu favoriserer at trække dem over på lokal hardware, hvor svarene returnerer hurtigere, data forbliver på enheden, og systemet fortsætter med at fungere, selv når netværket ikke gør.

Acrab ledes af Dr. Ken Phua, der tidligere var leder af Asia-applikationsingeniører hos Arm og senere fungerede som co-CEO hos Arm China, og chippen afspejler denne baggrund. I stedet for at tilføje en diskret accelerator integrerer GΞLIX 1 CPU, GPU og NPU på en enkelt die med én fælles pool af hukommelse. “At køre modeller i 100-milliard-parameter-klassen på et system, der er lille nok til at sidde på et skrivebord, repræsenterer en betydelig beregningsudfordring,” sagde Phua.

Indenfor silicium

GΞLIX 1 parer en 20-kernet Arm-CPU med en multicore-neuralt processorenhed og 273 GB/s af unified hukommelsesbåndbredde, ifølge Acrab, og er bygget til at sprede én stor model over alle tre beregningsblokke på én gang. Selskabet behandler hukommelsesbåndbredde og tid-til-første-token (forsinkelsen, før en model begynder at svare på en lang prompt) som de bindende begrænsninger på denne skala, og siger, at de har justeret chippen til at holde effekten lav nok til at køre hele dagen.

Den eneste performancesiffre, Acrab har offentliggjort, er en vendor-siffre, ikke en uafhængig test. I deres egen benchmarking rapporterede selskabet en prefill-hastighed på 1.416,8 tokens pr. sekund i forhold til 188,9 på en Mac Mini M4 Pro, eller omtrent 7,5 gange hurtigere, ved hjælp af en Gemma-modelkonfiguration, som de betegner “26B A4B” med en 10.000-token-indgang. Denne opsætning holder kun omkring 4 milliarder parametre aktive på samme tid, langt under den 100-milliard-parameter-loft, chippen er solgt på, og siffren dækker kun prefill. Acrab har offentliggjort ingen decode-hastighed og ingen MLPerf-resultat, så påstanden hviler på selskabets egen måling.

En boks, du køber i stedet for en regning, du betaler

Agent Box er det første produkt, der er bygget på platformen, og det indeholder Acrabs skarpeste økonomiske argument. Selskabet fremstiller det som en engangs-køb, der fjerner de tilbagevendende gebyrer pr. token for cloud-AI: det kører sprog- og visionsmodeller lokalt, holder en varig hukommelse af brugerens data på enheden og koordinerer opgaver på tværs af forbundne systemer. Det er rettet mod hjem og personlige arbejdspladser, og Acrab siger, at det bliver mere tilpasset, efterhånden som det samler kontekst. Sagen er, at der er tale om anlægsaktiver i stedet for en driftsregning — køb hårdwaren én gang i stedet for at måle hver anmodning.

Det, Acrab ikke har sagt, er, hvad Agent Box koster, hvornår det bliver sendt, eller hvilket sted, der fremstiller den 5-nanometer-chip. Disse er de tal, en køber ville have brug for for at kunne lave sammenligningen. Indtil der er en pris og en leveringsdato, er handlen mellem en fast hårdvare-omkostning og en åben cloud-abonnement en påstand snarere end en beregning.

En bredere indsats på kanten

Pitchet indtræder i et kontroversiel felt. Qualcomm (QCOM ) og Intel (INTC ) sender allerede neurale processorer i AI-PC’er, og en klasse af edge-AI-bokse kører mindre modeller på enheden i dag; hvad Acrab påstår at ændre, er parameter-loftet, ved at flytte 100-milliard-klassens modeller over på et enkelt lokal system snarere end de langt mindre modeller, der kører komfortabelt på silicium, der sendes i telefoner og bærbare computere i dag. Acrab siger, at GΞLIX 1 og dens software-stack er tænkt som en horisontal grundlag for andre fabrikanter, med planer om at nå AI-netværkslagringsbokse, AI-PC’er, smarte køretøjer og industri- og service-robotter. Ambitionen lander, da den bredere infrastruktur-samtale skifter fra træning til slutledning, og da komponent-fabrikanter trykker mere silicium ind i kant- og på-enhed-formfaktorer.

Selskabet har samlet over 350 millioner dollar siden sin grundlæggelse i 2024, en samlet sum, som de offentliggjorde i juni 2026, med tidlig støtte fra Vertex Ventures SEA & India og Vertex Growth, de Temasek-linke fonde, samt en investor, som de identificerer som K3. Acrab siger, at GΞLIX-platformen er blevet valideret i virkelige installationer og bevæger sig mod sin første industriel adoption og masseproduktion. Det, de endnu ikke har vist, er chippen, der kører en 100-milliard-parameter-model i de hastigheder, deres pitch afhænger af, målt af nogen andre end Acrab.