Acrabs kantskiktchipp siktar på att köra 100 miljarders AI-modeller lokalt

Acrab, ett singaporebaserat startup som gick ur stealthläge i juni 2026 med över 350 miljoner dollar i stöd, avtäckte sin första krets den 23 juli 2026: GΞLIX 1, en 5-nanometer kantprocessorer, tillsammans med Agent Box, ett skrivbordssystem byggt runt den. Båda är riktade mot samma mål — att köra öppen källkods-AI-modeller i 100-miljardersparameternivå på hårdvara som är tillräckligt liten för att sitta på ett skrivbord, utan att dirigera data genom en molntjänst.

Det är en insats mot den rådande formen av generativ AI, där modeller av den storleken bor i datacenter och användare betalar per token. Modeller i den här storleken har vanligtvis krävt molninfrastruktur; Acrabs påstående är att ekonomin och integritetsmatematiken nu gynnar att dra dem till lokal hårdvara, där svar returneras snabbare, data stannar på enheten och systemet fortsätter att fungera när nätverket inte gör det.

Acrab leds av Dr. Ken Phua, som tidigare var ansvarig för Asienapplikationsingenjör på Arm och senare var med-VD för Arm China, och chippen speglar den här arvsmassan. Istället för att montera en separat accelerator integrerar GΞLIX 1 CPU, GPU och NPU på en enda die med en gemensam minnespool. “Att köra modeller i 100-miljardersparameternivå på ett system som är tillräckligt litet för att sitta på ett skrivbord presenterar en betydande beräkningsutmaning”, sa Phua.

Inuti kislet

GΞLIX 1 parar en 20-kärnors Arm-CPU med en flerkärnig neuralbearbetningsenhet och 273 GB/s enhetlig minnesbandbredd, enligt Acrab, och är byggd för att sprida en stor modell över alla tre beräkningsblock på samma gång. Företaget behandlar minnesbandbredd och tid-till-första-token (fördröjningen innan en modell börjar svara på en lång prompt) som de bindande begränsningarna på den här nivån, och säger att den har trimmat chippen för att hålla effekten tillräckligt låg för att kunna köra hela dagen.

Den enda prestandasiffra som Acrab avslöjade är en leverantörsnummer, inte en oberoende test. I sin egen benchmarkning rapporterade företaget en prefillhastighet på 1 416,8 token per sekund mot 188,9 på en Mac Mini M4 Pro, eller ungefär 7,5 gånger snabbare, med en Gemma-modellkonfiguration som den märker “26B A4B” med en 10 000-teckeninmatning. Den inställningen håller bara cirka 4 miljarder parametrar aktiva åt gången, långt ifrån 100-miljardersparameternivån som chippen säljs på, och siffran omfattar endast prefill. Acrab publicerade ingen dekodhastighet och inget MLPerf-resultat, så påståendet vilar på företagets egen mätning.

En låda du köper istället för en räkning du betalar

Agent Box är den första produkten som byggs på plattformen, och den bär Acrabs skarpare ekonomiska argument. Företaget kallar det för en engångsköp som tar bort de återkommande per-tokenavgifterna för moln-AI: den kör språk- och visionsmodeller lokalt, håller ett beständigt minne av användarens data på enheten och samordnar uppgifter över anslutna system. Den är riktad mot hem och personliga arbetsutrymmen, och Acrab säger att den blir mer anpassad allteftersom dess kontextsamling ökar. Argumentet är att det är en kapitalutgift istället för en driftskostnad — köp hårdvaran en gång istället för att mäta varje begäran.

Det som Acrab inte har sagt är vad Agent Box kostar, när den levereras eller vilken tillverkare som tillverkar den 5-nanometerchippet. Det är de siffror som en köpare skulle behöva för att faktiskt köra jämförelsen. Tills det finns ett pris och en leveransdatum är handeln mellan en fast hårdvarukostnad och en öppen molnprenumeration ett påstående snarare än en beräkning.

En bredare insats på kanten

Pitchningen kommer in i ett omstritt område. Qualcomm (QCOM ) och Intel (INTC ) levererar redan neurala processorer i AI-datorer, och en klass av kant-AI-lådor kör mindre modeller på enheten idag; vad Acrab påstår sig ändra är parameternivån, genom att flytta 100-miljardersklassmodeller till ett enda lokalt system snarare än de mycket mindre modellerna som kör bekvämt på silikonet som levereras i telefoner och bärbara datorer nu. Acrab säger att GΞLIX 1 och dess programvarustack är avsedda att fungera som en horisontell grund för andra tillverkare, med planer på att nå AI-nätverkslagringslådor, AI-datorer, smarta fordon och industri- och serviceroBotar. Ambitionen landar som den bredare infrastrukturkonversationen skiftar från utbildning till inferens, och som komponenttillverkare trycker mer silikon in i kant- och enhetsformfaktorer.

Företaget har samlat in över 350 miljoner dollar kumulativt sedan dess grundande 2024, en summa som avslöjades i juni 2026, med tidigt stöd från Vertex Ventures SEA & India och Vertex Growth, de Temasek-anslutna fonder, plus en investerare som identifieras som K3. Acrab säger att GΞLIX-plattformen har validerats i verkliga distributioner och är på väg mot sin första industriella antagande och massproduktion. Vad det ännu inte har visat är chippen som kör en 100-miljardersparameternivåmodell i de hastigheter som dess pitch beror på, mätt av någon annan än Acrab.