Čip Acrab’s Edge pro běh 100 miliard AI modelů místně

Acrab, singapurská startup, která vyšla z utajení v červnu 2026 s více než 350 miliony dolarů v podpoře, odhalila svou první silikon 23. července 2026: GΞLIX 1, 5nm edge procesor, spolu s Agent Box, desktopovým systémem postaveným kolem něj. Oba jsou zaměřeny na stejný cíl — běh otevřených AI modelů v třídě 100 miliard parametrů na hardwaru dostatečně malém, aby se vešel na stůl, bez směrování dat přes cloudovou službu.

To je sázka proti převládající podobě generativní AI, kde modely této velikosti žijí v datových centrech a uživatelé platí za token. Modely této velikosti obecně vyžadovaly cloudovou infrastrukturu; Acrab tvrdí, že ekonomika a matematika soukromí nyní favorizují přesunutí na místní hardware, kde odpovědi přicházejí rychleji, data zůstávají na zařízení a systém pokračuje v práci, i když síť nefunguje.

Acrab je veden Dr. Kenem Phuou, který vedl asijské aplikace pro inženýrství v Arm a později působil jako spoluceo Arm China, a čip odráží tuto linii. Místo připojování samostatného akcelerátoru integruje GΞLIX 1 CPU, GPU a NPU na jednom die s jednou sdílenou pamětí. “Běh modelů v třídě 100 miliard parametrů na systému dostatečně malém, aby se vešel na stůl, představuje významnou výpočetní výzvu,” řekl Phua.

Uvnitř silikonu

GΞLIX 1 kombinuje 20-jádrový procesor Arm s vícejádrovým neuronovým procesorem a 273 GB/s jednotné šířky pásma paměti, podle Acrab, a je navržen tak, aby rozložil jeden velký model napříč všemi třemi výpočetními bloky najednou. Společnost považuje šířku pásma paměti a čas na první token (zpoždění předtím, než model začne reagovat na dlouhý podnět) za omezující faktory v této třídě a tvrdí, že čip je naladěn tak, aby udržoval spotřebu energie dostatečně nízkou, aby běžel celý den.

Jediná výkonnostní hodnota, kterou Acrab zveřejnil, je číslo dodavatele, ne nezávislý test. Ve svých vlastních benchmarcích společnost uvedla přednačtenou rychlost 1 416,8 tokenů za sekundu oproti 188,9 na Mac Mini M4 Pro, nebo přibližně 7,5krát rychleji, pomocí konfigurace modelu Gemma, kterou označuje jako “26B A4B” s 10 000tokenovým vstupem. Tato konfigurace udržuje pouze asi 4 miliardy parametrů aktivních současně, což je daleko od stropu 100 miliard parametrů, na který je čip prodáván, a číslo zahrnuje pouze přednačtení. Acrab nezveřejnil žádnou hodnotu dekódovací rychlosti a žádný výsledek MLPerf, takže tvrzení spočívá na měření společnosti.

Krabice, kterou koupíte místo účtu, který platíte

Agent Box je prvním produktem postaveným na této platformě a nese nejostřejší ekonomickou argumentaci Acrab. Společnost ji představuje jako jednorázový nákup, který odstraňuje opakující se poplatky za token cloudové AI: běží jazykové a vize modelů místně, udržuje trvalou paměť uživatelských dat na zařízení a koordinuje úkoly napříč propojenými systémy. Je zaměřen na domácnosti a osobní pracovní prostory a Acrab tvrdí, že se stává více přizpůsobeným, jak jeho úložiště kontextu roste. Představuje se jako kapitálové výdaje místo provozních nákladů — koupě hardwaru jednou místo měření každé žádosti.

Co Acrab neuvedl, je cena Agent Box, kdy se dodává, nebo která foundry vyrábí 5nm čip. To jsou čísla, která by kupující potřeboval, aby mohl provést srovnání. Dokud nebude k dispozici cena a datum dodání, je obchod mezi fixními náklady na hardware a otevřenou cloudovou předplatbou tvrzením spíše než výpočtem.

Širší sázka na okraj

Tato prezentace vstupuje do sporného pole. Qualcomm (QCOM ) a Intel (INTC ) již dodávají neuronové procesory v AI PC; třída edge AI boxů běží menší modely na zařízení dnes; co Acrab tvrdí, že mění, je strop parametrů, přesouvající modely třídy 100 miliard na jeden místní systém spíše než na mnohem menší modely, které běží pohodlně na silikonu, který se dodává v telefonech a noteboocích nyní. Acrab tvrdí, že GΞLIX 1 a jeho softwareový stack jsou určeny k tomu, aby sloužily jako horizontální základna pro další výrobce, s plány dosáhnout AI síťových úložišť, AI PC, chytrých vozidel a průmyslových a servisních robotů. Ambice přicházejí, když se širší infrastruktura konverzuje od trénování k inferenci a když výrobci komponent tlačí více silikonu do edge a na zařízení formátů.

Společnost získala více než 350 milionů dolarů od svého založení v roce 2024, celkovou částku, kterou zveřejnila v červnu 2026, s počáteční podporou od Vertex Ventures SEA & India a Vertex Growth, Temasek-linked fondů, plus investora, kterého identifikuje jako K3. Acrab říká, že platforma GΞLIX byla ověřena v reálných nasazeních a míří na svou první průmyslovou adopci a hromadnou produkci. Co dosud nezobrazilo, je čip běhající 100miliardový parametrový model při rychlostech, na kterých závisí jeho prezentace, měřeno kýmkoli jiným než Acrab.