Acrab 边缘芯片旨在本地运行 100B AI 模型

Acrab，一家于 2026 年 6 月以超过 3.5 亿美元的资金从隐身模式中脱颖而出，于 2026 年 7 月 23 日推出了其首款芯片：GΞLIX 1，一款 5 纳米边缘处理器，以及 Agent Box，一款基于该芯片的桌面系统。两者都旨在实现同一个目标 —— 在小到可以放在桌子上的硬件上运行 100 亿参数级别的开源 AI 模型，而无需将数据路由到云服务。

这是一种与当前主流的生成性 AI 形态相反的赌注，在这种形态中，如此大型的模型通常驻留在 数据中心 中，用户按令牌付费。这种规模的模型通常需要云基础设施；Acrab 的论点是，经济学和隐私数学现在偏向于将它们拉到本地硬件上，在那里响应速度更快，数据保持在设备上，系统即使在网络不可用时也可以继续运行。

Acrab 由 Ken Phua 博士领导，他曾在 Arm 公司担任亚洲应用工程负责人，后来担任 Arm 中国的联合 CEO，该芯片反映了这一背景。与将离散加速器连接起来不同，GΞLIX 1 将 CPU、GPU 和 NPU 集成到单个芯片上，共享一个内存池。“在小到可以放在桌子上的系统上运行 100 亿参数级别的模型，带来了重大的计算挑战，”Phua 说。

芯片内部

GΞLIX 1 将 20 核 Arm CPU 与多核神经处理单元和 273 GB/s 的统一内存带宽配对，根据 Acrab 的说法，它的设计目的是将一个大型模型同时跨越三个计算块。该公司将内存带宽和时间到第一令牌（模型开始响应长提示的延迟）视为此规模的约束，并表示它已将芯片调优以保持足够低的功耗，可以全天运行。

Acrab 公布的唯一性能数据是供应商的数字，而不是独立测试。在其自己的基准测试中，该公司报告了 1,416.8 个令牌每秒的预填充速率，相比 Mac Mini M4 Pro 的 188.9 个令牌每秒，约快 7.5 倍，使用其标记为“26B A4B”的 Gemma 模型配置，输入为 10,000 个令牌。这种设置仅保持大约 40 亿参数同时激活，远远低于芯片的 100 亿参数上限，而且该数字仅涵盖预填充。Acrab 未发布解码速度数据，也未发布 MLPerf 结果，因此该声明仅依赖于该公司自己的测量结果。

购买盒子而不是支付账单

Agent Box 是基于该平台的第一个产品，它带来了 Acrab 最尖锐的经济论点。该公司将其视为一次性购买，可以消除云 AI 的每次令牌费用：它在本地运行语言和视觉模型，在设备上保持用户数据的持久内存，并在连接的系统之间协调任务。它面向家庭和个人工作空间，Acrab 表示，它会随着上下文的积累而变得更加个性化。推销的重点是将资本支出置于运营费用之上 —— 购买硬件一次，而不是为每个请求计费。

然而，Acrab 没有说明 Agent Box 的成本、交货日期或哪家代工厂生产 5 纳米芯片。这些是买家需要进行比较的数字。直到有价格和交货日期，固定硬件成本与云订阅之间的权衡仍然是一个说法，而不是一个计算。

对边缘的更广泛赌注

这一推销进入了一个有争议的领域。高通 (QCOM ) 和英特尔 (INTC ) 已经在 AI PC 中出货神经处理器，一类边缘 AI 盒子今天可以在设备上运行较小的模型；Acrab 声称改变的是参数上限，将 100 亿级别的模型移至单个本地系统，而不是当前在手机和笔记本电脑中出货的较小模型。Acrab 表示，GΞLIX 1 和其软件栈旨在作为其他制造商的水平基础，计划扩展到 AI 网络存储盒、AI PC、智能车辆、工业和服务机器人。这种雄心壮志出现在更广泛的基础设施对话中，从训练转向推理，以及组件制造商将更多 硅进入边缘和设备形式因素。

该公司自 2024 年成立以来，累计筹集了超过 3.5 亿美元，于 2026 年 6 月披露，早期支持来自 Vertex Ventures SEA & India 和 Vertex Growth，这些资金来自 Temasek，以及一位投资者，Acrab 将其识别为 K3。Acrab 表示，GΞLIX 平台已在实际部署中得到验证，并正在推向其首个行业采用和大规模生产。然而，它尚未展示芯片以其推销所依赖的速度运行 100 亿参数模型，任何人都没有测量过，除了 Acrab 本身。