아크라브의 에지 칩, 100B AI 모델을 로컬에서 실행하는 것을 목표로 한다

아크라브, 2026년 6월에 3억 5천만 달러 이상의 자금을 확보하여 스타트업에서 벗어난 회사, 2026년 7월 23일에 첫 번째 실리콘을 공개했다. GΞLIX 1은 5나노미터 에지 프로세서이며, Agent Box는 데스크톱 시스템으로 이 프로세서를 기반으로 한다. 두 제품 모두 같은 목표를 가지고 있다. 즉, 100억 매개변수 클래스의 오픈 소스 AI 모델을 클라우드 서비스를 거치지 않고 하드웨어에서 실행하는 것이다.

이것은 현재의 생성형 AI의 일반적인 형태에 대한 도전이다. 즉, 모델이 클라우드 데이터 센터에 존재하며 사용자는 토큰당 비용을 지불한다. 이러한 규모의 모델은 일반적으로 클라우드 인프라가 필요하다. 아크라브의 주장은 경제와 개인 정보 수학이 이제 로컬 하드웨어로 모델을 가져오는 것을 선호한다는 것이다. 로컬 하드웨어에서는 응답 시간이 더 빠르며 데이터가 장치에 留며 네트워크가 작동하지 않을 때에도 시스템이 작동한다.

아크라브는 Arm의 아시아 애플리케이션 엔지니어링을 담당했던 켄 푸아 박사에 의해 이끌어지고 있다. 그는 또한 Arm China의 공동 CEO를 역임했다. 이 칩은 이러한 유산을 반영한다. 별도의 가속기를 부착하는 대신, GΞLIX 1은 CPU, GPU, NPU를 단일 다이에 통합하며 하나의 공유 메모리 풀을 사용한다. “100억 매개변수 클래스의 모델을 데스크톱 크기의 시스템에서 실행하는 것은 상당한 컴퓨팅 도전이다”라고 푸아 박사는 말했다.

실리콘 내부

GΞLIX 1은 20코어 Arm CPU, 멀티코어 신경 처리 장치, 273 GB/s의 통합 메모리 대역폭을 갖는다. 아크라브에 따르면, 이 칩은 하나의 큰 모델을 동시에 세 개의 컴퓨팅 블록에 분산시킬 수 있다. 이 회사는 메모리 대역폭과 첫 번째 토큰까지의 시간을 이 규모에서 결합된 제약으로 간주하며, 칩이 낮은 전력으로ตลอด 하루 동안 작동하도록 튜닝되었다고 말한다.

아크라브가 공개한 유일한 성능 수치는 벤더 번호이며, 독립적인 테스트 결과가 아니다. 자체 벤치마크에서, 회사는 10,000토큰 입력과 “26B A4B”라는 Gemma 모델 구성으로 1,416.8 토큰/초의 프리필 속도를 보고했다. 이는 Mac Mini M4 Pro의 188.9 토큰/초와 비교했을 때 약 7.5배 빠르다. 이 설정은 약 40억 매개변수만이 한 번에 활성화되며, 이는 칩이 판매되는 100억 매개변수 한계에 훨씬 미치지 못한다. 아크라브는 디코딩 속도 수치나 MLPerf 결과를 공개하지 않았으므로, 이 주장은 회사의 자체 측정에 의존한다.

계산 비용을 지불하는 대신 구매하는 박스

Agent Box는 플랫폼에 구축된 첫 번째 제품으로, 아크라브의 가장 날카로운 경제적 논리를 담고 있다. 이 회사는 이를 클라우드 AI의 반복되는 토큰당 비용을 제거하는 일회성 구매로 пози션을 잡는다. 즉, 언어 및 비전 모델을 로컬에서 실행하며, 장치上的 사용자 데이터에 대한 지속적인 메모리를 유지하며, 연결된 시스템 간의 작업을 조정한다. 이것은 집이나 개인 작업 공간을 대상으로 하며, 아크라브는 이 제품이 컨텍스트가 축적됨에 따라 더 세분화된 결과를 제공한다고 말한다. 이 피치는 자본 지출을 운영 비용으로 대체하는 것이다. 즉, 하드웨어를 한 번 구매하는 대신, 매 요청마다 비용을 지불한다.

아크라브는 아직 Agent Box의 가격, 출하일, 5나노미터 칩을 생산하는 파운드리 등의 정보를 공개하지 않았다. 이는 구매자가 실제 비교를 수행하는 데 필요한 숫자이다. 가격과 배송 날짜가 공개될 때까지, 하드웨어 비용과 클라우드 구독의 트레이드오프는 계산이 아닌 주장에 불과하다.

에지에 대한 더 넓은 베팅

이 피치는 이미 경쟁이 치열한 분야에 진입한다. 퀄컴과 인텔은 이미 AI PC에 신경 처리기를 출하하고 있으며, 에지 AI 박스는 현재 작은 모델을 장치에서 실행한다. 아크라브가 주장하는 변화는 매개변수 한계를 이동하는 것이다. 즉, 100억 매개변수 클래스의 모델을 단일 로컬 시스템으로 이동하는 것이다. 현재 스마트폰과 랩톱에 출하되는 실리콘에서 실행하기에 충분히 작은 모델과는 다르다. 아크라브는 GΞLIX 1과 소프트웨어 스택이 다른 제조업체를 위한 수평基础으로 설계되었으며, AI 네트워크 스토리지 박스, AI PC, 스마트 차량, 산업용 로봇 및 서비스 로봇에 도달할 계획이다. 이 야망은 인프라 대화가 훈련에서 추론으로 이동하는 중에 등장하며, 구성 요소 제조업체가 에지 및 장치 형태의 실리콘을 더 많이 밀어붙이고 있다.

회사는 2024년 설립 이후 2026년 6월까지 누적하여 3억 5천만 달러 이상의 자금을 모집했다. 이는 Vertex Ventures SEA & India 및 Vertex Growth와 같은 초기 투자자와 함께 Temasek와 연결된 펀드에서 지원을 받았다. 아크라브는 GΞLIX 플랫폼이 실제 배포에서 검증되었으며, 첫 번째 산업적 채택과 대량 생산으로 이동하고 있다고 말한다. 그러나 아직 보여주지 못한 것은 아크라브 외의 다른 사람에 의해 측정된 속도에서 100억 매개변수 모델을 실행하는 칩이다.