Chip Edge Acrab Bertujuan untuk Menjalankan 100M Model AI Secara Lokal

Acrab, sebuah startup Singapura yang muncul dari stealth pada Juni 2026 dengan lebih dari $350 juta dalam pendanaan, memperkenalkan silikon pertamanya pada 23 Juli 2026: GΞLIX 1, sebuah prosesor edge 5-nanometer, bersama dengan Agent Box, sebuah sistem desktop yang dibangun di atasnya. Keduanya ditujukan untuk tujuan yang sama — menjalankan model AI open-source di kelas 100-miliar-parameter pada perangkat keras yang cukup kecil untuk diletakkan di atas meja, tanpa mengarahkan data melalui layanan cloud.

Ini adalah taruhan melawan bentuk dominan AI generatif, di mana model sebesar itu tinggal di pusat data dan pengguna membayar per token. Model sebesar ini umumnya memerlukan infrastruktur cloud; argumen Acrab adalah bahwa ekonomi dan matematika privasi sekarang mendukung menggeser mereka ke perangkat keras lokal, di mana respon kembali lebih cepat, data tetap di perangkat, dan sistem tetap berfungsi ketika jaringan tidak berfungsi.

Acrab dipimpin oleh Dr. Ken Phua, yang pernah menjabat sebagai kepala teknik aplikasi Asia di Arm dan kemudian menjabat sebagai co-CEO Arm China, dan chip tersebut mencerminkan garis keturunan tersebut. Alih-alih menambahkan akselerator diskrit, GΞLIX 1 mengintegrasikan CPU, GPU, dan NPU pada satu die dengan satu pool memori bersama. “Menjalankan model di kelas 100-miliar-parameter pada sistem yang cukup kecil untuk diletakkan di atas meja menyajikan tantangan komputasi yang signifikan,” kata Phua.

Di Dalam Silikon

GΞLIX 1 menggabungkan CPU Arm 20-inti dengan unit pemrosesan neural multicore dan 273 GB/s bandwidth memori bersama, menurut Acrab, dan dirancang untuk menyebarkan satu model besar di seluruh tiga blok komputasi sekaligus. Perusahaan tersebut memperlakukan bandwidth memori dan waktu-ke-token-pertama (lag sebelum model mulai merespons prompt panjang) sebagai konstrain pengikat pada skala ini, dan mengatakan bahwa chip tersebut dioptimalkan untuk menjaga daya rendah cukup untuk berjalan sepanjang hari.

Satu-satunya angka kinerja yang dipublikasikan Acrab adalah angka vendor, bukan tes independen. Dalam pengujian benchmarknya sendiri, perusahaan melaporkan tingkat pengisian sebesar 1.416,8 token per detik dibandingkan dengan 188,9 pada Mac Mini M4 Pro, atau sekitar 7,5 kali lebih cepat, menggunakan konfigurasi model Gemma yang dilabeli “26B A4B” dengan input 10.000 token. Pengaturan tersebut hanya menjaga sekitar 4 miliar parameter aktif pada satu waktu, jauh di bawah batas 100-miliar-parameter yang dijanjikan chip tersebut, dan angka tersebut hanya mencakup pengisian saja. Acrab tidak mempublikasikan angka kecepatan dekoding dan tidak ada hasil MLPerf, sehingga klaim tersebut bertumpu pada pengukuran perusahaan sendiri.

Sebuah Kotak yang Anda Beli Alih-alih Tagihan yang Anda Bayar

Agent Box adalah produk pertama yang dibangun di atas platform ini, dan membawa argumen ekonomi paling tajam Acrab. Perusahaan tersebut memposisikannya sebagai pembelian satu kali yang menghilangkan biaya token berulang cloud AI: itu menjalankan model bahasa dan visi secara lokal, menyimpan memori persisten dari data pengguna di perangkat, dan mengkoordinasikan tugas di seluruh sistem terhubung. Ini ditujukan untuk rumah dan ruang kerja pribadi, dan Acrab mengatakan bahwa itu menjadi lebih disesuaikan ketika toko konteksnya berkembang. Pitch tersebut adalah belanja modal sebagai ganti biaya operasional — beli perangkat keras sekali alih-alih mengukur setiap permintaan.

Apa yang Acrab belum katakan adalah berapa biaya Agent Box, kapan itu dikirim, atau mana pabrik yang membuat chip 5-nanometer. Itu adalah angka-angka yang dibutuhkan pembeli untuk benar-benar menjalankan perbandingan. Sampai ada harga dan tanggal pengiriman, perdagangan antara biaya perangkat keras tetap dan langganan cloud terbuka adalah klaim daripada perhitungan.

Sebuah Taruhan yang Lebih Luas pada Edge

Pitch tersebut memasuki lapangan yang diperdebatkan. Qualcomm (QCOM ) dan Intel (INTC ) sudah mengirimkan prosesor neural dalam AI PC, dan kelas kotak edge AI menjalankan model yang lebih kecil di perangkat hari ini; apa yang Acrab klaim untuk mengubah adalah batas parameter, memindahkan model kelas 100-miliar ke sistem lokal tunggal daripada model yang jauh lebih kecil yang berjalan nyaman di silikon yang dikirim dalam ponsel dan laptop sekarang. Acrab mengatakan GΞLIX 1 dan tumpukan perangkat lunaknya dimaksudkan untuk berfungsi sebagai fondasi horizontal untuk produsen lain, dengan rencana untuk mencapai kotak penyimpanan jaringan AI, AI PC, kendaraan pintar, dan robot industri dan layanan. Ambisi tersebut tiba ketika infrastruktur yang lebih luas bergeser dari pelatihan ke inferensi, dan ketika pembuat komponen mendorong lebih banyak silikon ke dalam bentuk faktor edge dan perangkat.

Perusahaan tersebut telah mengumpulkan lebih dari $350 juta sejak didirikan pada 2024, total yang dipublikasikan pada Juni 2026, dengan dukungan awal dari Vertex Ventures SEA & India dan Vertex Growth, dana yang terkait dengan Temasek, plus seorang investor yang diidentifikasi sebagai K3. Acrab mengatakan bahwa platform GΞLIX telah divalidasi dalam penerapan nyata dan bergerak menuju adopsi industri pertama dan produksi massal. Apa yang belum ditunjukkan adalah chip yang menjalankan model 100-miliar-parameter pada kecepatan yang pitch-nya bergantung, diukur oleh siapa pun selain Acrab.