Yapay zeka modelleri ve platformları

Acrab’ın Edge Chip’i 100 Milyar AI Modelini Yerel Olarak Çalıştırmayı Hedefliyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Acrab, Haziran 2026’da 350 milyon doların üzerinde finansmanla gizlilikten çıkan Singapur merkezli bir startup, 23 Temmuz 2026’da ilk silikonunu duyurdu: GΞLIX 1, bir kenar işlemcisi ve Agent Box, bunun etrafında inşa edilmiş bir masaüstü sistemi. Her ikisi de aynı hedefe yöneliktir – 100 milyar parametre sınıfındaki açık kaynaklı AI modellerini, bulut hizmeti üzerinden veri yönlendirmeden masaüstüne koyabileceğiniz küçük bir donanımda çalıştırmak.

Bu, büyük AI modellerinin genellikle bulut altyapısına ihtiyaç duyduğu ve kullanıcıların her bir istek için ödeme yaptığı mevcut durumun karşıtı bir iddiadır. Acrab, ekonomi ve gizlilik hesabının artık verileri cihaza saklayan ve sistemlerin ağ bağlantısı kesilse bile çalışmaya devam eden yerel donanıma geçmesini favori ettiği iddiasındadır.

Acrab, Arm’un Asya uygulamaları mühendislik bölümünün başında bulunan ve daha sonra Arm China’nın ortak CEO’su olarak görev yapan Dr. Ken Phua tarafından yönetiliyor ve yonga bu geçmişe işaret ediyor. Acrab, bir ayrı hızlandırıcı yerine CPU, GPU ve NPU’yu tek bir yongada entegre ediyor ve paylaşılan bir bellek havuzuna sahip. “Masaüstüne sığabilecek kadar küçük bir sistemde 100 milyar parametre sınıfındaki modelleri çalıştırmak önemli bir hesaplama zorluğu sunuyor” diyor Phua.

Silikonun İçinde

GΞLIX 1, Acrab’a göre 20 çekirdekli bir Arm CPU, çok çekirdekli bir sinir işlem birimi ve 273 GB/s’lik birleşik bellek bant genişliğine sahip ve üç hesap bloğunu aynı anda tek bir büyük modelde kullanmaya tasarlandı. Şirket, bellek bant genişliği ve ilk tokenın gelme süresini (uzun bir istemden sonra modelin cevap vermeye başlaması için gereken süre) bu ölçekte bağlayıcı kısıtlamalar olarak görüyor ve yongayı tüm gün çalışacak kadar düşük güçte tutmak için ayarladığını söylüyor.

Acrab’ın açıkladığı tek performans rakamı, bağımsız bir test değil, bir satıcı rakamı. Kendi benchmark’ında şirket, 10.000 tokenlik bir girişle “26B A4B” olarak adlandırdığı bir Gemma model konfigürasyonunda Mac Mini M4 Pro’ya kıyasla yaklaşık 7,5 kat daha hızlı bir ön doldurma hızına ulaştığını bildirdi – 1.416,8 token/saniye karşı 188,9 token/saniye. Bu yapılandırma, aynı anda yalnızca yaklaşık 4 milyar parametreyi etkin tutuyor, yani 100 milyar parametre tavanının çok altında ve bu rakam yalnızca ön doldurmayı kapsıyor. Acrab, herhangi bir decode hızını veya MLPerf sonucunu yayınlamadı, bu nedenle iddia şirketin kendi ölçümüne dayanıyor.

Bir Faturayı Ödemek Yerine Satın Alabileceğiniz Bir Kutu

Agent Box, platformun üzerine inşa edilen ilk üründür ve Acrab’ın en keskin ekonomik argümanını taşıyor. Şirket, bu ürünü bulut AI’sinin periyodik token başına ücretlerine karşı bir defaya mahsus satın alma olarak konumlandırıyor – dil ve görme modellerini yerel olarak çalıştırıyor, cihazda kullanıcı verilerinin kalıcı bir belleğini tutuyor ve bağlı sistemler arasında görevleri koordine ediyor. Evler ve kişisel çalışma alanları için tasarlandı ve Acrab, ürünü biriktirdiği bağlamla birlikte daha da kişiselleştirdiğini söylüyor. Bu, sermaye harcamalarının yerine işletme giderleri olarak sunuluyor – donanımı bir kez satın alın, her isteği ölçekli ödeme yapmayın.

Acrab, Agent Box’ın ne kadar olduğunu, ne zaman sevkiyatının başlayacağını veya 5 nanometrelik yongayı hangi fabrika ürettiğini açıklamadı. Bunlar, bir alıcının gerçekten karşılaştırma yapabilmesi için gereken rakamlar olurdu. Fiyat ve teslimat tarihi olmadan, donanım maliyeti ile bulut aboneliği arasındaki ticaret bir iddia olmaktan çıkıp bir hesaplamaya dönüşüyor.

Kenarda Daha Geniş Bir Bahis

İddia, already rekabetçi bir alana giriyor. Qualcomm (QCOM ) ve Intel (INTC ), AI bilgisayarlarında zaten sinir işlemcileri gönderiyorlar ve kenar AI kutuları bugün cihazda daha küçük modelleri çalıştırıyor; Acrab’ın değiştirdiği iddia edilen şey, parametre tavanı – 100 milyar sınıfındaki modelleri tek bir yerel sisteme taşıyarak, şu anda telefonlarda ve dizüstü bilgisayarlarda rahatça çalışan çok daha küçük modelleri çalıştıran silikondan daha büyük bir modele geçiş yapıyor. Acrab, GΞLIX 1 ve yazılım yığınının diğer üreticiler için dikey bir temel olarak hizmet etmeyi amaçladığını, AI ağ depolama kutuları, AI bilgisayarlar, akıllı araçlar, endüstriyel ve hizmet robotlarına ulaşma planları olduğunu söylüyor. Bu iddianın ortaya çıkması, daha geniş altyapı konuşmasının eğitimden çıkarıma doğru kayması ve bileşen üreticilerinin daha fazla silikonu kenar ve cihaz form faktörlerine sokmasıyla aynı zamana denk geliyor.

Şirket, 2024 kuruluşundan bu yana toplam 350 milyon doların üzerinde finansman sağladı, bunu Haziran 2026’da açıkladı, ilk destekçileri arasında Vertex Ventures SEA & India ve Vertex Growth, Temasek’e bağlı fonlar ve bir yatırımcı olarak tanımladığı K3 yer aldı. Acrab, GΞLIX platformunun gerçek dağıtımlarda doğrulandığını ve ilk endüstriyel benimsemeye ve seri üretime doğru ilerlediğini söylüyor. Ancak henüz göstermediği şey, Acrab dışında herhangi biri tarafından ölçülen, iddiasına bağlı hızlarda 100 milyar parametrelik bir modeli çalıştıran yongadır.

Theo Nash yapay zeka altyapısı, hesaplamalar ve modern yapay zekayı güçlendirerek donanımsal sistemler konusunda uzmanlaşmış bir yapay zeka üreten uzman olarak Unite.AI'de çalışmaktadır. Çalışmaları, büyük ölçekli yapay zeka iş yüklerinin arkasındaki teknik temellere odaklanmaktadır, bunlar veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınlarını içermektedir.
Analitik ve mühendislik odaklı bir perspektifle, Theo, GPU'lar, özel silikon, bellek mimarileri ve dağıtılmış sistemlerdeki gelişmelerin yeni nesil yapay zeka modellerini nasıl mümkün kıldığını inceliyor. Performans ticaretinin, enerji verimliliğinin, ölçeklenebilirliğin ve yapay zeka altyapısının gerçek dünya dağıtımını şekillendiren pratik kısıtlara özel dikkat gösteriyor.
Theo Nash tarafından yazılan makaleler, teknik doğruluk, açıklık ve hızla gelişen yapay zeka hesaplaması manzarasının sorumlu bir şekilde kapsülendiğinden emin olmak için Unite.AI'nin editör ekibi tarafından incelenerek oluşturulmaktadır.