Modelli e piattaforme di IA
Il Chip Edge di Acrab Mirato a Eseguire 100M di Modelli AI Localmente
Aggiungi Unite.AI alle tue fonti preferite su Google
Acrab, una startup di Singapore emersa dal segreto nel giugno 2026 con oltre 350 milioni di dollari di finanziamenti, ha presentato il suo primo silicio il 23 luglio 2026: GΞLIX 1, un processore edge da 5 nanometri, insieme ad Agent Box, un sistema desktop costruito attorno ad esso. Entrambi sono rivolti allo stesso obiettivo — eseguire modelli AI open-source nella classe dei 100 miliardi di parametri su hardware abbastanza piccolo da stare su una scrivania, senza instradare i dati attraverso un servizio cloud.
Questo è un azzardo contro la forma prevalente dell’AI generativa, dove modelli di queste dimensioni vivono in data center e gli utenti pagano per token. I modelli di questa scala hanno generalmente richiesto un’infrastruttura cloud; il caso di Acrab è che l’economia e la matematica della privacy favoriscono ora l’estrazione di questi modelli su hardware locale, dove le risposte ritornano più velocemente, i dati rimangono sul dispositivo e il sistema continua a funzionare quando la rete non funziona.
Acrab è guidata dal Dr. Ken Phua, che ha gestito l’ingegneria delle applicazioni in Asia per Arm e in seguito ha ricoperto il ruolo di co-CEO di Arm China, e il chip riflette questa discendenza. Invece di aggiungere un acceleratore discreto, GΞLIX 1 integra CPU, GPU e NPU su un singolo die con una sola pool di memoria condivisa. “Eseguire modelli nella classe dei 100 miliardi di parametri su un sistema abbastanza piccolo da stare su una scrivania presenta una sfida di calcolo significativa”, ha detto Phua.
All’interno del silicio
GΞLIX 1 abbina un processore CPU Arm a 20 core con un’unità di elaborazione neurale multicore e 273 GB/s di larghezza di banda di memoria unificata, secondo Acrab, e è costruito per distribuire un solo modello grande su tutti e tre i blocchi di calcolo contemporaneamente. La società considera la larghezza di banda della memoria e il tempo di primo token (la latenza prima che un modello inizi a rispondere a una lunga richiesta) come i vincoli di legame a questa scala, e afferma di aver ottimizzato il chip per mantenere la potenza sufficientemente bassa da funzionare tutto il giorno.
Il solo numero di prestazioni che Acrab ha divulgato è un numero del fornitore, non un test indipendente. Nel proprio benchmarking, la società ha riportato una velocità di prefill di 1.416,8 token al secondo rispetto a 188,9 su un Mac Mini M4 Pro, o circa 7,5 volte più veloce, utilizzando una configurazione del modello Gemma che etichetta “26B A4B” con un input di 10.000 token. Questo setup mantiene solo circa 4 miliardi di parametri attivi alla volta, ben al di sotto del soffitto di 100 miliardi di parametri per cui il chip è stato venduto, e il numero copre solo il prefill. Acrab non ha pubblicato alcun risultato di velocità di decodifica e alcun risultato MLPerf, quindi l’affermazione si basa sulla misurazione della società.
Una scatola che si acquista invece di una bolletta che si paga
Agent Box è il primo prodotto costruito sulla piattaforma e rappresenta l’argomentazione economica più forte di Acrab. La società la descrive come un acquisto una tantum che elimina le tariffe ricorrenti per token dell’AI cloud: esegue modelli linguistici e di visione localmente, mantiene una memoria persistente dei dati dell’utente sul dispositivo e coordina attività tra sistemi connessi. È rivolta a case e spazi di lavoro personali e Acrab afferma che diventa più personalizzato man mano che il suo archivio di contesto si accumula. La presentazione è una spesa di capitale al posto di una bolletta di esercizio — acquistare il hardware una volta invece di misurare ogni richiesta.
Ciò che Acrab non ha detto è quanto costa Agent Box, quando verrà spedito o quale fonderia produce il chip da 5 nanometri. Questi sono i numeri che un acquirente avrebbe bisogno di conoscere per effettuare realmente il confronto. Finché non ci sarà un prezzo e una data di consegna, lo scambio tra un costo hardware fisso e un abbonamento cloud aperto è un’affermazione piuttosto che un calcolo.
Una scommessa più ampia sull’edge
La presentazione entra in un campo conteso. Qualcomm (QCOM ) e Intel (INTC ) già spediscono processori neurali in PC AI e una classe di scatole AI edge esegue modelli più piccoli sul dispositivo oggi; ciò che Acrab afferma di cambiare è il soffitto dei parametri, spostando modelli della classe da 100 miliardi su un singolo sistema locale piuttosto che i modelli molto più piccoli che girano comodamente sul silicio che si trova attualmente nei telefoni e nei laptop. Acrab afferma che GΞLIX 1 e il suo stack software sono destinati a servire come fondazione orizzontale per altri produttori, con piani per raggiungere scatole di rete di archiviazione AI, PC AI, veicoli intelligenti e robot industriali e di servizio. L’ambizione si verifica mentre la conversazione sull’infrastruttura più ampia si sposta dal training all’inferenza e mentre i produttori di componenti spingono più silicio in formati edge e on-device.
La società ha raccolto oltre 350 milioni di dollari cumulativamente dal 2024, un totale che ha divulgato nel giugno 2026, con un sostegno iniziale da Vertex Ventures SEA & India e Vertex Growth, i fondi collegati a Temasek, più un investitore che identifica come K3. Acrab afferma che la piattaforma GΞLIX è stata convalidata in distribuzioni reali e si sta muovendo verso il suo primo adozione industriale e produzione di massa. Ciò che non ha ancora mostrato è il chip che esegue un modello da 100 miliardi di parametri alle velocità di cui dipende la sua presentazione, misurato da chiunque altro tranne Acrab.
