Η Acrab στοχεύει να εκτελέσει τοπικά μοντέλα AI 100B με τον επεξεργαστή Edge

Acrab, μια εταιρεία startup από τη Σιγκαπούρη που βγήκε από την κρυψώνα τον Ιούνιο του 2026 με περισσότερα από 350 εκατομμύρια δολάρια σε χρηματοδότηση, αποκάλυψε τον πρώτο της επεξεργαστή silicon στις 23 Ιουλίου 2026: GΞLIX 1, einen 5-νανομετρικό επεξεργαστή edge, μαζί με το Agent Box, ένα σύστημα επιφάνειας εργασίας που κατασκευάζεται γύρω από αυτόν. Και τα δύο στοχεύουν στο ίδιο στόχο — να εκτελέσουν ανοιχτά μοντέλα AI στην κλάση των 100 δισεκατομμυρίων παραμέτρων σε υλικό αρκετά μικρό για να χωρέσει σε ένα γραφείο, χωρίς να στείλετε δεδομένα μέσω μιας υπηρεσίας cloud.

Αυτό είναι ένας στοίχος ενάντια στη κυρίαρχη μορφή της γενετικής AI, όπου τα μοντέλα αυτού του μεγέθους ζουν σε κέντρα δεδομένων και οι χρήστες πληρώνουν ανά token. Τα μοντέλα σε αυτή τη κλίμακα γενικά απαιτούν υποδομή cloud· η περίπτωση της Acrab είναι ότι οι οικονομικές και οι μαθηματικές προϋποθέσεις τώρα ευνοούν την μεταφορά τους σε τοπικό υλικό, όπου οι απαντήσεις επιστρέφουν γρηγορότερα, τα δεδομένα παραμένουν στην συσκευή και το σύστημα συνεχίζει να λειτουργεί όταν το δίκτυο δεν λειτουργεί.

Η Acrab ηγείται από τον Δρ. Ken Phua, ο οποίος διηύθυνε τις ασιατικές εφαρμογές μηχανικής στο Arm και αργότερα υπηρέτησε ως συν-CEO της Arm China, και ο επεξεργαστής αντανακλά αυτή τη γραμμή. Αντί να προσθέσει einen ξεχωριστό επιταχυντή, ο GΞLIX 1 ενσωματώνει CPU, GPU και NPU σε ένα單die με ένα κοινό πισινό μνήμης. “Η εκτέλεση μοντέλων στην κλάση των 100 δισεκατομμυρίων παραμέτρων σε ένα σύστημα αρκετά μικρό για να χωρέσει σε ένα γραφείο παρουσιάζει một σημαντική υπολογιστική πρόκληση”, είπε ο Phua.

Μέσα στο σιλικόνιο

Ο GΞLIX 1 ζευγαρώνει einen 20-πυρήνα CPU Arm με einen πολυπύρηνο μονάδα επεξεργασίας νευρωνικών δικτύων και 273 GB/s ενοποιημένης帯域ύθους μνήμης, σύμφωνα με την Acrab, και κατασκευάζεται για να διανείμει ένα μεγάλο μοντέλο σε όλα τα τρία μπλοκ υπολογισμού ταυτόχρονα. Η εταιρεία αντιμετωπίζει την帯域ύθους μνήμης και τον χρόνο-προς-πρώτο-token (την καθυστέρηση πριν από ένα μοντέλο αρχίσει να απαντά σε μια μεγάλη πρόκληση) ως τις δεσμευτικές περιορισμοί σε αυτή τη κλίμακα και λέει ότι ρύθμισε τον επεξεργαστή για να κρατήσει την ισχύ αρκετά χαμηλή για να λειτουργήσει όλη την ημέρα.

Ο μόνος αριθμός απόδοσης που η Acrab αποκάλυψε είναι ένας αριθμός προμηθευτή, όχι ανεξάρτητος έλεγχος. Σε δικά της τεστ, η εταιρεία ανέφερε έναν ρυθμό προ-πλήρωσης 1.416,8 tokens ανά δευτερόλεπτο έναντι 188,9 σε ένα Mac Mini M4 Pro, ή περίπου 7,5 φορές ταχύτερα, χρησιμοποιώντας μια διαμόρφωση μοντέλου Gemma που την ονομάζει “26B A4B” με μια είσοδο 10.000 tokens. Αυτή η διαμόρφωση διατηρεί μόνο περίπου 4 δισεκατομμύρια παραμέτρους ενεργές κάθε φορά, πολύ μακριά από το όριο των 100 δισεκατομμυρίων παραμέτρων που πουλιέται ο επεξεργαστής, και ο αριθμός καλύπτει μόνο την προ-πλήρωση. Η Acrab δεν δημοσίευσε κανένα αποτέλεσμα MLPerf και κανένα αποτέλεσμα ταχύτητας αποκωδικοποίησης, οπότε η αξίωση βασίζεται μόνο στο δικό της μέτρημα.

Μια κούκλα που αγοράζεις αντί για einen λογαριασμό που πληρώνεις

Το Agent Box είναι το πρώτο προϊόν που κατασκευάζεται στην πλατφόρμα και φέρει τον πιο οξύ οικονομικό επιχείρημα της Acrab. Η εταιρεία το παρουσιάζει ως μια μια φορά αγορά που αφαιρεί τις επαναλαμβανόμενες χρεώσεις ανά token της cloud AI: εκτελεί μοντέλα γλώσσας και οράσεως τοπικά, διατηρεί μια σταθερή μνήμη των δεδομένων του χρήστη στη συσκευή και συντονίζει εργασίες σε συνδεδεμένα συστήματα. Στοχεύει σε σπίτια και προσωπικούς χώρους εργασίας και η Acrab λέει ότι γίνεται πιο εξατομικευμένο καθώς η αποθήκη του контекstu συσσωρεύεται. Η πρόταση είναι κεφαλαιουχική δαπάνη αντί για einen λογαριασμό λειτουργίας — αγοράστε το υλικό μια φορά αντί να μετράτε κάθε αίτηση.

Τι δεν έχει πει η Acrab είναι τι κοστίζει το Agent Box, πότε θα αποσταλεί και ποια βιομηχανία κατασκευάζει τον 5-νανομετρικό επεξεργαστή. Αυτά είναι τα νούμερα που θα χρειαζόταν ένας αγοραστής για να κάνει πραγματικά τη σύγκριση. Μέχρι να υπάρχει μια τιμή και μια ημερομηνία αποστολής, η συναλλαγή μεταξύ ενός σταθερού κόστους υλικού και einer ανοιχτής συνδρομής cloud είναι μια αξίωση παρά ένας υπολογισμός.

Μια ευρύτερη στοίχημα στην άκρη

Η πρόταση εισέρχεται σε ένα αμφισβητούμενο πεδίο. Η Qualcomm (QCOM ) και η Intel (INTC ) ήδη πουλούν νευρωνικούς επεξεργαστές σε AI υπολογιστές, και μια κλάση κιβωτίων AI άκρης εκτελεί μικρότερα μοντέλα στην συσκευή σήμερα· τι αλλάζει η Acrab είναι το όριο παραμέτρων, μεταφέροντας μοντέλα 100-δισεκατομμυρίων κλάσης σε ένα τοπικό σύστημα αντί για τα πολύ μικρότερα μοντέλα που τρέχουν άνετα στο σιλικόνιο που πωλείται σε τηλέφωνα και λάπτοπ τώρα. Η Acrab λέει ότι ο GΞLIX 1 και το λογισμικό του είναι σχεδιασμένα να υπηρετήσουν ως οριζόντια βάση για άλλους κατασκευαστές, με σχέδια να φτάσουν σε κιβώτια AI-νευρωνικών δικτύων-αποθήκευσης, AI-υπολογιστές, έξυπνα οχήματα, και βιομηχανικά και υπηρεσιακά ρομπότ. Η φιλοδοξία προσγειώνεται καθώς η ευρύτερη συζήτηση υποδομής μεταφέρεται από την εκπαίδευση προς την εύρεση, και καθώς οι κατασκευαστές συστατικών推 περισσότερο σιλικόνιο σε μορφές άκρης και στην συσκευή.

Η εταιρεία έχει συλλέξει πάνω από 350 εκατομμύρια δολάρια συνολικά από την ίδρυσή της το 2024, ένα σύνολο που αποκάλυψε τον Ιούνιο του 2026, με πρώιμη υποστήριξη από την Vertex Ventures SEA & India και την Vertex Growth, τα Temasek-συνδεδεμένα ταμεία, συν einen επενδυτή που την αναγνωρίζει ως K3. Η Acrab λέει ότι η πλατφόρμα GΞLIX έχει επικυρωθεί σε πραγματικές αναπτύξεις και προχωρά προς την πρώτη βιομηχανική υιοθέτηση και μαζική παραγωγή. Τι δεν έχει δείξει ακόμη είναι ο επεξεργαστής που τρέχει ένα μοντέλο 100-δισεκατομμυρίων παραμέτρων στις ταχύτητες που εξαρτάται η πρότασή του, μετρημένο από κανέναν άλλον παρά την Acrab.