Acrabs Edge-Chip zielt darauf ab, 100-Milliarden-Parameter-KI-Modelle lokal auszuführen

Acrab, ein Startup aus Singapur, das im Juni 2026 mit über 350 Millionen US-Dollar an Unterstützung aus dem Versteck kam, stellt sein erstes Silicon am 23. Juli 2026 vor: GΞLIX 1, einen 5-Nanometer-Edge-Prozessor, zusammen mit Agent Box, einem Desktop-System, das auf ihm basiert. Beide sind auf das gleiche Ziel ausgerichtet – die Ausführung von Open-Source-KI-Modellen in der 100-Milliarden-Parameter-Klasse auf Hardware, die klein genug ist, um auf einem Schreibtisch zu stehen, ohne dass Daten durch einen Cloud-Service geroutet werden müssen.

Das ist ein Wettbewerb gegen die vorherrschende Form der generativen KI, bei der Modelle dieser Größe in Rechenzentren leben und Benutzer pro Token zahlen. Modelle dieser Größe haben in der Regel eine Cloud-Infrastruktur erfordert; Acrabs Argument ist, dass die Wirtschaft und die Privatsphäre-Mathematik nun den Umzug auf lokale Hardware begünstigen, wo Antworten schneller zurückgegeben werden, Daten auf dem Gerät bleiben und das System auch dann funktioniert, wenn das Netzwerk nicht verfügbar ist.

Acrab wird von Dr. Ken Phua geleitet, der bei Arm den asiatischen Anwendungsingenieurbereich leitete und später als Co-CEO von Arm China tätig war, und der Chip spiegelt diese Herkunft wider. Anstatt einen separaten Beschleuniger zu verwenden, integriert GΞLIX 1 CPU, GPU und NPU auf einem einzigen Die mit einem gemeinsamen Speicherpool. “Die Ausführung von Modellen in der 100-Milliarden-Parameter-Klasse auf einem System, das klein genug ist, um auf einem Schreibtisch zu stehen, stellt eine erhebliche Rechenherausforderung dar”, sagte Phua.

Innerhalb des Siliziums

GΞLIX 1 kombiniert einen 20-Kern-Arm-CPU mit einem Multicore-Neural-Processing-Unit und 273 GB/s einheitlicher Speicherbandbreite, laut Acrab, und ist darauf ausgelegt, ein großes Modell auf einmal über alle drei Recheneinheiten zu verteilen. Das Unternehmen behandelt Speicherbandbreite und Time-to-First-Token (die Verzögerung, bevor ein Modell auf eine lange Eingabe reagiert) als die bindenden Einschränkungen in dieser Größenordnung und sagt, es habe den Chip so eingestellt, dass die Leistung niedrig genug ist, um den ganzen Tag zu laufen.

Die einzige Leistungszahl, die Acrab bekannt gegeben hat, ist eine Herstellerzahl, kein unabhängiger Test. In seinen eigenen Benchmarks berichtete das Unternehmen eine Prefill-Rate von 1.416,8 Token pro Sekunde gegenüber 188,9 auf einem Mac Mini M4 Pro, oder etwa 7,5-mal schneller, unter Verwendung einer Gemma-Modellkonfiguration, die es als “26B A4B” bezeichnet, mit einer Eingabe von 10.000 Token. Diese Konfiguration hält nur etwa 4 Milliarden Parameter aktiv, weit unter der 100-Milliarden-Parameter-Obergrenze, für die der Chip verkauft wird, und die Zahl umfasst nur das Prefill. Acrab hat keine Dekodiergeschwindigkeit und keine MLPerf-Ergebnisse veröffentlicht, so dass der Anspruch auf die Messung des Unternehmens basiert.

Ein Box, die Sie kaufen, anstatt eine Rechnung zu zahlen

Agent Box ist das erste Produkt, das auf der Plattform aufbaut, und es trägt Acrabs schärfstes wirtschaftliches Argument. Das Unternehmen präsentiert es als einmaligen Kauf, der die wiederkehrenden pro-Token-Gebühren von Cloud-KI ersetzt: Es führt Sprach- und Bildmodelle lokal aus, speichert eine persistente Speicherung der Benutzerdaten auf dem Gerät und koordiniert Aufgaben über verbundene Systeme. Es ist auf Haushalte und persönliche Arbeitsbereiche ausgerichtet, und Acrab sagt, es wird immer mehr auf die Bedürfnisse des Benutzers zugeschnitten, je mehr Kontext es sammelt. Der Ansatz ist Kapitalausgaben anstelle eines laufenden Betriebskosten – kaufen Sie die Hardware einmal, anstatt jeden Anfrage zu messen.

Was Acrab nicht gesagt hat, ist, was Agent Box kostet, wann es ausgeliefert wird oder welche Fabrik den 5-Nanometer-Chip herstellt. Das sind die Zahlen, die ein Käufer benötigen würde, um den Vergleich tatsächlich durchzuführen. Bis es einen Preis und ein Lieferdatum gibt, ist der Handel zwischen einer festen Hardwarekosten und einem offenen Cloud-Abonnement ein Anspruch und keine Berechnung.

Ein breiterer Einsatz am Rand

Der Ansatz tritt in ein umkämpftes Feld ein. Qualcomm (QCOM ) und Intel (INTC ) liefern bereits neuronale Prozessoren in AI-PCs, und eine Klasse von Edge-AI-Boxen führt kleinere Modelle auf dem Gerät aus; was Acrab ändert, ist die Parameter-Obergrenze, indem es 100-Milliarden-Modelle auf ein einzelnes lokales System bringt, anstatt der viel kleineren Modelle, die auf dem Silicon, das derzeit in Smartphones und Laptops ausgeliefert wird, komfortabel laufen. Acrab sagt, GΞLIX 1 und seine Software-Stack sind als horizontale Grundlage für andere Hersteller gedacht, mit Plänen, AI-Netzwerk-Speicher-Boxen, AI-PCs, intelligente Fahrzeuge, industrielle und Service-Roboter zu erreichen. Der Ehrgeiz kommt, als die breitere Infrastrukturkonversation sich von der Schulung zur Inferenz verschiebt, und als Komponentenhersteller mehr Silizium in Edge- und On-Device-Formfaktoren einsetzen.

Das Unternehmen hat seit seiner Gründung im Jahr 2024 über 350 Millionen US-Dollar aufgebracht, eine Summe, die es im Juni 2026 bekannt gegeben hat, mit früher Unterstützung von Vertex Ventures SEA & India und Vertex Growth, den Temasek-verbundenen Fonds, plus einem Anleger, den es als K3 identifiziert. Acrab sagt, die GΞLIX-Plattform sei in realen Einsatzfällen validiert und bewege sich in Richtung der ersten industriellen Übernahme und Massenproduktion. Was es noch nicht gezeigt hat, ist der Chip, der ein 100-Milliarden-Parameter-Modell mit den Geschwindigkeiten ausführt, auf die sein Pitch angewiesen ist, gemessen von jemandem anderem als Acrab.