KI-Modelle und Plattformen
WEKA Launcht NeuralMesh 6 und WEKApod 3, während sich die AI-Infrastruktur auf Inferenz ausrichtet
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
WEKA hat eine koordinierte Software- und Hardware-Überholung vorgestellt, die auf eines der teuersten aufkommenden Probleme der AI-Industrie abzielt: die Produktivität von GPUs aufrechtzuerhalten, während Modelle von der Ausbildung in die kontinuierliche, groß angelegte Inferenz übergehen.
Die Ankündigungen umfassen NeuralMesh 6, ein wesentlicher Update des Daten- und Speicher-Plattform-Unternehmens, sowie die dritte Generation von WEKApod-Appliances, die für AI-Clouds, Model-Entwickler, Forschungsorganisationen und Unternehmen, die GPU-Infrastruktur betreiben, konzipiert sind.
Zusammen spiegeln die Veröffentlichungen eine breitere Änderung im Design der AI-Infrastruktur wider, wobei der Speicher von einem passiven Repository in eine aktive Speicher- und Daten-Liefer-Schicht übergeht.
Einheitlicher Schub in die Produktions-AI
Die Infrastruktur-Anforderungen der AI-Inferenz unterscheiden sich erheblich von denen der Modell-Ausbildung. Ausbildungs-Jobs verarbeiten in der Regel große Datensätze durch relativ vorhersehbare Pipelines. Agentic AI, retrieval-augmented Generation und long-context-Reasoning-Systeme müssen hingegen auf veränderte Daten zugreifen, Kontext über wiederholte Interaktionen hinweg aufrechterhalten und viele gleichzeitige Benutzer unterstützen, ohne dass teure GPUs auf Informationen warten.
WEKAs Antwort besteht darin, Speicher, Speicher-Erweiterung, Datei-Zugriff, Objekt-Zugriff und Daten-Bewegung als Teile der gleichen Plattform zu behandeln. NeuralMesh ist darauf ausgelegt, eine gemeinsame Daten-Basis für Ausbildung, Inferenz und Hochleistungs-Computing in lokalen Umgebungen, öffentlichen Clouds und Hybrid-Bereitstellungen bereitzustellen.
Das neue Release erweitert diese Architektur um Multi-Tenancy, native Objekt-Speicherung, verteiltes Caching, automatisierte Daten-Reduzierung, Kubernetes-Betrieb und zentrale Beobachtbarkeit.
Anstatt die Software- und Appliance-Ankündigungen als unabhängige Upgrades darzustellen, präsentiert das Unternehmen sie als zwei Teile desselben Systems. NeuralMesh 6 steuert, wie Daten gespeichert, bewegt, isoliert und geliefert werden, während WEKApod 3 Hardware bereitstellt, die für diese Funktionen konzipiert ist.
NeuralMesh 6 vereint Datei- und Objekt-Workloads
Eine der folgenreichsten Ergänzungen in NeuralMesh 6 ist eine native S3-Implementierung, die auf NVMe-Speicher läuft. Die gleichen zugrunde liegenden Daten-Blöcke können über S3-Objekt-Protokolle und POSIX- oder Network-File-System-Schnittstellen zugänglich gemacht werden, ohne separate Kopien aufrechtzuerhalten.
Dies ist wichtig, weil AI-Pipelines häufig Informationen zwischen Objekt-Speicher, Hochleistungs-Datei-Systemen, Ausbildungs-Umgebungen und Inferenz-Clustern verschieben. Jede Kopie verbraucht Kapazität, verursacht Verzögerungen und kompliziert die Governance. Ein einheitlicher Namespace könnte es ermöglichen, dass Daten, die durch ein Protokoll erstellt wurden, sofort über ein anderes Protokoll zugänglich werden.
WEKA sagt, dass seine Implementierung zwischen 2.000 und 5.000 gleichzeitige S3-Verbindungen pro Knoten unterstützt. Sie unterstützt auch S3 über Remote Direct Memory Access, wodurch Daten direkt in den GPU-Speicher verschoben werden können, ohne den herkömmlichen Weg über mehrere CPU- und Betriebssystem-Schichten zu nehmen.
Die Plattform führt zwei Ebenen von Multi-Tenancy ein. Composable Clusters weisen dedizierte Prozessor-, Speicher- und Speicher-Ressourcen einzelnen Mandanten zu, während virtuelle Multi-Tenancy Netzwerk-Isolation, unabhängige Verschlüsselung, separate Authentifizierung und pro-Mandant-Service-Quality-Steuerung bietet.
virtuelle Umgebungen können laut Unternehmen mehr als 1.000 isolierte Mandanten pro Cluster unterstützen. Die Kombination der physischen und virtuellen Modelle könnte es einem großen Infrastruktur-Betreiber ermöglichen, Zehntausende logisch getrennte Kunden zu unterstützen, ohne für jeden ein unabhängiges Speicher-Cluster bereitzustellen.
Dies ist insbesondere für GPU-as-a-Service-Anbieter und souveräne AI-Clouds relevant, die eine hohe Infrastruktur-Auslastung mit strenger Kunden-Isolation in Einklang bringen müssen.
Daten bewegen, wo immer GPUs verfügbar sind
NeuralMesh 6 führt auch Metadaten-erstes Replizieren und Remote-Caching für AI-Workloads ein, die über Rechenzentren, Clouds und geografische Regionen verteilt sind.
Traditionelle Replikation erfordert in der Regel, dass ein gesamter Datensatz kopiert wird, bevor eine Workload beginnen kann. NeuralMesh macht die Metadaten des Ziels sofort sichtbar und überträgt die zugrunde liegenden Daten, wenn sie angefordert werden.
Dies könnte es Betreibern ermöglichen, Jobs in Richtung verfügbarer GPU-Kapazität zu verschieben, ohne zuerst jeden Datei-Verbund mit dem Projekt zu replizieren. Der Ansatz soll Cloud-Bursting, verteilte AI-Infrastruktur und die Zusammenarbeit zwischen geografisch getrennten Forschungs- oder Ingenieur-Teams unterstützen.
Es stellt auch einen frühen Schritt in Richtung eines globalen Namespace-Modells dar, in dem Daten konsistent angesprochen werden können, unabhängig davon, wo sie ursprünglich gespeichert wurden.
Ein weiteres neues Feature wendet Fingerprinting, Ähnlichkeitshashing, Deduplizierung und Komprimierung kontinuierlich an, anstatt Daten-Reduzierung als optionalen Hintergrund-Prozess zu behandeln.
WEKA behauptet, dass NeuralMesh 6 bis zu sechsfache Kapazitätseinsparungen bei AI-Ausbildungs-Daten mit weniger als 5% Schreib-Overhead bieten kann. Die tatsächlichen Einsparungen hängen vom Datensatz ab. Checkpoints, Container-Layer, Model-Versionen und iterative Ausbildungs-Daten können erhebliche Wiederholungen enthalten, während andere Datentypen weniger effektiv komprimiert werden können.
Das Unternehmen plant, repräsentative Kunden-Daten vor der Bereitstellung zu analysieren und die resultierende Schätzung als Teil seiner Kapazitäts- und Leistungs-Verpflichtungen zu verwenden.
Speicher in eine erweiterte AI-Speicher-Schicht umwandeln
NeuralMesh integriert auch WEKAs Augmented Memory Grid, das NVMe-Speicher als persistente Erweiterung des GPU-Speichers für Inferenz verwendet.
Große Sprach-Modelle erstellen einen Schlüssel-Wert-Cache, der Informationen enthält, die aus einem Prompt oder einer Konversation berechnet werden. Für lange Kontexte und agentic Workflows kann dieser Cache extrem groß werden. Wenn er nicht im Hochgeschwindigkeits-GPU-Speicher bleiben kann, müssen Systeme ihn möglicherweise verwerfen, neu berechnen oder in langsamere Infrastruktur verschieben.
Augmented Memory Grid speichert diesen Cache in einer persistenten NVMe-gestützten Schicht und verwendet Remote Direct Memory Access und NVIDIA GPUDirect Storage, um ihn zurück in den GPU-Speicher zu verschieben.
Das Ziel ist es, wiederverwendbaren Kontext zu bewahren, während die wiederholte Prefill-Berechnung, einer der ressourcenintensivsten Phasen der langen Kontext-Inferenz, reduziert wird.
WEKA berichtet, dass Tests auf Oracle Cloud Infrastructure mit NVIDIA H100-GPUs zehnmal höhere Token-Durchsatzraten, zehnmal mehr gleichzeitige Benutzer und siebenmal mehr Token pro GPU erzeugten.
Diese Zahlen sind spezifische Benchmark-Ergebnisse und keine allgemeinen Leistungs-Erwartungen, aber sie veranschaulichen, warum die persistente Cache-Verwaltung ein wichtiger Teil des Inferenz-Infrastruktur-Designs wird.
WEKApod 3 übernimmt die Kontrolle über die Hardware-Schicht
Während frühere WEKApod-Systeme WEKA-Software mit vorab validierter Infrastruktur kombinierten, geht die dritte Generation weiter in die vertikal integrierte System-Design-Richtung.
WEKA entwarf das neue zwei-Rack-Einheiten-Chassis, den Anschluss der Laufwerke, die Kühl-Architektur, die Fehler-Domänen und das Wartungssystem. Die Appliances verwenden intern PCI Express Gen 6 und NVIDIA ConnectX-Netzwerk-Technologie für die Verbindung zu Spectrum-X-Ethernet-Infrastruktur.
Die WEKApod-Familie besteht nun aus drei konfigurierbaren Systemen. Nitro ist für bandbreitenintensive Inferenz- und AI-Factory-Workloads optimiert. Prime kombiniert Triple-Level-Cell- und Quad-Level-Cell-Flash, um Leistung und Kapazität auszugleichen. Prime Max priorisiert maximale Speicher-Dichte und kann bis zu 70 NVMe-Laufwerke in einem zwei-Rack-Einheiten-Chassis unterbringen.
Bei voller Rack-Skala sagt WEKA, dass Prime Max 441,5 Petabyte Roh-Kapazität und 1,1 Exabyte effektive Kapazität nach NeuralMesh-Daten-Reduzierung bereitstellen kann. Das Rack-System ist für bis zu 10,2 Terabyte pro Sekunde Durchsatz und 210 Millionen Input/Output-Operationen pro Sekunde ausgelegt.
Der Unterschied zwischen Roh- und effektiver Kapazität ist wichtig. Die Exabyte-Zahl hängt von der Reduzierung ab, die über die gespeicherten Daten erreichbar ist, und sollte nicht als mehr als ein Exabyte physischem Flash interpretiert werden.
Trotzdem kann eine höhere Dichte bedeutende Konsequenzen in Einrichtungen haben, in denen Speicher mit GPUs um Rack-Platz, Kühlung und elektrische Kapazität konkurriert.
Für eingeschränkte Rechenzentren konzipiert
Die neuen Systeme gehen auch auf die physischen Grenzen ein, die zunehmend AI-Infrastruktur-Projekte prägen.
GPU-Cluster erfordern große Mengen an Elektrizität, Kühlung, Netzwerk und Fußboden-Fläche. Speicher-Systeme, die diese Ressourcen ineffizient verbrauchen, können die Anzahl der Beschleuniger reduzieren, die eine Einrichtung unterstützen kann.
WEKA behauptet, dass die neuen Appliances 267% höhere effektive Kapazitäts-Dichte und 114% höhere Leistungs-Dichte als die nächstbesten öffentlich verfügbaren Alternativen in ihren jeweiligen Kategorien bieten.
Das Unternehmen hat die Systeme auch so konzipiert, dass sie in Umgebungstemperaturen von bis zu 35 Grad Celsius betrieben werden können. Software-gesteuerte Leistungs-Drosselung soll die Leistung allmählich reduzieren, anstatt einen Ausfall auszulösen, wenn thermischer Stress auftritt.
Ein backplane-freies Laufwerk-Design schafft kleinere Fehler-Domänen, während hot-pluggable Boot-Laufwerke und geführte Ersetzungs-Verfahren die Wartungs-Zeit reduzieren sollen. Kunden können Chassis-Typ, Speicher, Laufwerk-Kapazität und Laufwerk-Anzahl konfigurieren, wobei die Bereitstellungen von weniger als einem Petabyte bis zu mehr als 100 Petabyte reichen.
Ein Ökosystem um AI-Factorys aufbauen
Die begleitenden Partner-Ankündigungen deuten darauf hin, dass die Plattform Kunden über Infrastruktur-Integratoren, Cloud-Anbieter und AI-Orchestrierungs-Anbieter erreichen wird.
Spectro Cloud positioniert NeuralMesh als Daten-Schicht, die mit PaletteAI für die Bereitstellung und den Betrieb von Unternehmens-AI-Factorys kombiniert werden kann. World Wide Technology und Computacenter planen, die Systeme in umfassendere Infrastruktur-Projekte einzubinden, während Glocomp Kunden-Nachfrage nach besserer AI-Leistung und vorhersehbareren Infrastruktur-Kosten hervorhob.
Diese Ökosystem-Strategie ist wichtig, weil die meisten Organisationen keine Produktions-AI-Umgebungen aus einem einzigen Lieferanten zusammenstellen.
Eine typische Bereitstellung kann GPUs, Netzwerk, Speicher, Kubernetes, Model-Server-Software, Beobachtbarkeit, Sicherheit und Governance-Produkte von mehreren Anbietern umfassen. Gemeinsam validierte Konfigurationen können die Integrations-Arbeit reduzieren, obwohl Kunden dennoch die Leistung mit ihren eigenen Modellen, Datensätzen, Netzwerken und Konkurrenz-Anforderungen testen müssen.
Was dies für die AI-Infrastruktur bedeutet
Der wichtigste Aspekt der Ankündigung ist nicht irgendeine einzelne Kapazitäts- oder Durchsatz-Zahl. Es ist die wachsende Konvergenz von Speicher, verteiltem Caching, Speicher-Verwaltung, Daten-Mobilität und Mandanten-Isolation.
Wenn AI-Agents längere Historien beibehalten, mehr Unternehmens-Informationen zugreifen und kontinuierlich arbeiten, wird die Infrastruktur um die GPUs herum zunehmend die Kosten jedes nützlichen Antwortens bestimmen.
Durch die Hinzufügung von mehr Beschleunigern werden Engpässe, die durch wiederholte Kontext-Verarbeitung, langsame Daten-Bewegung, fragmentierte Protokolle oder ungenutzte Speicher-Kapazität verursacht werden, nicht gelöst. Die nächste Phase der AI-Infrastruktur wird daher so sehr von der effizienten Speisung und Verwaltung von GPUs abhängen wie von der Erhöhung der rohen Rechenleistung.
NeuralMesh 6 ist für die allgemeine Verfügbarkeit im zweiten Halbjahr 2026 geplant, wobei bestehende Kunden berechtigt sind, über den Standard-Software-Kanal zu aktualisieren. Die neuen WEKApod-Nitro-, Prime- und Prime-Max-Systeme sind bestellbar, wobei die Lieferungen im Herbst 2026 beginnen sollen.
