Η WEKA Εκκινεί το NeuralMesh 6 και το WEKApod 3 καθώς η Υποδομή AI Κινείται προς την Εικασία

Η WEKA έχει εισαγάγει μια συντονισμένη αναβάθμιση λογισμικού και υλικού που στοχεύει σε ένα από τα πιο ακριβά προβλήματα που αναδύονται στην βιομηχανία του AI: τη διατήρηση της παραγωγικότητας των GPU καθώς τα μοντέλα μετακινούνται από την εκπαίδευση σε συνεχείς, μεγάλης κλίμακας εικασία.

Οι ανακοινώσεις περιλαμβάνουν NeuralMesh 6, μια σημαντική ενημέρωση της πλατφόρμας δεδομένων και μνήμης της εταιρείας, μαζί με την τρίτη γενιά συσκευών WEKApod που σχεδιάστηκαν για AI νεφώσεις, dévelopers μοντέλων, ερευνητικές οργανώσεις και επιχειρήσεις που λειτουργούν υποδομή GPU.

Μαζί, οι κυκλοφορίες αντανακλούν μια ευρύτερη αλλαγή στη σχεδίαση της υποδομής του AI, με την αποθήκευση να εξελίσσεται από einen παθητικό αποθετήριο σε einen ενεργό επίπεδο μνήμης και παράδοσης δεδομένων.

Μια Ενοποιημένη Προώθηση στην Παραγωγή AI

Οι απαιτήσεις υποδομής της εικασίας του AI διαφέρουν σημαντικά από αυτές της εκπαίδευσης του μοντέλου. Οι εργασίες εκπαίδευσης συνήθως επεξεργάζονται μεγάλες συνόλους δεδομένων μέσω σχετικά προβλέψιμων αγωγών. Τα συστήματα AI, retrieval-augmented generation και long-context reasoning πρέπει αντίθετα να έχουν πρόσβαση σε μεταβαλλόμενα δεδομένα, να διατηρούν το контέκστ ανάμεσα σε επαναλαμβανόμενες αλληλεπιδράσεις και να υποστηρίζουν πολλούς ταυτόχρονους χρήστες χωρίς να αφήνουν ακριβές GPU να περιμένουν πληροφορίες.

Η απάντηση της WEKA είναι να αντιμετωπίζει την αποθήκευση, την επέκταση της μνήμης, την πρόσβαση αρχείων, την πρόσβαση αντικειμένων και την κίνηση δεδομένων ως μέρη της ίδιας πλατφόρμας. Το NeuralMesh σχεδιάστηκε για να παρέχει μια κοινή βάση δεδομένων για εκπαίδευση, εικασία και υψηλής απόδοσης υπολογιστική σε περιβάλλοντα εσωτερικής εγκατάστασης, δημόσιες νεφώσεις και υβριδικές αναπτύξεις.

Η νέα κυκλοφορία επεκτείνει αυτή την αρχιτεκτονική με πολυ-ενοικίαση, εγγενή αποθήκευση αντικειμένων, κατανεμημένη προσωρινή αποθήκευση, αυτοματοποιημένη μείωση δεδομένων, λειτουργίες Kubernetes και κεντρική παρακολούθηση.

Αντί να θέτουν τις ανακοινώσεις λογισμικού και συσκευών ως μη σχετικές αναβαθμίσεις, η εταιρεία τις παρουσιάζει ως δύο μέρη του ίδιου συστήματος. Το NeuralMesh 6 ελέγχει τον τρόπο με τον οποίο αποθηκεύονται, μετακινούνται, απομονώνονται και παραδίδονται τα δεδομένα, ενώ το WEKApod 3 παρέχει υλικό που σχεδιάστηκε γύρω από αυτές τις λειτουργίες.

NeuralMesh 6 Ενοποιεί Φορτία Αρχείων και Αντικειμένων

Μια από τις πιο σημαντικές προσθήκες στο NeuralMesh 6 είναι μια εγγενή υλοποίηση S3 που εκτελείται σε αποθήκευση NVMe. Τα ίδια υποκείμενα μπλοκ δεδομένων μπορούν να προσεγγιστούν μέσω πρωτοκόλλων αντικειμένων S3 και διασυνδέσεων αρχείων POSIX ή Network File System χωρίς τη διατήρηση ξεχωριστών αντιγράφων.

Αυτό έχει σημασία επειδή τα πipelines του AI συχνά μετακινούν πληροφορίες μεταξύ αποθήκευσης αντικειμένων, υψηλής απόδοσης συστημάτων αρχείων, περιβαλλόντων εκπαίδευσης και клаスター εικασίας. Κάθε αντίγραφο καταναλώνει χωρητικότητα, εισάγει καθυστερήσεις και περιπλέκει τη διακυβέρνηση. Ένα ενοποιημένο χώρο ονομάτων θα μπορούσε να επιτρέψει στα δεδομένα που δημιουργούνται μέσω ενός πρωτοκόλλου να γίνουν αμέσως διαθέσιμα μέσω ενός άλλου.

Η WEKA αναφέρει ότι η υλοποίησή της υποστηρίζει μεταξύ 2.000 και 5.000 ταυτόχρονες συνδέσεις S3 ανά κόμβο. Επίσης, υποστηρίζει S3 μέσω Remote Direct Memory Access, επιτρέποντας στα δεδομένα να μετακινούνται προς τη μνήμη GPU χωρίς να ακολουθούν το συμβατικό μονοπάτι μέσω πολλαπλών στρωμάτων CPU και λειτουργικού συστήματος.

Η πλατφόρμα εισάγει δύο επίπεδα πολυ-ενοικίας. Οι συστάδες Composable αναθέτουν αφορισμένες πόρους επεξεργαστή, μνήμης και αποθήκευσης σε μεμονωμένους ενοικιαστές, ενώ η εικονική πολυ-ενοικίαση παρέχει απομόνωση δικτύου, ανεξάρτητη κρυπτογράφηση, ξεχωριστή αυθεντικοποίηση και ελέγχους ποιότητας υπηρεσιών ανά ενοικιαστή.

Οι εικονικές περιβάλλοντες μπορούν να υποστηρίξουν περισσότερους από 1.000 απομονωμένους ενοικιαστές ανά кластер, σύμφωνα με την εταιρεία. Η συνδυασμένη χρήση των φυσικών και εικονικών μοντέλων θα μπορούσε να επιτρέψει σε έναν großen оператор υποδομής να υποστηρίξει δεκάδες χιλιάδες λογικά分离 ενοικιαστές χωρίς την ανάπτυξη ενός ανεξάρτητου клаστή αποθήκευσης για κάθε ένα.

Αυτό είναι ιδιαίτερα σχετικό για παρόχους GPU-ως-υπηρεσία και κυρίαρχες νεφώσεις AI που χρειάζονται να ισορροπήσουν την υψηλή χρήση υποδομής με αυστηρή απομόνωση πελατών.

Μετακίνηση Δεδομένων σε Όπου Υπάρχουν Διαθέσιμα GPU

Το NeuralMesh 6 εισάγει επίσης αναπαραγωγή metadata-πρώτα και αποθήκευση cache για φορτία AI που διανέμονται σε κέντρα δεδομένων, νεφώσεις και γεωγραφικές περιοχές.

Η παραδοσιακή αναπαραγωγή γενικά απαιτεί ολόκληρο το σύνολο δεδομένων να αντιγραφεί πριν από την έναρξη μιας εργασίας. Το NeuralMesh αντίθετα κάνει τα μετα-δεδομένα του προορισμού αμέσως ορατά και στη συνέχεια μεταφέρει τα υποκείμενα δεδομένα καθώς ζητούνται.

Αυτό θα μπορούσε να επιτρέψει στους операторες να μετακινούν εργασίες προς διαθέσιμη χωρητικότητα GPU χωρίς να αντιγράψουν πρώτα κάθε αρχείο που σχετίζεται με το έργο. Η προσέγγιση αυτή προορίζεται να υποστηρίξει την εκρήγνηση νεφών, τη διανεμημένη υποδομή AI και τη συνεργασία μεταξύ γεωγραφικά απομακρυσμένων ερευνητικών ή μηχανικών ομάδων.

Επίσης, αντιπροσωπεύει ένα πρώτο βήμα προς ένα μοντέλο ονομάτων namespace στο οποίο τα δεδομένα μπορούν να διευθύνονται συνεχώς ανεξάρτητα από το πού αρχικά αποθηκεύτηκαν.

Μια άλλη νέα λειτουργία εφαρμόζει fingerprinting, similarity hashing, deduplication και συμπίεση συνεχώς αντί να αντιμετωπίζει τη μείωση δεδομένων ως μια προαιρετική διαδικασία στο υπόβαθρο.

Η WEKA ισχυρίζεται ότι το NeuralMesh 6 μπορεί να παρέχει μέχρι και εξαπλάσια αποταμίευση χωρητικότητας σε δεδομένα εκπαίδευσης AI με λιγότερο από 5% επιβάρυνση γραφής. Οι πραγματικές μειώσεις θα εξαρτηθούν από το σύνολο δεδομένων. Τα σημεία ελέγχου, τα στρώματα контейнερ, οι εκδόσεις μοντέλων και τα δεδομένα εκπαίδευσης μπορούν να περιέχουν σημαντική επανάληψη, ενώ άλλα είδη δεδομένων μπορεί να συμπιεστούν λιγότερο αποτελεσματικά.

Η εταιρεία σχεδιάζει να αναλύσει αντιπροσωπευτικά δεδομένα πελατών πριν από την ανάπτυξη και να χρησιμοποιήσει την εκτιμώμενη τιμή ως μέρος των δεσμεύσεων χωρητικότητας και απόδοσης.

Μετατρέποντας την Αποθήκευση σε Ένα Διευρυμένο Επίπεδο Μνήμης AI

Το NeuralMesh ενσωματώνει επίσης WEKA’s Augmented Memory Grid, το οποίο χρησιμοποιεί αποθήκευση NVMe ως μια μόνιμη επέκταση της μνήμης GPU για εικασία.

Τα μεγάλα μοντέλα γλωσσών δημιουργούν ένα cache key-value που περιέχει πληροφορίες που υπολογίζονται από μια πρόκληση ή συζήτηση. Για μακρές περιπτώσεις και εργασίες agentic, αυτό το cache μπορεί να γίνει εξαιρετικά μεγάλο. Όταν δεν μπορεί να παραμείνει στη μνήμη GPU υψηλής ταχύτητας, τα συστήματα μπορεί να χρειάζονται να απορρίψουν, να ξαναυπολογίσουν ή να μετακινήσουν σε αργότερη υποδομή.

Το Augmented Memory Grid αποθηκεύει αυτό το cache σε ένα μόνιμο επίπεδο NVMe και χρησιμοποιεί Remote Direct Memory Access και NVIDIA GPUDirect Storage για να το μεταφέρει πίσω στα GPU.

Ο στόχος είναι να διατηρήσει επαναχρησιμοποιήσιμο контέκστ ενώ μειώνει την επαναλαμβανόμενη προ-υπολογιστική, ένα από τα πιο πόρων-εντατικά στάδια της εικασίας μακράς περιόδου.

Η WEKA αναφέρει ότι τα τεστ στο Oracle Cloud Infrastructure χρησιμοποιώντας NVIDIA H100 GPUs παρήγαγαν δέκα φορές υψηλότερη απόδοση token, δέκα φορές περισσότερους ταυτόχρονους χρήστες και επτά φορές περισσότερους tokens ανά GPU.

Αυτά τα στοιχεία είναι εργασιακά-ειδικά benchmarκs και όχι καθολικές προσδοκίες απόδοσης, αλλά εικονογραφούν γιατί η διαχείριση cache είναι ένα σημαντικό μέρος της σχεδίασης της υποδομής εικασίας.

WEKApod 3 Λαμβάνει τον Έλεγχο του Υλικού Επίπεδου

Ενώ οι προηγούμενες WEKApod συσκευές συνδύαζαν το λογισμικό WEKA με προ-ελεγμένες υποδομές, η τρίτη γενιά μετακινείται περαιτέρω στη σχεδίαση συστήματος verticall-integrated.

Η WEKA σχεδιάσε το νέο σασί δύο ραφιών, την διασύνδεση οδηγού, την αρχιτεκτονική ψύξης, τα πεδία αποτυχίας και το σύστημα serviceability. Οι συσκευές χρησιμοποιούν PCI Express Gen 6 εσωτερικά και σύνδεση NVIDIA ConnectX για σύνδεση με υποδομή Ethernet Spectrum-X.

Η οικογένεια WEKApod αποτελείται τώρα από τρεις ρυθμιζόμενες συσκευές. Το Nitro είναι βελτιστοποιημένο για εργασίες εικασίας και φόρτους AI που απαιτούν υψηλή帯域. Το Prime συνδυάζει τριπλό επίπεδο κελιού και τετραπλό επίπεδο κελιού flash για να ισορροπήσει απόδοση και χωρητικότητα. Το Prime Max προορίζεται για μέγιστη πυκνότητα αποθήκευσης, με έως και 70 οδηγούς NVMe σε ένα σασί δύο ραφιών.

Σε πλήρη κλίμακα ραφιού, η WEKA αναφέρει ότι το Prime Max μπορεί να παρέχει 441,5 petabytes raw χωρητικότητας και 1,1 exabytes αποτελεσματικής χωρητικότητας μετά την μείωση δεδομένων NeuralMesh. Το σύστημα ραφιού αξιολογείται για έως και 10,2 terabytes ανά δευτερόλεπτο και 210 εκατομμύρια εισόδους/εξόδους ανά δευτερόλεπτο.

Η διάκριση μεταξύ raw και αποτελεσματικής χωρητικότητας είναι σημαντική. Η τιμή exabyte εξαρτάται από τη μείωση που επιτυγχάνεται στα αποθηκευμένα δεδομένα και δεν πρέπει να ερμηνευτεί ως περισσότερο από ένα exabyte φυσικής flash.

Ακόμα και έτσι, μεγαλύτερη πυκνότητα μπορεί να έχει σημαντικές συνέπειες σε εγκαταστάσεις όπου η αποθήκευση ανταγωνίζεται με τα GPU για χώρο ραφιού, ψύξη και ηλεκτρική ικανότητα.

Σχεδιασμένο για Περιορισμένες Κέντρα Δεδομένων

Οι νέες συσκευές απευθύνονται επίσης στο φυσικά όρια που διαμορφώνουν ολοένα και περισσότερο τα έργα υποδομής του AI.

Οι кластерες GPU απαιτούν μεγάλες ποσότητες ηλεκτρικής ενέργειας, ψύξης, δικτύωσης και χώρου. Τα συστήματα αποθήκευσης που καταναλώνουν αυτές τις πόρους ανεπάρκως μπορούν να μειώσουν τον αριθμό των επιταχυντών που μπορεί να υποστηρίξει μια εγκατάσταση.

Η WEKA ισχυρίζεται ότι οι νέες συσκευές παρέχουν 267% μεγαλύτερη πυκνότητα αποτελεσματικής χωρητικότητας και 114% μεγαλύτερη πυκνότητα απόδοσης από τις επόμενες καλύτερες δημόσιες εναλλακτικές λύσεις στις αντίστοιχες κατηγορίες.

Η εταιρεία έχει επίσης σχεδιάσει τις συσκευές να λειτουργούν σε θερμοκρασίες περιβάλλοντος έως και 35 βαθμούς Κελσίου. Η软件-ελεγχόμενη ρύθμιση ισχύος προορίζεται να μειώσει την απόδοση σταδιακά κατά τη θερμική τάση αντί να ενεργοποιήσει μια διακοπή.

Μια σχεδίαση οδηγού χωρίς πλάκα δημιουργεί μικρότερα πεδία αποτυχίας, ενώ οι οδηγοί εκκίνησης με θερμική σύνδεση και οι οδηγίες αντικατάστασης με οδηγίες προορίζονται να μειώσουν τον χρόνο συντήρησης. Οι πελάτες μπορούν να ρυθμίσουν τον τύπο σασί, τη μνήμη, την χωρητικότητα οδηγού και τον αριθμό οδηγού, με αναπτύξεις που κυμαίνονται από λιγότερο από ένα petabyte έως περισσότερα από 100 petabytes.

Κατασκευάζοντας Ένα Οικοσύστημα Γύρω από AI Factories

Οι συνοδευτικές ανακοινώσεις συνεργασιών υποδηλώνουν ότι η πλατφόρμα θα φτάσει στους πελάτες μέσω ενοποιητών υποδομής, παρόχων νεφών και προμηθευτών ορχήστρασης AI.

Η Spectro Cloud θέτει το NeuralMesh ως ένα επίπεδο δεδομένων που μπορεί να συνδυαστεί με το PaletteAI για την ανάπτυξη και λειτουργία επιχειρηματικών εργοστασίων AI. Η World Wide Technology και η Computacenter σχεδιάζουν να ενσωματώσουν τα συστήματα σε ευρύτερες υποδομές, ενώ η Glocomp τόνισε την ζήτηση των πελατών για καλύτερη απόδοση AI και πιο προβλέψιμους κόστους υποδομής.

Αυτή η στρατηγική οικοσυστήματος είναι σημαντική επειδή οι περισσότερες οργανώσεις δεν συναρμολογούν περιβάλλοντα παραγωγής AI από έναν μόνο προμηθευτή.

Μια τυπική ανάπτυξη μπορεί να περιλαμβάνει GPU, δικτύωση, αποθήκευση, Kubernetes, λογισμικό εξυπηρέτησης μοντέλων, παρακολούθηση, ασφάλεια και διακυβέρνηση από πολλούς προμηθευτές. Οι κοινές ελεγμένες konfigурации μπορούν να μειώσουν την εργασία ενοποίησης, αν και οι πελάτες θα χρειαστεί να ελέγξουν την απόδοση χρησιμοποιώντας τα δικά τους μοντέλα, συνόλους δεδομένων, δίκτυα και απαιτήσεις ταυτόχρονης πρόσβασης.

Τι Αυτό Σημαίνει για την Υποδομή AI

Το πιο σημαντικό μέρος της ανακοίνωσης δεν είναι κανένα μεμονωμένο νούμερο χωρητικότητας ή απόδοσης. Είναι η αυξανόμενη σύγκλιση της αποθήκευσης, της κατανεμημένης προσωρινής αποθήκευσης, της διαχείρισης μνήμης, της κίνησης δεδομένων και της απομόνωσης ενοικιαστών.

Όσο τα AI agents διατηρούν μεγαλύτερες ιστορίες, έχουν πρόσβαση σε περισσότερες εταιρικές πληροφορίες και λειτουργούν συνεχώς, η υποδομή που περιβάλλει τα GPU θα καθορίζει ολοένα και περισσότερο το κόστος κάθε χρήσιμης απόκρισης.

Η προσθήκη περισσότερων επιταχυντών δεν θα λύσει τα μποτλνεκ που προκαλούνται από την επαναλαμβανόμενη επεξεργασία контέκστ, την αργή κίνηση δεδομένων, τα θραύσματα πρωτοκόλλων ή την υποαπασχόληση χωρητικότητας αποθήκευσης. Η επόμενη φάση της υποδομής AI θα εξαρτηθεί τόσο από την αποτελεσματική τροφοδοσία και διαχείριση των GPU όσο και από την αύξηση της сыρής υπολογιστικής ισχύος.

Το NeuralMesh 6 είναι προγραμματισμένο να γίνει γενικά διαθέσιμο κατά το δεύτερο μισό του 2026, με τους υφιστάμενους πελάτες να έχουν τη δυνατότητα να αναβαθμίσουν μέσω του τυπικού καναλιού λογισμικού. Οι νέες συσκευές WEKApod Nitro, Prime και Prime Max είναι διαθέσιμες για παραγγελία, με τις παραδόσεις να αναμένεται να ξεκινήσουν το φθινόπωρο του 2026.