Μοντέλα και πλατφόρμες AI
Η MiTAC προτείνει αρχιτεκτονική συμπερασμού ΤΝ με δύο διακομιστές στο SC26

Βασικά σημείαΗ MiTAC διαχωρίζει το prefill και το decode σε ξεχωριστούς διακομιστές, ώστε κάθε…
Δείτε περισσότερα
- Η MiTAC διαχωρίζει το prefill και το decode σε ξεχωριστούς διακομιστές, ώστε κάθε στάδιο να προμηθεύεται για το δικό του φόρτο εργασίας.
- Ο διακομιστής decode διαθέτει 2 TB μνήμης επιταχυντή για την εκτέλεση μοντέλων όπως το Kimi K3 εντός εγκαταστάσεων.
- Το υδρόψυκτο rack της MiTAC φτάνει σε 50% υψηλότερη πυκνότητα GPU από τις συμβατικές αναπτύξεις.
Η MiTAC Computing παρουσίασε στο SC26, μαζί με τη Skymizer, αρχιτεκτονική συμπερασμού ΤΝ με δύο διακομιστές, σε ανακοίνωση στις 17 Νοεμβρίου 2026. Η πρόταση προβλέπει μνήμη επιταχυντών 2 TB για την αποκωδικοποίηση, σε ένα σύστημα σχεδιασμένο να εκτελεί τοπικά μοντέλα όπως το Kimi K3, με 2,8 τρισεκατομμύρια παραμέτρους.
Η αρχιτεκτονική αποτελεί μέρος ενός ευρύτερου χαρτοφυλακίου που περιλαμβάνει ενορχήστρωση λογισμικού, υγρή ψύξη υψηλής πυκνότητας, αποθήκευση και ένα επερχόμενο rack της AMD. Ορισμένα υποστηρικτικά συστήματα παρουσιάζονται ζωντανά στο SC26, ενώ άλλα παραμένουν στο στάδιο της πρότασης ή της ανάπτυξης, οπότε η ανακοίνωση συνδυάζει τρέχουσες επιδείξεις με μελλοντικά σχέδια υποδομών.
Ξεχωριστοί διακομιστές για προπλήρωση και αποκωδικοποίηση
Η προτεινόμενη πλατφόρμα προπλήρωσης είναι το 8U G8825Z5, με επεξεργαστές AMD EPYC 9575F ή 9755 και GPU Instinct MI350X. Η προσωρινή μνήμη κλειδιών-τιμών που προκύπτει θα μεταφέρεται στον διακομιστή αποκωδικοποίησης μέσω δικτύωσης υψηλής ταχύτητας. Για την αποκωδικοποίηση, η προτεινόμενη αερόψυκτη διαμόρφωση 4U G4520G6 συνδυάζει επεξεργαστές Intel Xeon 6 με οκτώ κάρτες επιταχυντών Skymizer HTX301-4S, καθεμία από τις οποίες διαθέτει μνήμη 256 GB.
Η προπλήρωση είναι το στάδιο που απαιτεί εντατικούς υπολογιστικούς πόρους, ενώ η αποκωδικοποίηση απαιτεί πολλή μνήμη. Ο διαχωρισμός τους αποσκοπεί στο να μπορούν οι επιχειρήσεις να διαθέτουν πόρους για κάθε στάδιο ανάλογα με το δικό του φορτίο εργασίας. Σύμφωνα με τη MiTAC, το σύστημα αποκωδικοποίησης για εγκατάσταση στις εγκαταστάσεις του πελάτη έχει σχεδιαστεί για σύνθετα φορτία εργασίας πρακτόρων που απαιτούν βαθιά συλλογιστική. Η αρχιτεκτονική μετατοπίζει ένα μέρος του προβλήματος κλιμάκωσης: αντί να προστίθενται GPU, χρειάζεται να εξισορροπούνται η μνήμη των επιταχυντών και η δικτυακή σύνδεση μεταξύ των σταδίων.
Ζωντανές επιδείξεις ψύξης και πυκνότητας δεδομένων στο SC26
Οι ζωντανές επιδείξεις της MiTAC αναδεικνύουν τις υλικές απαιτήσεις της συγκεκριμένης σχεδίασης συμπερασμού. Ένα υγρόψυκτο rack 52U ενσωματώνει 12 διακομιστές G4826Z5 και 96 GPU AMD Instinct MI355X· σύμφωνα με την εταιρεία, η διαμόρφωση αυτή προσφέρει 50% μεγαλύτερη πυκνότητα GPU από τις συμβατικές εγκαταστάσεις.
Μια δοκιμαστική υλοποίηση με τη ZutaCore χρησιμοποιεί άμεση, διφασική υγρή ψύξη χωρίς νερό στο G4826Z5, εξατμίζοντας διηλεκτρικό υγρό απευθείας πάνω στο τσιπ. Η MiTAC αναφέρει υποστήριξη για θερμικές ισχείς σχεδιασμού άνω των 4.000 W, θερμική ροή άνω των 250 W/cm² και ετησιοποιημένο μερικό δείκτη αποτελεσματικότητας χρήσης ενέργειας 1,03. Η επίδειξη στοχεύει στην αντιμετώπιση των θερμικών ορίων που προκύπτουν όταν επιταχυντές υψηλής ισχύος συγκεντρώνονται σε πυκνά rack.
Η επίδειξη αποθήκευσης συνδυάζει το DDN Infinia με επτά διακομιστές αποθήκευσης GC68C-B8056 1U και έχει σχεδιαστεί για να παρέχει αδιάλειπτες ροές δεδομένων ΤΝ χωρίς σημεία συμφόρησης στις λειτουργίες εισόδου/εξόδου. Αντιμετωπίζει έναν διαφορετικό περιορισμό από την ψύξη: μειώνει τον κίνδυνο να περιμένουν οι επιταχυντές τα δεδομένα αντί να επεξεργάζονται φορτία εργασίας συμπερασμού και πρακτόρων.
Λογισμικό και το επερχόμενο rack Helion
Το Canonical Ubuntu παρέχει το πιστοποιημένο επίπεδο λειτουργικού συστήματος, το Rafay προσθέτει δυναμική ενορχήστρωση GPU ως υπηρεσίας για κατανεμημένα φορτία εργασίας, ενώ το λογισμικό MiCoreView της MiTAC προσφέρει τηλεμετρία σε επίπεδο pod και ενιαία εικόνα του κέντρου δεδομένων. Μαζί με το Infinia, τα στοιχεία αυτά καλύπτουν τα λειτουργικά συστήματα, την παροχή δεδομένων, την κατανομή GPU και την παρακολούθηση στο πλαίσιο της ίδιας στοίβας υποδομών.
Η MiTAC συνεργάζεται επίσης με την AMD για ένα επερχόμενο rack ORv3 44OU Helion Agentic AI. Σύμφωνα με τη MiTAC, θα μπορεί να κλιμακωθεί έως και σε 32.768 πυρήνες CPU AMD Zen 6 για περιβάλλοντα υπερκλίμακας και επιχειρήσεων.
Η τεκμηρίωση της Helion από την AMD περιγράφει έναν ανοικτό σχεδιασμό αναφοράς σε κλίμακα rack, βασισμένο στα πρότυπα του Open Compute Project (OCP), με διαμορφώσεις υπερκλίμακας μόνο με CPU και εκδόσεις για επιχειρήσεις που συνδυάζουν λεπίδες CPU και GPU. Η αερόψυκτη έκδοση για συμπερασμό υποστηρίζει έως και 16 GPU Instinct MI350P, ενώ οι πελάτες μπορούν να συνδυάζουν διαφορετικούς τύπους λεπίδων ανάλογα με τα φορτία εργασίας των διαφόρων πρακτόρων. Η διαμόρφωση για επιχειρήσεις έχει σχεδιαστεί ώστε να συνδυάζει την εκτέλεση πρακτόρων και τον συμπερασμό σε ένα rack, σε αντίθεση με το Helios, το οποίο προορίζεται για εκπαίδευση μοντέλων αιχμής και συμπερασμό μεγάλης κλίμακας με ενιαίο πεδίο κλιμάκωσης GPU.
Πρακτικά, η δυνατότητα ανάπτυξης συμπερασμού στις εγκαταστάσεις του πελάτη εξαρτάται από την αρμονική λειτουργία της μνήμης αποκωδικοποίησης με το δίκτυο προπλήρωσης, τη διεκπεραιωτική ικανότητα της αποθήκευσης, την ψύξη του rack και την ενορχήστρωση. Η πρόταση της MiTAC εντάσσει αυτές τις διασυνδέσεις στον υπολογισμό της χωρητικότητας, μαζί με τις ίδιες τις GPU.












