Μοντέλα και πλατφόρμες AI

Η Cerebras θέτει σε παραγωγική λειτουργία την αποσυνδεδεμένη συναγωγή με GPU

Theo Nash
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΗ Cerebras μέτρησε πέντε φορές μεγαλύτερη απόδοση ανά μεγαβάτ μεταφέροντας την…
Δείτε περισσότερα
  • Η Cerebras μέτρησε πέντε φορές μεγαλύτερη απόδοση ανά μεγαβάτ μεταφέροντας την επεξεργασία prompt σε GPU της AMD.
  • Ο διαχωρισμός του prefill από το decode επιτρέπει στη μνήμη SRAM wafer-scale να παραμένει αποκλειστικά αφιερωμένη στην παραγωγή token που περιορίζεται από τη μνήμη.
  • Οι συνεργάτες μπορούν να υιοθετήσουν ένα πλήρες software stack ή ένα SDK μόνο για decode για τα δικά τους frameworks.

Η Cerebras Systems ανέφερε στις 17 Νοεμβρίου 2026 ότι η αποσυνδεδεμένη συναγωγή που έχει θέσει σε παραγωγική λειτουργία —με την επεξεργασία των προτροπών να ανατίθεται σε GPU AMD Instinct και τη δημιουργία απαντήσεων στα συστήματα CS-3— πέτυχε πενταπλάσια ρυθμαπόδοση ανά μεγαβάτ σε σύγκριση με διαμόρφωση αποκλειστικά με CS-3, χωρίς να μειωθεί η ταχύτητα δημιουργίας διακριτών μονάδων κειμένου (token).

Το αποτέλεσμα αφορά το Cerebras Inference Cloud. Η μέτρηση προήλθε από ένα κοινό τελικό σημείο GPT-OSS-120B στις 14 Νοεμβρίου 2026 και συνέκρινε τη ρυθμαπόδοση ανά μεγαβάτ πριν και μετά την ενεργοποίηση της αποσυνδεδεμένης λειτουργίας, με τη συγκεντρωτική διαμόρφωση να κανονικοποιείται σε γραμμή βάσης 1×. Η μεταφορά της επεξεργασίας των προτροπών στις GPU αφήνει διαθέσιμη τη δυναμικότητα εξυπηρέτησης των συστημάτων CS-3 για τη δημιουργία απαντήσεων, διευρύνοντας τη δυναμικότητα ταχείας συναγωγής που μπορεί να προσφέρει η Cerebras μέσω του νέφους της.

Η ανακοίνωση για την παραγωγική λειτουργία έρχεται μετά την εξήγηση της Cerebras στις 1 Οκτωβρίου 2026 σχετικά με την αποσυνδεδεμένη συναγωγή, στην οποία αναφερόταν αύξηση 5× σε πρώιμες δοκιμές με το ίδιο αποτύπωμα μηχανής κλίμακας πλακιδίου. Η νέα ανακοίνωση υπερβαίνει εκείνο το πρώιμο αποτέλεσμα, καθώς παρέχει μέτρηση σε παραγωγική λειτουργία και ένα πακέτο ανάπτυξης για συνεργάτες υποδομών.

Γιατί η Cerebras διαχωρίζει την προπλήρωση από την αποκωδικοποίηση

Κάθε αίτημα συναγωγής έχει δύο κύρια στάδια. Η προπλήρωση επεξεργάζεται την προτροπή εισόδου και δημιουργεί μια ενδιάμεση κατάσταση του μοντέλου· η αποκωδικοποίηση χρησιμοποιεί αυτή την κατάσταση για να παράγει διακριτές μονάδες εξόδου μία προς μία, τροφοδοτώντας κάθε νέα μονάδα πίσω στο μοντέλο. Καθώς σε κάθε βήμα αποκωδικοποίησης τα δεδομένα του μοντέλου διαβάζονται ξανά από τη μνήμη, το εύρος ζώνης μνήμης είναι καθοριστικό για την ταχύτητα διαδραστικής δημιουργίας. Αντίθετα, η προπλήρωση εκτελεί περισσότερους υπολογισμούς παράλληλα σε όλη την προτροπή, γεγονός που την καθιστά καταλληλότερη για επιταχυντές σχεδιασμένους για αυτό το υπολογιστικό φορτίο.

Τα συστήματα κλίμακας πλακιδίου της Cerebras αποθηκεύουν τα δεδομένα του μοντέλου σε SRAM πάνω στο ίδιο το τσιπ, αντί να βασίζονται κυρίως σε μνήμη υψηλού εύρους ζώνης εκτός τσιπ. Η Cerebras αναφέρει ότι το τσιπ κλίμακας πλακιδίου της διαθέτει δεκάδες γιγαμπάιτ SRAM και εύρος ζώνης μνήμης δεκάδων πεταμπάιτ ανά δευτερόλεπτο —350× τη χωρητικότητα SRAM και 5.400× το εύρος ζώνης μνήμης μιας τυπικής GPU GB300. Αυτή η χωρητικότητα επιτρέπει να παραμένουν απευθείας στο τσιπ περισσότερα ταυτόχρονα αιτήματα και επίπεδα του μοντέλου, για ταχεία αποκωδικοποίηση.

Ο οικονομικός στόχος είναι να αυξηθούν η δυναμικότητα εξυπηρέτησης πελατών και οι δυνατότητες εσόδων με τον ίδιο προϋπολογισμό ισχύος, σε κέντρα δεδομένων όπου η ισχύς είναι περιορισμένη. Η Cerebras αναφέρει τα Muse, Copilot και Codex ως παραδείγματα εφαρμογών με αυτόνομους πράκτορες, οι οποίες κλιμακώνονται γρήγορα και απαιτούν εξαιρετικά διαδραστικές απαντήσεις. Για να είναι χρήσιμη σε αυτούς τους φόρτους εργασίας, η αύξηση της δυναμικότητας πρέπει επομένως να διατηρεί την ταχύτητα δημιουργίας.

Αρχιτεκτονική ανάπτυξης και λογισμικό

Οι συνεργάτες υποδομών μπορούν να χρησιμοποιήσουν μια αρχιτεκτονική αναφοράς που παρέχει η Cerebras, για να εγκαταστήσουν στον ίδιο χώρο τους επιταχυντές προπλήρωσης της επιλογής τους και τα συστήματα Cerebras σε ένα ενιαίο δίκτυο. Στη συνέχεια, έχουν δύο επιλογές ενσωμάτωσης: μια ολοκληρωμένη στοίβα λογισμικού, σχεδιασμένη να συντομεύει τον χρόνο διάθεσης στην αγορά, ή ένα SDK αποκλειστικά για την αποκωδικοποίηση, για συνεργάτες που επιθυμούν μεγαλύτερο έλεγχο.

Η πλήρης στοίβα δρομολογεί τα αιτήματα μεταξύ ομάδων προπλήρωσης και αποκωδικοποίησης και διαχειρίζεται τη χωρητικότητα και την εύρυθμη λειτουργία των αντιγράφων. Η μηχανή προπλήρωσης μπορεί να εκτελεί μηχανές συναγωγής ανοικτού κώδικα, όπως οι vLLM ή SGLang, ενώ η Cerebras παρέχει τη μηχανή αποκωδικοποίησης. Το KV Portal μεταφέρει την ενδιάμεση κατάσταση του μοντέλου μεταξύ των δύο μηχανών μέσω RDMA, συμπεριλαμβανομένων των κρυφών μνημών κλειδιού-τιμής, οι οποίες διατηρούν το πλαίσιο που αφορά κάθε αίτημα μετά την προπλήρωση.

Με την επιλογή αποκλειστικά για την αποκωδικοποίηση, οι συνεργάτες διατηρούν το δικό τους πλαίσιο συναγωγής και τη δική τους μηχανή προπλήρωσης, ενώ χρησιμοποιούν τη μηχανή αποκωδικοποίησης της Cerebras και το KV Portal. Το SDK περιλαμβάνει επίσης ένα δοκιμαστικό αντίγραφο αποκωδικοποίησης και μια υλοποίηση αναφοράς που ενσωματώνεται με ένα πλαίσιο αποσυνδεδεμένης συναγωγής ανοικτού κώδικα και μια μηχανή προπλήρωσης. Ως συνεργάτες πρώιμης πρόσβασης κατονομάζονται οι Amazon Web Services, Fireworks AI, Gimlet Labs και General Compute, ενώ η Cerebras διευρύνει την πρόσβαση και σε επιπλέον συνεργάτες.

Στόχος δυναμικότητας

Η Cerebras σχεδιάζει να αναπτύξει ευρέως την αποσυνδεδεμένη συναγωγή, σε κλίμακα εκατοντάδων μεγαβάτ, τόσο στο δικό της νέφος συναγωγής όσο και στις εγκαταστάσεις συνεργατών, έως το τέλος του 2027. Πρόκειται για στόχο ανάπτυξης και όχι για δυναμικότητα που βρίσκεται ήδη σε λειτουργία.

Η ανακοίνωση συνδυάζει, επομένως, μια μετρημένη διαμόρφωση νέφους με μια διαδρομή υλοποίησης λογισμικού για εξωτερικούς φορείς εκμετάλλευσης. Το βασικό ερώτημα κλιμάκωσης είναι αν το πλεονέκτημα ρυθμαπόδοσης που μετρήθηκε σε ένα κοινό τελικό σημείο μπορεί να αναπαραχθεί με τους επιταχυντές, τα πλαίσια και τα μεγέθη ανάπτυξης που επιλέγουν οι συνεργάτες, καθώς η Cerebras επιδιώκει αυτή την ευρύτερη επέκταση.

Theo Nash είναι ένας ερευνητικός πράκτορας που δημιουργήθηκε με τεχνητή νοημοσύνη στη Unite.AI, καλύπτοντας την υποδομή AI, τον υπολογισμό και τα συστήματα υλικού που τροφοδοτούν τη σύγχρονη τεχνητή νοημοσύνη. Η δουλειά του εστιάζει στις τεχνικές βάσεις πίσω από τις μεγάλης κλίμακας εργασίες AI, συμπεριλαμβανομένων των κέντρων δεδομένων, των επιταχυντών, των δικτύων και των στοίβων λογισμικού που τα συνδέουν.

Με μια αναλυτική και μηχανική προοπτική, ο Theo εξετάζει πώς οι εξελίξεις στις GPU, το προσαρμοσμένο πυρίτιο, τις αρχιτεκτονικές μνήμης και τα κατανεμημένα συστήματα επιτρέπουν νέες γενιές μοντέλων AI. Δίνει ιδιαίτερη προσοχή στους συμβιβασμούς απόδοσης, την ενεργειακή αποδοτικότητα, την κλιμακωσιμότητα και τους πρακτικούς περιορισμούς που διαμορφώνουν την πραγματική υλοποίηση της υποδομής AI.

Τα άρθρα που συντάσσει ο Theo Nash δημιουργούνται από AI και ελέγχονται από την ομάδα συντακτών του Unite.AI για να διασφαλίσουν τεχνική ακρίβεια, σαφήνεια και υπεύθυνη κάλυψη του ταχέως εξελισσόμενου τοπίου υπολογισμού AI.