Πέρα από την GPU: βελτιστοποίηση του εργοστασίου ΤΝ ως συστήματος

Ένα εργοστάσιο ΤΝ δεν είναι απλώς ένα μεγαλύτερο κέντρο δεδομένων. Είναι σχεδιασμένο ειδικά για την παραγωγή ευφυών τοκεν και όχι για την εξυπηρέτηση ιστοσελίδων και email. Όταν ένας πάροχος υπερκλίμακας ή ένας πάροχος νέφους νέας γενιάς επενδύει δισεκατομμύρια δολάρια και χρόνια στην κατασκευή ενός εργοστασίου ΤΝ, οι GPU που αναλαμβάνουν το μεγαλύτερο μέρος των υπολογισμών γίνονται εύλογα προτεραιότητα. Όμως, η βελτιστοποίηση της GPU από μόνη της δεν βελτιστοποιεί και το εργοστάσιο που την περιβάλλει. Τα συστήματα ισχύος και θερμικής διαχείρισης πρέπει να υποστηρίζουν αυτούς τους υπολογισμούς, ενώ οι αποφάσεις που λαμβάνονται σε ένα σύστημα μπορούν να έχουν σημαντικές συνέπειες για τα υπόλοιπα. Σκοπός της ΤΝ είναι η βελτιστοποίηση σύνθετων συστημάτων, ωστόσο τα εργοστάσια που την παράγουν συχνά βελτιστοποιούνταν ένα εξάρτημα κάθε φορά. Η τεχνολογία εικονικού διδύμου επιτρέπει στους μηχανικούς να κατασκευάζουν και να βελτιστοποιούν ολόκληρο το σύστημα, προτού καν αρχίσει η κατασκευή.

Γιατί ο συντηρητικός σχεδιασμός θεωρήθηκε η ασφαλέστερη επιλογή

Καθώς οι συνέπειες μιας αστοχίας συστήματος ή ενός σημείου συμφόρησης στην απόδοση θα μπορούσαν να είναι τόσο σοβαρές, οι πρώτες εγκαταστάσεις κατασκευάζονταν με υπερβολικά μεγάλα περιθώρια ασφαλείας και περισσότερο εξοπλισμό. Χωρίς οδικό χάρτη για αυτή τη νέα γενιά κέντρων δεδομένων, η προσεκτική κατασκευή μπορούσε να φαίνεται ως η ασφαλέστερη προσέγγιση. Αυτά τα περιθώρια βοηθούσαν στην προστασία από προβλήματα όπως οι απότομες αυξήσεις θερμοκρασίας κοντά στα τσιπ, οι οποίες μπορεί να αφήσουν στους χειριστές μόλις ένα λεπτό για να αντιδράσουν προτού χαλάσει ο εξοπλισμός. Σε ορισμένες από τις πρώτες εγκαταστάσεις, έως και 10 τοις εκατό της διαθέσιμης ισχύος έμενε αχρησιμοποίητο ως περιθώριο ασφαλείας.

Τα εργοστάσια ΤΝ εκτίθενται σε μεταβολές της θερμοκρασίας και του καιρού, βλάβες εξοπλισμού, ανεπαρκή χωρητικότητα, σχεδιαστικές αδυναμίες και προβλήματα συντήρησης. Με τόσο υψηλό διακύβευμα, σε κλίμακα γιγαβάτ, κάθε ημέρα καθυστέρησης στην εξασφάλιση χωρητικότητας μπορεί να αντιστοιχεί σε απώλεια εσόδων από την παραγωγή τοκεν ύψους περίπου 100 εκατομμυρίων δολαρίων. Η προσεκτική προσέγγιση φαινόταν αναγκαία όταν ήταν αδύνατο να προβλεφθεί η έκβαση αυτών των προβλημάτων.

Η πρόκληση γίνεται ακόμη μεγαλύτερη όταν αυτοί οι κίνδυνοι αφορούν πολλαπλά, ανεξάρτητα συστήματα. Ένα εργοστάσιο ΤΝ βασίζεται σε τρία στενά αλληλεξαρτώμενα συστήματα: υπολογιστικούς πόρους, ισχύ και θερμική διαχείριση. Η GPU χρειάζεται μια σύνθετη αλυσίδα τροφοδοσίας ισχύος, καθώς και ένα εξίσου απαιτητικό σύστημα θερμικής διαχείρισης για την απομάκρυνση της θερμότητας που παράγει. Όταν οι υπολογιστικοί πόροι, η ισχύς και η θερμική διαχείριση αντιμετωπίζονται ως ξεχωριστά στάδια, το καθένα βελτιστοποιημένο στον δικό του τομέα, οι ομάδες μπορεί να μη διακρίνουν πώς μια απόφαση σε ένα σύστημα επηρεάζει τα υπόλοιπα. Αυτό δημιουργεί τυφλά σημεία και ανισορροπίες, ιδιαίτερα όταν η ισχύς και η ψύξη αντιμετωπίζονται ως απαιτήσεις υποδομής που πρέπει να καλυφθούν αφού ληφθούν οι αποφάσεις για τους υπολογιστικούς πόρους.

Η ισχύς και η ψύξη δεν μπορούν να διαχωριστούν από τους υπολογιστικούς πόρους. Αποτελούν μέρος του συστήματος που καθορίζει πόσο αποτελεσματικά μπορούν να λειτουργούν. Επομένως, η αλλαγή συνίσταται στη μετάβαση από τη βελτιστοποίηση μεμονωμένων συστημάτων στη βελτιστοποίηση ολόκληρου του εργοστασίου.

Γιατί χρειάζεται συν-βελτιστοποίηση

Για να αντιμετωπιστεί αυτό, πρέπει να περάσουμε από την ανεξάρτητη βελτιστοποίηση κάθε συστήματος στη συν-βελτιστοποίηση ολόκληρου του εργοστασίου. Η φυσική κατασκευή επιβάλλει τη διαδοχική λήψη αποφάσεων: σχεδιάζεται ένα σύστημα, στη συνέχεια κατασκευάζεται ένα άλλο γύρω του και προστίθεται ένα ακόμη για να το υποστηρίξει. Έτσι, γίνεται δύσκολη η βελτιστοποίηση του εργοστασίου ως συνόλου, επειδή κάθε απόφαση περιορίζει τις διαθέσιμες επιλογές για τα συστήματα που ακολουθούν. Για τη συν-βελτιστοποίηση, η διαδικασία πρέπει να μεταφερθεί σε ένα εικονικό περιβάλλον, όπου ολόκληρο το σύστημα μπορεί να μοντελοποιηθεί, να τροποποιηθεί και να αξιολογηθεί προτού οριστικοποιηθεί οτιδήποτε στην πράξη, δημιουργώντας ένα δυναμικό σχέδιο.

Μοντελοποίηση του εργοστασίου πριν από την κατασκευή του

Σε αυτό το σημείο, η τεχνολογία εικονικού διδύμου σε επίπεδο συστήματος γίνεται καθοριστική.

Ένα εικονικό δίδυμο χρησιμοποιεί τυπική μοντελοποίηση συστημάτων για να αναπαραστήσει από κοινού τους υπολογιστικούς πόρους, την ισχύ και τις υποδομές θερμικής διαχείρισης, και μπορεί να μοντελοποιήσει το εργοστάσιο ΤΝ πριν αυτό κατασκευαστεί. Σε αντίθεση με ένα παραδοσιακό ψηφιακό δίδυμο, το οποίο εστιάζει σε ένα υφιστάμενο φυσικό περιουσιακό στοιχείο, ένα εικονικό δίδυμο μπορεί να μοντελοποιήσει ένα σύστημα πριν αυτό υπάρξει στον φυσικό κόσμο. Επιτρέπει στους μηχανικούς να δοκιμάζουν διαφορετικές διαμορφώσεις και να κατανοούν πώς οι αλλαγές σε ένα μέρος του συστήματος επηρεάζουν τα υπόλοιπα, προτού οι επιλογές αυτές δεσμεύσουν τον σχεδιασμό στην πράξη.

Για παράδειγμα, η αύξηση της πυκνότητας των GPU δεν σημαίνει απλώς προσθήκη περισσότερων υπολογιστικών πόρων. Μπορεί να αυξήσει το ηλεκτρικό φορτίο, να αλλάξει τις απαιτήσεις αποβολής θερμότητας, να επηρεάσει τη χωροθέτηση του εξοπλισμού και να δημιουργήσει νέες απαιτήσεις για τη θέση σε λειτουργία. Η από κοινού μοντελοποίηση αυτών των σχέσεων επιτρέπει στους μηχανικούς να αξιολογούν τους συμβιβασμούς πριν από την κατασκευή, αντί να τους ανακαλύπτουν καθώς προχωρά το έργο.

Η τεχνολογία εικονικού διδύμου επιτρέπει στους μηχανικούς να κάνουν ένα δαπανηρό λάθος εικονικά, προτού αυτό μετατραπεί σε δαπανηρό λάθος στον φυσικό κόσμο. Παρέχει έναν τρόπο εντοπισμού πιθανών προβλημάτων και ευκαιριών στο εικονικό περιβάλλον, ώστε οι ομάδες να μπορούν να επιλύουν προβλήματα προτού εμφανιστούν στον φυσικό κόσμο. Η δοκιμή διαμορφώσεων πριν από τη φυσική θέση σε λειτουργία σημαίνει επίσης ότι τα περιττά περιθώρια σχεδιασμού, η αχρησιμοποίητη ισχύς και η σπατάλη λόγω περιθωρίων ασφαλείας μπορούν να εντοπιστούν και να εξαλειφθούν στο στάδιο του σχεδιασμού. Σε μεγάλη κλίμακα, ακόμη και μικρές μειώσεις μπορούν να μεταφραστούν σε εξοικονόμηση κεφαλαίου εκατομμυρίων και σε ταχύτερη πρόσβαση στα έσοδα.

 Κάνοντας το μοντέλο προβλεπτικό

Το μοντέλο μπορεί επίσης να χρησιμοποιεί προσομοίωση βασισμένη στη φυσική για να προβλέπει τη συμπεριφορά του συστήματος. Όταν η υποκείμενη φυσική ή χημεία είναι καλά κατανοητή, τα εργαλεία προσομοίωσης μπορούν να προβλέπουν τη συμπεριφορά του συστήματος. Όταν τα άφθονα λειτουργικά δεδομένα προσφέρουν καλύτερη προσέγγιση, τα μοντέλα ΤΝ και μηχανικής μάθησης μπορούν να συμπληρώνουν αυτές τις προσομοιώσεις.

Το αποτέλεσμα είναι ένα περιβάλλον για τη διερεύνηση της συμπεριφοράς του αλληλοσυνδεόμενου συστήματος και τον συντονισμό αποφάσεων μεταξύ διαφορετικών μηχανικών πεδίων. Το μοντέλο μπορεί επίσης να εξελίσσεται καθώς γίνονται διαθέσιμα λειτουργικά δεδομένα, ώστε τα διδάγματα από μια εγκατάσταση ή έναν κύκλο λειτουργίας να αξιοποιούνται σε μελλοντικά σχέδια και αποφάσεις.

Ένα σχέδιο για το εργοστάσιο ΤΝ

Ο κλάδος ήδη θέτει τα θεμέλια για αυτή την προσέγγιση. Το σχέδιο DSX της NVIDIA καθορίζει έναν σχεδιασμό αναφοράς για εργοστάσια ΤΝ κλίμακας γιγαβάτ. Η NVIDIA ξεκίνησε καθορίζοντας το υπολογιστικό σκέλος αυτού του σχεδίου, αξιοποιώντας τη μοντελοποίηση συστημάτων και μια προσέγγιση προσομοίωσης εικονικού διδύμου. Παράλληλα, προσκαλεί συνεργάτες από το οικοσύστημα που δραστηριοποιούνται στους τομείς της ενέργειας, της ψύξης και των κατασκευών, μεταξύ των οποίων εταιρείες όπως οι Eaton, Vertiv και Jacobs, να συνεισφέρουν τα δικά τους τμήματα του σχεδιασμού. Η διαλειτουργικότητα των σχεδίων αναφοράς διασφαλίζεται μέσω του SysML , το οποίο υποστηρίζει τον ορισμό σε επίπεδο συστήματος, ενώ το OpenUSD παρέχει τη βάση για δεδομένα με επίκεντρο το 3D.

Στόχος δεν είναι κάθε εταιρεία να βελτιστοποιεί το δικό της εξάρτημα και κατόπιν να αναμένει ότι όλα τα επιμέρους στοιχεία θα συνεργάζονται αρμονικά. Η τεχνογνωσία στους τομείς της υπολογιστικής ισχύος, της ενέργειας, της ψύξης και των εγκαταστάσεων πρέπει να συνδυαστεί, ώστε κάθε κορυφαία τεχνολογία να συμβάλλει στην απόδοση ολόκληρου του συστήματος.

Κάθε κλάδος μπορεί να βελτιστοποιεί τις λειτουργίες του στο δικό του πεδίο, αλλά για τη δημιουργία ενός ισχυρού τελικού προϊόντος απαιτείται η από κοινού βελτιστοποίηση αυτών των συστημάτων. Καθώς αυτή η προσέγγιση ωριμάζει, επιτρέπει επίσης στις υποδομές ΤΝ να ξεπεράσουν τα μεμονωμένα, εφάπαξ πιλοτικά έργα και να εξελιχθούν σε συστήματα επιχειρησιακής κλίμακας, ικανά να διαχειρίζονται ιδιαίτερα σύνθετα λειτουργικά περιβάλλοντα.

Βελτιστοποίηση του εργοστασίου, όχι μόνο της GPU

Η GPU θα παραμείνει καθοριστική για την απόδοση των εργοστασίων ΤΝ. Ωστόσο, η αγορά των καλύτερων GPU δεν αρκεί από μόνη της για να βελτιστοποιηθεί το εργοστάσιο γύρω από αυτές. Η επόμενη γενιά υποδομών ΤΝ θα βασίζεται στον σχεδιασμό της υπολογιστικής ισχύος, της ενέργειας και των θερμικών συστημάτων ως ενός ενιαίου, ολοκληρωμένου συστήματος, στη μοντελοποίηση των μεταξύ τους σχέσεων προτού ληφθούν σημαντικές αποφάσεις για φυσικές εγκαταστάσεις και στη συνεχή αξιοποίηση όσων μαθαίνει το σύστημα για τη βελτίωση των επόμενων λύσεων. Δεν μπορούμε να προβλέψουμε το μέλλον ή να αποτρέψουμε κάθε λάθος, αλλά η τεχνολογία εικονικών διδύμων μπορεί να βοηθήσει τις ομάδες να σχεδιάζουν λαμβάνοντας υπόψη την αβεβαιότητα και να βελτιστοποιούν τα εργοστάσια ΤΝ ως συστήματα.