Ηγέτες σκέψης

Γιατί η Επόμενη Φάση της Υποδομής του AI Θα Απαιτήσει Περισσότερα από Υπερκλίμακες Κέντρα Δεδομένων

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google

Η τεχνητή νοημοσύνη μπαίνει σε μια περίοδο όπου η στρατηγική υποδομών γίνεται αδιαχώριστη από τις δυνατότητες των μοντέλων. Για χρόνια, τα κέντρα δεδομένων υπερμεγάλης κλίμακας υποστήριξαν την ανάπτυξη εκπαίδευσης μεγάλης κλίμακας, επιτρέποντας στα προηγμένα μοντέλα να περάσουν από εκατομμύρια σε τρισεκατομμύρια παραμέτρους. Καθώς όμως επιταχύνεται η υιοθέτηση AI σε επιχειρήσεις, βιομηχανίες και συστήματα πραγματικού χρόνου, η εκτέλεση μοντέλων για παραγωγή αποτελεσμάτων αντικαθιστά την εκπαίδευση ως κυρίαρχος φόρτος εργασίας, και έχει θεμελιωδώς διαφορετικές απαιτήσεις.

Η επόμενη εποχή της AI δεν μπορεί να στηριχθεί αποκλειστικά σε εγκαταστάσεις υπερμεγάλης κλίμακας. Αναδύεται ένα υβριδικό μοντέλο, όπου κεντρικά συγκροτήματα εκπαίδευσης συμπληρώνονται από κατανεμημένα κέντρα δεδομένων εμπορικής κλίμακας για εκτέλεση μοντέλων, προσαρμοσμένα στη διαθεσιμότητα ενέργειας. Τη μετατόπιση οδηγούν περιορισμοί καθυστέρησης, απαιτήσεις κυριαρχίας δεδομένων, ενεργειακές συνθήκες και τα φυσικά όρια της συνεχιζόμενης επέκτασης υπερμεγάλων εγκαταστάσεων.

Οι διαφορετικές ανάγκες εκπαίδευσης και εκτέλεσης μοντέλων

Η εκπαίδευση παραμένει συγκεντρωτική δραστηριότητα. Χρειάζεται τεράστιες συστοιχίες υπολογιστικών πόρων, αγωγούς δεδομένων υψηλής ταχύτητας και εργασίες μεγάλης διάρκειας που ωφελούνται από οικονομίες κλίμακας. Τα υπερμεγάλα συγκροτήματα είναι σχεδιασμένα γι’ αυτό, με πυκνή υπολογιστική ισχύ, εξειδικευμένα δίκτυα διασύνδεσης και παγκόσμια διαθεσιμότητα. Η εκτέλεση για παραγωγή αποτελεσμάτων, όμως, λειτουργεί διαφορετικά: σύντομες εργασίες μεγάλου όγκου, ευαίσθητες στην καθυστέρηση και συχνά συνδεδεμένες με γεωγραφικά ή επιχειρησιακά όρια. Αναλύσεις από πρόσφατη εργασία της Akamai για συστήματα πρακτόρων δείχνουν ότι οι περισσότεροι οργανισμοί στοχεύουν πλέον σε συνολική καθυστέρηση κάτω από 500 χιλιοστά του δευτερολέπτου για κρίσιμες χρήσεις AI. Οι ροές πολλαπλών πρακτόρων συχνά υπερβαίνουν αυτό το όριο μόνο λόγω μεταφοράς μέσω δικτύου και εκτέλεσης στην πλευρά της CPU.

Η καθυστέρηση δεν είναι αφηρημένος δείκτης. Στη ρομποτική και τα αυτόνομα συστήματα, οι βρόχοι ελέγχου συχνά λειτουργούν στα 100–1.000 hertz, δηλαδή κάθε 1–10 χιλιοστά του δευτερολέπτου. Κάθε νοημοσύνη που εκτελείται έξω από τη συσκευή πρέπει να τηρεί αυτούς τους χρονικούς περιορισμούς. Μια επικοινωνία μετ’ επιστροφής 50 χιλιοστών του δευτερολέπτου προς μακρινό κέντρο δεδομένων ανατρέπει εντελώς αυτή τη λειτουργία ελέγχου. Στις χρηματοοικονομικές συναλλαγές και την ανίχνευση απάτης, τα χιλιοστά του δευτερολέπτου καθορίζουν οικονομικά αποτελέσματα. Στη βιομηχανική αυτοματοποίηση, η καθυστερημένη εκτέλεση μοντέλων μπορεί να αποσταθεροποιήσει διαδικασίες ή να θέσει σε κίνδυνο την ασφάλεια. Σε διαδραστικές εμπειρίες, όπως παιχνίδια, επαυξημένη ή εικονική πραγματικότητα και βοηθούς πραγματικού χρόνου, η απόκριση υποβαθμίζεται έντονα πάνω από 100–150 χιλιοστά του δευτερολέπτου.

Τα σύγχρονα συστήματα AI βασίζονται όλο και περισσότερο σε ροές πολλαπλών πρακτόρων με αλυσίδες δεκάδων διαδοχικών κλήσεων. Η ανάλυση της Akamai δείχνει ότι η εκτέλεση στην CPU μπορεί να αντιπροσωπεύει το μεγαλύτερο μέρος της συνολικής καθυστέρησης, ενώ κάθε διαδρομή μετ’ επιστροφής στο δίκτυο προσθέτει χρόνο. Μια ροή με 50 διαδοχικές κλήσεις μπορεί να επιβαρύνεται με δευτερόλεπτα καθυστέρησης μεταφοράς όταν δρομολογείται σε μακρινή περιοχή υπερμεγάλου κέντρου δεδομένων. Αν η ίδια ροή τοποθετηθεί σε πολύ κοντινό κέντρο δεδομένων, στο ίδιο συγκρότημα εγκαταστάσεων ή στη μητροπολιτική περιοχή, οι φυσικές συνθήκες αλλάζουν. Η τοπική εκτέλεση μπορεί να προσφέρει καθυστέρηση μετ’ επιστροφής 1–5 χιλιοστών του δευτερολέπτου. Μια ροή 50 βημάτων που θα απαιτούσε δευτερόλεπτα σε μακρινή περιοχή μπορεί να ολοκληρωθεί τοπικά σε 50–250 χιλιοστά του δευτερολέπτου, μέσα στα όρια καθυστέρησης της επιχείρησης.

Κυριαρχία δεδομένων και συνθήκες ηλεκτρικού δικτύου οδηγούν σε τοπικές εγκαταστάσεις

Η καθυστέρηση είναι μόνο μέρος της εικόνας. Σε ρυθμιζόμενους τομείς, όπως υγεία, χρηματοοικονομικές υπηρεσίες και δημόσιο, η κυριαρχία δεδομένων είναι συχνά ο κύριος λόγος τοπικής εκτέλεσης μοντέλων. Η εκτέλεση φόρτων AI πίσω από το εταιρικό τείχος προστασίας διατηρεί την υπάρχουσα περίμετρο ασφαλείας, μειώνει την έκθεση από κοινή υποδομή πολλών πελατών, απλοποιεί τη συμμόρφωση και κρατά ευαίσθητα δεδομένα εκτός κοινόχρηστου cloud. Οι πάροχοι υπερμεγάλης κλίμακας προσφέρουν ισχυρή ασφάλεια, αλλά η επιφάνεια επίθεσης και η αλυσίδα εμπιστοσύνης είναι εγγενώς ευρύτερες. Οι επιχειρήσεις προτιμούν όλο και περισσότερο αρχιτεκτονικές εκτέλεσης που συμβαδίζουν με τη δική τους προσέγγιση ασφάλειας.

Πέρα από καθυστέρηση και ασφάλεια, η διαθεσιμότητα ηλεκτρικής ισχύος γίνεται εξίσου σημαντικός περιορισμός. Μεγάλα συγκροτήματα κέντρων δεδομένων αντιμετωπίζουν συχνά πολυετείς καθυστερήσεις λόγω περιορισμών μεταφοράς και ουρών αναμονής για σύνδεση στο δίκτυο. Μικρότερες εγκαταστάσεις εμπορικής κλίμακας, ιδίως κοντά σε υπάρχοντα φορτία ή κατανεμημένη παραγωγή, συχνά μπορούν να ηλεκτροδοτηθούν πολύ ταχύτερα. Αυτό έχει σημασία επειδή η ζήτηση AI συναντά ένα παράδοξο.

Την ίδια στιγμή που οι διαχειριστές δυσκολεύονται να εξασφαλίσουν νέες συνδέσεις στο δίκτυο, περικόπτονται τεράστιες ποσότητες παραγωγής από ανανεώσιμες πηγές. Παγκοσμίως, οι περικοπές παραγωγής ανανεώσιμης ενέργειας υπερβαίνουν πλέον τις 200 τεραβατώρες τον χρόνο. Στις ΗΠΑ εκτιμώνται σε περίπου 20 τεραβατώρες ετησίως. Μόνο το ERCOT περιέκοψε πάνω από 9 τεραβατώρες αιολικής και ηλιακής παραγωγής σε πρόσφατο έτος. Το CAISO περιέκοψε 3,4 τεραβατώρες ηλιακής και αιολικής παραγωγής το 2024, με την ηλιακή ενέργεια να αντιστοιχεί στο 93% του συνόλου. Οι έρευνες ενεργειακών συστημάτων δείχνουν σταθερά ότι ηλιακή και αιολική παραγωγή υφίστανται σημαντικές περικοπές όταν υπερβαίνουν τη δυνατότητα του δικτύου. Οι ηλιακές περικοπές είναι ιδιαίτερα συχνές σε περιοχές με ισχυρή μεσημεριανή αιχμή, ενώ οι αιολικές συχνά συμβαίνουν εκτός ωρών αιχμής ή σε διαδρόμους μεταφοράς με περιορισμούς. Κατανεμημένα κέντρα δεδομένων κοντά στην παραγωγή, ιδίως σε περιοχές πλούσιες σε ηλιακή ενέργεια, μπορούν να μετατρέπουν αναξιοποίητη ενέργεια σε χρήσιμη υπολογιστική δυναμικότητα για AI.

Τα υπερμεγάλα συγκροτήματα θα παραμείνουν απαραίτητα για την εκπαίδευση, αλλά αντιμετωπίζουν αυξανόμενα φυσικά και οικονομικά όρια. Η σύνδεση στο δίκτυο μεταφοράς μπορεί να διαρκέσει πολύ: απαιτεί νέους υποσταθμούς, αναβαθμίσεις μεταφοράς, αδειοδοτήσεις από πολλούς φορείς και εξέταση από την τοπική κοινότητα. Οι διαδικασίες αυτές συνήθως παίρνουν χρόνια. Οι εγκαταστάσεις χρειάζονται μεγάλες εκτάσεις, σημαντική κατανομή υδάτινων πόρων και σύνθετες περιβαλλοντικές εγκρίσεις. Οι τοπικές κοινότητες αντιδρούν όλο και περισσότερο σε νέα κέντρα δεδομένων λόγω θορύβου, κατανάλωσης νερού και επιπτώσεων στη γη. Επιπλέον, τα κεντρικά συγκροτήματα συγκεντρώνουν τον κίνδυνο: καιρικά φαινόμενα, διακοπές ηλεκτροδότησης ή γεωπολιτικές αναταράξεις μπορούν να επηρεάσουν μεγάλα τμήματα της παγκόσμιας υπολογιστικής δυναμικότητας. Οι κατανεμημένες αρχιτεκτονικές προσφέρουν γεωγραφική εφεδρεία και λειτουργική ανθεκτικότητα.

Το μέλλον είναι μια πολυεπίπεδη αρχιτεκτονική AI

Για την ομαλή εκτέλεση μοντέλων, η αποδοτικότητα μπορεί να γίνει εξίσου σημαντική με την απόλυτη υπολογιστική δυναμικότητα. Η εκτέλεση καταναλώνει ενέργεια συνεχώς και αναλυτές του κλάδου εκτιμούν ότι μπορεί τελικά να αντιπροσωπεύει το μεγαλύτερο μέρος της ενεργειακής κατανάλωσης AI. Η τοπική ενσωμάτωση ανανεώσιμων πηγών, οι μικρότερες απώλειες μεταφοράς, η κατάλληλη διαστασιολόγηση εγκαταστάσεων, τα καλύτερα θερμικά χαρακτηριστικά και τα υψηλότερα ποσοστά αξιοποίησης θα είναι απαραίτητα για βιώσιμη κάλυψη της παγκόσμιας ζήτησης AI. Τα κατανεμημένα κέντρα δεδομένων εμπορικής κλίμακας μπορούν να προσφέρουν αυτά τα οφέλη, επειδή τοποθετούνται εκεί όπου η ενέργεια είναι άφθονη, φθηνή ή ανεπαρκώς αξιοποιημένη.

Η επόμενη φάση υποδομών AI θα συνδυάζει υπερμεγάλα συγκροτήματα που κυριαρχούν στην εκπαίδευση, κατανεμημένα κέντρα δεδομένων εμπορικής κλίμακας για εκτέλεση μοντέλων και συσκευές στην περιφέρεια του δικτύου για αυστηρά τοπικές εργασίες. Αυτή η πολυεπίπεδη αρχιτεκτονική αντανακλά τις φυσικές συνθήκες ηλεκτρικής ισχύος, καθυστέρησης, ασφάλειας και κλίμακας. Καθώς η AI ενσωματώνεται σε συστήματα πραγματικού χρόνου κάθε κλάδου, οι υποδομές πρέπει να εξελίσσονται αντίστοιχα, φέρνοντας την εκτέλεση πιο κοντά στον κόσμο που εξυπηρετεί.

Ο Jeff Thramann, M.D. είναι εφευρέτης και σειριακός επιχειρηματίας που έχει αναφερθεί σε περισσότερες από 130 πατέντες και έχει ιδρύσει και εξοικονόμησε έξι εταιρείες. Ως ιδρυτής και διευθύνων σύμβουλος της LT350, είναι γιατρός-επιχειρηματίας και στρατηγικός σύμβουλος υποδομής AI που επικεντρώνεται σε κατανεμημένες αρχιτεκτονικές υπολογισμού και σχεδιασμό κέντρου δεδομένων της επόμενης γενιάς που αξιοποιεί την υπάρχουσα υποδομή για να ελαττώσει τις επιπτώσεις των κέντρων δεδομένων.