Γιατί η Επόμενη Φάση της Υποδομής του AI Θα Απαιτήσει Περισσότερα από Υπερκλίμακες Κέντρα Δεδομένων

Το τεχνητό νοημοσύνη εισέρχεται σε μια περίοδο όπου η στρατηγική υποδομής γίνεται αδιαχώριστη από την ικανότητα του μοντέλου. Για χρόνια, τα υπερκλίμακες κέντρα δεδομένων έχουν ενισχύσει την άνοδο της μεγάλης κλίμακας εκπαίδευσης, επιτρέποντας στα μοντέλα να αυξηθούν από εκατομμύρια σε τρισεκατομμύρια παραμέτρους. Αλλά καθώς η υιοθέτηση του AI επιταχύνεται σε επιχειρήσεις, βιομηχανίες και συστήματα σε πραγματικό χρόνο, η εύρεση αντικαθιστά την εκπαίδευση ως την κυρίαρχη φόρτωση εργασίας, και η εύρεση έχει θεμελιωδώς διαφορετικές απαιτήσεις.

Η επόμενη εποχή του AI δεν μπορεί να υποστηριχθεί μόνο από υπερκλίμακες εγκαταστάσεις. Αντίθετα, ένα υβριδικό μοντέλο εμφανίζεται όπου κεντρικά campus για εκπαίδευση συμπληρώνονται από κατανεμημένα, εξοπλισμένα με ενέργεια, εμπορικής κλίμακας κέντρα δεδομένων για εύρεση. Αυτή η μετατόπιση οφείλεται σε περιορισμούς καθυστέρησης, ανάγκες κυριαρχίας δεδομένων, ενεργειακές πραγματικότητες και τα φυσικά όρια της συνεχούς υπερκλίμακας επέκτασης.

Η Απόκλιση της Εκπαίδευσης και της Εύρεσης

Η εκπαίδευση παραμένει μια κεντρική δραστηριότητα. Απαιτεί τεράστιους кластер, υψηλής ταχύτητας αγωγούς δεδομένων και εργασίες μεγάλης διάρκειας που επωφελούνται από οικονομίες κλίμακας. Τα υπερκλίμακες campus είναι βελτιστοποιημένα για αυτό με πυκνή υπολογιστική, εξειδικευμένα δίκτυα και παγκόσμια διαθεσιμότητα. Αλλά η εύρεση συμπεριφέρεται διαφορετικά. Είναι βραχύχρονη, υψηλής όγκου, ευαίσθητη στη καθυστέρηση και συχνά συνδεδεμένη με γεωγραφία ή επιχειρηματικά όρια. Analyses από Akamai’s πρόσφατο έργο για συστήματα agent δείχνουν ότι οι περισσότερες οργανώσεις στοχεύουν σε υπο-500 χιλιοστοδευτεμβρίου καθυστέρηση για κρίσιμες περιπτώσεις χρήσης του AI, και οι εργασίες πολλαπλών agent συχνά υπερβαίνουν αυτό το όριο απλώς λόγω δικτύου και εκτέλεσης CPU.

Η καθυστέρηση δεν είναι μια αφηρημένη μετρική. Σε ρομποτική και αυτόνομες συστήματα, οι βρόχοι ελέγχου τρέχουν σε 100 έως 1.000 Hz κάθε 1 έως 10 χιλιοστοδευτεμβρίου. Κάθε εξωτερική νοημοσύνη πρέπει να σεβαστεί αυτές τις χρονικές περιορισμούς. Ένα γύρος 50 χιλιοστοδευτεμβρίου σε ένα μακρινό κέντρο δεδομένων σπάει完全 το καθεστώς ελέγχου. Στις χρηματοοικονομικές συναλλαγές και την ανίχνευση απάτης, τα χιλιοστοδευτεμβρίου καθορίζουν οικονομικά αποτελέσματα. Στην βιομηχανική αυτοματοποίηση, η καθυστερημένη εύρεση μπορεί να αdestabilize τις διαδικασίες ή να危險σει την ασφάλεια. Και στις διαδραστικές εμπειρίες όπως τα βιντεοπαιχνίδια, AR/VR και συναδέλφους σε πραγματικό χρόνο, η απόκριση μειώνεται δραματικά πάνω από 100 έως 150 χιλιοστοδευτεμβρίου.

Τα σύγχρονα συστήματα AI εξαρτώνται όλο και περισσότερο από εργασίες πολλαπλών agent που αποτελούνται από αλυσίδες δεκάδων συνεχόμενων κλήσεων. Η ανάλυση του Akamai δείχνει ότι η εκτέλεση CPU μπορεί να αντιπροσωπεύει την πλειοψηφία της συνολικής καθυστέρησης, και κάθε δικτυακή κυκλοφορία προστίθεται σε επιπλέον καθυστέρηση. Μια εργασία με 50 συνεχόμενες κλήσεις μπορεί να υποστεί δευτερόλεπτα καθυστέρησης μεταφοράς όταν διαβιβάζεται σε μια μακρινή υπερκλίμακα περιοχή. Τοποθετήστε αυτήν την εργασία σε ένα hyperlocal κέντρο δεδομένων που βρίσκεται στην ίδια περιοχή ή σε μια μητροπολιτική περιοχή και η φυσική πραγματικότητα αλλάζει. Η τοπική εύρεση μπορεί να προσφέρει 1 έως 5 χιλιοστοδευτεμβρίου καθυστέρηση γύρου. Μια εργασία 50 βημάτων που θα πάρει δευτερόλεπτα σε μια μακρινή περιοχή μπορεί να ολοκληρωθεί σε 50 έως 250 χιλιοστοδευτεμβρίου τοπικά, παραμένοντας εντός των προϋπολογισμών καθυστέρησης της επιχείρησης.

Η Κυριαρχία Δεδομένων και οι Πραγματικότητες του Πλέγματος που Οδηγούν σε Τοπικές Εγκαταστάσεις

Η καθυστέρηση είναι μόνο ένα μέρος της ιστορίας. Για ρυθμιζόμενες βιομηχανίες όπως η υγεία, οι χρηματοοικονομικές και ο δημόσιος τομέας, η κυριαρχία δεδομένων είναι συχνά ο основικός οδηγός για την τοπική εύρεση. Η εκτέλεση φόρτων εργασίας AI πίσω από einen entreprise πυροσβεστήρα διατηρεί τα υπάρχοντα περιμέτρημα ασφαλείας, μειώνει την έκθεση σε πολλούς μισθωτές, απλοποιεί την συμμόρφωση και διατηρεί ευαίσθητα δεδομένα εκτός κοινοποιημένης υποδομής cloud. Οι υπερκλίμακες παρόχοι προσφέρουν ισχυρή ασφάλεια, αλλά η επιφάνεια επίθεσης και η αλυσίδα εμπιστοσύνης είναι εγγενώς ευρύτερη. Οι επιχειρήσεις προτιμούν όλο και περισσότερο αρχιτεκτονικές εύρεσης που συμμορφώνονται με την υπάρχουσα στάση ασφαλείας τους.

Εκτός από τις ανησυχίες σχετικά με την καθυστέρηση και την ασφάλεια, η διαθεσιμότητα ενέργειας γίνεται όλο και περισσότερο σημαντικός περιορισμός. Τα μεγάλα υπερκλίμακες campus συχνά αντιμετωπίζουν πολυετείς καθυστερήσεις λόγω περιορισμών μεταφοράς και ουρών διασύνδεσης. Τα μικρότερα εμπορικής κλίμακας εγκαταστάσεις, ιδίως αυτά που βρίσκονται κοντά σε υπάρχουσες φορτίσεις ή κατανεμημένη παραγωγή, μπορούν συχνά να ενεργοποιηθούν πολύ γρηγορότερα. Αυτό έχει σημασία επειδή η ζήτηση AI συγκρούεται με ένα περίεργο παράδοξο.

Την ίδια στιγμή που οι оперάτορες αγωνίζονται να εξασφαλίσουν νέες συνδέσεις στο δίκτυο, τεράστιες ποσότητες ανανεώσιμης ενέργειας απορρίπτονται. Παγκοσμίως, η απόρριψη ανανεώσιμης ενέργειας υπερβαίνει τα 200 terawatt-ώρες ανά έτος. στις Ηνωμένες Πολιτείες, η απόρριψη εκτιμάται σε περίπου 20 terawatt-ώρες ετησίως. ERCOT μόνο απορρίπτει πάνω από 9 terawatt-ώρες ανέμου και ηλιακής παραγωγής σε ένα πρόσφατο έτος. Εν τω μεταξύ CAISO απέρριψε 3.4 terawatt-ώρες ηλιακής και ανεμογεννήτριας ενέργειας το 2024, με την ηλιακή ενέργεια να αντιπροσωπεύει το 93% όλων των απορριπτόμενων εξόδων. Οι ενεργειακές επιθεωρήσεις δείχνουν συνεχώς ότι τόσο η ηλιακή όσο και η ανεμογεννήτρια ενέργεια αντιμετωπίζουν σημαντική απόρριψη όταν η παραγωγή υπερβαίνει την ικανότητα του δικτύου. Η απόρριψη ηλιακής ενέργειας είναι ιδιαίτερα συχνή σε περιοχές με ισχυρά μεσημεριανά πίκα, ενώ η απόρριψη ανεμογεννήτριας ενέργειας συχνά συμβαίνει κατά τις ώρες αιχμής ή σε περιορισμένες διαδρομές. Τα κατανεμημένα κέντρα δεδομένων που βρίσκονται κοντά στη παραγωγή, ιδίως σε περιοχές πλούσιες σε ηλιακή ενέργεια, μπορούν να μετατρέψουν την απορριπτόμενη ενέργεια σε χρήσιμη ικανότητα εύρεσης.

Τα υπερκλίμακες campus θα παραμείνουν απαραίτητα για την εκπαίδευση, αλλά αντιμετωπίζουν αυξανόμενα φυσικά και οικονομικά όρια. Η σύνδεση στο δίκτυο μεταφοράς μπορεί να είναι μια μακρά διαδικασία, απαιτεί νέες υποσταθμούς, αναβαθμίσεις μεταφοράς, πολλαπλάς αδειών και επανεξέταση της κοινότητας. Αυτά είναι διαδικασίες που συνήθως διαρκούν χρόνια. Τα υπερκλίμακες εγκαταστάσεις απαιτούν μεγάλες ποδιές γης, σημαντικές ποσότητες νερού και σύνθετες περιβαλλοντικές εγκρίσεις. Οι κοινότητες είναι όλο και περισσότερο αντίθετες στην ανάπτυξη νέων κέντρων δεδομένων λόγω θορύβου, χρήσης νερού και επίδρασης στη γη. Και τα κεντρικά campus συγκεντρώνουν τον κίνδυνο τέτοιος τρόπος που καιρικά γεγονότα, διακοπές δικτύου ή γεωπολιτικές διαταραχές μπορούν να επηρεάσουν μεγάλα τμήματα της παγκόσμιας ικανότητας υπολογισμού. Οι κατανεμημένες αρχιτεκτονικές παρέχουν γεωγραφική αταξία και λειτουργική ανθεκτικότητα.

Το Μέλλον είναι μια Πολυεπίπεδη Αρχιτεκτονική AI

Όταν πρόκειται για την εύρεση της ικανότητας υπολογισμού, η αποδοτικότητα μπορεί να γίνει τόσο σημαντική όσο και η сырая ικανότητα. Η εύρεση καταναλώνει ενέργεια συνεχώς, και οι αναλυτές της βιομηχανίας προτείνουν ότι η εύρεση μπορεί τελικά να αντιπροσωπεύει την πλειοψηφία της κατανάλωσης ενέργειας του AI. Οι κέρδη αποδοτικότητας από την τοπική ενσωμάτωση ανανεώσιμης ενέργειας, τη μείωση των απωλειών μεταφοράς, τις σωστές διαστάσεις των εγκαταστάσεων, τα βελτιωμένα θερμικά προφίλ και τις υψηλότερες ποσοστιαίες利用率 θα γίνουν απαραίτητα για την ικανοποίηση της παγκόσμιας ζήτησης AI με βιώσιμο τρόπο. Τα κατανεμημένα εμπορικής κλίμακας κέντρα δεδομένων είναι καλά τοποθετημένα για να προσφέρουν αυτά τα κέρδη επειδή μπορούν να τοποθετηθούν όπου η ενέργεια είναι άφθονη, φθηνή ή υποαπασχολούμενη.

Η επόμενη φάση της υποδομής του AI θα είναι ένα υβριδικό μείγμα υπερκλίμακων campus που κυριαρχούν στην εκπαίδευση, κατανεμημένων εμπορικής κλίμακας κέντρων δεδομένων που εξυπηρετούν την εύρεση, και συσκευών περιφέρειας που εξυπηρετούν υπερτοπικές φόρτεις εργασίας. Αυτή η πολυεπίπεδη αρχιτεκτονική αντανακλά τις φυσικές πραγματικότητες της ενέργειας, της καθυστέρησης, της ασφάλειας και της κλίμακας. Όπως το AI γίνεται ενσωματωμένο σε συστήματα σε πραγματικό χρόνο σε κάθε βιομηχανία, η υποδομή πρέπει να εξελιχθεί ανάλογα για να φέρει την εύρεση πιο κοντά στον κόσμο που εξυπηρετεί.