Denise Muyco, Συνιδρύτρια και διευθύνουσα σύμβουλος της RAVEL – Σειρά συνεντεύξεων

Η Denise Muyco είναι συνιδρύτρια και διευθύνουσα σύμβουλος της RAVEL, όπου ηγείται της ανάπτυξης λογισμικού ενορχήστρωσης για σύνθετες υποδομές υπολογιστικής ισχύος και ΤΝ. Ως εκπαιδευμένη μηχανικός, έχει διαγράψει πορεία στους τομείς των ενεργειακών υποδομών, της βελτιστοποίησης διαδικασιών, των ψηφιακών μέσων, των κέντρων δεδομένων και των εικονικών στούντιο. Πριν στραφεί στην ΤΝ, συνέβαλε στην ανάπτυξη κοινόχρηστης υποδομής υπολογιστικής υψηλών επιδόσεων για την κοινότητα οπτικών εφέ του Βανκούβερ, παρέχοντας σε περίπου 30 στούντιο πρόσβαση σε υπολογιστικούς πόρους και ασφαλή συνδεσιμότητα. Αυτή η εμπειρία διαμόρφωσε την προσέγγισή της στον συντονισμό δαπανηρών πόρων με περιορισμένη διαθεσιμότητα. Στη RAVEL, εφαρμόζει μια οπτική μηχανικής συστημάτων στην κατανομή των φόρτων εργασίας, την αξιοποίηση των υποδομών, τη διαλειτουργικότητα και τις αυξανόμενες απαιτήσεις των κατανεμημένων και κυρίαρχων περιβαλλόντων ΤΝ.

Η RAVEL αναπτύσσει λογισμικό που βοηθά τους οργανισμούς να αναπτύσσουν, να διαχειρίζονται και να κλιμακώνουν φόρτους εργασίας υπολογιστικής ισχύος και ΤΝ σε υποδομές cloud, εσωτερικής εγκατάστασης και υβριδικές. Στα προϊόντα της περιλαμβάνονται τα RAVEL Orchestrate για εικονικούς σταθμούς εργασίας υψηλών επιδόσεων, RAVEL Orchestrate AI για την αυτοματοποίηση και τη βελτιστοποίηση φόρτων εργασίας, καθώς και το Boost για την αδειοδότηση λογισμικού και την τηλεμετρία. Τα εργαλεία της εταιρείας διασυνδέουν υποδομές, εφαρμογές, εικονικοποίηση και ασφάλεια, παρέχοντας παράλληλα κεντρικούς ελέγχους και εποπτεία των λειτουργιών. Η RAVEL εξυπηρετεί κέντρα δεδομένων, παρόχους υπηρεσιών, ομάδες εταιρικής πληροφορικής, ερευνητικές ομάδες ΤΝ και δημιουργικά στούντιο. Αξιοποιώντας τις ρίζες της στη δημιουργία ψηφιακού περιεχομένου, η εταιρεία εστιάζει στην απλοποίηση σύνθετων περιβαλλόντων και στη βελτίωση της αξιοποίησης των διαθέσιμων υποδομών από τις ομάδες.

Ιδρύσατε τη RAVEL έπειτα από χρόνια εργασίας στο σημείο τομής της μηχανικής, των υποδομών μέσων και της κατανεμημένης υπολογιστικής. Τι σας οδήγησε τελικά στην ίδρυση της εταιρείας και πώς εξελίχθηκε η αποστολή της RAVEL, καθώς η γενετική ΤΝ αύξησε δραματικά τη ζήτηση για υπολογιστική ισχύ;

Είμαι μηχανικός ως προς την εκπαίδευση και εργάζομαι στο σημείο τομής της ενέργειας, της υπολογιστικής ισχύος και των υποδομών πολύ πριν από τη σημερινή έκρηξη της ΤΝ. Στην αρχή της σταδιοδρομίας μου, έκανα πρακτική άσκηση σε πυρηνικό σταθμό παραγωγής ενέργειας, ενώ αργότερα η εργασία μου στα μέσα και στα οπτικά εφέ με έφερε σε επαφή με τις GPU, τις υψηλές απαιτήσεις υπολογιστικής ισχύος και τους περιορισμούς των φυσικών υποδομών.

Πριν από περίπου 16 χρόνια, η αναπτυσσόμενη βιομηχανία οπτικών εφέ του Βανκούβερ ερχόταν αντιμέτωπη με αυτούς τους περιορισμούς. Τα στούντιο χρειάζονταν τεράστια υπολογιστική ισχύ υψηλών επιδόσεων για να επεξεργάζονται (ή να αποδίδουν) ολοένα πιο σύνθετο κινηματογραφικό και τηλεοπτικό περιεχόμενο για έργα υψηλής αξίας, αλλά ελάχιστα μπορούσαν να δικαιολογήσουν την κατασκευή επαρκών αποκλειστικών υποδομών για την κάλυψη της μέγιστης ζήτησης σε ασφαλές περιβάλλον. Περιοριστικός παράγοντας γινόταν και η ηλεκτρική ισχύς. Αναπτύξαμε κοινόχρηστη υποδομή που παρείχε σε περίπου 30 στούντιο πρόσβαση σε υπολογιστική υψηλών επιδόσεων και ασφαλή συνδεσιμότητα υψηλού εύρους ζώνης.

Η κοινή χρήση υποδομών έλυσε ένα πρόβλημα, αλλά δημιούργησε ένα άλλο: πώς κατανέμονται αποτελεσματικά οι δαπανηροί πόροι με περιορισμένη διαθεσιμότητα μεταξύ διαφορετικών οργανισμών και φόρτων εργασίας; Αυτή η εμπειρία οδήγησε τελικά στην προσέγγιση της RAVEL για την έξυπνη ενορχήστρωση υποδομών.

Η ΤΝ αποτελεί μια πολύ μεγαλύτερη εκδοχή της ίδιας θεμελιώδους πρόκλησης, με πολύ μεγαλύτερη πολυπλοκότητα και πολύ περισσότερα κεφάλαια να διακυβεύονται. Οι φόρτοι εργασίας και οι υποδομές έχουν αλλάξει, αλλά η ανάγκη για αποτελεσματική συνεργασία των δαπανηρών πόρων με περιορισμένη διαθεσιμότητα έχει γίνει ακόμη πιο σημαντική.

Πριν από τη RAVEL, συμβάλατε στη δημιουργία μιας κοινοπραξίας περίπου 30 στούντιο του Βανκούβερ, χώρων κινηματογραφικών γυρισμάτων, εταιρειών παραγωγής και εταιρειών οπτικών εφέ, που μπορούσαν να μοιράζονται την πρόσβαση σε υποδομές υπολογιστικής υψηλών επιδόσεων. Τι σας δίδαξε αυτή η εμπειρία για την κατανεμημένη υπολογιστική και ποιες ομοιότητες βλέπετε ανάμεσα στις προκλήσεις απόδοσης εικόνας του Χόλιγουντ τότε και στις σημερινές προκλήσεις υποδομών της βιομηχανίας ΤΝ;

Η εργασία μου στον κλάδο των οπτικών εφέ μού έδειξε ότι η κατασκευή και η διαμόρφωση των υποδομών αποτελούσαν μόνο τη μισή πρόκληση. Η δαπανηρή υπολογιστική ισχύς έπρεπε να διαμοιράζεται με ασφάλεια και να αξιοποιείται αποτελεσματικά, ενώ έπρεπε να συνεργάζονται και οι ευρύτερες υποδομές —μεταξύ άλλων, ένα ασφαλές δίκτυο ικανό να μεταφέρει τεράστια αρχεία. Έπρεπε να προγραμματίζονται οι φόρτοι εργασίας, να κατανέμεται η χωρητικότητα και να μετακινούνται τεράστιοι όγκοι δεδομένων, την ώρα που οι ομάδες παραγωγής επιδίωκαν ολοένα πιο φιλόδοξα αποτελέσματα μέσα σε αυστηρά πλαίσια προϋπολογισμού και προθεσμιών. Οι υποδομές έπρεπε να βελτιστοποιούνται συνεχώς ως προς την αξιοποίηση και τις επιδόσεις.

Η ΤΝ αποτελεί μια πολύ μεγαλύτερη εκδοχή της ίδιας θεμελιώδους πρόκλησης. Οι οργανισμοί επενδύουν σημαντικά σε υποδομές, αλλά η αύξηση της χωρητικότητας από μόνη της δεν εγγυάται την αποτελεσματική αξιοποίηση των δαπανηρών πόρων. Οι υποδομές ΤΝ κατανέμονται ολοένα περισσότερο σε διαφορετικές τοποθεσίες, παρόχους και περιβάλλοντα, λόγω παραγόντων όπως η ενέργεια, η χωρητικότητα, η ασφάλεια, τα οικονομικά δεδομένα, η γεωγραφία, οι κανονιστικές απαιτήσεις και οι απαιτήσεις κυριαρχίας. Η απόδοση εικόνας και η ΤΝ μπορεί να αφορούν πολύ διαφορετικούς φόρτους εργασίας, όμως αντιμετωπίζουν μια σημαντική κοινή πρόκληση όσον αφορά τις υποδομές και το οικοσύστημα: και οι δύο εξαρτώνται από την αποτελεσματική συνεργασία υπολογιστικής υψηλών επιδόσεων, δικτύωσης, ασφάλειας και αποθήκευσης.

Καθώς οι υποδομές ΤΝ γίνονται πιο σύνθετες, η απλή προσθήκη υπολογιστικής ισχύος δεν επιλύει τη λειτουργική πρόκληση της αποτελεσματικής αξιοποίησης αυτής της χωρητικότητας. Εδώ καθοριστικό ρόλο αποκτούν η ενορχήστρωση και οι πολιτικές που διέπουν το ευρύτερο οικοσύστημα υποδομών. Μαζί, βοηθούν τους οργανισμούς να αξιοποιούν καλύτερα τους δαπανηρούς πόρους με περιορισμένη διαθεσιμότητα, συντονίζοντας παράλληλα τους φόρτους εργασίας σε ολοένα πιο κατανεμημένα περιβάλλοντα.

Η RAVEL αυτοπροσδιορίζεται ως επίπεδο ενορχήστρωσης για κατανεμημένα εργοστάσια τεχνητής νοημοσύνης. Τι σημαίνει για εσάς «εργοστάσιο τεχνητής νοημοσύνης» και τι λείπει σήμερα από τη στοίβα υποδομών, καθιστώντας αναγκαίο ένα επίπεδο ενορχήστρωσης;

Όπως το αντιλαμβάνομαι, ένα εργοστάσιο τεχνητής νοημοσύνης είναι κάτι περισσότερο από GPU και συστοιχίες υψηλών επιδόσεων· είναι ένα ολοκληρωμένο οικοσύστημα υποδομών που συνδυάζει υπολογιστική ισχύ, δικτύωση, αποθήκευση, ασφάλεια, ενέργεια, ψύξη και τα λειτουργικά επίπεδα που απαιτούνται για την εκτέλεση φόρτων εργασίας τεχνητής νοημοσύνης. Τα εργοστάσια τεχνητής νοημοσύνης εξελίσσονται από μεμονωμένες συστοιχίες σε οικοσυστήματα διασυνδεδεμένων πόρων που εκτείνονται σε πολλαπλές εγκαταστάσεις και περιοχές. Αυτή η πολυπλοκότητα γίνεται ολοένα δυσκολότερο να αντιμετωπιστεί χειροκίνητα ή με αποσπασματικές λύσεις για επιμέρους προβλήματα. Ένα επίπεδο ενορχήστρωσης αντιμετωπίζει αυτή την πρόκληση συντονίζοντας τα ποικίλα και σύνθετα στοιχεία της στοίβας και αφαιρώντας μέρος της υποκείμενης πολυπλοκότητας, ώστε οι διαχειριστές να μπορούν να διαχειρίζονται ευκολότερα την υποδομή ως ένα συντονισμένο σύστημα.

Καθώς οι οργανισμοί προσαρμόζουν τα υφιστάμενα κέντρα δεδομένων για την τεχνητή νοημοσύνη, πολλές εγκαταστάσεις δεν είχαν αρχικά σχεδιαστεί με γνώμονα τις απαιτήσεις των σημερινών φόρτων εργασίας τεχνητής νοημοσύνης. Σήμερα, η τεχνητή νοημοσύνη αντιμετωπίζει μια δομική ασυμφωνία που εκδηλώνεται σε τρία βασικά προβλήματα. Το πρώτο είναι η ενέργεια, δηλαδή η εύρεση μιας τοποθεσίας με επαρκή και αξιόπιστη ηλεκτροδότηση για την εκτέλεση φόρτων εργασίας σε μεγάλη κλίμακα. Το δεύτερο είναι ο κατακερματισμός του οικοσυστήματος, καθώς οι στοίβες τεχνητής νοημοσύνης συχνά είναι κατανεμημένες σε απομονωμένα περιβάλλοντα και δεν έχουν σχεδιαστεί ώστε να συνεργάζονται. Το τρίτο είναι η περιορισμένη ορατότητα στο συνολικό κόστος λειτουργίας και ιδιοκτησίας, η οποία μπορεί να αποκρύπτει το πραγματικό κόστος των υποδομών τεχνητής νοημοσύνης. Ως αποτέλεσμα, οι φόρτοι εργασίας ενδέχεται να μην είναι βελτιστοποιημένοι, το υλικό να υποαξιοποιείται και τα απρόβλεπτα λειτουργικά έξοδα να αυξάνουν το συνολικό κόστος ιδιοκτησίας, συμβάλλοντας τελικά σε υψηλότερο κόστος ανά token.

Οι υποδομές τεχνητής νοημοσύνης κατανέμονται ολοένα περισσότερο σε νέφη υπερκλίμακας, ιδιωτικά κέντρα δεδομένων, επιτόπια συστήματα και εξειδικευμένους παρόχους GPU. Ποιες είναι οι μεγαλύτερες προκλήσεις που αντιμετωπίζουν οι οργανισμοί όταν προσπαθούν να διαχειριστούν φόρτους εργασίας τεχνητής νοημοσύνης σε αυτά τα διαφορετικά περιβάλλοντα;

Τα τελευταία χρόνια, η κούρσα για τις υποδομές τεχνητής νοημοσύνης καθοριζόταν από μια απλή παραδοχή: να κατασκευάσουμε μεγαλύτερες υποδομές. Μεγαλύτερα κέντρα δεδομένων. Μεγαλύτερες συστοιχίες. Περισσότερες GPU. Μεγαλύτερη χωρητικότητα. Ωστόσο, το μοντέλο «κατασκευάζουμε μεγαλύτερες υποδομές» προσκρούει ολοένα περισσότερο σε φυσικούς, οικονομικούς και κανονιστικούς περιορισμούς.

Η ενέργεια είναι περιορισμένη. Η πρόσβαση στο ηλεκτρικό δίκτυο απαιτεί χρόνο. Η οικονομία, η γεωγραφία και η κυριαρχία καθορίζουν ολοένα περισσότερο το πού μπορούν και πρέπει να κατασκευαστούν υποδομές. Η νέα πρόκληση δεν είναι απλώς πώς θα κατασκευάσουμε περισσότερες υποδομές τεχνητής νοημοσύνης, αλλά πώς θα δημιουργήσουμε τις κατάλληλες υποδομές στα κατάλληλα σημεία, διασφαλίζοντας παράλληλα ότι όλα αυτά τα περιβάλλοντα λειτουργούν ως ένα συντονισμένο σύστημα. Αυτό είναι ιδιαίτερα δύσκολο όταν η χωρητικότητα κατανέμεται σε νέφη υπερκλίμακας, ιδιωτικά κέντρα δεδομένων, επιτόπιες υποδομές και εξειδικευμένους παρόχους, τα οποία δεν έχουν κατ’ ανάγκη σχεδιαστεί ώστε να λειτουργούν από κοινού.

Η ενέργεια αποτελεί τον σημαντικότερο από αυτούς τους περιορισμούς. Όλο και περισσότερο, η διαθεσιμότητα ενέργειας καθορίζει εξαρχής το πού κατασκευάζονται οι υποδομές τεχνητής νοημοσύνης.

Εδώ γίνεται κρίσιμη η ομοσπονδοποίηση. Συνδέει τις υποδομές σε διαφορετικά περιβάλλοντα, δημιουργώντας ένα κοινό λειτουργικό περιβάλλον. Στη συνέχεια, η ευφυής ενορχήστρωση καθορίζει πού πρέπει να εκτελούνται οι φόρτοι εργασίας, με βάση τη χωρητικότητα, την ενέργεια, τις επιδόσεις, το κόστος, την πολιτική, την ανθεκτικότητα και την κυριαρχία.

Καθώς οι υποδομές τεχνητής νοημοσύνης εξαπλώνονται περαιτέρω, είτε σε διαφορετικές τοποθεσίες είτε σε διαφορετικούς παρόχους, το ανταγωνιστικό πλεονέκτημα δεν θα προκύπτει απλώς από την κατοχή μεγαλύτερης χωρητικότητας. Θα προκύπτει από τη δυνατότητα αξιοποίησής της ως ενιαίου συνόλου. Η ομοσπονδοποίηση δημιουργεί το μοντέλο υποδομών που απαιτεί αυτή η νέα πραγματικότητα, ενώ η ευφυής ενορχήστρωση καθιστά δυνατή την επιχειρησιακή εφαρμογή του μοντέλου σε μεγάλη κλίμακα.

Αυτό είναι το μοντέλο που ακολουθεί ένας από τους πελάτες μας, η RT-One, η οποία αναπτύσσει τα μεγαλύτερα τεχνολογικά πάρκα και κέντρα δεδομένων τεχνητής νοημοσύνης στη Λατινική Αμερική, καθώς σχεδιάζει να αναπτύξει ομοσπονδοποιημένες υποδομές σε ολόκληρη την αμερικανική ήπειρο: συνδέει κατανεμημένη χωρητικότητα, ώστε τελικά να μπορεί να διαχειρίζεται ως ένα συντονισμένο περιβάλλον.

Η έλλειψη GPU έχει λάβει τεράστια δημοσιότητα, αλλά η απλή προσθήκη περισσότερων επιταχυντών δεν συνεπάγεται κατ’ ανάγκη περισσότερη αξιοποιήσιμη υπολογιστική ισχύ για την τεχνητή νοημοσύνη. Πού εντοπίζετε τις μεγαλύτερες πηγές αναποτελεσματικότητας στις σημερινές υποδομές τεχνητής νοημοσύνης και πόση επιπλέον χωρητικότητα θα μπορούσαν να αξιοποιήσουν οι εταιρείες μέσω καλύτερης ενορχήστρωσης;

Η κούρσα για τις υποδομές τεχνητής νοημοσύνης έχει επικεντρωθεί σε μεγάλο βαθμό στο πόσα γιγαβάτ νέας χωρητικότητας σχεδιάζεται να προστεθούν και πόσα κεφάλαια δεσμεύονται για την κατασκευή τους. Είναι δελεαστικό να αντιμετωπίζουμε το πρόβλημα των υποδομών τεχνητής νοημοσύνης ως απλή έλλειψη GPU ή χωρητικότητας, όμως αυτή η προσέγγιση παραβλέπει το πραγματικό σημείο όπου εντοπίζεται η αναποτελεσματικότητα. Είναι σημαντικό να σημειωθεί ότι η σχεδιαζόμενη χωρητικότητα δεν ταυτίζεται με την αξιοποιήσιμη χωρητικότητα.

Οι συστοιχίες GPU μπορεί να φαίνονται πλήρως απασχολημένες, αλλά ακριβές GPU εξακολουθούν να μένουν αδρανείς όταν εμφανίζονται σημεία συμφόρησης επιδόσεων σε άλλα σημεία της στοίβας. Σε αυτά μπορεί να περιλαμβάνονται ο ρυθμός διεκπεραίωσης της αποθήκευσης, οι αγωγοί δεδομένων, η συμφόρηση δικτύου, οι αναποτελεσματικές διαδικασίες προγραμματισμού εργασιών, οι απαιτήσεις ασφάλειας και οι ασυμβατότητες μεταξύ αρχιτεκτονικής, εφαρμογών, οδηγών και εξαρτήσεων. Η προσθήκη GPU δεν μεταφράζεται πάντα σε επιπλέον αξιοποιήσιμη υπολογιστική ισχύ.

Η προσθήκη περισσότερων υποδομών δεν αυξάνει αυτομάτως την αποδοτικότητα. Σε πολλές περιπτώσεις, δημιουργεί περισσότερα απομονωμένα συστήματα και ταυτόχρονα αυξάνει το κόστος.

Οι οργανισμοί χρειάζονται μεγαλύτερη ορατότητα και έλεγχο, ώστε να βελτιώσουν την αξιοποίηση, να αυτοματοποιήσουν τις αποφάσεις για τις υποδομές και να ευθυγραμμίσουν καλύτερα τα φορτία εργασίας με τους διαθέσιμους πόρους και τις επιχειρηματικές προτεραιότητες. Η μεγαλύτερη ορατότητα και ο καλύτερος έλεγχος μπορούν να συμβάλουν στη μετατροπή ενός συνόλου πόρων υποδομής σε ένα πιο συντονισμένο λειτουργικό περιβάλλον. Δεν υπάρχει ακριβής ή καθολικός αριθμός που να δείχνει πόση πρόσθετη χωρητικότητα θα μπορούσε να αξιοποιηθεί μέσω της ενορχήστρωσης· κάθε φορτίο εργασίας έχει μοναδικές απαιτήσεις. Ένα πράγμα, όμως, είναι σαφές: η λύση για τη δεσμευμένη ή υποαξιοποιούμενη χωρητικότητα δεν είναι απλώς να αγοράσουμε ή να κατασκευάσουμε περισσότερα.

Η RAVEL έχει δώσει έμφαση στη διαλειτουργικότητα μεταξύ υποδομών, τεχνολογιών εικονικοποίησης, συστημάτων ταυτοτήτων και εφαρμογών. Γιατί αποκτά ιδιαίτερη σημασία η διαλειτουργικότητα καθώς τα φορτία εργασίας τεχνητής νοημοσύνης γίνονται πιο σύνθετα και κατανεμημένα;

Καθώς οι υποδομές γίνονται πιο ετερογενείς, οι οργανισμοί χρειάζονται την ευελιξία να χρησιμοποιούν διαφορετικές τεχνολογίες και περιβάλλοντα, χωρίς να δημιουργούν περισσότερα απομονωμένα στεγανά υποδομών. Η διαλειτουργικότητα επιτρέπει σε υπολογιστικούς πόρους, αποθηκευτικό χώρο, δίκτυα και εφαρμογές από διαφορετικούς προμηθευτές και περιβάλλοντα να συνεργάζονται, διατηρώντας τη δυνατότητα επιλογής καθώς εξελίσσονται οι υποδομές. Ωστόσο, η διαλειτουργικότητα από μόνη της δεν καθορίζει πώς θα πρέπει να χρησιμοποιούνται αυτοί οι πόροι.

Εδώ έρχεται η ενορχήστρωση: συντονίζει πού εκτελούνται τα φορτία εργασίας, πώς μετακινούνται και πώς εφαρμόζονται οι πολιτικές σε διαφορετικά περιβάλλοντα. Καθώς οι υποδομές τεχνητής νοημοσύνης γίνονται ολοένα πιο κατανεμημένες και ομοσπονδοποιημένες, η διαλειτουργικότητα παρέχει την ευελιξία για λειτουργία σε διαφορετικές τεχνολογίες, ενώ η ενορχήστρωση μετατρέπει αυτούς τους πόρους σε ένα συντονισμένο λειτουργικό περιβάλλον.

Το RAVEL Orchestrate AI παρέχει ένα κοινό επίπεδο ενορχήστρωσης για υπολογιστικούς πόρους, αποθηκευτικό χώρο, δίκτυα και άλλες τεχνολογίες υποδομών, συντονίζοντας τα φορτία εργασίας τεχνητής νοημοσύνης σε περιβάλλοντα cloud, εσωτερικής εγκατάστασης και υβριδικά περιβάλλοντα.

Η κυριαρχία επί των δεδομένων αποτελεί ολοένα σημαντικότερο ζήτημα για κυβερνήσεις και επιχειρήσεις που αναπτύσσουν τεχνητή νοημοσύνη. Πώς επηρεάζει η ανάπτυξη κυρίαρχων υποδομών τεχνητής νοημοσύνης τον τρόπο με τον οποίο πρέπει οι οργανισμοί να προσεγγίζουν την τοποθέτηση φορτίων εργασίας, τη μετακίνηση δεδομένων, την ασφάλεια και την ενορχήστρωση;

Η κυρίαρχη τεχνητή νοημοσύνη αποτελεί πλέον στρατηγική προτεραιότητα. Μαζί της ανακύπτει ένα βαθύτερο ερώτημα: Τι σημαίνει στην πραγματικότητα να έχει κανείς κυριαρχία; Η συζήτηση έχει επικεντρωθεί σε μεγάλο βαθμό στον τόπο αποθήκευσης των δεδομένων, αλλά πιστεύω ότι αυτός ο ορισμός είναι υπερβολικά περιορισμένος.

Ορίζω την κυρίαρχη τεχνητή νοημοσύνη ως την ικανότητα ενός κράτους, μιας επιχείρησης, μιας κυβερνητικής υπηρεσίας ή άλλου οργανισμού να διατηρεί έλεγχο επί των φορτίων εργασίας τεχνητής νοημοσύνης βάσει καθορισμένων πολιτικών —συμπεριλαμβανομένων των δεδομένων, των μοντέλων, των υπολογιστικών υποδομών, της πρόσβασης, της ασφάλειας, των λειτουργιών και της δικαιοδοσίας που διέπουν αυτά τα φορτία εργασίας. Η κυριαρχία δεν σημαίνει κατ’ ανάγκη ότι κάθε φορτίο εργασίας πρέπει να παραμένει σε ένα κέντρο δεδομένων ή ακόμη και σε υποδομές που ανήκουν σε έναν μόνο οργανισμό. Αντίθετα, σημαίνει ότι ο οργανισμός ορίζει πού επιτρέπεται να εκτελείται ένα φορτίο εργασίας, πού μπορούν να βρίσκονται ή να μεταφέρονται τα δεδομένα του, ποιος μπορεί να έχει πρόσβαση σε αυτά, ποιες υποδομές μπορούν να το εκτελέσουν και ποιες πολιτικές ασφάλειας, κανονιστικής συμμόρφωσης, γεωγραφίας, λειτουργίας και επιχειρηματικής δραστηριότητας πρέπει να διατηρούνται πάντοτε. Αυτός ο ορισμός, που θέτει στο επίκεντρο τα φορτία εργασίας, συνάδει με την ευρύτερη τάση του κλάδου να αντιμετωπίζει την κυριαρχία ως έλεγχο σε ολόκληρο το περιβάλλον τεχνητής νοημοσύνης και όχι μόνο ως έλεγχο του τόπου αποθήκευσης των δεδομένων.

Η προσέγγιση της RAVEL ξεχωρίζει ιδιαίτερα όταν η κυρίαρχη τεχνητή νοημοσύνη συνδυάζεται με την ομοσπονδοποίηση. Το RAVEL Orchestrate AI μπορεί να αντιμετωπίζει τις απαιτήσεις κυριαρχίας ως περιορισμούς στο επίπεδο ενορχήστρωσης και πολιτικών: ένα φορτίο εργασίας μπορεί να είναι επιλέξιμο για εκτέλεση σε μια ομοσπονδία τοποθεσιών, cloud, κέντρων δεδομένων, τοποθεσιών στην άκρη του δικτύου ή άλλων υποδομών, αλλά μόνο σε πόρους που πληρούν τις πολιτικές κυριαρχίας του συγκεκριμένου φορτίου. Εντός αυτού του εγκεκριμένου πλαισίου, η RAVEL μπορεί στη συνέχεια να προσδιορίσει την κατάλληλη υποδομή με βάση παράγοντες όπως η ισχύς, το κόστος, οι επιδόσεις, η χωρητικότητα, η αξιοποίηση, τα χαρακτηριστικά του δικτύου, η τοποθεσία και η προτεραιότητα. Η ομοσπονδοποίηση δεν καταργεί την κυριαρχία· αντίθετα, μπορεί να λειτουργεί εντός των ορίων που ορίζει η κυριαρχία. Για παράδειγμα, ένα ευαίσθητο κυβερνητικό φορτίο εργασίας μπορεί να παραμένει εξ ολοκλήρου σε εγκεκριμένες εγκαταστάσεις στις ΗΠΑ, ενώ παράλληλα να ενορχηστρώνεται δυναμικά μεταξύ πολλών εξουσιοδοτημένων τοποθεσιών. Έτσι, οι οργανισμοί μπορούν να αποκομίζουν τα οφέλη της αξιοποίησης και της ανθεκτικότητας που προσφέρουν οι κατανεμημένες υποδομές τεχνητής νοημοσύνης, χωρίς να παραχωρούν τον έλεγχο του πού και του τρόπου λειτουργίας των πιο ευαίσθητων φορτίων εργασίας τους.

Η RAVEL ξεκίνησε σε κλάδους όπως τα μέσα ενημέρωσης, η ψυχαγωγία, τα παιχνίδια και ο σχεδιασμός, όπου τα φορτία εργασίας μπορεί να απαιτούν τεράστια υπολογιστική ισχύ. Πώς έχουν αλλάξει οι απαιτήσεις της παραγωγικής τεχνητής νοημοσύνης την πλατφόρμα, σε σύγκριση με τις προκλήσεις υποδομών για τις οποίες σχεδιάζατε αρχικά λύσεις για επαγγελματίες της δημιουργίας;

Η RAVEL δημιουργήθηκε για να επιλύει προβλήματα υποδομών που αντιμετώπιζαν καλλιτέχνες και μηχανικοί, οι οποίοι ήδη εκτελούσαν τεράστια φορτία εργασίας απόδοσης γραφικών, προσομοίωσης και δημιουργίας περιεχομένου σε δαπανηρούς υπολογιστικούς πόρους, αποθηκευτικό χώρο και δικτυακούς πόρους. Η βασική πρόκληση ήταν πώς θα γίνονταν οι ετερογενείς υποδομές πιο εύκολα προσβάσιμες και κοινόχρηστες, καθώς και πώς θα ενορχηστρώνονταν, με παράλληλη μεγιστοποίηση της αξιοποίησης και των επιδόσεων.

Η παραγωγική τεχνητή νοημοσύνη έχει αυξήσει δραματικά την κλίμακα και την πολυπλοκότητα του ίδιου αυτού προβλήματος. Αντί να ενορχηστρώνουμε κυρίως εφαρμογές και φορτία εργασίας απόδοσης γραφικών, πρέπει πλέον να λαμβάνουμε υπόψη μοντέλα τεχνητής νοημοσύνης, μηχανές, πράκτορες, φορτία εργασίας εκπαίδευσης και εξαγωγής συμπερασμάτων, διαφορετικές αρχιτεκτονικές GPU, στοίβες λογισμικού που αλλάζουν γρήγορα, τεράστιες μεταφορές δεδομένων και σημαντικά αυστηρότερους περιορισμούς ως προς την ισχύ, το κόστος, την ασφάλεια και τη διαθεσιμότητα.

Ως αποτέλεσμα, η RAVEL εξελίχθηκε από μια πλατφόρμα που ενορχήστρωνε κυρίως υπολογιστικούς πόρους σε ένα ευφυές επίπεδο ελέγχου και βελτιστοποίησης για υποδομές τεχνητής νοημοσύνης. Το Orchestrate AI αξιοποιεί τηλεμετρία και πολιτικές για να καθορίζει όχι απλώς αν υπάρχουν διαθέσιμες υποδομές, αλλά και πού και πώς πρέπει να εκτελείται ένας φόρτος εργασίας, με βάση παράγοντες όπως το κόστος, η ταχύτητα, η ισχύς, οι επιδόσεις, η αξιοποίηση των πόρων, η τοποθεσία και οι απαιτήσεις κυριαρχίας.

Η ομοσπονδοποίηση έχει επίσης αποκτήσει ολοένα μεγαλύτερη σημασία, καθώς οι υποδομές τεχνητής νοημοσύνης δεν μπορούν πλέον να αντιμετωπίζονται ως ένα σύνολο απομονωμένων κέντρων δεδομένων· οι οργανισμοί χρειάζονται τη δυνατότητα να αξιοποιούν έξυπνα τη χωρητικότητα σε διαφορετικές εγκαταστάσεις, διατηρώντας παράλληλα τη διακυβέρνηση και την ασφάλεια. Από πολλές απόψεις, η παραγωγική τεχνητή νοημοσύνη δεν άλλαξε το θεμελιώδες πρόβλημα που επιδίωκε να λύσει η RAVEL· το διεύρυνε δραματικά και το έκανε πολύ πιο σύνθετο, καθιστώντας ολοένα σημαντικότερες την έξυπνη ενορχήστρωση, τη βελτιστοποίηση και την ομοσπονδοποίηση.

Η επαγγελματική σας πορεία σάς οδήγησε από τη μηχανολογία και τη βελτιστοποίηση διαδικασιών στη Starbucks στον ψηφιακό χώρο των μέσων ενημέρωσης, στα κέντρα δεδομένων, στα εικονικά στούντιο και, πλέον, στις υποδομές τεχνητής νοημοσύνης. Πώς έχει επηρεάσει το μηχανολογικό σας υπόβαθρο τον τρόπο με τον οποίο προσεγγίζετε την ίδρυση εταιρειών και την επίλυση προβλημάτων υποδομών;

Το μηχανολογικό μου υπόβαθρο έχει πιθανότατα επηρεάσει σχεδόν τα πάντα στον τρόπο με τον οποίο δημιουργώ εταιρείες. Η μηχανολογία σε μαθαίνει να εξετάζεις ένα σύστημα —και όχι απλώς ένα μεμονωμένο εξάρτημα— και να αναρωτιέσαι πού βρίσκονται οι περιορισμοί, πού σπαταλιούνται ενέργεια ή πόροι και πώς μπορεί να αποδίδει καλύτερα ολόκληρο το σύστημα. Στη Starbucks, εφάρμοσα αυτή τη λογική στη βελτιστοποίηση διαδικασιών· αργότερα, στον ψηφιακό χώρο των μέσων ενημέρωσης και στα οπτικά εφέ, το σύστημα περιλάμβανε υπολογιστικούς πόρους, αποθήκευση, δικτύωση, εφαρμογές και, τελικά, ολόκληρα κέντρα δεδομένων. Η τεχνολογία άλλαξε, αλλά ο τρόπος με τον οποίο προσέγγιζα το πρόβλημα ουσιαστικά όχι. Αναρωτιέμαι διαρκώς: Πού βρίσκεται το σημείο συμφόρησης; Ποιοι πόροι δεν αξιοποιούνται επαρκώς; Τι μπορούμε να απλοποιήσουμε; Και πώς μπορούμε να κάνουμε ολόκληρο το σύστημα να λειτουργεί καλύτερα, αντί να βελτιστοποιούμε μόνο ένα μέρος του;

Έτσι ακριβώς δημιουργήσαμε τη RAVEL. Δεν πιστεύω ότι το πρόβλημα των υποδομών τεχνητής νοημοσύνης αφορά απλώς την απόκτηση περισσότερων GPU ή την κατασκευή περισσότερων κέντρων δεδομένων. Είναι ένα πρόβλημα μηχανικής συστημάτων, που περιλαμβάνει υπολογιστικούς πόρους, ισχύ, αποθήκευση, δικτύωση, λογισμικό, φόρτους εργασίας, ανθρώπους και, ολοένα περισσότερο, γεωγραφία και κυριαρχία. Μπορεί να διαθέτετε την ταχύτερη GPU στον κόσμο, αλλά αν το υπόλοιπο σύστημα δεν είναι βελτιστοποιημένο, απλώς δημιουργήσατε ένα εξαιρετικά δαπανηρό σημείο συμφόρησης. Γι’ αυτό, με τη RAVEL, επιδιώκουμε να κάνουμε πιο έξυπνη την ίδια την υποδομή, χρησιμοποιώντας τηλεμετρία, πολιτικές, ενορχήστρωση και ομοσπονδοποίηση, ώστε να καθορίζουμε διαρκώς πώς και πού πρέπει να εκτελούνται οι φόρτοι εργασίας. Ξεκίνησα την καριέρα μου βελτιστοποιώντας φυσικά συστήματα· σήμερα εφαρμόζουμε την ίδια μηχανική πειθαρχία για να βελτιστοποιήσουμε τις υποδομές που τροφοδοτούν την τεχνητή νοημοσύνη.

Κοιτάζοντας μπροστά, πώς πιστεύετε ότι θα εξελιχθούν οι υποδομές τεχνητής νοημοσύνης, καθώς τα μοντέλα, οι πράκτορες και οι εφαρμογές απαιτούν ολοένα μεγαλύτερους όγκους κατανεμημένων υπολογιστικών πόρων; Θεωρείτε ότι τα εργοστάσια τεχνητής νοημοσύνης θα εξελιχθούν σε ένα τυποποιημένο επίπεδο εταιρικών υποδομών, όπως συνέβη με το υπολογιστικό νέφος την τελευταία δεκαετία;

Πιστεύω απόλυτα ότι τα εργοστάσια τεχνητής νοημοσύνης θα αποτελέσουν θεμελιώδες επίπεδο των εταιρικών υποδομών, όπως συνέβη με το υπολογιστικό νέφος — δεν νομίζω, όμως, ότι θα έχουν τη μορφή ενός ενιαίου, τυποποιημένου κέντρου δεδομένων ή νέφους. Καθώς τα μοντέλα, οι πράκτορες και οι εφαρμογές καταναλώνουν ολοένα μεγαλύτερους όγκους υπολογιστικών πόρων, οι επιχειρήσεις θα λειτουργούν σε ένα ετερογενές σύνολο από GPU, CPU, ιδιωτικές υποδομές, παρόχους νέφους νέας γενιάς, παρόχους υπερκλίμακας, περιβάλλοντα υπολογιστικής αιχμής και εξειδικευμένα συστήματα τεχνητής νοημοσύνης.

Η διαθεσιμότητα ισχύος, το κόστος, η κυριαρχία, οι επιδόσεις και η τοποθεσία θα είναι εξίσου σημαντικά με τη διαθεσιμότητα υπολογιστικών πόρων. Η πραγματική πρόκληση δεν θα είναι απλώς να κατασκευάσουμε περισσότερες υποδομές, αλλά να κάνουμε όλες αυτές τις κατανεμημένες υποδομές να λειτουργούν ως ένα ενιαίο, ευφυές σύστημα. Το εργοστάσιο τεχνητής νοημοσύνης του μέλλοντος δεν θα είναι ένα μεμονωμένο κτίριο· θα είναι ένα ομοσπονδοποιημένο περιβάλλον υποδομών που θα καλύπτει υπολογιστικούς πόρους, ισχύ, δεδομένα και τους πόρους που απαιτούνται για την εκτέλεση φόρτων εργασίας τεχνητής νοημοσύνης, όπου αυτό έχει περισσότερο νόημα.

Εκεί πιστεύω ότι αναδύεται το επόμενο σημαντικό επίπεδο υποδομών. Το υπολογιστικό νέφος αφαίρεσε την πολυπλοκότητα των διακομιστών και διευκόλυνε την πρόσβαση σε υπολογιστικούς πόρους· το επόμενο βήμα είναι να αφαιρεθεί η πολυπλοκότητα ολόκληρης της στοίβας υποδομών τεχνητής νοημοσύνης. Οι επιχειρήσεις δεν θα πρέπει να χρειάζεται να αποφασίζουν χειροκίνητα ποια GPU, ποιο κέντρο δεδομένων ή νέφος, ποια πηγή ισχύος ή ποια γεωγραφική περιοχή θα χρησιμοποιείται για κάθε μοντέλο ή πράκτορα. Οι ίδιες οι υποδομές θα πρέπει ολοένα περισσότερο να λαμβάνουν αυτές τις αποφάσεις, αξιοποιώντας τηλεμετρία και πολιτικές για να βελτιστοποιούν το κόστος, την ταχύτητα, την ισχύ, τις επιδόσεις, τη διαθεσιμότητα και την κυριαρχία. Αυτό είναι το μέλλον που επιδιώκουμε να δημιουργήσουμε στη RAVEL: ένα ευφυές επίπεδο ενορχήστρωσης που επιτρέπει στους φόρτους εργασίας να μετακινούνται σε μια ομοσπονδοποιημένη υποδομή τεχνητής νοημοσύνης, διατηρώντας παράλληλα τις πολιτικές και τους ελέγχους του οργανισμού. Το υπολογιστικό νέφος έκανε διαθέσιμους υπολογιστικούς πόρους κατά παραγγελία. Πιστεύω ότι η επόμενη γενιά υποδομών τεχνητής νοημοσύνης θα παρέχει βελτιστοποίηση κατά παραγγελία.

Σας ευχαριστούμε για την εξαιρετική συνέντευξη. Οι αναγνώστες που θέλουν να μάθουν περισσότερα για την ενορχήστρωση φόρτων εργασίας τεχνητής νοημοσύνης σε κατανεμημένες υποδομές μπορούν να επισκεφθούν τη RAVEL.