Συνεντεύξεις

Ken Claffey, CEO της VDURA – Interview Series: Μια Επιστροφή Συζήτηση

mm
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google

Ken Claffey, CEO και Πρόεδρος της VDURA, είναι ένας έμπειρος ηγετικός παράγοντας με βαθιά εμπειρία στις υποδομές cloud και entreprise, ανάπτυξη υλικού και λογισμικού, καθώς και οδηγία στρατηγικής ανάπτυξης σε προϊόντα, λειτουργίες και αγορές. Κατά τη διάρκεια της καριέρας του, έχει δημιουργήσει και ηγηθεί υψηλής απόδοσης ομάδων σε παγκόσμιο επίπεδο, έχει εκτελέσει εταιρική στρατηγική, έχει οδηγήσει κερδοφόρα ανάπτυξη προϊόντων και καινοτομίας, και έχει ανατρέψει υπολειτουργικές επιχειρήσεις. Πριν αναλάβει τη διοίκηση της VDURA, ο Claffey κατείχε υψηλές ηγετικές θέσεις στην Seagate Technology (STX ), όπου υπηρέτησε ως Αντιπρόεδρος και Γενικός Διευθυντής, εποπτεύοντας τα entreprise συστήματα και τον P&L, και είχε προηγούμενες ηγετικές θέσεις στις Xyratex, Adaptec και Eurologic, φέρνοντας δεκαετίες εμπειρίας στις entreprise αποθήκες και υψηλής απόδοσης υπολογισμούς.

VDURA είναι μια εταιρεία που προσφέρει λογισμικά υποδομές δεδομένων, κατασκευάζοντας σύγχρονες λύσεις αποθήκευσης που είναι βελτιστοποιημένες για τις εργασίες της τεχνητής νοημοσύνης και των υψηλών υπολογισμών, υπό το μότο “ταχύτητα συναντά διάρκεια”. Το φλαγκσίπ της εταιρείας, το VDURA Data Platform, συνδυάζει την ταχύτητα των flash-first παραλληλικών αρχείων με την ανθεκτικότητα των αντικειμένων αποθήκευσης σε μια ενιαία αρχιτεκτονική που κλιμακώνεται γραμμικά σε χιλιάδες πελάτες και κόμβους, ενώ απλοποιεί τις λειτουργίες και μειώνει το συνολικό κόστος ιδιοκτησίας. Αρχικά ιδρυθείσα ως Panasas και μετονομάστηκε σε VDURA το 2024, η πλατφόρμα της εταιρείας υποστηρίζει περιβάλλοντα on-premises, cloud και υβριδικά με προηγμένα εργαλεία αυτοματοποίησης, επιτάχυνση μεταδεδομένων και κλιμακωτή απόδοση που σχεδιάζεται για να διατηρεί τους GPU clusters τροφοδοτούμενους και τα δεδομένα προστατευμένα για entreprise, έρευνα και κρίσιμες εφαρμογές τεχνητής νοημοσύνης και υψηλών υπολογισμών.

Πώς έχει διαμορφωθεί η πορεία σας στις HPC και τις entreprise αποθήκες και πώς έχει επηρεάσει την άποψή σας ότι η αποθήκευση γίνεται ο καθοριστικός περιορισμός στις υποδομές της τεχνητής νοημοσύνης;

Έχοντας κατασκευάσει συστήματα αποθήκευσης για κάποιους από τους πιο απαιτητικούς υπολογιστικούς περιβάλλοντες του κόσμου, αναπτύσσετε μια διαίσθηση για το πού βρίσκονται οι φραγμοί στην πραγματικότητα, αντί για το πού οι άνθρωποι υποθέτουν ότι βρίσκονται. Στις Xyratex και μέσω του ClusterStor στην Seagate, λύαμε προβλήματα αποθήκευσης για siêuυπολογιστές όπου η φυσική ήταν αμείλικτη. Ήταν είτε τροφοδοτούσατε τον υπολογισμό είτε δεν τον τροφοδοτούσατε.

Τι βλέπω τώρα στις υποδομές της τεχνητής νοημοσύνης είναι το ίδιο θεμελιώδες περιορισμό, μόνο με διαφορετική οικονομική. Η εμμονή με τους GPU στην αγορά Neocloud ήταν κατανοητή. Η NVIDIA (NVDA ) δημιούργησε einen σπάνιο και μετασχηματιστικό πόρο. Αλλά η υπόθεση ότι η αποθήκευση θα κλιμακωνόταν μαζί με αυτό, φθηνά και εύκολα, ήταν πάντα πρόωρη. Έχει σπάσει. Η αποθήκευση τώρα προσανατολίζεται προς το 20 έως 30 τοις εκατό των προϋπολογισμών της τεχνητής νοημοσύνης σε όλες τις εγκαταστάσεις all-flash, μεγαλώνοντας γρηγορότερα από οποιοδήποτε άλλο συστατικό. Όταν έχεις ξοδέψει μια καριέρα παρακολουθώντας την αποθήκευση να γίνεται ο δεσμευτικός περιορισμός σε κάθε μεγάλο περιβάλλον υπολογισμού, σταματάς να είσαι έκπληκτος όταν ο υπόλοιπος αγοράς φτάνει σε αυτή την πραγματικότητα.

Γιατί η σχεδίαση της αποθήκευσης υποτιμήθηκε κατά τη διάρκεια της Neocloud;

Μια σειρά από δομικές υποθέσεις συναντήθηκαν ακριβώς τη λάθος στιγμή. Πρώτον, οι τιμές των flash ήταν προσωρινά ευνοϊκές. Οι NVMe SSD ήταν αρκετά προσιτοί και άφθονοι να νιώθουν σαν μια λογική προεπιλογή. Δεν ήταν αρχιτεκτονική σοφία. Ήταν ένα προϊόν ενός βραχύβια οικονομικού παραθύρου που οι διαχειριστές εξέλαβαν ως μια μόνιμη κατάσταση.

Δεύτερον, η ανταγωνιστική δυναμική ανταWARDED GPU μετρήσεις πάνω από όλα. Η αγορά Neocloud αξιολογούνταν με βάση το πόσοι NVIDIA chips μπορούσαν να τοποθετηθούν σε ένα rack. Η αποθήκευση ήταν περίπου ένα 10 τοις εκατό σημείο γραμμής, εύκολο να διαβαστεί χωρίς βαθιά επιθεώρηση. Τρίτον, η απόφαση all-flash felt ασφαλής επειδή εξαφάνισε την πολυπλοκότητα. Ένα επίπεδο, ένα μέσο, απλό να αγοράσει και να λειτουργήσει. Το πρόβλημα είναι ότι “απλό” και “οικονομικά βιώσιμο” σταμάτησαν να είναι το ίδιο πράγμα τη στιγμή που η ζήτηση για NAND στενέψτηκε και οι τιμές εκτινάχθηκαν. Μέχρι τότε, οι αποφάσεις υποδομής είχαν ήδη κλειδώσει.

Τι εκπλήσσει τους διαχειριστές περισσότερο όταν βλέπουν πώς η αποθήκευση επηρεάζει την αξιοποίηση των GPU τους;

Η σχέση είναι πιο άμεση από ότι οι περισσότεροι διαχειριστές καταλαβαίνουν μέχρι να κοιτάξουν τους αδρανείς GPU. Οι εκπαιδεύσεις με συχνές ελέγχους δημιουργούν απαιτήσεις burst γραφής που μπορούν να σταματήσουν τον υπολογισμό αν η στρώση αποθήκευσης δεν μπορεί να τις απορροφήσει αρκετά γρήγορα. Οι données pipelines για την προεπεξεργασία και την εισαγωγή δημιουργούν απαιτήσεις διαρκούς ανάγνωσης που, αν δεν ικανοποιηθούν, λιμοκτονούν τους GPU από δουλειά.

Η NVIDIA’s own DGX οδηγίες quantifies αυτό: η εκπαίδευση βασισμένων σε κείμενο LLM απαιτεί περίπου 0,5 GB/s ανάγνωσης ανά GPU, ενώ οι φυσικές AI και οπτικές εργασίες απαιτούν περίπου 4 GB/s ανάγνωσης και 2 GB/s γραφής ανά GPU. Αν η αρχιτεκτονική αποθήκευσης σας δεν μπορεί να παραδώσει αυτό, δεν τρέχετε τους GPU σας σε πλήρη χωρητικότητα. Τρέχετε τους σε όποιο ποσοστό η αποθήκευση σας επιτρέπει.

Η αρχιτεκτονική έχει τεράστια σημασία σε κλίμακα cluster. Ένα σύστημα αποθήκευσης που τοποθετεί ένα μεσάζοντα μεταξύ του δίσκου και του πελάτη μπορεί να δείξει συγκρίσιμη απόδοση σε ένα μόνο δίσκο, αλλά σε κλίμακα μπορείτε να χρειαστείτε τρεις φορές περισσότερους δίσκους για να κορυφώσετε το ίδιο στόλο GPU. Τρεις φορές περισσότεροι SSD, τρεις φορές περισσότερη ενέργεια, τρεις φορές περισσότερος χώρος rack. Τα μαθηματικά της αξιοποίησης συνδυάζονται γρήγορα.

Τι διαφορές κόστους μπορούν να προκύψουν μόνο από την επιλογή SSD και την αρχιτεκτονική σχεδίαση ακόμη και όταν οι μετρήσεις απόδοσης φαίνονται παρόμοιες;

Αυτό είναι το σημείο όπου οι διαχειριστές πέφτουν σε σοβαρό πρόβλημα, επειδή οι μετρήσεις κεφαλίδας μπορούν να είναι πραγματικά παραπλανητικές. Πάρτε ένα αντιπροσωπευτικό παράδειγμα. Ένας 122,88 TB QLC NVMe SSD κοστίζει περίπου 27.000 δολάρια. Ένας 7,68 TB δίσκος από την ίδια γενιά προσφέρει συγκρίσιμη ακολουθιακή απόδοση για περίπου 1.800 δολάρια. Για ένα cluster 4.096-GPU στο Enhanced προδιαγραφή της NVIDIA, αυτή η απόφαση επιλογής χωρητικότητας παράγει μια factura flash που κυμαίνεται από 600.000 έως 9,6 εκατομμύρια δολάρια. Η απόδοση είναι αποτελεσματικά ταυτόσημη. Η μόνη μεταβλητή είναι πόσο κρύο δεδομένα επιλέγετε να στάθμευσετε σε premium μέσα που δεν προσφέρουν κανένα πρόσθετο πλεονέκτημα απόδοσης.

Επιπλέον, η αρχιτεκτονική σχεδίαση καθορίζει τον αριθμό των δίσκων σε κλίμακα cluster. Μια αρχιτεκτονική που προσφέρει περίπου 5,8 GB/s μετρημένης ανάγνωσης ανά SSD χρειάζεται περίπου 353 δίσκους για να κορυφώσει ένα cluster 4.096-GPU. Μια αρχιτεκτονική που προσφέρει περίπου 1,9 GB/s ανά SSD, λόγω του μεσάζοντα, χρειάζεται πάνω από 1.000. Σε 12.000 δολάρια ανά 30 TB δίσκο, αυτή η διαφορά δεν είναι ένα σφάλμα στρογγυλοποίησης – είναι ένα ερωτηματικό μοντέλου επιχειρήσεων.

Πώς πρέπει οι διαχειριστές να ξανασκέφτουν την all-flash έναντι της tiered αποθήκευσης καθώς οι τιμές flash αυξάνονται και η ζήτηση για NAND παραμένει περιορισμένη;

Το σημείο εκκίνησης είναι η αποδοχή ότι η οικονομική υπόθεση πίσω από την all-flash υποδομή της τεχνητής νοημοσύνης ήταν πάντα προσωρινή, όχι θεμελιώδης. Ο CEO της Phison έχει περιγράψει την ικανότητα παραγωγής NAND ως αποτελεσματικά διαθέσιμη μέχρι το 2026. Η Goldman Sachs (GS ) προβλέπει τις τιμές DRAM να αυξάνονται διψήφια ποσοστό-ποσοστό κατά την ίδια περίοδο. Η προεπιλογή all-flash είχε νόημα όταν το flash ήταν φθηνό και αφθόν. Δεν είναι πλέον.

Η σωστή πλαισιοποίηση είναι να ρωτήσετε τι είναι πραγματικά το flash. Το flash είναι ένα μέσο απόδοσης. Πρέπει να είναι διαστασιολογημένο για να κορυφώσει τις απαιτήσεις απόδοσης των GPU, όχι περισσότερο. Όλα τα άλλα, συμπεριλαμβανομένων των κρύων δεδομένων, των checkpoints που δεν είναι ενεργά διαβασμένα και των αρχειοθετημένων συνόλων εκπαίδευσης, ανήκουν σε υψηλής πυκνότητας HDD, που παραμένει πολλαπλά φθηνότερο ανά TB.

Η παγίδα που πέφτουν οι διαχειριστές είναι να αντιμετωπίζουν την tiering ως ένα bolt-on: αγοράστε ένα all-flash πρωτεύον επίπεδο, προσθέστε ένα ξεχωριστό αντικειμενικό κατάστημα για κρύα δεδομένα και συνδέστε τα με εξωτερικούς data movers. Αυτό εισάγει ένα δεύτερο λογισμικό stack, ένα δεύτερο δεδομένο πλάνο, πολυπλοκότητα δικτύου και λειτουργική υπερβολική. Η προσέγγιση των hyperscalers, τρέχοντας SSD και HDD μέσα στο ίδιο λογισμικό stack με εγγενή υψηλής απόδοσης tiering και χωρίς εξωτερικούς data movers, κρατά την αποθήκευση κοντά στο 10 τοις εκατό του προϋπολογισμού υποδομής ενώ vẫn κορυφώνει κάθε GPU.

Τι μαθήματα μπορούν οι διαχειριστές Neocloud να μάθουν από τις επιλογές σχεδίασης αποθήκευσης των hyperscalers;

Το πιο σημαντικό μάθημα είναι ότι ο Google (GOOGL ), η Meta και η Microsoft (MSFT ) δεν τρέχουν all-flash, και έχουν περισσότερη εμπειρία εργασιών τεχνητής νοημοσύνης από οποιονδήποτε. Εγκαθιστούν mixed-tier αρχιτεκτονικές με έξυπνη tiering: αρκετό NVMe flash για να κορυφώσει την απόδοση των GPU, και μετά να στραγγίσει σε υψηλής πυκνότητας HDDs όσο γρήγορα οι φυσικές επιτρέπουν. Αυτό δεν είναι μια φιλοσοφική προτίμηση. Είναι μια οικονομική απαραίτητη που οδηγείται από μια σαφή κατανόηση της φυσικής των εργασιών της τεχνητής νοημοσύνης.

Το δεύτερο μάθημα είναι η αρχιτεκτονική ενοποίηση. Οι hyperscalers δεν λύνουν το tiering συνδέοντας ξεχωριστά συστήματα. Τρέχουν SSD και HDD στο ίδιο λογισμικό stack, το ίδιο δεδομένο πλάνο, με tiering ως μια πρώτη τάξη λειτουργία μέσα στο σύστημα αποθήκευσης, όχι ως μια εργασία batch που διαχειρίζεται ένα ξεχωριστό εργαλείο. Αυτή η ενοποίηση είναι αυτό που τους επιτρέπει να κρατήσουν την αποθήκευση οικονομική σε τεράστια κλίμακα ενώ διατηρούν τις εγγυήσεις απόδοσης που απαιτούν οι GPU fleets τους.

Το τρίτο μάθημα είναι η διάρκεια εγγύησης. Η AWS S3 προσφέρει 11 nines της διάρκειας. Η Azure Blob προσφέρει 12 ή περισσότερα. Οι legacy HPC αρχιτεκτονικές που βασίζονται σε τοπικό RAID μπορούν να πέσουν κάτω από 5 nines σε κλίμακα ανάλογα με τους ρυθμούς αποτυχίας δίσκων και τα παράθυρα ανακατασκευής, δυνητικά χιλιάδες αρχεία που χάνονται ανά έτος σε ένα corpus δισεκατομμυρίων αρχείων. Η σύγχρονη network erasure coding με πολλαπλά επίπεδα προστασίας μπορεί να ξεπεράσει 11 nines. Η διαφορά μεταξύ αυτών των δύο πραγματικοτήτων είναι η διαφορά μεταξύ ενός συστήματος αποθήκευσης που μπορεί πραγματικά να εγγυηθεί μια SLA και ενός που δεν μπορεί.

Πώς πρέπει οι ομάδες υποδομής να ποσοτικοποιήσουν την οικονομική επίδραση της διαθεσιμότητας αποθήκευσης στις GPU fleets;

Τα μαθηματικά είναι σοβαρά όταν τα τρέχετε ειλικρινά. Η αποτυχία της κοινής αποθήκευσης δεν παράγει μια αναλογική ελάττωση SLA. Παραγει μια ταυτόχρονη παραβίαση σε κάθε rack GPU που συνδέεται με αυτή την αποθήκευση. Ένα cluster 5.000-GPU με 98 τοις εκατό διαθεσιμότητα αποθήκευσης δεν παράγει μια απόδοση 2 τοις εκατό. Παραγει 876.000 GPU-ώρες χαμένων υπολογισμών ανά έτος. Σε αντιπροσωπευτικές τιμές GPU-ώρας, αυτό μεταφράζεται σε εκατομμύρια δολάρια σε αδρανείς υπολογισμούς ετησίως, συν SLA πίστωση που οφείλεται σε κάθε επηρεαζόμενη rack ταυτόχρονα.

Η ακτίνα της αποτυχίας της αποθήκευσης σε ένα μεγάλο cluster είναι ολόκληρο το cluster. Οι ομάδες υποδομής πρέπει να μοντελοποιήσουν αυτό ρητά: ποιο είναι το ετήσιο κόστος των αδρανών υπολογισμών στη τρέχουσα διαθεσιμότητα αποθήκευσης, ποίες είναι οι SLA πιστώσεις που συνδέονται με κάθε επίπεδο διαθεσιμότητας και ποιο είναι το ρίσκο απώλειας πελατών από SLA αποτυχίες; Η CoreWeave (CRWV ) και η Oracle (ORCL ) προσφέρουν ήδη 99 τοις εκατό διαθεσιμότητα rack-επίπεδου. Οι παρόχοι που δεν μπορούν να ταιριάξουν με αυτό χάνουν συμφωνίες σήμερα, και οι συμφωνίες που χάνουν είναι όλο και περισσότερο τις υψηλής αξίας entreprise συμβάσεις που η Neocloud αγορά χρειάζεται για να αποδείξει την μακροπρόθεσμη οικονομική της.

Πώς διαφέρουν οι διαφορετικές αρχιτεκτονικές αποθήκευσης στην απόδοση ανά watt σε περιβάλλοντα με περιορισμένη ενέργεια;

Αυτό προκύπτει σχεδόν σε κάθε σοβαρή συζήτηση υποδομής τώρα, και η διαφορά δεν είναι περιθωριακή. Είναι πολλαπλάσια. Βασισμένο σε δημοσιευμένες προδιαγραφές και συγκρίσιμες διαμορφώσεις, η παράδοση περίπου 1.340 GB/s ανάγνωσης απόδοσης καίει 55 kW ενώ μια άλλη αρχιτεκτονική επιτυγχάνει παρόμοια έξοδο σε περίπου 16 kW. Αυτή είναι μια 3,4x διαφορά στην απόδοση ανά watt. Σε ένα data center όπου οι εργασίες της τεχνητής νοημοσύνης καταναλώνουν 40 έως 250 kilowatts ανά rack ενάντια σε μια σταθερή σύνδεση grid, οι χαμένοι watts αποθήκευσης είναι οι GPU που δεν μπορείτε να αναπτύξετε. Η NVIDIA’s own BlueField-4 τεκμηρίωση δηλώνει ρητά ότι η διαθεσιμότητα ισχύος είναι ο πρωτεύων περιορισμός για την κλιμάκωση των εργοστασίων AI.

Υπάρχει επίσης ένα δεύτερο αποτέλεσμα που οι διαχειριστές σπάνια λογαριάζουν. Ορισμένες αρχιτεκτονικές αποθήκευσης απαιτούν 5 GB DRAM και ένα έως τέσσερα αφιερωμένα CPU πυρήνες μόνιμα κλειδωμένα ανά κόμβο GPU για να επιτύχουν την κορυφαία απόδοση αποθήκευσης. Σε ένα cluster 500-κορυφών, αυτό είναι 2,5 TB DRAM και μέχρι 2.000 CPU πυρήνες που είναι μόνιμα μη διαθέσιμοι για εργασίες της τεχνητής νοημοσύνης. Όταν πληρώνετε 30.000 δολάρια ή περισσότερα ανά GPU, κάθε κλεμμένος πυρήνας και κάθε κλειδωμένη gigabyte είναι ένας άμεσος φόρος στην επένδυση υπολογισμού που είναι υποτιθέμενη η ολόκληρη υποδομή.

Πώς επηρεάζει η αρχιτεκτονική αποθήκευσης άμεσα την ανταγωνιστικότητα SLA καθώς οι εγγυήσεις διαθεσιμότητας προσεγγίζουν το 99 τοις εκατό;

Η αποθήκευση είναι η μεγαλύτερη ακτίνα σε κάθε cluster GPU, που την καθιστά την πιο σημαντική μεταβλητή σε οποιαδήποτε ειλικρινή δέσμευση SLA. Το σύστημα αξιολόγησης SemiAnalysis ClusterMAX 2.0, που γίνεται μια επιρροή βέβαιο στην Neocloud προμήθεια, κάνει τις SLA μια ρητή παράμετρο στις διαπραγματεύσεις τιμών. Οι παρόχοι χωρίς ανταγωνιστικές SLA χάνουν συμφωνίες τώρα.

Η διάσταση της διάρκειας είναι εξίσου σημαντική και λιγότερο συζητημένη. Οι entreprise πελάτες έχουν καταναλωθεί από την AWS S3 και την Azure Blob να περιμένουν 11 έως 12 nines της διάρκειας. Οι legacy HPC αρχιτεκτονικές που βασίζονται σε τοπικό RAID μπορούν να πέσουν κάτω από 5 nines σε κλίμακα ανάλογα με τους ρυθμούς αποτυχίας δίσκων και τα παράθυρα ανακατασκευής, δυνητικά χιλιάδες αρχεία που χάνονται ανά έτος σε ένα corpus δισεκατομμυρίων αρχείων. Η σύγχρονη network erasure coding με πολλαπλά επίπεδα προστασίας μπορεί να ξεπεράσει 11 nines. Η διαφορά μεταξύ αυτών των δύο πραγματικοτήτων είναι η διαφορά μεταξύ ενός συστήματος αποθήκευσης που μπορεί πραγματικά να εγγυηθεί μια SLA και ενός που δεν μπορεί.

Ποίες ικανότητες αποθήκευσης είναι πιο πιθανό να καθορίσουν τη μακροπρόθεσμη επιβίωση της Neocloud μέσω της ενοποίηση;

Οι διαχειριστές που θα επιβιώσουν θα είναι εκείνοι που έχουν λύσει την εξίσωση του συνολικού κόστους ιδιοκτησίας σε ολόκληρη την πila υποδομής, όχι μόνο την εξίσωση προμήθειας GPU. Αυτό σημαίνει ορισμένες συγκεκριμένες ικανότητες.

Πρώτον, μια ενιαία λογισμική αρχιτεκτονική που τρέχει flash και δίσκο σε ένα μόνο δεδομένο πλάνο με εγγενή υψηλής απόδοσης tiering, χωρίς εξωτερικούς data movers, χωρίς δεύτερο λογισμικό stack, χωρίς λειτουργική πολυπλοκότητα που εισάγεται από το bolting μαζί ξεχωριστών συστημάτων. Δεύτερον, αποθήκευση που μπορεί να καβαλήσει ανεξάρτητους κόμβους κόστους για flash και δίσκο καθώς οι αγορές κινητούνται ανεξάρτητα η μια από την άλλη. Τρίτον, αυτοθεραπεύτικα συστήματα που διατηρούν υψηλή διαθεσιμότητα χωρίς ειδικούς διαχειριστές που εκτελούν χειροκίνητη ανάκτηση στις 3 π.μ. Λειτουργικά πολύπλοκη αποθήκευση είναι ένα άδηλο κόστος που συνδυάζεται σε κλίμακα. Τέταρτον, διάρκεια που μπορεί να εγγυηθεί με πιστότητα σε μια SLA ενάντια σε hyperscaler βέβαια.

Το ευρύτερο σημείο είναι ότι η κύμα ενοποίησης χωρίζει την υποδομή που χτίστηκε για day-one benchmarks από την υποδομή που χτίστηκε για year-three οικονομικά. Οι τιμές ενοικίασης H100 έχουν πέσει περισσότερο από 60 τοις εκατό από το υψηλό. Η αγορά δεν ανταμείβει πλέον την συσσώρευση GPU. Απαιτεί απόδειξη επιστροφής στην επένδυση κεφαλαίου. Η αρχιτεκτονική αποθήκευσης είναι όπου ζει αυτή η απόδειξη, επειδή είναι όπου οι ρυθμοί αξιοποίησης GPU, οι δεσμεύσεις SLA, η απόδοση ενέργειας και η μακροπρόθεσμη δομή κόστους όλες συνδυάζονται.

Τι είναι το μήνυμά σας στους διαχειριστές Neocloud που αξιολογούν τη στρατηγική αποθήκευσης τους σήμερα;

Μη αφήσετε την απόφαση αποθήκευσης να είναι αυτή που έκανε από προεπιλογή. Κάθε άλλο μέρος του πila υποδομής λαμβάνει αυστηρή μηχανική και οικονομική επιθεώρηση. Η αποθήκευση πρέπει να είναι το ίδιο. Οι διαχειριστές που θα είναι εδώ σε τρία χρόνια είναι εκείνοι που έκαναν μια σκληρή ματιά στο πραγματικό κόστος ανά GPU-ώρα χρήσιμου υπολογισμού, κατανόησαν την πραγματική τους θέση διαθεσιμότητας και έκαναν σίγουροι ότι ήταν διαστασιολογημένοι για το workload και όχι για μια προμήθεια συντόμευση.

Το παράθυρο για να το κάνετε σωστό στενεύει. Η ενοποίηση είναι ήδη σε εξέλιξη, και τα οικονομικά είναι αμείλικτα. Αλλά για τους διαχειριστές που είναι πρόεδροι να ξανασκέφτουν το στρώμα αποθήκευσης με την ίδια αυστηρότητα που έκαναν στην επιλογή GPU, η ευκαιρία είναι σημαντική. Η αποθήκευση που γίνεται σωστά δεν μειώνει μόνο το κόστος. Απελευθερώνει την πλήρη αξία κάθε GPU στο rack.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα για αυτή τη τεχνολογική στοίβα πρέπει να επισκεφθούν την VDURA. Μπορούν επίσης να διαβάσουν την προηγούμενη μας συνέντευξη με τον Ken Claffey.

Ο Antoine είναι ένας οραματιστής ηγέτης και συνιδρυτής της Unite.AI, οδηγείται από μια αμετάβλητη страсть για το σχήμα και την προώθηση του μέλλοντος της τεχνητής νοημοσύνης και της ρομποτικής. Ένας σειριακός επιχειρηματίας, πιστεύει ότι η τεχνητή νοημοσύνη θα είναι τόσο διαταρακτική για την κοινωνία όσο και η ηλεκτρική ενέργεια, και συχνά πιάνεται να μιλάει για το δυναμικό των διαταρακτικών τεχνολογιών και της AGI.

Ως μελλοντολόγος, είναι αφιερωμένος στο να εξερευνήσει πώς αυτές οι καινοτομίες θα σχήματίσουν τον κόσμο μας. Επιπλέον, είναι ο ιδρυτής του Securities.io, μιας πλατφόρμας που επικεντρώνεται στις επενδύσεις σε ακριβές τεχνολογίες που ανασχεδιάζουν το μέλλον και αναμορφώνουν ολόκληρες βιομηχανίες.