Ελάντ Ραζ, Διευθύνων Σύμβουλος της NextSilicon – Σειρά Συνεντεύξεων

Ελάντ Ραζ, Διευθύνων Σύμβουλος της NextSilicon, είναι ένας έμπειρος επιχειρηματίας και τεχνολογικός ηγέτης που έχει κερδίσει ευρεία αναγνώριση για την sâuιά του εξειδίκευση σε χαμηλού επιπέδου συστήματα, ασφάλεια, δικτύωση και ανάπτυξη συστήματος αρχείων. Κατά τη διάρκεια της καριέρας του, που περιλαμβάνει εξαιρετικές στρατιωτικές μηχανικές θέσεις, υψηλές θέσεις ηγεσίας λογισμικού, δημιουργία εταιρειών και μακροχρόνια επένδυση, ο Ραζ έχει ηγηθεί σύνθετων, κρίσιμων έργων σε εσωτερικά συστήματα λειτουργικών συστημάτων και ολοκλήρωση υλικού-λογισμικού. Πριν ιδρύσει την NextSilicon, είχεสร้างει και πουλήσει πολλές τεχνολογικές εταιρείες, είχε διατελέσει σε υψηλές θέσεις ηγεσίας σε μια ηγετική εταιρεία ημιαγωγών και είχε επενδύσει σε一个 ποικίλο χαρτοφυλάκιο start-up, συνδυάζοντας πρακτική εμβάθυνση με ισχυρή εκτέλεση και μακροχρόνια στρατηγική όραση.

NextSilicon είναι μια ισραηλινή εταιρεία υψηλής απόδοσης υπολογιστών και ημιαγωγών που ιδρύθηκε το 2017 και αναedefίνει την αρχιτεκτονική υπολογισμού για απαιτητικές εργασίες όπως η τεχνητή νοημοσύνη και η επιστημονική υπολογιστική. Η εταιρεία έχει αναπτύξει μια λογισμικό-καθορίσιμη, ευφυή πλατφόρμα υπολογισμού που σχεδιάστηκε για να προσφέρει υψηλή απόδοση και αποδοτικότητα χωρίς να απαιτεί από τους dévelopτερς να ξαναγράψουν τις εφαρμογές. Εστιάζοντας στην προσαρμοστικότητα στο επίπεδο υλικού, η NextSilicon στοχεύει να αντιμετωπίσει θεμελιώδεις σφραγίδες σε σύγχρονα κέντρα δεδομένων και περιβάλλοντα υπερυπολογιστών, θέτοντας τον εαυτό της ως μια επόμενη γενιά εναλλακτική λύση για τις παραδοσιακές επιταχυντές.

Μπορείτε να μας πείτε για το ταξίδι σας που οδήγησε στην ίδρυση της NextSilicon; Τι σπίθασε την αρχική ιδέα, και πώς οι πρώτες εμπειρίες σας με τους υπολογιστές σχήμασαν την όρασή σας;

Έχω sido γοητευμένος από τους υπολογιστές από όταν ήμουν παιδί. Αυτό το ενδιαφέρον με οδήγησε από το να πειραματίζομαι με παλιούς Commodore 64 και Ataris (τα οποία ακόμα συλλέγω μέχρι σήμερα) σε να συνιδρύω start-up και τελικά να πουλήσω την προηγούμενη εταιρεία μου στη Mellanox. Αλλά ακόμα και με αυτές τις πρώτες επιτυχίες, συνέχιζα να βλέπω την ίδια πρόκληση ξανά και ξανά σε αυτόν τον κλάδο. Όσο οι υπολογιστικές εργασίες έγιναν πιο σύνθετες, οι παραδοσιακές αρχιτεκτονικές CPU και GPU έφτασαν στα όρια απόδοσης, ενεργειακής αποδοτικότητας και κλιμάκωσης. Όπως η βελτιστοποίηση αλγορίθμων ή η εκτέλεση μεγάλης κλίμακας симуляσιών, έγινε σαφές ότι οι τρέχουσες αρχιτεκτονικές έκαναν τις εργασίες να προσαρμοστούν στο υλικό – και όχι το αντίστροφο.

Η σπίθα για την NextSilicon προήλθε από αυτήν την επαναλαμβανόμενη πρόκληση και έθεσε το ερώτημα: Τι αν μπορούσαμε να ανατρέψουμε το σενάριο και να χτίσουμε αρχιτεκτονικές υπολογισμού που προσαρμόζονται στις εργασίες, αντί να τις αναγκάζουν να προσαρμοστούν στο υλικό; Οι πρώτες μου εμπειρίες με το σχεδιασμό αλγορίθμων και το υλικό με δίδαξαν ότι η πραγματική επανάσταση θα ήρθε από τη συνδυαστική τους σε πραγματικό χρόνο. Αυτό είναι η βάση της Intelligent Compute Architecture (ICA) και της οδηγίας της NextSilicon από την αρχή.

Το Maverick-2 περιγράφεται ως ένας Ευφυής Επιταχυντής Υπολογισμού που προσαρμόζεται σε πραγματικό χρόνο στις εργασίες. Πώς διαφέρει η αρχιτεκτονική του από τις παραδοσιακές GPU ή FPGAs, και τι επιτρέπει αυτό το επίπεδο προσαρμοστικότητας;

Οι CPU και GPU έχουν μεταμορφώσει τον κόσμο μας και μας έχουν εξυπηρετήσει καλά. Αλλά δεν σχεδιάστηκαν ποτέ για να ανταποκριθούν στις απαιτήσεις των σύγχρονων εργασιών AI και υψηλής απόδοσης υπολογισμού (HPC) σε πεδία όπως η επιστήμη, ο καιρός, η ενέργεια και η άμυνα. Αυτές οι εργασίες έχουν σύνθετες εξαρτήσεις δεδομένων, πρότυπα πρόσβασης μνήμης και υπολογιστικών προτύπων που οι σημερινές επεξεργαστές δεν σχεδιάστηκαν για να χειριστούν. Το αποτέλεσμα είναι σφραγίδες που επιβραδύνουν την καινοτομία.

Η Maverick-2 διαφέρει με μια νέα προσέγγιση που συνδυάζει einen ρυθμίσιμο dataflow κινητήρα με βελτιστοποίηση λογισμικού σε πραγματικό χρόνο. Η κλειδί αρχιτεκτονική διαφορά είναι ότι το υλικό ρυθμίζεται βάσει της εργασίας σας, όχι το αντίστροφο. Για την Maverick-2, η διαθεσιμότητα δεδομένων οδηγεί τον υπολογισμό, αντί για έναν προγραμματισμό που οδηγεί την εκτέλεση εντολών όπως στις παραδοσιακές επεξεργαστές. Αυτό μας επιτρέπει να δημιουργήσουμε λογισμικό-καθορίσιμες εικονικές μονάδες επεξεργασίας που μπορούν να ρυθμιστούν και να ξαναρυθμιστούν σε πραγματικό χρόνο για να ταιριάζουν σε συγκεκριμένα πρότυπα εργασιών.

Τα αποτελέσματα μιλούν από μόνα τους: η Maverick-2 προσφέρει πάνω από 4 φορές την απόδοση-ανά-βατ σε σχέση με τις GPU και πάνω από 20 φορές σε σχέση με τις υψηλές CPU, ενώ μειώνει τους λειτουργικούς κόστους περισσότερο από το μισό. Jako αποτέλεσμα, οι ερευνητές και οι μηχανικοί μπορούν να τρέχουν μεγάλες, μη κανονικές симуляσεις γρηγορότερα και πιο αποτελεσματικά, ξεκλείδωνοντας γνώσεις και επαναστάσεις σε ένα κλάσμα του χρόνου.

Έχετε αναφέρει ότι έχετε επιτύχει πάνω από 4 φορές την απόδοση-ανά-βατ σε σχέση με τις GPU και πάνω από 20 φορές σε σχέση με τις υψηλές CPU. Ποια είναι τα κλειδιά καινοτομίες που οδηγούν σε αυτές τις επιδόσεις σε πραγματικές εργασίες;

Οι επιδόσεις προέρχονται από quelques κλειδιά καινοτομίες που εργάζονται μαζί.

Πρώτα, απομακρυνθήκαμε από το μοντέλο Von Neumann που κυριαρχεί στον υπολογισμό για 80 χρόνια. Αντί για τη σειριακή εκτέλεση εντολών, η Maverick-2 χρησιμοποιεί μια αρχιτεκτονική dataflow όπου ο υπολογισμός ακολουθεί τη διαθεσιμότητα δεδομένων. Αυτό είναι θεμελιωδώς καλύτερο για τις μη κανονικές, μνήμη-εντατικές εργασίες.

Δεύτερον, η αυτο-βελτιστοποιημένη αρχιτεκτονική μας δημιουργεί λογισμικό-καθορίσιμες επεξεργαστικές πυρήνες σε πραγματικό χρόνο. Το υλικό προσαρμόζεται στις ανάγκες κάθε εφαρμογής χωρίς να απαιτείται η αναγραφή του κώδικα – έχετε βελτιστοποίηση χωρίς το φορτίο.

Τρίτον, και αυτό είναι κρίσιμο: εστιάζουμε στην πραγματική απόδοση σε πραγματικό χρόνο, όχι στα θεωρητικά πίκα. Πολλές αρχιτεκτονικές φαίνονται καλές στο χαρτί αλλά αποτυγχάνουν στις πραγματικές εργασίες. Η Maverick-2 διατηρεί την αποδοτικότητα σε AI, HPC και διανυσματικές βάσεις δεδομένων, συνεχώς προσαρμοζόμενο στις ανάγκες της εργασίας.

Το Maverick-2 υποστηρίζει C/C++, Fortran, OpenMP και Kokkos χωρίς να απαιτείται η αλλαγή του κώδικα. Πώς έχουν ανταποκριθεί οι dévelopτερς σε αυτήν την συμβατότητα, και ποια είναι τα σχέδιά σας για την υποστήριξη CUDA, ROCm ή δημοφιλών πλαισίων AI;

Οι dévelopτερς αγαπούν το γεγονός ότι η Maverick-2 είναι μια γνήσια “drop-in replacement”. Μπορούν να τρέχουν τις υπάρχουσες εφαρμογές τους αμέσως χωρίς τις barrières που πλήττουν αυτόν τον κλάδο. Τώρα υποστηρίζουμε C/C++, Fortran, OpenMP και Kokkos, με CUDA, ROCm και major πλαισια AI όπως TensorFlow, JAX, PyTorch και ONNX σε ενεργό ανάπτυξη. Αυτό εξαλείφει τον κλοιό του προμηθευτή και τις δαπανηρές αναγραφές κώδικα και επιτρέπει στους πελάτες να αξιολογήσουν και να υιοθετήσουν νέες αρχιτεκτονικές χωρίς να διαταράξουν τις ροές εργασιών τους.

Πώς λειτουργεί η τηλεμετρία-κίνητη βελτιστοποίηση συστήματος πίσω από τις σκηνές; Τι εμπλέκεται στη δημιουργία και την αναδιαμόρφωση του chip σε πραγματικό χρόνο;

Σκεφτείτε την βελτιστοποίηση συστήματος μας ως μια συνεχής λούπα: κατά τη διάρκεια της εκτέλεσης, το σύστημα τηλεμετρίας μας μετράει εκατοντάδες δείκτες απόδοσης (π.χ. εύρος ζώνης μνήμης, χρησιμοποίηση, βάθους ουράς). Όλα αυτά τα δεδομένα τροφοδοτούνται σε einen βελτιστοποιητή runtime που καθορίζει εάν η τρέχουσα ρύθμιση υλικού παραμένει βέλτιστη για την εργασία και τις προβλεπόμενες ανάγκες της. Αν όχι, μπορεί να αναδιαμορφώσει τους πόρους, να αναταξινόμησε τους δρόμους δεδομένων και να προσαρμόσει τις υπολογιστικές πipelines συνεχώς, με αποτέλεσμα η εφαρμογή να μην σταματά. Αυτό συμβαίνει μέσα σε χιλιοστά του δευτερολέπτου, οπότε η εφαρμογή διατηρεί τη συνεχή πικ απόδοση καθώς η υπολογιστική της προφίλ αλλάζει.

Υπάρχουν συγκεκριμένα είδη εργασιών ή περιπτώσεις όπου η προσαρμοστική βελτιστοποίηση σε πραγματικό χρόνο είναι λιγότερο αποτελεσματική ή εισάγει συναλλαγές σε καθυστέρηση ή ενέργεια;

Κάθε αρχιτεκτονική θα έχει συναλλαγές. Η Maverick-2 excels σε σύνθετες, μη κανονικές εργασίες με μεταβαλλόμενες υπολογιστικές και πρότυπα πρόσβασης δεδομένων. Για πολύ προβλέψιμες, σταθερές εργασίες, ένας καλά ρυθμισμένος GPU μπορεί να είναι πολύ αποτελεσματικός χωρίς το φορτίο της προσαρμογής. Σε αυτές τις περιπτώσεις, η προσαρμοστικότητά μας vẫn προσφέρει στερεή απόδοση, αλλά το σχετικό πλεονέκτημα μπορεί να είναι μικρότερο.

Η σχεδίαση της NextSilicon είναι όλα για την πολυμορφία και την ανταγωνιστικότητα στις απλές περιπτώσεις, αλλά μεταμορφωτική στις απαιτητικές.

Γιατί αποφασίσατε να προτεραιοποιήσετε την αγορά HPC από νωρίς, όταν οι περισσότερες start-up έτρεχαν στο AI; Πώς έχει διαμορφώσει αυτό το προϊόν και την επιχειρηματική στρατηγική σας;

Η αγορά HPC αντιπροσωπεύει το μέτωπο της υπολογιστικής πολυπλοκότητας και της επίλυσης προβλημάτων για τεράστιες βάσεις δεδομένων, μη κανονική πρόσβαση μνήμης και απρόβλεπτους υπολογιστικούς προτύπους. Αν μπορείτε να χτίσετε μια αρχιτεκτονική που να ευδοκιμεί εκεί – όπως η εκτέλεση симуляσιών σε κλίμακα exabyte στο κλίμα ή την σωματική φυσική, θα excels και στο AI.

Εστιάζοντας στην αγορά HPC πρώτα, αποδείξαμε την Maverick-2 στις πιο απαιτητικές εργασίες. Αυτό μας έδωσε αξιοπιστία, πραγματική απόδοση και ένα ώριμο προϊόν πριν μεταφερθούμε sâu hơn στις αγορές AI. Τώρα, είμαστε σε θέση να εξυπηρετήσουμε και τις δύο, χωρίς να έχουμε συμβιβαστεί την αρχιτεκτονική μας για να κεφαλαιοποιήσουμε τις σύντομες τάσεις ή τις ανάγκες.

Τώρα που η Maverick-2 είναι σε παραγωγή και έχει αναπτυχθεί σε δεκάδες πελάτες, μπορείτε να μοιραστείτε παραδείγματα για το πώς χρησιμοποιείται; Υπάρχουν συγκεκριμένα αποτελέσματα ή μετρήσεις από τις κυριότερες αναπτύξεις;

Ένα κυριότερο παράδειγμα είναι η ανάπτυξή μας στο Sandia National Labs, όπου η Maverick-2 τροφοδοτεί τον υπερυπολογιστή Spectra ως μέρος του προγράμματος Vanguard-II. Βλέπουμε εντυπωσιακά αποτελέσματα απόδοση-έξω από την κούτα χωρίς να απαιτείται η αλλαγή του κώδικα. Εργαζόμαστε επίσης με το ODISSEE (Online Data Intensive Solutions for Science in the Exabytes Era), το οποίο συνδυάζει κορυφαία ερευνητικά ιδρύματα για να χειριστούν δεδομένα σε κλίμακα exabyte από το CERN’s High-Luminosity Large Hadron Collider και το Square Kilometre Array Observatory. Ο ρόλος της Maverick-2 θα είναι να λύσει την πρόκληση της επεξεργασίας petabyte raw πειραματικών δεδομένων σε ένα κλάσμα του χρόνου και της ενέργειας που απαιτείτο προηγουμένως. Το τελικό στόχο είναι να ενεργοποιήσει ταχύτερες φυσικές αναλύσεις και αστρονομικές ανακαλύψεις.

Έχετε συγκεντρώσει πάνω από 300 εκατομμύρια δολάρια, με μεγάλες γύρους που ανακοινώθηκαν το 2021 και πιο πρόσφατα. Μπορείτε να μοιραστείτε πώς αυτό το χρηματοδότημα έχει επιταχύνει την ανάπτυξη προϊόντων και την αγορά;

Το χρηματοδότημα μας επέτρεψε να κάνουμε τρία πράγματα. Πρώτα, μπορούσαμε να ωθήσουμε την αρχιτεκτονική μας πιο μακριά, όχι μόνο σταδιακές βελτιώσεις, αλλά θεμελιώδεις προόδους που έκαναν την Maverick-2 έτοιμη για παραγωγή. Δεύτερον, μπορούσαμε να κλιμακώσουμε την παραγωγή και την αλυσίδα εφοδιασμού μας για να ανταποκριθούμε στην αυξανόμενη ζήτηση, μια μη εύκολη πρόκληση για νέο σιλικόνη. Τρίτον, επέκτεινα το οικοσύστημα λογισμικού μας για να επιτρέψουμε στους πελάτες να ενσωματώσουν και να αναπτύξουν γρηγορότερα.

Επίσης, μας επέτρεψε να κάνουμε στρατηγικές συνεργασίες με κέντρα υπερυπολογισμού και παρόχους cloud, επιτρέποντάς μας να ροκανίσουμε τη διαδικασία concept-to-deployment και να επεκταθούμε πολύ γρηγορότερα από τις παραδοσιακές start-up υλικού.

Σε ένα τοπίο που περιλαμβάνει Cerebras (CBRS ), SambaNova και Nvidia (NVDA ), πώς βλέπετε την NextSilicon να θέτει τον εαυτό της; Ποια είναι η στρατηγική σας για την αγορά ως μια προκλήτρια;

Βλέπουμε την NextSilicon ως μια τεχνολογική εταιρεία και όχι μόνο μια άλλη εταιρεία chip. Βελτιστοποιούμε κάθε εργασία, προσφέρουμε προσαρμοστικότητα και δεν κλείνουμε τους πελάτες μας σε ιδιοκτησιακό προγραμματισμό ή υλικό. Οι πελάτες μας μπορούν να φέρουν τον υπάρχοντα κώδικα και να επιτύχουν άμεση επιτάχυνση χωρίς τις μακρές κύκλους αναγραφής ή τον κλοιό του προμηθευτή σε ένα μόνο οικοσύστημα, όπως το CUDA. Αυτό έχει σημασία ιδιαίτερα καθώς οι εργασίες AI εξελίσσονται πέρα από την καθαρή εκπαίδευση. Μοντέλα συλλογισμού, επέκταση συλλογισμού και μεγάλα παράθυρα контекσταRequire διαφορετικά πρότυπα υπολογισμού: πιο δυναμική πρόσβαση μνήμης, μεταβλητού μήκους υπολογισμού και προσαρμοστική ανάθεση πόρων. Αυτά δεν είναι προβλήματα που λύνονται με περισσότερο από την ίδια σταθερή αρχιτεκτονική.

Η στρατηγική μας για την αγορά εστιάζει στο να λύσει τα πιο δύσκολα προβλήματα πρώτα: συνεργαζόμαστε με ερευνητικά ιδρύματα, εθνικά εργαστήρια και επιχειρήσεις όπου η απόδοση, η ενεργειακή αποδοτικότητα και η ευελιξία είναι κρίσιμες. Από εκεί, κλιμακωνόμαστε στις ευρύτερες αγορές AI και δεδομένων. Ο κλάδος κυριαρχείται από σταθερές αρχιτεκτονικές. Προσφέρουμε κάτι διαφορετικό, προσαρμοστικότητα από την αρχή. Η AI μετατρέπεται από την καθαρή κλίμακα στην ευφυΐα. Μεγαλύτερα μοντέλα ermögουν έξυπνο συλλογισμό, από σύντομες προτροπές σε μεγάλα παράθυρα контекστα. Σε αυτήν τη μετάβαση, προσαρμοστικές αρχιτεκτονικές δεν θα είναι μόνο καινοτόμες, θα είναι απαραίτητες.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν NextSilicon.