Phillip Burr, Head of Product at Lumai – Συνέντευξη Σειράς

Phillip Burr είναι ο Head of Product tại Lumai, με περισσότερες από 25 χρόνια εμπειρίας στη διαχείριση προϊόντων, go-to-market και ηγετικών ρόλων σε leading εταιρείες ημιαγωγών και τεχνολογίας, και ένα αποδεδειγμένο ιστορικό κατασκευής και κλιμάκωσης προϊόντων και υπηρεσιών.

Lumai είναι μια εταιρεία deep tech με έδρα το Ηνωμένο Βασίλειο, που αναπτύσσει επεξεργαστές 3D οπτικών υπολογιστών για την επιτάχυνση των φόρτων εργασίας της τεχνητής νοημοσύνης. Thực hiện τις πολλαπλασιαστικές матριών-διάνυσματος χρησιμοποιώντας δέσμες φωτός σε τρεις διαστάσεις, η τεχνολογία τους προσφέρει μέχρι 50 φορές την απόδοση και 90% λιγότερη κατανάλωση ενέργειας σε σύγκριση με τους παραδοσιακούς επιταχυντές που βασίζονται στο πυρίτιο. Αυτό το καθιστά ιδιαίτερα κατάλληλο για εργασίες συλλογής της τεχνητής νοημοσύνης, συμπεριλαμβανομένων μεγάλων μοντέλων γλωσσών, ενώ μειώνει σημαντικά το κόστος ενέργειας και την περιβαλλοντική επίδραση.

Τι ενέπνευσε την ίδρυση της Lumai και πώς εξελίχθηκε η ιδέα από την έρευνα του Πανεπιστημίου της Οξφόρδης σε εμπορική επιχείρηση;

Η αρχική σπίθα αναφλέχθηκε όταν ένας από τους ιδρυτές της Lumai, ο Δρ. Xianxin Guo, έλαβε μια ερευνητική υποτροφία 1851 στο Πανεπιστήμιο της Οξφόρδης. Οι συνέντευκτες κατανόησαν το δυναμικό της οπτικής υπολογιστικής και ρώτησαν αν ο Xianxin θα σκεφτόταν патенты και την ίδρυση μιας εταιρείας αν η έρευνά του ήταν επιτυχημένη. Αυτό έκανε το δημιουργικό μυαλό του Xianxin να λειτουργήσει και όταν αυτός, μαζί με έναν από τους άλλους συν-ιδρυτές της Lumai, τον Δρ. James Spall, απέδειξαν ότι η χρήση του φωτός για την εκτέλεση των μαθηματικών υπολογισμών στο κέντρο της τεχνητής νοημοσύνης θα μπορούσε να αυξήσει δραματικά την απόδοση της τεχνητής νοημοσύνης και να μειώσει την ενέργεια, η σκηνή ήταν ρυθμισμένη. Γνώριζαν ότι η υπάρχουσα σιλικονική τεχνολογία της τεχνητής νοημοσύνης (και ακόμη) αγωνίζεται να αυξήσει την απόδοση χωρίς να αυξήσει σημαντικά την ενέργεια και το κόστος, και επομένως, αν θα μπορούσαν να λύσουν αυτό το πρόβλημα χρησιμοποιώντας οπτική υπολογιστική, θα μπορούσαν να δημιουργήσουν ένα προϊόν που οι πελάτες θα ήθελαν. Πήγαν αυτή την ιδέα σε μερικούς επενδυτές, οι οποίοι τους υποστήριξαν για να ιδρύσουν τη Lumai. Η Lumai πρόσφατα ολοκλήρωσε τη δεύτερη γύρο χρηματοδότησής της, συγκεντρώνοντας πάνω από 10 εκατομμύρια δολάρια και φέρνοντας επιπλέον επενδυτές που επίσης πιστεύουν ότι η οπτική υπολογιστική μπορεί να συνεχίσει να κλιμακώνεται και να ικανοποιεί την αυξανόμενη ζήτηση για απόδοση της τεχνητής νοημοσύνης χωρίς αύξηση της ενέργειας.

Τι σας οδήγησε να ενταχθείτε στη Lumai σε αυτό το στάδιο;

Η σύντομη απάντηση είναι η ομάδα και η τεχνολογία. Η Lumai έχει μια εντυπωσιακή ομάδα οπτικών, μηχανικής μάθησης και ειδικών κέντρων δεδομένων, φέρνοντας εμπειρία από εταιρείες όπως η Meta, Intel (INTC ), Altera, Maxeler, Seagate και IBM (μαζί με την δική μου εμπειρία στην Arm, indie, Mentor Graphics και Motorola). Γνώριζα ότι μια ομάδα εξαιρετικών ανθρώπων που εστιάζουν τόσο πολύ στην επίλυση της προκλήσης της μείωσης του κόστους της συλλογής της τεχνητής νοημοσύνης θα μπορούσε να κάνει απίστευτα πράγματα.

Πιστεύω ακράδαντα ότι ο μέλλον της τεχνητής νοημοσύνης απαιτεί νέες, καινοτόμες đột pháσεις στην υπολογιστική. Η υπόσχεση να προσφέρουμε 50 φορές την απόδοση της υπολογιστικής της τεχνητής νοημοσύνης, καθώς και να μειώσουμε το κόστος της συλλογής της τεχνητής νοημοσύνης στο 1/10 σε σύγκριση με τις σημερινές λύσεις, ήταν απλά μια ευκαιρία που δεν θα μπορούσα να χάσω.

Ποια ήταν κάποια από τις πρώτες τεχνικές ή επιχειρηματικές προκλήσεις που αντιμετώπισε η ομάδα σας κατά την κλιμάκωση από μια ερευνητική đột pháση σε μια εταιρεία που είναι έτοιμη για προϊόν;

Η ερευνητική đột pháση απέδειξε ότι η οπτική υπολογιστική μπορεί να χρησιμοποιηθεί για γρήγορη και πολύ αποτελεσματική πολλαπλασιαστική матριών-διάνυσματος.尽管 οι τεχνικές đột pháσεις, η μεγαλύτερη πρόκληση ήταν να πείσουν τους ανθρώπους ότι η Lumai θα μπορούσε να επιτύχει εκεί όπου άλλες εταιρείες οπτικής υπολογιστικής είχαν αποτύχει. Πρέπει να περάσουμε χρόνο εξηγώντας ότι η προσέγγιση της Lumai ήταν πολύ διαφορετική και ότι αντί να βασίζεται σε ένα μόνο 2D chip, χρησιμοποιούμε 3D οπτική για να φτάσουμε στα επίπεδα κλίμακας και αποτελεσματικότητας. Υπάρχουν φυσικά πολλά βήματα για να μεταβούμε από την έρευνα του εργαστηρίου σε τεχνολογία που μπορεί να αναπτυχθεί σε μεγάλη κλίμακα σε ένα κέντρο δεδομένων. Αναγνώρισαν πολύ sớm ότι ο κλειδί για την επιτυχία ήταν η προσέλκυση μηχανικών που έχουν εμπειρία στην ανάπτυξη προϊόντων σε υψηλή ποσότητα και σε κέντρα δεδομένων. Η άλλη περιοχή είναι το λογισμικό – είναι απαραίτητο να μπορούν τα τυπικά πλαίσια και μοντέλα της τεχνητής νοημοσύνης να επωφεληθούν από τον επεξεργαστή της Lumai και να παρέχουμε τα εργαλεία και τα πλαίσια για να κάνουμε αυτό το πιο άνετο για τους μηχανικούς της τεχνητής νοημοσύνης.

Η τεχνολογία της Lumai λέει ότι χρησιμοποιεί 3D οπτική πολλαπλασιαστική матριών-διάνυσματος. Μπορείτε να το εξηγήσετε σε απλά λόγια για ένα γενικό κοινό;

Τα συστήματα της τεχνητής νοημοσύνης πρέπει να κάνουν πολλές μαθηματικές υπολογισμούς που ονομάζονται πολλαπλασιαστική матριών-διάνυσματος. Αυτοί οι υπολογισμοί είναι ο κινητήρας που δίνει την απόκριση της τεχνητής νοημοσύνης. Στη Lumai, κάνουμε αυτό χρησιμοποιώντας το φως αντί για την ηλεκτρική ενέργεια. Εδώ είναι πώς λειτουργεί:

1. Κωδικοποιούμε τις πληροφορίες σε δέσμες φωτός
2. Αυτές οι δέσμες φωτός ταξιδεύουν μέσω του 3D χώρου
3. Το φως αλληλεπιδρά με φακούς και ειδικά υλικά
4. Αυτές οι αλληλεπιδράσεις ολοκληρώνουν την μαθηματική λειτουργία

Χρησιμοποιώντας όλες τις τρεις διαστάσεις του χώρου, μπορούμε να επεξεργαστούμε περισσότερες πληροφορίες με κάθε δέσμη φωτός. Αυτό καθιστά την προσέγγισή μας πολύ αποτελεσματική – μειώνοντας την ενέργεια, τον χρόνο και το κόστος που απαιτείται για την εκτέλεση της τεχνητής νοημοσύνης.

Τι είναι τα κύρια πλεονεκτήματα της οπτικής υπολογιστικής σε σύγκριση με τις παραδοσιακές σιλικονικές GPU και ακόμη και τις ολοκληρωμένες φωτονικές;

Επειδή ο ρυθμός της πρόοδου της τεχνολογίας του πυριτίου έχει επιβραδύνει σημαντικά, κάθε βήμα στην απόδοση ενός σιλικονικού επεξεργαστή της τεχνητής νοημοσύνης (όπως μια GPU) οδηγεί σε μια σημαντική αύξηση της ενέργειας. Οι λύσεις που βασίζονται μόνο στο πυρίτιο καταναλώνουν μια απίστευτη ποσότητα ενέργειας και κυνηγούν μειούμενες αποδόσεις, κάνοντας τις πολύ σύνθετες και ακριβές. Το πλεονέκτημα της χρήσης της οπτικής υπολογιστικής είναι ότι μια φορά που βρίσκεται στην οπτική περιοχή,几乎 δεν καταναλώνεται ενέργεια. Η ενέργεια χρησιμοποιείται για να εισέλθουμε στην οπτική περιοχή, αλλά, για παράδειγμα, στον επεξεργαστή της Lumai, μπορούμε να επιτύχουμε πάνω από 1.000 λειτουργίες υπολογισμού για κάθε δέσμη φωτός, κάθε κύκλο, καθιστώντας την πολύ αποτελεσματική. Αυτή η κλιμάκωση δεν μπορεί να επιτευχθεί χρησιμοποιώντας ολοκληρωμένες φωτονικές λόγω των φυσικών περιορισμών του μεγέθους και του θορύβου του σήματος, με τον αριθμό των λειτουργιών υπολογισμού της λύσης του πυριτίου-φωτονικής να είναι μόνο 1/8 του τι μπορεί να επιτύχει η Lumai σήμερα.

Πώς ο επεξεργαστής της Lumai επιτύχει σχεδόν μηδενική καθυστέρηση συλλογής, και γιατί είναι αυτό ένα κρίσιμο παράγοντα για τις σύγχρονες φόρτους εργασίας της τεχνητής νοημοσύνης;

Αν και δεν θα ισχυριζόμαστε ότι ο επεξεργαστής της Lumai προσφέρει καθυστέρηση μηδέν, εκτελεί μια πολύ μεγάλη (1024 x 1024) πολλαπλασιαστική матριών-διάνυσματος σε einen κύκλο. Οι λύσεις που βασίζονται μόνο στο πυρίτιο συνήθως διαιρούν μια матρίца σε μικρότερες матρίες, οι οποίες επεξεργάζονται ξεχωριστά και στη συνέχεια τα αποτελέσματα πρέπει να συνδυαστούν. Αυτό χρειάζεται χρόνο και οδηγεί σε περισσότερη μνήμη και ενέργεια. Η μείωση του χρόνου, της ενέργειας και του κόστους της υπολογιστικής της τεχνητής νοημοσύνης είναι κρίσιμη για να επιτρέψει σε περισσότερες επιχειρήσεις να επωφεληθούν από την τεχνητή νοημοσύνη και για να ενεργοποιήσει την προηγμένη τεχνητή νοημοσύνη με τον πιο βιώσιμο τρόπο.

Μπορείτε να μας οδηγήσετε через το πώς ο συμβατός με PCIe μορφότυπος της Lumai ενσωματώνεται με την υπάρχουσα υποδομή κέντρου δεδομένων;

Ο επεξεργαστής της Lumai χρησιμοποιεί κάρτες μορφότυπου PCIe μαζί με einen τυπικό CPU, όλα μέσα σε einen τυπικό 4U ράφι. Εργαζόμαστε με μια σειρά από προμηθευτές εξοπλισμού ραφιών κέντρου δεδομένων, ώστε ο επεξεργαστής της Lumai να ενσωματώνεται με το δικό τους εξοπλισμό. Χρησιμοποιούμε τυπικές διεπαφές δικτύου, τυπικό λογισμικό, κ.λπ. ώστε εξωτερικά ο επεξεργαστής της Lumai να φαίνεται σαν οποίος άλλος επεξεργαστής κέντρου δεδομένων.

Η κατανάλωση ενέργειας του κέντρου δεδομένων είναι μια αυξανόμενη παγκόσμια ανησυχία. Πώς η Lumai θέτει τον εαυτό της ως μια βιώσιμη λύση για την υπολογιστική της τεχνητής νοημοσύνης;

Η κατανάλωση ενέργειας του κέντρου δεδομένων αυξάνεται με ένα απειλητικό ρυθμό. Σύμφωνα με μια έκθεση από το Lawrence Berkeley National Laboratory, η κατανάλωση ενέργειας του κέντρου δεδομένων στις ΗΠΑ αναμένεται να τριπλασιαστεί μέχρι το 2028, καταναλώνοντας μέχρι 12% της ενέργειας της χώρας. Ορισμένοι операторы κέντρου δεδομένων σκέφτονται να εγκαταστήσουν πυρηνική ενέργεια για να παρέχουν την ενέργεια που χρειάζεται. Η βιομηχανία πρέπει να εξετάσει διαφορετικές προσεγγίσεις για την τεχνητή νοημοσύνη, και πιστεύουμε ότι η οπτική υπολογιστική είναι η απάντηση σε αυτήν την ενεργειακή κρίση.

Μπορείτε να εξηγήσετε πώς η αρχιτεκτονική της Lumai αποφεύγει τα μπουκάλια της κλιμάκωσης των τρεχουσών σιλικονικών και φωτονικών προσεγγίσεων;

Η απόδοση του πρώτου επεξεργαστή της Lumai είναι μόνο η αρχή του τι είναι δυνατό. Αναμένουμε ότι η λύση μας θα συνεχίσει να προσφέρει τεράστιες προόδους στην απόδοση: αυξάνοντας τους οπτικούς ρυθμούς και τα πλάτη των διανυσμάτων, όλα χωρίς μια αντίστοιχη αύξηση της ενέργειας. Δεν υπάρχει άλλη λύση που μπορεί να επιτύχει αυτό. Οι τυπικές ψηφιακές σιλικονικές προσεγγίσεις θα συνεχίσουν να καταναλώνουν περισσότερη ενέργεια και κόστος για κάθε αύξηση της απόδοσης. Οι σιλικονικές φωτονικές δεν μπορούν να επιτύχουν το πλάτος διανύσματος που χρειάζεται και, επομένως, οι εταιρείες που εξέταζαν τις ολοκληρωμένες φωτονικές για υπολογιστική κέντρου δεδομένων έχουν μετατοπιστεί για να解决 άλλες περιοχές του κέντρου δεδομένων – για παράδειγμα, οπτικές διασυνδέσεις ή οπτικές διακοπείς.

Τι ρόλο βλέπετε την οπτική υπολογιστική να παίζει στο μέλλον της τεχνητής νοημοσύνης — και πιο ευρύτερα, στην υπολογιστική ως σύνολο;

Η οπτική υπολογιστική θα παίξει ένα τεράστιο ρόλο στα κέντρα δεδομένων στο μέλλον – από οπτικές διασυνδέσεις, οπτικές δικτύωση, οπτικές διακοπείς και, φυσικά, οπτική υπολογιστική της τεχνητής νοημοσύνης. Οι απαιτήσεις που η τεχνητή νοημοσύνη τοποθετεί στο κέντρο δεδομένων είναι ο κρίσιμος οδηγός αυτής της μετατόπισης στην οπτική. Η οπτική διασύνδεση θα επιτρέψει ταχύτερες συνδέσεις μεταξύ των επεξεργαστών της τεχνητής νοημοσύνης, το οποίο είναι απαραίτητο για τα μεγάλα μοντέλα της τεχνητής νοημοσύνης. Η οπτική διακοπή θα επιτρέψει πιο αποτελεσματική δικτύωση, και η οπτική υπολογιστική θα επιτρέψει ταχύτερη, πιο ενεργειακά αποτελεσματική και χαμηλότερου κόστους υπολογιστική της τεχνητής νοημοσύνης. Συλλογικά, θα βοηθήσουν να ενεργοποιήσουν ακόμη πιο προηγμένη τεχνητή νοημοσύνη, υπερβαίνοντας τις προκλήσεις της επιβράδυνσης της κλίμακας του πυριτίου στην πλευρά της υπολογιστικής και των περιορισμών ταχύτητας του χαλκού στην πλευρά της διασύνδεσης.

Ευχαριστούμε για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Lumai.