Δρ. Xianxin Guo, Διευθύνων Σύμβουλος και Συνιδρυτής της Lumai – Σειρά Συνεντεύξεων

Δρ. Xianxin Guo, Διευθύνων Σύμβουλος και Συνιδρυτής της Lumai, είναι φυσικός και επιχειρηματίας deep-tech, ειδικευμένος σε οπτική υπολογιστική και υλικό AI, με διδακτορικό στην κβαντική φυσική και μη γραμμική οπτική από το Πανεπιστήμιο Επιστημών και Τεχνολογίας του Χονγκ Κονγκ. Προηγουμένως είχε αναλάβει ερευνητικές θέσεις, συμπεριλαμβανομένης μιας μεταδιδακτορικής θέσης στο Πανεπιστήμιο του Κάλγκαρι και μιας ερευνητικής υποτροφίας 1851 στο Πανεπιστήμιο της Οξφόρδης, όπου συνέβαλε σε προόδους στην οπτική και την επιτάχυνση του AI. Ανεβαίνοντας από την Lumai από την θέση του Διευθυντή Ερευνών στο CEO, είναι ο πρωταρχικός εφευρέτης πίσω από την πυρήνα τεχνολογίας της εταιρείας και φέρνει πάνω από μια δεκαετία εμπειρίας στο σημείο τομής της φυσικής, της μηχανικής μάθησης και των προηγμένων συστημάτων υπολογισμού.

Lumai είναι μια spinout του Πανεπιστημίου της Οξφόρδης που αναπτύσσει προηγμένα επεξεργαστές AI με βάση την 3D οπτική υπολογιστική, χρησιμοποιώντας το φως αντί για ηλεκτρισμό για την εκτέλεση κρίσιμων υπολογισμών AI. Η τεχνολογία της σχεδιάστηκε για να επιταχύνει τις ματρικές επιχειρήσεις που υποστηρίζουν τα σύγχρονα μοντέλα AI, προσφέροντας σημαντικά ταχύτερους χρόνους επεξεργασίας ενώ μειώνει την κατανάλωση ενέργειας σε σύγκριση με τους παραδοσιακούς επεξεργαστές GPU με βάση το πυρίτιο. Ενσωματώνοντας την οπτική υπολογιστική σε υπάρχοντα περιβάλλοντα κέντρων δεδομένων, η Lumai στοχεύει να επιτρέψει πιο κλιμακωτή και οικονομική ανάπτυξη του AI, αντιμετωπίζοντας τις αυξανόμενες περιορισμούς γύρω από την υπολογιστική ισχύ και την κατανάλωση ενέργειας σε μεγάλης κλίμακας συστήματα AI.

Ξεκινήσατε την καριέρα σας στη κβαντική φυσική και μη γραμμική οπτική, και αργότερα έγινε ερευνητής 1851 στο Πανεπιστήμιο της Οξφόρδης πριν από τη συνίδρυση της Lumai από την έρευνά σας. Ποια ήταν η κρίσιμη στιγμή όταν συνειδητοποιήσατε ότι η οπτική υπολογιστική θα μπορούσε να μεταβεί από την ακαδημαϊκή θεωρία σε μια εμπορικά βιώσιμη εταιρεία;

Κατά τη διάρκεια της θητείας μου στο Πανεπιστήμιο της Οξφόρδης, εξεταζόμασταν πώς οι ιδιότητες του φωτός στο ελεύθερο χώρο θα μπορούσαν να χρησιμοποιηθούν για την επίλυση των ειδών των ματρικών επιχειρήσεων που υποστηρίζουν την μηχανική μάθηση. Περίπου την ίδια εποχή, τα όρια του συμβατικού υλικού για το AI γίνονταν πιο σημαντικά. Η σύγκλιση αυτών των προκλήσεων που είχαμε λύσει στην έρευνά μας και η ανάγκη για πιο αποτελεσματική υπολογιστική μας έδωσε τη σιγουριά ότι θα μπορούσαμε να πάρουμε τις ιδέες μας και να λύσουμε πραγματικά προβλήματα.

Έχουμε προχωρήσει πολύ από εκείνη την αρχική έρευνα – στη Lumai έχουμε τώρα κατασκευάσει το πρώτο οπτικό σύστημα υπολογιστικής ικανό να εκτελεί μοντέλα LLM με δισεκατομμύρια παραμέτρους σε πραγματικό χρόνο.

Η Lumai αντιμετωπίζει ένα από τα μεγαλύτερα εμπόδια στο AI σήμερα, τα όρια ενέργειας και κλιμάκωσης των συστημάτων υπολογιστικής με βάση το πυρίτιο. Ποια ήταν τα συγκεκριμένα όρια στις παραδοσιακές αρχιτεκτονικές που σας ώθησαν προς μια θεμελιωδώς διαφορετική προσέγγιση χρησιμοποιώντας το φως;

Αυτό που μας ώθησε ήταν η περιορισμένη τροχιά των λύσεων πυριτίου. Με το πυρίτιο, βλέπετε σταδιακές βελτιώσεις, αλλά αυτές έρχονται με αsymmetrical αύξηση της ισχύος και της πολυπλοκότητας. Το όριο της κλιμάκωσης του πυριτίου οφείλεται κυρίως στη φυσική – οι συχνότητες δεν αυξάνονται, και ο αριθμός των τρανζίστορ που μπορούν να εναλλαχθούν είναι περιορισμένος από τους θερμικούς. Οι ροές διαρροής συνεχίζουν να είναι ένα ζήτημα. Υπολογίζεται ότι το πυρίτιο συμβάλλει μόνο σε 25% ετήσια αύξηση της απόδοσης.

Σε εκείνο το σημείο, έχει νόημα να ρωτήσουμε αν ένα διαφορετικό φυσικό μέσο θα μπορούσε να χειριστεί αυτές τις επιχειρήσεις πιο φυσικά, αντί να συνεχίσει να πιέζει τους ηλεκτρόνες πιο σκληρά.

Η εργασία σας επικεντρώνεται στην οπτική υπολογιστική και την μηχανική μάθηση. Πώς η χρήση φωτονίων αντί για ηλεκτρονίων αλλάζει θεμελιωδώς τον τρόπο με τον οποίο συμβαίνει η υπολογιστική στο επίπεδο του υλικού;

Με τους ηλεκτρόνες, η υπολογιστική είναι εγγενώς συναπτική και απωλεστική – εναλλάσσετε τρανζίστορ, μετακινείτε φορτίο, παράγετε θερμότητα. Κάθε επιχείρηση έχει einen θερμικό κόστος, και αυτό το κόστος συσσωρεύεται.

Τα φωτόνια συμπεριφέρονται πολύ διαφορετικά. Το φως ταξιδεύει χωρίς τις ίδιες απωλειές αντίστασης, και κριτικά, χρησιμοποιώντας τις ιδιότητες του φωτός, τεράστιος αριθμός ματρικών επιχειρήσεων μπορεί να εκτελεστεί παράλληλα απλώς με τη δομή του πώς οι δέσμες φωτός αλληλεπιδρούν μέσω ενός φυσικού μέσου. Η υπολογιστική συμβαίνει στην προώθηση του φωτός selbst, όχι στο εναλλάξιμο των δισεκατομμυρίων πυλών.

Η τεχνολογία της Lumai αξιοποιεί την 3D οπτική επεξεργασία και τη μαζική χωρική παραλληλία. Μπορείτε να εξηγήσετε πώς αυτή η αρχιτεκτονική επιτρέπει τόσο δραματικές βελτιώσεις στην απόδοση και την αποτελεσματικότητα σε σύγκριση με τις GPU;

Ο στόχος είναι να εκτελεστεί η πυκνή ματρική πολλαπλασιασμός όσο το δυνατόν πιο αποτελεσματικά και γρήγορα σε einen κύκλο. Η προσέγγιση της Lumai κάνει ακριβώς αυτό, χρησιμοποιώντας το φως σε einen τρισδιάστατο όγκο, εκτελώντας εκατομμύρια επιχειρήσεων ταυτόχρονα.

Απλά δεν μπορείτε να επιτύχετε αυτό το επίπεδο παραλληλίας σε 2D δομές, όπου οι επιχειρήσεις επεξεργάζονται σε εκατοντάδες πυρήνες που απαιτούν συνεχείς μετακινήσεις δεδομένων. Αυτή η εγγενής παραλληλία – σε συνδυασμό με το γεγονός ότι, μια φορά που είστε στο domaine του φωτός, οι επιχειρήσεις μπορούν να εκτελεστούν χωρίς να καίγονται – οδηγεί και στην αύξηση της απόδοσης και την δραματική μείωση της κατανάλωσης ενέργειας ανά token.

Πολλά εταιρεία υποδομής AI εξακολουθούν να επικεντρώνονται στην εκπαίδευση, ενώ η Lumai στοχεύει στην εικασία. Γιατί πιστεύετε ότι η εικασία είναι η καθοριστική πρόκληση αυτής της επόμενης φάσης του AI;

Η εικασία είναι όπου το AI πραγματικά κάνει κάτι χρήσιμο – κάθε ερώτηση που απαντάται, κάθε εργασία που ολοκληρώνεται, κάθε έγγραφο που δημιουργείται. Έχουμε τώρα μπει στην εποχή της εικασίας, και η ζήτηση αυξάνεται με ρυθμό που το υλικό που επικεντρώνεται στην εκπαίδευση δεν ήταν ποτέ σχεδιασμένο να απορροφήσει.

Οι οικονομικές είναι επίσης διαφορετικές: η εικασία τρέχει συνεχώς, σε εκατομμύρια χρήστες. Το κόστος ανά token γίνεται το καθοριστικό μέτρο, και εκεί είναι όπου το τείχος ενέργειας χτυπά πιο σκληρά.

Τι κάνει την εικασία ιδιαίτερα κατάλληλη για την οπτική υπολογιστική είναι ότι το στάδιο της προ-πλήρωσης είναι έντονα υπολογιστικά. Σε αυτό το στάδιο της εικασίας της αποσύνδεσης, ολόκληρος ο контекст επεξεργάζεται πριν από τη δημιουργία μιας απάντησης. Αυτό χαρτογραφείται σχεδόν απόλυτα στο οπτικό μας κινητήρα και είναι εκεί που επικεντρώθηκα πρώτα.

Μια από τις μακροχρόνιες προκλήσεις στην οπτική υπολογιστική ήταν η σταθερότητα και η κλιμάκωση. Ποια ήταν τα κρίσιμα τεχνικά επιτεύγματα που επέτρεψαν στη Lumai να υπερβεί αυτά τα εμπόδια;

Η πρόκληση δεν ήταν ποτέ να αποδείξουμε ότι η οπτική υπολογιστική θα μπορούσε να εκτελέσει υπολογισμούς – ερευνητές είχαν δείξει ότι σε θεωρία για χρόνια. Η πρόκληση ήταν να κάνει να δουλεύει σε κλίμακα, έξω από το εργαστήριο.

Δυο πράγματα είχαν σημασία. Πρώτον, χρησιμοποιούμε τα ίδια συστατικά που已经 αναπτυχθούν σε κέντρα δεδομένων σήμερα για επικοινωνία και δίκτυο. Χωρίς εξωτικά υλικά, χωρίς εικασίες στην αλυσίδα εφοδιασμού. Δεύτερον, κάναμε μια σκόπιμη αρχιτεκτονική επιλογή να χρησιμοποιήσουμε einen υβριδικό σχεδιασμό, συνδυάζοντας τον οπτικό πυρήνα με ψηφιακή επεξεργασία για έλεγχο συστήματος και λογισμικό.

Το σύστημα σας χρησιμοποιεί μια υβριδική προσέγγιση που συνδυάζει οπτικά και ψηφιακά συστατικά. Πόσο σημαντική είναι αυτή η ισορροπία για να κάνει την οπτική υπολογιστική πρακτική για την ανάπτυξη σε πραγματικά κέντρα δεδομένων;

Είναι θεμελιώδες. Η οπτική υπολογιστική δεν σημαίνει να αντικαταστήσετε όλα με φως. Τα ψηφιακά συστήματα είναι εξαιρετικά καλά στο έλεγχο, τη σειρά και τη διεπαφή με το οικοσύστημα λογισμικού που έχει χτιστεί η βιομηχανία κατά τις δεκαετίες. Ο οπτικός μας κινητήρας excels στις κεντρικές μαθηματικές επιχειρήσεις που κυριαρχούν την εικασία υπολογιστική. Η υβριδική αρχιτεκτονική αφήνει κάθε συστατικό να κάνει αυτό που κάνει καλύτερα.

Από την πλευρά της ανάπτυξης, αυτό έχει τεράστια σημασία. Η Lumai Iris ενσωματώνεται σε υπάρχοντα κέντρα δεδομένων, χρησιμοποιεί τυποποιημένες διεπαφές και τρέχει πραγματικά μοντέλα, συμπεριλαμβανομένων Llama 8B και 70B σήμερα.

Με την ανακοίνωση της οικογένειας Lumai Iris, ιδιαίτερα του διακομιστή Iris Nova, τι σηματοδοτεί η επίτευξη της εικασίας σε πραγματικό χρόνο σε μοντέλα με δισεκατομμύρια παραμέτρους για το μέλλον της υποδομής AI;

Σηματοδοτεί ότι η οπτική υπολογιστική έχει διασχίσει από την έρευνα στην πραγματικότητα. Η εκτέλεση μοντέλων με δισεκατομμύρια παραμέτρους σε πραγματικό χρόνο είναι το σημείο αναφοράς που χρειαζόταν η βιομηχανία. Η οικογένεια διακομιστών Lumai Iris αποτελείται από τρεις διακομιστές: Nova, Aura και Tetra. Ο διακομιστής Lumai Iris Nova, ο πρώτος διακομιστής της οικογένειας, είναι διαθέσιμος για αξιολόγηση τώρα, και ήδη ασχολούμαστε με συνεργάτες που θέλουν να το χρησιμοποιήσουν ενάντια σε πραγματικές εργασιες εικασίας.

Πιο ευρύτερα, σηματοδοτεί ότι η τροχιά της υποδομής AI είναι πρόθυμη να αλλάξει. Η υπόθεση ήταν ότι η κλιμάκωση της εικασίας σημαίνει αγορά περισσότερων GPU, τραβώντας περισσότερη ισχύ, κατασκευάζοντας μεγαλύτερα κέντρα δεδομένων. Η Lumai Iris Nova δείχνει ότι υπάρχει ένας άλλος δρόμος – ένας που προσφέρει δραματικά περισσότερη απόδοση ανά kilowatt και μια θεμελιωδώς διαφορετική δομή κόστους ανά token. Όσο η οικογένεια διακομιστών Lumai Iris αναπτύσσεται, οι επιπτώσεις για το πώς οι υπερ-κλιμάκωτες και οι επιχειρήσεις σκέφτονται την αγορά υπολογιστικών πόρων θα είναι σημαντικές.

Η ανακοίνωση του τύπου υπογραμμίζει μέχρι 90% χαμηλότερη κατανάλωση ενέργειας σε σύγκριση με τα παραδοσιακά συστήματα. Πόσο σημαντική είναι αυτή η ανακάλυψη στο контέκστ της αυξανόμενης ενεργειακής πίεσης που αντιμετωπίζουν τα παγκόσμια κέντρα δεδομένων;

Η ενεργειακή πίεση είναι η καθοριστική πρόκληση της εποχής AI – η ικανότητα ισχύος είναι ήδη ένας περιοριστικός παράγοντας στα σχέδια ανάπτυξης και έχουμε χτυπήσει το così-καλούμενο τοίχο ισχύος.

Ενάντια σε αυτό το υπόβαθρο, μια μείωση 90% στην κατανάλωση ενέργειας αλλάζει τις θεμελιώδεις οικονομίες και τη βιωσιμότητα του AI σε κλίμακα. Ένα μόνο σύστημα Lumai μπορεί να αντικαταστήσει δεκάδες ισχυρές GPU, που μεταφράζεται σε σημαντική αλλαγή σε αυτό που είναι επιτεύξιμο μέσα σε einen δεδομένο περιβάλλον ισχύος.

Υπάρχει επίσης μια διασταύρωση κόστους: τα έξοδα κατασκευής κέντρων δεδομένων αντανακλούν την ικανότητα ισχύος, οπότε ένα κέντρο δεδομένων χαμηλής ισχύος κοστίζει λιγότερο για να κατασκευαστεί. Η μείωση της κατανάλωσης ενέργειας μειώνει直接 το κόστος ανά token – το οποίο είναι τελικά αυτό που κάνει το AI οικονομικά βιώσιμο στην κλίμακα που η βιομηχανία κτίζει.

Κοιτάζοντας μπροστά, καθώς η βιομηχανία αρχίζει να μιλάει για μια μετα-πυριτική εποχή, πώς βλέπετε την οπτική υπολογιστική να εξελίσσεται τις επόμενες δεκαετίες, και ποιο ρόλο θα παίξει η Lumai στη διαμόρφωση αυτής της μετάβασης;

Η μετα-πυριτική εποχή έχει ήδη αρχίσει, και συμβαίνει την ίδια στιγμή με τη μετάβαση στην εποχή της εικασίας και την συνεχιζόμενη ζήτηση για περισσότερη απόδοση σε χαμηλότερο κόστος ανά token. Το πυρίτιο φυσικά θα συνεχίσει να παίζει ρόλο, αλλά η υπόθεση ότι κάθε γενιά υπολογιστικής βελτίωσης έρχεται από την πρόοδο των κόμβων πυριτίου δεν είναι πλέον πιστευτή στο ρυθμό που το AI απαιτεί. Βλέπουμε την οπτική υπολογιστική να χρησιμοποιείται σε κρίσιμα μέρη του στακ όπου απαιτούνται υψηλά παράλληλα, υψηλής απόδοσης επεξεργασίες.

Για τη Lumai, ο δρόμος είναι να συνεχίσουμε να πιέζουμε την πυκνότητα, την αποτελεσματικότητα και την ικανότητα της οπτικής υπολογιστικής και να την αναπτύξουμε σε κέντρα δεδομένων. Η όραση είναι ένας κόσμος όπου το κόστος της νοημοσύνης πέφτει και όπου ένα κέντρο δεδομένων μεγέθους megawatt μπορεί να παράγει το ίδιο όγκο token όπως ένα κέντρο δεδομένων μεγέθους gigawatt σήμερα.

Αυτό το μέλλον δεν είναι μακρινή εικασία. Έχουμε κατασκευάσει το πρώτο σύστημα που αποδεικνύει ότι η οπτική υπολογιστική λειτουργεί σε κλίμακα. Όλα από εδώ είναι μηχανική.

Ευχαριστώ για τη μεγάλη συνέντευξη, οι αναγνώστες που επιθυμούν να μάθουν περισσότερα πρέπει να επισκεφθούν Lumai.