Dr. Xianxin Guo, PDG et co-fondateur de Lumai – Série d’entretiens

Dr. Xianxin Guo, PDG et co-fondateur de Lumai, est un physicien et un entrepreneur de la deep-tech spécialisé dans l’informatique optique et le matériel d’IA, titulaire d’un doctorat en physique quantique et en optique non linéaire de l’Université des sciences et de la technologie de Hong Kong. Il a occupé des postes de recherche, notamment un poste de postdoctorat à l’Université de Calgary et une bourse de recherche 1851 à l’Université d’Oxford, où il a contribué aux progrès de la photonique et de l’accélération de l’IA. En passant de chef de la recherche à PDG chez Lumai, il est l’inventeur principal de la technologie de base de l’entreprise et apporte plus d’une décennie d’expérience à l’intersection de la physique, de l’apprentissage automatique et des systèmes de calcul avancés.

Lumai est une spin-off de l’Université d’Oxford qui développe des processeurs d’IA de nouvelle génération basés sur l’informatique optique 3D, en utilisant la lumière au lieu de l’électricité pour effectuer les calculs d’IA clés. Sa technologie est conçue pour accélérer les opérations de matrice qui sous-tendent les modèles d’IA modernes, offrant des vitesses de traitement nettement plus rapides tout en réduisant la consommation d’énergie par rapport aux GPU traditionnels à base de silicium. En intégrant le calcul optique dans les environnements de centre de données existants, Lumai vise à permettre un déploiement d’IA plus évolutif et plus rentable, en répondant aux limitations croissantes de la puissance de calcul et de la consommation d’énergie dans les systèmes d’IA à grande échelle.

Vous avez commencé votre carrière en physique quantique et en optique non linéaire, puis vous êtes devenu boursier de recherche 1851 à l’Université d’Oxford avant de co-fonder Lumai à partir de vos recherches. Quel a été le moment charnière où vous avez réalisé que l’informatique optique pouvait passer de la théorie académique à une entreprise viable commercialement ?

Pendant mon séjour à l’Université d’Oxford, nous explorions la façon dont les propriétés de la lumière dans l’espace libre pouvaient être utilisées pour résoudre les types d’opérations de matrice qui sous-tendent l’apprentissage automatique. Au même moment, les limites du matériel conventionnel pour l’IA devenaient plus importantes. La convergence de ces défis que nous avions résolus dans nos recherches et le besoin de calcul plus efficace nous a donné la confiance que nous pouvions prendre nos idées et résoudre des problèmes du monde réel.

Nous avons parcouru un long chemin depuis ces premières recherches – chez Lumai, nous avons maintenant construit le premier système d’informatique optique capable d’exécuter des LLM à un milliard de paramètres en temps réel.

Lumai s’attaque à l’un des plus grands goulets d’étranglement de l’IA aujourd’hui, les limites énergétiques et de scalabilité de l’informatique à base de silicium. Quelles sont les limitations spécifiques des architectures traditionnelles qui vous ont poussé vers une approche fondamentalement différente utilisant la lumière ?

Ce qui nous a poussés, c’est la trajectoire limitée des solutions à base de silicium. Avec le silicium, vous voyez des gains incrémentiels, mais ils sont accompagnés d’augmentations disproportionnées de la puissance et de la complexité. La limitation de la mise à l’échelle du silicium est principalement due à la physique – les fréquences ne s’accroissent pas, et le nombre de transistors qui peuvent être commutés est limité par les thermiques. Les courants de fuite continuent d’être un problème. On estime que le silicium ne contribue qu’à 25 % d’augmentation annuelle des performances.

À ce stade, il est logique de se demander si un autre milieu physique pourrait gérer ces opérations de manière plus naturelle, plutôt que de continuer à pousser les électrons plus fort.

Votre travail se concentre sur l’informatique optique et l’apprentissage automatique. Comment l’utilisation de photons au lieu d’électrons change-t-elle fondamentalement la façon dont le calcul se produit au niveau du matériel ?

Avec les électrons, le calcul est inhérentement séquentiel et dissipatif – vous commuterez des transistors, déplacerez des charges, générerez de la chaleur. Chaque opération a un coût thermique, et ce coût s’accumule.

Les photons se comportent très différemment. La lumière se propage sans les mêmes pertes résistives, et de manière critique, en utilisant les propriétés de la lumière, un nombre énorme d’opérations de matrice peut être exécuté en parallèle simplement en structurant la façon dont les faisceaux de lumière interagissent à travers un milieu physique. Le calcul se produit dans la propagation de la lumière elle-même, et non dans la commutation de milliards de portes.

La technologie de Lumai exploite le traitement optique 3D et le parallélisme spatial massif. Pouvez-vous expliquer comment cette architecture permet des améliorations dramatiques du débit et de l’efficacité par rapport aux GPU ?

L’objectif est d’effectuer la multiplication de matrice dense de manière aussi efficace et rapide que possible en un seul cycle. L’approche de Lumai fait exactement cela en utilisant la lumière dans un volume tridimensionnel, en effectuant des millions d’opérations simultanément.

Vous ne pouvez pas atteindre ce niveau de parallélisme dans les structures 2D, où les opérations sont traitées à travers des centaines de cœurs nécessitant un déplacement constant de données. C’est ce parallélisme inhérent – combiné au fait que, une fois que vous êtes dans le domaine de la lumière, les opérations peuvent être effectuées sans brûler de puissance – qui entraîne à la fois l’amélioration du débit et la réduction spectaculaire de la consommation d’énergie par jeton.

De nombreuses entreprises d’infrastructure d’IA se concentrent encore sur la formation, tandis que Lumai cible l’inférence. Pourquoi pensez-vous que l’inférence est le défi déterminant de cette prochaine phase de l’IA ?

L’inférence est là où l’IA fait vraiment quelque chose d’utile – chaque requête répondue, chaque tâche d’agent terminée, chaque document généré. Nous sommes maintenant entrés dans l’ère de l’inférence, et la demande augmente à un rythme que le matériel axé sur la formation n’a jamais été conçu pour absorber.

Les économies sont également différentes : l’inférence s’exécute en continu, sur des millions d’utilisateurs. Le coût par jeton devient la métrique déterminante, et c’est là que le mur d’énergie frappe le plus fort.

Ce qui rend l’inférence particulièrement bien adaptée au calcul optique, c’est que la phase de préremplissage est fortement liée au calcul. Dans cette phase de préremplissage de l’inférence déconnectée, le contexte complet est traité avant de générer une réponse. Cela correspond presque parfaitement à notre moteur optique, et c’est là que nous nous sommes concentrés en premier.

L’un des défis de longue date de l’informatique optique a été la stabilité et la scalabilité. Quels ont été les principaux progrès techniques qui ont permis à Lumai de surmonter ces barrières ?

Le défi n’a jamais été de démontrer que l’optique pouvait effectuer un calcul – les chercheurs l’avaient montré en principe depuis des années. Le défi était de faire fonctionner cela à l’échelle, en dehors du laboratoire.

Deux choses ont compté le plus. Premièrement, nous utilisons les mêmes composants déjà déployés dans les centres de données aujourd’hui pour la communication et le réseau. Aucun matériau exotique, aucune chaîne d’approvisionnement spéculative. Deuxièmement, nous avons fait un choix architectural délibéré d’utiliser une conception hybride, en combinant le moteur tensoriel optique avec le traitement numérique pour le contrôle système et le logiciel.

Votre système utilise une approche hybride combinant des composants optiques et numériques. Quelle est l’importance de cet équilibre pour rendre l’informatique optique pratique pour le déploiement dans les centres de données du monde réel ?

C’est fondamental. L’informatique optique ne signifie pas remplacer tout par la lumière. Les systèmes numériques sont extrêmement bons pour le contrôle, la séquencing et l’interface avec l’écosystème logiciel que l’industrie a construit au fil des décennies. Notre moteur optique excelle dans les opérations mathématiques de base qui dominent le calcul d’inférence. L’architecture hybride permet à chaque composant de faire ce qu’il fait le mieux.

D’un point de vue de déploiement, cela compte énormément. Lumai Iris s’intègre dans les infrastructures de centre de données existantes, utilise des interfaces standard et exécute de véritables modèles, notamment Llama 8B et 70B aujourd’hui.

Avec l’annonce de la famille de serveurs Lumai Iris, en particulier le serveur Iris Nova, quel signal envoie-t-elle pour l’avenir de l’infrastructure d’IA ?

Elle signale que l’informatique optique a franchi le pas de la recherche à la réalité. Exécuter des modèles à un milliard de paramètres en temps réel est le point de preuve dont l’industrie avait besoin. La famille de serveurs Lumai Iris comprend trois serveurs : Nova, Aura et Tetra. Lumai Iris Nova, le premier serveur de la famille, est disponible pour une évaluation et nous nous engageons déjà avec des partenaires qui veulent l’utiliser pour des charges de travail d’inférence réelles.

Plus largement, cela signale que la trajectoire de l’infrastructure d’IA est sur le point de changer. L’hypothèse a été que la mise à l’échelle de l’inférence signifie acheter plus de GPU, consommer plus de puissance, construire des centres de données plus grands. Lumai Iris Nova montre qu’il y a un autre chemin – un chemin qui offre une performance nettement plus élevée par kilowatt et une structure de coûts fondamentalement différente par jeton. À mesure que la famille de serveurs Lumai Iris se développe, les implications pour la façon dont les hyperscalers et les entreprises pensent à l’approvisionnement en calcul seront importantes.

Le communiqué de presse met en évidence une consommation d’énergie inférieure de 90 % par rapport aux systèmes traditionnels. Quelle est l’importance de cette percée dans le contexte des contraintes énergétiques croissantes auxquelles sont confrontés les centres de données mondiaux ?

La contrainte énergétique est le défi d’infrastructure déterminant de l’ère de l’IA – la capacité de puissance est déjà un facteur limitant pour les plans de déploiement et nous avons atteint le soi-disant mur de puissance.

Face à ce contexte, une réduction de 90 % de la consommation d’énergie change les économies fondamentales et la faisabilité de l’IA à grande échelle. Un seul système Lumai peut remplacer des dizaines de GPU gourmands en énergie, ce qui se traduit par un changement significatif de ce qui est réalisable dans une enveloppe de puissance donnée.

Il y a également une dimension de coût : les coûts de construction de centre de données reflètent la capacité de puissance, donc un centre de données à faible puissance coûte moins cher à construire. La réduction de la consommation d’énergie réduit directement le coût par jeton – qui est finalement ce qui rend l’IA économiquement viable à l’échelle à laquelle l’industrie se dirige.

En regardant vers l’avenir, alors que l’industrie commence à parler d’une ère post-silicium, comment voyez-vous l’évolution de l’informatique optique au cours de la prochaine décennie, et quel rôle Lumai jouera-t-elle dans cette transition ?

L’ère post-silicium a déjà commencé, et elle se produit en même temps que le passage à l’ère de l’inférence et la demande continue de meilleures performances à moindre coût par jeton. Le silicium continuera bien sûr à jouer un rôle, mais l’hypothèse selon laquelle chaque génération d’amélioration du calcul provient de l’avancement des nœuds de silicium n’est plus crédible au rythme que l’IA exige. Nous voyons l’informatique optique étant utilisée dans les parties clés de la pile où un traitement parallèle et à haut débit est nécessaire.

Pour Lumai, la feuille de route consiste à continuer à pousser la densité, l’efficacité et la capacité de l’informatique optique et à la déployer dans les centres de données. La vision est un monde où le coût énergétique de l’intelligence diminue et où un centre de données à l’échelle du mégawatt peut générer le même volume de jetons qu’une installation à l’échelle du gigawatt aujourd’hui.

Cet avenir n’est pas une spéculation lointaine. Nous avons construit le premier système qui prouve que l’informatique optique fonctionne à grande échelle. Tout ce qui suit est de l’ingénierie.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus doivent visiter Lumai.