Lumai présente un serveur d’intelligence artificielle optique pour alimenter la prochaine ère de l’inférence

Lumai a annoncé ce qu’il décrit comme un grand pas en avant dans les infrastructures d’intelligence artificielle : un système de calcul optique capable d’exécuter des modèles de langage à grande échelle de plusieurs milliards de paramètres en temps réel. Le nouveau système, appelé Iris Nova, signale un déplacement loin des processeurs traditionnels basés sur le silicium vers une approche fondamentalement différente basée sur la lumière.

L’annonce intervient à un moment où l’industrie de l’intelligence artificielle est en train de passer rapidement de la formation de modèles à leur déploiement à grande échelle, ce qui met une pression sans précédent sur les infrastructures de calcul existantes.

Dépasser les contraintes du silicium

Pendant des années, les progrès de l’intelligence artificielle ont reposé fortement sur les avancées des puces de silicium, en particulier les GPU. Mais ce modèle commence à montrer des signes de tension. La consommation d’énergie augmente fortement, et les gains de performances sont de plus en plus difficiles à obtenir sans augmenter considérablement les coûts et les exigences énergétiques.

L’approche de Lumai remplace les électrons par des photons. Au lieu d’effectuer des calculs par signaux électriques, son système utilise la lumière pour traiter les données. Cela permet un parallélisme massif, où des millions d’opérations peuvent se produire simultanément dans un espace tridimensionnel plutôt que sur des surfaces plates en silicium.

Selon la société, cette architecture peut offrir un débit significativement plus élevé tout en réduisant la consommation d’énergie de jusqu’à 90 % par rapport aux systèmes conventionnels .

La pression croissante sur les centres de données

Le moment de ce lancement reflète les défis plus larges de l’industrie. Les charges de travail d’intelligence artificielle sont en expansion rapide, en particulier dans l’inférence, qui consiste à exécuter des modèles formés dans des applications du monde réel.

Les centres de données sont de plus en plus contraints par la disponibilité de l’énergie. La demande mondiale d’énergie pour les centres de données devrait doubler d’ici la fin de la décennie, ce qui oblige les opérateurs à explorer des solutions non conventionnelles telles que la production d’énergie dédiée et les sources d’énergie alternatives .

En même temps, la mise à l’échelle du matériel traditionnel devient moins efficace. Chaque nouvelle génération de silicium offre des améliorations incrémentielles, mais nécessite souvent beaucoup plus d’énergie et de refroidissement.

Lumai positionne le calcul optique comme un moyen de contourner ces limitations entièrement plutôt que de les améliorer de manière incrémentielle.

Fonctionnement d’Iris Nova

Le système Iris Nova utilise une architecture hybride qui combine des composants optiques et numériques. Le moteur optique gère les opérations mathématiques de base qui alimentent les modèles d’intelligence artificielle, tandis que les systèmes numériques conventionnels gèrent les fonctions logicielles et de contrôle.

Cette conception permet au système de s’intégrer dans les environnements de centre de données existants sans nécessiter une refonte complète de l’infrastructure.

Un domaine où le système est particulièrement optimisé est la phase de « préremplissage » de l’inférence, où les modèles traitent de grandes quantités de données d’entrée avant de générer des réponses. En accélérant cette phase, le système vise à améliorer le débit global et l’efficacité.

Lumai rapporte qu’Iris Nova peut exécuter des modèles tels que Llama 8B et 70B en temps réel, suggérant qu’il est capable de gérer des charges de travail de production à grande échelle plutôt que des cas d’utilisation expérimentaux .

Un déplacement vers l’ère de l’inférence

Le lancement reflète un déplacement plus large des priorités de l’intelligence artificielle. Alors que la formation de modèles de plus en plus grands a dominé les titres, l’impact réel de l’intelligence artificielle est maintenant défini par l’inférence – à savoir comment ces modèles peuvent être déployés et mis à l’échelle de manière efficace.

Ce déplacement expose des goulets d’étranglement qui étaient moins visibles pendant la phase de formation. Les charges de travail d’inférence sont continues, sensibles à la latence et gourmandes en énergie, ce qui rend l’efficacité un facteur critique.

Le système de Lumai est conçu spécifiquement pour cette phase, en se concentrant sur le débit par watt plutôt que sur la puissance de calcul brute seule.

Accès anticipé et implications pour l’industrie

Le serveur Iris Nova est maintenant disponible pour évaluation par les hyperscalers, les entreprises et les institutions de recherche. D’autres systèmes de la famille Iris, notamment Aura et Tetra, devraient suivre, en élargissant les options de performance et de déploiement.

Si le calcul optique peut tenir ses promesses à grande échelle, il pourrait remodeler l’économie des infrastructures d’intelligence artificielle. Une consommation d’énergie plus faible et une efficacité plus élevée ne réduiraient pas seulement les coûts d’exploitation, mais aborderaient également les préoccupations croissantes concernant l’impact environnemental de l’intelligence artificielle.

Alors que l’on ignore encore à quel rythme la technologie sera adoptée, l’annonce de Lumai met en évidence une direction claire : l’avenir du calcul d’intelligence artificielle ne sera peut-être pas construit uniquement sur le silicium.