Le changement à venir dans l’infrastructure d’IA : la programmabilité au-delà du silicium

Alors que le monde entier est de plus en plus enthousiaste à l’égard de l’IA et de toutes ses applications, il existe des barrières très réelles qui entravent son succès complet. Prenez, par exemple, l’infrastructure des centres de données d’IA, qui fait face à des défis de fiabilité importants, à des goulets d’étranglement de performance et à des contraintes de consommation d’énergie croissantes qui limitent la capacité des systèmes d’IA à évoluer dans la pratique. En effet, les charges de travail d’IA en constante évolution exigent un passage à la prochaine étape du développement des OCS — les OCS à base de photonique de silicium programmables — qui permettent des niveaux de flexibilité du réseau jamais vus auparavant.

Comment nous sommes arrivés là : l’histoire derrière le développement des OCS

Les commutateurs de circuit optique (OCS) ont une longue histoire de téléphonie, qui remonte à la fin du 19e/début du 20e siècle, lorsque la communication vocale reposait sur la commutation de circuit — en branchant physiquement des câbles pour établir une connexion téléphonique entre deux parties. La commutation de paquets a été introduite dans les années 1960 comme un moyen d’utiliser de manière plus efficace les infrastructures partagées. Cela consistait à diviser les données en petits « paquets » pour permettre à plusieurs transmissions de voyager sur un réseau par n’importe quel itinéraire. Dans les années 1970, ces paquets ont été davantage définis en termes d’adressage, de routage et de livraison sur des systèmes hétérogènes, et dans les années 1980, cette définition — le protocole de contrôle de transmission/protocole Internet, ou TCP/IP — est devenue la norme Internet pour permettre à des réseaux précédemment incompatibles de communiquer dans un cadre commun. À mesure que les demandes de réseau et de scalabilité ont augmenté dans les années 1990, les commutateurs de paquets électriques (EPS) ont été introduits. Associés au TCP/IP, les EPS ont soutenu la croissance de l’Internet et ont connecté des millions d’utilisateurs dans le monde entier. Au même moment, la fibre a commencé à remplacer le cuivre dans les réseaux mondiaux, offrant une capacité plus élevée et une portée plus longue, ainsi que la capacité de supporter des vitesses multi-téraoctets.

L’environnement d’IA dynamique

Mais au début du 21e siècle, les charges de travail d’IA ont mis une énorme pression sur les réseaux électroniques actuels, ce qui a conduit au développement des premières architectures de commutateurs de circuit optique (OCS) de centre de données basées sur la technologie MEMS. Les commutateurs optiques MEMS sont des dispositifs de commutation tout optique qui utilisent des miroirs microscopiques mobiles pour rediriger la lumière entre les fibres d’entrée et de sortie sans convertir le signal en électricité. Ces OCS basés sur MEMS prennent en charge des comptes de ports importants, qui sont idéaux pour connecter optiquement des serveurs distants et surmonter les limitations du cuivre dans les centres de données. Cependant, les limites en termes de vitesse de reconfiguration, de coût par port et de facteur de forme sont devenues évidentes. Ces limites empêchent les OCS basés sur MEMS de répondre au besoin de reconfiguration du réseau en temps réel au cœur du moteur de calcul du centre de données — le réseau d’extension — en particulier face aux charges de travail d’IA.

En effet, aujourd’hui, les limites des OCS basés sur MEMS et les exigences sur le centre de données d’IA sont de plus en plus prononcées, grâce aux changements massifs, non linéaires et imprévisibles introduits par l’IA chaque année ou tous les six mois — voire tous les trimestres. Les acteurs de l’écosystème du centre de données d’IA sont maintenant invités à s’adapter rapidement et à répondre au paysage d’IA en constante évolution. Et les concepteurs de réseaux sont pressés de reconfigurer ou de reprogrammer leurs réseaux de centre de données d’IA selon les besoins pour contourner les problèmes du réseau ou gérer le nouveau niveau de charges de travail d’IA nécessitant des performances optimales.

La photonique de silicium programmable : aller au-delà d’un réseau « gelé »

Les OCS à base de photonique de silicium (SiPh) programmables sont l’étape suivante du développement des OCS. À faible coût, très compact et piloté par logiciel, ces puces photoniques peuvent être reprogrammées instantanément pour s’adapter en temps réel à la façon dont la lumière se propage et donc reconfigurer le réseau. Par rapport aux MEMS, l’OCS SiPh programmable est une technologie à l’état solide, qui élimine de nombreux risques de fiabilité car il n’y a pas de pièces mobiles. La technologie à l’état solide, compatible CMOS, implique également qu’elle peut correspondre au coût cible optimal de 100 $ par radix pour les grappes de GPU.

Les OCS SiPh programmables renforcent encore les architectures de centre de données d’IA de deux manières critiques. Premièrement, ils permettent une reconfiguration rapide des interconnects de GPU afin que les charges de travail puissent être exécutées de manière plus efficace et plus rapide. À mesure que la formation d’IA évolue, les topologies de communication doivent changer dynamiquement — même au sein du travail de formation — sans perte de paquets. Cela nécessite des temps de reconfiguration extrêmement rapides, un domaine où la scalabilité de l’OCS SiPh est fondamentalement supérieure aux approches basées sur MEMS, avec des temps de reconfiguration et de transduction nettement plus rapides que les technologies MEMS.

Deuxièmement, la programmabilité de l’OCS SiPh permet d’intégrer des fonctions supplémentaires directement dans le tissu de commutation sans augmenter la taille. Des capacités telles que la télémétrie en temps réel via des photodétecteurs intégrés SiGe et l’amplification de liaison peuvent être incorporées pour améliorer l’observabilité et renforcer la résilience aux défaillances. Alors que les OCS basés sur MEMS introduisent généralement 2-3 dB de perte optique, les implémentations de l’OCS SiPh peuvent être conçues pour être effectivement sans perte, améliorant ainsi la flexibilité et l’efficacité globales du système.

Regarder vers l’avenir

Puisque les réseaux de centre de données historiques sont rigides et ne peuvent pas suivre les besoins changeants des centres de données d’IA, le marché pour la technologie SiPh programmable présente une opportunité de plusieurs milliards de dollars. Avec ce boom important vient le besoin de collaboration et de coopération entre les entreprises qui sont au cœur de cette nouvelle technologie. À cette fin, il existe un organe de normalisation OCP — qui comprend Google, Microsoft, Lumentum et d’autres innovateurs — qui vise à rendre l’interface logicielle pour le gestionnaire de réseau utilisant l’OCS aussi standard et facile à utiliser que possible. Ensemble, ces entreprises aiment partager leurs perspectives et créer des normes pour faire progresser la technologie et accélérer l’adoption.

Alors que l’IA conduit l’évolution de notre monde, les réseaux de centre de données d’IA doivent également évoluer et être à l’épreuve du futur pour les soutenir. Les OCS SiPh programmables permettent aux entreprises de créer à la pointe de l’innovation et de réaliser de nouvelles et excitantes opportunités pour tous.