Cerebras Systems établit un nouveau référence en matière d’innovation en IA avec le lancement du processeur AI le plus rapide au monde

Cerebras Systems connu pour la construction de clusters informatiques massifs utilisés pour toutes sortes de tâches IA et scientifiques. a à nouveau brisé les records dans l’industrie de l’IA en dévoilant sa dernière merveille technologique, le Wafer-Scale Engine 3 (WSE-3), présenté comme le processeur AI le plus rapide que le monde ait jamais vu. Avec une étonnante 4 billions de transistors, ce processeur est conçu pour alimenter la prochaine génération de supercalculateurs IA, offrant des niveaux de performance sans précédent.

Le WSE-3, conçu à l’aide d’un processus de pointe de 5 nm, constitue la colonne vertébrale du supercalculateur IA Cerebras CS-3. Il affiche une performance AI de pointe de 125 petaflops, rendue possible par 900 000 cœurs de calcul optimisés pour l’IA. Ce développement marque un progrès significatif, doublant les performances de son prédécesseur, le WSE-2, sans augmenter la consommation d’énergie ou le coût.

L’ambition de Cerebras Systems de révolutionner l’informatique IA est évidente dans les spécifications du WSE-3. Le processeur dispose de 44 Go de SRAM sur puce et prend en charge des configurations de mémoire externe allant de 1,5 To à un colossal 1,2 Po. Cette vaste capacité de mémoire permet la formation de modèles IA d’une taille allant jusqu’à 24 billions de paramètres, facilitant le développement de modèles dix fois plus grands que ceux comme GPT-4 et Gemini.

L’un des aspects les plus convaincants du CS-3 est sa scalabilité. Le système peut être regroupé jusqu’à 2048 unités CS-3, atteignant une puissance de calcul de 256 exaFLOPs. Cette scalabilité ne concerne pas seulement la puissance brute ; elle simplifie le flux de travail de formation de l’IA, améliorant la productivité des développeurs en leur permettant de former de grands modèles sans avoir besoin d’un partitionnement ou d’une réorganisation complexes.

L’engagement de Cerebras à faire progresser la technologie IA s’étend à son cadre logiciel, qui prend désormais en charge PyTorch 2.0 et les derniers modèles et techniques IA. Cela inclut une accélération matérielle native pour la sparsité dynamique et non structurée, qui peut accélérer les temps de formation jusqu’à huit fois.

Le parcours de Cerebras, raconté par le PDG Andrew Feldman, depuis le scepticisme rencontré il y a huit ans jusqu’au lancement du WSE-3, incarne l’esprit pionnier de l’entreprise et son engagement à repousser les limites de la technologie IA.

“Lorsque nous avons commencé ce parcours il y a huit ans, tout le monde disait que les processeurs à l’échelle de la plaquette étaient un rêve pieux. Nous ne pouvons pas être plus fiers de présenter la troisième génération de notre processeur AI à l’échelle de la plaquette révolutionnaire,” a déclaré Andrew Feldman, PDG et co-fondateur de Cerebras. “Le WSE-3 est le processeur AI le plus rapide au monde, conçu spécifiquement pour les dernières avancées en matière d’IA, des modèles de mélange d’experts aux modèles de 24 billions de paramètres. Nous sommes ravis de présenter le WSE-3 et le CS-3 sur le marché pour aider à résoudre les plus grands défis de l’IA d’aujourd’hui.”

Cette innovation n’est pas passée inaperçue, avec un backlog important de commandes pour le CS-3 de la part d’entreprises, d’entités gouvernementales et de nuages internationaux. L’impact de la technologie de Cerebras est mis en évidence à travers des partenariats stratégiques, tels que celui avec G42, qui a conduit à la création de certains des plus grands supercalculateurs IA au monde.

Alors que Cerebras Systems continue de paver la voie pour les progrès futurs de l’IA, le lancement du WSE-3 témoigne du potentiel incroyable de l’ingénierie à l’échelle de la plaquette. Ce processeur n’est pas seulement une pièce de technologie ; c’est une passerelle vers un avenir où les limites de l’IA sont continuellement repoussées, promettant de nouvelles possibilités pour la recherche, les applications d’entreprise et au-delà.