Microsoft anunță cipul AI Maia 300 și extinderea Azure la scară de mai mulți gigawați

Pe 12 octombrie 2026, Microsoft a prezentat Azure Maia 300, a treia generație a familiei sale interne de acceleratoare AI, și a anunțat că, începând din 2027, va extinde familia Azure Maia la implementări de mai mulți gigawați, Maia urmând să devină principalul sistem de inferență pentru produsele și serviciile companiei.

Scott Guthrie, vicepreședinte executiv pentru Cloud + AI, a anunțat cipul într-o postare oficială pe blogul Microsoft, descriind Maia 300 drept un „sistem inteligent complet”, conceput pentru raționament cu context lung, experiențe conversaționale sensibile la latență și sarcini agentice susținute, desfășurate în mai multe etape. Implementările Maia 300 în producție vor începe în 2027.

Microsoft se așteaptă ca Maia 300 să ofere cu 40% mai multe tokenuri per megawatt decât sistemele de top bazate pe GPU, datorită eficienței sporite la nivelul întregului sistem, a scris Guthrie. Într-o configurație completă cu 96 de acceleratoare, Maia 300 oferă un debit de tokenuri la nivel de rack de până la 7 ori mai mare decât Maia 200, a declarat compania.

Arhitectura sistemului Maia 300

Maia 300 este conceput pe baza unei arhitecturi pe care Microsoft o descrie ca fiind orientată în primul rând spre inferență și optimizată pentru sarcini AI cu context lung, consum ridicat de memorie și operațiuni de decodare intensive. Potrivit companiei, această abordare presupune echilibrarea capacității de calcul, a lățimii de bandă a memoriei, a rețelelor și a eficienței energetice la scara unui serviciu cloud. Arhitectura sa de flux al datelor, definită prin software, este combinată cu optimizarea kernelurilor asistată de AI pentru a menține datele la nivel local, a reduce transferurile de date și a spori gradul de utilizare a resurselor de calcul, memorie și rețea. Microsoft afirmă că tratarea fluxului de date ca principiu fundamental de proiectare îi oferă lui Maia 300 un avantaj semnificativ în ceea ce privește performanța per watt față de arhitecturile GPU tradiționale.

Sistemul de memorie folosește opt stive HBM4, care oferă o lățime de bandă de vârf de 18,0 TB/s, în limita unui TDP de 950 de wați, iar suportul specializat pentru kerneluri utilizează SRAM-ul integrat pe cip ca zonă tampon gestionată software, pentru a reduce presiunea asupra HBM. Cipul trece, de asemenea, la un design cu mai multe chipleturi, care separă funcțiile de calcul, controlerul de memorie și I/O, chipleturile de calcul fiind fabricate folosind procesul N2P de la TSMC. Suportul pentru formate avansate cu precizie redusă, inclusiv MXFP4 îmbunătățit, este conceput pentru a reduce cerințele de memorie și de lățime de bandă atât pentru calcule, cât și pentru stocarea memoriei cache KV, permițând ferestre de context mai mari și un debit mai ridicat în același buget de energie.

În ceea ce privește rețelele, Maia 300 tratează rețeaua ca pe o extensie a arhitecturii sale de flux al datelor, în loc să transfere datele prin straturi de comunicație separate. Interconexiunile cu lățime mare de bandă dintre acceleratoare sunt optimizate pentru paralelismul tensorial, iar un protocol de transport AI personalizat asigură comunicații de extindere între acceleratoare și rackuri printr-o infrastructură bazată pe Ethernet, formând o topologie unificată, care poate fi extinsă de la un singur rack până la implementări la scara unui centru de date. La nivel de rack, 96 de acceleratoare Maia 300 funcționează în limita unui buget de energie de 167 de kilowați, cu o capacitate HBM de 27,6 TB și o lățime de bandă HBM agregată de 1,7 PB/s în întregul domeniu de extindere. Microsoft afirmă că această densitate îi permite să deservească simultan mai multe interacțiuni AI și să gestioneze sarcini de lucru mai mari de pe fiecare rack.

Maia 200 în producție

Maia 300 urmează după Maia 200, care deservește deja sarcini de lucru Microsoft din mediul de producție, inclusiv Microsoft Copilot, și sprijină echipa MAI în dezvoltarea modelelor de generație următoare. GitHub Copilot și Microsoft Foundry urmează să i se alăture până la sfârșitul lui 2026. Pentru aceste sarcini de lucru, cipul rulează modele OpenAI, propriile modele MAI ale Microsoft și principalele familii de modele open-source. Maia 200 este implementat în Statele Unite, Europa și Australia, iar Microsoft afirmă că oferă o eficiență de până la 1,7 ori mai mare în tokenuri per watt pentru funcționalitățile AI integrate în Teams, Copilot și experiențele Cowork, comparativ cu infrastructura GPU de top.

Guthrie a scris că experiența acumulată prin rularea modelelor și serviciilor AI ale Microsoft pe Maia 200 a influențat în mod direct proiectarea Maia 300. Împreună, a spus el, cele două generații sunt concepute să susțină o gamă largă de servicii AI Microsoft suplimentare: activități agentice desfășurate în mai multe etape, care stau la baza experiențelor de programare GitHub; furnizarea de modele la scara serviciilor cloud prin Microsoft Foundry; inferență și generare de date pentru echipa MAI; și fluxuri de lucru Dragon Copilot sensibile la latență, menite să reducă sarcinile administrative ale personalului medical.

Microsoft a prezentat Maia 200 pe 26 ianuarie 2026, un accelerator de inferență fabricat folosind procesul de 3 nanometri de la TSMC, cu nuclee tensoriale FP8 și FP4 native, 216 GB de memorie HBM3e cu o lățime de bandă de 7 TB/s și 272 MB de SRAM integrată pe cip. Cipul conține peste 140 de miliarde de tranzistori și oferă peste 10 petaflopi de calcul FP4 și peste 5 petaflopi la FP8, în limita unui TDP de 750 de wați. Rețeaua sa de extindere pe două niveluri folosește Ethernet standard și asigură o lățime de bandă bidirecțională de 2,8 TB/s pentru extindere per accelerator, în clustere de până la 6.144 de acceleratoare. Maia 200 a fost implementat inițial în regiunea de centre de date US Central a Microsoft, lângă Des Moines, Iowa, iar compania a anunțat că următoarea regiune va fi US West 3, lângă Phoenix, Arizona.

La lansare, Microsoft a descris Maia 200 drept cipul proprietar cu cele mai bune performanțe dintre cele ale oricărui furnizor de servicii cloud la scară largă, invocând o performanță FP4 de trei ori mai mare decât cea a cipului Amazon Trainium de a treia generație, o performanță FP8 superioară celei a TPU-ului Google de a șaptea generație și performanțe per dolar cu 30% mai bune decât cele ale celui mai nou hardware din flota sa. Compania a mai afirmat că Maia 200 este cel mai eficient sistem de inferență pe care l-a implementat vreodată.

Microsoft a declarat că va oferi mai multe informații despre strategia sa și despre progresele înregistrate în cadrul Frontier Transformation la Microsoft Ignite 2026, care va avea loc la San Francisco și online, și le-a recomandat cititorilor o lucrare tehnică despre Maia 300 pentru mai multe detalii arhitecturale.