Microsoft kondigt de Maia 300-AI-chip en een Azure-opschaling naar meerdere gigawatt aan

Microsoft introduceerde op 12 oktober 2026 Azure Maia 300, de derde generatie van zijn eigen AI-versnellerfamilie. Het bedrijf zei dat het de Azure Maia-familie vanaf 2027 zal opschalen naar implementaties op meerdere gigawatt, waarmee Maia het belangrijkste inferentiesysteem voor zijn producten en diensten wordt.

Scott Guthrie, executive vice president van Cloud + AI, kondigde de chip aan in een officiële blogpost van Microsoft. Hij omschreef Maia 300 als een ‘compleet intelligent systeem’ dat is ontworpen voor redeneren met lange contextvensters, gespreksgerichte toepassingen waarbij de latentie van belang is en langdurige agentische taken met meerdere stappen. De productie-implementaties van Maia 300 gaan in 2027 van start.

Microsoft verwacht dat Maia 300 dankzij efficiëntieverbeteringen in het hele systeem 40% meer tokens per megawatt zal leveren dan toonaangevende systemen op basis van GPU’s, schreef Guthrie. In een volledige configuratie met 96 versnellers levert Maia 300 tot 7 keer de doorvoer van tokens op rackniveau van Maia 200, aldus het bedrijf.

Systeemarchitectuur van Maia 300

Maia 300 is ontworpen met wat Microsoft een architectuur noemt die in de eerste plaats op inferentie is gericht, en die is geoptimaliseerd voor AI-workloads met lange contextvensters, intensief geheugengebruik en veel decodeerwerk. Volgens het bedrijf vereist deze aanpak een evenwicht tussen rekenkracht, geheugenbandbreedte, netwerken en energie-efficiëntie op cloudschaal. De softwaregedefinieerde dataflowarchitectuur wordt gecombineerd met AI-ondersteunde kerneloptimalisatie om gegevens lokaal te houden, gegevensverplaatsingen te beperken en de benutting van reken-, geheugen- en netwerkbronnen te verhogen. Microsoft zegt dat dataflow als fundamenteel ontwerpprincipe Maia 300 een aanzienlijk voordeel in prestaties per watt oplevert ten opzichte van traditionele GPU-architecturen.

Het geheugensysteem bestaat uit acht HBM4-stacks met een piekbandbreedte van 18,0 TB/s, bij een TDP van 950 watt. Dankzij gespecialiseerde kernelondersteuning kan SRAM op de chip worden gebruikt als een door software beheerde scratchpad, waardoor de druk op HBM afneemt. De chip stapt ook over op een ontwerp met meerdere chiplets, waarbij de functies voor rekenwerk, geheugenbesturing en I/O van elkaar zijn gescheiden. De rekenchiplets worden geproduceerd met het N2P-procedé van TSMC. Ondersteuning voor geavanceerde formaten met lage precisie, waaronder de verbeterde MXFP4-indeling, is bedoeld om de geheugen- en bandbreedtevereisten voor zowel berekeningen als de opslag van de KV-cache te verlagen. Zo zijn grotere contextvensters en een hogere doorvoer mogelijk binnen hetzelfde vermogensbudget.

Op netwerkgebied behandelt Maia 300 het netwerk als een verlengstuk van zijn dataflowarchitectuur, in plaats van gegevens via afzonderlijke communicatielagen te verplaatsen. Interconnects met hoge bandbreedte tussen de versnellers zijn geoptimaliseerd voor tensorparallelisme. Een speciaal AI-transport verzorgt communicatie voor opschaling tussen versnellers en racks via een op Ethernet gebaseerde infrastructuur. Zo ontstaat één uniforme topologie die kan worden opgeschaald van één rack tot implementaties op datacenterschaal. Op rackniveau werken 96 Maia 300-versnellers binnen een vermogensbudget van 167 kilowatt, met 27,6 TB HBM-capaciteit en een totale HBM-bandbreedte van 1,7 PB/s binnen het opschalingsdomein. Volgens Microsoft stelt die dichtheid het bedrijf in staat om vanuit elk rack meer gelijktijdige AI-interacties en grotere workloads te verwerken.

Maia 200 in productie

Maia 300 volgt op Maia 200, dat al wordt ingezet voor productieworkloads van Microsoft, waaronder Microsoft Copilot, en het MAI-team ondersteunt bij de ontwikkeling van modellen van de volgende generatie. GitHub Copilot en Microsoft Foundry volgen naar verwachting eind 2026. Voor deze workloads draait de chip OpenAI-modellen, Microsofts eigen MAI-modellen en toonaangevende opensourcemodelfamilies. Maia 200 wordt uitgerold in de Verenigde Staten, Europa en Australië. Microsoft zegt dat de chip voor ingebouwde AI-mogelijkheden in Teams, Copilot en Cowork tot 1,7 keer meer tokens per watt levert dan toonaangevende GPU-infrastructuur.

Guthrie schreef dat de ervaring met het draaien van de AI-modellen en -diensten van Microsoft op Maia 200 rechtstreeks van invloed was op het ontwerp van Maia 300. Samen moeten de twee generaties ondersteuning bieden voor een breed scala aan aanvullende AI-diensten van Microsoft, aldus Guthrie: agentisch werk met meerdere stappen achter de codeerervaringen van GitHub, het aanbieden van modellen op cloudschaal via Microsoft Foundry, inferentie en gegevensgeneratie voor het MAI-team en Dragon Copilot-workflows waarbij de latentie van belang is en die de administratieve lasten voor zorgverleners moeten verlichten.

Microsoft introduceerde Maia 200 op 26 januari 2026 als een inferentieversneller die met het 3-nanometerprocedé van TSMC is geproduceerd en beschikt over tensorcores met native FP8- en FP4-ondersteuning, 216 GB HBM3e-geheugen met een bandbreedte van 7 TB/s en 272 MB SRAM op de chip. De chip bevat meer dan 140 miljard transistors en levert meer dan 10 petaFLOPS aan FP4-rekenkracht en meer dan 5 petaFLOPS bij FP8, binnen een TDP van 750 watt. Het opschalingsnetwerk met twee niveaus is gebaseerd op standaard-Ethernet en biedt per versneller 2,8 TB/s aan bidirectionele bandbreedte voor opschaling, in clusters van maximaal 6.144 versnellers. Maia 200 werd voor het eerst ingezet in de datacenterregio US Central van Microsoft, bij Des Moines in Iowa. Microsoft kondigde aan dat de regio US West 3 bij Phoenix in Arizona de volgende regio wordt.

Bij de lancering omschreef Microsoft Maia 200 als het meest krachtige eigen silicium van een hyperscaler. Het bedrijf wees daarbij op FP4-prestaties die drie keer zo hoog zijn als die van de derde generatie Amazon Trainium, FP8-prestaties die hoger liggen dan die van Google’s TPU van de zevende generatie en 30% betere prestaties per dollar dan de nieuwste hardware in zijn vloot. Het bedrijf noemde Maia 200 ook het efficiëntste inferentiesysteem dat het ooit had ingezet.

Microsoft zei dat het tijdens Microsoft Ignite 2026 in San Francisco en online meer zal vertellen over zijn strategie en de voortgang van Frontier Transformation. Ook verwees het lezers naar een technisch document over Maia 300 voor meer informatie over de architectuur.