Microsoft presenterar AI-chippet Maia 300 och en Azure-uppskalning till flera gigawatt

Den 12 oktober 2026 presenterade Microsoft Azure Maia 300, den tredje generationen i företagets egenutvecklade familj av AI-acceleratorer. Microsoft meddelade också att Azure Maia-familjen ska skalas upp till driftsättningar på flera gigawatt från och med 2027, vilket gör Maia till det primära inferenssystemet i företagets produkter och tjänster.

Scott Guthrie, vice vd med ansvar för Cloud + AI, presenterade chippet i ett officiellt blogginlägg från Microsoft och beskrev Maia 300 som ett ”komplett intelligent system” utformat för resonemang med långa kontexter, konversationsupplevelser där svarstiden är viktig och ihållande agentuppgifter i flera steg. Maia 300 ska börja tas i produktion 2027.

Microsoft räknar med att Maia 300, genom effektiviseringar i hela systemet, ska leverera 40 % fler token per megawatt än ledande GPU-baserade system, skrev Guthrie. Företaget uppgav att Maia 300 i en fullständig konfiguration med 96 acceleratorer levererar upp till 7 gånger så hög tokenkapacitet på racknivå som Maia 200.

Maia 300-systemets arkitektur

Maia 300 har enligt Microsoft en arkitektur där inferens prioriteras, optimerad för AI-arbetsbelastningar med långa kontexter, stort minnesbehov och många avkodningsoperationer. Företaget säger att denna utformning innebär att beräkningskapacitet, minnesbandbredd, nätverk och energieffektivitet balanseras i molnskala. Den mjukvarudefinierade dataflödesarkitekturen kombineras med AI-assisterad optimering av kärnor för att hålla data lokalt, minska dataförflyttningar och öka utnyttjandet av beräknings-, minnes- och nätverksresurser. Microsoft säger att dataflöde som en grundläggande designprincip ger Maia 300 en betydande fördel i prestanda per watt jämfört med traditionella GPU-arkitekturer.

Minnessystemet använder åtta HBM4-staplar med en maximal bandbredd på 18,0 TB/s inom en TDP på 950 watt. Särskilt stöd i kärnorna gör att SRAM på chipet kan användas som en programvaruhanterad arbetsbuffert, vilket minskar belastningen på HBM. Chippet övergår också till en flerkretsdesign där beräkning, minneskontroller och I/O-funktioner delas upp. Beräkningskretsarna tillverkas med TSMC:s N2P-process. Stöd för avancerade format med låg precision, däribland förbättrad MXFP4, är utformat för att minska minnes- och bandbreddskraven för både beräkningar och lagring av KV-cache. Det möjliggör större kontextfönster och högre genomströmning inom samma effektbudget.

På nätverkssidan behandlar Maia 300 nätverket som en förlängning av dataflödesarkitekturen, i stället för att skicka data genom separata kommunikationslager. Höghastighetsförbindelserna mellan acceleratorerna är optimerade för tensorparallellism, och en anpassad AI-transportlösning möjliggör kommunikation för uppskalning mellan acceleratorer och rack via Ethernetbaserad infrastruktur. Resultatet är en enhetlig topologi som kan skalas från ett enda rack till driftsättningar i datacenterskala. På racknivå ryms 96 Maia 300-acceleratorer inom en effektbudget på 167 kilowatt, med 27,6 TB HBM-minne och en sammanlagd HBM-bandbredd på 1,7 PB/s inom uppskalningsdomänen. Microsoft säger att denna täthet gör det möjligt att hantera fler samtidiga AI-interaktioner och större arbetsbelastningar från varje rack.

Maia 200 i produktion

Maia 300 följer efter Maia 200, som redan används för Microsofts produktionsarbetsbelastningar, däribland Microsoft Copilot, och stöder MAI-teamet i utvecklingen av nästa generations modeller. GitHub Copilot och Microsoft Foundry ska tillkomma före utgången av 2026. I dessa arbetsbelastningar kör chippet OpenAI-modeller, Microsofts egna MAI-modeller och ledande familjer av modeller med öppen källkod. Maia 200 tas i bruk i USA, Europa och Australien. Microsoft säger att chippet ger upp till 1,7 gånger fler token per watt för de inbyggda AI-funktionerna i Teams-, Copilot- och Cowork-upplevelser än ledande GPU-infrastruktur.

Guthrie skrev att erfarenheterna av att köra Microsofts AI-modeller och tjänster på Maia 200 direkt påverkade utformningen av Maia 300. Tillsammans är de två generationerna enligt honom utformade för att stödja en rad ytterligare AI-tjänster från Microsoft: agentbaserat arbete i flera steg bakom GitHubs kodningsupplevelser, modellhantering i molnskala via Microsoft Foundry, inferens och datagenerering för MAI-teamet samt Dragon Copilot-arbetsflöden där svarstiden är viktig och som ska minska vårdpersonalens administrativa börda.

Microsoft presenterade Maia 200 den 26 januari 2026 som en inferensaccelerator tillverkad med TSMC:s 3-nanometerprocess, med inbyggda FP8- och FP4-tensorkärnor, 216 GB HBM3e-minne med en bandbredd på 7 TB/s och 272 MB SRAM på chipet. Chippet innehåller över 140 miljarder transistorer och levererar över 10 petaFLOPS FP4-beräkningskapacitet och över 5 petaFLOPS vid FP8, inom en TDP på 750 watt. Nätverket för uppskalning i två nivåer bygger på standard-Ethernet och ger en dubbelriktad bandbredd för uppskalning på 2,8 TB/s per accelerator i kluster med upp till 6 144 acceleratorer. Maia 200 togs först i bruk i Microsofts datacenterregion US Central nära Des Moines i Iowa. Regionen US West 3 nära Phoenix i Arizona tillkännagavs som nästa region.

Vid lanseringen beskrev Microsoft Maia 200 som det mest kraftfulla egenutvecklade chippet hos någon hyperskalare. Företaget hänvisade till en FP4-prestanda som var tre gånger högre än hos Amazons tredje generation Trainium, FP8-prestanda som översteg Googles TPU av sjunde generationen samt 30 % bättre prestanda per dollar än den nyaste hårdvaran i företagets egen flotta. Microsoft kallade också Maia 200 det mest effektiva inferenssystem som företaget någonsin hade tagit i bruk.

Microsoft uppgav att företaget kommer att berätta mer om sin strategi och framstegen inom Frontier Transformation på Microsoft Ignite 2026 i San Francisco och online. Läsarna hänvisades också till ett tekniskt dokument om Maia 300 för ytterligare arkitektoniska detaljer.