Microsoft præsenterer AI-chippen Maia 300 og opskalering af Azure til flere gigawatt

Den 12. oktober 2026 præsenterede Microsoft Azure Maia 300, tredje generation af virksomhedens egen AI-acceleratorfamilie, og meddelte, at Azure Maia-familien fra 2027 skal skaleres til implementeringer på flere gigawatt. Dermed bliver Maia det primære inferenssystem på tværs af Microsofts produkter og tjenester.

Scott Guthrie, executive vice president for Cloud + AI, præsenterede chippen i et blogindlæg på Microsofts officielle blog og beskrev Maia 300 som et »komplet intelligent system«, der er udviklet til ræsonnering med lang kontekst, samtaleoplevelser, hvor ventetid er afgørende, og vedvarende agentopgaver med flere trin. Maia 300 tages i brug i produktionsmiljøer fra 2027.

Microsoft forventer, at Maia 300 ved at forbedre effektiviteten i hele systemet vil levere 40 % flere tokens pr. megawatt end førende GPU-baserede systemer, skrev Guthrie. Med en fuld konfiguration på 96 acceleratorer leverer Maia 300 op til syv gange så stor tokenkapacitet på rackniveau som Maia 200, oplyste virksomheden.

Maia 300-systemets arkitektur

Maia 300 er udviklet med det, Microsoft kalder en inferensorienteret arkitektur, optimeret til AI-arbejdsbelastninger med lang kontekst, stort hukommelsesforbrug og intensiv afkodning. Ifølge virksomheden kræver denne tilgang en afvejning mellem beregningskraft, hukommelsesbåndbredde, netværk og energieffektivitet i cloudskala. Den softwaredefinerede dataflowarkitektur kombineres med AI-assisteret optimering af kerner for at holde data lokalt, reducere databevægelser og øge udnyttelsen af beregnings-, hukommelses- og netværksressourcer. Microsoft siger, at det at behandle dataflow som et grundlæggende designprincip giver Maia 300 en markant fordel i ydeevne pr. watt sammenlignet med traditionelle GPU-arkitekturer.

Hukommelsessystemet bruger otte HBM4-stakke, der leverer en maksimal båndbredde på 18,0 TB/s inden for en TDP på 950 watt. Specialiseret understøttelse af kerner bruger SRAM på chippen som en softwareadministreret kladdeblok for at mindske belastningen på HBM. Chippen går også over til et design med flere chiplets, hvor beregnings-, hukommelsescontroller- og I/O-funktioner er adskilt, og beregningschipletsene er fremstillet med TSMC’s N2P-procesnode. Understøttelse af avancerede lavpræcisionsformater, herunder den forbedrede MXFP4, skal reducere kravene til hukommelse og båndbredde ved både beregninger og lagring af KV-cache. Det gør det muligt at håndtere større kontekstvinduer og opnå højere gennemløb inden for samme effektgrænse.

På netværkssiden behandler Maia 300 netværket som en forlængelse af sin dataflowarkitektur i stedet for at flytte data gennem separate kommunikationslag. Forbindelser med høj båndbredde mellem acceleratorerne er optimeret til tensorparallelisme, og en specialudviklet AI-transportløsning muliggør opskaleret kommunikation mellem acceleratorer og racks via en Ethernet-baseret infrastruktur. Det skaber en samlet topologi, der kan skaleres fra et enkelt rack til implementeringer i datacenterskala. På rackniveau arbejder 96 Maia 300-acceleratorer inden for en effektgrænse på 167 kilowatt med en HBM-kapacitet på 27,6 TB og en samlet HBM-båndbredde på 1,7 PB/s på tværs af det opskalerede domæne. Microsoft siger, at denne tæthed gør det muligt at håndtere flere samtidige AI-interaktioner og større arbejdsbelastninger fra hvert rack.

Maia 200 i produktion

Maia 300 følger efter Maia 200, som allerede håndterer Microsofts produktionsarbejdsbelastninger, herunder Microsoft Copilot, og understøtter MAI-teamet i udviklingen af næste generations modeller. GitHub Copilot og Microsoft Foundry følger inden udgangen af 2026. På tværs af disse arbejdsbelastninger kører chippen OpenAI-modeller, Microsofts egne MAI-modeller og førende open source-modelserier. Maia 200 implementeres i USA, Europa og Australien, og Microsoft siger, at den leverer op til 1,7 gange flere tokens pr. watt til indbyggede AI-funktioner i Teams-, Copilot- og Cowork-oplevelser sammenlignet med førende GPU-infrastruktur.

Guthrie skrev, at erfaringerne med at køre Microsofts AI-modeller og -tjenester på Maia 200 havde haft direkte indflydelse på udformningen af Maia 300. Tilsammen er de to generationer ifølge ham udviklet til at understøtte en bred vifte af yderligere Microsoft AI-tjenester: agentarbejde med flere trin bag GitHubs kodningsoplevelser, betjening af modeller i cloudskala via Microsoft Foundry, inferens og datagenerering for MAI-teamet samt Dragon Copilot-arbejdsgange, hvor lav latenstid skal mindske klinikernes administrative byrde.

Microsoft præsenterede Maia 200 den 26. januar 2026 som en inferensaccelerator fremstillet med TSMC’s 3-nanometerproces. Den har indbyggede FP8- og FP4-tensorkerner, 216 GB HBM3e-hukommelse med en båndbredde på 7 TB/s og 272 MB SRAM på chippen. Chippen indeholder mere end 140 milliarder transistorer og leverer over 10 petaFLOPS FP4-beregningskraft og over 5 petaFLOPS ved FP8 inden for en effektgrænse på 750 watt. Dens opskalerede netværk i to niveauer er baseret på standard-Ethernet og giver en tovejsbåndbredde på 2,8 TB/s pr. accelerator på tværs af klynger med op til 6.144 acceleratorer. Maia 200 blev først taget i brug i Microsofts datacenterregion US Central nær Des Moines i Iowa. Regionen US West 3 nær Phoenix i Arizona blev annonceret som den næste.

Ved lanceringen beskrev Microsoft Maia 200 som den mest ydedygtige egenudviklede siliciumchip fra nogen hyperscaler og henviste til en FP4-ydeevne, der var tre gange så høj som Amazons tredje generation af Trainium, en FP8-ydeevne, der oversteg Googles TPU i syvende generation, og en 30 % bedre ydeevne pr. dollar end den nyeste hardware i virksomhedens flåde. Virksomheden kaldte også Maia 200 det mest effektive inferenssystem, den nogensinde havde taget i brug.

Microsoft oplyste, at virksomheden vil fortælle mere om sin strategi og fremskridtene inden for Frontier Transformation på Microsoft Ignite 2026 i San Francisco og online. Læserne blev samtidig henvist til et teknisk dokument om Maia 300 for yderligere arkitektoniske detaljer.