Microsoft kunngjør KI-brikken Maia 300 og oppskalering av Azure til flere gigawatt

12. oktober 2026 presenterte Microsoft Azure Maia 300, tredje generasjon i selskapets serie med egenutviklede KI-akseleratorer, og opplyste at Azure Maia-familien skal skaleres opp til utrullinger på flere gigawatt fra og med 2027. Maia skal bli det primære inferenssystemet på tvers av selskapets produkter og tjenester.

Scott Guthrie, konserndirektør for Cloud + AI, kunngjorde brikken i et offisielt blogginnlegg fra Microsoft og beskrev Maia 300 som et «komplett intelligent system» utviklet for resonnering med lang kontekst, samtaleopplevelser der ventetid er viktig, og vedvarende agentbaserte oppgaver med flere trinn. Maia 300 skal tas i bruk i produksjon fra 2027.

Microsoft forventer at Maia 300, ved å forbedre effektiviteten i hele systemet, vil levere 40 % flere token per megawatt enn ledende GPU-baserte systemer, skrev Guthrie. Selskapet opplyste at Maia 300 i en full konfigurasjon med 96 akseleratorer leverer opptil 7 ganger så stor token-gjennomstrømning på racknivå som Maia 200.

Systemarkitekturen til Maia 300

Maia 300 er utviklet med det Microsoft omtaler som en inferensprioritert arkitektur, optimalisert for KI-arbeidsoppgaver med lang kontekst, stort minnebehov og omfattende dekoding. Ifølge selskapet innebærer denne tilnærmingen å balansere beregningskapasitet, minnebåndbredde, nettverk og energieffektivitet i skyskala. Den programvaredefinerte dataflytarkitekturen kombineres med KI-assistert optimalisering av kjerner for å holde dataene lokale, redusere dataflytting og øke utnyttelsen av beregnings-, minne- og nettverksressurser. Microsoft sier at det å behandle dataflyt som et grunnleggende designprinsipp gir Maia 300 en betydelig fordel i ytelse per watt sammenlignet med tradisjonelle GPU-arkitekturer.

Minneundersystemet bruker åtte HBM4-stabler som leverer en toppbåndbredde på 18,0 TB/s innenfor en TDP på 950 watt. Spesialtilpasset støtte for kjerner gjør at SRAM på brikken brukes som et programvarestyrt arbeidsminne for å avlaste HBM. Brikken går også over til et design med flere chiplets, der beregning, minnekontroller og I/O er skilt fra hverandre. Beregningsbrikkene er produsert med TSMCs N2P-prosessnode. Støtte for avanserte lavpresisjonsformater, blant annet forbedret MXFP4, er utviklet for å redusere kravene til minne og båndbredde for både beregninger og lagring av KV-hurtigbufferen. Dette gjør det mulig med større kontekstvinduer og høyere gjennomstrømning innenfor samme effektgrense.

På nettverkssiden behandler Maia 300 nettverket som en utvidelse av dataflytarkitekturen, i stedet for å flytte data gjennom separate kommunikasjonslag. Båndbredderike forbindelser mellom akseleratorene er optimalisert for tensorparallellitet, og en spesialutviklet KI-transportløsning sørger for kommunikasjon ved oppskalering mellom akseleratorer og rack over Ethernet-basert infrastruktur. Dette danner en enhetlig topologi som kan skaleres fra ett rack til utrullinger i datasenterskala. På racknivå opererer 96 Maia 300-akseleratorer innenfor en effektgrense på 167 kilowatt, med 27,6 TB HBM-kapasitet og en samlet HBM-båndbredde på 1,7 PB/s på tvers av oppskaleringsdomenet. Microsoft sier at denne tettheten gjør det mulig å betjene flere samtidige KI-interaksjoner og større arbeidsoppgaver fra hvert rack.

Maia 200 i produksjon

Maia 300 kommer etter Maia 200, som allerede håndterer produksjonsarbeidsoppgaver hos Microsoft, blant annet Microsoft Copilot, og støtter MAI-teamet i utviklingen av neste generasjons modeller. GitHub Copilot og Microsoft Foundry skal følge innen utgangen av 2026. På tvers av disse arbeidsoppgavene kjører brikken OpenAI-modeller, Microsofts egne MAI-modeller og ledende modellfamilier med åpen kildekode. Maia 200 rulles ut i USA, Europa og Australia, og Microsoft sier at brikken leverer opptil 1,7 ganger flere token per watt for innebygde KI-funksjoner i Teams-, Copilot- og Cowork-opplevelser enn ledende GPU-infrastruktur.

Guthrie skrev at erfaringene med å kjøre Microsofts KI-modeller og -tjenester på Maia 200 hadde gitt direkte innspill til utformingen av Maia 300. Sammen skal de to generasjonene støtte en rekke andre KI-tjenester fra Microsoft, opplyste han: agentbasert arbeid i flere trinn bak GitHub-kodeopplevelser, modellservering i skyskala gjennom Microsoft Foundry, inferens og datagenerering for MAI-teamet, samt Dragon Copilot-arbeidsflyter der lav ventetid er viktig, og som skal redusere klinikernes administrative byrde.

Microsoft presenterte Maia 200 26. januar 2026 som en inferensakselerator produsert med TSMCs 3-nanometerprosess, med opprinnelige FP8- og FP4-tensorkjerner, 216 GB HBM3e-minne med en båndbredde på 7 TB/s og 272 MB SRAM på brikken. Brikken har mer enn 140 milliarder transistorer og leverer over 10 petaflops FP4-beregningsytelse og over 5 petaflops ved FP8, innenfor en TDP-grense på 750 watt. Det todelte oppskaleringsnettverket er basert på standard Ethernet og gir en toveis oppskaleringsbåndbredde på 2,8 TB/s per akselerator i klynger med opptil 6 144 akseleratorer. Maia 200 ble først tatt i bruk i Microsofts datasenterregion US Central nær Des Moines i Iowa. Microsoft kunngjorde at regionen US West 3 nær Phoenix i Arizona blir den neste.

Da Maia 200 ble lansert, beskrev Microsoft den som den mest ytelsessterke egenutviklede silisiumbrikken fra noen hyperskaleringsleverandør. Selskapet viste til at FP4-ytelsen var tre ganger så høy som hos tredje generasjon Amazon Trainium, at FP8-ytelsen overgikk Googles TPU i sjuende generasjon, og at ytelsen per dollar var 30 % bedre enn med den nyeste maskinvaren i selskapets flåte. Microsoft omtalte også Maia 200 som det mest effektive inferenssystemet selskapet noen gang hadde tatt i bruk.

Microsoft sa at selskapet vil dele mer om strategien sin og fremdriften innen Frontier Transformation på Microsoft Ignite 2026 i San Francisco og på nett, og viste leserne til en teknisk rapport om Maia 300 for flere arkitektoniske detaljer.