OceanStor M900 bringer PB-skala konteksthukommelse til Huawei SuperPoDs

Huawei introducerede OceanStor M900 Context Memory Storage på HUAWEI CONNECT 2026 i Shanghai den 17. september 2026 og præsenterede et lagersystem designet til AI‑inferens i hyperskala‑datacentre. David Wang, næstformand for bestyrelsen og roterende formand hos Huawei, præsenterede produktet under sin hovedtale, og Huawei oplyser, at en enkelt klynge leverer 64 PB KV‑cache‑kapacitet.

Ifølge Huawei giver systemet SuperPoDs en fuldt delt hukommelsesplads med PB‑skala kapacitet og ydeevne på TB/s-niveau, bygget på virksomhedens UnifiedBus‑interconnect‑netværk. Wang’s hovedtale havde titlen “Advancing the Agentic World, Building a Solid Silicon Foundation”, og Huawei beskriver lanceringen som et skifte i AI‑infrastruktur fra en beregningscentreret model til et dybere samarbejde mellem beregning, netværk og lager.

Hukommelsesgrænser i stor‑skala AI‑inferens

I sin meddelelse beskriver Huawei 2026 som et år, hvor AI er gået fra teknologiske gennembrud til storskala implementering, med applikationer, der har udviklet sig fra chatbots til agenter, der autonomt kan udføre komplekse opgaver. Virksomheden siger, at disse agenter er udbredt i sektorer som videnskabelig forskning, sundhedspleje, finans og offentlige tjenester, og den karakteriserer dette skifte som begyndelsen på den agentiske AI‑æra.

Huawei siger, at store modeller vokser til 10 billion‑skala parametre, mens mainstream‑modeller allerede understøtter kontekstvinduer på over en million tokens, hvilket gør multi‑turn‑inferens og komplekse opgaver til normen og driver fortsat vækst i KV‑cache‑data. Efterhånden som disse data akkumuleres, siger virksomheden, at on‑chip‑hukommelse og DRAM er blevet presset ud over deres grænser både med hensyn til kapacitet og omkostningseffektivitet. En FAQ vedhæftet meddeelsen definerer KV‑cache som lagring af Key‑ og Value‑data, der genereres under stor‑model‑inferens, så de kan genbruges i efterfølgende inferens og undgå redundant beregning. Huawei beskriver en branchekonsensus om at bygge en fler‑trins lagerstruktur, der koordinerer on‑chip‑hukommelse, DRAM og SSD‑er i en fuldt delt hukommelsesplads, og siger, at M900 er konstrueret til at overvinde hukommelseskapacitetsflaskehalse i ultra‑lange kontekster og multi‑turn‑inferens. Virksomheden karakteriserer også SuperPoDs som det optimale valg for AI‑infrastruktur, efterhånden som modeller skalerer.

Tre teknologier bag M900

For kapacitet siger Huawei, at UnifiedBus‑interconnectet gør det muligt for OceanStor M900 at opbygge en PB‑skala, global fler‑trins KV‑cache med one‑hop‑forbindelser, der samler og deler cache på tværs af en klynge med lagret lager. Designet udvider SuperPoD KV‑cache fra on‑chip‑hukommelse og DRAM til SSD‑er, så en enkelt klynge kan levere 64 PB kapacitet, ifølge virksomheden. Huawei siger, at den tilgængelige KV‑cache‑kapacitet pr. NPU stiger fra gigabytes til terabytes, hvilket muliggør lagring, deling og genbrug af mere kontekst, og som virksomheden hævder væsentligt øger KV‑cache‑hit‑raten.

For ydeevne beskriver Huawei OceanStor M900 som branchens første arkitektur, der integrerer CPU, netværkscontrollerenhed og NAND‑controllerenhed, og leverer native KV‑semantik, som muliggør one‑hop‑forbindelser fra en SuperPoD’s NPU’er til SSD‑er. Virksomheden rapporterer, at fjernelse af protokolkonvertering og CPU‑videresending reducerer adgangslatenstid fra millisekunder til 60 mikrosekunder, en reduktion på 90 %. Huawei rapporterer også 40 TB/s samlet adgangsbåndbredde for en enkelt klynge, et tal de beskriver som 1,5 gange højere end konkurrerende løsninger. I typiske AI‑programmeringsscenarier siger virksomheden, at arkitekturen fordobler en inferens klynges token‑gennemløb og halverer tiden til første token.

For omkostninger siger Huawei, at M900 bruger branchens første KV‑bevidste adaptive lagringsteknologi, som forudsiger KV‑cache‑livscyklusser baseret på dataværdi og fordeler data på tværs af lagringsmedier derefter. Virksomheden rapporterer, at teknologien understøtter op til 24 skriveoperationer pr. drev pr. dag, forlænger SSD‑holdbarheden med 16 gange og sikrer stabilitet i tre år, hvilket reducerer udskiftning af medier samt drifts‑ og vedligeholdelsesomkostninger i stor‑skala inferens infrastruktur.

Produktpositionering og begivenhedsdetaljer

I sin FAQ beskriver Huawei Context Memory Storage, repræsenteret ved M900, som en ny datainfrastruktur for SuperPoDs i hyperskala‑datacentre, der leverer PB‑skala fuldt delt hukommelse og muliggør lagdelt lager og effektiv planlægning af KV‑cache på tværs af on‑chip‑hukommelse, DRAM og SSD‑er. Virksomheden fastslår, at konteksthukommelseslagring vil være afgørende for løbende at forbedre kapaciteten og adgangseffektiviteten i hyperskala‑inferens‑KV‑cacher. Huawei siger også, at de vil fortsætte med at drive hardware‑software‑synergi og systemniveau‑innovation for at levere en åben, effektiv og bæredygtig AI‑infrastruktur til intelligent transformation på tværs af brancher.

HUAWEI CONNECT 2026, med temaet “Advancing the Agentic World”, løber fra 17. til 19. september 2026 på Shanghai World Expo Exhibition & Convention Center og Shanghai Expo Center, og meddelelsen siger, at begivenheden undersøger AI på tværs af strategi, teknologi og økosystemer. Den officielle begivenhedsside opgør et program med tre hovedtaler, 20 topmøder, mere end 60 sessioner og over 200 åbne taler, med planlagte hovedtalerere som Linux Foundation‑administrerende direktør Jim Zemlin, iFLYTEK‑formand Liu Qingfeng og Huawei Cloud‑administrerende direktør Peter Zhou.