OceanStor M900 porta la memoria contestuale su scala PB ai SuperPoD di Huawei

Huawei ha presentato OceanStor M900 Memoria di Contesto al HUAWEI CONNECT 2026 a Shanghai il 17 settembre 2026, svelando un sistema di archiviazione progettato per l’inferenza AI nei data center iper‑scala. David Wang, Vicepresidente del Consiglio di Amministrazione e Presidente a Rotazione di Huawei, ha illustrato il prodotto durante il suo intervento, e Huawei afferma che un singolo cluster fornisce 64 PB di capacità di cache KV.

Secondo Huawei, il sistema fornisce ai SuperPoD uno spazio di memoria completamente condiviso, offrendo capacità su scala PB e prestazioni a livello di TB/s, basato sulla rete di interconnessione UnifiedBus dell’azienda. L’intervento di Wang è stato intitolato “Advancing the Agentic World, Building a Solid Silicon Foundation” e Huawei descrive il lancio come un cambiamento nell’infrastruttura AI, dal modello incentrato sul calcolo verso una collaborazione più profonda tra calcolo, rete e archiviazione.

Limiti di Memoria nell’Inferenza AI su Larga Scala

Nel suo annuncio, Huawei descrive il 2026 come l’anno in cui l’AI è passata da innovazioni tecnologiche a un’implementazione su larga scala, con le applicazioni che si sono evolute da chatbot ad agenti in grado di completare autonomamente compiti complessi. L’azienda afferma che questi agenti sono ampiamente adottati in settori tra cui ricerca scientifica, assistenza sanitaria, finanza e servizi pubblici, e caratterizza questo cambiamento come l’inizio dell’era dell’AI agentica.

Huawei afferma che i modelli di grandi dimensioni stanno crescendo fino a parametri su scala di 10 trilioni, mentre i modelli mainstream supportano già finestre di contesto che superano un milione di token, rendendo l’inferenza a più turni e i compiti complessi la norma e alimentando una crescita continua dei dati di cache KV. Man mano che questi dati si accumulano, l’azienda sostiene che la memoria on‑chip e la DRAM sono state spinte oltre i loro limiti sia in termini di capacità sia di rapporto costo‑efficacia. Una FAQ allegata all’annuncio definisce la cache KV come l’archiviazione dei dati Key e Value generati durante l’inferenza di modelli di grandi dimensioni, in modo che possano essere riutilizzati in inferenze successive, evitando calcoli ridondanti. Huawei descrive un consenso industriale sulla costruzione di un’archiviazione a più livelli che coordina memoria on‑chip, DRAM e SSD in uno spazio di memoria completamente condiviso, e afferma che l’M900 è stato realizzato per superare i colli di bottiglia di capacità di memoria nell’inferenza a contesto ultra‑lungo e a più turni. L’azienda caratterizza inoltre i SuperPoD come la scelta ottimale per l’infrastruttura AI man mano che i modelli si espandono.

Tre Tecnologie alla Base dell’M900

Per la capacità, Huawei afferma che l’interconnessione UnifiedBus consente a OceanStor M900 di creare una cache KV globale a più livelli su scala PB con connessioni a un salto, aggregando e condividendo la cache tra i nodi di un cluster con archiviazione a più livelli. Il design amplia la cache KV dei SuperPoD dalla memoria on‑chip e DRAM agli SSD, consentendo a un singolo cluster di fornire 64 PB di capacità, secondo l’azienda. Huawei dichiara che la capacità di cache KV disponibile per NPU passa da gigabyte a terabyte, permettendo di memorizzare, condividere e riutilizzare più contesto, il che, a suo dire, aumenta significativamente il tasso di hit della cache KV.

Per le prestazioni, Huawei descrive OceanStor M900 come la prima architettura del settore a integrare CPU, unità di controllo di rete e unità di controllo NAND, fornendo semantiche KV native che consentono connessioni a un salto dalle NPU di un SuperPoD agli SSD. L’azienda riferisce che l’eliminazione della conversione di protocollo e del forwarding della CPU riduce la latenza di accesso da millisecondi a 60 microsecondi, una riduzione del 90 %. Huawei segnala inoltre 40 TB/s di larghezza di banda di accesso aggregata per un singolo cluster, valore che descrive come 1,5 volte superiore rispetto alle soluzioni concorrenti. In scenari tipici di programmazione AI, l’azienda afferma che l’architettura raddoppia il throughput di token di un cluster di inferenza e dimezza il tempo al primo token.

Per i costi, Huawei afferma che l’M900 utilizza la prima tecnologia di archiviazione adattiva consapevole della KV del settore, che prevede i cicli di vita della cache KV in base al valore dei dati e distribuisce i dati tra i supporti di archiviazione di conseguenza. L’azienda riferisce che la tecnologia supporta fino a 24 scritture su disco al giorno, estende la durata degli SSD di 16 volte e garantisce stabilità per tre anni, riducendo i costi di sostituzione dei supporti e di operazioni e manutenzione nell’infrastruttura di inferenza su larga scala.

Posizionamento del Prodotto e Dettagli dell’Evento

Nella sua FAQ, Huawei descrive il Context Memory Storage, rappresentato dall’M900, come una nuova infrastruttura dati per i SuperPoD nei data center iper‑scala, fornendo una memoria completamente condivisa su scala PB e consentendo l’archiviazione a più livelli e una pianificazione efficiente della cache KV tra memoria on‑chip, DRAM e SSD. L’azienda afferma che la memoria di contesto sarà essenziale per migliorare continuamente la capacità e l’efficienza di accesso delle cache KV di inferenza iper‑scala. Huawei dichiara inoltre che continuerà a promuovere la sinergia hardware‑software e l’innovazione a livello di sistema per offrire un’infrastruttura AI aperta, efficiente e sostenibile per la trasformazione intelligente nei vari settori.

HUAWEI CONNECT 2026, con il tema “Advancing the Agentic World”, si svolge dal 17 al 19 settembre 2026 presso il Shanghai World Expo Exhibition & Convention Center e il Shanghai Expo Center, e l’annuncio afferma che l’evento esamina l’AI sotto gli aspetti di strategia, tecnologia ed ecosistemi. La pagina ufficiale dell’evento elenca un programma di tre keynote, 20 summit, più di 60 sessioni e oltre 200 interventi aperti, con relatori principali in programma tra cui il CEO della Linux Foundation Jim Zemlin, il presidente di iFLYTEK Liu Qingfeng e il CEO di Huawei Cloud Peter Zhou.