Microsoft công bố chip AI Maia 300, mở rộng Azure lên quy mô nhiều gigawatt

Ngày 12 tháng 10 năm 2026, Microsoft giới thiệu Azure Maia 300, thế hệ thứ ba trong dòng bộ tăng tốc AI do hãng tự phát triển, đồng thời cho biết sẽ mở rộng dòng Azure Maia lên quy mô triển khai nhiều gigawatt từ năm 2027, đưa Maia trở thành hệ thống suy luận chủ lực trong các sản phẩm và dịch vụ của mình.

Scott Guthrie, Phó chủ tịch điều hành phụ trách Cloud + AI, công bố con chip trong bài đăng trên blog chính thức của Microsoft, mô tả Maia 300 là “một hệ thống thông minh hoàn chỉnh” được thiết kế cho hoạt động suy luận với ngữ cảnh dài, trải nghiệm hội thoại nhạy cảm với độ trễ và các tác vụ nhiều bước theo kiểu tác nhân diễn ra liên tục. Maia 300 sẽ bắt đầu được triển khai trong môi trường sản xuất vào năm 2027.

Guthrie viết rằng nhờ cải thiện hiệu quả trên toàn hệ thống, Microsoft kỳ vọng Maia 300 sẽ xử lý được nhiều hơn 40% token trên mỗi megawatt so với các hệ thống hàng đầu dựa trên GPU. Công ty cho biết, trong cấu hình đầy đủ gồm 96 bộ tăng tốc, Maia 300 đạt thông lượng token ở cấp độ giá đỡ cao gấp tới 7 lần Maia 200.

Kiến trúc hệ thống Maia 300

Maia 300 được thiết kế với kiến trúc ưu tiên suy luận, theo cách gọi của Microsoft, tối ưu cho các khối lượng công việc AI cần ngữ cảnh dài, tiêu tốn nhiều bộ nhớ và chủ yếu xử lý giai đoạn giải mã. Công ty cho biết cách tiếp cận này đòi hỏi phải cân bằng năng lực tính toán, băng thông bộ nhớ, mạng và hiệu quả sử dụng điện ở quy mô đám mây. Kiến trúc luồng dữ liệu được xác định bằng phần mềm kết hợp với việc tối ưu hóa nhân xử lý có sự hỗ trợ của AI nhằm giữ dữ liệu ở gần nơi xử lý, giảm luân chuyển dữ liệu và tăng mức độ khai thác tài nguyên tính toán, bộ nhớ và mạng. Microsoft cho biết việc xem luồng dữ liệu là một nguyên tắc thiết kế cốt lõi mang lại cho Maia 300 lợi thế đáng kể về hiệu năng trên mỗi watt so với các kiến trúc GPU truyền thống.

Hệ thống bộ nhớ sử dụng tám cụm HBM4, cung cấp băng thông đỉnh 18.0 TB/s trong giới hạn công suất thiết kế nhiệt (TDP) 950 watt; cơ chế hỗ trợ nhân xử lý chuyên biệt còn cho phép dùng SRAM tích hợp trên chip như một vùng nhớ tạm do phần mềm quản lý, qua đó giảm tải cho HBM. Con chip cũng chuyển sang thiết kế đa chiplet, tách riêng các chức năng tính toán, điều khiển bộ nhớ và vào/ra (I/O); các chiplet tính toán được chế tạo trên tiến trình N2P của TSMC. Khả năng hỗ trợ các định dạng độ chính xác thấp tiên tiến, bao gồm MXFP4 cải tiến, được thiết kế để giảm nhu cầu bộ nhớ và băng thông cho cả tính toán lẫn lưu trữ bộ nhớ đệm KV, nhờ đó cho phép tăng độ dài ngữ cảnh và thông lượng trong cùng giới hạn công suất.

Về mạng, Maia 300 xem mạng là phần mở rộng của kiến trúc luồng dữ liệu thay vì chuyển dữ liệu qua các lớp giao tiếp riêng biệt. Các kết nối băng thông cao giữa các bộ tăng tốc được tối ưu cho tính toán song song tensor; hệ thống truyền tải AI tùy chỉnh cung cấp khả năng giao tiếp mở rộng giữa các bộ tăng tốc và giá đỡ trên hạ tầng dựa trên Ethernet, tạo thành một cấu trúc liên kết thống nhất có thể mở rộng từ một giá đỡ đơn lẻ đến các hệ thống triển khai ở quy mô trung tâm dữ liệu. Ở cấp độ giá đỡ, 96 bộ tăng tốc Maia 300 hoạt động trong giới hạn công suất 167 kilowatt, với dung lượng HBM 27.6 TB và băng thông HBM tổng hợp 1.7 PB/s trên toàn miền mở rộng. Microsoft cho biết mật độ này giúp mỗi giá đỡ phục vụ được nhiều tương tác AI đồng thời hơn và xử lý các khối lượng công việc lớn hơn.

Maia 200 trong môi trường sản xuất

Maia 300 kế tiếp Maia 200, hiện đã xử lý các khối lượng công việc sản xuất của Microsoft, trong đó có Microsoft Copilot, đồng thời hỗ trợ nhóm MAI phát triển các mô hình thế hệ tiếp theo; GitHub Copilot và Microsoft Foundry sẽ được bổ sung trước cuối năm 2026. Trong các khối lượng công việc này, con chip chạy các mô hình OpenAI, các mô hình MAI của chính Microsoft và những dòng mô hình mã nguồn mở hàng đầu. Maia 200 đang được triển khai tại Hoa Kỳ, châu Âu và Australia; Microsoft cho biết so với hạ tầng GPU hàng đầu, hệ thống này mang lại hiệu quả cao hơn tới 1.7 lần về số token trên mỗi watt cho các khả năng AI tích hợp trong Teams, Copilot và trải nghiệm Cowork.

Guthrie viết rằng kinh nghiệm vận hành các mô hình và dịch vụ AI của Microsoft trên Maia 200 đã trực tiếp định hình thiết kế Maia 300. Ông cho biết hai thế hệ chip này được thiết kế để hỗ trợ nhiều dịch vụ AI bổ sung của Microsoft: các tác vụ nhiều bước do tác nhân thực hiện, phục vụ trải nghiệm lập trình của GitHub; khả năng cung cấp mô hình ở quy mô đám mây thông qua Microsoft Foundry; suy luận và tạo dữ liệu cho nhóm MAI; cùng các quy trình làm việc Dragon Copilot nhạy cảm với độ trễ, nhằm giảm gánh nặng hành chính cho nhân viên lâm sàng.

Microsoft giới thiệu Maia 200 vào ngày 26 tháng 1 năm 2026, một bộ tăng tốc suy luận được chế tạo trên tiến trình 3 nanomet của TSMC, với các lõi tensor FP8 và FP4 tích hợp, bộ nhớ HBM3e 216GB có băng thông 7 TB/s và SRAM trên chip 272MB. Con chip chứa hơn 140 tỷ bóng bán dẫn, đạt hơn 10 petaFLOPS khi tính toán FP4 và hơn 5 petaFLOPS ở FP8 trong giới hạn công suất thiết kế nhiệt 750 watt. Mạng mở rộng hai tầng của Maia 200 dựa trên Ethernet tiêu chuẩn, cung cấp băng thông mở rộng hai chiều 2.8 TB/s cho mỗi bộ tăng tốc trong các cụm có quy mô lên tới 6,144 bộ tăng tốc. Maia 200 lần đầu được triển khai tại khu vực trung tâm dữ liệu US Central của Microsoft, gần Des Moines, Iowa; khu vực US West 3 gần Phoenix, Arizona được công bố là khu vực tiếp theo.

Khi ra mắt, Microsoft mô tả Maia 200 là chip silicon do một nhà cung cấp dịch vụ đám mây quy mô siêu lớn tự phát triển có hiệu năng cao nhất, đồng thời dẫn chứng hiệu năng FP4 cao gấp ba lần Amazon Trainium thế hệ thứ ba, hiệu năng FP8 vượt TPU thế hệ thứ bảy của Google và hiệu năng trên mỗi đô la cao hơn 30% so với phần cứng mới nhất trong hệ thống của hãng. Công ty cũng gọi Maia 200 là hệ thống suy luận hiệu quả nhất mà hãng từng triển khai.

Microsoft cho biết sẽ chia sẻ thêm về chiến lược và tiến độ chuyển đổi tiên phong tại Microsoft Ignite 2026 ở San Francisco và trực tuyến, đồng thời giới thiệu tài liệu kỹ thuật về Maia 300 để bạn đọc tìm hiểu thêm về kiến trúc.