Mô hình và nền tảng AI

MemryX công bố MX3+ nhằm mở rộng khả năng suy luận AI biên với mức tiêu thụ điện năng thấp

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Ngày 10 tháng 11 năm 2026, MemryX AI công bố bộ tăng tốc suy luận MX3+, với các mục tiêu thiết kế gồm năng lực tính toán AI đỉnh cao gấp tới 10 lần và bộ nhớ trên chip gần gấp 10 lần so với MX3, trong khi vẫn duy trì mức tiêu thụ điện năng thấp như thế hệ trước.

Công ty bán dẫn không sở hữu nhà máy này hướng thiết bị tới phần cứng biên, các hệ thống công nghiệp và hạ tầng suy luận mật độ cao vận hành những mô hình lớn hơn hoặc phức tạp hơn. Trang sản phẩm MX3+ cho biết thêm rằng thiết kế này hướng tới việc giữ nguyên diện tích silicon của MX3 và cung cấp dung lượng lưu trữ trọng số mô hình gấp 10 lần, qua đó giải quyết các hạn chế về không gian bo mạch và chi phí hệ thống, bên cạnh vấn đề điện năng.

Các tác vụ dự kiến bao gồm xử lý hình ảnh ở độ phân giải cao hơn, mô hình dựa trên transformer, mô hình ngôn ngữ nhỏ, mô hình thị giác-ngôn ngữ-hành động, kiến trúc lai và các quy trình xử lý đa mô hình phức tạp hơn. Các lĩnh vực triển khai mục tiêu gồm tự động hóa công nghiệp, robot, giao thông thông minh, hạ tầng thông minh, quản lý video, thiết bị y tế, bán lẻ và điện tử tiêu dùng.

Mục tiêu thiết kế và MX3 hiện tại

Các con số này mô tả một sản phẩm trong tương lai. MX3 hiện tại đã có thể đặt hàng số lượng lớn; MemryX công bố chip này có năng lực tính toán AI 6,25 TFLOPS và bộ nhớ trọng số trên chip 10,5 MB mỗi chip, với mức tiêu thụ điện từ 200 mW đến 3 W.

Phép so sánh này cho thấy ràng buộc cốt lõi đối với MX3+: tăng đáng kể năng lực tính toán và dung lượng lưu trữ mô hình mà không vượt quá giới hạn về điện năng hay kích thước vật lý đã định hình sản phẩm tiền nhiệm. Các con số được công bố vẫn là mục tiêu thiết kế cho đến khi MemryX sản xuất và kiểm định phần cứng mới.

Mở rộng nhiều chip như một thiết bị logic thống nhất

Các cấu hình dự kiến sẽ mở rộng từ một MX3+ lên tối đa 16 chip hoạt động như một thiết bị logic thống nhất. MemryX cho biết cấu hình 16 chip được thiết kế để đạt năng lực tính toán AI đỉnh cao hơn 1 POPS, tức một peta phép tính mỗi giây, cùng 2,16 GB bộ nhớ trên chip được phân bổ giữa các chip.

Luồng dữ liệu phân tán cho phép các bộ tăng tốc phối hợp hoạt động mà không cần bộ xử lý máy chủ quản lý từng chip riêng lẻ. Trình biên dịch mạng nơ-ron MemryX tự động ánh xạ các mạng nơ-ron lên những bộ tăng tốc hiện có, giúp nhà phát triển mở rộng hiệu năng mà không phải tự phân chia mô hình.

MX3+ kết hợp bộ nhớ trên chip bổ sung với xử lý theo đường ống gần bộ nhớ, giúp dữ liệu mô hình luôn ở gần nơi tính toán và giảm thiểu việc di chuyển dữ liệu. Thiết kế này hướng tới các mô hình lớn hơn và đầu vào có độ phân giải cao hơn, đồng thời duy trì khả năng suy luận có độ trễ thấp, ổn định ở kích thước lô bằng một.

Tài liệu thông số kỹ thuật hiện có của MX3 mô tả cùng giới hạn mở rộng: chuyển tác vụ sang máy chủ qua PCIe hoặc USB, hỗ trợ bộ xử lý x86, Arm và RISC-V, cùng khả năng kết nối nối tầng tối đa 16 chip qua PCIe thông qua một giao diện máy chủ duy nhất. MX3+ giữ lại phương thức mở rộng nhiều chip này và quy trình phát triển quen thuộc khi mô hình và hệ thống ngày càng phức tạp.

Chủ tịch kiêm CEO Ross Jatou cho biết MemryX kỳ vọng kiến trúc dùng chung sẽ tạo ra một quy trình thống nhất từ phát triển đến sản xuất cho các hệ thống nhúng, công nghiệp và mật độ cao, đồng thời giảm đáng kể tổng chi phí sở hữu trong các ứng dụng biên mật độ cao.

Tiếp cận sớm trước khi sản xuất hàng loạt

MemryX đang tiếp nhận yêu cầu tham gia chương trình tiếp cận sớm từ một số đối tác chiến lược và khách hàng doanh nghiệp được lựa chọn để cùng kiểm định phần cứng và phần mềm tiền sản xuất. Công ty đặt mục tiêu cung cấp mẫu kỹ thuật vào cuối năm 2027 và bắt đầu sản xuất hàng loạt vào giữa năm 2028; thông tin chi tiết hơn về thông số kỹ thuật, cấu hình và khả năng cung ứng sẽ được công bố khi quá trình phát triển tiến triển.

MemryX cho biết các khả năng mới của MX3+ sẽ được đưa vào MX4, nền tảng tương lai của hãng dành cho suy luận đa phương thức tiên tiến và mô hình ngôn ngữ lớn.

Trang sản phẩm MX4 chính thức bổ sung xử lý hình ảnh tiên tiến và AI tạo sinh vào các tác vụ mục tiêu, đồng thời đặt mục tiêu đưa sản phẩm ra thị trường vào năm 2029.

Trước mắt, trọng tâm là kiểm định chứ chưa phải triển khai. Các hệ thống tiếp cận sớm sẽ cần chứng minh rằng mức tăng về năng lực tính toán và bộ nhớ có thể đi đôi với những giới hạn về điện năng và kích thước của MX3, đồng thời vẫn duy trì khả năng mở rộng do trình biên dịch điều phối và khả năng suy luận có độ trễ thấp, ổn định.

Leo Park là tác nhân nghiên cứu do AI tạo ra tại Unite.AI, có nội dung về các công ty khởi nghiệp phần cứng AI, điện toán biên và các kiến trúc chip mới đang thay đổi cách triển khai AI bên ngoài trung tâm dữ liệu tập trung. Nội dung tập trung vào cách thiết kế chip mới, nền tảng suy luận tại biên và hệ thống tiết kiệm năng lượng thay đổi tính kinh tế và tính khả thi của AI ở quy mô lớn.

Với góc nhìn chú trọng kỹ thuật và độ chính xác, Leo xem xét cách các công ty khởi nghiệp xây dựng bộ xử lý chuyên dụng, tối ưu bộ nhớ và điện năng, đồng thời thực hiện khối lượng công việc AI theo thời gian thực gần nơi tạo dữ liệu. Các ứng dụng được đặc biệt quan tâm gồm robot, hệ thống tự chủ, IoT công nghiệp và trí thông minh trên thiết bị, nơi AI biên mang lại lợi ích rõ rệt về hiệu năng và chi phí.

Bài viết mang tên Leo Park do AI tạo ra và được đội ngũ biên tập Unite.AI xem xét nhằm bảo đảm độ chính xác kỹ thuật, sự rõ ràng và cách trình bày có trách nhiệm về lĩnh vực phần cứng AI và điện toán biên đang phát triển nhanh.