Weebit Nano ra mắt chương trình nghiên cứu ReRAM ma trận cho điện toán AI trong bộ nhớ

Weebit Nano đã ra mắt Chương trình Nghiên cứu Tính toán trong Bộ nhớ Weebit Matrix, cho phép các nhà nghiên cứu trong giới học thuật và công nghiệp tiếp cận phần cứng ReRAM để thử nghiệm một cách thức khác nhằm thực hiện các phép tính AI: xử lý ngay tại nơi lưu trữ dữ liệu.

Chương trình cung cấp các bộ nghiên cứu được xây dựng trên mảng crossbar 32 × 32, hỗ trợ những phép toán như nhân ma trận-vectơ, tích chập và mạng nơ-ron xung. Chương trình hướng đến một câu hỏi quan trọng về phần cứng dành cho AI biên: có thể tiết kiệm bao nhiêu năng lượng và thời gian bằng cách giảm các lần truyền dữ liệu lặp đi lặp lại giữa bộ nhớ và bộ xử lý riêng biệt?

Đây là đợt ra mắt nền tảng nghiên cứu, chứ không phải một bộ tăng tốc AI thương mại hoàn chỉnh. Weebit cho biết vẫn còn những thách thức kỹ thuật cần giải quyết trước khi giải pháp điện toán trong bộ nhớ có thể tiếp cận thị trường thương mại. Mục tiêu trước mắt là giúp các nhà nghiên cứu chuyển từ mô hình và mô phỏng sang thử nghiệm trên phần cứng ReRAM thực tế.

Vì sao tính toán ngay trong bộ nhớ?

Quá trình suy luận của mạng nơ-ron liên tục kết hợp dữ liệu đầu vào với các trọng số mô hình đã lưu. Trong kiến trúc thông thường, việc di chuyển những giá trị này qua hệ thống phân cấp bộ nhớ có thể tiêu tốn băng thông và năng lượng. Điện toán trong bộ nhớ, hay IMC, hướng đến việc thực hiện một phần công việc đó ngay bên trong mảng bộ nhớ.

Bộ nhớ truy cập ngẫu nhiên điện trở, hay ReRAM, lưu trữ thông tin bằng cách sử dụng điện trở có thể lập trình. Các ô nhớ dựa trên oxit của Weebit có một lớp chuyển mạch nằm giữa các điện cực; điện áp đặt vào làm thay đổi đường dẫn điện, từ đó thay đổi điện trở của ô nhớ. Trạng thái đã lưu vẫn được duy trì mà không cần nguồn điện liên tục, nhờ vậy ReRAM là bộ nhớ không khả biến.

Trong nghiên cứu điện toán tương tự, các đặc tính điện này có thể làm được nhiều hơn là lưu trữ bit. Một mảng có thể mã hóa trọng số trong các ô nhớ và sử dụng phản hồi điện thu được để tham gia vào quá trình tính toán. Nhờ đó, đặc tính vật lý của bộ nhớ được kết nối với các phép toán nhân-cộng dồn được sử dụng xuyên suốt mạng nơ-ron.

Mục tiêu này đặc biệt phù hợp với các thiết bị có giới hạn chặt chẽ về điện năng và nhiệt, bao gồm cảm biến, thiết bị công nghiệp và các hệ thống biên khác. Điều đó không có nghĩa là mọi phần của mô hình AI đều chạy bên trong mảng bộ nhớ, hay việc di chuyển dữ liệu sẽ biến mất khỏi toàn bộ hệ thống.

Các bộ nghiên cứu Matrix gồm những gì?

Ban đầu, Weebit cung cấp hai gói:

• Gói đánh giá Matrix IMC: bo mạch đánh giá cho phép truy cập trực tiếp, dành cho các nhà nghiên cứu muốn tiếp cận phần cứng sâu hơn.
• Gói khởi động nhanh Matrix IMC: một bo mạch IMC hoàn chỉnh, một phân hệ FPGA và mã mẫu.

Cả hai gói đều bao gồm các mẫu chip đã đóng gói, tài liệu hướng dẫn và một bo mạch IMC có socket. Mảng crossbar 32 × 32 cung cấp một nền tảng có kiểm soát để nghiên cứu các phương pháp lập trình, thuật toán AI và kiến trúc thần kinh mô phỏng, bao gồm mạng nơ-ron xung.

Phân hệ FPGA trong gói khởi động nhanh cung cấp cho các nhà nghiên cứu phần cứng số có thể lập trình bên cạnh mảng bộ nhớ. Điều này hữu ích để khám phá các hệ thống lai, trong đó những phép toán dựa trên bộ nhớ phối hợp với xử lý thông thường, thay vì tìm cách thay thế toàn bộ quy trình điện toán.

Các bên tham gia sẽ chia sẻ với Weebit kết quả và ý kiến phản hồi liên quan đến ReRAM. Công ty cho biết sự hợp tác này nhằm cải thiện công nghệ và đóng góp thông tin cho nỗ lực nghiên cứu rộng hơn. Thông báo không công bố giá bộ nghiên cứu, số lượng dự án được chấp nhận hay thời điểm bàn giao bộ tăng tốc thương mại.

Đặt tuyên bố về mức tiết kiệm điện năng 80× vào đúng bối cảnh

Một bản tóm tắt nghiên cứu được liên kết cung cấp những chi tiết quan trọng làm cơ sở cho các tuyên bố về hiệu năng của Weebit. Một công ty Mỹ không được nêu tên, hoạt động trong lĩnh vực phần cứng AI chịu bức xạ, đã đánh giá kiến trúc IMC cho một tác vụ phân loại hình ảnh sử dụng mạng nơ-ron tích chập tùy chỉnh.

Phép so sánh sử dụng GPU NVIDIA GeForce RTX 4090 và nền tảng FPGA Xilinx ZCU104. Kết quả cấp hệ thống của IMC được dự phóng thông qua mô hình hóa ứng dụng dựa trên các phép đo từ một mảng ReRAM của Weebit.

Với tác vụ đó, phân tích dự phóng mức tiêu thụ điện năng thấp hơn khoảng 80 lần so với phương án triển khai bằng GPU và thấp hơn 13 lần so với phương án triển khai bằng FPGA. Thông cáo ra mắt cũng mô tả riêng mức giảm độ trễ gần 100 lần. Đây là các dự phóng dành riêng cho một tác vụ, không phải những phép đo độc lập đã được xác thực cho thấy một bộ tăng tốc Matrix thương mại hoàn chỉnh vượt trội hơn GPU trong các tác vụ AI.

Sự khác biệt đó là điểm cốt yếu của chương trình nghiên cứu. Một kết quả hữu ích ở cấp độ mảng cần chuyển thành một hệ thống hoàn chỉnh vẫn bảo toàn độ chính xác của mô hình, đồng thời tính đến việc điều khiển, chuyển đổi dữ liệu, truyền thông và các hoạt động hỗ trợ khác. Những chức năng bổ trợ này cũng tiêu thụ năng lượng và làm tăng độ trễ.

Thử nghiệm phần cứng có thể làm lộ ra những điều mô phỏng bỏ sót

Tổng giám đốc điều hành Weebit, Coby Hanoch, nhắc đến sự hợp tác trước đây với CEA-Leti, trong đó có màn trình diễn mạng nơ-ron xung dựa trên ReRAM vào năm 2019. Matrix tiếp nối hướng nghiên cứu đó bằng cách cung cấp một nền tảng phần cứng xác định cho nhiều nhà nghiên cứu đủ điều kiện hơn.

Nhà nghiên cứu về điện toán mô phỏng thần kinh Kevin D. Johnson, với các công trình nghiên cứu về điện toán không đồng nhất và điện toán mô phỏng thần kinh, cho biết ông muốn sử dụng nền tảng này để kiểm chứng các mô hình trên phần cứng thực tế, đồng thời đánh giá độ chính xác ở cấp hệ thống, độ trễ và mức tiêu thụ điện năng. Ông quan tâm đến việc kết hợp ReRAM với các công nghệ xử lý khác.

Cách tiếp cận này cho thấy cơ hội thực tiễn: xác định những phần nào của khối lượng công việc được hưởng lợi từ tính toán dựa trên bộ nhớ, rồi kết hợp chúng với phần cứng khác khi phù hợp. Câu hỏi nghiên cứu không chỉ là liệu một phép toán riêng lẻ có hiệu quả hay không, mà còn bao gồm việc hệ thống sau khi kết hợp có mang lại hiệu năng ứng dụng hữu ích và ổn định qua nhiều lần chạy hay không.

Weebit cũng nêu khả năng chịu bức xạ là một lý do để nghiên cứu ReRAM cho các môi trường khắc nghiệt. Mức độ phù hợp với một ứng dụng cụ thể trong ngành hàng không vũ trụ, quốc phòng hoặc y tế vẫn tùy thuộc vào các yêu cầu và kết quả kiểm định của toàn bộ thiết kế.

Trình diễn và cơ hội tiếp cận nghiên cứu

Weebit dự kiến trình diễn Matrix IMC tại electronica 2026, diễn ra từ ngày 10–13 tháng 11 tại Munich. Công ty cho biết sự kiện sẽ tổ chức tại Sảnh C2, gian hàng 637; thông tin về buổi trình diễn và các cuộc gặp có trên trang sự kiện.

Các gói này dành cho những nhà nghiên cứu đủ điều kiện; đơn đăng ký sẽ được đánh giá dựa trên mức độ phù hợp với định hướng nghiên cứu của chương trình. Weebit cung cấp biểu mẫu đăng ký dự án nghiên cứu cho những người muốn tham gia.

Đóng góp trước mắt của Matrix là giúp các nhà nghiên cứu tiếp cận phần cứng để kiểm chứng những giả định về AI xử lý trong bộ nhớ. Trong lĩnh vực hướng đến việc giảm chi phí di chuyển dữ liệu, bằng chứng có giá trị sẽ là mức độ duy trì đồng thời độ chính xác, mức tiêu thụ năng lượng và độ trễ đã đo được khi các nhà nghiên cứu chạy những khối lượng công việc thực tế.