Weebit Nano запускає дослідницьку програму Matrix ReRAM для обчислень ШІ в пам’яті

Weebit Nano запустила дослідницьку програму Weebit Matrix з обчислень у пам’яті, надавши науковцям і фахівцям галузі доступ до обладнання ReRAM, щоб випробувати інший спосіб виконання обчислень ШІ: безпосередньо там, де зберігаються дані.

Програма пропонує дослідницькі комплекти на базі матриці перехресних з’єднань 32 × 32, яка підтримує такі операції, як множення вектора на матрицю, згортка та робота зі спайковими нейронними мережами. Вона допоможе дослідити важливе питання щодо обладнання для периферійного ШІ: скільки енергії та часу можна заощадити, скоротивши повторне передавання даних між пам’яттю та окремим процесором?

Йдеться про запуск дослідницької платформи, а не готового комерційного прискорювача ШІ. За словами Weebit, перш ніж рішення для обчислень у пам’яті вийде на комерційний ринок, потрібно подолати низку технічних труднощів. Наразі головна мета — дати дослідникам змогу перейти від моделей і симуляцій до експериментів зі справжнім обладнанням ReRAM.

Навіщо виконувати обчислення безпосередньо в пам’яті?

Під час інференсу нейронні мережі знову й знову поєднують вхідні дані зі збереженими вагами моделі. У традиційній архітектурі переміщення цих значень між рівнями ієрархії пам’яті може споживати пропускну здатність і енергію. Обчислення в пам’яті (IMC) дають змогу виконувати частину цієї роботи безпосередньо в масиві пам’яті.

Резистивна пам’ять із довільним доступом (ReRAM) зберігає інформацію за допомогою програмованого електричного опору. Оксидні комірки Weebit мають перемикальний шар між електродами; прикладена напруга змінює струмопровідний канал, а отже, і опір комірки. Збережений стан утримується без постійного живлення, тому ReRAM є енергонезалежною пам’яттю.

У дослідженнях аналогових обчислень ці електричні властивості можуть виконувати не лише функцію зберігання бітів. Ваги можна закодувати в комірках масиву пам’яті, а отримані електричні відгуки — використовувати для обчислень. Так фізичні властивості пам’яті пов’язуються з операціями множення з накопиченням, які застосовуються в нейронних мережах.

Цей підхід особливо актуальний для пристроїв із жорсткими обмеженнями щодо енергоспоживання та тепловиділення, зокрема датчиків, промислового обладнання й інших периферійних систем. Це не означає, що всі частини моделі ШІ працюють усередині масиву або що в усій системі зникає потреба переміщувати дані.

Що входить до дослідницьких комплектів Matrix

Спочатку Weebit пропонує два комплекти:

• Оціночний комплект Matrix IMC: плата для оцінювання з прямим доступом — для дослідників, яким потрібен безпосередніший доступ до обладнання.
• Комплект швидкого запуску Matrix IMC: повноцінна плата IMC, підсистема FPGA та приклади коду.

Обидва комплекти містять зразки мікросхем у корпусах, документацію та плату IMC із роз’ємом. Матриця перехресних з’єднань 32 × 32 забезпечує контрольоване середовище для вивчення методів програмування, алгоритмів ШІ та нейроморфних архітектур, зокрема спайкових нейронних мереж.

Підсистема FPGA у комплекті швидкого запуску надає дослідникам програмоване цифрове обладнання, що працює разом із масивом пам’яті. Це корисно для вивчення гібридних систем, у яких операції на основі пам’яті поєднуються з традиційною обробкою даних, а не намагаються замінити весь обчислювальний конвеєр.

Учасники ділитимуться з Weebit результатами досліджень ReRAM і відгуками. Компанія заявляє, що така співпраця має допомогти вдосконалити технологію та сприяти ширшій дослідницькій роботі. В оголошенні не вказано вартість комплектів, кількість проєктів, які буде відібрано, або дату постачання комерційного прискорювача.

Як трактувати твердження про зниження енергоспоживання у 80 разів

Пов’язаний огляд дослідження містить важливі подробиці щодо заяв Weebit про продуктивність. Компанія зі США, назву якої не розголошують і яка розробляє обладнання для ШІ, стійке до радіації, оцінила архітектуру IMC на завданні класифікації зображень за допомогою спеціально розробленої згорткової нейронної мережі.

Для порівняння використовували графічний процесор NVIDIA GeForce RTX 4090 і платформу FPGA Xilinx ZCU104. Системні результати IMC було спрогнозовано за допомогою моделювання застосунку на основі вимірювань, отриманих із масиву ReRAM Weebit.

Для цього завдання, згідно з аналізом, енергоспоживання було приблизно у 80 разів нижчим, ніж у реалізації на графічному процесорі, і у 13 разів нижчим, ніж у реалізації на FPGA. В окремому повідомленні про запуск також заявлено про майже стократне зменшення затримки. Це прогнози для конкретного робочого навантаження, а не незалежно підтверджені вимірювання, які доводять, що повноцінний комерційний прискорювач Matrix перевершує графічні процесори в різних завданнях ШІ.

Це розмежування має ключове значення для дослідницької програми. Результати, отримані на рівні масиву, мають забезпечити роботу повноцінної системи, яка зберігає точність моделі й водночас враховує керування, перетворення даних, зв’язок та інші допоміжні операції. Ці додаткові функції також споживають енергію та збільшують затримку.

Апаратні експерименти допомагають виявити те, чого не видно в симуляціях

Генеральний директор Weebit Кобі Ганох згадує про попередню співпрацю з CEA-Leti, зокрема демонстрацію спайкової нейронної мережі на базі ReRAM у 2019 році. Matrix продовжує цей напрям досліджень, надаючи визначену апаратну платформу більшій кількості кваліфікованих дослідників.

Дослідник нейроморфних обчислень Kevin D. Johnson, чиї наукові інтереси охоплюють гетерогенні та нейроморфні обчислення, заявив, що хоче використовувати платформу для перевірки моделей на реальному обладнанні та оцінювання точності на рівні системи, затримки й енергоспоживання. Серед його інтересів — поєднання ReRAM з іншими технологіями обробки даних.

Такий підхід відкриває практичні можливості: визначити, які частини робочого навантаження виграють від обчислень у пам’яті, а потім за потреби поєднати їх з іншим обладнанням. Дослідницьке питання полягає не лише в тому, чи ефективна окрема операція, а й у тому, чи забезпечує отримана система корисну й відтворювану продуктивність у застосунках.

Weebit також називає стійкість до радіації однією з причин досліджувати ReRAM для використання в суворих умовах. Придатність технології для конкретного застосування в аерокосмічній галузі, обороні чи медицині й надалі залежатиме від вимог і перевірки всієї конструкції.

Демонстрації та доступ до досліджень

Weebit планує представити Matrix IMC на виставці electronica 2026, яка відбудеться в Мюнхені 10–13 листопада. Компанія вказує павільйон C2, стенд 637, а на сторінці заходу наводить інформацію про демонстрацію та зустрічі.

Пакети доступні кваліфікованим дослідникам; заявки оцінюватимуть на відповідність дослідницьким цілям програми. Для потенційних учасників Weebit надає форму заявки на дослідницький проєкт.

Безпосередній внесок Matrix полягає в наданні доступу до обладнання, за допомогою якого можна перевірити припущення, що лежать в основі штучного інтелекту з обчисленнями в пам’яті. У галузі, зосередженій на зниженні витрат на переміщення даних, найціннішим підтвердженням стане те, як точність, енергоспоживання й затримка, виміряні під час роботи з реальними навантаженнями, узгоджуються між собою.