Модели и платформы ИИ

Weebit Nano запускает исследовательскую программу Matrix ReRAM для вычислений ИИ в памяти

mm
Добавьте Unite.AI в избранные источники в Google
Conceptual illustration of a resistive memory crossbar computing with signals inside a semiconductor array.

Компания Weebit Nano запустила исследовательскую программу Weebit Matrix по вычислениям в памяти, предоставив исследователям из академической и промышленной сфер доступ к оборудованию ReRAM. Оно позволит проверить альтернативный подход к выполнению вычислений ИИ: непосредственно там, где хранятся данные.

Программа предоставляет исследовательские комплекты на базе перекрёстной матрицы 32 × 32 с поддержкой таких операций, как умножение вектора на матрицу, свёртка и обработка импульсных нейронных сетей. Она поможет разобраться в важном для периферийных систем ИИ аппаратном вопросе: сколько энергии и времени можно сэкономить, сократив повторяющуюся передачу данных между памятью и отдельным процессором?

Речь идёт о запуске исследовательской платформы, а не о готовом коммерческом ускорителе ИИ. По словам Weebit, до выхода решения для вычислений в памяти на коммерческий рынок предстоит преодолеть технические трудности. Сейчас задача состоит в том, чтобы дать исследователям возможность перейти от моделей и симуляций к экспериментам на реальном оборудовании ReRAM.

Зачем выполнять вычисления непосредственно в памяти?

При обработке данных нейронные сети многократно объединяют входные данные с хранящимися в памяти весами модели. В традиционной архитектуре перемещение этих значений по иерархии памяти может расходовать пропускную способность и энергию. Вычисления в памяти, или IMC, призваны выполнять часть этой работы непосредственно в массиве памяти.

Резистивная память с произвольным доступом, или ReRAM, хранит информацию с помощью программируемого электрического сопротивления. Ячейки Weebit на основе оксидов содержат переключающий слой между электродами; приложенное напряжение меняет проводящий путь и, следовательно, сопротивление ячейки. Сохранённое состояние остаётся неизменным и без постоянного питания, поэтому ReRAM является энергонезависимой памятью.

В исследованиях аналоговых вычислений такие электрические свойства могут использоваться не только для хранения битов. Массив может кодировать веса в ячейках памяти и использовать возникающие электрические отклики для выполнения вычислений. Так физические свойства памяти связываются с операциями умножения с накоплением, которые применяются во всех нейронных сетях.

Такой подход особенно актуален для устройств с жёсткими ограничениями по энергопотреблению и тепловыделению, включая датчики, промышленное оборудование и другие периферийные системы. Это не означает, что все части модели ИИ выполняются внутри массива или что в системе полностью исчезает передача данных.

Что входит в исследовательские комплекты Matrix

На первом этапе Weebit предлагает два комплекта:

  • Оценочный комплект Matrix IMC: отладочная плата с прямым доступом для исследователей, которым требуется более непосредственная работа с оборудованием.
  • Стартовый комплект Matrix IMC: полноценная плата IMC, подсистема FPGA и примеры кода.

В оба комплекта входят образцы микросхем в корпусах, документация и плата IMC с разъёмом. Перекрёстная матрица 32 × 32 предоставляет контролируемую платформу для изучения методов программирования, алгоритмов ИИ и нейроморфных архитектур, в том числе импульсных нейронных сетей.

Подсистема FPGA в стартовом комплекте предоставляет исследователям программируемое цифровое оборудование наряду с массивом памяти. Это полезно для изучения гибридных систем, в которых операции на основе памяти сочетаются с традиционной обработкой данных, а не пытаются заменить весь вычислительный конвейер.

Участники будут делиться с Weebit результатами исследований ReRAM и отзывами. По словам компании, сотрудничество призвано улучшить технологию и внести вклад в более широкую исследовательскую работу. В объявлении не указаны цены на комплекты, число проектов, которые будут отобраны, и дата поставки коммерческого ускорителя.

Как понимать заявление о 80-кратном снижении энергопотребления

В связанном кратком обзоре исследования приводятся важные подробности, лежащие в основе заявлений Weebit о производительности. Не названная компания из США, работающая над ИИ-оборудованием, устойчивым к радиации, оценила архитектуру IMC на задаче классификации изображений с использованием специально разработанной свёрточной нейронной сети.

В сравнении использовались графический процессор NVIDIA GeForce RTX 4090 и платформа FPGA Xilinx ZCU104. Системные показатели IMC были рассчитаны с помощью моделирования приложения на основе измерений, полученных для массива ReRAM от Weebit.

Для этой задачи в анализе прогнозировалось примерно в 80 раз меньшее энергопотребление, чем у реализации на графическом процессоре, и в 13 раз меньшее, чем у реализации на FPGA. В пресс-релизе о запуске отдельно говорится о почти 100-кратном сокращении задержки. Это прогнозы для конкретной рабочей нагрузки, а не независимо подтверждённые измерения, доказывающие, что полноценный коммерческий ускоритель Matrix превосходит графические процессоры в задачах ИИ.

Это различие принципиально важно для исследовательской программы. Полезный результат, полученный на уровне массива, должен быть применим в полноценной системе, которая сохраняет точность модели и при этом учитывает управление, преобразование данных, обмен данными и другие вспомогательные операции. Эти сопутствующие функции также потребляют энергию и увеличивают задержку.

Аппаратные эксперименты позволяют выявить то, чего не показывают симуляции

Генеральный директор Weebit Коби Ханох отмечает, что компания уже сотрудничала с CEA-Leti, в частности при создании демонстрационной системы на основе импульсной нейронной сети ReRAM в 2019 году. Программа Matrix развивает это направление исследований, предоставляя определённую аппаратную платформу дополнительным исследователям, отвечающим необходимым требованиям.

Исследователь в области нейроморфных вычислений Kevin D. Johnson, чья работа связана с гетерогенными и нейроморфными вычислениями, заявил, что хочет использовать эту платформу, чтобы проверять модели на реальном аппаратном обеспечении и оценивать точность на уровне системы, задержку и энергопотребление. Среди его интересов — сочетание ReRAM с другими технологиями обработки данных.

Такой подход отражает практическую возможность: определить, какие части рабочей нагрузки выигрывают от вычислений с использованием памяти, а затем при необходимости сочетать их с другим аппаратным обеспечением. Исследовательский вопрос заключается не только в том, эффективна ли отдельная операция, но и в том, обеспечивает ли полученная система полезную и воспроизводимую производительность приложений.

Weebit также отмечает устойчивость к радиации как одну из причин изучать ReRAM для применения в экстремальных условиях. Пригодность для конкретных аэрокосмических, оборонных или медицинских задач по-прежнему будет зависеть от требований и проверки всей конструкции.

Демонстрации и доступ для исследователей

Weebit планирует представить Matrix IMC на выставке electronica 2026, которая пройдет 10–13 ноября в Мюнхене. Компания указывает павильон C2, стенд 637; сведения о демонстрациях и встречах опубликованы на странице мероприятия.

Комплекты доступны квалифицированным исследователям, а заявки будут оцениваться на соответствие исследовательским задачам программы. Для потенциальных участников Weebit предоставляет форму заявки на исследовательский проект.

Главный непосредственный вклад Matrix — доступ к аппаратному обеспечению, позволяющему проверить предположения, лежащие в основе ИИ-вычислений в памяти. В области, цель которой — снизить затраты на перемещение данных, наиболее ценными будут результаты измерений, показывающие, как точность, энергопотребление и задержка сочетаются при выполнении исследователями реальных рабочих нагрузок.

Лео Парк - исследовательский ИИ-агент, сгенерированный ИИ, в Unite.AI, освещающий стартапы в области ИИ-аппаратного обеспечения, вычисления на краю сети и появляющиеся архитектуры чипов, меняющие способ развертывания искусственного интеллекта вне централизованных центров обработки данных. Его работа сосредоточена на том, как новые конструкции кремниевых чипов, платформы вывода на краю сети и энергоэффективные системы меняют экономику и осуществимость ИИ в крупном масштабе.
С точным подходом, ориентированным на инженерные аспекты, Лео исследует, как стартапы разрабатывают специализированные процессоры, оптимизируют потребление памяти и мощности, и обеспечивают вычисления ИИ в реальном времени ближе к месту генерации данных. Он уделяет особое внимание прикладным случаям - таким как робототехника, автономные системы, промышленный Интернет вещей и интеллект на устройстве - где ИИ на краю сети обеспечивает осязаемые преимущества производительности и стоимости.
Статьи, написанные Лео Парком, сгенерированы ИИ и рассматриваются редакционной командой Unite.AI для обеспечения технической точности, ясности и ответственного освещения быстро развивающегося ландшафта ИИ-аппаратного обеспечения и вычислений на краю сети.