Прорыв в микрочипах приближает нас к вычислениям на краю сети ИИ

Исследователи из Принстонского университета разработали совместно спроектированное оборудование и программное обеспечение, предназначенное для дальнейшего увеличения скорости и эффективности специализированных систем искусственного интеллекта (ИИ).

Навин Верма – профессор электротехники и компьютерных наук в Принстоне, который возглавляет исследовательскую команду.

«Программное обеспечение является важной частью для обеспечения новых возможностей аппаратного обеспечения», – сказал Верма. «Надежда заключается в том, что разработчики смогут продолжать использовать одну и ту же систему программного обеспечения – и просто сделать ее в десять раз быстрее и более эффективной».

Системы, разработанные исследователями, снижают потребление энергии и количество данных, необходимых для обмена с удаленными серверами. Это позволяет приложениям ИИ, таким как программное обеспечение для управления беспилотными летательными аппаратами, работать на краю вычислительной инфраструктуры.

Верма также является директором Центра инноваций в образовании инженерных наук университета.

«Чтобы сделать ИИ доступным для реального и часто личного процесса, нам нужно решить проблемы задержки и конфиденциальности, переместив вычисления на край»,- сказал Верма. «И для этого требуется как энергоэффективность, так и производительность».

Новые дизайны микрочипов

Команда из Принстона разработала новый дизайн микрочипа два года назад, который был призван улучшить производительность нейронных сетей. Этот микрочип мог выполнять задачи в десятки и сотни раз быстрее, чем другие микрочипы на рынке.

«Основным недостатком этого микрочипа является то, что он использует очень необычную и разрушительную архитектуру», – сказал Верма в 2018 году. «Это необходимо примирить с огромным количеством инфраструктуры и методологии проектирования, которые мы имеем и используем сегодня».

Микрочип был постоянно усовершенствован в течение следующих двух лет, и была создана система программного обеспечения, которая позволяла системам ИИ использовать новую технологию эффективно. Идея заключалась в том, что новые микрочипы могли бы позволить системам быть масштабируемыми как в аппаратном, так и в программном обеспечении.

«Это программно реализуемо во всех этих сетях», – сказал Верма. «Сети могут быть очень большими, и они могут быть очень маленькими».

Лучший сценарий для вычислений – это когда они происходят直接 на технологии, а не на удаленном компьютере сети. Однако это требует огромного количества энергии и памяти, что делает проектирование такой системы очень сложной.

Чтобы преодолеть эти ограничения, исследователи разработали микрочип, который выполняет вычисления и хранит данные в одном и том же месте, что называется вычислениями в памяти. Этот метод снижает энергию и время, необходимые для обмена информацией с выделенной памятью.

Чтобы избежать аналоговой работы, которая необходима для вычислений в памяти и чувствительна к коррупции, команда использовала конденсаторы вместо транзисторов в дизайне микрочипа. Конденсаторы не подвержены влиянию сдвигов напряжения и более точны.

Несмотря на различные другие проблемы, связанные с аналоговыми системами, они имеют много преимуществ при использовании в приложениях, таких как нейронные сети. Исследователи теперь стремятся объединить два типа систем, поскольку цифровые системы являются центральными, а нейронные сети, полагающиеся на аналоговые микрочипы, могут выполнять быстрые и эффективные специализированные операции.