Прорив у мікрочіпа приводить нас ближче до=edge обчислень штучного інтелекту

Дослідники з Принстонського університету створили апаратне та програмне забезпечення, яке має збільшити швидкість та ефективність спеціалізованих систем штучного інтелекту (AI).

Навін Верма – професор електротехніки та комп’ютерних наук у Принстоні, який очолює команду дослідників.

«Програмне забезпечення є критичною частиною забезпечення нового апаратного забезпечення», – сказав Верма. «Надія полягає в тому, що дизайнери зможуть продовжувати використовувати одну й ту ж систему програмного забезпечення – і просто мати її працювати в десять разів швидше та ефективніше».

Системи, розроблені дослідниками, знижують енергоспоживання та кількість даних, які потрібно обмінюватися з віддаленими серверами. Завдяки цьому застосування штучного інтелекту, такі як програмне забезпечення для пілотування дронів, можуть відбуватися на краю обчислювальної інфраструктури.

Верма також є директором Центру інновацій у сфері освіти в галузі інженерії Принстонського університету.

«Щоб зробити штучний інтелект доступним для реального часу та часто особистого процесу навколо нас, нам потрібно звернутися до задержки та конфіденційності, перемістивши самі обчислення на край» – сказав Верма. «І для цього потрібно як енергоефективність, так і продуктивність».

Нові дизайни мікрочіпів

Команда з Принстона розробила новий дизайн мікрочіпа два роки тому, який мав покращити продуктивність нейронних мереж. Цей мікрочіп міг виконувати завдання в десятки чи сотні разів краще, ніж інші мікрочіпи на ринку.

«Основним недоліком цього мікрочіпа є те, що він використовує дуже незвичайну та деструктивну архітектуру», – сказав Верма у 2018 році. «Це потрібно примирити з величезною кількістю інфраструктури та методології дизайну, яку ми маємо та використовуємо сьогодні».

Мікрочіп був безперервно вдосконалений протягом наступних двох років, і було створено систему програмного забезпечення, яка дозволяла системам штучного інтелекту використовувати нову технологію ефективно. Ідея полягала в тому, що нові мікрочіпи могли б дозволити системам бути масштабованими в апаратному та програмному забезпеченні.

«Це програмне забезпечення можна використовувати для всіх цих мереж», – сказав Верма. «Ці мережі можуть бути дуже великими, а можуть бути дуже малими».

Найкращим сценарієм для обчислень є те, щоб вони відбувалися на самій технології, а не на віддаленому комп’ютері. Однак це вимагає величезної кількості енергії та пам’яті, що робить його важким для розробки такої системи.

Щоб подолати ці обмеження, дослідники розробили мікрочіп, який проводить обчислення та зберігає дані в одному й тому ж місці, яке називається обчисленнями в пам’яті. Ця техніка знижує енергію та час, необхідні для обміну інформацією з пам’яттю.

Щоб уникнути аналогових операцій, які необхідні для обчислень в пам’яті та чутливі до корупції, команда використала конденсатори замість транзисторів у дизайні мікрочіпа. Конденсатори не піддаються такому ж впливу від зміщення напруги та є більш точними.

Незважаючи на різні інші виклики, пов’язані з аналоговими системами, вони мають багато переваг, коли їх використовують для застосунків, таких як нейронні мережі. Дослідники зараз намагаються поєднати два типи систем, оскільки цифрові системи є центральними, а нейронні мережі, які використовують аналогові мікрочіпи, можуть виконувати спеціалізовані операції швидко та ефективно.