Роль tinyML у впровадженні комп’ютерного зору на краю – Лідери думок

Від: Девіс Сойєр, співзасновник та головний директор з продукції, Deeplite

Комп’ютерний зір має великий потенціал для поліпшення нашого повсякденного життя – і існує багато застосувань та використання для нього. Наприклад:

• Розумні дверні дзвінки для домашньої безпеки допомагають запобігти “піратству на порозі” та зломам. За даними дослідження компанії I.H.S. Markit (опублікованого в SecurityInfoWatch) кількість глобальних камер спостереження у світі мала становити один мільярд у 2021 році. У США кількість камер мала становити 85 мільйонів;
• На парковках камери з підтримкою штучного інтелекту автоматизують відстежування вільних та зайнятих парковочних місць, щоб повідомляти споживачам, де знаходяться вільні місця;
• Камери на приборній панелі на вантажівках тепер читають знаки обмеження швидкості та динамічно знижують швидкість вантажівки для поліпшення безпеки;
• І дрони з підключеними камерами моніторять віддалені та важкодоступні території та можуть обробляти зображення та приймати рішення в реальному часі.

Всі ці застосування використовують інтелектуальну відеоаналітику, яку рухають штучний інтелект та машинне навчання (ML), щоб дивитися відео, використовувати інтелект для прийняття рішень та потім виконувати дії.

Комп’ютерний зір потребує більше ресурсів на краю

Однак, як і багато застосувань, керованих штучним інтелектом, комп’ютерний зір потребує сплесків обчислювальної потужності, пам’яті та енергії для виконання складного аналізу та прийняття рішень. Хоча це нормально в центрі даних з великою обчислювальною потужністю, це може перешкодити переходу штучного інтелекту на край. Зокрема, маленькі пристрої, розташовані далеко від корпоративних центрів даних та працюють на малих батареях, потребують нового типу штучного інтелекту, який є меншим, швидшим та “легшим”, ніж традиційні підходи. І існуючі пристрої потребуватимуть оновлення з новою функціональністю штучного інтелекту + машинного навчання (комп’ютерний зір), щоб залишатися життєздатними та конкурентоспроможними.

Нові досягнення сприяють розвитку глибоких нейронних мереж

Сьогодні нові досягнення в галузі штучного інтелекту роблять глибокі нейронні мережі (DNN) швидшими, меншими та більш енергоефективними – і сприяють переходу штучного інтелекту з хмари та центрів даних на пристрої на краю та батарейні сенсори. Коли мова йде про навчання моделей штучного інтелекту, приголомшливий вуглецевий слід був задокументований та обговорений (наприклад, навчання однієї моделі штучного інтелекту випускає стільки ж CO2, скільки 5 автомобілів за весь їхній термін служби). Однак нам потрібно зрозуміти, який є екологічний вплив інференсу моделей штучного інтелекту та як зменшити цей слід. Саме тут оптимізація моделей може мати величезні переваги завдяки зменшенню економічного та екологічного кошту DNN.

TinyML дозволяє використовувати штучний інтелект на малих пристроях

Одним із таких досягнень є tinyML, потужна нова тенденція, яка дозволяє малим, батарейним пристроям використовувати передові методи машинного навчання для виконання завдань комп’ютерного зору та інших задач сприйняття. Це сприяє інференсу моделей машинного навчання на малих пристроях з обмеженими ресурсами, зазвичай на краю хмари, та допомагає впроваджувати застосування на краю ближче до користувача.

Наприклад, серверна графічна карта типу NVIDIA A100 має понад 40 ГБ доступної пам’яті, що підходить для виконання складних завдань штучного інтелекту, таких як комп’ютерний зір та обробка природної мови. Однак, коли ми говоримо про пристрої на краю та tinyML, звичайний мікроконтролер (MCU) може мати лише 256 КБ внутрішньої пам’яті, що в понад 100 000 раз менше пам’яті, ніж у хмарі! Крім того, на відміну від центрів даних та хмари, апаратне забезпечення пристроїв на краю не може бути легко оновлено на місці. Це означає, що нам потрібно “вписати” наш штучний інтелект у доступне апаратне забезпечення, що може зайняти місяці чи роки спроб та помилок для розробників, якщо вони це взагалі зможуть зробити. Саме тут tinyML, зокрема автоматичне машинне навчання (також зване AutoML), може відіграти велику роль у подоланні бар’єрів для впровадження штучного інтелекту у реальному світі.

І вплив tinyML зростає. З понад 10 000 учасників фундація tinyML росте екосистему для підтримки розробки та впровадження рішень машинного навчання з наднизьким енергоспоживанням на краю. Фундація об’єднує глобальну спільноту апаратних та програмних інженерів, спеціалістів з машинного навчання, даних, системних інженерів, дизайнерів, працівників продукції та бізнесу.

Світ можливостей

Загалом, існує мільярди малих, підключених пристроїв скрізь, які можуть виграти від передової інтелектуальності. Викликом є те, що вони мають дуже обмежені ресурси, тому як ми можемо додати інтелектуальність до них? tinyML може відіграти ключову роль у впровадженні штучного інтелекту та машинного навчання у більшій кількості застосувань комп’ютерного зору у реальному світі, на краю на малих пристроях. І це може розблокувати світ переваг для людей та компаній у всьому ряді продуктів, послуг та галузей, допомагаючи нам рухатися у нові рубежі штучного інтелекту.