TinyML: Застосування, обмеження та використання в IoT та пристроях Edge

За останні кілька років штучний інтелект (AI) та машинне навчання (ML) пережили стрімкий підйом популярності та застосування не тільки в промисловості, але й в академії. Однак сучасні моделі ML та AI мають одну велику обмеження: вони вимагають величезної кількості обчислювальної та обробної потужності для досягнення бажаних результатів та точності. Це часто обмежує їхнє використання високопродуктивними пристроями з великою обчислювальною потужністю.

Але завдяки досягненням у сфері технології вбудованих систем та суттєвому розвитку галузі Інтернету речей (IoT) бажано включити використання технік та концепцій ML у ресурсно-обмежені вбудовані системи для універсальної інтелектуальності. Бажання використовувати концепції ML у вбудованих та IoT-системах є основним мотивуючим фактором створення TinyML, вбудованої техніки ML, яка дозволяє моделям та застосункам ML на多численних ресурсно-обмежених, потужністю обмежених та дешевих пристроях.

Однак, реалізація ML на ресурсно-обмежених пристроях не була простою, оскільки реалізація моделей ML на пристроях з низькою обчислювальною потужністю викликає свої власні проблеми щодо оптимізації, обчислювальної потужності, надійності, підтримки моделей та багатьох інших питань.

У цій статті ми глибше зануримося у модель TinyML, та дізнаємося більше про її походження, інструменти, які підтримують TinyML, та застосування TinyML за допомогою передових технологій. Тому почнімо.

Вступ до TinyML: чому світ потребує TinyML

Пристрої Інтернету речей (IoT) намагаються використовувати краєві обчислення, обчислювальну парадигму, яка відноситься до ряду пристроїв та мереж біля користувача для забезпечення безперебійного та реального оброблення даних від мільйонів сенсорів та пристроїв, взаємопов’язаних один з одним. Одним з основних переваг пристроїв IoT є те, що вони потребують низької обчислювальної та обробної потужності, оскільки вони розгортаються на краю мережі, а тому мають низький слід пам’яті.

Крім того, пристрої IoT сильно залежать від краєвих платформ для збору та передачі даних, оскільки ці крайові пристрої збирають дані сенсорів, а потім передають їх або в найближчу локалізацію, або на хмарні платформи для оброблення. Краєва обчислювальна технологія зберігає та виконує обчислення даних, а також забезпечує необхідну інфраструктуру для підтримки розподіленого обчислення.

Реалізація краєвого обчислення на пристроях IoT забезпечує

1. Ефективну безпеку, приватність та надійність для кінцевих користувачів.
2. Нижчу затримку.
3. Більш високу доступність та швидкість відповіді на застосування та послуги.

Крім того, оскільки крайові пристрої можуть розгортати колаборативну техніку між сенсорами та хмарою, оброблення даних можна проводити на краю мережі, а не на хмарній платформі. Це може привести до ефективного керування даними, збереження даних, ефективної доставки та кешування вмісту. Крім того, для реалізації IoT у застосунках, які займаються взаємодією людини з машиною та сучасною охороною здоров’я, краєве обчислення забезпечує спосіб суттєво покращити мережеві послуги.

Останні дослідження у сфері краєвого обчислення IoT продемонстрували потенціал реалізації технік машинного навчання у кількох випадках використання IoT. Однак основною проблемою є те, що традиційні моделі машинного навчання часто вимагають сильної обчислювальної та обробної потужності, а також високої пам’яті, що обмежує реалізацію моделей ML на пристроях IoT та застосунках.

Крім того, сучасна краєва обчислювальна технологія бракує високої передавальної потужності та ефективної економії енергії, що призводить до гетерогенних систем, які є основною причиною необхідності гармонійної та цілісної інфраструктури, особливо для оновлення, навчання та розгортання моделей ML. Архітектура, розроблена для вбудованих пристроїв, становить ще одну проблему, оскільки ці архітектури залежать від апаратних та програмних вимог, які відрізняються від пристрою до пристрою. Це основна причина, чому складно побудувати стандартну архітектуру ML для мереж IoT.

Крім того, у поточній ситуації дані, згенеровані різними пристроями, надсилаються на хмарні платформи для оброблення через обчислювально-інтенсивний характер мережевих реалізацій. Крім того, моделі ML часто залежать від глибокого навчання, глибоких нейронних мереж, спеціалізованих інтегральних схем (ASIC) та графічних процесорів (GPU) для оброблення даних, а вони часто мають вищу потужність та пам’ять. Розгортання повноцінних моделей ML на пристроях IoT не є життєздатним рішенням через очевидний брак обчислювальної та обробної потужності, а також обмежені рішення з зберігання.

Потрібність мініатюризувати низькопотужні вбудовані пристрої разом з оптимізацією моделей ML для того, щоб зробити їх більш енергоефективними та пам’яттю, відкрила шлях для TinyML, який спрямований на реалізацію моделей та практик ML на краєвих пристроях IoT та фреймворку. TinyML дозволяє оброблення сигналів на пристроях IoT та забезпечує вбудований інтелект, тим самим усуваючи необхідність передавати дані на хмарні платформи для оброблення. Успішна реалізація TinyML на пристроях IoT може в кінцевому підсумку привести до підвищення приватності та ефективності, а також зниження експлуатаційних витрат. Крім того, те, що робить TinyML ще більш привабливим, полягає в тому, що у випадку недостатньої підключення воно може забезпечити аналітику на місці.

TinyML: Вступ та огляд

TinyML — це інструмент машинного навчання, який здатний виконувати аналітику на пристрої для різних модальностей сенсорів, таких як аудіо, зір та мова. Моделі ML, побудовані на інструменті TinyML, мають низькі вимоги до потужності, пам’яті та обчислювальної потужності, що робить їх придатними для вбудованих мереж та пристроїв, які працюють від батарейної потужності. Крім того, низькі вимоги TinyML роблять його ідеальним рішенням для розгортання моделей ML на фреймворку IoT.

У поточній ситуації хмарні системи ML зустрічають кілька труднощів, включаючи питання безпеки та приватності, високого споживання енергії, надійності та проблем затримки, через що моделі на апаратно-програмних платформах встановлюються заздалегідь. Сенсори збирають дані, які імітують фізичний світ, а потім обробляються за допомогою ЦП або МПУ (мікропроцесорної одиниці). МПУ відповідає вимогам підтримки аналітики ML, забезпеченої краєвими мережами та архітектурою. Краєва архітектура ML спілкується з хмарою ML для передачі даних та реалізації TinyML, що може привести до суттєвого прогресу технологій.

Було б правильно сказати, що TinyML — це поєднання програмного забезпечення, апаратного забезпечення та алгоритмів, які працюють у гармонії один з одним для забезпечення бажаної продуктивності. Аналогове або пам’ятне обчислення може бути необхідним для забезпечення кращого та ефективного досвіду навчання для апаратного забезпечення та пристроїв IoT, які не підтримують апаратні прискорювачі. Що стосується програмного забезпечення, застосунки, побудовані за допомогою TinyML, можуть розгортатися та реалізовуватися на платформах, таких як Linux або вбудований Linux, а також на хмарних програмах. Нарешті, застосунки та системи, побудовані на алгоритмі TinyML, повинні мати підтримку нових алгоритмів, які потребують моделей з низькою пам’яттю, щоб уникнути високого споживання пам’яті.

Підвести підсумки, застосунки, побудовані за допомогою інструменту TinyML, повинні оптимізувати принципи та методи ML разом з компактним проектуванням програмного забезпечення, у присутності високоякісних даних. Ці дані потім повинні бути передані через бінарні файли, згенеровані моделями, навченими на машинах з великою потужністю та обчислювальною потужністю.

Крім того, системи та застосунки, які працюють на інструменті TinyML, повинні забезпечувати високу точність під час виконання під тіснішими обмеженнями, оскільки компактне програмне забезпечення потрібно для низького споживання енергії, яке підтримує наслідки TinyML. Крім того, модулі або застосунки TinyML можуть залежати від батарейної потужності для підтримки своїх операцій на краєвих вбудованих системах.

З урахуванням цього, застосунки TinyML мають два фундаментальні вимоги

1. Здатність масштабуватися до мільярдів дешевих вбудованих систем.
2. Зберігання коду на пристрої RAM з місткістю менше кількох КБ.

Застосування TinyML за допомогою передових технологій

Одна з основних причин, чому TinyML є гарячою темою в галузі AI та ML, полягає в його потенційних застосунках, включаючи застосування, засновані на зорі та мові, діагностику здоров’я, класифікацію та стиснення даних, інтерфейс мозку-комп’ютера, краєве обчислення, феноміку, самохідні автомобілі та багато іншого.

Застосування, засновані на мові

Зв’язок через мову

Звичайно, застосування, засновані на мові, залежать від традиційних методів зв’язку, при яких весь дані важливі та передаються. Однак у останні роки семантична комунікація виникла як альтернатива традиційній комунікації, при якій передається лише значення або контекст даних. Семантичну комунікацію можна реалізувати в застосунках, заснованих на мові, за допомогою методологій TinyML.

Деякі з найбільш популярних застосунків у галузі зв’язку через мову сьогодні включають виявлення мови, розпізнавання мови, онлайн-навчання, онлайн-вчання та цілеву комунікацію. Ці застосунки зазвичай мають вище споживання енергії та високі вимоги до даних на хост-пристрої. Для подолання цих вимог була введена нова бібліотека TinySpeech, яка дозволяє розробникам створювати архітектуру з низьким обчислювальним споживанням, яка використовує глибокі конволюційні мережі для створення низької пам’яті.

Для використання TinyML для покращення мови розробники спочатку зайнялися розміром моделі покращення мови, оскільки вона була піддана апаратним обмеженням та обмеженням. Для вирішення цієї проблеми були розгорнуті структурована обрізка та цілісна квантизація для моделі покращення мови РНН (рекурентної нейронної мережі). Результати показали, що розмір моделі зменшився майже в 12 разів, тоді як операції були зменшені майже в 3 рази. Крім того, важливо, щоб ресурси були використані ефективно, особливо при розгортанні на ресурсно-обмежених застосунках, які виконують застосунки розпізнавання голосу.

Як наслідок, для розділення процесу була запропонована методологія спільного проектування для застосунків TinyML, заснованих на голосі та мові. Розробники використовували операцію вікна для розділення програмного забезпечення та апаратного забезпечення таким чином, щоб попередньо обробляти сирі дані голосу. Метод показав свою ефективність, оскільки результати вказали на зниження споживання енергії на апаратному забезпеченні. Нарешті, існує потенціал для реалізації оптимізованого розділення між програмним та апаратним спільним проектуванням для кращої продуктивності в найближчому майбутньому.

Крім того, останні дослідження запропонували використання телефонного трансдюсера для систем розпізнавання мови, а пропозиція спрямована на заміну передбачувачів LSTM шаром Conv1D для зниження обчислювальних потреб на краєвих пристроях. Коли це було реалізовано, пропозиція повернула позитивні результати, оскільки СВД (сингулярне значення розкладання) успішно стисло модель, тоді як використання WFST (вагомого скінченного автомата) на основі декодування призвело до більшої гнучкості у вдосконаленні моделі.

Багато відомих застосунків розпізнавання мови, таких як віртуальні або голосові помічники, живі субтитри та голосові команди, використовують техніки ML для роботи. Популярні голосові помічники, такі як Siri та помічник Google (GOOGL ), звертаються до хмарної платформи кожен раз, коли вони отримують деякі дані, що створює суттєві проблеми, пов’язані з приватністю та безпекою даних. TinyML є життєздатним рішенням цієї проблеми, оскільки він спрямований на виконання розпізнавання мови на пристроях та усуває необхідність міграції даних на хмарні платформи. Одним із способів досягнення розпізнавання мови на пристрої є використання Tiny Transducer, моделі розпізнавання мови, яка використовує шар DFSMN (глибокий фід-форвардний блок пам’яті) разом з одним шаром Conv1D замість шарів LSTM для зниження обчислювальних вимог та мережевих параметрів.

Слухові апарати

Втрата слуху є великою проблемою охорони здоров’я у світі, і здатність людини чути звуки зазвичай слабшає з віком, а це велика проблема у країнах, які справляються зі старінням населення, включаючи Китай, Японію та Південну Корею. Слухові апарати зараз працюють на простому принципі посилення всіх вхідних звуків з навколишнього середовища, що робить складним для людини розрізняти або відрізняти бажаний звук, особливо у шумовому середовищі.

TinyML може бути життєздатним рішенням цієї проблеми, оскільки використання моделі TinyLSTM, яка використовує алгоритм розпізнавання мови для слухових апаратів, може допомогти користувачам розрізняти різні звуки.

Застосування, засновані на зорі

TinyML має потенціал відіграти важливу роль у обробленні наборів даних, заснованих на зорі, оскільки для швидших виходів ці набори даних потрібно обробляти на самій краєвій платформі. Для досягнення цього модель TinyML зустрічає практичні проблеми під час навчання моделі за допомогою мікроконтролера OpenMV H7. Розробники також запропонували архітектуру для виявлення американської мови жестів за допомогою мікроконтролера ARM Cortex M7, який працює лише з 496 КБ оперативної пам’яті.

Реалізація TinyML для застосунків, заснованих на зорі, на краєвих платформах вимагала від розробників подолання основної проблеми — високої похибки загального розподілу та високої точності навчання та тестування у моделях сворточної нейронної мережі (CNN). Однак реалізація не загалом працювала ефективно на зображеннях у нових випадках використання, а також на фонах з шумом. Коли розробники використовували метод інтерполяційної апертурної аугментації, модель повернула оцінку точності понад 98% на тестових даних та близько 75% у загальному розподілі.

Крім того, було спостережено, що коли розробники використовували метод інтерполяційної апертурної аугментації, відбулося зниження точності моделі під час квантизації, але водночас відбулося підвищення швидкості висновку моделі та класифікаційної загальної продуктивності. Розробники також запропонували метод подальшого підвищення точності моделі загального розподілу під час навчання на даних, отриманих з різних джерел, та тестуванні продуктивності для дослідження можливості розгортання на краєвих платформах, таких як портативні розумні годинники.

Крім того, додаткові дослідження щодо CNN показали, що можливо розгортати та досягати бажаних результатів з архітектурою CNN на пристроях з обмеженими ресурсами. Нещодавно розробники змогли створити фреймворк для виявлення медичних масок на мікроконтролері ARM Cortex M7 з обмеженими ресурсами за допомогою TensorFlow Lite з мінімальними слідами пам’яті. Розмір моделі після квантизації становив близько 138 КБ, тоді як швидкість висновку на цільовій платі становила близько 30 кадрів в секунду.

Іншим застосуванням TinyML для застосунків, заснованих на зорі, є реалізація пристрою розпізнавання жестів, який можна прикріпити до тростини для допомозі людям з порушенням зору в навігації їхнього повсякденного життя. Для розробки цього пристрою розробники використовували набір даних жестів та використовували цей набір для навчання моделі ProtoNN з алгоритмом класифікації. Результати, отримані з цього набору, були точними, дизайн був низькобюджетним, а результати були задовільними.

Іншим суттєвим застосуванням TinyML є галузь самохідних та автономних транспортних засобів через відсутність ресурсів та обчислювальної потужності на борту. Для подолання цієї проблеми розробники запропонували метод закритого циклу навчання, побудований на моделі TinyCNN, який запропонував онлайн-передбачувальну модель, яка захоплює зображення в режимі реального часу. Основною проблемою, з якою зіткнулися розробники під час реалізації TinyML для автономного водіння, полягала в тому, що модель прийняття рішень, навчена для роботи з офлайн-даними, може не працювати так само добре при роботі з онлайн-даними. Для повного максимізації застосунків автономних транспортних засобів та самохідних автомобілів модель повинна ідеально адаптуватися до даних у реальному часі.

Класифікація та стиснення даних

Одна з найбільших проблем поточної структури TinyML полягає в тому, щоб дозволити їй адаптуватися до онлайн-тренувальних даних. Для подолання цієї проблеми розробники запропонували метод, відомий як TinyOL (онлайн-навчання TinyML), який дозволяє навчання з інкрементним онлайн-навчанням на мікроконтролерах, тим самим дозволяючи моделі оновлюватися на краєвих пристроях IoT. Реалізація була досягнута за допомогою мови програмування C++ та додаткового шару, доданого до архітектури TinyOL.

Крім того, розробники також здійснили авто-кодування плати Arduino Nano 33 BLE, а навчена модель була здатна класифікувати нові закономірності даних. Крім того, робота з розробки включала створення ефективних та більш оптимізованих алгоритмів для нейронних мереж для підтримки закономірностей навчання пристроїв онлайн.

Дослідження TinyOL та TinyML показали, що кількість активних шарів була великою проблемою для краєвих пристроїв IoT з обмеженими ресурсами. Для подолання цієї проблеми розробники запропонували нову модель TinyTL (переносного навчання TinyML), щоб зробити використання пам’яті на краєвих пристроях IoT більш ефективним, а також уникнути використання проміжних шарів для цілей активації. Крім того, розробники також запропонували новий модуль смуги, відомий як «легкий залишковий модуль», для максимізації можливостей адаптації та, в результаті, дозволяючи екстракторам особливостей виявляти залишкові карти особливостей.

При порівнянні з тонким налаштуванням повної мережі результати були на користь архітектури TinyTL, оскільки результати показали, що TinyTL зменшує наклад пам’яті приблизно в 6,5 рази з помірною втратою точності. Коли останній шар був налаштований, TinyML покращила точність на 34% з помірною втратою точності.

Крім того, дослідження щодо стиснення даних показали, що алгоритми стиснення даних повинні керувати зібраними даними на портативному пристрої, а для досягнення цього розробники запропонували TAC (Tiny Anomaly Compressor). TAC був здатний перевершити алгоритми SDT (Swing Door Trending) та DCT (Дискретне косинусне перетворення). Крім того, алгоритм TAC перевершив обидва алгоритми SDT та DCT, досягнувши максимального рівня стиснення понад 98% та маючи вищу пікову відношення сигналу до шуму серед трьох алгоритмів.

Діагностика здоров’я

Пандемія COVID-19 відкрила нові можливості для реалізації TinyML, оскільки тепер це необхідна практика — безперервно виявляти респіраторні симптоми, пов’язані з кашлем та холодом. Для забезпечення безперервного моніторингу розробники запропонували модель CNN під назвою Tiny RespNet, яка працює у багатомодальному режимі, а модель розгорнута над FPGA Xilinx Artix-7 100t, яка дозволяє пристрою обробляти інформацію паралельно, має високу ефективність та низьке споживання енергії. Крім того, модель TinyResp також приймає мову пацієнтів, аудіозаписи та демографічну інформацію як вхідні дані для класифікації симптомів, пов’язаних з кашлем, пацієнта, які класифікуються за допомогою трьох відрізних наборів даних.

Крім того, розробники також запропонували модель, здатну виконувати глибокі обчислювальні операції на краєвих пристроях, модель TinyML під назвою TinyDL. Модель TinyDL може розгортатися на краєвих пристроях, таких як смарт-годинники та носимі пристрої, для діагностики здоров’я та також здатна виконувати аналіз продуктивності для зниження смуги пропускання, затримки та споживання енергії. Для досягнення розгортання TinyDL на портативних пристроях був розроблений та навчений спеціальний LSTM-модель для носимого пристрою, а потім йому були надані зібрані дані як вхідні дані. Модель має оцінку точності близько 75-80%, а також здатна працювати з даними з інших пристроїв.

Нарешті, розробники також запропонували інше застосування для моніторингу здоров’я людей похилого віку шляхом оцінки та аналізу їхніх поз. Модель використовує агностичну структуру на пристрої, яка дозволяє моделі забезпечувати валідацию та швидке впровадження для виконання адаптацій. Модель реалізувала алгоритми виявлення поз та обличчя для виявлення просторово-часових поз у реальному часі.

Краєве обчислення

Одним з основних застосунків TinyML є галузь краєвого обчислення, оскільки із зростанням використання пристроїв IoT для підключення пристроїв у світі, необхідно встановити крайові пристрої, щоб зменшити навантаження на хмарні архітектури. Ці крайові пристрої будуть мати окремі центри даних, які дозволять їм виконувати високорівневі обчислення на самому пристрої, а не покладатися на хмарну архітектуру. Як наслідок, це допоможе зменшити залежність від хмари, зменшити затримку, підвищити безпеку та приватність користувачів, а також зменшити смугу пропускання.

Крайові пристрої, які використовують алгоритми TinyML, допоможуть вирішити поточні обмеження, пов’язані з потужністю, обчислювальною потужністю та вимогами до пам’яті, а це обговорюється на зображенні нижче.

Крім того, TinyML також може покращити використання та застосування безпілотних літальних апаратів (БПЛА) шляхом вирішення поточних обмежень, з якими зіткнулися ці машини. Використання TinyML може дозволити розробникам реалізувати енергоефективний пристрій з низькою затримкою та високою обчислювальною потужністю, який може діяти як контролер для цих БПЛА.

Інтерфейс мозку-комп’ютера (BCI)

TinyML має суттєві застосування в галузі охорони здоров’я, і він може бути дуже корисним у різних областях, включаючи виявлення раку та пухлин, прогнози здоров’я за допомогою сигналів ЕКГ та ЕЕГ, а також емоційний інтелект. Використання TinyML може дозволити адаптивній глибокій стимуляції мозку (аDBS) успішно адаптуватися до клінічних адаптацій. Використання TinyML також може дозволити аDBS виявляти біомаркери захворювання та їхні симптоми за допомогою інвазивних записів сигналів мозку.

Крім того, галузь охорони здоров’я часто включає збір великої кількості даних про пацієнта, а потім ці дані потрібно обробляти для досягнення конкретних рішень для лікування пацієнта на ранніх стадіях захворювання. Як наслідок, необхідно створити систему, яка не тільки високо ефективна, але й високо безпечна. Коли ми поєднуємо застосування IoT з моделлю TinyML, народжується нова галузь, відома як H-IoT (Інтернет речей у сфері охорони здоров’я), а основні застосування H-IoT включають діагностику, моніторинг, логістику, контроль розповсюдження та допоміжні системи. Якщо ми хочемо розробити пристрої, які здатні виявляти та аналізувати здоров’я пацієнта на відстані, необхідно розробити систему, яка має глобальну доступність та низьку затримку.

Самохідні автомобілі

Нарешті, TinyML може мати широке застосування в галузі самохідних автомобілів, оскільки ці автомобілі можуть використовуватися різними способами, включаючи відстежування людини, військові цілі та промислові застосування. Ці автомобілі мають основну вимогу —能够 ефективно виявляти об’єкти, коли об’єкт шукається.

На даний момент самохідні автомобілі та автономне водіння — це досить складне завдання, особливо при розробці мініатюрних або малих автомобілів. Останні розробки показали потенціал для покращення застосування автономного водіння для міні-автомобілів за допомогою архітектури CNN та розгортання моделі над GAP8 MCI.

Виклики

TinyML — це відносно нова концепція в галузі AI та ML, і незважаючи на прогрес, вона ще не така ефективна, як нам потрібно для масового розгортання на краєвих та IoT-пристроях.

Одна з найбільших проблем, з якою зараз зіткнулися пристрої TinyML, полягає в споживанні енергії цих пристроїв. Ідеально, вбудовані крайові та IoT-пристрої повинні мати термін служби батареї, який триває понад 10 років. Наприклад, у ідеальних умовах IoT-пристрій, який працює від батареї ємністю 2 А·год, повинен мати термін служби батареї понад 10 років, якщо споживання енергії пристрою становить близько 12 мкА. Однак у даних умовах IoT-архітектура з температурним сенсором, блоком MCU та модулем Wi-Fi має споживання струму близько 176,4 мА, а це означає, що батарея протримається лише близько 11 годин, замість необхідних 10 років.

Обмеження ресурсів

Для підтримання послідовності алгоритму необхідно підтримувати наявність потужності, а з огляду на поточну ситуацію, обмежена наявність потужності для пристроїв TinyML є критичною проблемою. Крім того, обмеження пам’яті також є суттєвою проблемою, оскільки розгортання моделей часто вимагає великої кількості пам’яті для ефективної та точної роботи.

Обмеження апаратного забезпечення

Обмеження апаратного забезпечення роблять розгортання алгоритмів TinyML на великомасштабному рівні складним через гетерогенність апаратних пристроїв. Є тисячі пристроїв, кожен з яких має свої апаратні характеристики та вимоги, а в результаті алгоритм TinyML зараз потрібно налаштовувати для кожного окремого пристрою, що робить масове розгортання великою проблемою.

Обмеження наборів даних

Одна з найбільших проблем моделей TinyML полягає в тому, що вони не підтримують існуючі набори даних. Це проблема для всіх краєвих пристроїв, оскільки вони збирають дані за допомогою зовнішніх сенсорів, а ці пристрої часто мають обмеження потужності та енергії. Тому існуючі набори даних не можуть бути використані для ефективного навчання моделей TinyML.

Фінальні думки

Розвиток технік машинного навчання викликав революцію та зміну перспективи в екосистемі IoT. Інтеграція моделей машинного навчання в пристрої IoT дозволить цим крайовим пристроям приймати розумні рішення самостійно без будь-якого зовнішнього людського втручання. Однак традиційно моделі машинного навчання часто мають високі вимоги до потужності, пам’яті та обчислювальної потужності, що робить їх непридатними для розгортання на крайових пристроях, які часто обмежені ресурсами.

Як наслідок, нова галузь у сфері AI була присвячена використанню машинного навчання для пристроїв IoT, і її назвали TinyML. TinyML — це фреймворк машинного навчання, який дозволяє навіть ресурсно-обмеженим пристроям використовувати силу AI та машинного навчання для забезпечення вищої точності, інтелектуальності та ефективності.

У цій статті ми говорили про реалізацію моделей TinyML на ресурсно-обмежених пристроях IoT, а ця реалізація вимагає навчання моделей, розгортання моделей на апаратному забезпеченні та виконання технік квантизації. Однак з огляду на поточний масштаб, моделі машинного навчання, готові до розгортання на пристроях IoT та краєвих пристроях, мають кілька складностей та обмежень, включаючи апаратні та фреймворкові питання сумісності.