TinyML: програми, обмеження та його використання в пристроях IoT і Edge

За останні кілька років штучний інтелект (AI) і машинне навчання (ML) стали свідками стрімкого зростання популярності та застосувань не лише в промисловості, але й у наукових колах. Проте сучасні моделі машинного навчання та штучного інтелекту мають одне серйозне обмеження: вони вимагають величезної кількості обчислювальних і процесорних потужностей для досягнення бажаних результатів і точності. Це часто обмежує їх використання високопродуктивними пристроями зі значною обчислювальною потужністю.

Але враховуючи прогрес, досягнутий у технології вбудованих систем, і значний розвиток індустрії Інтернету речей, бажано включити використання методів і концепцій машинного навчання у вбудовану систему з обмеженими ресурсами для повсюдного інтелекту. Бажання використовувати концепції ML у вбудованих системах і системах Інтернету речей є основним мотивуючим фактором розробки TinyML, вбудованої техніки ML, яка дозволяє використовувати моделі та додатки ML на кількох дешевих пристроях з обмеженими ресурсами, потужністю. 

Однак реалізація ML на пристроях з обмеженими ресурсами була не простою, оскільки впровадження моделей ML на пристроях з низькою обчислювальною потужністю представляє свої проблеми з точки зору оптимізації, потужності обробки, надійності, підтримки моделей і багато іншого. 

У цій статті ми глибше зануримося в модель TinyML і дізнаємося більше про її передумови, інструменти, що підтримують TinyML, і програми TinyML з використанням передових технологій. Тож почнемо. 

Вступ до TinyML: навіщо світу потрібен TinyML

Пристрої Інтернету речей або IoT мають на меті використовувати периферійні обчислення, обчислювальну парадигму, яка відноситься до ряду пристроїв і мереж поблизу користувача, щоб забезпечити безперебійну обробку даних у реальному часі від мільйонів датчиків і пристроїв, пов’язаних між собою. Одна з головних переваг пристроїв IoT полягає в тому, що вони вимагають низьку обчислювальну та обчислювальну потужність, оскільки їх можна розгортати на межі мережі, а отже, вони мають низький слід пам’яті. 

Крім того, пристрої IoT значною мірою покладаються на периферійні платформи для збору та подальшої передачі даних, оскільки ці крайові пристрої збирають сенсорні дані, а потім передають їх у сусіднє розташування або хмарні платформи для обробки. Технологія периферійних обчислень зберігає та виконує обчислення з даними, а також забезпечує необхідну інфраструктуру для підтримки розподілених обчислень. 

Впровадження периферійних обчислень у пристроях IoT забезпечує

1. Ефективна безпека, конфіденційність і надійність для кінцевих користувачів. 
2. Нижня затримка. 
3. Вища доступність і швидкість реагування на програми та служби. 

Крім того, оскільки периферійні пристрої можуть розгортати технологію спільної роботи між датчиками та хмарою, обробка даних може проводитися на межі мережі, а не на хмарній платформі. Це може призвести до ефективного керування даними, збереження даних, ефективної доставки та кешування вмісту. Крім того, впровадження IoT у програмах, які мають справу з H2M або взаємодією людини з машиною, і сучасні периферійні обчислення в охороні здоров’я забезпечують спосіб значно покращити мережеві послуги. 

Нещодавні дослідження в області периферійних обчислень IoT продемонстрували потенціал для впровадження методів машинного навчання в кількох випадках використання IoT. Однак головна проблема полягає в тому, що традиційні моделі машинного навчання часто вимагають потужних обчислювальних і процесорних можливостей, а також великого обсягу пам’яті, що обмежує впровадження моделей ML в пристроях і програмах IoT. 

Крім того, сучасній технології периферійних обчислень бракує високої пропускної здатності та ефективного енергозбереження, що призводить до гетерогенних систем, що є основною причиною вимоги до гармонійної та цілісної інфраструктури, головним чином для оновлення, навчання та розгортання моделей ML. Архітектура, розроблена для вбудованих пристроїв, створює ще одну проблему, оскільки ці архітектури залежать від апаратних і програмних вимог, які відрізняються від пристрою до пристрою. Це головна причина, чому важко побудувати стандартну архітектуру ML для мереж IoT. 

Крім того, у поточному сценарії дані, згенеровані різними пристроями, надсилаються на хмарні платформи для обробки через обчислювальну інтенсивність мережевих реалізацій. Крім того, для обробки даних моделі ML часто залежать від глибокого навчання, глибоких нейронних мереж, інтегрованих схем для спеціальних програм (ASIC) і графічних процесорів (GPU), і вони часто потребують більшої потужності та пам’яті. Розгортання повноцінних моделей ML на пристроях IoT не є життєздатним рішенням через очевидну нестачу обчислювальних і процесорних можливостей, а також обмежені рішення для зберігання. 

Попит на мініатюризацію вбудованих пристроїв з низьким енергоспоживанням у поєднанні з оптимізацією моделей ML, щоб зробити їх енергоефективнішими та ефективнішими з використанням пам’яті, проклав шлях для TinyML, який спрямований на впровадження моделей і методів ML на периферійних пристроях і фреймворку IoT. TinyML забезпечує обробку сигналів на пристроях IoT і забезпечує вбудований інтелект, таким чином усуваючи необхідність передачі даних на хмарні платформи для обробки. Успішне впровадження TinyML на пристроях Інтернету речей може зрештою призвести до підвищення конфіденційності та ефективності при зниженні операційних витрат. Крім того, що робить TinyML більш привабливим, так це те, що в разі неналежного підключення він може забезпечити локальну аналітику. 

TinyML: вступ і огляд

TinyML — це інструмент машинного навчання, який має можливість виконувати аналітику на пристрої для різних способів сприйняття, таких як звук, зір і мова. Моделі Ml, створені на основі інструменту TinyML, мають низькі вимоги до енергоспоживання, пам’яті та обчислень, що робить їх придатними для вбудованих мереж і пристроїв, які працюють від батареї. Крім того, низькі вимоги до TinyML роблять його ідеальним для розгортання моделей ML на основі IoT.

У поточному сценарії хмарні системи ML стикаються з кількома труднощами, зокрема проблемами безпеки та конфіденційності, високим енергоспоживанням, надійністю та проблемами затримки, тому моделі на апаратно-програмних платформах попередньо встановлені. Датчики збирають дані, які імітують фізичний світ, а потім обробляються за допомогою ЦП або MPU (мікропроцесор). MPU задовольняє потреби в аналітичній підтримці ML, що забезпечується мережами та архітектурою ML з урахуванням меж. Архітектура Edge ML взаємодіє з хмарою ML для передачі даних, а впровадження TinyML може призвести до значного прогресу технології. 

Можна з упевненістю сказати, що TinyML — це об’єднання програмного забезпечення, апаратного забезпечення та алгоритмів, які працюють синхронно один з одним, щоб забезпечити бажану продуктивність. Аналогові обчислення або обчислення пам’яті можуть знадобитися, щоб забезпечити кращий і ефективний досвід навчання для обладнання та пристроїв Інтернету речей, які не підтримують апаратні прискорювачі. Що стосується програмного забезпечення, програми, створені за допомогою TinyML, можна розгортати та впроваджувати на таких платформах, як Linux або вбудований Linux, а також на хмарному програмному забезпеченні. Нарешті, програми та системи, створені на основі алгоритму TinyML, повинні мати підтримку нових алгоритмів, які потребують моделей з малим розміром пам’яті, щоб уникнути великого споживання пам’яті. 

Підводячи підсумок, додатки, створені за допомогою інструменту TinyML, повинні оптимізувати принципи та методи ML разом із компактним проектуванням програмного забезпечення за наявності високоякісних даних. Потім ці дані мають бути прошити через двійкові файли, створені за допомогою моделей, навчених на машинах з набагато більшою ємністю та обчислювальною потужністю. 

Крім того, системи та додатки, що працюють на інструменті TinyML, повинні забезпечувати високу точність під час роботи за жорсткіших обмежень, оскільки для невеликого енергоспоживання потрібне компактне програмне забезпечення, яке підтримує наслідки TinyML. Крім того, програми або модулі TinyML можуть залежати від заряду батареї для підтримки своїх операцій у периферійних вбудованих системах. 

Зважаючи на це, програми TinyML мають дві основні вимоги

1. Можливість масштабування мільярдів дешевих вбудованих систем. 
2. Зберігання коду в оперативній пам’яті пристрою ємністю менше кількох КБ. 

Застосування TinyML з використанням передових технологій

Однією з головних причин, чому TinyML є гарячою темою в індустрії штучного інтелекту та машинного навчання, є його потенційні застосування, включаючи програми на основі зору та мовлення, діагностику стану здоров’я, стиснення та класифікацію шаблонів даних, інтерфейс керування мозком, периферійні обчислення, феноміку, самообслуговування. -водіння автомобілів та інше. 

Програми на основі мовлення

Мовні комунікації

Як правило, мовні програми покладаються на звичайні методи зв’язку, у яких усі дані є важливими, і вони передаються. Проте в останні роки семантична комунікація з’явилася як альтернатива звичайній комунікації, оскільки в семантичній комунікації передається лише значення або контекст даних. Семантична комунікація може бути реалізована в додатках на основі мовлення за допомогою методології TinyML. 

Одними з найпопулярніших програм у галузі мовних комунікацій сьогодні є виявлення мовлення, розпізнавання мовлення, онлайн-навчання, онлайн-навчання та цілеспрямоване спілкування. Ці програми зазвичай потребують більше енергії, а також мають високі вимоги до даних на головному пристрої. Щоб подолати ці вимоги, була представлена ​​нова бібліотека TinySpeech, яка дозволяє розробникам створювати архітектуру з низьким обчислювальним ресурсом, яка використовує глибокі згорткові мережі для створення об’єкта зберігання з малим об’ємом. 

Щоб використовувати TinyML для покращення мовлення, розробники спочатку розглянули розмір моделі покращення мовлення, оскільки вона підлягала апаратним обмеженням. Щоб вирішити цю проблему, було застосовано структуроване скорочення та цілочисельне квантування для моделі вдосконалення мовлення RNN або рекурентних нейронних мереж. Результати свідчать про зменшення розміру моделі майже в 12 разів, а кількість операцій – майже в 3 рази. Крім того, життєво важливо, щоб ресурси використовувалися ефективно, особливо коли вони розгортаються в програмах з обмеженими ресурсами, які виконують програми розпізнавання голосу. 

У результаті для розділення процесу було запропоновано метод спільного проектування для програм на основі голосу та розпізнавання мовлення на основі TinyML. Розробники використовували операцію вікон для розділення програмного та апаратного забезпечення таким чином, щоб попередньо опрацювати необроблені голосові дані. Здавалося, що метод спрацював, оскільки результати показали зниження енергоспоживання на апаратному забезпеченні. Нарешті, існує також потенціал для реалізації оптимізованого розподілу між спільним проектуванням програмного та апаратного забезпечення для кращої продуктивності в найближчому майбутньому. 

Крім того, нещодавні дослідження запропонували використання перетворювача на основі телефону для систем розпізнавання мовлення, і ця пропозиція спрямована на заміну предикторів LSTM на рівень Conv1D, щоб зменшити потреби в обчисленнях на периферійних пристроях. Після впровадження ця пропозиція дала позитивні результати, оскільки SVD або розкладання сингулярного значення успішно стиснули модель, тоді як використання декодування на основі WFST або Weighted Finite State Transducers призвело до більшої гнучкості у зміщенні покращення моделі. 

Багато відомих програм розпізнавання мовлення, як-от віртуальні чи голосові помічники, живі субтитри та голосові команди, використовують для роботи методи ML. Наразі такі популярні голосові помічники, як Siri та Google Assistant, перевіряють хмарну платформу щоразу, коли вони отримують якісь дані, і це створює значні проблеми щодо конфіденційності та безпеки даних. TinyML є життєздатним рішенням проблеми, оскільки він спрямований на розпізнавання мовлення на пристроях і усуває необхідність переміщення даних на хмарні платформи. Одним із способів досягти розпізнавання мовлення на пристрої є використання Tiny Transducer, моделі розпізнавання мовлення, яка використовує DFSMN або рівень Deep Feed-Forward Sequential Memory Block у поєднанні з одним рівнем Conv1D замість рівнів LSTM, щоб знизити вимоги до обчислень. і параметри мережі. 

Слухові апарати

Втрата слуху є серйозною проблемою для здоров’я в усьому світі, і здатність людини чути звуки зазвичай слабшає з віком, і це є основною проблемою в країнах, які мають справу зі старінням населення, включаючи Китай, Японію та Південну Корею. Слухові апарати зараз працюють за простим принципом посилення всіх вхідних звуків з навколишнього середовища, що ускладнює для людини розрізнення бажаного звуку, особливо в шумному середовищі. 

TinyML може бути ефективним рішенням цієї проблеми, оскільки використання моделі TinyLSTM, яка використовує алгоритм розпізнавання мовлення для пристроїв слухових апаратів, може допомогти користувачам розрізняти різні звуки. 

Програми на основі зору

TinyML має потенціал відігравати вирішальну роль у обробці комп'ютерне бачення на основі наборів даних, тому що для швидшого виходу ці набори даних потрібно обробляти на самій периферійній платформі. Щоб досягти цього, модель TinyML стикається з практичними проблемами, з якими стикається під час навчання моделі за допомогою плати мікроконтролера OpenMV H7. Розробники також запропонували архітектуру для виявлення американської жестової мови за допомогою мікроконтролера ARM Cortex M7, який працює лише з 496 Кбайт кадрової буферної пам’яті. 

Впровадження TinyML для додатків на основі комп’ютерного зору на периферійних платформах вимагало від розробників подолання основної проблеми CNN або згорткових нейронних мереж із високою помилкою узагальнення та високою точністю навчання та тестування. Однак реалізація не була ефективною для зображень у нових варіантах використання, а також фонів із шумом. Коли розробники використовували метод збільшення інтерполяції, модель показала точність понад 98% для тестових даних і близько 75% для узагальнення. 

Крім того, було помічено, що коли розробники використовували метод посилення інтерполяції, спостерігалося падіння точності моделі під час квантування, але в той же час спостерігалося підвищення швидкості висновку моделі та узагальнення класифікації. Розробники також запропонували метод для подальшого підвищення точності навчання моделі узагальнення на даних, отриманих із різних джерел, і тестування продуктивності, щоб дослідити можливість розгортання його на периферійних платформах, таких як портативні розумні годинники. 

Крім того, додаткові дослідження щодо CNN зазначив, що її можна розгорнути та досягти бажаних результатів за допомогою архітектури CNN на пристроях з обмеженими ресурсами. Нещодавно розробники змогли розробити структуру для виявлення медичних масок на мікроконтролері ARM Cortex M7 з обмеженими ресурсами за допомогою TensorFlow lite з мінімальним відбитком пам’яті. Розмір моделі після квантування становив близько 138 КБ, тоді як швидкість перешкод на цільовій платі становила близько 30 кадрів в секунду. 

Іншим застосуванням TinyML для додатків на основі комп’ютерного зору є впровадження пристрою розпізнавання жестів, який можна закріпити на тростині, щоб допомогти людям із вадами зору легко орієнтуватися в повсякденному житті. Для його розробки розробники використовували набір даних жестів і використовували набір даних для навчання моделі ProtoNN за допомогою алгоритму класифікації. Результати, отримані під час установки, були точними, дизайн був недорогим і забезпечив задовільні результати. 

Ще одне важливе застосування TinyML – це індустрія безпілотних та автономних транспортних засобів через брак ресурсів і бортових обчислювальних потужностей. Щоб вирішити цю проблему, розробники запровадили метод навчання із замкнутим циклом, побудований на моделі TinyCNN, яка запропонувала онлайн-модель прогнозування, яка фіксує зображення під час виконання. Основна проблема, з якою зіткнулися розробники під час впровадження TinyML для автономного водіння, полягала в тому, що модель прийняття рішень, яка була навчена працювати з даними в режимі офлайн, може не працювати однаково добре при роботі з даними в Інтернеті. Щоб повністю розширити застосування автономних автомобілів і самокерованих автомобілів, в ідеалі модель повинна мати можливість адаптуватися до даних у реальному часі. 

Класифікація та стиснення шаблонів даних

Одна з найбільших проблем поточної системи TinyML полягає в тому, щоб полегшити її адаптацію до онлайн-навчальних даних. Щоб вирішити цю проблему, розробники запропонували метод, відомий як TinyOL або TinyML Online Learning, щоб дозволити навчання з поступовим онлайн-навчанням на мікроконтролерах, що дозволяє оновлювати модель на периферійних пристроях IoT. Реалізацію було досягнуто за допомогою мови програмування C++, а до архітектури TinyOL додано додатковий рівень. 

Крім того, розробники також виконали автоматичне кодування сенсорної плати Arduino Nano 33 BLE, і навчена модель змогла класифікувати нові шаблони даних. Крім того, розробка включала розробку ефективних і більш оптимізованих алгоритмів для нейронних мереж для підтримки шаблонів навчання пристроїв онлайн. 

Дослідження в TinyOL і TinyML показали, що кількість рівнів активації була основною проблемою для периферійних пристроїв IoT, які мають обмежені ресурси. Щоб вирішити цю проблему, розробники представили нову модель TinyTL або Tiny Transfer Learning, щоб зробити використання пам’яті на межових пристроях IoT набагато ефективнішим і уникнути використання проміжних рівнів для цілей активації. Крім того, розробники також представили повністю новий модуль зміщення, відомий як «lite-residual модуль”, щоб максимізувати можливості адаптації, і, звичайно, дозволяючи екстракторам функцій виявляти карти залишкових функцій. 

У порівнянні з повним тонким налаштуванням мережі результати були на користь архітектури TinyTL, оскільки результати показали, що TinyTL зменшує витрати пам’яті приблизно в 6.5 разів із помірною втратою точності. Після точного налаштування останнього шару TinyML підвищив точність на 34% із помірною втратою точності. 

Крім того, дослідження стиснення даних показали це алгоритми стиснення даних необхідно керувати зібраними даними на портативному пристрої, і для досягнення цього розробники запропонували TAC або Tiny Anomaly Compressor. TAC зміг перевершити SDT або Swing Door Trending, а також DCT або алгоритми дискретного косинусного перетворення. Крім того, алгоритм TAC перевершив як алгоритми SDT, так і DCT, досягнувши максимального рівня стиснення понад 98% і маючи найкраще пікове співвідношення сигнал/шум серед трьох алгоритмів. 

Діагностика здоров'я

Глобальна пандемія Covid-19 відкрила нові можливості для впровадження TinyML, оскільки тепер це важлива практика постійного виявлення респіраторних симптомів, пов’язаних із кашлем і застудою. Щоб забезпечити безперебійний моніторинг, розробники запропонували модель CNN Tiny RespNet, яка працює в налаштуваннях кількох моделей, і модель розгортається на Xilinx Artix-7 100t FPGA, що дозволяє пристрою обробляти інформацію паралельно, має високу ефективність, і низьке енергоспоживання. Крім того, модель TinyResp також використовує мову пацієнтів, аудіозаписи та демографічну інформацію як вхідні дані для класифікації, а пов’язані з кашлем симптоми пацієнта класифікуються за допомогою трьох окремих наборів даних. 

Крім того, розробники також запропонували модель TinyML під назвою TinyDL, здатну виконувати обчислення глибокого навчання на крайніх пристроях. Модель TinyDL можна розгорнути на периферійних пристроях, таких як розумні годинники та переносні пристрої для діагностики стану здоров’я, а також вона здатна проводити аналіз продуктивності для зменшення пропускної здатності, затримки та споживання енергії. Щоб досягти розгортання TinyDL на портативних пристроях, модель LSTM була розроблена та навчена спеціально для переносних пристроїв, і в якості вхідних даних вона отримувала зібрані дані. Модель має показник точності приблизно від 75 до 80%, і вона також могла працювати з даними поза пристроєм. Ці моделі, що працюють на периферійних пристроях, продемонстрували потенціал вирішення поточних проблем, з якими стикаються пристрої IoT. 

Нарешті, розробники також запропонували іншу програму для моніторингу здоров’я людей похилого віку шляхом оцінки та аналізу пози їхнього тіла. Модель використовує агностичну структуру на пристрої, яка дозволяє моделі вмикати перевірку та швидке сприяння для виконання адаптацій. Модель реалізувала алгоритми визначення пози тіла в поєднанні з орієнтирами на обличчі для визначення просторово-часових пози тіла в реальному часі. 

Edge Computing

Одним із основних застосувань TinyML є сфера периферійних обчислень, оскільки зі збільшенням використання пристроїв Інтернету речей для підключення пристроїв у всьому світі важливо налаштувати крайні пристрої, оскільки це допоможе зменшити навантаження на хмарні архітектури. . Ці периферійні пристрої матимуть окремі центри обробки даних, які дозволять їм виконувати обчислення високого рівня на самому пристрої, а не покладатися на хмарну архітектуру. Як результат, це допоможе зменшити залежність від хмари, зменшити затримку, підвищити безпеку та конфіденційність користувачів, а також зменшити пропускну здатність. 

Пристрої Edge, які використовують алгоритми TinyML, допоможуть усунути поточні обмеження, пов’язані з вимогами до потужності, обчислення та пам’яті, і це обговорюється на зображенні нижче. 

Крім того, TinyML також може покращити використання та застосування безпілотних літальних апаратів або БПЛА, усуваючи поточні обмеження, з якими стикаються ці машини. Використання TinyML може дозволити розробникам реалізувати енергоефективний пристрій із низькою затримкою та високою обчислювальною потужністю, який може виконувати роль контролера для цих БПЛА. 

Інтерфейс мозок-комп'ютер або BCI

TinyML має значне застосування в галузі охорони здоров’я та може виявитися дуже корисним у різних сферах, включаючи виявлення раку та пухлин, прогнозування здоров’я за допомогою сигналів ЕКГ та ЕЕГ та емоційний інтелект. Використання TinyML може дозволити адаптивній глибокій стимуляції мозку або aDBS успішно адаптуватися до клінічних адаптацій. Використання TinyMl також може дозволити aDBS ідентифікувати пов’язані з хворобою біомітки та їхні симптоми за допомогою інвазивних записів сигналів мозку. 

Крім того, індустрія охорони здоров’я часто включає збір великої кількості даних про пацієнта, і ці дані потім потрібно обробити, щоб знайти конкретні рішення для лікування пацієнта на ранніх стадіях хвороби. Тому життєво важливо побудувати систему, яка є не тільки високоефективною, але й дуже безпечною. Коли ми об’єднуємо додаток IoT із моделлю TinyML, народжується нова галузь під назвою H-IoT або Інтернет речей у сфері охорони здоров’я, а основними застосуваннями H-IoT є діагностика, моніторинг, логістика, контроль поширення та допоміжні системи. Якщо ми хочемо розробити пристрої, здатні дистанційно виявляти та аналізувати стан здоров’я пацієнта, важливо розробити систему, яка має глобальну доступність і низьку затримку. 

Автономні транспортні засоби

Нарешті, TinyML може мати широке застосування в галузі автономних транспортних засобів, оскільки ці транспортні засоби можна використовувати різними способами, включаючи відстеження людей, військові цілі та промислове застосування. Ці транспортні засоби мають першочергову вимогу щодо здатності ефективно ідентифікувати об’єкти під час обшуку. 

На даний момент автономні транспортні засоби та автономне водіння є досить складним завданням, особливо при розробці міні-транспортних засобів або транспортних засобів малого розміру. Останні розробки продемонстрували потенціал для покращення застосування автономного водіння для міні-транспортних засобів за допомогою використання архітектури CNN і розгортання моделі на GAP8 MCI. 

Виклики

TinyML — це відносно нова концепція в індустрії штучного інтелекту та машинного навчання, і, незважаючи на прогрес, вона все ще не така ефективна, як нам потрібно для масового розгортання на периферійних і IoT-пристроях. 

Найбільшою проблемою, з якою зараз стикаються пристрої TinyML, є енергоспоживання цих пристроїв. В ідеалі очікується, що термін служби батареї вбудованих периферійних пристроїв і пристроїв Інтернету речей перевищує 10 років. Наприклад, в ідеальних умовах пристрій IoT, що працює від батареї ємністю 2 Ач, має працювати понад 10 років, враховуючи, що споживана потужність пристрою становить близько 12 ua. Однак у даному стані, архітектурі IoT з датчиком температури, блоком MCU та модулем WiFi, споживання струму становить близько 176.4 мА, і з таким споживанням енергії батареї вистачить лише на 11 годин. із необхідних 10 років автономної роботи. 

Обмеження ресурсів

Щоб підтримувати узгодженість алгоритму, життєво важливо підтримувати доступність живлення, і, враховуючи поточний сценарій, обмежена доступність живлення для пристроїв TinyML є критичною проблемою. Крім того, обмеження пам’яті також є серйозною проблемою, оскільки розгортання моделей часто вимагає великого обсягу пам’яті для ефективної та точної роботи. 

Апаратні обмеження

Апаратні обмеження ускладнюють розгортання алгоритмів TinyML у широкому масштабі через неоднорідність апаратних пристроїв. Існують тисячі пристроїв, кожен зі своїми специфікаціями та вимогами до апаратного забезпечення, і, як наслідок, алгоритм TinyML наразі потрібно налаштовувати для кожного окремого пристрою, що робить масове розгортання серйозною проблемою. 

Обмеження набору даних

Однією з основних проблем моделей TinyML є те, що вони не підтримують існуючі набори даних. Це проблема для всіх периферійних пристроїв, оскільки вони збирають дані за допомогою зовнішніх датчиків, і ці пристрої часто мають обмеження живлення та енергії. Тому існуючі набори даних не можна використовувати для ефективного навчання моделей TinyML. 

Заключні думки

Розвиток методів машинного навчання спричинив революцію та зміну поглядів на екосистему IoT. Інтеграція моделей ML в пристрої IoT дозволить цим периферійним пристроям самостійно приймати інтелектуальні рішення без стороннього втручання людини. Однак традиційно моделі ML часто мають високі вимоги до потужності, пам’яті та обчислень, що робить їх уніфікованими для розгортання на периферійних пристроях, які часто мають обмежені ресурси. 

Як наслідок, нова гілка в ШІ була присвячена використанню ML для пристроїв IoT і була названа TinyML. TinyML — це платформа ML, яка дозволяє навіть пристроям з обмеженими ресурсами використовувати потужність AI & ML для забезпечення вищої точності, інтелекту та ефективності. 

У цій статті ми говорили про впровадження моделей TinyML на пристроях IoT з обмеженими ресурсами, і ця реалізація вимагає навчання моделей, розгортання моделей на апаратному забезпеченні та виконання методів квантування. Однак, враховуючи поточний обсяг, моделі ML, готові до розгортання на IoT і периферійних пристроях, мають кілька складнощів і обмежень, включаючи апаратне забезпечення та проблеми з сумісністю фреймворку.