TinyML: تطبيقات وقيود واستخدامه في أجهزة IoT و Edge

في السنوات القليلة الماضية ، شهدت الذكاء الاصطناعي (AI) و تعلم الآلة (ML) نهضة كبيرة في الشعبية والتطبيقات ، ليس فقط في الصناعة ولكن أيضًا في الأكاديمية. ومع ذلك ، فإن نماذج ML و AI الحالية لها 한 制約 الرئيسي: أنها تتطلب كمية هائلة من الحوسبة وال_processing للوصول إلى النتائج المرغوبة والدقة. هذا يعني أن استخدامها يعتمد على أجهزة ذات قدرات حوسبية كبيرة.

لكن مع التقدم المحرز في تقنية الأنظمة المضمنة ، والتنمية الكبيرة في صناعة إنترنت الأشياء ، فمن المرغوب فيه دمج استخدام تقنيات ML في نظام مضمن مقيد الموارد لتحقيق الذكاء الشامل. الرغبة في استخدام مفاهيم ML في أنظمة IoT و المضمنة هي العامل الرئيسي وراء تطوير TinyML ، وهو تقنية ML مضمنة يسمح بنماذج و تطبيقات ML على أجهزة متعددة مقيدة الموارد و القدرة و الرخيصة.

然而 ، فإن تنفيذ ML على أجهزة مقيدة الموارد لم يكن بسيطًا لأن تنفيذ نماذج ML على أجهزة ذات قدرة حوسبية منخفضة يعرض تحديات فيما يتعلق بالتحسين ، وقدرة المعالجة ، وموثوقية ، و صيانة النماذج ، وغيرها الكثير.

في هذه المقالة ، سنقوم بالغوص في نموذج TinyML ، وستتعلم المزيد حول خلفيته ، والأدوات التي تدعم TinyML ، وتطبيقات TinyML باستخدام تقنيات متقدمة. لذا دعونا نبدأ.

مقدمة في TinyML: لماذا يحتاج العالم إلى TinyML

أجهزة إنترنت الأشياء أو IoT تهدف إلى الاستفادة من الحوسبة الحرفية ، وهو نمط حوسبي يعتمد على مجموعة من الأجهزة و الشبكات بالقرب من المستخدم لتمكين المعالجة السلسة و الفورية للبيانات من ملايين المستشعرات و الأجهزة المتصلة ببعضها البعض. أحد المزايا الرئيسية لأجهزة IoT هي أنها تتطلب قدرة حوسبية و معالجة منخفضة لأنها قابلة للنشر على حافة الشبكة ، وبالتالي فهي لها بصمة ذاكرة منخفضة.

علاوة على ذلك ، تعتمد أجهزة IoT بشكل كبير على منصات الحافة لجمع و نقل البيانات لأن أجهزة الحافة تجمع البيانات الحسية و تنقلها إلى موقع قريب أو منصات السحابية للمعالجة. تقنية الحوسبة الحرفية تخزين و تنفيذ الحوسبة على البيانات ، و توفر البنية التحتية اللازمة لدعم الحوسبة الموزعة.

تنفيذ الحوسبة الحرفية في أجهزة IoT يوفر

1. أمانًا فعالًا و خصوصية و موثوقية للمستخدمين النهائيين.
2. تأخيرًا منخفضًا.
3. توافرًا أعلى و استجابة أسرع للتطبيقات و الخدمات.

علاوة على ذلك ، لأن أجهزة الحافة يمكنها تنفيذ تقنية تعاونية بين المستشعرات و السحاب ، يمكن أن تتم معالجة البيانات على حافة الشبكة بدلاً من تنفيذها على منصات السحاب. هذا يمكن أن يؤدي إلى إدارة بيانات فعالة و استمرار البيانات و تسليمها الفعال و ذخيرة المحتوى. بالإضافة إلى ذلك ، لتنفيذ IoT في التطبيقات التي تتعامل مع التفاعل بين الإنسان و الآلة و الرعاية الصحية الحديثة ، توفر الحوسبة الحرفية وسيلة لتحسين خدمات الشبكة بشكل كبير.

أظهرت الأبحاث الحديثة في مجال حوسبة الحافة في IoT إمكانية تنفيذ تقنيات ML في العديد من حالات استخدام IoT. ومع ذلك ، فإن المشكلة الرئيسية هي أن نماذج ML التقليدية تتطلب عادةً قدرة حوسبية و معالجة قوية و سعة ذاكرة عالية ت限制 تنفيذ نماذج ML في أجهزة IoT و التطبيقات.

علاوة على ذلك ، فإن تقنية الحوسبة الحرفية اليوم تفتقر إلى القدرة على النقل و التوفير الفعال للطاقة مما يؤدي إلى أنظمة متغايرة و هو السبب الرئيسي وراء الحاجة إلى بنية تحتية متناسقة و شاملة بشكل رئيسي لتحديث و تدريب و نشر نماذج ML. يعتمد تصميم الأجهزة المضمنة على متطلبات الأجهزة و البرمجيات التي تختلف من جهاز إلى آخر. إنه السبب الرئيسي وراء صعوبة بناء هيكل ML قياسي لشبكات IoT.

أيضًا ، في السيناريو الحالي ، يتم إرسال البيانات التي يتم إنشاؤها بواسطة الأجهزة المختلفة إلى منصات السحابية للمعالجة بسبب الطبيعة الحوسبية المكثفة لتنفيذ الشبكة. بالإضافة إلى ذلك ، غالبًا ما تعتمد نماذج ML على التعلم العميق و الشبكات العصبية العميقة و الدوائر المتكاملة المخصصة و وحدات معالجة الرسومات لprocessing البيانات ، و غالبًا ما يكون لديها متطلبات طاقة و ذاكرة أعلى. نشر نماذج ML الكاملة على أجهزة IoT ليس حلًا عمليًا بسبب نقص واضح في القدرة الحوسبية و المعالجة و حلول التخزين المحدودة.

الطلب لتقليص الأجهزة المضمنة منخفضة الطاقة مع تحسين نماذج ML لجعلها أكثر كفاءة في الطاقة و الذاكرة قد مهد الطريق ل TinyML التي تهدف إلى تنفيذ نماذج و ممارسات ML على أجهزة IoT و الإطار. TinyML يسمح بمعالجة الإشارات على أجهزة IoT و يوفر ذكاء مضمن ، وبالتالي يلغي الحاجة إلى نقل البيانات إلى منصات السحابية للمعالجة. يمكن أن يؤدي تنفيذ TinyML بنجاح على أجهزة IoT في النهاية إلى زيادة الخصوصية و الكفاءة مع تقليل التكاليف التشغيلية. بالإضافة إلى ذلك ، ما يجعل TinyML أكثر جاذبية هو أنه في حالة الاتصال غير الكافي ، يمكنه تقديم تحليلات على الموقع.

TinyML: مقدمة و نظرة عامة

TinyML هو أداة ML يمكنها تنفيذ تحليلات على الجهاز لعدة أنماط حسية مثل الصوت و الرؤية و الكلام. نماذج ML التي يتم بناؤها على أداة TinyML لها متطلبات طاقة و ذاكرة و حوسبية منخفضة مما يجعلها مناسبة للشبكات و الأجهزة المضمنة التي تعمل بالطاقة و التي تعمل على البطاريات.

في السيناريو الحالي ، تواجه أنظمة ML السحابية بعض الصعوبات ، بما في ذلك مشاكل الأمان و الخصوصية و استهلاك الطاقة و مشاكل التأخير ، و هو السبب في أن النماذج على منصات الأجهزة و البرمجيات تكون مسبقة التثبيت. المستشعرات تجمع البيانات التي تمثل العالم الحقيقي و يتم معالجتها باستخدام وحدة المعالجة المركزية أو MPU. MPU تخدم احتياجات دعم التحليلات ML التي يتم تمكينها بواسطة شبكات و هيكل ML على الحافة.

يمكن القول بأمان أن TinyML هو مزيج من البرمجيات و الأجهزة و الخوارزميات التي تعمل في تناغم لتقديم الأداء المطلوب. قد تكون الحوسبة التناظرية أو الحوسبة الذاكرة مطلوبة لتوفير تجربة تعلم أفضل لأجهزة الأجهزة و IoT التي لا تدعم معززات الأجهزة.

لتلخيص الأمور ، يجب أن تكون التطبيقات التي يتم بناؤها باستخدام أداة TinyML تحسين مبادئ و أساليب ML جنبًا إلى جنب مع تصميم البرمجيات بشكل مضغوط ، في وجود بيانات عالية الجودة. ثم يجب أن يتم تمرير هذه البيانات عبر ملفات ثنائية تم إنشاؤها باستخدام نماذج تم تدريبها على أجهزة ذات قدرة و حوسبية أكبر.

علاوة على ذلك ، يجب أن توفر الأنظمة و التطبيقات التي تعمل على أداة TinyML دقة عالية عند أدائها تحت قيود أكثر صرامة لأن البرمجيات المضغوطة مطلوبة لاستهلاك طاقة منخفض يدعم آثار TinyML. بالإضافة إلى ذلك ، قد تعتمد وحدات أو تطبيقات TinyML على الطاقة البطارية لدعم عملياتها على أنظمة الحافة المضمنة.

مع ذلك ، توجد متطلبات أساسية لتطبيقات TinyML

1. القدرة على التوسع لمليارات من الأنظمة المضمنة الرخيصة.
2. تخزين الشفرة على ذاكرة الجهاز مع سعة تحت بضع كيلوبايت.

تطبيقات TinyML باستخدام تقنيات متقدمة

أحد الأسباب الرئيسية التي تجعل TinyML موضوعًا ساخنًا في صناعة AI و ML هو تطبيقاته المحتملة ، بما في ذلك التطبيقات القائمة على الرؤية و الكلام و الصحة و تصنيف و ضغط أنماط البيانات و واجهة الدماغ و الحوسبة الحرفية و فينوميكس و السيارات ذاتية القيادة و المزيد.

تطبيقات قائمة على الكلام

اتصالات الكلام

تعتمد التطبيقات القائمة على الكلام عادةً على أساليب الاتصال التقليدية التي يتم فيها نقل جميع البيانات و هي مهمة. ومع ذلك ، في السنوات الأخيرة ، ظهر الاتصال الدلالي كبديل للاتصال التقليدية حيث يتم نقل المعنى أو السياق فقط للبيانات. يمكن تنفيذ الاتصال الدلالي عبر تطبيقات الكلام باستخدام منهجيات TinyML.

من بين التطبيقات الأكثر شعبية في صناعة اتصالات الكلام اليوم هي اكتشاف الكلام و التعرف على الكلام و التعلم عبر الإنترنت و التدريس عبر الإنترنت و التواصل الموجه. هذه التطبيقات عادةً ما لها استهلاك طاقة أعلى و لها متطلبات بيانات أعلى على جهاز المضيف. للتغلب على هذه المتطلبات ، تم تقديم مكتبة TinySpeech الجديدة التي تسمح للمطورين ببناء هيكل حسابي منخفض يستخدم شبكات عصبية عميقة لإنشاء منشأة تخزين منخفضة.

لاستخدام TinyML لتحسين الكلام ، تعامل المطورون أولاً مع حجم نموذج تحسين الكلام لأنها كانت خاضعة للقيود و التحديات الأجهزة. للتغلب على القضية ، تم نشر تقليم منظم و كمية صغيرة للشبكات العصبية المتكررة لنموذج تحسين الكلام. وأشار النتائج إلى أن حجم النموذج قد تم تقليله بحوالي 12 مرة بينما تم تقليل العمليات بحوالي 3 مرات. بالإضافة إلى ذلك ، من المهم أن يتم استخدام الموارد بشكل فعال خاصة عند نشرها على تطبيقات مقيدة الموارد التي تنفذ تطبيقات التعرف على الصوت.

نتيجة لذلك ، لتقسيم العملية ، تم اقتراح طريقة تصميم مشترك لتنفيذ تطبيقات الكلام و التعرف على الصوت باستخدام TinyML. استخدم المطورون عملية التقطيع لتقسيم البرمجيات و الأجهزة بطريقة ما لمعالجة البيانات الصوتية الخام. وبدا أن الطريقة تعمل حيث أشار النتائج إلى انخفاض في استهلاك الطاقة على الأجهزة.

أخيرًا ، هناك إمكانية لتنفيذ تقسيم محسّن بين تصميم البرمجيات و الأجهزة لمزيد من الأداء في المستقبل.

سماعات الأذن

فقدان السمع هو مشكلة صحية رئيسية في جميع أنحاء العالم ، و يضعف khả năng البشر لسماع الأصوات بشكل عام مع تقدم العمر ، و هو مشكلة رئيسية في البلدان التي تتعامل مع السكان المسنين ، بما في ذلك الصين و اليابان و كوريا الجنوبية. تعمل أجهزة سماعات الأذن حاليًا على مبدأ بسيط وهو تعزيز جميع الأصوات المدخلة من البيئة المحيطة ، مما يجعل من الصعب على الشخص التمييز أو التفرقة بين الصوت المرغوب فيه خاصة في بيئة صاخبة.

يمكن أن يكون TinyML هو الحل العملي لهذه القضية لأن استخدام نموذج TinyLSTM الذي يستخدم خوارزمية التعرف على الكلام لسماعات الأذن يمكن أن يساعد المستخدمين على التمييز بين الأصوات المختلفة.

تطبيقات قائمة على الرؤية

يمكن أن تلعب TinyML دورًا حاسمًا في معالجة مجموعات بيانات الرؤية لأن هذه المجموعات تحتاج إلى معالجة على منصة الحافة نفسها من أجل الإخراج السريع. لتحقيق ذلك ، واجه نموذج TinyML التحديات العملية أثناء تدريب النموذج باستخدام لوحة التحكم OpenMV H7. كما اقترح المطورون هيكلاً لاكتشاف لغة الإشارة الأمريكية باستخدام وحدة المعالجة المركزية ARM Cortex M7 التي تعمل فقط مع 496KB من ذاكرة الإطار.

لتنفيذ TinyML لتطبيقات الرؤية على منصات الحافة ، كان على المطورين التغلب على التحدي الرئيسي لشبكات CNN و الخطأ العام العالي و الدقة العالية في التدريب و الاختبار. ومع ذلك ، لم يتم تعميم التنفيذ بشكل فعال على صور في حالات استخدام جديدة و خلفيات مع ضوضاء. عندما استخدم المطورون طريقة تعزيز الت插، أشار النموذج إلى درجة دقة تزيد عن 98% على بيانات الاختبار و حوالي 75% في التعميم.

علاوة على ذلك ، لوحظ أن عندما استخدم المطورون طريقة تعزيز الت插، هناك انخفاض في دقة النموذج أثناء الكمية ، ولكن في نفس الوقت ، كان هناك تحسن في سرعة الاستدلال و التعميم. كما اقترح المطورون طريقة لتحسين دقة نموذج التدريب على بيانات من مصادر مختلفة و اختبار الأداء لاستكشاف إمكانية النشر على منصات الحافة مثل الساعات الذكية المحمولة.

علاوة على ذلك ، أظهرت الدراسات الإضافية على CNN أنه من الممكن نشر و تحقيق نتائج مرغوبة مع هيكل CNN على أجهزة ذات موارد محدودة. مؤخرًا ، تمكن المطورون من تطوير إطار لاكتشاف أقنعة الوجه الطبية على وحدة المعالجة المركزية ARM Cortex M7 ذات الموارد المحدودة باستخدام TensorFlow Lite مع بصمة ذاكرة صغيرة. كان حجم النموذج بعد الكمية حوالي 138 KB بينما كان سرعته على اللوحة المستهدفة حوالي 30 إطارًا في الثانية.

تطبيق آخر ل TinyML لتطبيقات الرؤية هو تنفيذ جهاز التعرف على الإشارات الذي يمكن تثبيته على عكازة لمساعدة الأشخاص المعتمين على التنقل بسهولة خلال حياتهم اليومية. لتصميمه ، استخدم المطورون مجموعة بيانات الإشارات و استخدموا مجموعة البيانات لتدريب نموذج ProtoNN مع خوارزمية التصنيف. كانت النتائج التي تم الحصول عليها من الإعداد دقيقة و التصميم منخفض التكلفة و قدم نتائج مرضية.

تطبيق آخر مهم ل TinyML هو في صناعة السيارات ذاتية القيادة و المركبات ذاتية القيادة بسبب نقص الموارد و قدرة الحوسبة على متن الطائرة. للتغلب على القضية ، قدم المطورون طريقة تعلم مغلقة مبنية على نموذج TinyCNN الذي اقترح نموذج معالجة على الإنترنت يلتقط الصورة في وقت التشغيل. كان التحدي الرئيسي الذي واجهه المطورون عند تنفيذ TinyML للقيادة الذاتية هو أن نموذج القرار الذي تم تدريبه للعمل على بيانات غير متصلة قد لا يعمل بشكل جيد عند التعامل مع بيانات على الإنترنت. من أجل تعزيز تطبيقات السيارات ذاتية القيادة و السيارات ذاتية القيادة بشكل كامل ، يجب أن يكون النموذج قادرًا على التكيف مع البيانات في الوقت الفعلي.

تصنيف و ضغط أنماط البيانات

أحد أكبر تحديات إطار عمل TinyML الحالي هو تمكينه من التكيف مع بيانات التدريب على الإنترنت. للتغلب على القضية ، اقترح المطورون طريقة تسمى TinyOL أو TinyML التعلم على الإنترنت لتمكين التدريب بالتدريج على وحدات المعالجة الدقيقة وبالتالي تمكين تحديث النموذج على أجهزة حافة IoT. تم تحقيق التنفيذ باستخدام لغة البرمجة C++ و تم إضافة طبقة إضافية إلى هيكل TinyOL.

علاوة على ذلك ، قام المطورون بتنفيذ التشفير التلقائي للوحة Arduino Nano 33 BLE و كان النموذج المدرب قادرًا على تصنيف أنماط بيانات جديدة. كما شمل العمل التطوير تصميم خوارزميات أكثر كفاءة و تحسينًا للشبكات العصبية لدعم نمط التدريب على الأجهزة على الإنترنت.

أظهرت الأبحاث في TinyOL و TinyML أن عدد طبقات التنشيط كان مشكلة رئيسية لأجهزة حافة IoT ذات الموارد المحدودة. للتغلب على القضية ، قدم المطورون نموذج TinyTL أو TinyML النقل لجعل استخدام الذاكرة على أجهزة حافة IoT أكثر فعالية و تجنب استخدام الطبقات الوسيطة لأغراض التنشيط. كما قدم المطورون وحدة جديدة تسمى “وحدة 残差” لتعزيز قدرات التكيف و بالتالي تمكين مصفوفات الميزات لاكتشاف خرائط الميزات 残差.

عندما قورنت مع تحسين الشبكة الكاملة ، كانت النتائج لصالح هيكل TinyTL حيث أظهرت النتائج أن TinyTL يقلل من عبء الذاكرة بحوالي 6.5 مرات مع خسارة دقة معتدلة. عندما تم تحسين الطبقة الأخيرة ، تحسنت دقة TinyML بنسبة 34% مع خسارة دقة معتدلة.

علاوة على ذلك ، أظهرت الأبحاث في ضغط البيانات أن خوارزميات ضغط البيانات يجب أن تدير البيانات التي تم جمعها على جهاز محمول و لتحقيق ذلك ، اقترح المطورون TAC أو Tiny Anomaly Compressor. كان TAC قادرًا على تفوق خوارزميات SDT و DCT. بالإضافة إلى ذلك ، تفوق خوارزمية TAC على خوارزميات SDT و DCT بتحقيق معدل ضغط أقصى يزيد عن 98% و لديه أعلى نسبة إشارة إلى ضوضاء من بين الخوارزميات الثلاث.

تشخيص الصحة

أopened جائحة Covid-19 أبوابًا جديدة لفرص تنفيذ TinyML لأنها ممارسة أساسية لاكتشاف الأعراض التنفسية المتعلقة بالسعال و البرد. لضمان المراقبة المستمرة ، اقترح المطورون نموذج CNN يسمى Tiny RespNet يعمل على إعداد متعدد النماذج و يتم نشر النموذج على FPGA Xilinx Artix-7 100t الذي يسمح للجهاز بمعالجة المعلومات بالتوازي و لديه كفاءة عالية و استهلاك طاقة منخفض. بالإضافة إلى ذلك ، يأخذ نموذج TinyResp كمدخلات صوت المرضى و التسجيلات الصوتية و معلومات الديموغرافيا و يصنف أعراض السعال باستخدام ثلاث مجموعات بيانات متميزة.

علاوة على ذلك ، اقترح المطورون نموذجًا قادرًا على تشغيل حسابات التعلم العميق على أجهزة حافة و هو نموذج TinyML يسمى TinyDL. يمكن نشر نموذج TinyDL على أجهزة حافة مثل الساعات الذكية و الأجهزة القابلة للارتداء لتشخيص الصحة و هو أيضًا قادر على أداء تحليل الأداء لتقليل عرض النطاق الترددي و التأخير و استهلاك الطاقة. لتحقيق نشر نموذج TinyDL على أجهزة محمولة ، تم تصميم نموذج LSTM و تدريبه خصيصًا لأجهزة قابلة للارتداء و تم تغذيته ببيانات تم جمعها. كان نموذج دقيق بنسبة 75-80% و كان قادرًا على العمل مع بيانات غير متصلة.

أخيرًا ، اقترح المطورون تطبيقًا آخر لمراقبة صحة كبار السن عن طريق تقدير و تحليل أوضاع أجسادهم. يستخدم النموذج إطارًا غير متجاوز على الجهاز الذي يسمح للنموذج بتمكين التحقق و التكيف السريع لأداء التكيف.

الحوسبة الحرفية

أحد التطبيقات الرئيسية ل TinyML هو في مجال الحوسبة الحرفية حيث أنه مع زيادة استخدام أجهزة IoT لربط الأجهزة في جميع أنحاء العالم ، من الضروري إنشاء أجهزة حافة ستسمح بتنفيذ الحوسبة على الجهاز نفسه بدلاً من الاعتماد على هيكل السحاب. ستتميز أجهزة الحافة هذه بمراكز بيانات فردية ستسمح بتنفيذ الحوسبة على مستوى عالٍ على الجهاز نفسه.

ستساعد أجهزة الحافة التي تستخدم خوارزميات TinyML في حل القيود الحالية المتعلقة بالطاقة و الحوسبة و الذاكرة و هو موضح في الصورة أدناه.

علاوة على ذلك ، يمكن أن تحسن TinyML أيضًا استخدام و تطبيق الطائرات بدون طيار أو UAVs عن طريق معالجة القيود الحالية التي تواجه هذه الآلات. يمكن أن يسمح استخدام TinyML للمطورين بتنفيذ جهاز كفء و منخفض التأخير و عالي القدرة الحوسبية يمكن أن يخدم كجهاز تحكم لهذه الطائرات.

واجهة الدماغ و الحاسوب أو BCI

لدي TinyML تطبيقات كبيرة في صناعة الرعاية الصحية و يمكن أن تكون مفيدة جدًا في مجالات مختلفة ، بما في ذلك اكتشاف الأورام و التنبؤ بالصحة باستخدام إشارات ECG و EEG و الذكاء العاطفي. يمكن أن يسمح استخدام TinyML لتنسيق التحفيز العميق التكيفي أو aDBS بالتكيف بنجاح مع التكيفات السريرية. يمكن أن يسمح استخدام TinyML أيضًا ل aDBS بالتعرف على علامات الأمراض و أعراضها باستخدام تسجيلات الدماغ الغازية.

علاوة على ذلك ، غالبًا ما تشمل صناعة الرعاية الصحية جمع كمية كبيرة من البيانات للمريض و ثم يجب معالجة هذه البيانات للوصول إلى حلول محددة للعلاج في مراحل مبكرة من المرض. وبالتالي ، من الضروري بناء نظام ليس فقط فعالًا جدًا ولكن أيضًا آمنًا جدًا. عند دمج تطبيقات IoT مع نموذج TinyML ، يولد مجال جديد يسمى H-IoT أو إنترنت الأشياء الصحية و التطبيقات الرئيسية ل H-IoT هي التشخيص و المراقبة و اللوجستيات و التحكم في الانتشار و الأنظمة المساعدة.

المركبات ذاتية القيادة

أخيرًا ، يمكن أن يكون ل TinyML تطبيقات واسعة في صناعة المركبات ذاتية القيادة لأن هذه المركبات يمكن استخدامها في مختلف الطرق ، بما في ذلك تتبع الإنسان و الأغراض العسكرية و التطبيقات الصناعية. هذه المركبات لها متطلب أساسي وهو القدرة على التعرف على الأجسام بشكل فعال عند البحث عنها.

حاليًا ، تعتبر المركبات ذاتية القيادة و القيادة الذاتية مهمة معقدة بشكل خاص عند تطوير مركبات صغيرة. أظهرت التطورات الحديثة إمكانية تحسين تطبيق القيادة الذاتية لمركبات صغيرة باستخدام هيكل CNN و نشر النموذج على GAP8 MCI.

التحديات

TinyML هو مفهوم جديد نسبيًا في صناعة AI و ML و على الرغم من التقدم المحرز ، إلا أنه لا يزال غير فعال كما نحتاج إليه لنشره على نطاق واسع على أجهزة حافة و IoT.

التحدي الأكبر الذي تواجهه أجهزة TinyML حاليًا هو استهلاك الطاقة. من المتوقع أن يكون للأنظمة المضمنة و أجهزة حافة IoT عمر بطارية يمتد لمدة 10 سنوات. على سبيل المثال ، في ظل الظروف المثالية ، يجب أن يكون للجهاز IoT الذي يعمل على بطارية 2Ah عمر بطارية يزيد عن 10 سنوات إذا كان استهلاك الطاقة للجهاز حوالي 12 ميكرو أمبير. ومع ذلك ، في الحالة الحالية ، فإن تكوين جهاز IoT مع مستشعر درجة الحرارة و وحدة MCU و وحدة WiFi له استهلاك تيار يبلغ حوالي 176.4 mA و مع استهلاك الطاقة هذا ، ستستمر البطارية لمدة 11 ساعة فقط ، بدلاً من 10 سنوات من عمر البطارية المطلوب.

قيود الموارد

من أجل الحفاظ على ثبات الخوارزمية ، من الضروري الحفاظ على توافر الطاقة و في السيناريو الحالي ، فإن توافر الطاقة المحدودة لأجهزة TinyML هو تحد حرج. بالإضافة إلى ذلك ، فإن قيود الذاكرة هي تحد كبير لأن نشر النماذج غالبًا ما يتطلب كمية كبيرة من الذاكرة للعمل بشكل فعال و دقيق.

قيود الأجهزة

تجعل قيود الأجهزة من الصعب نشر خوارزميات TinyML على نطاق واسع بسبب تباين أجهزة الأجهزة. هناك آلاف الأجهزة ، و كل جهاز له مواصفات و متطلبات خاصة به ، و بالتالي ، يتعين تعديل خوارزمية TinyML حاليًا لكل جهاز على حدة ، مما يجعل النشر على نطاق واسع مشكلة كبيرة.

قيود مجموعة البيانات

أحد القضايا الرئيسية مع نماذج TinyML هي أنها لا تدعم مجموعات البيانات الحالية. إنه تحد لجميع أجهزة حافة لأنها تجمع البيانات باستخدام مستشعرات خارجية و هذه الأجهزة غالبًا ما تكون مقيدة بالطاقة و الطاقة. وبالتالي ، لا يمكن استخدام مجموعات البيانات الحالية لتدريب نماذج TinyML بشكل فعال.

أفكار ختامية

تطوير تقنيات ML تسبب في ثورة و تحول في منظور نظام IoT. سوف يسمح دمج نماذج ML في أجهزة IoT لهذه الأجهزة الحدودية باتخاذ قرارات ذكية بنفسها دون أي مدخلات بشرية خارجية. ومع ذلك ، فإن نماذج ML التقليدية غالبًا ما لها متطلبات طاقة و ذاكرة و حوسبية عالية تجعلها غير مناسبة للنشر على أجهزة حافة مقيدة الموارد.

نتيجة لذلك ، تم تكريس فرع جديد في AI لاستخدام ML لأجهزة IoT و تمت تسميته باسم TinyML. TinyML هو إطار عمل ML يسمح حتى للأجهزة المقيدة الموارد بالاستفادة من قوة AI و ML لضمان دقة و ذكاء و كفاءة أعلى.

في هذه المقالة ، تحدثنا عن تنفيذ نماذج TinyML على أجهزة IoT مقيدة الموارد و يتطلب هذا التنفيذ تدريب النماذج و نشرها على الأجهزة و تنفيذ تقنيات الكمية. ومع ذلك ، مع النطاق الحالي ، فإن نماذج ML الجاهزة للنشر على أجهزة IoT و حافة لديها複雑ات و قيود ، بما في ذلك مشاكل متوافقة الأجهزة و الإطار.