stub TinyML: IoT & Edge төхөөрөмжүүдэд хэрэглэх програмууд, хязгаарлалтууд ба үүнийг ашиглах - Unite.AI
бидэнтэй хамт холбоно

Хиймэл оюун

TinyML: Програмууд, хязгаарлалтууд, IoT & Edge төхөөрөмжүүдэд ашиглах

mm
шинэчлэгдсэн on

Сүүлийн хэдэн жилд хиймэл оюун ухаан (AI) болон Машины сургалт (ML) нь зөвхөн салбарт төдийгүй эрдэм шинжилгээний салбарт алдар нэр, хэрэглээний тоо огцом өссөний гэрч болсон. Гэсэн хэдий ч өнөөгийн ML болон AI загварууд нь нэг гол хязгаарлалттай байдаг: хүссэн үр дүн, нарийвчлалд хүрэхийн тулд асар их хэмжээний тооцоолох болон боловсруулах хүчин чадал шаарддаг. Энэ нь ихэвчлэн тооцоолох хүчин чадал бүхий өндөр хүчин чадалтай төхөөрөмжүүдийн хэрэглээг хязгаарладаг.

Гэхдээ суулгагдсан системийн технологийн дэвшил, интернетийн зүйлсийн салбарын томоохон хөгжлийг харгалзан хаа сайгүй тархсан тагнуулын нөөцийн хязгаарлагдмал суулгагдсан системд ML техник, үзэл баримтлалын хэрэглээг оруулах нь зүйтэй юм. ML ойлголтыг суулгагдсан & IoT системд ашиглах хүсэл нь эх үүсвэрийн хязгаарлагдмал, эрчим хүчний хязгаарлалттай, хямд төсөр төхөөрөмжүүд дээр ML загвар, програмуудыг ашиглах боломжийг олгодог суулгагдсан ML техник болох TinyML-ийг хөгжүүлэх гол түлхэц болсон хүчин зүйл юм. 

Гэсэн хэдий ч ML загваруудыг тооцоолох хүчин чадал багатай төхөөрөмж дээр хэрэгжүүлэх нь оновчлол, боловсруулалтын хүчин чадал, найдвартай байдал, загвар засвар үйлчилгээ болон бусад олон асуудлуудтай тулгардаг тул нөөц хязгаарлагдмал төхөөрөмжүүд дээр ML-ийг хэрэгжүүлэх нь тийм ч хялбар биш юм. 

Энэ нийтлэлд бид TinyML загварт илүү гүнзгий нэвтэрч, түүний суурь байдал, TinyML-г дэмждэг хэрэгслүүд болон дэвшилтэт технологи ашиглан TinyML-ийн хэрэглээний талаар илүү ихийг мэдэх болно. Ингээд эхэлцгээе. 

TinyML-ийн танилцуулга: Дэлхий яагаад TinyML хэрэгтэй байна вэ?

Интернэт зүйлс буюу IoT төхөөрөмжүүд нь хоорондоо холбогдсон сая сая мэдрэгч, төхөөрөмжүүдийн өгөгдлийг тасралтгүй, бодит цаг хугацаанд боловсруулах боломжийг олгохын тулд хэрэглэгчийн ойролцоох олон төрлийн төхөөрөмж, сүлжээнд хамаарах тооцоолох парадигм болох захын тооцооллыг ашиглах зорилготой. IoT төхөөрөмжүүдийн гол давуу талуудын нэг нь сүлжээний ирмэг дээр байрлуулах боломжтой тул тооцоолох, боловсруулах хүчин чадал бага шаарддаг бөгөөд санах ой багатай байдаг. 

Цаашилбал, IoT төхөөрөмжүүд нь мэдрэхүйн өгөгдлийг цуглуулж, дараа нь тэдгээрийг ойролцоо байршил эсвэл үүлэн платформ руу дамжуулдаг тул өгөгдлийг цуглуулж, дамжуулахын тулд захын платформд ихээхэн тулгуурладаг. Дээд талын тооцооллын технологи нь өгөгдлийг хадгалж, тооцооллыг гүйцэтгэдэг бөгөөд тархсан тооцооллыг дэмжихэд шаардлагатай дэд бүтцийг бий болгодог. 

IoT төхөөрөмжүүдэд захын тооцооллыг хэрэгжүүлэх нь хангадаг

  1. Эцсийн хэрэглэгчдэд үр дүнтэй аюулгүй байдал, нууцлал, найдвартай байдал. 
  2. Бага саатал. 
  3. Аппликейшн, үйлчилгээнд илүү өндөр хүртээмж, дамжуулах чадвар. 

Цаашилбал, захын төхөөрөмжүүд нь мэдрэгч болон үүлэн хооронд хамтран ажиллах техникийг байрлуулж чаддаг тул өгөгдөл боловсруулалтыг үүлэн платформ дээр явуулахын оронд сүлжээний ирмэг дээр хийж болно. Үүний үр дүнд өгөгдлийн үр дүнтэй удирдлага, өгөгдлийн тогтвортой байдал, үр дүнтэй хүргэх, агуулгын кэш хийх боломжтой. Нэмж дурдахад IoT-ийг H2M эсвэл Хүнээс машин хоорондын харилцан үйлчлэл, орчин үеийн эрүүл мэндийн захын тооцоололтой холбоотой програмуудад хэрэгжүүлэх нь сүлжээний үйлчилгээг мэдэгдэхүйц сайжруулах арга замыг бий болгодог. 

IoT захын тооцооллын салбарт хийсэн сүүлийн үеийн судалгаанууд IoT хэрэглээний хэд хэдэн тохиолдлуудад Machine Learning техникийг хэрэгжүүлэх боломжтойг харуулсан. Гэсэн хэдий ч гол асуудал бол уламжлалт машин сургалтын загварууд нь ихэвчлэн хүчирхэг тооцоолох, боловсруулах хүчин чадал, санах ойн өндөр багтаамж шаарддаг бөгөөд энэ нь IoT төхөөрөмж, програмуудад ML загварыг хэрэгжүүлэхийг хязгаарладаг. 

Цаашилбал, захын тооцооллын технологи нь өнөөдөр өндөр дамжуулах хүчин чадал, эрчим хүчний үр ашигтай хэмнэлт дутагдалтай байгаа нь нэг төрлийн бус системд хүргэдэг бөгөөд энэ нь ML загваруудыг шинэчлэх, сургах, нэвтрүүлэхэд нийцтэй, цогц дэд бүтцийн шаардлагын гол шалтгаан юм. Суулгасан төхөөрөмжүүдэд зориулагдсан архитектур нь өөр нэг сорилтыг бий болгож байна, учир нь эдгээр архитектурууд нь төхөөрөмж бүрд өөр өөр техник хангамж, програм хангамжийн шаардлагаас хамаардаг. Энэ нь IoT сүлжээнд стандарт ML архитектурыг бий болгоход хэцүү байдаг гол шалтгаан юм. 

Түүнчлэн, одоогийн хувилбарт сүлжээний хэрэгжилт нь тооцооллын эрчимтэй шинж чанартай тул өөр өөр төхөөрөмжүүдийн үүсгэсэн өгөгдлийг үүлэн платформ руу боловсруулахаар илгээдэг. Цаашилбал, ML загварууд нь ихэвчлэн Deep Learning, Deep Neural Networks, Application Specific Integrated Circuits (ASICs) болон Graphic Processing Units (GPUs)-аас хамааралтай байдаг бөгөөд тэдгээр нь ихэвчлэн илүү их хүч чадал, санах ой шаардагддаг. Тооцоолох, боловсруулах чадвар хомс, хадгалах шийдлүүд нь хязгаарлагдмал тул IoT төхөөрөмж дээр бүрэн хэмжээний ML загваруудыг ашиглах нь оновчтой шийдэл биш юм. 

Бага чадалтай суулгагдсан төхөөрөмжүүдийг жижигрүүлэх эрэлт хэрэгцээ, ML загваруудыг илүү эрчим хүч, санах ойг хэмнэлттэй болгохын тулд оновчтой болгох нь захын IoT төхөөрөмж болон хүрээн дээр ML загвар, практикийг хэрэгжүүлэх зорилготой TinyML-ийн замыг зассан. TinyML IoT төхөөрөмж дээр дохио боловсруулах боломжийг олгож, суулгагдсан оюун ухаанаар хангаснаар өгөгдлийг үүлэн платформ руу шилжүүлэх хэрэгцээг арилгадаг. IoT төхөөрөмж дээр TinyML-ийг амжилттай хэрэгжүүлснээр эцсийн дүндээ хувийн нууцлал, үр ашгийг нэмэгдүүлэхийн зэрэгцээ ашиглалтын зардлыг бууруулна. Нэмж дурдахад, TinyML-ийг илүү сэтгэл татам болгодог зүйл бол холболт хангалтгүй тохиолдолд газар дээр нь дүн шинжилгээ хийх боломжтой юм. 

TinyML: Танилцуулга ба тойм

TinyML нь аудио, хараа, яриа гэх мэт янз бүрийн мэдрэхүйн горимд төхөөрөмж дээр аналитик хийх чадвартай машин сургалтын хэрэгсэл юм. TinyML хэрэглүүр дээр бүтээгдсэн Ml загварууд нь бага чадал, санах ой, тооцоолоход шаардлагатай байдаг тул суулгагдсан сүлжээ, батерейгаар ажилладаг төхөөрөмжүүдэд тохиромжтой. Нэмж дурдахад TinyML-ийн бага шаардлага нь үүнийг IoT хүрээ дээр ML загваруудыг байрлуулахад тохиромжтой болгодог.

Одоогийн хувилбарт үүлэнд суурилсан ML системүүд нь аюулгүй байдал, нууцлалын асуудал, эрчим хүчний өндөр зарцуулалт, найдвартай байдал, хоцрогдол зэрэг хэд хэдэн бэрхшээлтэй тулгардаг тул техник хангамж-програм хангамжийн платформ дээрх загваруудыг урьдчилан суулгасан байдаг. Мэдрэгч нь физик ертөнцийг дуурайдаг өгөгдлийг цуглуулж, дараа нь CPU эсвэл MPU (Microprocessing unit) ашиглан боловсруулдаг. MPU нь сүүлийн үеийн ML сүлжээ, архитектураар идэвхжүүлсэн ML аналитик дэмжлэгийн хэрэгцээг хангадаг. Edge ML архитектур нь өгөгдөл дамжуулахын тулд ML үүлтэй харилцдаг бөгөөд TinyML-ийг хэрэгжүүлснээр технологийн дэвшил мэдэгдэхүйц нэмэгдэх болно. 

TinyML нь хүссэн гүйцэтгэлийг хангахын тулд өөр хоорондоо синхрончлолд ажилладаг програм хангамж, техник хангамж, алгоритмуудын нэгдэл гэж хэлэхэд аюулгүй байх болно. Техник хангамжийн хурдасгуурыг дэмждэггүй техник хангамж, IoT төхөөрөмжүүдэд илүү сайн, үр дүнтэй суралцах туршлагыг хангахын тулд аналог эсвэл санах ойн тооцоолол шаардлагатай байж магадгүй юм. Програм хангамжийн хувьд TinyML ашиглан бүтээгдсэн програмуудыг Линукс эсвэл суулгагдсан Линукс гэх мэт платформууд болон үүлэн программ хангамжууд дээр байрлуулж, хэрэгжүүлж болно. Эцэст нь, TinyML алгоритм дээр бүтээгдсэн програмууд болон системүүд нь санах ойн өндөр зарцуулалтаас зайлсхийхийн тулд бага санах ойн хэмжээтэй загвар шаарддаг шинэ алгоритмуудыг дэмжих ёстой. 

Дүгнэж хэлэхэд, TinyML хэрэглүүрийг ашиглан бүтээгдсэн програмууд нь өндөр чанартай өгөгдөл байгаа тохиолдолд программ хангамжийг авсаархан загварчлахын зэрэгцээ ML зарчим, аргуудыг оновчтой болгох ёстой. Дараа нь энэ өгөгдлийг илүү том хүчин чадалтай, тооцоолох хүчин чадалтай машинууд дээр сургасан загваруудыг ашиглан үүсгэсэн хоёртын файлуудаар дамжуулж өгөх ёстой. 

Нэмж дурдахад, TinyML хэрэглүүр дээр ажиллаж байгаа систем, программууд нь TinyML-ийн үр нөлөөг дэмждэг бага хэмжээний эрчим хүчний хэрэглээнд авсаархан программ хангамж шаардлагатай байдаг тул илүү хатуу хязгаарлалттай ажиллах үед өндөр нарийвчлалтай байх ёстой. Цаашилбал, TinyML програмууд эсвэл модулиуд нь захын суулгагдсан систем дээрх үйл ажиллагааг дэмжихийн тулд батерейны хүчнээс хамаарч болно. 

Үүний зэрэгцээ TinyML програмууд нь хоёр үндсэн шаардлага тавьдаг

  1. Олон тэрбум хямд суулгагдсан системийг масштаблах чадвар. 
  2. Хэдхэн КБ-аас бага багтаамжтай төхөөрөмжийн RAM дээр кодыг хадгалах. 

Дэвшилтэт технологи ашиглан TinyML програмууд

TinyML нь хиймэл оюун ухаан ба ML салбарт халуун сэдэв болж байгаагийн нэг гол шалтгаан нь хараа, ярианд суурилсан програмууд, эрүүл мэндийн оношлогоо, өгөгдлийн хэв маягийг шахах, ангилах, тархины хяналтын интерфейс, захын тооцоолол, феномик, өөрөө - машин жолоодох гэх мэт. 

Ярианд суурилсан програмууд

Ярианы харилцаа холбоо

Ерөнхийдөө ярианд суурилсан програмууд нь бүх өгөгдөл чухал бөгөөд үүнийг дамжуулдаг уламжлалт харилцааны аргуудад тулгуурладаг. Гэсэн хэдий ч сүүлийн жилүүдэд семантик харилцаа холбоо нь ердийн харилцааны өөр хувилбар болж гарч ирсэн бөгөөд семантик харилцаанд зөвхөн өгөгдлийн утга эсвэл контекстийг дамжуулдаг. TinyML аргачлалыг ашиглан ярианд суурилсан програмууд дээр семантик харилцаа холбоог хэрэгжүүлэх боломжтой. 

Өнөөдөр ярианы харилцааны салбарын хамгийн алдартай хэрэглээний зарим нь яриа илрүүлэх, яриа таних, онлайн сургалт, онлайн сургалт, зорилгод чиглэсэн харилцаа холбоо юм. Эдгээр програмууд нь ихэвчлэн илүү өндөр эрчим хүчний хэрэглээтэй байдаг бөгөөд тэдгээр нь хост төхөөрөмж дээр өндөр өгөгдөл шаарддаг. Эдгээр шаардлагыг даван туулахын тулд шинэ TinySpeech номын санг нэвтрүүлсэн бөгөөд энэ нь хөгжүүлэгчдэд бага багтаамжтай хадгалах байгууламж барихын тулд гүнзгий эргэлтийн сүлжээг ашигладаг бага тооцооллын архитектурыг бий болгох боломжийг олгодог. 

TinyML-г яриаг сайжруулахад ашиглахын тулд хөгжүүлэгчид эхлээд ярианы сайжруулалтын загвар нь техник хангамжийн хязгаарлалт, хязгаарлалттай байсан тул түүний хэмжээг авч үзсэн. Асуудлыг шийдвэрлэхийн тулд RNN эсвэл Recurrent Neural Networks ярианы сайжруулалтын загварт зориулсан бүтэцлэгдсэн тайралт, бүхэл тоон квантчлалыг ашигласан. Үр дүн нь загварын хэмжээг бараг 12 дахин, харин үйлдлүүдийг бараг 3 дахин багасгахыг санал болгосон. Нэмж дурдахад, дуу хоолойг таних програмуудыг ажиллуулдаг нөөц хязгаарлагдмал програмууд дээр ашиглах үед нөөцийг үр дүнтэй ашиглах нь чухал юм. 

Үүний үр дүнд үйл явцыг хуваахын тулд TinyML дээр суурилсан дуу хоолой болон яриа таних програмуудад зориулж хамтран дизайны аргыг санал болгосон. Хөгжүүлэгчид дуу хоолойны түүхий өгөгдлийг урьдчилан боловсруулахын тулд програм хангамж, техник хангамжийг хуваахын тулд цонхны ажиллагааг ашигласан. Үр дүн нь техник хангамжийн эрчим хүчний зарцуулалтыг бууруулж байгааг харуулсан тул арга нь үр дүнтэй мэт санагдсан. Эцэст нь, ойрын ирээдүйд илүү сайн гүйцэтгэлтэй байхын тулд програм хангамж, техник хангамжийн хамтарсан дизайныг оновчтой хуваах боломж бас бий. 

Цаашилбал, сүүлийн үеийн судалгаагаар яриа таних системд утсанд суурилсан хувиргагч ашиглахыг санал болгосон бөгөөд уг санал нь захын төхөөрөмжүүдийн тооцооллын хэрэгцээг багасгахын тулд LSTM таамаглагчийг Conv1D давхаргаар солих зорилготой юм. Хэрэгжүүлсний дараа SVD эсвэл Singular Value Decomposition нь загварыг амжилттай шахаж, WFST эсвэл Weighted Finite State Transducer-д суурилсан декодчилолыг ашиглах нь загварыг сайжруулахад илүү уян хатан байдлыг бий болгосон тул эерэг үр дүнг өгсөн. 

Виртуал эсвэл дуут туслах, шууд тайлбар, дуут команд зэрэг яриа таних олон алдартай програмууд ажиллахын тулд ML техникийг ашигладаг. Алдартай дуут туслахууд одоогоор Siri болон Google Assistant-д дуртай мэдээлэл хүлээн авах бүрдээ үүлэн платформыг ашигладаг бөгөөд энэ нь нууцлал, өгөгдлийн аюулгүй байдалтай холбоотой томоохон асуудал үүсгэдэг. TinyML нь төхөөрөмж дээр яриа таних үйл ажиллагаа явуулах, өгөгдлийг үүлэн платформ руу шилжүүлэх хэрэгцээг арилгах зорилготой тул асуудлыг шийдвэрлэх боломжтой шийдэл юм. Төхөөрөмж дээрх яриа таних арга замуудын нэг бол тооцооллын шаардлагыг багасгахын тулд LSTM давхаргын оронд нэг Conv1D давхаргатай холбосон DFSMN эсвэл Deep Feed-Forward Sequential Memory Block давхаргыг ашигладаг Tiny Transducer хэмээх яриа таних загварыг ашиглах явдал юм. , болон сүлжээний параметрүүд. 

Сонсголын тусламж

Сонсгол алдагдах нь дэлхийн хэмжээнд эрүүл мэндийн томоохон асуудал бөгөөд нас ахих тусам хүний ​​дуу авиа сонсох чадвар суларч, Хятад, Япон, Өмнөд Солонгос зэрэг хөгширч буй хүн амтай харьцдаг улс орнуудад энэ нь гол асуудал юм. Сонсголын аппаратууд нь яг одоо орчноос орж ирж буй бүх дууг өсгөх энгийн зарчмаар ажилладаг бөгөөд энэ нь тухайн хүн, ялангуяа дуу чимээ ихтэй орчинд хүссэн дууг ялгах, ялгахад хэцүү болгодог. 

TinyML нь сонсголын аппаратын яриа таних алгоритмыг ашигладаг TinyLSTM загварыг ашиглах нь хэрэглэгчдэд янз бүрийн дуу чимээг ялгахад тусалдаг тул энэ асуудлыг шийдвэрлэх боломжтой шийдэл байж болох юм. 

Алсын хараанд суурилсан програмууд

TinyML нь боловсруулахад чухал үүрэг гүйцэтгэх чадвартай компьютерийн алсын хараа өгөгдлийн багц дээр суурилсан, учир нь илүү хурдан гаралт хийхийн тулд эдгээр өгөгдлийн багцыг захын платформ дээр боловсруулах шаардлагатай. Үүнд хүрэхийн тулд TinyML загвар нь OpenMV H7 микроконтроллерийн самбар ашиглан загварыг сургах явцад тулгарч буй практик сорилтуудтай тулгардаг. Хөгжүүлэгчид зөвхөн 7KB RAM-тай ажиллах ARM Cortex M496 микроконтроллерын тусламжтайгаар Америкийн дохионы хэлийг илрүүлэх архитектурыг санал болгов. 

Компьютерийн алсын хараанд суурилсан хэрэглээнд зориулсан TinyML-ийг захын платформ дээр хэрэгжүүлснээр хөгжүүлэгчид CNN эсвэл Convolutional Neural Networks-ийн томоохон сорилтыг өндөр ерөнхий алдаатай, сургалт, туршилтын өндөр нарийвчлалтайгаар даван туулахыг шаарддаг. Гэсэн хэдий ч, хэрэгжилт нь шинэ хэрэглээний тохиолдлуудын доторх зураг, түүнчлэн чимээ шуугиантай арын дэвсгэр дээр үр дүнтэй ерөнхийлсөнгүй. Хөгжүүлэгчид интерполяцыг нэмэгдүүлэх аргыг ашиглах үед загвар нь туршилтын өгөгдөл дээр 98% -иас дээш, ерөнхийдөө 75% орчим нарийвчлалын оноог өгсөн. 

Цаашилбал, хөгжүүлэгчид интерполяцыг нэмэгдүүлэх аргыг ашиглах үед квантчлалын явцад загварын нарийвчлал буурч, харин үүний зэрэгцээ загвар гаргах хурд, ангиллыг нэгтгэх чадвар нэмэгдсэн нь ажиглагдсан. Хөгжүүлэгчид мөн янз бүрийн эх сурвалжаас олж авсан өгөгдөл дээр ерөнхий загварчлалын сургалтын нарийвчлалыг нэмэгдүүлэх аргыг санал болгож, үүнийг зөөврийн ухаалаг цаг гэх мэт захын платформ дээр байрлуулах боломжийг судлахын тулд гүйцэтгэлийг турших аргыг санал болгов. 

Цаашилбал, нэмэлт судалгаанууд CNN Хязгаарлагдмал нөөцтэй төхөөрөмжүүд дээр CNN архитектурыг ашиглах, хүссэн үр дүндээ хүрэх боломжтойг харуулсан. Саяхан хөгжүүлэгчид хамгийн бага санах ойтой TensorFlow lite ашиглан хязгаарлагдмал нөөцтэй ARM Cortex M7 микроконтроллер дээр эмнэлгийн нүүрний маск илрүүлэх тогтолцоог боловсруулж чадсан. Загварын хэмжээ нь ойролцоогоор 138 КБ байсан бол зорилтот самбар дээрх интерференцийн хурд нь ойролцоогоор 30 FPS байв. 

TinyML-ийн компьютерийн хараанд суурилсан хэрэглээний өөр нэг хэрэглээ бол харааны бэрхшээлтэй хүмүүст өдөр тутмын амьдралаа хялбархан удирдахад нь туслах зорилгоор таягт хавчуулж болох дохио зангаа таних төхөөрөмжийг хэрэгжүүлэх явдал юм. Үүнийг зохион бүтээхдээ хөгжүүлэгчид дохио зангааны өгөгдлийн багцыг ашигласан бөгөөд өгөгдлийн багцыг ашиглан ProtoNN загварыг ангиллын алгоритмаар сургасан. Тохируулгаас олж авсан үр дүн нь үнэн зөв, дизайн нь бага өртөгтэй байсан бөгөөд сэтгэл ханамжтай үр дүнг өгсөн. 

TinyML-ийн өөр нэг чухал хэрэглээ бол нөөц хомсдол, самбар дээрх тооцоолох хүчин чадалтай тул өөрөө жолоодлоготой, бие даасан тээврийн хэрэгслийн үйлдвэрлэл юм. Асуудлыг шийдвэрлэхийн тулд хөгжүүлэгчид TinyCNN загвар дээр суурилсан хаалттай хүрд сургалтын аргыг нэвтрүүлсэн бөгөөд энэ нь тухайн үед зургийг авах онлайн таамаглагч загварыг санал болгосон. Автономит жолоодлогын хувьд TinyML-ийг хэрэгжүүлэхэд хөгжүүлэгчдэд тулгардаг гол асуудал бол офлайн өгөгдөл дээр ажиллахаар бэлтгэгдсэн шийдвэрийн загвар нь онлайн өгөгдөлтэй ажиллахад тийм ч сайн ажиллахгүй байх явдал байв. Автономит болон өөрөө жолооддог автомашины хэрэглээг бүрэн нэмэгдүүлэхийн тулд загвар нь бодит цагийн өгөгдөлд дасан зохицох чадвартай байх ёстой. 

Өгөгдлийн хэв маягийн ангилал ба шахалт

Одоогийн TinyML хүрээний хамгийн том сорилтуудын нэг бол сургалтын онлайн өгөгдөлд дасан зохицоход нь туслах явдал юм. Асуудлыг шийдвэрлэхийн тулд хөгжүүлэгчид TinyOL эсвэл TinyML Online Learning гэж нэрлэгддэг аргыг санал болгож, микроконтроллерийн нэгжүүд дээр онлайнаар аажмаар сургалт явуулах боломжийг олгож, IoT захын төхөөрөмжүүд дээр загварыг шинэчлэх боломжийг олгодог. Хэрэгжилт нь C++ програмчлалын хэлийг ашиглан хийгдсэн бөгөөд TinyOL архитектурт нэмэлт давхарга нэмэгдсэн. 

Цаашилбал, хөгжүүлэгчид Arduino Nano 33 BLE мэдрэгч хавтангийн автомат кодчилолыг гүйцэтгэсэн бөгөөд сургагдсан загвар нь шинэ өгөгдлийн хэв маягийг ангилах боломжтой болсон. Цаашилбал, хөгжүүлэлтийн ажилд төхөөрөмжүүдийн сургалтын хэв маягийг онлайнаар дэмжих мэдрэлийн сүлжээнд зориулсан үр ашигтай, илүү оновчтой алгоритмуудыг зохион бүтээх ажлыг багтаасан. 

TinyOL болон TinyML-ийн судалгаагаар идэвхжүүлэх давхаргын тоо нь нөөц хязгаарлагдмал IoT захын төхөөрөмжүүдийн хувьд гол асуудал байдгийг харуулж байна. Асуудлыг шийдвэрлэхийн тулд хөгжүүлэгчид IoT захын төхөөрөмжүүдээр санах ойн ашиглалтыг илүү үр дүнтэй болгож, идэвхжүүлэх зорилгоор завсрын давхаргыг ашиглахаас зайлсхийхийн тулд шинэ TinyTL эсвэл Tiny Transfer Learning загварыг нэвтрүүлсэн. Нэмж дурдахад, хөгжүүлэгчид "Гэдэг" гэж нэрлэгддэг цоо шинэ хэвийсэн модулийг нэвтрүүлсэн.Lite үлдэгдэл модуль” дасан зохицох чадавхийг нэмэгдүүлэхийн тулд, мөн мэдээжийн хэрэг шинж чанарыг олборлогчдод үлдэгдэл шинж чанарын газрын зургийг илрүүлэх боломжийг олгоно. 

Сүлжээний бүрэн тохиргоотой харьцуулахад үр дүн нь TinyTL-ийн архитектурын талд байсан тул үр дүн нь TinyTL нь санах ойн ачааллыг 6.5 дахин багасгаж, дунд зэргийн нарийвчлалтай алддаг болохыг харуулсан. Сүүлийн давхаргыг нарийн тааруулахад TinyML нарийвчлалыг 34%-иар сайжруулж, дунд зэргийн нарийвчлалтай алдсан байна. 

Цаашилбал, өгөгдөл шахах талаар хийсэн судалгаагаар үүнийг харуулсан өгөгдөл шахах алгоритмууд цуглуулсан өгөгдлийг зөөврийн төхөөрөмж дээр удирдах ёстой бөгөөд үүнд хүрэхийн тулд хөгжүүлэгчид TAC эсвэл Tiny Anomaly Compressor-ийг санал болгосон. TAC нь SDT эсвэл Swing Door Trending, DCT эсвэл Discrete Cosine Transform алгоритмуудыг давж чадсан. Нэмж дурдахад TAC алгоритм нь SDT болон DCT алгоритмуудыг хоёуланг нь гүйцэтгэсэн бөгөөд хамгийн их шахалтын хурдыг 98% -иас дээш болгож, гурван алгоритмаас хамгийн дээд оргил дохио-дуу чимээний харьцаатай болсон. 

Эрүүл мэндийн оношлогоо

Ковид-19 дэлхийн цар тахал нь TinyML-ийг хэрэгжүүлэх шинэ боломжуудын үүдийг нээсэн бөгөөд энэ нь ханиалга, ханиадтай холбоотой амьсгалын замын шинж тэмдгийг тасралтгүй илрүүлэх нэн чухал практик болжээ. Тасралтгүй хяналтыг хангахын тулд хөгжүүлэгчид CNN-ийн Tiny RespNet загварыг санал болгосон бөгөөд энэ нь олон загварын тохиргоонд ажилладаг бөгөөд уг загвар нь Xilinx Artix-7 100t FPGA дээр байрлуулсан бөгөөд төхөөрөмж нь мэдээллийг зэрэгцүүлэн боловсруулах боломжийг олгодог, өндөр үр ашигтай, мөн бага эрчим хүчний хэрэглээ. Нэмж дурдахад TinyResp загвар нь өвчтөний яриа, аудио бичлэг, хүн ам зүйн мэдээллийг ангилахдаа оруулдаг бөгөөд өвчтөний ханиалгах шинж тэмдгийг гурван ялгаатай мэдээллийн багц ашиглан ангилдаг. 

Цаашилбал, хөгжүүлэгчид захын төхөөрөмж дээр гүнзгий суралцах тооцоолол хийх чадвартай TinyDL нэртэй TinyML загварыг санал болгосон. TinyDL загварыг ухаалаг цаг, зүүдэг төхөөрөмж зэрэг эрүүл мэндийн оношлогоонд ашиглах боломжтой, мөн зурвасын өргөн, хоцролт, эрчим хүчний хэрэглээг багасгахын тулд гүйцэтгэлийн шинжилгээ хийх чадвартай. TinyDL-ийг гар төхөөрөмж дээр байрлуулахын тулд LSTM загварыг өмсөж болох төхөөрөмжид тусгайлан боловсруулж, сургасан бөгөөд цуглуулсан өгөгдлийг оролт болгон оруулсан. Энэхүү загвар нь ойролцоогоор 75-80%-ийн нарийвчлалын оноотой бөгөөд төхөөрөмжөөс гадуурх өгөгдөлтэй ажиллах боломжтой байв. Эдгээр загварууд нь захын төхөөрөмжүүд дээр ажиллаж байгаа нь IoT төхөөрөмжүүдэд тулгарч буй өнөөгийн сорилтуудыг шийдвэрлэх боломжтойг харуулсан. 

Эцэст нь, хөгжүүлэгчид өндөр настнуудын биеийн байрлалыг тооцоолж, дүн шинжилгээ хийх замаар эрүүл мэндийг хянах өөр нэг програмыг санал болгов. Загвар нь төхөөрөмж дээрх агностик хүрээг ашигладаг бөгөөд энэ нь загварт баталгаажуулалтыг идэвхжүүлэх, дасан зохицох ажлыг хурдан дэмжих боломжийг олгодог. Загвар нь биеийн байрлалыг илрүүлэх алгоритмыг нүүрний тэмдэглэгээтэй хослуулан орон зайн цаг хугацааны биеийн байрлалыг бодит цаг хугацаанд нь илрүүлсэн. 

Тэргүүнд тооцоолох

TinyML-ийн томоохон програмуудын нэг нь захын тооцооллын талбарт оршдог тул дэлхий даяар төхөөрөмжүүдийг холбоход IoT төхөөрөмжүүдийн хэрэглээ нэмэгдэж байгаа нь үүлэн архитектурын ачааллыг бууруулахад туслах захын төхөөрөмжүүдийг тохируулахад чухал ач холбогдолтой юм. . Эдгээр захын төхөөрөмжүүд нь үүлэн архитектурт найдахын оронд төхөөрөмж дээр өндөр түвшний тооцоолол хийх боломжийг олгодог бие даасан мэдээллийн төвүүдийг агуулсан байх болно. Үүний үр дүнд энэ нь үүлэн хамаарлыг багасгах, хоцролтыг багасгах, хэрэглэгчийн аюулгүй байдал, нууцлалыг сайжруулах, мөн зурвасын өргөнийг багасгахад тусална. 

TinyML алгоритмуудыг ашигладаг Edge төхөөрөмжүүд нь эрчим хүч, тооцоолох, санах ойтой холбоотой одоогийн хязгаарлалтыг шийдвэрлэхэд туслах бөгөөд үүнийг доорх зурган дээр авч үзэх болно. 

Цаашилбал, TinyML нь эдгээр машинуудад тулгарч буй одоогийн хязгаарлалтыг шийдвэрлэх замаар Нисгэгчгүй Агаарын тээврийн хэрэгсэл эсвэл UAV-ийн хэрэглээ, хэрэглээг сайжруулж чадна. TinyML-ийг ашигласнаар хөгжүүлэгчид эдгээр UAV-д хянагч болж чадах бага хоцролт, өндөр тооцоолох хүчин чадалтай эрчим хүчний хэмнэлттэй төхөөрөмжийг хэрэгжүүлэх боломжийг олгоно. 

Тархи-Компьютерийн интерфейс эсвэл BCI

TinyML нь эрүүл мэндийн салбарт чухал ач холбогдолтой бөгөөд хорт хавдар, хавдар илрүүлэх, ЭКГ, ЭЭГ дохио ашиглан эрүүл мэндийн таамаглал дэвшүүлэх, сэтгэл хөдлөлийн оюун ухаан зэрэг янз бүрийн салбарт өндөр ашиг тустай байдаг. TinyML-ийн хэрэглээ нь Дасан зохицох гүн тархины өдөөлт эсвэл aDBS-ийг эмнэлзүйн дасан зохицоход амжилттай дасан зохицох боломжийг олгоно. TinyMl-ийн хэрэглээ нь aDBS-д тархины дохионы инвазив бичлэгийг ашиглан өвчинтэй холбоотой био тэмдэг, тэдгээрийн шинж тэмдгийг тодорхойлох боломжийг олгодог. 

Цаашилбал, эрүүл мэндийн салбар нь ихэвчлэн өвчтөний их хэмжээний мэдээллийг цуглуулдаг бөгөөд өвчний эхний үе шатанд өвчтөнийг эмчлэх тодорхой шийдэлд хүрэхийн тулд эдгээр өгөгдлийг боловсруулах шаардлагатай байдаг. Үүний үр дүнд өндөр үр дүнтэй төдийгүй өндөр хамгаалалттай системийг бий болгох нь амин чухал юм. Бид IoT програмыг TinyML загвартай хослуулснаар H-IoT буюу Эрүүл мэндийн салбарын эд зүйлсийн Интернэт хэмээх шинэ салбар бий болох ба H-IoT-ийн гол хэрэглээ нь оношлогоо, хяналт, логистик, тархалтыг хянах, туслах системүүд юм. Хэрэв бид өвчтөний эрүүл мэндийг алсаас илрүүлэх, дүн шинжилгээ хийх чадвартай төхөөрөмжүүдийг хөгжүүлэхийг хүсч байгаа бол дэлхийн хэмжээнд хүртээмжтэй, хоцролт багатай системийг хөгжүүлэх нь чухал юм. 

Автотээврийн хэрэгсэл

Эцэст нь, TinyML нь бие даасан тээврийн хэрэгслийн үйлдвэрлэлд өргөн хэрэглэгддэг тул эдгээр тээврийн хэрэгслийг хүний ​​​​хяналт, цэргийн зориулалтаар ашиглах, үйлдвэрлэлийн хэрэглээ зэрэг янз бүрийн аргаар ашиглах боломжтой. Эдгээр тээврийн хэрэгсэл нь объектыг хайж байх үед объектыг үр дүнтэй таних чадвартай байх үндсэн шаардлагыг тавьдаг. 

Одоогийн байдлаар бие даасан тээврийн хэрэгсэл ба бие даасан жолоодлого нь ялангуяа мини эсвэл жижиг оврын тээврийн хэрэгслийг хөгжүүлэхэд нэлээд төвөгтэй ажил юм. Сүүлийн үеийн бүтээн байгуулалтууд нь CNN архитектурыг ашиглан мини тээврийн хэрэгслийн бие даасан жолоодлогын хэрэглээг сайжруулж, загварыг GAP8 MCI дээр байрлуулах боломжийг харуулж байна. 

Тулгамдаж буй асуудал

TinyML нь хиймэл оюун ухаан, ML салбарт харьцангуй шинэ ойлголт бөгөөд ахиц дэвшил гарсан хэдий ч зах болон IoT төхөөрөмжүүдийг олноор нь ашиглахад шаардлагатай шиг үр дүнтэй биш хэвээр байна. 

Одоогоор TinyML төхөөрөмжүүдэд тулгарч буй хамгийн том сорилт бол эдгээр төхөөрөмжүүдийн эрчим хүчний хэрэглээ юм. Хамгийн тохиромжтой нь суулгагдсан ирмэг ба IoT төхөөрөмжүүд нь 10 жил гаруй батерейны ажиллах хугацаатай байх ёстой. Жишээлбэл, хамгийн тохиромжтой нөхцөлд, 2Аh батерейгаар ажилладаг IoT төхөөрөмж нь төхөөрөмжийн эрчим хүчний хэрэглээ 10 орчим жил байгаа тохиолдолд батерейны ашиглалтын хугацаа 12 гаруй жил байх ёстой. uа. Гэсэн хэдий ч температур мэдрэгч, MCU нэгж, WiFi модуль бүхий IoT архитектурын өгөгдсөн төлөвт одоогийн хэрэглээ нь ойролцоогоор 176.4 мА бөгөөд энэ эрчим хүчний зарцуулалтаар батерей нь ердөө 11 цаг орчим ажиллах болно. шаардлагатай 10 жилийн зайны ашиглалтын хугацаа. 

Нөөцийн хязгаарлалт

Алгоритмыг тууштай байлгахын тулд эрчим хүчний хүртээмжийг хадгалах нь маш чухал бөгөөд одоогийн нөхцөл байдлыг харгалзан TinyML төхөөрөмжүүдийн хязгаарлагдмал цахилгаан хангамж нь маш чухал сорилт юм. Цаашилбал, санах ойн хязгаарлалт нь бас чухал сорилт юм, учир нь загваруудыг ашиглах нь үр дүнтэй, үнэн зөв ажиллахын тулд ихэвчлэн их хэмжээний санах ой шаарддаг. 

Техник хангамжийн хязгаарлалт

Техник хангамжийн хязгаарлалт нь техник хангамжийн төхөөрөмжүүдийн нэг төрлийн бус байдлаас болж TinyML алгоритмуудыг өргөн хүрээнд ашиглахад хүндрэл учруулдаг. Тус бүр өөрийн гэсэн техник хангамжийн үзүүлэлт, шаардлага бүхий мянга мянган төхөөрөмж байдаг бөгөөд үүний үр дүнд одоогоор TinyML алгоритмыг төхөөрөмж бүрт тохируулан өөрчлөх шаардлагатай байгаа нь олноор байршуулах нь гол асуудал болж байна. 

Өгөгдлийн багцын хязгаарлалт

TinyML загваруудын гол асуудлуудын нэг нь одоо байгаа өгөгдлийн багцыг дэмждэггүй явдал юм. Гадны мэдрэгч ашиглан өгөгдөл цуглуулах нь бүх захын төхөөрөмжүүдийн хувьд бэрхшээлтэй байдаг бөгөөд эдгээр төхөөрөмжүүд нь ихэвчлэн эрчим хүч, эрчим хүчний хязгаарлалттай байдаг. Тиймээс одоо байгаа өгөгдлийн багцыг TinyML загваруудыг үр дүнтэй сургахад ашиглах боломжгүй. 

Final бодол

ML техникийг хөгжүүлэх нь IoT экосистемд хувьсгал хийж, хэтийн төлөвийг өөрчилсөн. IoT төхөөрөмжид ML загваруудыг нэгтгэснээр эдгээр захын төхөөрөмжүүд гадны хүний ​​оролцоогүйгээр бие даан ухаалаг шийдвэр гаргах боломжтой болно. Гэсэн хэдий ч, уламжлалт байдлаар, ML загварууд нь ихэвчлэн өндөр хүчин чадал, санах ой, тооцоолох шаардлагуудтай байдаг тул тэдгээрийг ихэвчлэн нөөц хязгаарлагдмал захын төхөөрөмжүүд дээр байрлуулахад нэгдмэл болгодог. 

Үүний үр дүнд хиймэл оюун ухааны шинэ салбар нь IoT төхөөрөмжүүдэд ML ашиглахад зориулагдсан бөгөөд үүнийг TinyML гэж нэрлэсэн. TinyML нь ML хүрээ бөгөөд нөөц хязгаарлагдмал төхөөрөмжүүдэд хүртэл өндөр нарийвчлал, оюун ухаан, үр ашигтай байдлыг хангахын тулд AI & ML-ийн хүчийг ашиглах боломжийг олгодог. 

Энэ нийтлэлд бид TinyML загваруудыг нөөц хязгаарлагдмал IoT төхөөрөмж дээр хэрэгжүүлэх талаар ярилцсан бөгөөд энэхүү хэрэгжилт нь загваруудыг сургах, техник хангамж дээр загваруудыг байрлуулах, тоон тогтоох арга техникийг гүйцэтгэх шаардлагатай. Гэсэн хэдий ч одоогийн хамрах хүрээг харгалзан IoT болон захын төхөөрөмжүүдэд ашиглахад бэлэн болсон ML загварууд нь хэд хэдэн нарийн төвөгтэй байдал, тоног төхөөрөмж, хүрээний нийцтэй байдлын асуудлууд зэрэг хязгаарлалттай байдаг. 

"Мэргэжилээрээ инженер, цээжээрээ зохиолч". Кунал бол хиймэл оюун ухаан болон ML-д гүн гүнзгий хайртай, ойлголттой техникийн зохиолч бөгөөд эдгээр салбар дахь нарийн төвөгтэй ойлголтуудыг сонирхолтой, мэдээлэл сайтай баримт бичгүүдээрээ хялбарчлахад зориулагдсан.