TinyML: Uygulamalar, Sınırlamalar ve IoT ve Edge Cihazlarda Kullanımı

Son birkaç yılda, Yapay Zeka (AI) ve Makine Öğrenimi (ML) endüstri ve akademide popülerlik ve uygulamalar açısından büyük bir yükseliş yaşamıştır. Ancak, günümüzün ML ve AI modelleri bir major sınırlamaya sahiptir: İstenen sonuçları ve doğruluğu elde etmek için büyük miktarda hesaplama ve işlem gücüne ihtiyaç duyarlar. Bu, genellikle yüksek kapasiteli cihazlara ve önemli miktarda hesaplama gücüne ihtiyaç duyar.

Ancak, gömülü sistem teknolojisindeki ilerlemeler ve Nesnelerin İnterneti endüstrisindeki önemli gelişmeler, ML teknikleri ve kavramlarını bir gömülü sistemde yaygın zeka için kullanmayı mümkün kılmaktadır. ML kavramlarını gömülü ve IoT sistemlerine entegre etme isteği, kaynak kısıtlı, güç kısıtlı ve ucuz cihazlarda ML modelleri ve uygulamalarına olanak tanıyan gömülü bir ML tekniği olan TinyML’in geliştirilmesinin ana motivasyon faktörüdür.

Ancak, kaynak kısıtlı cihazlarda ML’nin uygulanması basit olmamıştır çünkü düşük hesaplama gücüne sahip cihazlarda ML modellerini uygulamak, optimizasyon, işlem kapasitesi, güvenilirlik, model bakımı ve daha fazlası açısından kendi zorluklarını ortaya koymuştur.

Bu makalede, TinyML modeline daha derinlemesine bakacağız ve arka planı, TinyML’yi destekleyen araçları ve gelişmiş teknolojiler kullanarak TinyML’nin uygulamalarını daha fazla öğreneceğiz. Başlayalım.

TinyML’ye Giriş: Dünya TinyML’ye Neden İhtiyaç Duymaktadır

Nesnelerin İnterneti veya IoT cihazları, veri işlemede gerçek zamanlı ve sorunsuz bir şekilde milyonlarca sensör ve cihazdan gelen verileri işlemek için kenar bilgisayarını kullanmayı hedeflemektedir. IoT cihazlarının birincil avantajları, düşük hesaplama ve işlem gücüne ihtiyaç duymalarıdır çünkü bunlar ağ kenarında dağıtılabilir ve bu nedenle düşük bellek izine sahiptirler.

Ayrıca, IoT cihazları, verileri toplamak ve işlemek için kenar platformlarına güvenmektedir. Bu platformlar, algılayıcı verileri toplar ve bunları yakındaki bir konuma veya bulut platformlarına işleme için iletir. Kenar hesaplama teknolojisi, verileri depolar ve işler ve dağıtılmış hesaplama için gerekli altyapıyı sağlar.

IoT cihazlarında kenar hesaplamanın uygulanması;

1. Kullanıcılara etkili güvenlik, gizlilik ve güvenilirlik sağlar.
2. Daha düşük gecikme sağlar.
3. Daha yüksek kullanılabilirlik ve uygulamalara ve hizmetlere yanıt verir.

Ayrıca, kenar cihazları, sensörler ve bulut arasında işbirliği yapma tekniğini uygulayarak, veri işlemenin ağ kenarında değil, bulut platformunda yapılmasını sağlar. Bu, etkili veri yönetimi, veri kalıcılığı, etkili teslimat ve içerik önbelleğe alma sağlayabilir. Ayrıca, IoT uygulamalarında H2M veya İnsan-Makine etkileşimi ve modern sağlıkta kenar hesaplama, ağ hizmetlerini önemli ölçüde iyileştirebilir.

Nesnelerin İnterneti kenar hesaplama alanında yapılan son araştırmalar, çeşitli IoT kullanım örneklerinde Makine Öğrenimi tekniklerinin uygulanma potansiyelini göstermiştir. Ancak, geleneksel Makine Öğrenimi modelleri genellikle güçlü hesaplama ve işlem gücüne ve yüksek bellek kapasitesine ihtiyaç duyar, bu da IoT cihazları ve uygulamalarında ML modellerinin uygulanmasını sınırlar.

Ayrıca, günümüzün kenar hesaplama teknolojisi, yüksek iletim kapasitesi ve etkili güç tasarrufu açısından eksiklikler içerir, bu da heterojen sistemlere yol açar ve ML modellerinin güncellenmesi, eğitilmesi ve dağıtılması için uyumlu ve bütüncül bir altyapıya ihtiyaç duyulmasına neden olur. Gömülü cihazlar için tasarlanan mimari, donanım ve yazılım gereksinimlerinin cihazdan cihaza değişmesi nedeniyle başka bir zorluk oluşturur. Bu, IoT ağları için standart bir ML mimarisinin oluşturulmasını zorlaştırır.

Ayrıca, mevcut durumda, farklı cihazlardan üretilen veriler, hesaplama açısından yoğun olan ağ uygulamaları nedeniyle işleme için bulut platformlarına gönderilir. Ayrıca, ML modelleri genellikle veri işleme için Derin Öğrenme, Derin Sinir Ağları, Uygulama Özel Entegre Devreler (ASIC’ler) ve Grafik İşlem Birimleri (GPU’lar) gibi donanımlara ihtiyaç duyar ve genellikle daha yüksek güç ve bellek gereksinimlerine sahiptir. Tam teşekküllü ML modellerini IoT cihazlarına dağıtmak, hesaplama ve işlem gücünün eksikliği ve sınırlı depolama çözümleri nedeniyle uygulanabilir bir çözüm değildir.

Düşük güçte gömülü cihazları küçültme ve ML modellerini daha güç ve bellek verimli hale getirme ihtiyacı, IoT kenar cihazları ve çerçevelerinde ML modelleri ve uygulamalarını uygulamayı hedefleyen TinyML’nin yolunu açmıştır. TinyML, IoT cihazlarında sinyal işleme sağlar ve gömülü zekayı sağlar, böylece verilerin işleme için bulut platformlarına aktarılma ihtiyacını ortadan kaldırır. TinyML’nin IoT cihazlarında başarılı bir şekilde uygulanması, sonunda gizlilik ve verimliliği artırırken işletme maliyetlerini azaltabilir. Ayrıca, TinyML’nin daha da çekici olmasını sağlayan bir şey, yetersiz bağlantı durumunda, yerel analiz sağlayabilmesidir.

TinyML: Giriş ve Genel Bakış

TinyML, ses, görüntü ve konuşma gibi farklı algılama modelleri için cihazda analiz yapabilen bir Makine Öğrenimi aracıdır. TinyML aracında oluşturulan ML modelleri, düşük güç, bellek ve hesaplama gereksinimlerine sahiptir, bu da onları gömülü ağlar ve pil gücüyle çalışan cihazlar için uygun hale getirir. Ayrıca, TinyML’nin düşük gereksinimleri, ML modellerini IoT çerçevesinde dağıtmak için ideal bir seçim haline getirir.

Mevcut durumda, bulut tabanlı ML sistemleri, güvenlik ve gizlilik endişeleri, yüksek güç tüketimi, güvenilirlik ve gecikme sorunları gibi beberapa zorluklarla karşı karşıyadır, bu nedenle donanım-yazılım platformlarında önceden yüklenmiş modeller bulunur. Sensörler fiziksel dünyayı simüle eden verileri toplar ve bunlar daha sonra bir CPU veya MPU (Mikroişlemci Birimi) tarafından işlenir. MPU, kenar farkında olan ML ağları ve mimari tarafından sağlanan ML analitiği destekler. Kenar ML mimarisi, veri aktarımı ve TinyML’nin uygulanması için ML bulutuyla iletişim kurar.

Güvenli bir şekilde söylenebilir ki, TinyML, istenilen performansı sağlamak için birlikte çalışan yazılım, donanım ve algoritmaların bir birleşimidir. Donanım ve IoT cihazları için daha iyi ve etkili bir öğrenme deneyimi sağlamak için analog veya bellek hesaplama gerekebilir. Yazılım açısından, TinyML kullanarak oluşturulan uygulamalar, Linux veya gömülü Linux gibi platformlar üzerinde ve bulut destekli yazılımlar üzerinde dağıtılabilir ve uygulanabilir. Son olarak, TinyML algoritması üzerine inşa edilen uygulamalar ve sistemler, yüksek bellek boyutlu modelleri önlemek için düşük bellek boyutlu modellere ihtiyaç duyan yeni algoritmaların desteğine ihtiyaç duyar.

Şeyleri özetlemek gerekirse, TinyML kullanarak oluşturulan uygulamalar, ML ilkeleri ve yöntemlerini optimize etmelidir ve aynı zamanda yazılımı yüksek kaliteli verilerle birlikte sıkı bir şekilde tasarlamalıdır. Bu veriler daha sonra, büyük kapasite ve hesaplama gücüne sahip makinelerde eğitilen modeller tarafından oluşturulan ikili dosyalar aracılığıyla işlenir.

Ayrıca, TinyML aracında çalışan sistemler ve uygulamalar, daha sıkı kısıtlamalar altında yüksek doğrulukla çalışabilmelidir çünkü kompakt yazılım, TinyML’nin gerektirdiği düşük güç tüketimini desteklemek için gereklidir. Ayrıca, TinyML uygulamaları veya modülleri, işlemlerini desteklemek için pil gücüne bağlı olabilir.

Bununla birlikte, TinyML uygulamaları iki temel gereksinime sahiptir

1. Milyarlarca ucuz gömülü sistemin ölçeklenebilmesi.
2. Cihazın RAM’ine birkaç KB altında kod depolama.

TinyML’nin Gelişmiş Teknolojiler Kullanarak Uygulamaları

TinyML’nin AI ve ML endüstrisinde popüler bir konu olmasının ana nedenlerinden biri, görüş ve konuşma tabanlı uygulamalar, sağlık teşhisi, veri desen sıkıştırma ve sınıflandırma, beyin-kontrol arayüzü, kenar hesaplama, fenomik, otonom araçlar ve daha fazlası gibi potansiyel uygulamalarıdır.

Konuşma Tabanlı Uygulamalar

Konuşma İletişimi

Tipik olarak, konuşma tabanlı uygulamalar, tüm verilerin önemli olduğu ve iletilmesi gerektiği geleneksel iletişim yöntemlerine dayanır. Ancak, son yıllarda, anlamsal iletişim, geleneksel iletişimin alternatifi olarak ortaya çıkmıştır ve anlamsal iletişimde, yalnızca verilerin anlamı veya bağlamı iletilir. Anlamsal iletişim, TinyML metodolojileri kullanılarak konuşma tabanlı uygulamalarda uygulanabilir.

Konuşma iletişimi endüstrisinde popüler uygulamalar arasında konuşma algılama, konuşma tanıma, çevrimiçi öğrenme, çevrimiçi öğretim ve hedefe yönelik iletişim bulunur. Bu uygulamalar genellikle yüksek güç tüketimi ve yüksek veri gereksinimlerine sahiptir. Bu gereksinimleri aşmak için, geliştiriciler, düşük hesaplamalı bir mimari oluşturmak için derin convolutional ağlarını kullanan bir TinySpeech kütüphanesi tanıttı.

TinyML’yi konuşma geliştirmek için, geliştiriciler önce konuşma geliştirme modelinin boyutunu ele aldılar çünkü bu, donanım kısıtlamaları ve kısıtlamalarına tabiydi. Bu sorunu çözmek için, RNN veya Rekürrent Sinir Ağları konuşma geliştirme modeli için yapılandırılmış budama ve tamsayı kuantizasyonu uygulandı. Sonuçlar, modelin boyutunun yaklaşık 12 kat, operasyonların ise yaklaşık 3 kat azaltıldığını gösterdi. Ayrıca, özellikle ses tanıma uygulamalarını çalıştıran kaynak kısıtlı uygulamalarda kaynakların etkili bir şekilde kullanılması çok önemlidir.

Sonuç olarak, işlemin bölünmesi için, TinyML tabanlı ses ve konuşma tanıma uygulamaları için bir birlikte tasarım yöntemi önerildi. Geliştiriciler, ham ses verilerini ön işleme için pencereleme işlemini kullandı. Yöntem işe yaradı ve sonuçlar, donanımda enerji tüketiminde bir azalma gösterdi. Son olarak, yazılım ve donanım birlikte tasarımının optimize edilmiş bir bölünmesi için daha iyi bir performansın gelecekte uygulanma potansiyeli vardır.

Ayrıca, recent araştırmalar, konuşma tanıma sistemleri için bir telefon tabanlı transducer kullanımını önerdi ve öneri, LSTM tahmincilerini Conv1D katmanıyla değiştirmeyi hedefledi. Uygulandığında, öneri olumlu sonuçlar verdi ve SVD veya Singular Değer Ayrıştırması modeli başarıyla sıkıştırdı ve WFST veya Ağırlıklı Sonlu Durum Makineleri tabanlı kodlama, model geliştirme yanlılığı açısından daha fazla esneklik sağladı.

Ses tanıma uygulamaları gibi birçok popüler uygulama, Sanal veya Ses Asistanları, Canlı Altyazı ve Ses Komutları, çalışmak için ML tekniklerine güvenmektedir. Popüler Ses Asistanları gibi Siri ve Google Asistan, her veri aldıklarında bulut platformuna her defasında sorgular ve bu, önemli güvenlik ve veri güvenliği endişelerine neden olur. TinyML, bu soruna bir çözüm olabilir çünkü ses tanıma işlemini cihazda gerçekleştirmeyi hedefler ve verilerin bulut platformlarına aktarılma ihtiyacını ortadan kaldırır. Ses tanıma işlemini cihazda gerçekleştirmenin bir yolu, bir DFSMN veya Derin Feed-Forward Dizi Bellek Bloğu katmanıyla birlikte bir Conv1D katmanını kullanan Tiny Transducer adlı bir konuşma tanıma modelini kullanmaktır.

İşitme Cihazları

İşitme kaybı, dünya genelinde bir sağlık sorunudur ve insanların duyma yeteneği genellikle yaşlandıkça zayıflar ve bu, özellikle Çin, Japonya ve Güney Kore gibi yaşlı nüfuslu ülkelerde bir sorundur. Mevcut işitme cihazları, surrounding tüm girişi seslerini amplifiye etme ilkesine dayanır, bu da kişinin özellikle gürültülü bir ortamda istenen sesi ayırt etmesini zorlaştırır.

TinyML, bu soruna bir çözüm olabilir çünkü işitme cihazları için bir TinyLSTM modeli kullanmak, konuşma tanıma algoritmasını kullanarak kullanıcıların farklı sesleri ayırt etmesine yardımcı olabilir.

Görüş Tabanlı Uygulamalar

TinyML, kenar platformunda işlenen bilgisayar görü tabanlı veri kümeleri için önemli bir rol oynamaya sahiptir çünkü daha hızlı çıktılar için bu veri kümelerinin kenar platformunda işlenmesi gerekir. Bunu başarmak için, geliştiriciler, OpenMV H7 mikrodenetleyici kartı kullanarak modeli eğitirken karşılaştıkları pratik zorluklarla karşılaştı. Geliştiriciler, bir ARM Cortex M7 mikrodenetleyiciyle birlikte Amerikan İşaret Dili algılama mimarisi önerdi ve bu, yalnızca 496KB’lik bir çerçeve belleğiyle çalışır.

TinyML’nin bilgisayar görü tabanlı uygulamalarda kenar platformunda uygulanması, yüksek genelleme hatası ve yüksek eğitim ve test doğruluğu olan CNN veya Convolutional Sinir Ağları ile karşılaştı. Ancak, uygulama yeni kullanım örneklerine ve gürültülü arka planlara karşı etkili bir şekilde genellememiştir. Geliştiriciler, interpolasyon artırma yöntemini kullandıklarında, model, test verisi üzerinde %98’in üzerinde bir doğruluk puanı ve genellemeye yaklaşık %75’lik bir puan elde etti.

Ayrıca, interpolasyon artırma yönteminin kullanıldığında, modelin doğruluğunda bir düşüş olduğu ancak modelin çıkarım hızında ve sınıflandırma genellemesinde bir artış olduğu gözlemlendi. Geliştiriciler, ayrıca, modelin genellemesini artırmak için, çeşitli kaynaklardan elde edilen verilerle eğitilen ve taşınabilir akıllı saatler gibi kenar platformlarında uygulanabilecek bir yöntem önerdi.

Ek olarak, CNN üzerine yapılan çalışmalar, sınırlı kaynaklara sahip cihazlarda CNN mimarisini uygulamanın mümkün olduğunu gösterdi. Son gelişmeler, TensorFlow Lite ile minimal bellek izi kullanarak bir ARM Cortex M7 mikrodenetleyici üzerinde tıbbi yüz maskesi algılama çerçevesi geliştirmeyi başardı. Modelin boyutu, kuantizasyon sonrası yaklaşık 138 KB idi ve hedef kart上的 çıkarım hızı yaklaşık 30 FPS idi.

TinyML’nin bilgisayar görü tabanlı uygulamalar için başka bir uygulaması, görme engelli insanların günlük yaşamlarında kolayca gezinmelerine yardımcı olmak için bir bastona takılan bir jest tanıma cihazı uygulamaktır. Tasarlamak için, geliştiriciler, jest veri kümesini kullandı ve bu veri kümesini, bir sınıflandırma algoritması ile ProtoNN modelini eğitmek için kullandı. Elde edilen sonuçlar, tasarımın düşük maliyetli ve tatmin edici sonuçlar verdiği görüldü.

TinyML’nin başka bir önemli uygulaması, otonom araçlar endüstrisindedir çünkü kaynakların eksikliği ve taşınabilir hesaplama gücü, bu makinelerin kontrolünü zorlaştırır. Bu sorunu çözmek için, geliştiriciler, bir TinyCNN modeli üzerine inşa edilen kapalı döngü öğrenme yöntemini tanıttı ve bu, çalışma zamanında bir görüntü yakalayan bir çevrimiçi tahmin modeli önerdi. TinyML’yi otonom sürüş için uygulamanın ana zorluğu, offline verilerle eğitilen karar modelinin, online verilerle aynı şekilde çalışmayabileceği gerçeğinde yatmaktadır. Otonom araçların ve self-driving araçların tam potansiyelini gerçekleştirmek için, modelin gerçek zamanlı verilere adapte olabilmesi gerekir.

Veri Desen Sınıflandırma ve Sıkıştırma

TinyML çerçevesinin en büyük zorluklarından biri, onu online eğitim verilerine adapte etmektir. Bu sorunu çözmek için, geliştiriciler, mikrodenetleyici birimlerinde artımsal online öğrenme ile TinyML Online Öğrenme veya TinyOL olarak bilinen bir yöntem önerdi. Uygulama, C++ programlama dili kullanılarak gerçekleştirildi ve TinyOL mimarisine ek bir katman eklendi.

Ayrıca, geliştiriciler, Arduino Nano 33 BLE sensör kartının otokodlama işlemini gerçekleştirdi ve eğitilen model, yeni veri desenlerini sınıflandırabildi. Ayrıca, geliştiriciler, cihaz eğitim desenlerini desteklemek için daha verimli ve optimize edilmiş algoritmalar tasarladı.

TinyOL ve TinyML üzerine yapılan araştırmalar, IoT kenar cihazlarının kısıtlı kaynakları nedeniyle aktivasyon katmanlarının sayısının önemli bir sorun olduğunu gösterdi. Bu sorunu çözmek için, geliştiriciler, TinyTL veya Tiny Transfer Öğrenme modelini tanıttı ve bu, IoT kenar cihazlarındaki bellek kullanımını daha etkili hale getirdi ve aktivasyon amaçları için ara katmanların kullanımını önledi. Ayrıca, geliştiriciler, “lite-artık modül” olarak adlandırılan yeni bir önyargı modülü tanıttı ve bu, özelliğin haritalama yeteneklerini en üst düzeye çıkarmak ve özelliğin çıkarıcıların artıksal özellik haritalarını keşfetmesini sağlamak için izin verdi.

Tam ağının ince ayarlanması ile karşılaştırıldığında, sonuçlar TinyTL mimarisinden yana oldu ve TinyTL, bellek yükünü yaklaşık 6,5 kat azaltırken, doğruluk kaybı умерildi. Son katman ince ayarlandığında, TinyML, doğruluğu %34 oranında artırdı ve умер doğruluk kaybı yaşandı.

Ayrıca, veri sıkıştırma üzerine yapılan araştırmalar, toplanan verilerin taşınabilir bir cihazda yönetilmesi gerektiğini gösterdi ve bu, Tiny Anomaly Compressor veya TAC olarak bilinen bir algoritma önerildi. TAC, SDT veya Swing Door Trending ve DCT veya Discrete Cosine Transform algoritmalarını aştı ve TAC, diğer iki algoritmadan daha iyi bir performans gösterdi ve maksimum sıkıştırma oranı %98’in üzerindeydi ve sinyal-gürültü oranında en yüksek değere sahipti.

Sağlık Teşhisi

Covid-19 küresel salgını, TinyML’nin uygulanması için yeni fırsatlar açtı ve şimdi, solunum semptomları ile ilgili olarak öksürük ve soğuk algınlığı gibi hastalıkların sürekli olarak tespit edilmesi çok önemlidir. Sürekli izlemeyi sağlamak için, geliştiriciler, bir Xilinx Artix-7 100t FPGA üzerinde çalışan bir çok model ayarında çalışan Tiny RespNet adlı bir CNN modeli önerdi ve bu model, hasta konuşmasının sesini, ses kayıtlarını ve demografik bilgilerini girdi olarak alır ve öksürük ile ilgili semptomları sınıflandırır.

Ayrıca, geliştiriciler, kenar cihazlarında derin öğrenme hesaplamaları gerçekleştirebilen bir TinyML modeli olan TinyDL önerdi ve bu model, sağlık teşhisinde ve performans analizinde kullanılabilir ve bant genişliği, gecikme ve enerji tüketimini azaltabilir. TinyDL’yi el cihazlarına dağıtmak için, geliştiriciler, bir giyilebilir cihaz için özel olarak eğitilmiş bir LSTM modeli tasarladı ve model, yaklaşık %75-80’lik bir doğruluk puanı elde etti ve cihaz dışı verilerle de çalışabildi. Bu modeller, IoT cihazlarında karşılaşılan mevcut zorlukları çözmeye potansiyel olarak sahiptir.

Son olarak, geliştiriciler, yaşlı insanların vücut duruşlarını tahmin ederek ve analiz ederek sağlık durumunu izlemek için bir uygulama önerdi ve model, cihazda doğrulama ve hızlı uyarlamayı sağlayan bir agnostik çerçeveyi kullanır ve vücut duruşlarını gerçek zamanlı olarak tespit etmek için yüz özelliklerini kullanır.

Kenar Hesaplama

TinyML’nin önemli uygulamalarından biri, kenar hesaplama alanında yer alır çünkü IoT cihazlarının dünya genelinde bağlanmasıyla, yükü bulut mimarilerinden azaltmak için kenar cihazlarının kurulması çok önemlidir. Bu kenar cihazları, bireysel veri merkezlerine sahip olacak ve cihazda yüksek düzeyde hesaplama gerçekleştirebileceklerdir.

Bulut bağımlılığını azaltacak, gecikmeyi azaltacak, kullanıcı güvenliğini ve gizliliğini artıracak ve bant genişliğini azaltacaktır. TinyML, IoT ve kenar cihazlarında karşılaşılan güç, hesaplama ve bellek gereksinimlerini çözmeye yardımcı olacaktır.

Ayrıca, TinyML, Insansız Hava Araçları veya İHA’ların kullanımını ve uygulamasını da artırabilir çünkü bu makinelerin current kısıtlamaları vardır. TinyML’nin kullanılması, düşük gecikme ve yüksek hesaplama gücüne sahip, enerji verimli bir cihazın kontrolünü sağlayabilir.

Beyin-Bilgisayar Arayüzü veya BCI

TinyML, sağlık sektöründe önemli uygulamalara sahiptir ve kanser ve tümör tespiti, ECG ve EEG sinyalleri kullanarak sağlık öngörüsü gibi birçok alanda faydalı olabilir. TinyML, Uyumlu Derin Beyin Stimülasyonu veya aDBS’nin klinik uyarlamalara adapte olmasını sağlayabilir. TinyML, ayrıca, invazif beyin sinyalleri kayıtlarını kullanarak hastalıkla ilgili biyobelirteçleri ve semptomları tanımlayabilir.

Ayrıca, sağlık sektörü genellikle büyük miktarda hasta verisinin toplanmasını içerir ve bu veriler, hastanın tedavisi için özel çözümlere ulaşmak için işlenmelidir. Bu nedenle, hem etkili hem de güvenli bir sistem oluşturmak çok önemlidir. TinyML modelini IoT uygulamalarıyla birleştirdiğimizde, bir yeni alan ortaya çıkar: Sağlık İnterneti veya H-IoT ve H-IoT’nin ana uygulamaları, teşhis, izleme, lojistik, yayılma kontrolü ve yardımcı sistemlerdir. Uzaktan bir hastanın sağlık durumunu izlemek için cihazlar geliştirmek istiyorsak, global erişilebilirlik ve düşük gecikme gereklidir.

Otonom Araçlar

Son olarak, TinyML, otonom araçlar endüstrisinde geniş uygulamalara sahiptir çünkü bu araçlar, insan takibi, askeri amaçlar ve endüstriyel uygulamalar gibi birçok alanda kullanılabilir. Bu araçların birincil gereksinimi, aranan nesneyi etkili bir şekilde tanımlayabilmektir.

Şu anda, otonom araçlar ve otonom sürüş, özellikle küçük boyutlu araçlar geliştirilirken, oldukça karmaşık bir görevdir. Son gelişmeler, GAP8 MCI üzerinde bir CNN mimarisini dağıtmak ve modeli uygulamak kullanarak mini araçlar için otonom sürüş uygulamasını iyileştirmeye potansiyel olarak sahiptir.

Zorluklar

TinyML, AI ve ML endüstrisinde относительно yeni bir kavramdır ve尽管 yapılan ilerlemelere rağmen, masih etkili bir şekilde IoT ve kenar cihazlarına dağıtmak için yeterli değildir.

TinyML cihazlarının karşılaştığı en büyük zorluk, güç tüketimidir. İdeal olarak, gömülü kenar ve IoT cihazları, 10 yıldan fazla bir pil ömrü olması beklenmektedir. Örneğin, ideal koşullarda, 2Ah bir pil ile çalışan bir IoT cihazı, güç tüketimi yaklaşık 12 μA ise, 10 yıldan fazla bir pil ömrü olması beklenmektedir. Ancak, mevcut durumda, bir IoT mimarisi, bir sıcaklık sensörü, bir MCU birimi ve bir WiFi modülüne sahipse, akım tüketimi yaklaşık 176.4 mA’dir ve bu, pilin yalnızca 11 saat yerine 10 yıl dayanmasını sağlar.

Kaynak Kısıtlamaları

Bir algoritmanın tutarlılığını korumak için, güç kullanılabilirliğini korumak çok önemlidir ve mevcut durumda, TinyML cihazlarına güç kullanılabilirliğinin sınırlı olması kritik bir zorluktur. Ayrıca, bellek kısıtlamaları da önemli bir zorluktur çünkü model dağıtmak için genellikle yüksek miktarda bellek gerekir.

Donanım Kısıtlamaları

Donanım kısıtlamaları, TinyML algoritmalarını geniş ölçekte dağıtmayı zorlaştırır çünkü donanım cihazları heterojendir ve her bir cihazın kendi donanım ve yazılım gereksinimleri vardır, bu da her bir cihaz için TinyML algoritmasının uyarlanmasını gerektirir.

Veri Kümesi Kısıtlamaları

TinyML modellerinin birincil sorunlarından biri, mevcut veri kümelerini desteklememeleridir. Bu, kenar cihazları için bir zorluktur çünkü bu cihazlar, dış sensörler kullanarak veri toplar ve bu cihazlar genellikle güç ve enerji kısıtlamalarına sahiptir. Bu nedenle, mevcut veri kümeleri, TinyML modellerini etkili bir şekilde eğitmek için kullanılamaz.

Son Düşünceler

ML tekniklerinin gelişmesi, IoT ekosisteminde bir devrim ve perspektif değişikliğine neden oldu. IoT cihazlarına ML modellerinin entegrasyonu, bu kenar cihazlarının dış insan girişi olmadan akıllı kararlar almasına olanak tanıyacaktır. Ancak, geleneksel olarak, ML modelleri yüksek güç, bellek ve hesaplama gereksinimlerine sahiptir, bu da onları kaynak kısıtlı kenar cihazlarına dağıtmak için uygun hale getirmez.

Bu nedenle, IoT cihazlarında ML kullanımına adanmış bir yeni dal, TinyML olarak adlandırıldı. TinyML, bir ML çerçevesidir ve kaynak kısıtlı cihazlara AI ve ML’nin gücünü kullanma olanağı sağlar ve daha yüksek doğruluk, zeka ve verimlilik sağlar.

Bu makalede, kaynak kısıtlı IoT cihazlarında TinyML modellerinin uygulanması hakkında konuştuk ve bu uygulama, model eğitimi, model dağıtımı ve kuantizasyon tekniklerini içerir. Ancak, mevcut durumda, IoT ve kenar cihazlarına dağıtmak için hazırlanmış ML modelleri, donanım ve çerçeve uyumluluğu gibiSeveral kısıtlamalar ve zorluklar içerir.