TinyML: Uygulamalar, Sınırlamalar ve IoT ve Edge Cihazlarda Kullanımı

Son yıllarda Yapay Zeka (AI) ve Makine Öğrenimi (ML) endüstri ve akademide popülerlik ve uygulamalarda büyük bir artış gösterdi. Ancak günümüzün ML ve AI modellerinin bir büyük sınırlaması vardır: İstenen sonuçları ve doğruluğu elde etmek için büyük miktarda hesaplama ve işleme gücüne ihtiyaç duyarlar. Bu, genellikle büyük hesaplama gücüne sahip cihazlarla sınırlı olmalarına neden olur.

Ancak gömülü sistem teknolojisindeki ilerlemeler ve Internet of Things (IoT) endüstrisindeki büyük gelişmeler, gömülü ve IoT sistemlerine ML teknikleri ve kavramlarını dahil etmeyi mümkün kılmaktadır. ML kavramlarını gömülü ve IoT sistemlerine dahil etme isteği, kaynak kısıtlı, güç kısıtlı ve ucuz cihazlarda ML modelleri ve uygulamaları sağlayan bir gömülü ML tekniği olan TinyML’nin geliştirilmesinin ana motivasyon faktörüdür.

Ancak, kaynak kısıtlı cihazlarda ML’yi uygulamak kolay olmadı, çünkü düşük hesaplama gücüne sahip cihazlarda ML modellerini uygulamak, optimize etme, işlem kapasitesi, güvenilirlik, model bakımı ve daha fazlası açısından kendi zorluklarını ortaya koydu.

Bu makalede, TinyML modeline daha derinlemesine bakacağız ve arka planı, TinyML’yi destekleyen araçları ve advanced teknolojiler kullanarak TinyML’nin uygulamalarını öğreneceğiz. Başlayalım.

TinyML’ye Giriş: TinyML’ye Neden İhtiyacımız Var

İnternet of Things (IoT) cihazları, kenar hesaplama adlı bir hesaplama paradigmını kullanmayı hedefler. Bu, milyonlarca sensör ve cihazın birbirine bağlandığı ve gerçek zamanlı veri işlemenin sağlandığı bir dizi cihaz ve ağdır. IoT cihazlarının büyük avantajlarından biri, düşük hesaplama ve işleme gücüne ihtiyaç duymalarıdır, çünkü bunlar ağ kenarında dağıtılabilir ve bu nedenle düşük bir bellek izine sahiptirler.

Ayrıca, IoT cihazları veri toplamak ve iletmek için kenar platformlarına güvenmektedir. Bu kenar cihazları sensör verileri toplar ve bunları yakın bir konuma veya bulut platformlarına işleme için iletir. Kenar hesaplama teknolojisi, verileri depolar ve işler ve dağıtılmış hesaplama için gerekli altyapıyı sağlar.

Kenar hesaplamanın IoT cihazlarında uygulanması, son kullanıcılara etkili güvenlik, gizlilik ve güvenilirlik sağlar. Ayrıca, daha düşük gecikme, daha yüksek kullanılabilirlik ve uygulamalara ve hizmetlere daha hızlı yanıt sağlar.

Ayrıca, kenar cihazları sensörler ve bulut arasında işbirliği yapabilir, böylece veri işleme kenar ağında değil, bulut platformunda yapılabilir. Bu, etkili veri yönetimi, veri kalıcılığı, etkili teslimat ve içerik önbelleğe alma sağlayabilir. Ayrıca, IoT’u H2M (İnsan-Makine) etkileşimi ve modern sağlık hizmetleri gibi uygulamalarda kenar hesaplama, ağ hizmetlerini önemli ölçüde iyileştirebilir.

Son araştırmalar, IoT kenar hesaplama alanında Makine Öğrenimi tekniklerinin uygulanma potansiyelini göstermiştir. Ancak, geleneksel Makine Öğrenimi modelleri genellikle güçlü hesaplama ve işleme gücüne ve yüksek bellek kapasitesine ihtiyaç duyar, bu da IoT cihazlarında ve uygulamalarında ML modellerinin uygulanmasını sınırlar.

Ayrıca, günümüzün kenar hesaplama teknolojisi, etkili güç tasarrufu ve yüksek iletim kapasitesi açısından eksiklikler içerir, bu da heterojen sistemlere yol açar ve özellikle ML modellerinin güncellenmesi, eğitimi ve dağıtımı için uyumlu ve bütüncül bir altyapıya ihtiyaç duyulmasına neden olur. Gömülü cihazlar için tasarlanan mimari, donanım ve yazılım gereksinimlerinin cihazdan cihaza değiştiği için başka bir zorluk oluşturur. Bu, IoT ağları için standart bir ML mimarisinin oluşturulmasını zorlaştırır.

Ayrıca, mevcut durumda, farklı cihazlardan gelen veriler, işleme için bulut platformlarına gönderilir, çünkü ağ uygulamaları hesaplama açısından yoğundur. Ayrıca, ML modelleri genellikle derin öğrenme, derin sinir ağları, uygulama özel entegre devreler (ASIC’ler) ve grafik işlem birimleri (GPU’lar) gibi donanımlara bağlıdır ve genellikle daha yüksek güç ve bellek gereksinimlerine sahiptir. Tam Makine Öğrenimi modellerini IoT cihazlarına dağıtmak, hesaplama ve işleme gücünün açık eksikliği ve sınırlı depolama çözümleri nedeniyle uygulanabilir bir çözüm değildir.

Düşük güçte gömülü cihazları küçültme ve ML modellerini daha güç ve bellek verimli hale getirme ihtiyacı, IoT ve kenar cihazlarında ve çerçevede ML modelleri ve uygulamaları uygulayan TinyML’nin yolunu açmıştır. TinyML, IoT cihazlarında sinyal işleme sağlar ve gömülü zekayı sağlar, böylece verilerin bulut platformlarına işleme için aktarılma ihtiyacını ortadan kaldırır. TinyML’nin IoT cihazlarında başarılı bir şekilde uygulanması, artan gizlilik ve verimlilik ile birlikte işletme maliyetlerinin azaltılmasına yol açabilir. Ayrıca, TinyML, yetersiz bağlantılı durumlarda, yerel analiz sunabilir.

TinyML: Giriş ve Genel Bakış

TinyML, ses, görme ve konuşma gibi farklı algılamalar için cihazda analiz yapabilen bir Makine Öğrenimi aracıdır. TinyML aracında oluşturulan ML modelleri, düşük güç, bellek ve hesaplama gereksinimlerine sahiptir, bu da onları pil gücüyle çalışan gömülü ağlar ve cihazlar için uygun hale getirir. Ayrıca, TinyML’nin düşük gereksinimleri, onu IoT çerçevesinde ML modellerini dağıtmak için ideal bir seçim haline getirir.

Mevcut durumda, bulut tabanlı ML sistemleri, güvenlik ve gizlilik endişeleri, yüksek güç tüketimi, bağımlılık ve gecikme sorunları gibi beberapa zorlukla karşı karşıyadır, bu nedenle donanım ve yazılım platformlarında önceden yüklenmiş modeller kullanılır. Sensörler fiziksel dünyayı simüle eden verileri toplar ve bunlar bir CPU veya MPU (Mikroişlemci Birimi) tarafından işlenir. MPU, kenar ağları ve mimarisi tarafından sağlanan ML analitik desteğine ihtiyaç duyar. Kenar ML mimarisi, veri aktarımı ve TinyML’nin uygulanması için ML bulutu ile iletişim kurar. TinyML’nin uygulanması, teknolojide önemli bir ilerlemeye yol açabilir.

TinyML, yazılım, donanım ve algoritmaların birbirleriyle senkronize çalışarak istenilen performansı sağladığı bir birliktir. Analog veya bellek hesaplama, donanımda hızlandırıcılar desteklemeyen gömülü cihazlar ve IoT cihazları için daha iyi ve etkili bir öğrenme deneyimi sağlamak için gerekli olabilir. Yazılım açısından, TinyML kullanarak oluşturulan uygulamalar, Linux veya gömülü Linux gibi platformlar üzerinde ve bulut tabanlı yazılımlar üzerinde dağıtılabilir ve uygulanabilir. Son olarak, TinyML algoritmasına dayanan uygulamalar ve sistemler, düşük bellek boyutuna sahip modelleri destekleyen yeni algoritmalarla desteklenmelidir.

TinyML kullanarak oluşturulan uygulamaların, ML ilkelerini ve yöntemlerini optimize etmesi ve aynı zamanda yüksek kaliteli veri ile birlikte yazılımı kompakt bir şekilde tasarlaması gerekir. Bu veriler daha sonra, büyük kapasite ve hesaplama gücüne sahip makinelerde eğitilen modellerle oluşturulan ikili dosyalar aracılığıyla işlenir. Ayrıca, TinyML kullanarak oluşturulan uygulamalar, daha küçük güç tüketimi için kompakt bir yazılıma ihtiyaç duyar, bu da TinyML’nin gereksinimlerini destekler.

TinyML uygulamaları, iki temel gereksinime sahiptir:
1. Milyarlarca ucuz gömülü sistemin ölçeklenebilirliğini sağlamak.
2. Cihazın RAM’ine birkaç KB’lık kapasite altında kod depolamak.

İleri Teknolojiler Kullanarak TinyML Uygulamaları

TinyML, AI ve ML endüstrisinde popüler bir konudur, çünkü görme ve konuşma tabanlı uygulamalar, sağlık teşhisi, veri desen sınıflandırma ve sıkıştırma, beyin-bilgisayar arayüzü, kenar hesaplama, fenotip, otonom araçlar ve daha fazlası gibi potansiyel uygulamalara sahiptir.

Konuşma Tabanlı Uygulamalar

Konuşma İletişimi

Konuşma tabanlı uygulamalar genellikle geleneksel iletişim yöntemlerine dayanır, burada tüm veri önemlidir ve iletilir. Ancak son yıllarda, anlamsal iletişim, yalnızca veri anlamının veya bağlamının iletilmesi olarak ortaya çıkmıştır. Anlamsal iletişim, TinyML yöntemleri kullanılarak konuşma tabanlı uygulamalarda uygulanabilir.

Konuşma iletişimi endüstrisindeki en popüler uygulamalardan bazıları konuşma algılama, konuşma tanıma, online öğrenme, online öğretim ve hedefe yönelik iletişimdir. Bu uygulamalar genellikle yüksek güç tüketimi ve yüksek veri gereksinimlerine sahiptir. Bu gereksinimleri aşmak için, geliştiriciler, derin sinir ağlarını kullanarak düşük hesaplama mimarisine sahip bir konuşma kütüphanesi olan TinySpeech’i tanıttılar.

TinyML’yi konuşma geliştirmek için kullanmak için, geliştiriciler konuşma geliştirme modelinin boyutunu ele aldılar, çünkü bu model donanım kısıtlamalarına tabiydi. Bu sorunu çözmek için, RNN (Recurrent Neural Network) konuşma geliştirme modeli için yapısal budama ve tamsayı kuantizasyonu uygulandı. Sonuçlar, modelin boyutunun yaklaşık 12 kat azaltıldığını ve operasyonların yaklaşık 3 kat azaltıldığını gösterdi. Ayrıca, kaynak kısıtlı uygulamalarda, özellikle ses tanıma uygulamalarında, kaynakların etkili bir şekilde kullanılması önemlidir.

Sonuç olarak, işlemin bölümlenmesi için TinyML tabanlı ses ve konuşma tanıma uygulamaları için bir ortak tasarım yöntemi önerildi. Geliştiriciler, ham ses verilerini ön işleme için pencereleme işlemi kullanarak yazılım ve donanımı bölmek için bir yöntem kullandılar. Yöntem işe yaradı, çünkü sonuçlar donanım üzerinde enerji tüketiminde bir azalma gösterdi. Son olarak, yazılım ve donanım ortak tasarımında optimize edilmiş bölümlenme için potansiyel vardır.

Ayrıca, recent araştırmalar, konuşma tanıma sistemleri için telefon tabanlı bir transdüserin kullanılmasını önerdi ve öneri, LSTM tahmincilerini Conv1D katmanıyla değiştirmeyi amaçladı, böylece kenar cihazlarında hesaplama gereksinimlerini azalttı. Uygulandığında, öneri olumlu sonuçlar verdi, çünkü SVD (Singular Value Decomposition) modeli başarıyla sıkıştırıldı ve WFST (Weighted Finite State Transducer) tabanlı kodlama, model iyileştirme yanlılığı açısından daha fazla esneklik sağladı.

Birçok popüler ses tanıma uygulaması, sanal asistanlar, canlı altyazılar ve ses komutları gibi, ML tekniklerini kullanır. Popüler ses asistanları, her veri aldıklarında bulut platformuna her defasında sorgu gönderir, bu da önemli güvenlik ve veri güvenliği endişelerine yol açar. TinyML, bu soruna bir çözüm olabilir, çünkü cihazda konuşma tanıma yapmayı hedefler ve verilerin bulut platformlarına aktarılma ihtiyacını ortadan kaldırır. TinyML’yi konuşma tanıma için kullanmanın bir yolu, konuşma tanıma modeli olan Tiny Transducer’i kullanmaktır. Tiny Transducer, DFSMN (Derin Feed-Forward Dizi Hafıza Bloğu) katmanıyla birlikte bir Conv1D katmanını LSTM katmanlarıyla değiştirir, böylece hesaplama gereksinimlerini ve ağ parametrelerini azaltır.

İşitme Cihazları

Dünya genelinde işitme kaybı önemli bir sağlık sorunudur ve insanların işitme yeteneği genellikle yaşlandıkça zayıflar. Mevcut işitme cihazları, çevredekilerin tüm seslerini yükseltme ilkesine dayanır, bu da gürültülü bir ortamda istenilen sesi ayırt etmeyi zorlaştırır.

TinyML, bu soruna bir çözüm olabilir, çünkü işitme cihazlarına konuşma tanıma algoritması kullanan bir TinyLSTM modeli, kullanıcıların farklı sesleri ayırt etmelerine yardımcı olabilir.

Görme Tabanlı Uygulamalar

TinyML, bilgisayar görme tabanlı veri kümelerini işleme yeteneğine sahiptir, çünkü bu veriler daha hızlı çıktılar için kenar platformunda işlenmelidir. Bunu başarmak için, geliştiriciler OpenMV H7 mikrodenetleyici kartı kullanarak modeli eğitirken karşılaştıkları pratik zorlukları ele aldılar. Ayrıca, bir ARM Cortex M7 mikrodenetleyici kullanarak Amerikan İşaret Dili’ni tespit etmek için bir mimari önerdiler, bu mikrodenetleyici yalnızca 496KB’lık çerçeve arabelleğiyle çalışır.

TinyML’yi bilgisayar görme tabanlı uygulamalar için kenar platformunda uygulamak, yüksek genelleme hatası ve yüksek eğitim ve test doğruluğu olan CNN’ler (Convolutional Neural Networks) gibi zorluklarla karşılaştı. Ancak, model yeni kullanım durumları ve gürültülü arka planlar için etkili bir şekilde genellemeye sahip değildi. Geliştiriciler, modelin doğruluğunu artırmak için interpolasyon artırma yöntemini kullandılar ve model, test verisi üzerinde %98’den fazla bir doğruluk puanı elde etti ve genellemeye yaklaşık %75’lik bir puan elde etti.

Ayrıca, geliştiriciler, interpolasyon artırma yöntemini kullandıklarında, modelin doğruluğunda bir azalma, ancak modelin çıkarım hızında ve sınıflandırma genellemesinde bir artış gözlemlediler. Geliştiriciler, ayrıca modelin genellemesini artırmak için, çeşitli kaynaklardan elde edilen verilerle eğitim yapılan ve taşınabilir akıllı saatler gibi kenar platformlarında performansını test edilen bir yöntem önerdiler.

Ayrıca, CNN’lere ilişkin ek çalışmalar, sınırlı kaynaklara sahip cihazlarda CNN mimarisini uygulamanın mümkün olduğunu gösterdi. Recent olarak, geliştiriciler, TensorFlow Lite ile sınırlı kaynaklara sahip bir ARM Cortex M7 mikrodenetleyici üzerinde tıbbi yüz maskelerini tespit etmek için bir çerçeve geliştirdiler ve modelin boyutu kuantizasyon sonrası yaklaşık 138 KB idi ve hedef tahtasındaki çıkarım hızı yaklaşık 30 kare/s idi.

TinyML’nin bilgisayar görme tabanlı uygulamalar için başka bir uygulaması, görme engelli insanların günlük yaşamlarını kolaylaştırmak için bir bastonun üzerine takılan bir jest tanıma cihazı uygulamasıdır. Tasarlamak için, geliştiriciler, jest verisi kümesini kullandılar ve ProtoNN modelini bir sınıflandırma algoritması ile eğittiler. Elde edilen sonuçlar doğru, tasarım düşük maliyetliydi ve tatmin edici sonuçlar verdi.

TinyML’nin başka bir önemli uygulaması, otonom araçlar ve self-driving araçlar endüstrisindedir, çünkü kaynak ve borda hesaplama gücünün eksikliği vardır. Bu sorunu çözmek için, geliştiriciler, bir GAP8 MCI üzerinde bir CNN mimarisini uygulayan veTinyCNN modeline dayanan kapalı döngü öğrenme yöntemini tanıttılar. TinyML’yi otonom sürüş için uygulamakta karşılaşılan büyük zorluklardan biri, offline veri ile eğitilen karar modelinin, online veri ile aynı şekilde çalışmayabileceği gerçeğidir. Otonom araçların ve self-driving araçların uygulamalarını tam olarak maksimize etmek için, modelin gerçek zamanlı verilere adapte olabilmesi gerekir.

Veri Desen Sınıflandırma ve Sıkıştırma

TinyML’nin mevcut çerçevesinin en büyük zorluklarından biri, online eğitim verilerine adapte olabilmesidir. Bu sorunu çözmek için, geliştiriciler, mikrodenetleyici birimlerinde artımsal online öğrenme ile eğitim sağlayan TinyOL (TinyML Online Learning) adlı bir yöntem önerdiler. Uygulama, C++ programlama dili kullanılarak gerçekleştirildi ve TinyOL mimarisine ek bir katman eklendi.

Ayrıca, geliştiriciler, Arduino Nano 33 BLE sensör kartını otokodlama yaptı ve model, yeni veri desenlerini sınıflandırmaya yetenekli oldu. Ayrıca, geliştiriciler, cihaz eğitim desenlerini desteklemek için sinir ağları için daha verimli ve optimize edilmiş algoritmalar tasarladılar.

TinyOL ve TinyML’de yapılan araştırmalar, aktivasyon katmanlarının sayısıın IoT kenar cihazları için bir sorun olduğunu gösterdi. Bu sorunu çözmek için, geliştiriciler, IoT kenar cihazlarındaki bellek kullanımını daha etkili hale getirmek ve aktivasyon amaçları için ara katmanların kullanımını önlemek için TinyTL (Tiny Transfer Learning) adlı yeni bir modeli tanıttılar. Ayrıca, geliştiriciler, özelliğin kalıntı haritalarını keşfetmesine izin veren bir “lite-artısal modül” olarak adlandırılan yeni bir yanılma modülünü tanıttılar.

TinyTL mimarisinin, tam ağ ince ayarlaması ile karşılaştırıldığında, bellek aşırı yükünü yaklaşık 6,5 kat azalttığını ve moderate bir doğruluk kaybı olduğunu gösterdi. Son katman ince ayarlandığında, TinyML, doğruluğu %34 oranında artırdı ve moderate bir doğruluk kaybı gösterdi.

Ayrıca, veri sıkıştırma araştırmaları, taşınabilir cihazlarda toplanan verilerin yönetilmesi için veri sıkıştırma algoritmalarının gerekli olduğunu gösterdi. Bu nedenle, geliştiriciler, TAC (Tiny Anomaly Compressor) adlı bir algoritma önerdiler. TAC, SDT (Swing Door Trending) ve DCT (Discrete Cosine Transform) algoritmalarını aştı. Ayrıca, TAC algoritması, diğer iki algoritmadan daha iyi bir maksimum sıkıştırma oranına ulaştı ve en yüksek piksel sinyal-gürültü oranına sahip oldu.

Sağlık Teşhisi

Covid-19 küresel salgını, TinyML’nin uygulanması için yeni fırsatlar açtı, çünkü öksürük ve soğuk algınlığı gibi solunum semptomlarını sürekli olarak tespit etmek artık bir zorunluluktur. Sürekli izleme sağlamak için, geliştiriciler, bir Xilinx Artix-7 100t FPGA üzerinde çalışan, çok model ortamında çalışan bir CNN modeli olan Tiny RespNet’i önerdiler. Model, hastaların sesini, ses kayıtlarını ve demografik bilgilerini girdi olarak alır ve öksürük ile ilgili semptomları üç ayrı veri kümesi kullanarak sınıflandırır.

Ayrıca, geliştiriciler, kenar cihazlarında derin öğrenme hesaplamaları gerçekleştirebilen bir TinyML modeli olan TinyDL’yi önerdiler. TinyDL, sağlık teşhisi için akıllı saatler ve giyilebilir cihazlar gibi kenar cihazlarında dağıtılabilir ve ayrıca bant genişliği, gecikme ve enerji tüketimini azaltmak için performans analizi gerçekleştirebilir. TinyDL’yi el cihazlarına dağıtmak için, geliştiriciler, bir giyilebilir cihaz için özel olarak eğitilmiş bir LSTM modeli tasarladılar ve topladıkları verileri girdi olarak kullandılar. Model, %75-80’lik bir doğruluk puanına sahip oldu ve cihaz dışı verilerle birlikte çalışabildi. Bu modeller, IoT cihazlarının karşılaştığı mevcut zorlukları çözmeye potansiyeli gösterdi.

Son olarak, geliştiriciler, yaşlı insanların vücut duruşlarını tahmin ederek ve analiz ederek sağlık durumlarını izlemek için başka bir uygulama önerdiler. Model, cihazda geçerlilik ve hızlı uyarlamayı sağlayan bir framework kullanır ve vücut duruşlarını gerçek zamanlı olarak tespit etmek için yüz özellikleri ile birlikte vücut duruşu algılama algoritmalarını birleştirir.

Kenar Hesaplama

TinyML’nin önemli uygulamalarından biri, kenar hesaplama alanında, IoT cihazlarının dünya çapında bağlanmasıyla birlikte kenar cihazlarının kurulmasının gerekli hale gelmesidir. Bu kenar cihazları, yüksek düzeyde hesaplama işlemlerini kendi başlarına gerçekleştirebilecek riêng veri merkezlerine sahip olacaktır. Bu, bulut mimarilerine bağımlılığı azaltacak, gecikmeyi azaltacak, kullanıcı güvenliği ve gizliliği artıracak ve bant genişliğini azaltacaktır.

Kenar cihazları, TinyML algoritmalarını kullanarak, güç, hesaplama ve bellek gereksinimlerine ilişkin mevcut kısıtlamaları çözebilir. Aşağıdaki resim, bunu açıklar.

Ayrıca, TinyML, Insansız Hava Araçları (UAV)’nın kullanımını ve uygulamalarını, özellikle mini veya küçük boyutlu araçlar için otonom sürüşü geliştirmek için TinyML’yi uygulayarak artırabilir. TinyML, enerji verimli, düşük gecikme ve yüksek hesaplama gücüne sahip bir cihaz olarak hareket edebilir ve bu UAV’lar için bir kontrolör olarak görev yapabilir.

Beyin-Bilgisayar Arayüzü (BCI)

TinyML, sağlık hizmetleri endüstrisinde önemli uygulamalara sahiptir ve kanser ve tümör tespiti, ECG ve EEG sinyalleri kullanarak sağlık öngörüsü gibi farklı alanlarda büyük faydalar sağlayabilir. TinyML, uyumlu derin beyin stimülasyonu (aDBS) gibi uygulamaların klinik adaptasyonlara başarılı bir şekilde uyum sağlamasına izin verebilir. TinyML, ayrıca aDBS’nin, invazif beyin sinyali kayıtlarını kullanarak hastalıkla ilgili biyolojik izleri ve semptomları tanımlamasına izin verebilir.

Sağlık hizmetleri endüstrisi genellikle büyük miktarda hasta verisi toplar ve bu verilerin işlenmesi, hastalığın erken aşamalarında tedavi için özel çözümler üretmek için gereklidir. Sonuç olarak, hem etkili hem de güvenli bir sistem oluşturmak önemlidir. IoT uygulamalarını TinyML modeliyle birleştirdiğimizde, Sağlık İnterneti (H-IoT) olarak adlandırılan yeni bir alan ortaya çıkar ve H-IoT’nin önemli uygulamaları, teşhis, izleme, lojistik, kontrol ve yardımcı sistemlerdir. Hastaların sağlık durumunu uzaktan izlemek için cihazlar geliştirmek istiyorsak, global erişimi ve düşük gecikmeyi sağlayan bir sistemi geliştirmek önemlidir.

Otonom Araçlar

Son olarak, TinyML, otonom araçlar endüstrisinde geniş uygulamalara sahiptir, çünkü bu araçlar insan takibi, askeri amaçlar ve endüstriyel uygulamalar gibi çeşitli amaçlar için kullanılabilir. Bu araçların birincil gereksinimi, aranan nesneyi etkili bir şekilde tanımlayabilmektir.

Şu anda, otonom araçlar ve otonom sürüş, özellikle küçük boyutlu araçlar için oldukça karmaşıktır. Recent gelişmeler, özellikle GAP8 MCI üzerinde bir CNN mimarisini uygulayarak mini araçlar için otonom sürüşü iyileştirmek için potansiyel gösterdi.

Zorluklar

TinyML, AI ve ML endüstrisinde nispeten yeni bir kavramdır ve尽管 ilerleme kaydedildi, masih etkili bir şekilde IoT ve kenar cihazlarına dağıtmak için yeterli değildir.

TinyML cihazlarının karşılaştığı en büyük zorluk, güç tüketimidir. Gömülü kenar ve IoT cihazları, 10 yıldan fazla bir pil ömrü olması beklenmektedir. Örneğin, ideal koşullarda, 2Ah pil gücüne sahip bir IoT cihazı, güç tüketimi yaklaşık 12 uA ise, 10 yıldan fazla bir pil ömrüne sahip olmalıdır. Ancak, mevcut durumda, bir sıcaklık sensörü, bir MCU birimi ve bir WiFi modülüne sahip bir IoT mimarisinde, güç tüketimi yaklaşık 176,4 mA’dir ve bu güç tüketimi ile pil sadece 11 saat dayanacaktır.

Kaynak Kısıtlamaları

Algoritmaların tutarlılığını korumak için, güç kullanılabilirliğini korumak önemlidir ve mevcut durumda, TinyML cihazlarına yönelik sınırlı güç kullanılabilirliği kritik bir zorluktur. Ayrıca, bellek kısıtlamaları da önemli bir zorluktur, çünkü model dağıtmak genellikle etkili ve doğru bir şekilde çalışmak için büyük miktarda bellek gerektirir.

Donanım Kısıtlamaları

Donanım kısıtlamaları, TinyML algoritmalarını geniş ölçekte dağıtmayı zorlaştırır, çünkü donanım cihazları heterojendir. Binlerce cihaz vardır ve her biri kendi donanım özellikleri ve gereksinimlerine sahiptir ve sonuç olarak, bir TinyML algoritması şu anda her个 cihaz için ayrı ayrı ayarlanmalıdır, bu da kitlesel dağıtımı bir sorun haline getirir.

Veri Kümesi Kısıtlamaları

TinyML modellerinin karşılaştığı en büyük sorunlardan biri, mevcut veri kümelerini desteklememesidir. Bu, tüm kenar cihazları için bir sorundur, çünkü bu cihazlar dış sensörler kullanarak veri toplar ve bu cihazlar genellikle güç ve enerji kısıtlamalarına sahiptir. Bu nedenle, mevcut veri kümeleri, TinyML modellerini etkili bir şekilde eğitmek için kullanılamaz.

Son Düşünceler

ML tekniklerinin geliştirilmesi, IoT ekosisteminde bir devrim ve perspektif değişikliğine neden oldu. IoT cihazlarına ML modellerinin entegrasyonu, bu kenar cihazlarının dış insan girdisi olmadan kendi başlarına akıllı kararlar almasına olanak tanıyacaktır. Ancak, geleneksel ML modelleri genellikle yüksek güç, bellek ve hesaplama gereksinimlerine sahiptir, bu da onları kaynak kısıtlı kenar cihazlarına dağıtmayı zorlaştırır.

Bu nedenle, AI’nin bir dalı, IoT cihazlarına ML’yi uygulama olarak adlandırılan TinyML’ye ayrıldı. TinyML, bir ML çerçevesidir ve kaynak kısıtlı cihazların da AI ve ML’nin gücünden yararlanmasını sağlar, böylece daha yüksek doğruluk, zeka ve verimlilik sağlar.

Bu makalede, kaynak kısıtlı IoT cihazlarına TinyML modellerini uygulamayı ele aldık ve bu uygulama, modelleri eğitme, modelleri donanıma dağıtma ve kuantizasyon tekniklerini uygulama gerektirir. Ancak, mevcut kapsamda, IoT ve kenar cihazlarına dağıtmaya hazır ML modelleri, donanım ve çerçevede uyumluluk sorunları da dahil olmak üzere bir dizi karmaşıklık ve kısıtlamaya sahiptir.