TinyML: Uygulamalar, Sınırlamalar ve Nesnelerin İnterneti ve Uç Cihazlarda Kullanımı

Geçtiğimiz birkaç yılda Yapay Zeka (AI) ve Makine öğrenme (ML) yalnızca sektörde değil, akademik dünyada da popülerlik ve uygulamalarda hızlı bir artışa tanık oldu. Ancak günümüzün makine öğrenimi ve yapay zeka modellerinin büyük bir sınırlaması var: istenen sonuçları ve doğruluğu elde etmek için çok büyük miktarda bilgi işlem ve işlem gücü gerekiyor. Bu genellikle kullanımlarını önemli bilgi işlem gücüne sahip yüksek kapasiteli cihazlarla sınırlar.

Ancak gömülü sistem teknolojisinde kaydedilen ilerlemeler ve Nesnelerin İnterneti endüstrisindeki önemli gelişmeler göz önüne alındığında, makine öğrenimi tekniklerinin ve kavramlarının kullanımının, her yerde bulunan zeka için kaynak kısıtlı bir gömülü sisteme dahil edilmesi arzu edilir. ML kavramlarını gömülü ve IoT sistemlerinde kullanma arzusu, çoklu kaynak kısıtlı, güç kısıtlı ve ucuz cihazlarda ML modellerine ve uygulamalarına izin veren gömülü bir ML tekniği olan TinyML'nin geliştirilmesinin arkasındaki temel motive edici faktördür. 

Bununla birlikte, ML modellerinin düşük bilgi işlem gücüne sahip cihazlara uygulanması, optimizasyon, işlem kapasitesi, güvenilirlik, modellerin bakımı ve çok daha fazlası açısından kendi zorluklarını beraberinde getirdiğinden, ML'nin kaynak kısıtlı cihazlara uygulanması basit olmamıştır. 

Bu yazımızda TinyML modelini daha derinlemesine inceleyeceğiz ve arka planı, TinyML'i destekleyen araçlar ve ileri teknolojileri kullanan TinyML uygulamaları hakkında daha fazla bilgi edineceğiz. Haydi başlayalım. 

TinyML'ye Giriş: Dünyanın Neden TinyML'e İhtiyacı Var?

Nesnelerin İnterneti veya IoT cihazları, birbirine bağlı milyonlarca sensör ve cihazdan gelen verilerin kesintisiz ve gerçek zamanlı işlenmesini sağlamak için kullanıcının yakınındaki çeşitli cihaz ve ağları ifade eden bir bilgi işlem paradigması olan uç bilgi işlemden yararlanmayı amaçlamaktadır. IoT cihazlarının en büyük avantajlarından biri, ağ ucunda konuşlandırılabildikleri için düşük bilgi işlem ve işlem gücüne ihtiyaç duymaları ve dolayısıyla düşük bellek ayak izine sahip olmalarıdır. 

Dahası, IoT cihazları, verileri toplamak ve daha sonra iletmek için büyük ölçüde uç platformlara güveniyor, çünkü bu uç cihazlar duyusal verileri topluyor ve daha sonra bunları yakındaki bir konuma veya işlenmek üzere bulut platformlarına iletiyor. Edge bilişim teknolojisi, verileri depolar ve üzerinde bilgi işlem gerçekleştirir ve aynı zamanda dağıtılmış bilgi işlemi desteklemek için gerekli altyapıyı sağlar. 

IoT cihazlarında uç bilişimin uygulanması şunları sağlar:

1. Son kullanıcılara etkili güvenlik, gizlilik ve güvenilirlik. 
2. Daha düşük gecikme. 
3. Uygulamalara ve hizmetlere daha yüksek kullanılabilirlik ve verimlilik yanıtı. 

Ayrıca uç cihazlar, sensörler ve bulut arasında işbirliğine dayalı bir teknik uygulayabildiği için veri işleme, bulut platformunda gerçekleştirilmek yerine ağ ucunda gerçekleştirilebilir. Bu, etkili veri yönetimi, veri kalıcılığı, etkili dağıtım ve içeriğin önbelleğe alınmasıyla sonuçlanabilir. Ek olarak, IoT'yi H2M veya İnsandan Makineye etkileşimi ve modern sağlık hizmetleri uç bilişimi ile ilgilenen uygulamalarda uygulamak, ağ hizmetlerini önemli ölçüde iyileştirmenin bir yolunu sağlar. 

IoT uç bilişim alanında yapılan son araştırmalar, Makine Öğrenimi tekniklerinin çeşitli IoT kullanım durumlarında uygulanma potansiyelini ortaya koymuştur. Ancak asıl sorun, geleneksel makine öğrenimi modellerinin genellikle güçlü bilgi işlem ve işlem gücü ile yüksek bellek kapasitesi gerektirmesi ve bu durumun, ML modellerinin IoT cihazlarında ve uygulamalarında uygulanmasını sınırlandırmasıdır. 

Ayrıca, günümüzün ileri bilgi işlem teknolojisi, yüksek iletim kapasitesinden ve heterojen sistemlere yol açan etkili güç tasarrufundan yoksundur; bu da, esas olarak ML modellerinin güncellenmesi, eğitimi ve dağıtımı için uyumlu ve bütünsel altyapı gereksiniminin arkasındaki ana nedendir. Gömülü cihazlar için tasarlanan mimari, bu mimarilerin cihazdan cihaza değişen donanım ve yazılım gereksinimlerine bağlı olması nedeniyle başka bir zorluk teşkil etmektedir. IoT ağları için standart bir makine öğrenimi mimarisi oluşturmanın zor olmasının ana nedeni budur. 

Ayrıca mevcut senaryoda, ağ uygulamalarının hesaplama açısından yoğun doğası nedeniyle, farklı cihazlar tarafından oluşturulan veriler işlenmek üzere bulut platformlarına gönderiliyor. Ayrıca, ML modelleri genellikle verileri işlemek için Derin Öğrenmeye, Derin Sinir Ağlarına, Uygulamaya Özel Entegre Devrelere (ASIC'ler) ve Grafik İşleme Birimlerine (GPU'lar) bağımlıdır ve genellikle daha yüksek güç ve bellek gereksinimlerine sahiptirler. Tam teşekküllü makine öğrenimi modellerini IoT cihazlarına dağıtmak, bilgi işlem ve işleme güçlerinin belirgin eksikliği ve sınırlı depolama çözümleri nedeniyle geçerli bir çözüm değildir. 

Düşük güçlü gömülü cihazları minyatürleştirme talebi ve ML modellerini daha fazla güç ve bellek açısından verimli hale getirmek için optimize etme talebi, ML modellerini ve uygulamalarını uç IoT cihazları ve çerçevesinde uygulamayı amaçlayan TinyML'nin önünü açtı. TinyML Nesnelerin İnterneti cihazlarında sinyal işlemeyi etkinleştirir ve yerleşik zeka sağlar, böylece verilerin işlenmek üzere bulut platformlarına aktarılması ihtiyacını ortadan kaldırır. TinyML'in IoT cihazlarına başarılı bir şekilde uygulanması, sonuçta gizliliğin ve verimliliğin artmasına ve aynı zamanda işletme maliyetlerinin azalmasına neden olabilir. Ayrıca TinyML'i daha çekici kılan şey, yetersiz bağlantı durumunda şirket içi analiz sağlayabilmesidir. 

TinyML: Giriş ve Genel Bakış

TinyML; ses, görüntü ve konuşma gibi farklı algılama yöntemleri için cihaz üzerinde analitik gerçekleştirme yeteneğine sahip bir makine öğrenimi aracıdır. TinyML aracını temel alan ML modelleri, düşük güç, bellek ve bilgi işlem gereksinimlerine sahiptir; bu da onları yerleşik ağlar ve pil gücüyle çalışan cihazlar için uygun kılar. Ayrıca TinyML'in düşük gereksinimleri, ML modellerini IoT çerçevesinde dağıtmak için onu ideal bir seçim haline getiriyor.

Mevcut senaryoda, bulut tabanlı ML sistemleri güvenlik ve gizlilik kaygıları, yüksek güç tüketimi, güvenilirlik ve gecikme sorunları gibi birkaç zorlukla karşı karşıyadır; bu nedenle donanım-yazılım platformlarındaki modeller önceden yüklenmiştir. Sensörler, fiziksel dünyayı simüle eden verileri toplar ve daha sonra bir CPU veya MPU (Mikroişlem birimi) kullanılarak işlenir. MPU, uçtan duyarlı makine öğrenimi ağları ve mimarisi tarafından sağlanan makine öğrenimi analitik desteğinin ihtiyaçlarını karşılar. Edge ML mimarisi, veri aktarımı için ML bulutu ile iletişim kurar ve TinyML'nin uygulanması, teknolojinin önemli ölçüde ilerlemesine neden olabilir. 

TinyML'in istenen performansı sağlamak için birbiriyle senkronize çalışan yazılım, donanım ve algoritmaların bir birleşimi olduğunu söylemek yanlış olmaz. Donanım hızlandırıcılarını desteklemeyen donanım ve IoT cihazları için daha iyi ve etkili bir öğrenme deneyimi sağlamak amacıyla analog veya bellek bilişimi gerekebilir. Yazılım söz konusu olduğunda, TinyML kullanılarak oluşturulan uygulamalar Linux veya gömülü Linux gibi platformlar ve bulut özellikli yazılımlar üzerinden dağıtılabilir ve uygulanabilir. Son olarak, TinyML algoritması üzerine kurulu uygulamalar ve sistemler, yüksek bellek tüketimini önlemek için düşük bellek boyutlu modellere ihtiyaç duyan yeni algoritmaların desteğine sahip olmalıdır. 

Özetlemek gerekirse, TinyML aracı kullanılarak oluşturulan uygulamaların, yüksek kaliteli veriler eşliğinde yazılımı kompakt bir şekilde tasarlamanın yanı sıra makine öğrenimi ilkelerini ve yöntemlerini de optimize etmesi gerekir. Bu verilerin daha sonra çok daha büyük kapasiteli ve bilgi işlem gücüne sahip makinelerde eğitilmiş modeller kullanılarak oluşturulan ikili dosyalar aracılığıyla flaşlanması gerekir. 

Ek olarak, TinyML aracında çalışan sistem ve uygulamalar, daha sıkı kısıtlamalar altında çalışırken yüksek doğruluk sağlamalıdır çünkü TinyML sonuçlarını destekleyen küçük güç tüketimi için kompakt yazılımlara ihtiyaç vardır. Ayrıca TinyML uygulamaları veya modülleri, uç gömülü sistemlerdeki işlemlerini desteklemek için pil gücüne bağlı olabilir. 

Bununla birlikte TinyML uygulamalarının iki temel gereksinimi vardır.

1. Milyarlarca ucuz gömülü sistemi ölçeklendirme yeteneği. 
2. Kodun birkaç KB'nin altındaki kapasiteyle cihazın RAM'inde saklanması. 

TinyML'in İleri Teknolojileri Kullanan Uygulamaları

TinyML'in AI ve ML endüstrisinde sıcak bir konu olmasının ana nedenlerinden biri, görme ve konuşma tabanlı uygulamalar, sağlık teşhisi, veri deseni sıkıştırma ve sınıflandırma, beyin kontrol arayüzü, uç bilişim, fenomikler, kendi kendine öğrenme gibi potansiyel uygulamalarıdır. -araba kullanmak ve daha fazlası. 

Konuşma Tabanlı Uygulamalar

Konuşma İletişimi

Tipik olarak konuşmaya dayalı uygulamalar, tüm verilerin önemli olduğu ve iletildiği geleneksel iletişim yöntemlerine dayanır. Ancak son yıllarda anlamsal iletişim, anlamsal iletişimde olduğu gibi geleneksel iletişime alternatif olarak ortaya çıkmış, yalnızca verinin anlamı veya bağlamı iletilmektedir. Anlamsal iletişim, TinyML metodolojileri kullanılarak konuşma tabanlı uygulamalara uygulanabilir. 

Günümüzde sesli iletişim endüstrisindeki en popüler uygulamalardan bazıları konuşma algılama, konuşma tanıma, çevrimiçi öğrenme, çevrimiçi öğretim ve hedefe yönelik iletişimdir. Bu uygulamalar genellikle daha yüksek güç tüketimine sahiptir ve ayrıca ana cihazda yüksek veri gereksinimlerine sahiptirler. Bu gereksinimlerin üstesinden gelmek için, geliştiricilerin düşük depolama tesisi oluşturmak için derin evrişimli ağları kullanan düşük hesaplamalı bir mimari oluşturmalarına olanak tanıyan yeni bir TinySpeech kitaplığı tanıtıldı. 

Geliştiriciler, konuşma geliştirme amacıyla TinyML'yi kullanmak için öncelikle konuşma geliştirme modelinin boyutlandırılmasına değindiler çünkü bu model, donanım sınırlamalarına ve kısıtlamalarına tabiydi. Sorunun üstesinden gelmek için, RNN veya Tekrarlayan Sinir Ağları konuşma iyileştirme modeli için yapılandırılmış budama ve tamsayı nicelemesi uygulandı. Sonuçlar, modelin boyutunun neredeyse 12 kat, operasyonların ise neredeyse 3 kat azaltılacağını gösterdi. Ek olarak, özellikle ses tanıma uygulamalarını çalıştıran kaynak kısıtlı uygulamalara dağıtıldığında kaynakların etkili bir şekilde kullanılması hayati önem taşımaktadır. 

Sonuç olarak, süreci bölümlendirmek amacıyla TinyML tabanlı ses ve konuşma tanıma uygulamaları için ortak tasarım yöntemi önerilmiştir. Geliştiriciler, ham ses verilerini önceden işleyecek şekilde yazılım ve donanımı bölümlemek için pencereleme işlemini kullandı. Sonuçlar donanımın enerji tüketiminde bir azalma gösterdiğinden, yöntem işe yaramış gibi görünüyordu. Son olarak, yakın gelecekte daha iyi performans için yazılım ve donanım ortak tasarımı arasında optimize edilmiş bölümleme uygulama potansiyeli de bulunmaktadır. 

Ayrıca, son araştırmalar, konuşma tanıma sistemleri için telefon tabanlı bir dönüştürücünün kullanılmasını önermektedir ve teklif, uç cihazlardaki hesaplama ihtiyaçlarını azaltmak için LSTM tahmincilerinin Conv1D katmanıyla değiştirilmesini amaçlamaktadır. Uygulandığında, SVD veya Tekil Değer Ayrışımı modeli başarıyla sıkıştırdığından teklif olumlu sonuçlar verdi; oysa WFST veya Ağırlıklı Sonlu Durum Dönüştürücüleri tabanlı kod çözme kullanımı, model iyileştirme önyargısında daha fazla esneklik sağladı. 

Sanal veya sesli asistanlar, canlı altyazı ve sesli komutlar gibi birçok önemli konuşma tanıma uygulaması, çalışmak için ML tekniklerini kullanır. Şu anda Siri ve Google Asistan gibi popüler sesli asistanlar, her veri aldıklarında bulut platformuna ping atıyor ve bu, gizlilik ve veri güvenliğiyle ilgili önemli endişeler yaratıyor. TinyML, cihazlarda konuşma tanımayı gerçekleştirmeyi ve verileri bulut platformlarına taşıma ihtiyacını ortadan kaldırmayı hedeflediği için bu soruna uygun bir çözüm sunuyor. Cihaz üzerinde konuşma tanımayı sağlamanın yollarından biri, hesaplama gereksinimlerini azaltmak için LSTM katmanları yerine bir Conv1D katmanıyla birleştirilmiş bir DFSMN veya Derin İleri Beslemeli Sıralı Bellek Bloğu katmanını kullanan bir konuşma tanıma modeli olan Tiny Transducer'ı kullanmaktır. ve ağ parametreleri. 

İşitme

İşitme kaybı dünya çapında önemli bir sağlık sorunudur ve insanların sesleri duyma yeteneği genellikle yaşlandıkça zayıflar ve Çin, Japonya ve Güney Kore gibi yaşlanan nüfusla mücadele eden ülkelerde büyük bir sorundur. İşitme cihazı cihazları şu anda çevreden gelen tüm giriş seslerini yükseltmek gibi basit bir prensiple çalışmaktadır, bu da kişinin özellikle gürültülü ortamlarda istenen sesi ayırt etmesini veya ayırt etmesini zorlaştırmaktadır. 

İşitme cihazı cihazları için konuşma tanıma algoritmasını kullanan TinyLSTM modelinin kullanılması, kullanıcıların farklı sesleri ayırt etmesine yardımcı olabileceğinden TinyML bu sorun için uygun bir çözüm olabilir. 

Vizyon Tabanlı Uygulamalar

TinyML, işlemede çok önemli bir rol oynama potansiyeline sahiptir Bilgisayar görüşü tabanlı veri kümeleri çünkü daha hızlı çıktılar için bu veri kümelerinin uç platformun kendisinde işlenmesi gerekir. Bunu başarmak için TinyML modeli, OpenMV H7 mikro denetleyici kartını kullanarak modeli eğitirken karşılaşılan pratik zorluklarla karşılaşır. Geliştiriciler ayrıca yalnızca 7 KB çerçeve arabellek RAM'iyle çalışan ARM Cortex M496 mikro denetleyicinin yardımıyla Amerikan İşaret Dilini algılayacak bir mimari önerdi. 

TinyML'in uç platformlarda bilgisayar görüşü tabanlı uygulamaya uygulanması, geliştiricilerin yüksek genelleme hatası ve yüksek eğitim ve test doğruluğu ile CNN veya Evrişimli Sinir Ağlarının büyük zorluklarının üstesinden gelmesini gerektirdi. Ancak uygulama, yeni kullanım durumlarındaki görsellerin yanı sıra gürültülü arka planlara da etkili bir şekilde genellenemedi. Geliştiriciler enterpolasyon artırma yöntemini kullandığında model, test verilerinde %98'in üzerinde, genellemede ise yaklaşık %75'lik bir doğruluk puanı verdi. 

Ayrıca geliştiricilerin enterpolasyon artırma yöntemini kullandıklarında kuantizasyon sırasında modelin doğruluğunda düşüş olduğu ancak aynı zamanda modelin çıkarım hızında ve sınıflandırma genellemesinde de artış olduğu gözlendi. Geliştiriciler ayrıca, çeşitli farklı kaynaklardan elde edilen veriler üzerinde genelleştirme modeli eğitiminin doğruluğunu daha da artırmak ve bunun taşınabilir akıllı saatler gibi uç platformlara dağıtılma olasılığını keşfetmek için performansı test etmek için bir yöntem önerdi. 

Ayrıca, konuyla ilgili ek çalışmalar CNN sınırlı kaynaklara sahip cihazlarda CNN mimarisiyle konuşlandırmanın ve istenen sonuçları elde etmenin mümkün olduğunu belirtti. Son zamanlarda geliştiriciler, minimum bellek alanıyla TensorFlow lite kullanarak sınırlı kaynaklara sahip bir ARM Cortex M7 mikrokontrolcüsü üzerinde tıbbi yüz maskelerinin tespiti için bir çerçeve geliştirmeyi başardılar. Model boyutu sonrası kuantizasyon yaklaşık 138 KB iken hedef karttaki girişim hızı yaklaşık 30 FPS idi. 

TinyML'in bilgisayar görüşü tabanlı uygulamaya yönelik bir diğer uygulaması ise, görme engelli kişilerin günlük yaşamlarında kolayca gezinmelerine yardımcı olmak için bastona tutturulabilen bir hareket tanıma cihazının hayata geçirilmesidir. Geliştiriciler bunu tasarlamak için hareket veri kümesini kullandı ve veri kümesini ProtoNN modelini bir sınıflandırma algoritmasıyla eğitmek için kullandı. Kurulumdan elde edilen sonuçlar doğruydu, tasarım düşük maliyetliydi ve tatmin edici sonuçlar verdi. 

TinyML'in bir diğer önemli uygulaması da kaynak ve yerleşik hesaplama gücü eksikliği nedeniyle sürücüsüz araç ve otonom araç endüstrisindedir. Sorunun üstesinden gelmek için geliştiriciler, çalışma zamanında görüntüyü yakalayan çevrimiçi bir tahmin modeli öneren TinyCNN modeli üzerine kurulu bir kapalı döngü öğrenme yöntemini tanıttı. Geliştiricilerin otonom sürüş için TinyML'yi uygularken karşılaştığı en büyük sorun, çevrimdışı veriler üzerinde çalışmak üzere eğitilmiş karar modelinin çevrimiçi verilerle çalışırken aynı derecede iyi çalışmayabileceğiydi. Otonom araçların ve sürücüsüz araçların uygulamalarını tam olarak en üst düzeye çıkarmak için modelin ideal olarak gerçek zamanlı verilere uyum sağlayabilmesi gerekir. 

Veri Deseni Sınıflandırması ve Sıkıştırma

Mevcut TinyML çerçevesinin en büyük zorluklarından biri, çevrimiçi eğitim verilerine uyum sağlamasını kolaylaştırmaktır. Sorunun üstesinden gelmek için geliştiriciler, mikro denetleyici birimlerinde artımlı çevrimiçi öğrenmeyle eğitime olanak tanıyan ve böylece modelin IoT uç cihazlarında güncellenmesine olanak tanıyan TinyOL veya TinyML Çevrimiçi Öğrenme olarak bilinen bir yöntem önerdiler. Uygulama C++ programlama dili kullanılarak gerçekleştirildi ve TinyOL mimarisine ek bir katman eklendi. 

Ayrıca geliştiriciler, Arduino Nano 33 BLE sensör kartının otomatik kodlamasını da gerçekleştirdi ve eğitilen model, yeni veri modellerini sınıflandırabildi. Ayrıca geliştirme çalışması, çevrimiçi cihaz eğitim modellerini desteklemek amacıyla sinir ağları için verimli ve daha optimize edilmiş algoritmalar tasarlamayı da içeriyordu. 

TinyOL ve TinyML'deki araştırmalar, sınırlı kaynaklara sahip IoT uç cihazları için aktivasyon katmanı sayısının önemli bir sorun olduğunu göstermiştir. Bu sorunu çözmek için geliştiriciler, IoT uç cihazları üzerinden bellek kullanımını çok daha etkili hale getirmek ve aktivasyon amacıyla ara katmanların kullanılmasını önlemek amacıyla yeni TinyTL veya Tiny Transfer Learning modelini tanıttı. Ayrıca geliştiriciler ayrıca "" olarak bilinen tamamen yeni bir önyargı modülünü de tanıttı.lite artık modülüUyarlama yeteneklerini en üst düzeye çıkarmak ve tabii ki özellik çıkarıcıların artık özellik haritalarını keşfetmesine izin vermek. 

Tam ağ ince ayarıyla karşılaştırıldığında sonuçlar TinyTL mimarisi lehineydi çünkü sonuçlar TinyTL'nin orta düzeyde doğruluk kaybıyla bellek yükünü yaklaşık 6.5 kat azalttığını gösterdi. Son katmana ince ayar yapıldığında TinyML, orta düzeyde doğruluk kaybıyla doğruluğu %34 oranında artırdı. 

Ayrıca, veri sıkıştırma üzerine yapılan araştırmalar şunu göstermiştir: veri sıkıştırma algoritmaları Toplanan verileri taşınabilir bir cihazda yönetmesi gerekiyor ve bunu başarmak için geliştiriciler TAC veya Tiny Anomaly Compressor'ı önerdi. TAC, SDT veya Swing Door Trending ve DCT veya Discrete Cosine Transform algoritmalarından daha iyi performans göstermeyi başardı. Ek olarak TAC algoritması, %98'in üzerinde maksimum sıkıştırma oranı elde ederek ve üç algoritma arasında üstün tepe sinyal-gürültü oranına sahip olarak hem SDT hem de DCT algoritmalarından daha iyi performans gösterdi. 

Sağlık Teşhisi

Kovid-19 küresel salgını, TinyML'nin uygulanması için yeni fırsat kapıları açtı çünkü artık öksürük ve soğuk algınlığıyla ilgili solunum semptomlarını sürekli olarak tespit etmek önemli bir uygulamadır. Kesintisiz izlemeyi sağlamak için geliştiriciler, çoklu model ayarında çalışan bir CNN modeli Tiny RespNet önerdiler ve model, cihazın bilgileri paralel olarak işlemesine olanak tanıyan, yüksek verimliliğe sahip bir Xilinx Artix-7 100t FPGA üzerinden konuşlandırıldı. ve düşük güç tüketimi. Ek olarak TinyResp modeli, sınıflandırma girdisi olarak hastaların konuşmalarını, ses kayıtlarını ve demografi bilgilerini de alır ve bir hastanın öksürükle ilişkili semptomları üç farklı veri seti kullanılarak sınıflandırılır. 

Ayrıca geliştiriciler, uç cihazlarda derin öğrenme hesaplamalarını çalıştırabilen bir model olan TinyDL adlı bir TinyML modeli de önerdiler. TinyDL modeli, sağlık teşhisi için akıllı saatler ve giyilebilir cihazlar gibi uç cihazlara uygulanabiliyor ve aynı zamanda bant genişliğini, gecikmeyi ve enerji tüketimini azaltmak için performans analizi gerçekleştirebiliyor. TinyDL'nin el cihazlarında konuşlandırılmasını sağlamak için, giyilebilir bir cihaza özel olarak bir LSTM modeli tasarlandı ve eğitildi ve toplanan veriler girdi olarak beslendi. Modelin doğruluk puanı yaklaşık %75 ila 80 arasındaydı ve cihaz dışı verilerle de çalışabiliyordu. Uç cihazlarda çalışan bu modeller, IoT cihazlarının karşılaştığı mevcut zorlukları çözme potansiyelini gösterdi. 

Son olarak geliştiriciler, yaşlı insanların vücut pozlarını tahmin edip analiz ederek sağlıklarını izlemek için başka bir uygulama da önerdiler. Model, cihaz üzerinde, modelin doğrulamayı sağlamasına ve uyarlamaları gerçekleştirmek için hızlı teşvik edilmesine olanak tanıyan agnostik çerçeveyi kullanır. Model, uzay-zamansal vücut pozlarını gerçek zamanlı olarak tespit etmek için yüz işaretleriyle birlikte vücut pozu algılama algoritmaları uyguladı. 

Kenar Hesaplama

TinyML'in en önemli uygulamalarından biri, dünya çapındaki cihazları bağlamak için IoT cihazlarının kullanımının artmasıyla birlikte uç bilişim alanındadır; bulut mimarileri üzerindeki yükün azaltılmasına yardımcı olacağı için uç cihazların kurulması çok önemlidir. . Bu uç cihazlar, bulut mimarisine güvenmek yerine, cihazın kendisi üzerinde yüksek düzeyde bilgi işlem gerçekleştirmelerine olanak sağlayacak bireysel veri merkezlerine sahip olacak. Sonuç olarak, buluta olan bağımlılığın azaltılmasına, gecikmenin azaltılmasına, kullanıcı güvenliğinin ve gizliliğinin geliştirilmesine ve ayrıca bant genişliğinin azaltılmasına yardımcı olacaktır. 

TinyML algoritmalarını kullanan uç cihazlar, güç, bilgi işlem ve bellek gereksinimleriyle ilgili mevcut kısıtlamaların çözülmesine yardımcı olacaktır ve bu, aşağıdaki resimde tartışılmaktadır. 

Ayrıca TinyML, İnsansız Hava Araçları veya İHA'ların kullanımını ve uygulamasını, bu makinelerin karşılaştığı mevcut sınırlamaları ele alarak geliştirebilir. TinyML kullanımı, geliştiricilerin bu İHA'lar için kontrolör görevi görebilecek, düşük gecikme süresine ve yüksek bilgi işlem gücüne sahip, enerji açısından verimli bir cihaz uygulamasına olanak tanıyabilir. 

Beyin-Bilgisayar Arayüzü veya BCI

TinyML'in sağlık sektöründe önemli uygulamaları vardır ve kanser ve tümör tespiti, EKG ve EEG sinyallerini kullanarak sağlık tahminleri ve duygusal zeka gibi farklı alanlarda oldukça faydalı olduğu kanıtlanabilir. TinyML kullanımı, Uyarlanabilir Derin Beyin Stimülasyonunun veya aDBS'nin klinik uyarlamalara başarılı bir şekilde uyum sağlamasına olanak sağlayabilir. TinyMl kullanımı aynı zamanda aDBS'nin beyin sinyallerinin istilacı kayıtlarını kullanarak hastalıkla ilgili biyolojik işaretleri ve semptomlarını tanımlamasına da olanak tanıyabilir. 

Ayrıca, sağlık sektörü sıklıkla bir hastaya ait büyük miktarda verinin toplanmasını içerir ve bu verilerin daha sonra, bir hastalığın erken evrelerinde bir hastanın tedavisine yönelik spesifik çözümlere ulaşmak için işlenmesi gerekir. Sonuç olarak, yalnızca son derece etkili değil, aynı zamanda son derece güvenli bir sistem oluşturmak hayati önem taşıyor. IoT uygulamasını TinyML modeliyle birleştirdiğimizde H-IoT veya Sağlık Hizmetlerinde Nesnelerin İnterneti adında yeni bir alan doğuyor ve H-IoT'nin başlıca uygulamaları teşhis, izleme, lojistik, yayılma kontrolü ve yardımcı sistemlerdir. Bir hastanın sağlığını uzaktan tespit edip analiz edebilen cihazlar geliştirmek istiyorsak, küresel erişilebilirliğe ve düşük gecikme süresine sahip bir sistem geliştirmek çok önemlidir. 

Özerk Araçlar

Son olarak TinyML, otonom araç endüstrisinde, bu araçların insan takibi, askeri amaçlar dahil olmak üzere farklı şekillerde kullanılabilmesi ve endüstriyel uygulamalara sahip olması nedeniyle yaygın uygulamalara sahip olabilir. Bu araçların birincil gereksinimi, nesne aranırken nesneleri verimli bir şekilde tanımlayabilmektir. 

Şu an itibariyle otonom araçlar ve otonom sürüş, özellikle mini veya küçük boyutlu araçların geliştirilmesinde oldukça karmaşık bir iştir. Son gelişmeler, bir CNN mimarisi kullanarak ve modeli GAP8 MCI üzerinden dağıtarak mini araçlar için otonom sürüş uygulamasını geliştirme potansiyelini göstermiştir. 

Zorluklar

TinyML, AI ve ML endüstrisinde nispeten daha yeni bir kavramdır ve ilerlemeye rağmen, uç ve IoT cihazlarının toplu dağıtımı için hâlâ ihtiyaç duyduğumuz kadar etkili değildir. 

TinyML cihazlarının şu anda karşılaştığı en büyük zorluk, bu cihazların güç tüketimidir. İdeal olarak, gömülü uç ve IoT cihazlarının 10 yılı aşan bir pil ömrüne sahip olması beklenir. Örneğin, ideal durumda, 2Ah pille çalışan bir IoT cihazının, cihazın güç tüketiminin yaklaşık 10 yıl olduğu göz önüne alındığında, 12 yıldan fazla pil ömrüne sahip olması gerekir. uA. Bununla birlikte, sıcaklık sensörü, MCU ünitesi ve WiFi modülü içeren bir IoT mimarisinin söz konusu durumunda, mevcut tüketim yaklaşık 176.4 mA'dır ve bu güç tüketimiyle pil, bunun yerine yalnızca yaklaşık 11 saat dayanacaktır. gereken 10 yıllık pil ömrü. 

Kaynak Kısıtlamaları

Bir algoritmanın tutarlılığını korumak için güç kullanılabilirliğini sürdürmek hayati önem taşıyor ve mevcut senaryo göz önüne alındığında, TinyML cihazlarının sınırlı güç kullanılabilirliği kritik bir zorluk. Ayrıca, modellerin dağıtılmasının etkili ve doğru bir şekilde çalışması için genellikle yüksek miktarda bellek gerektirdiğinden, bellek sınırlamaları da önemli bir zorluktur. 

Donanım Kısıtlamaları

Donanım kısıtlamaları, donanım aygıtlarının heterojenliği nedeniyle TinyML algoritmalarının geniş ölçekte dağıtılmasını zorlaştırır. Her biri kendi donanım özelliklerine ve gereksinimlerine sahip binlerce cihaz var ve sonuç olarak TinyML algoritmasının şu anda her cihaz için ayarlanması gerekiyor, bu da toplu dağıtımı önemli bir sorun haline getiriyor. 

Veri Kümesi Kısıtlamaları

TinyML modellerinin en büyük sorunlarından biri mevcut veri setlerini desteklememeleridir. Harici sensörler kullanarak veri toplayan tüm uç cihazlar için bu bir zorluktur ve bu cihazlarda genellikle güç ve enerji kısıtlamaları bulunur. Bu nedenle mevcut veri setleri TinyML modellerini etkili bir şekilde eğitmek için kullanılamaz. 

Son Düşüncelerimiz

ML tekniklerinin geliştirilmesi, IoT ekosisteminde bir devrime ve bakış açısında bir değişime neden oldu. ML modellerinin IoT cihazlarına entegrasyonu, bu uç cihazların herhangi bir harici insan girişi olmadan kendi başlarına akıllı kararlar almasına olanak tanıyacak. Bununla birlikte, geleneksel olarak ML modelleri genellikle yüksek güç, bellek ve bilgi işlem gereksinimlerine sahiptir ve bu da onları genellikle kaynak kısıtlı olan uç cihazlara dağıtılmak üzere birleştirir. 

Sonuç olarak yapay zekada yeni bir dal, Nesnelerin İnterneti cihazları için makine öğreniminin kullanımına tahsis edildi ve bu dal TinyML olarak adlandırıldı. TinyML, kaynakları kısıtlı cihazların bile daha yüksek doğruluk, zeka ve verimlilik sağlamak için AI ve ML'nin gücünden yararlanmasına olanak tanıyan bir ML çerçevesidir. 

Bu yazımızda TinyML modellerinin kaynak kısıtlı IoT cihazlarına uygulanmasından bahsettik ve bu uygulama modellerin eğitilmesini, modellerin donanım üzerinde konuşlandırılmasını ve nicemleme tekniklerinin uygulanmasını gerektiriyor. Ancak mevcut kapsam göz önüne alındığında, IoT ve uç cihazlarda dağıtılmaya hazır makine öğrenimi modelleri, donanım ve çerçeve uyumluluk sorunları dahil olmak üzere çeşitli karmaşıklıklara ve kısıtlamalara sahiptir.