Düşünce Liderleri

tinyML’in Uç Cihazlarda Bilgisayarlı Görüyü Mümkün Kılmadaki Rolü – Düşünce Liderleri

Davis Sawyer
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalartinyML, bulut GPU'larından 100.000 kat daha az bellekle mikrodenetleyicilerde…
Daha fazla göster
  • tinyML, bulut GPU'larından 100.000 kat daha az bellekle mikrodenetleyicilerde bilgisayarlı görüyü mümkün kılar.
  • tinyML aracılığıyla otomatik makine öğrenimi, kaynak kısıtlı uç cihazlarda yapay zeka dağıtımının önündeki engelleri kaldırır.
  • tinyML Vakfı, uçta ultra düşük güçlü makine öğrenimini ilerletmek için 10.000'den fazla üyeyi bir araya getirir.

Yazan: Davis Sawyer, Kurucu Ortağı ve Ürün Başkanı, Deeplite

Bilgisayarlı görüntüleme günlük hayatımızı iyileştirmek için büyük bir potansiyele sahiptir ve birçok uygulama ve kullanımı vardır. Birkaç örnek şunları içerir:

  • Akıllı kapı zilleri ev güvenliği için kapı önündeki paket hırsızlıklarını ve zorla girişleri önlemek için yardımcı olur. I.H.S. Markit tarafından yapılan bir araştırmaya (SecurityInfoWatch’de yayınlandı) göre, 2021’de dünya çapındaki global güvenlik kameralarının sayısı bir milyara ulaşması bekleniyordu. Sadece ABD’de, kameraların sayısı 85 milyona ulaşması bekleniyordu;
  • Otoparklarda, AI destekli kameralar boş ve dolu otopark noktalarının takibini otomatikleştirir ve tüketicilere açık alanları bildirir;
  • Kamyonlardaki ön konsol kameraları şimdi hız sınırı işaretlerini okuyarak ve kamyonun hızını dinamik olarak azaltarak güvenliği artırır;
  • Ve bağlı kameralarla donatılmış dronlar uzak ve erişilmesi zor alanları izler ve gerçek zamanlı olarak görüntüleri işler ve kararlar alır.

Tüm bu uygulamalar, videoyu izlemek, zeka kullanarak kararlar vermek ve sonra eylem almak için AI ve Makine Öğrenimi (ML) tarafından çalışan akıllı video analitiklerini kullanır.

Kenarda Bilgisayarlı Görüntüleme Daha Fazla Kaynağa İhtiyaç Duyar

Ancak, birçok AI destekli uygulamada olduğu gibi, bilgisayar görüntüleme de karmaşık analizler yapmak ve kararlar vermek için bilgisayar gücü, bellek ve enerji patlamalarına ihtiyaç duyar. Bu, bir veri merkezinde çok fazla bilgisayar gücü ile iyi olabilir, ancak AI’nin kenara taşınmasını engelleyebilir. Özellikle, şirket veri merkezlerinden uzakta bulunan ve küçük pillerle çalışan küçük cihazlar, geleneksel yaklaşımlardan daha küçük, daha hızlı ve “hafif” bir AI türüne ihtiyaç duyar. Ve mevcut cihazlar, AI + ML (bilgisayarlı görüntüleme) işlevselliği ile donatılmalıdır ki rekabetçi ve geçerli kalabilsinler.

Yeni Gelişmeler Derin Sinir Ağlarını Destekler

Bugün, AI’deki yeni gelişmeler Derin Sinir Ağlarını (DNN’ler) daha hızlı, daha küçük ve daha enerji verimli hale getiriyor – ve AI’yi bulut ve veri merkezlerinden kenar cihazlarına ve pil güdümlü sensörlere taşıyor. AI model eğitimi söz konusu olduğunda, şaşırtıcı karbon ayak izi belgelenmiş ve tartışılmıştır (örneğin, bir AI dil modelinin eğitimi bir ömür boyu 5 arabanın emisyonuna eşit miktarda CO2 emisyonuna neden olur). Ancak, AI model çıkarımının çevresel etkisini ve bu ayak izini nasıl azaltabileceğimizi anlamamız gerekir. İşte burada model optimizasyonu, DNN’lerin ekonomik ve çevresel maliyetini azaltarak büyük faydalar sağlayabilir.

TinyML Küçük Cihazlarda AI’yi Etkinleştirir

Bu gelişmelerden biri de tinyML, küçük, pil güdümlü cihazların gelişmiş ML kullanarak bilgisayar görüntüleme ve diğer algılama görevlerini gerçekleştirmesini sağlayan güçlü bir trenddir. Kenarın yakınındaki, kaynak kısıtlı cihazlarda ML çıkarımını kolaylaştırır ve kenar uygulamalarını kullanıcıya daha yakın hale getirir.

Örneğin, bir sunucu GPU’su gibi bir NVIDIA A100, bilgisayar görüntüleme ve doğal dil işleme gibi karmaşık AI’leri çalıştırmak için uygun olan 40 GB’tan fazla kullanılabilir belleğe sahiptir. Ancak, kenar cihazları ve tinyML hakkında konuştuğumuzda, bir ortak mikrodenetleyici (MCU) yalnızca 256 KB’lik bir belleğe sahip olabilir, bu da buluttakinden 100.000 kattan daha az belleğe sahip olduğu anlamına gelir! Ayrıca, veri merkezleri ve bulutun aksine, kenar cihazlarının donanımı sahada kolayca güncellenemez. Bu, AI’mizi mevcut donanıma “sığdırmamız” gerektiğini anlamına gelir, bu da geliştiricilerin bunu başarmak için başarılması mümkünse bile aylarca veya yıllarca deneme yanılma gerektirebilir. İşte burada tinyML, özellikle otomatik makine öğrenimi (AutoML olarak da adlandırılır), AI’yi gerçek dünya uygulamalarına getirmekte büyük bir rol oynayabilir.

Ve tinyML’in etkisi büyüyor. 10.000’den fazla üyesi ile tinyML Vakfı, kenarda ultra düşük güçte makine öğrenimi çözümlerinin geliştirilmesini ve dağıtılmasını desteklemek için ekosistemi büyütüyor. Vakıf, donanım, yazılım, makine öğrenimi, veri bilimcileri, sistem mühendisleri, tasarımcılar, ürün ve iş insanlarından oluşan küresel bir topluluğu bir araya getirir.

Dünya Çapında Fırsatlar

Tüm bunlar, her yerde bulunan milyarlarca küçük, bağlı cihaza gelişmiş zeka eklenerek faydalanabilecek bir dünya anlamına gelir. Ancak bu cihazların çok sınırlı kaynakları vardır, bu nedenle nasıl zeka ekleyebiliriz? tinyML, bilgisayar görüntüleme tabanlı, gerçek dünya uygulamalarına AI ve ML getirmekte, kenarda küçük cihazlarda büyük bir rol oynayabilir. Ve bu, insanların ve şirketlerin bir dizi ürün, hizmet ve endüstri için yeni AI sınırına ulaşmasına yardımcı olarak, insanların ve şirketlerin faydalanabileceği bir dünya çapında faydalar açığa çıkarabilir.

Davis Sawyer Kanadalı bir teknoloji girişimcisidir ve disiplinler arası startup ve AI endüstrisi deneyimine sahiptir. Deeplite'da ürün yönünü ve ticarileştirme stratejisini yönlendiriyor. Deeplite’den önce Davis, immüno-onkolojide ilaç güvenliği, imalat ve petrol ile doğal gaz üretiminin arama ve çıkarma aşamaları için istatistiksel modeller geliştirdi.