tinyML’in Kenarında Bilgisayarlı Görüntüleri Etkinleştirmedeki Rolü – Düşünce Liderleri

By: Davis Sawyer, Kurucu Ortağı ve Ürün Başkanı, Deeplite

Bilgisayarlı görüntüleme günlük hayatımızı iyileştirmek için büyük bir potansiyele sahiptir ve birçok uygulama ve kullanımı vardır. Birkaç örnek şunları içerir:

• Akıllı kapı zilleri ev güvenliği için “porch pirates” ve break-in’leri önlemek için yardımcı olur. I.H.S. Markit tarafından yapılan bir araştırmaya (SecurityInfoWatch’de yayınlandı) göre, 2021’de dünya çapındaki global güvenlik kameralarının sayısı bir milyara ulaşması bekleniyordu. Sadece ABD’de, kameraların sayısı 85 milyona ulaşması bekleniyordu;
• Otoparklarda, AI destekli kameralar boş ve dolu otopark noktalarının takibini otomatikleştirir ve tüketicilere açık alanları bildirir;
• Şoförler için kameralar şimdi hız sınırı işaretlerini okuyarak ve kamyonun hızını dinamik olarak azaltarak güvenliği artırır;
• Ve bağlı kameralarla donatılmış dronlar uzak ve erişilmesi zor alanları izler ve gerçek zamanlı olarak görüntüleri işler ve kararlar alır.

Tüm bu uygulamalar, videoyu izlemek, zeka kullanarak kararlar vermek ve sonra eylem almak için AI ve Makine Öğrenimi (ML) tarafından çalışan akıllı video analitiklerini kullanır.

Kenarda Bilgisayarlı Görüntüleme Daha Fazla Kaynağa İhtiyaç Duyar

Ancak, birçok AI destekli uygulamada olduğu gibi, bilgisayar görüntüleme de karmaşık analizler yapmak ve kararlar vermek için bilgisayar gücü, bellek ve enerji patlamalarına ihtiyaç duyar. Bu, bir veri merkezinde çok fazla bilgisayar gücü ile iyi olabilir, ancak AI’nin kenara taşınmasını engelleyebilir. Özellikle, şirket veri merkezlerinden uzakta bulunan ve küçük pillerle çalışan küçük cihazlar, geleneksel yaklaşımlardan daha küçük, daha hızlı ve “hafif” bir AI türü benötir. Ve mevcut cihazlar, AI + ML (bilgisayarlı görüntüleme) işlevselliği ile donatılmalıdır ki rekabetçi ve geçerli kalabilsinler.

Yeni Gelişmeler Derin Sinir Ağlarını Destekler

Bugün, AI’deki yeni gelişmeler Derin Sinir Ağlarını (DNN’ler) daha hızlı, daha küçük ve daha enerji verimli hale getiriyor – ve AI’yi bulut ve veri merkezlerinden kenar cihazlarına ve pil güdümlü sensörlere taşıyor. AI model eğitimi söz konusu olduğunda, şaşırtıcı karbon ayak izi belgelenmiş ve tartışılmıştır (örneğin, bir AI dil modelinin eğitimi bir ömür boyu 5 arabanın emisyonuna eşit miktarda CO2 emisyonuna neden olur). Ancak, AI model çıkarımının çevresel etkisini ve bu ayak izini nasıl azaltabileceğimizi anlamamız gerekir. İşte burada model optimizasyonu, DNN’lerin ekonomik ve çevresel maliyetini azaltarak büyük faydalar sağlayabilir.

TinyML Küçük Cihazlarda AI’yi Etkinleştirir

Bu gelişmelerden biri de tinyML, küçük, pil güdümlü cihazların gelişmiş ML kullanarak bilgisayar görüntüleme ve diğer algılama görevlerini gerçekleştirmesini sağlayan güçlü bir trenddir. Kenarın yakınındaki, kaynak kısıtlı cihazlarda ML çıkarımını kolaylaştırır ve kenar uygulamalarını kullanıcıya daha yakın hale getirir.

Örneğin, bir sunucu GPU’su gibi bir NVIDIA A100, bilgisayar görüntüleme ve doğal dil işleme gibi karmaşık AI’leri çalıştırmak için uygun olan 40 GB’a kadar kullanılabilir belleğe sahiptir. Ancak, kenar cihazları ve tinyML hakkında konuştuğumuzda, bir ortak mikrodenetleyici (MCU) yalnızca 256 KB’lik bir belleğe sahip olabilir, bu da bulutun 100.000 kat daha az belleği anlamına gelir! Ayrıca, veri merkezleri ve bulutun aksine, kenar cihazlarının donanımı sahada kolayca güncellenemez. Bu, AI’mizi mevcut donanıma “sığdırmamız” gerektiğini anlamına gelir, bu da geliştiricilerin bunu başarmak için aylarca veya yıllarca süren deneme yanılma süreçlerine neden olabilir. İşte burada tinyML, özellikle otomatik makine öğrenimi (AutoML olarak da adlandırılır), AI’yi gerçek dünya uygulamalarına getirmekte büyük bir rol oynayabilir.

Ve tinyML’in etkisi büyüyor. 10.000’den fazla üyesi ile tinyML Vakfı, kenarda ultra düşük güçte makine öğrenimi çözümlerinin geliştirilmesini ve dağıtılmasını desteklemek için ekosistemi büyütüyor. Vakıf, donanım, yazılım, makine öğrenimi, veri bilimcileri, sistem mühendisleri, tasarımcılar, ürün ve iş insanlarından oluşan küresel bir topluluğu bir araya getirir.

Dünya Çapında Fırsatlar

Tüm bunlar, her yerde bulunan milyarlarca küçük, bağlı cihaza advanced zeka eklenerek faydalanabilecek bir dünya anlamına gelir. Ancak bu cihazların çok sınırlı kaynakları vardır, bu nedenle nasıl zeka ekleyebiliriz? tinyML, bilgisayar görüntüleme tabanlı, gerçek dünya uygulamalarına AI ve ML getirmekte, kenarda küçük cihazlarda büyük bir rol oynayabilir. Ve bu, insanların ve şirketlerin bir dizi ürün, hizmet ve endüstri için yeni AI sınırına ulaşmasına yardımcı olarak, insanların ve şirketlerin faydalanabileceği bir dünya çapında faydalar açığa çıkarabilir.