Uçta Bilgisayar Görüntüsünü Etkinleştirmede tinyML'nin Rolü – Düşünce Liderleri

Yazan: Davis Sawyer, Kurucu Ortak ve Baş Ürün Sorumlusu, derin taş

Bilgisayarlı görme, günlük yaşamlarımızı iyileştirme konusunda büyük bir potansiyele sahiptir ve bunun için birçok uygulama ve kullanım alanı bulunmaktadır. Birkaç örnek şunları içerir:

• Akıllı kapı zilleri ev güvenliği için "sundurma korsanlarını" ve izinsiz girişleri önlemeye yardımcı olur. IHS Markit'in araştırmasına göre (SecurityInfoWatch'ta yayınlandı) dünya çapındaki küresel güvenlik kamerası sayısının 2021'de bir milyara ulaşması bekleniyordu. Yalnızca ABD'de kamera sayısının 85 milyona ulaşması bekleniyordu;
• In otoparklar, AI özellikli kameralar, tüketicilere açık alanların nerede olduğunu bildirmek için mevcut ve dolu park yerlerinin takibini otomatik hale getirir;
• Pano kameraları kamyonlarda artık hız sınırı işaretleri okunuyor ve güvenliği artırmak için kamyonun hızı dinamik olarak azaltılıyor;
• Ve bağlı kameralara sahip dronlar uzak ve ulaşılması zor alanları izliyorlar ve gerçek zamanlı olarak görüntüleri işleyip kararlar alabiliyorlar.

Bu uygulamaların tümü, video izlemek, karar vermek için zekayı kullanmak ve ardından harekete geçmek için yapay zeka ve Makine Öğrenimi (ML) tarafından desteklenen akıllı video analitiğini kullanıyor.

Bilgisayar Görüntüsü Uçta Daha Fazla Kaynağa İhtiyaç Duyar

Bununla birlikte, yapay zeka güdümlü birçok uygulama gibi, bilgisayar görüşü de karmaşık analizlerini yapmak ve kararlar almak için bilgi işlem gücü, bellek ve enerji patlamalarına ihtiyaç duyar. Bu, çok fazla bilgisayar gücüne sahip bir veri merkezinde iyi olsa da, yapay zekanın uca taşınmasını engelleyebilir. Spesifik olarak, kurumsal veri merkezlerinden uzakta bulunan ve küçük pillerle çalışan küçük cihazlar, geleneksel yaklaşımlardan daha küçük, daha hızlı ve "daha hafif" olan yeni bir yapay zeka türüne ihtiyaç duyar. Ve mevcut cihazların, uygulanabilir ve rekabetçi kalabilmeleri için yeni AI + ML (bilgisayarla görme) işlevselliği ile yükseltilmesi gerekecek.

Yeni Gelişmeler Derin Sinir Ağlarını Güçlendiriyor

Bugün yapay zekadaki yeni gelişmeler, Derin Sinir Ağlarını (DNN'ler) daha hızlı, daha küçük ve enerji açısından daha verimli hale getiriyor ve yapay zekanın buluttan ve veri merkezlerinden uç cihazlara ve pille çalışan sensörlere taşınmasına yardımcı oluyor. Yapay zeka modeli eğitimi söz konusu olduğunda, şaşırtıcı karbon ayak izi belgelenmiş ve tartışılmıştır (yani, bir yapay zeka dil modelinin eğitimi ömürleri boyunca 2 araba kadar CO5 yayar). Ancak, çevresel etkisinin ne olduğunu anlamamız gerekiyor. AI modeli çıkarımı nedir ve bu ayak izinin nasıl azaltılacağı. Model optimizasyonunun, DNN'lerin ekonomik ve çevresel maliyetini azaltarak muazzam faydalar sağlayabileceği yer burasıdır.

TinyML, Küçük Cihazlarda Yapay Zekayı Etkinleştirir

Böyle bir ilerleme, minikML, daha küçük, pille çalışan cihazların bilgisayar görüşü ve diğer algı görevlerini sunmak için gelişmiş makine öğrenimi kullanmasını sağlayan güçlü ve yeni bir trend. Genellikle bulutun ucundaki küçük, kaynakları kısıtlı cihazlarda makine öğrenimi çıkarımını kolaylaştırır ve uç uygulamalarının kullanıcıya daha yakın olmasına yardımcı olur.

Örneğin, NVIDIA A100 gibi bir sunucu GPU'su, bilgisayar görüşü ve doğal dil işleme gibi karmaşık yapay zekayı çalıştırmak için uygun olan 40 GB'ın üzerinde kullanılabilir belleğe sahiptir. Bununla birlikte, uç cihazlar ve TinyML hakkında konuştuğumuzda, sıradan bir mikrodenetleyici (MCU) yalnızca 256 KB çip üzerinde belleğe sahip olabilir; bu, buluttan 100,000 kat daha az bellek demektir! Ayrıca veri merkezleri ve buluttan farklı olarak uç cihaz donanımları sahada kolayca güncellenemiyor. Bu, yapay zekamızı mevcut donanıma "uydurmamız" gerektiği anlamına gelir; geliştiricilerin bunu başarması aylarca, yıllarca deneme yanılma gerektirebilir. TinyML'in, özellikle de otomatik makine öğreniminin (AutoML olarak da bilinir), yapay zekanın gerçek dünyada benimsenmesinin önündeki engellerin aşılmasında önemli bir rol oynayabileceği nokta burasıdır.

Ve tinyML'nin etkisi büyüyor. 10,000'den fazla üyesiyle tinyML Vakfı, uçta ultra düşük güç makine öğrenimi çözümlerinin geliştirilmesini ve dağıtımını desteklemek için ekosistemi büyütüyor. Vakıf, donanım, yazılım, makine öğrenimi, veri bilimcileri, sistem mühendisleri, tasarımcılar, ürün ve iş insanlarından oluşan küresel bir topluluğu bir araya getiriyor.

Fırsatlar Dünyası

Toplamda, her yerde gelişmiş zekadan yararlanabilecek milyarlarca küçük, birbirine bağlı cihaz var. Buradaki zorluk, çok sınırlı kaynaklara sahip olmalarıdır, o halde onlara nasıl zeka katabiliriz? tinyML, yapay zeka ve makine öğrenimini küçük cihazlarda uçta daha fazla bilgisayar görüşü tabanlı, gerçek dünya uygulamalarına getirmede önemli bir rol oynayabilir. Bu da bir dizi ürün, hizmet ve endüstride insanlara ve şirketlere fayda sağlayan bir dünyanın kilidini açabilir ve yapay zeka için yeni sınırlara ulaşmamıza yardımcı olabilir.