Yeni Sistem Giyilebilir Cihazlara ve Ev Aletlerine AI Getirebilir

MIT’de bir araştırma ekibi, mikrodenetleyicilere derin öğrenme sinir ağlarını getirmeye çalışıyor. Bu ilerleme, yapay zeka (AI)’nın küçük bilgisayar çiplerine, giyilebilir tıbbi cihazlara, ev aletlerine ve “nesnelerin interneti” (IoT) olan 250 milyar nesneye uygulanabileceği anlamına geliyor. IoT, fiziksel nesnelerin sensörler, yazılımlar ve diğer teknolojilerle donatılması ve diğer cihazlar ve sistemlerle veri alışverişi yapmasına yardımcı olan bir ağdır.

Araştırma yayımlanacak ve Aralık ayında Neural Information Processing Systems Konferansı’nda sunulacak. Araştırmanın baş yazarı, MIT Elektrik Mühendisliği ve Bilgisayar Bilimi Bölümü’nde Song Han’ın laboratuvarında doktora öğrencisi olan Ji Lin’dir. Diğer yazarlar arasında MIT’den Han ve Yujun Lin, MIT ve Ulusal Taiwan Üniversitesi’nden Wei-Ming Chen ve MIT-IBM Watson Lab’dan John Cohn ve Chuan Gan bulunmaktadır.

MCUNet Sistemi

Sistem, MCUNet olarak adlandırılmaktadır ve IoT cihazlarında aşırı hız ve doğrulukla çalışabilen kompakt sinir ağlarını tasarlar. Bu sistem daha enerji verimlisi olabilir ve veri güvenliğini artırabilir.

Ekibin “küçük derin öğrenme” sistemi, iki bileşenin birleştirilmesiyle oluşturulmuştur: sinir ağlarının çalışması ve mikrodenetleyiciler. İlk bileşen, TinyEngine, bir işletim sistemi gibi çalışan bir arayüzdür ve kaynak yönetimini yönetir. TinyEngine, TinyNAS tarafından seçilen belirli bir sinir ağı yapısına göre optimize edilmiştir. TinyNAS, bir sinir mimarı arama algoritmasıdır.

Lin, mevcut sinir mimarı arama tekniklerini küçük mikrodenetleyicilere doğrudan uygulamanın zorluğundan dolayı TinyNAS’ı geliştirdi. Bu teknikler, önceden tanımlanmış bir şablon temelinde birçok olası ağ yapısından en doğru ve maliyet hiệuşini bulur.

“GPU’lar veya akıllı telefonlar için oldukça iyi çalışabilir” diyor Lin, “ancak bunları küçük mikrodenetleyicilere doğrudan uygulamak zor olmuştur, çünkü çok küçüktürler.”

TinyNAS, özel boyutlu ağlar oluşturabilir.

“Farklı güç kapasiteleri ve bellek boyutlarına sahip birçok mikrodenetleyicimiz var” diyor Lin, “bu nedenle farklı mikrodenetleyiciler için arama alanını optimize etmek üzere algoritma (TinyNAS) geliştirdik.”

TinyNAS’ın özelleştirilebilmesi, mikrodenetleyiciler için en iyi kompakt sinir ağlarını oluşturmasını sağlar.

“Sonra, son, verimli modeli mikrodenetleyiciye teslim ediyoruz” diye devam ediyor Lin.

Küçük bir sinir ağını çalıştırmak için mikrodenetleyiciye temiz ve ince bir arayüz motoru gerekir. Birçok arayüz motoru, nadiren çalıştırılan görevler için talimatlar içerir, bu da mikrodenetleyiciyi engelleyebilir.

“Harici belleği yok, diski yok” diyor Han, “her şey birleştirildiğinde sadece bir megabayt flaş var, bu nedenle bu kadar küçük bir kaynağı gerçekten dikkatli bir şekilde yönetmeliyiz.”

TinyEngine, TinyNAS tarafından geliştirilen özelleştirilmiş sinir ağını çalıştırmak için gereken kodu oluşturur. Derleme zamanı, ölü kodları atarak azaltılır.

“Sadece ihtiyacımız olanı saklarız” diyor Han, “ve sinir ağını tasarladığımız için tam olarak neye ihtiyacımız olduğunu biliriz. Bu, sistem-algoritma tasarımın avantajıdır.”

Testler, TinyEngine’ın derlenen ikili kodunun, Google (GOOGL ) ve ARM’den benzer mikrodenetleyici motorlarına kıyasla 1,9 ila beş kat daha küçük olduğunu gösterdi. Zirve bellek kullanımı da neredeyse yarıya indirildi.

MCUNet’in Yetenekleri

MCUNet için yapılan ilk testler, görüntü sınıflandırma etrafında döndü. Sistem, etiketli görüntülerle ImageNet veritabanında eğitildi ve sonra yeni görüntülerde test edildi.

MCUNet, bir ticari mikrodenetleyici üzerinde test edildiğinde, yeni görüntülerin %70,7’sini başarılı bir şekilde sınıflandırdı. Bu, önceki en iyi sinir ağı ve arayüz motoru kombinasyonundan daha iyidir ve bu kombinasyon %54 doğruydu.

“Sadece %1’lik bir iyileşme bile önemli kabul ediliyor” diyor Lin, “bu nedenle bu, mikrodenetleyici ayarları için devasa bir adımdır.”

California Üniversitesi, Berkeley’de bilgisayar bilimcisi olan Kurt Keutzer, bunun “küçük, enerji verimli mikrodenetleyicilerin hesaplamalı alanındaki derin sinir ağı tasarımı sınırlarını daha da genişlettiğini” söylüyor. MCUNet, “en basit mutfak aletlerine bile akıllı bilgisayar görme yetenekleri getirebilir veya daha akıllı hareket sensörleri sağlayabilir.”

MCUNet ayrıca veri güvenliğini artırır.

“Birincil avantaj, gizliliği korumaktır” diyor Han, “verileri buluta iletmek zorunda değilsiniz.”

Verileri yerel olarak analiz ederek, kişisel bilgilerin tehlikeye girmesi daha az olasıdır.

Ayrıca, MCUNet, kalp atış hızı, kan basıncı ve oksijen seviyesi okumaları gibi bilgilerin analizini ve içgörüsünü sağlayabilir, sınırlı internet erişimi olan araçlar ve diğer yerlerde IoT cihazlarına derin öğrenmeyi getirebilir ve yalnızca büyük sinir ağları için gereken enerjinin küçük bir kısmını kullanarak karbon ayak izini azaltabilir.