Yeni Sistem Giyilebilir Cihazlara ve Ev Aletlerine AI Getirebilir

MIT’de bir araştırma ekibi, derin öğrenme sinir ağlarını mikrodenetleyicilere getiriyor. Bu ilerleme, yapay zeka (AI)’nın giyilebilir tıbbi cihazlar, ev aletleri ve “internet of things” (IoT)’in diğer 250 milyar nesnesini oluşturan küçük bilgisayar çiplerine uygulanabileceği anlamına geliyor. IoT, sensörler, yazılım ve diğer teknolojiler ile donatılmış fiziksel nesnelerin bir ağıdır ve bu nesneler diğer cihazlar ve sistemlerle veri alışverişi yapmalarına yardımcı olur.

Araştırma Araştırmaya Aralık ayında Sinir Bilgi İşleme Sistemleri Konferansı’nda sunulacak. Araştırmanın baş yazarı Ji Lin, MIT Elektrik Mühendisliği ve Bilgisayar Bilimi Bölümü’nde Song Han’ın laboratuvarında doktora öğrencisidir. Eş yazarlar arasında MIT’den Han ve Yujun Lin, Wei-Ming Chen (MIT ve Ulusal Taiwan Üniversitesi) ve John Cohn ve Chuan Gan (MIT-IBM Watson Lab) bulunmaktadır.

MCUNet Sistemi

Sistem MCUNet olarak adlandırılmaktadır ve IoT cihazlarında aşırı hız ve doğruluk için kompakt sinir ağları tasarlayabilme yeteneğine sahiptir, hatta sınırlı bellek ve işlem gücü ile bile. Bu sistem daha enerji verimli olabilir ve veri güvenliğini artırabilir.

Ekibin geliştirdiği “küçük derin öğrenme” sistemi, iki bileşenin birleştirilmesiyle oluşmuştur – sinir ağlarının çalışması ve mikrodenetleyiciler. İlk bileşen, TinyEngine, bir arayüz motorudur ve kaynak yönetimi için bir işletim sistemi gibi davranır. TinyEngine, TinyNAS tarafından seçilen belirli bir sinir ağı yapısını çalıştırmak için optimize edilmiştir. TinyNAS, bir sinir mimari arama algoritmasıdır.

Lin, mevcut sinir mimari arama tekniklerinin küçük mikrodenetleyicilere uygulanmasının zorluğundan dolayı TinyNAS’ı geliştirdi. Bu mevcut teknikler, önceden tanımlanmış bir şablon temelinde birçok olası yapıdan sonra en doğru ve maliyet hiệu적인 ağ yapısını bulur.

“GPU’lar veya akıllı telefonlar için oldukça iyi çalışabilir” diyor Lin, “ancak bunları doğrudan küçük mikrodenetleyicilere uygulamak zor olmuştur, çünkü çok küçüktürler.”

TinyNAS, özel boyutlu ağlar oluşturabilir.

“Farklı güç kapasiteleri ve farklı bellek boyutlarına sahip birçok mikrodenetleyicimiz var” diyor Lin. “Bu nedenle, farklı mikrodenetleyiciler için arama alanını optimize etmek için algoritma [TinyNAS] geliştirdik.”

TinyNAS’ın özelleştirilebilmesi nedeniyle, mikrodenetleyiciler için en iyi olası kompakt sinir ağlarını oluşturabilir.

“Sonra nihai, verimli modeli mikrodenetleyiciye teslim ediyoruz” diye devam ediyor Lin.

Küçük bir sinir ağını çalıştırmak için bir mikrodenetleyiciye temiz ve ince bir arayüz motoru gerekir. Birçok arayüz motoru, nadiren çalıştırılan görevler için talimatlar içerir, bu da bir mikrodenetleyiciyi engelleyebilir.

“Harici belleği yok ve diski yok” diyor Han. “Her şey bir araya getirildiğinde sadece bir megabayt flaş, bu nedenle bu kadar küçük bir kaynağı gerçekten dikkatli bir şekilde yönetmeliyiz.”

TinyEngine, TinyNAS tarafından geliştirilen özelleştirilmiş sinir ağını çalıştırmak için gereken kodu oluşturur. Derleme zamanı, ölü ağırlık kodunu atarak azaltılır.

“Sadece ihtiyacımız olanı saklarız” diyor Han. “Ve sinir ağını tasarladığımız için tam olarak ihtiyacımız olanı biliriz. Bu, sistem-algoritma kod tasarımın avantajıdır.”

Testler, TinyEngine’in derlenen ikili kodunun, Google ve ARM’den benzer mikrodenetleyici motorlarına göre 1.9 ila beş kat daha küçük olduğunu gösterdi. Zirve bellek kullanımı da neredeyse yarıya indirildi.

MCUNet’in Yetenekleri

MCUNet için yapılan ilk testler, görüntü sınıflandırma etrafında döndü. Sistem, etiketli görüntülerle ImageNet veritabanında eğitildi ve sonra yeni görüntülerde test edildi.

MCUNet, bir ticari mikrodenetleyici üzerinde test edildiğinde, yeni görüntülerin %70.7’sini başarılı bir şekilde sınıflandırdı. Bu, önceki en iyi sinir ağı ve arayüz motoru birleşiminden çok daha iyidir ve bu birleşme %54 doğruydu.

“Hatta %1’lik bir iyileştirme önemli kabul edilir” diyor Lin. “Bu nedenle bu, mikrodenetleyici ayarları için devasa bir adımdır.”

California Üniversitesi, Berkeley’den bilgisayar bilimcisi Kurt Keutzer’e göre, bu “derin sinir ağı tasarımı sınırını, küçük enerji verimli mikrodenetleyicilerin hesaplamalı alanına daha da ileriye taşır.” MCUNet, “en basit mutfak aletlerine akıllı bilgisayar vizyonu yetenekleri getirebilir veya daha akıllı hareket sensörleri sağlayabilir.”

MCUNet ayrıca veri güvenliğini artırır.

“Ana bir avantaj, gizliliği korumaktır” diyor Han. “Verileri buluta iletmek zorunda değilsiniz.”

Verileri yerel olarak analiz ederek, kişisel bilgilerin tehlikeye girmesi olasılığı daha azdır.

Ayrıca, MCUNet kalp atış hızı, kan basıncı ve oksijen seviyesi okumaları gibi bilgileri analiz edebilir ve içgörüler sağlayabilir, sınırlı internet erişimi olan araçlar ve diğer yerlerde IoT cihazlarına derin öğrenmeyi getirebilir ve yalnızca büyük sinir ağları için gereken enerjinin küçük bir kısmını kullanarak karbon ayak izini azaltabilir.