Mikroçiplerdeki İlerleme AI Edge Computing’i Bir Adım Öne Taşır

Princeton Üniversitesi’nden araştırmacılar, özel yapay zeka (AI) sistemlerinin hızını ve verimliliğini daha da artırmak için tasarlanmış donanım ve yazılım geliştirdiler.

Naveen Verma, Princeton’da elektrik ve bilgisayar mühendisliği profesörü ve araştırma ekibinin lideridir.

“Yazılım, yeni donanımı mümkün kılan kritik bir parçadır” dedi Verma. “Umut, tasarımcıların aynı yazılım sistemini kullanmaya devam edebilmeleri ve sadece on kat daha hızlı ve verimli çalışabilmesidir.”

Araştırmacılar tarafından geliştirilen sistemler, güç talebini ve uzak sunuculardan değiştirilmesi gereken veri miktarını azaltır. Bu, AI uygulamalarının, örneğin drone pilotluğu yazılımlarının, hesaplamalı altyapının kenarında gerçekleşmesini sağlar.

Verma, aynı zamanda Üniversitesi’nin Keller Merkezi için İnovasyon Mühendislik Eğitimi direktörüdür.

“AI’ı gerçek zamanlı ve genellikle kişisel süreçlere ulaşılabilir kılmak için, gecikme ve gizliliği hesaplamayı kenara taşıyarak ele almalıyız” dedi Verma. “Ve bu, hem enerji verimliliği hem de performans gerektirir.”

Yeni Çip Tasarımları

Princeton ekibi, iki yıl önce, sinir ağlarının performansını iyileştirmek için tasarlanmış yeni bir çip tasarımı geliştirdi. Bu çip, piyasada bulunan diğer mikroçiplerden on ila yüz kat daha iyi performans gösterebiliyordu.

“Çipin büyük bir dezavantajı, çok alışılmadık ve yıkıcı bir mimari kullanmasıdır” dedi Verma 2018’de. “Bu, günümüzde kullandığımız büyük altyapı ve tasarım metodolojisi ile uzlaşması gerekiyor.”

Çip, sonraki iki yıl boyunca sürekli olarak geliştirildi ve AI sistemlerinin yeni teknolojiyi verimli bir şekilde kullanabilmesi için bir yazılım sistemi oluşturuldu. Fikir, yeni çiplerin sistemlerin donanım ve yazılım yürütmesinde ölçeklenebilir olmasını sağlamaktı.

“Tüm bu ağlar için programlanabilir” dedi Verma. “Ağlar çok büyük veya çok küçük olabilir.”

En iyi hesaplamalı senaryo, hesaplamaların teknoloji itselfinde gerçekleşmesi, uzaktaki bir ağ bilgisayarında değil. Ancak, bu, büyük miktarda güç ve bellek depolama gerektirir, bu da böyle bir sistemi tasarlamayı zorlaştırır.

Bu sınırlamaları aşmak için, araştırmacılar, hesaplama ve veri depolamanın aynı alanda gerçekleştiği bir çip tasarladı, bu da in-memory computing olarak adlandırılır. Bu teknik, enerji ve zamanın, ayrılmış bellekle bilgi alışverişi için gereken miktarını azaltır.

In-memory computing için gereken analog işletim, bozulmaya karşı hassastır, bu nedenle ekip, transistörler yerine çip tasarımında kapasitörler kullandı. Kapasitörler, voltaj değişimlerinin aynı etkisine maruz kalmaz ve daha doğrusaldır.

Analog sistemlerin çeşitli diğer zorluklarına rağmen, sinir ağları gibi uygulamalarda kullanıldıklarında birçok avantajı vardır. Araştırmacılar, şimdi dijital sistemlerle analog sistemleri birleştirmeye çalışıyorlar, çünkü dijital sistemler merkezi iken, analog çiplere dayanan sinir ağları hızlı ve verimli özel işlemler gerçekleştirebiliyor.