Mikrosirujen edistysaskel tuo meidät lähemmäs älykkään reunan laskentaa

Princetonin yliopiston tutkijat ovat kehittäneet yhteensuunniteltua laitteistoa ja ohjelmistoa, joiden tarkoituksena on lisätä erityisten tekoälyjärjestelmien nopeutta ja tehokkuutta.

Naveen Verma on Princetonin yliopiston sähkö- ja tietotekniikan professori, joka johtaa tutkimusryhmää.

”Ohjelmisto on kriittinen osa uuden laitteiston mahdollistamisessa”, Verma sanoi. ”Toivomme, että suunnittelijat voivat jatkaa saman ohjelmistojärjestelmän käyttöä ja saada sen toimimaan kymmenen kertaa nopeammin ja tehokkaammin.”

Tutkijoiden kehittämät järjestelmät vähentävät virran tarvetta ja vähentävät etäpalvelimilta vaihdettavaa tietoa. Tämän ansiosta tekoälysovellukset, kuten drone-ohjaimet, voivat toimia laskentainfrastruktuurin reunalla.

Verma on myös yliopiston Keller Center for Innovation in Engineering Education -keskuksen johtaja.

”Tekoälyn tekeminen saataville reaaliajassa ja usein henkilökohtaisessa prosessissa, meidän on ratkaistava viiveongelma ja tietosuojakysymykset siirtämällä laskennan itse reunalle”, Verma sanoi. ”Ja siihen tarvitaan sekä energiatehokkuutta että suorituskykyä.”

Uudet sirupiirit

Princetonin tiimi kehitti kaksi vuotta sitten uuden sirupiirin, jonka tarkoituksena oli parantaa neuroverkkojen suorituskykyä. Siru pystyi suorittamaan kymmenen kertaa paremmin kuin markkinoiden muut sirut.

”Sirun suurin heikkous on, että se käyttää erittäin epätavallista ja häiritsevää arkkitehtuuria”, Verma sanoi vuonna 2018. ”Tämä on sovittava yhteen massiivisen infrastruktuurin ja suunnittelumenetelmien kanssa, joita meillä on ja joita käytetään tänään.”

Sirua parannettiin jatkuvasti seuraavien kahden vuoden aikana, ja kehitettiin ohjelmisto, joka mahdollisti tekoälyjärjestelmien käytön uuden teknologian kanssa tehokkaasti. Ideana oli, että uudet sirut voisivat mahdollistaa järjestelmien skaalautumisen sekä laitteiston että ohjelmiston suorittamisessa.

”Se on ohjelmoitavissa kaikissa näissä verkostoissa”, Verma sanoi. ”Verkostot voivat olla hyvin suuria, ja ne voivat olla hyvin pieniä.”

Paras laskentatilanne on, kun se tapahtuu itse laitteistossa, ei etäverkkotietokoneessa. Tämä vaatii kuitenkin massiivisia määriä virtaa ja muistitilaa, mikä tekee järjestelmän suunnittelun haasteelliseksi.

Tätä rajoitusta vastaan tutkijat suunnittelivat sirun, joka suorittaa laskennan ja tallentaa tiedon samalla alueella, jota kutsutaan muistilaskennaksi. Tämä tekniikka leikkaa energian ja ajan, jota tarvitaan tiedon vaihtamiseen omistettuun muistiin.

Muistilaskennan vaatiman analogisen toiminnan kiertämiseksi, joka on herkkä korruptiolle, tiimi käytti kondensaattoreita transistoreiden sijaan sirupiirin suunnittelussa. Kondensaattorit eivät kärsi jännitteen muutoksista, ja ne ovat tarkempia.

Vaikka analogiset järjestelmät ovat haasteellisia, ne tarjoavat monia etuja sovelluksissa, kuten neuroverkoissa. Tutkijat haluavat yhdistää nämä kaksi järjestelmää, koska digitaaliset järjestelmät ovat keskeisiä, kun taas neuroverkot, jotka riippuvat analogisista siruista, pystyvät suorittamaan nopeita ja tehokkaita erityisiä operaatioita.