Ny Enhet för Konstgjorda Neuroner Kan Stort Reducera Energiåtgången för Neuronnätverksberäkningar

Forskare vid University of San Diego har utvecklat en ny enhet för konstgjorda neuron som kan köra neuronnätverksberäkningar med 100 till 1000 gånger mindre energi och area än den nuvarande CMOS-baserade hårdvaran.

Den nyliga rapporten publicerades i en artikel den 18 mars i Nature Nanotechnology.

För att generera ingången för en av de anslutna lagren av konstgjorda neuron i neuronnätverk, måste en matematisk beräkning som kallas en icke-linjär aktiveringsfunktion tillämpas. Men denna tillämpning kräver mycket datorpower och kretskort på grund av behovet att överföra data mellan minnet och extern processor.

Forskarna vid UC San Diego utvecklade en ny nanometer-stor enhet som kan utföra denna aktiveringsfunktion mycket mer effektivt.

Duygu Kuzum är professor i elektroteknik och datorteknik vid UC San Diego Jacobs School of Engineering.

“Neuronnätverksberäkningar i hårdvara blir alltmer ineffektiva när neuronnätverksmodellerna blir större och mer komplexa”, sa Kuzum. “Vi utvecklade en enskild nanoskala konstgjord neuron-enhet som implementerar dessa beräkningar i hårdvara på ett mycket area- och energisnålt sätt.”

Studien leddes av både Kuzum och doktorand Shangheon Oh, och de samarbetade med UC San Diego fysikprofessor Ivan Schuller, som leder ett DOE Energy Frontier Research Center. Centret är involverat i att utveckla hårdvaruimplementeringar av energisnåla konstgjorda neuronnätverk.

Den Nya Enheten

Den nyligen utvecklade enheten bygger på en rektifierad linjär enhet, som är en av de vanligaste aktiveringsfunktionerna som används i neuronnätverksutbildning. Den kräver hårdvara som kan genomgå gradvisa förändringar i resistans, vilket är vad ingenjörerna strävade efter. Enheten kan gradvis växla från en isolerande till en ledande tillstånd med en liten mängd värme.

Kallad en Mott-övergång, sker denna växling i ett extremt tunt lager av vanadin dioxide, och ovanför detta lager finns en nanotrådsvärmare tillverkad av titan och guld. Vanadin dioxide-lagret värms långsamt upp när ström flyter genom nanotråden, och detta orsakar en långsam och kontrollerad växling från isolerande till ledande.

Oh är studiens första författare.

“Denna enhetsarkitektur är mycket intressant och innovativ”, sa Oh. “I det här fallet flyter vi ström genom en nanotråd ovanför materialet för att värma upp det och inducera en mycket gradvis resistansförändring.”

Implementering av Enheten

För implementering tillverkade teamet en matris av aktiveringsenheter och en synapseenhetmatris, följt av integrationen av de två på ett anpassat tryckt kretskort. De anslöts sedan till varandra, vilket resulterade i en hårdvaruversion av ett neuronnätverk.

Nätverket användes för att bearbeta en bild genom kantdetektering, vilket identifierar konturerna och kanterna på objekt i bilden. Den integrerade hårdvarusystemet demonstrerade sin förmåga att utföra konvolutionsoperationer som är viktiga för olika typer av djupa neuronnätverk.

“Just nu är detta ett bevis på koncept”, sa Kuzum. “Det är ett litet system där vi bara staplade ett synapsskikt med ett aktiveringslager. Genom att stapla fler av dessa tillsammans kunde man skapa ett mer komplext system för olika tillämpningar.”