새로운 인공 신경 소자로 인해 신경 계산에 필요한 에너지 요구 사항이 크게 줄어들 수 있다

샌디에고 대학교의 연구자들은 현재의 CMOS 기반 하드웨어보다 100 ~ 1000 배 적은 에너지와 면적으로 신경 계산을 수행할 수 있는 새로운 인공 신경 소자를 개발했다.

최근의 보고서는 3월 18일 Nature Nanotechnology에 발표되었다.

인공 신경망의 연결된 계층 중 하나에 대한 입력을 생성하기 위해 비선형 활성화 함수라는 수학적 계산을 적용해야 한다. 그러나 이는 컴퓨터 파워와 회로가 많기 때문에 메모리와 외부 프로세서 사이에서 데이터를 전송해야 하므로 많은 에너지가 필요하다.

UC 샌디에고의 연구자들은 이 활성화 함수를 수행할 수 있는 나노미터 크기의 새로운 소자를 개발했다.

Duygu Kuzum은 UC 샌디에고 Jacobs 공과대학의 전기 및 컴퓨터 공학 교수이다.

“하드웨어에서 신경망 계산은 신경망 모델이 더 크고 복잡해짐에 따라 점점 비효율적이 된다”라고 Kuzum은 말했다. “우리는 이러한 계산을 매우 면적 효율적이고 에너지 효율적인 방식으로 하드웨어에서 구현할 수 있는 단일 나노스케일 인공 신경 소자를 개발했다.”

이 연구는 Kuzum과 박사 과정 학생 Shangheon Oh가 주도했으며, UC 샌디에고 물리학 교수인 Ivan Schuller와 협력했다. Schuller는 에너지 효율적인 인공 신경망의 하드웨어 구현을 개발하는 DOE 에너지 프론티어 연구 센터를 이끌고 있다.

새로운 소자

새로 개발된 소자는 신경망 훈련에서 가장 일반적으로 사용되는 활성화 함수 중 하나인 직선 단위 함수에 의존한다. 이는 저항의 점진적인 변화를 허용할 수 있는 하드웨어가 필요하다. 이 소자는 작은 양의 열로 인해 점진적으로 절연 상태에서 전도 상태로 전환할 수 있다.

이 전환은 바나듐 다이옥사이드의 매우 얇은 층에서 발생하며, 그 위에는 티타늄과 금으로 만든 나노와이어 히터가 있다. 바나듐 다이옥사이드 층은 나노와이어를 통해 전류가 흐를 때 점차적으로加熱되며, 이는 절연 상태에서 전도 상태로의 점진적인 전환을 유발한다.

Oh는 이 연구의 첫 번째 저자이다.

“이 소자 구조는 매우 интерес롭고 혁신적이다”라고 Oh는 말했다. “이 경우, 우리는 물질을加熱하기 위해 나노와이어를 통해 전류를 흐르게 하여 저항의 점진적인 변화를 유발한다.”

소자의 구현

구현을 위해, 팀은 활성화 소자의 배열과 시냅스 소자의 배열을 제작했으며, 두 가지를 사용자 정의 프린트 회로 기판에 통합했다. затем,它们를 함께 연결하여 하드웨어 버전의 신경망을 만들었다.

이 네트워크는 이미지의 가장자리 감지를 통해 이미지 처리를 수행했으며, 이미지의 물체의 윤곽과 가장자리를 식별했다. 통합 하드웨어 시스템은 다양한 유형의 깊은 신경망에서 중요한 합성 연산을 수행할 수 있는 능력을 보여주었다.

“현재 이것은 개념 증명이다”라고 Kuzum은 말했다. “우리는 단일 시냅스 계층과 단일 활성화 계층만을 쌓은 작은 시스템이다. 이러한 것들을 더 많이 쌓으면 다양한 응용 프로그램을 위한 더 복잡한 시스템을 만들 수 있다.”