마이크로칩의 발전, 에지 컴퓨팅에서의 AI에 더 가까이

프린스턴 대학교의 연구진은 특수한 인공 지능(AI) 시스템의 속도와 효율성을 더욱提高하기 위한 하드웨어와 소프트웨어를 공동 설계했다.

네이븐 버마(Naveen Verma)는 프린스턴 대학교의 전기 및 컴퓨터 공학 교수로, 연구 팀을 이끌고 있다.

“소프트웨어는 새로운 하드웨어를 가능하게 하는 중요한 부분입니다,” 버마는 말했다. “디자이너들이 같은 소프트웨어 시스템을 사용할 수 있고, 단지 10배 더 빠르고 효율적으로 작동할 수 있기를 희망합니다.”

연구진이 개발한 시스템은 전력需求과 원격 서버에서 교환해야 하는 데이터의 양을 줄였다. 이를 통해 드론의 조종 소프트웨어와 같은 AI 애플리케이션은 컴퓨팅 인프라의 가장자리에서 실행될 수 있다.

버마는 또한 프린스턴 대학교의 켈러 센터_for_혁신적인_공학_교육의 디렉터이다.

“실시간이고 개인적인 과정에 AI를 접근하기 위해서, 우리는 지연과 개인 정보를 해결해야 하며, 계산을 가장자리로 이동시켜야 한다”고 버마는 말했다. “그리고 그것은 에너지 효율성과 성능이 필요하다.”

새로운 칩 디자인

프린스턴의 팀은 2년 전 새로운 칩 디자인을 개발했으며, 이는 신경망의 성능을 향상시키기 위한 것이었다. 이 칩은 시장에 있는 다른 마이크로칩보다 10~100배 더 잘 작동할 수 있다.

“칩의 주요 단점은 매우 이상하고 교란적인 아키텍처를 사용한다”고 버마는 2018년에 말했다. “그것은 오늘날 우리가 사용하는 거대한 인프라와 설계 방법론과 조화시켜야 한다.”

칩은 다음 2년 동안 지속적으로 개선되었으며, AI 시스템이 새로운 기술을 효율적으로 사용할 수 있는 소프트웨어 시스템이 개발되었다. 새로운 칩은 하드웨어와 소프트웨어의 확장성을 가능하게 할 수 있다.

“이것은 모든 네트워크에서 프로그래밍할 수 있다”고 버마는 말했다. “네트워크는 매우 크거나 매우 작을 수 있다.”

가장 좋은 계산 시나리오는 기술 자체에서 계산이 수행되는 경우이다. 그러나 이것은大量의 전력과 메모리 저장소가 필요하여 이러한 시스템을 설계하기 어렵다.

이러한 제한을 극복하기 위해, 연구진은 계산과 데이터 저장을 동일한 영역에서 수행하는 칩을 설계했다. 이것은 전용 메모리와 정보를 교환하는 데 필요한 에너지와 시간을 줄이는 인-메모리 컴퓨팅 기술이다.

인-메모리 컴퓨팅을 위해 필요한 아날로그 작동은 전압의 변화에 민감한 트랜지스터 대신 캐패시터를 사용하여 회피할 수 있다. 캐패시터는 전압의 변화에 영향을 받지 않으며 더 정밀하다.

아날로그 시스템을 둘러싼 다양한 다른 도전에도 불구하고, 아날로그 시스템은 신경망과 같은 애플리케이션에서 많은 이점을 가지고 있다. 연구진은 현재 디지털 시스템과 아날로그 시스템을 결합하려고 하고 있다. 디지털 시스템은 중앙에 있으며, 아날로그 칩을 사용하는 신경망은 빠르고 효율적인 특수 작동을 수행할 수 있다.