신 시스템은 웨어러블 기기와 가전제품에 AI를 가져올 수 있다

MIT의 연구팀은 마이크로컨트롤러에 심층 학습 신경 네트워크를 가져오는 작업을 진행하고 있다. 이 기술은 의료용 웨어러블 기기, 가전제품, 그리고 250억 개의 “사물 인터넷”으로 구성된 객체에 인공지능(AI)을 구현할 수 있다. 사물 인터넷은 센서, 소프트웨어, 기타 기술이 내장된 물리적 객체의 네트워크로, 다른 기기와 시스템과 데이터를 교환하고 연결하는 데 도움이 된다.

이 연구는 12월에 열리는 신경 정보 처리 시스템 회의에서 발표될 예정이다. 연구의 제1저자는 MIT 전기공학 및 컴퓨터 과학부의 송한(Song Han)의 연구실에서 박사 과정 학생인 Ji Lin이다. 공동 저자로는 MIT의 Han과 Yujun Lin, Wei-Ming Chen, National University Taiwan, John Cohn, Chuan Gan, MIT-IBM Watson Lab이 있다.

MCUNet 시스템

이 시스템은 MCUNet이라고 하며, IoT 기기에极高速 및 정확성을 가진 컴팩트한 신경 네트워크를 설계한다. 이 시스템은 에너지 효율을 높이고 데이터 보안을 강화할 수 있다.

연구팀은 “tiny deep learning” 시스템을 개발하기 위해 두 가지 구성 요소를 결합했다. 첫 번째 구성 요소는 TinyEngine으로, 인터페이스 엔진으로 작동하여 리소스 관리를 지시한다. TinyEngine은 TinyNAS에 의해 선택된 특정 신경 네트워크 구조에서 최적화되어 실행된다. TinyNAS는 신경 네트워크 구조 검색 알고리즘이다.

Lin은 기존의 신경 네트워크 구조 검색 기술을 작은 마이크로컨트롤러에 직접 적용하는 것이 어려웠기 때문에 TinyNAS를 개발했다. 이러한 기존 기술은 미리 정의된 템플릿을 기반으로 많은 가능한 네트워크 구조 중에서 가장 정확하고 비용 효율적인 네트워크 구조를 찾는다.

“GPU 또는 스마트폰에서는 잘 작동하지만, 작은 마이크로컨트롤러에는 직접 적용하기가 어렵다”고 Lin은 말했다.

TinyNAS는 사용자 지정 크기의 네트워크를 생성할 수 있다.

“다양한 전력容量과 메모리 크기를 가진 마이크로컨트롤러가 많기 때문에, 이러한 마이크로컨트롤러에 맞게 검색 공간을 최적화하는 알고리즘을 개발했다”고 Lin은 말했다.

TinyNAS는 사용자 지정 가능하므로 마이크로컨트롤러에 최적의 컴팩트한 신경 네트워크를 생성할 수 있다.

“그런 다음 최종적인 효율적인 모델을 마이크로컨트롤러에 전달한다”고 Lin은 계속했다.

마이크로컨트롤러에서 작동하는 tiny 신경 네트워크를 실행하기 위해 깨끗하고 slim한 인터페이스 엔진이 필요하다. 많은 인터페이스 엔진에는 거의 실행되지 않는 작업에 대한 지침이 포함되어 있으므로 마이크로컨트롤러를 방해할 수 있다.

“오프칩 메모리가 없고 디스크도 없다”고 Han은 말했다. “모든 것이 1메가바이트의 플래시로 구성되어 있으므로 이러한 작은 리소스를 매우 신중하게 관리해야 한다.”

TinyEngine은 TinyNAS에 의해 개발된 사용자 지정 신경 네트워크를 실행하는 데 필요한 코드를 생성한다. 컴파일 시간은 죽은 코드를 제거함으로써 단축된다.

“必要한 것만 남긴다”고 Han은 말했다. “시스템-알고리즘 공동 설계의 장점이다.”

테스트 결과, TinyEngine의 컴파일된 바이너리 코드는 Google (GOOGL ) 및 ARM의 마이크로컨트롤러 엔진과 비교하여 1.9~5배 더 작았으며, 피크 메모리 사용량도 거의 절반으로 줄었다.

MCUNet의 능력

MCUNet의 첫 번째 테스트는 이미지 분류를 중심으로 진행되었다. ImageNet 데이터베이스를 사용하여 시스템을 학습시키고, 새로운 이미지에 대한 능력을 테스트했다.

MCUNet을 상업용 마이크로컨트롤러에서 테스트한 결과, 70.7%의 새로운 이미지를 성공적으로 분류했다. 이는 이전의 최고 성능을 가진 신경 네트워크와 inference 엔진의 조합보다 훨씬 높은 정확도이다.

“1%의 향상도重大한 발전이다”고 Lin은 말했다. “따라서 마이크로컨트롤러 설정에서는 큰 도약이다.”

캘리포니아 대학교 버클리의 컴퓨터 과학자인 Kurt Keutzer는 “MCUNet은 심층 신경 네트워크 설계의 전선을 더 작은 에너지 효율적인 마이크로컨트롤러의 계산 도메인으로 확장한다”고 말했다. “MCUNet은 심층 학습 기반의 컴퓨터 비전 능력을 가장 단순한 가전제품이나 더 지능적인 모션 센서에 제공할 수 있다.”

MCUNet은 또한 데이터 보안을 강화한다.

“주요 장점은 개인 정보를 보호하는 것이다”고 Han은 말했다. “데이터를 클라우드에 전송할 필요가 없다.”

로컬에서 데이터를 분석함으로써 개인 정보가 노출될 가능성이 줄어든다.

또한 MCUNet은 심박수, 혈압, 산소 수치 등과 같은 정보를 분석하고 통찰력을 제공할 수 있으며, 제한된 인터넷 접근이 있는 차량이나 다른 장소의 IoT 기기에 심층 학습을 가져올 수 있으며, 대형 신경 네트워크에 필요한 에너지의 작은 부분만을 사용하여탄소足跡을 줄일 수 있다.