에지에서 컴퓨터 비전을 활성화하는 tinyML의 역할 – 사고 리더

작성자: Davis Sawyer, 공동 창립자 겸 최고 제품 책임자, 딥라이트

컴퓨터 비전은 우리의 일상 생활을 개선할 수 있는 큰 잠재력을 가지고 있으며 이를 위한 응용 프로그램과 용도가 많습니다. 몇 가지 예는 다음과 같습니다.

• 스마트 초인종 가정 보안을 위해 "현관 해적"과 침입을 방지합니다. IHS Markit의 연구에 따르면(SecurityInfoWatch에 게시됨) 전 세계 감시 카메라의 수는 2021년에 85억 대에 이를 것으로 예상되었습니다. 미국에서만 카메라 수가 XNUMX만 대에 이를 것으로 예상되었습니다.
• In 주차장, AI 지원 카메라는 사용 가능하고 점유된 주차 공간의 추적을 자동화하여 소비자에게 열린 공간이 어디에 있는지 알려줍니다.
• 대시보드 카메라 트럭의 차량은 이제 속도 제한 표지판을 읽고 안전을 개선하기 위해 트럭의 속도를 동적으로 줄입니다.
• Audiencegain과 카메라가 연결된 드론 원격 및 도달하기 어려운 영역을 모니터링하고 실시간으로 이미지를 처리하고 결정을 내릴 수 있습니다.

이러한 모든 애플리케이션은 AI 및 머신러닝(ML)을 기반으로 하는 지능형 비디오 분석을 사용하여 비디오를 시청하고 인텔리전스를 사용하여 결정을 내린 다음 조치를 취합니다.

컴퓨터 비전은 에지에서 더 많은 리소스가 필요합니다.

그러나 많은 AI 기반 응용 프로그램과 마찬가지로 컴퓨터 비전은 복잡한 분석을 수행하고 결정을 내리기 위해 폭발적인 컴퓨팅 성능, 메모리 및 에너지가 필요합니다. 컴퓨터 성능이 많은 데이터 센터에서는 괜찮지만 AI가 엣지로 이동하는 것을 막을 수 있습니다. 특히 기업 데이터 센터에서 멀리 떨어져 있고 작은 배터리로 작동하는 소형 장치에는 기존 접근 방식보다 더 작고 빠르며 "가벼운" 새로운 유형의 AI가 필요합니다. 또한 기존 장치를 새로운 AI + ML(컴퓨터 비전) 기능으로 업그레이드해야 실행 가능하고 경쟁력을 유지할 수 있습니다.

새로운 발전으로 심층 신경망 강화

오늘날 AI의 새로운 발전은 심층 신경망(DNN)을 더 빠르고, 더 작고, 더 효율적으로 만들고 있으며 AI를 클라우드 및 데이터 센터에서 에지 장치 및 배터리 구동 센서로 이동하는 데 도움이 됩니다. AI 모델 교육과 관련하여 엄청난 탄소 발자국이 문서화되고 논의되었습니다(즉, 하나의 AI 언어 모델 교육 일생 동안 자동차 2대만큼의 CO5를 배출합니다.). 그러나 환경에 미치는 영향을 이해해야 합니다. AI 모델 추론 이 발자국을 줄이는 방법입니다. 여기서 모델 최적화는 DNN의 경제적 및 환경적 비용을 줄임으로써 엄청난 이점을 얻을 수 있습니다.

소형 장치에서 AI를 지원하는 TinyML

그러한 발전 중 하나는 아주 작은, 더 작은 배터리 구동 장치가 고급 ML을 사용하여 컴퓨터 비전 및 기타 인식 작업을 제공할 수 있도록 하는 강력한 새로운 추세입니다. 일반적으로 클라우드의 에지에 있는 리소스가 제한된 소형 장치에서 ML 추론을 용이하게 하고 사용자에게 더 가까운 에지 애플리케이션을 활성화하는 데 도움이 됩니다.

예를 들어 NVIDIA A100과 같은 서버 GPU에는 40GB 이상의 사용 가능한 메모리가 있어 컴퓨터 비전 및 자연어 처리와 같은 복잡한 AI를 실행하는 데 적합합니다. 그러나 에지 장치와tinyML에 대해 이야기할 때 일반적인 마이크로 컨트롤러(MCU)의 온칩 메모리는 256KB에 불과하며 이는 클라우드보다 100,000배 이상 적은 메모리입니다! 또한 데이터센터나 클라우드와 달리 엣지 디바이스 하드웨어는 현장에서 쉽게 업데이트할 수 없습니다. 이는 우리가 AI를 사용 가능한 하드웨어에 "적합"해야 함을 의미하며, 개발자가 이를 달성하려면 수개월에서 수년의 시행착오가 필요할 수 있습니다. 이것이 바로 TinyML, 특히 자동화된 기계 학습(AutoML이라고도 함)이 현실 세계에서 AI 채택에 대한 장벽을 허무는 데 중요한 역할을 할 수 있는 곳입니다.

그리고 tinyML의 영향력은 커지고 있습니다. 10,000명이 넘는 회원을 보유한 tinyML Foundation은 에지에서 초저전력 머신 러닝 솔루션의 개발 및 배포를 지원하기 위해 생태계를 성장시키고 있습니다. 이 Foundation은 하드웨어, 소프트웨어, 머신 러닝, 데이터 과학자, 시스템 엔지니어, 디자이너, 제품 및 사업가로 구성된 글로벌 커뮤니티를 하나로 모읍니다.

기회의 세계

전반적으로 고급 지능의 이점을 누릴 수 있는 수십억 개의 소형 연결 장치가 도처에 있습니다. 문제는 리소스가 매우 제한되어 있는데 어떻게 인텔리전스를 추가할 수 있습니까? tinyML은 소형 장치의 에지에서 AI와 ML을 더 많은 컴퓨터 비전 기반의 실제 응용 프로그램으로 가져오는 데 중요한 역할을 할 수 있습니다. 그리고 이를 통해 다양한 제품, 서비스 및 산업 전반에 걸쳐 사람과 회사에 많은 혜택을 제공하여 AI의 새로운 지평을 열 수 있습니다.