TinyML: IoT 및 Edge 장치에서의 애플리케이션, 제한 사항 및 사용

지난 몇 년간 인공지능(AI)과 기계 학습 (ML)은 업계뿐만 아니라 학계에서도 인기와 응용 분야가 급격히 증가하는 것을 목격했습니다. 그러나 오늘날의 ML 및 AI 모델에는 한 가지 주요 제한 사항이 있습니다. 즉, 원하는 결과와 정확성을 달성하려면 엄청난 양의 컴퓨팅 및 처리 능력이 필요합니다. 이로 인해 상당한 컴퓨팅 성능을 갖춘 고성능 장치에만 사용되는 경우가 많습니다.

그러나 임베디드 시스템 기술의 발전과 사물 인터넷 산업의 실질적인 발전을 고려할 때 ML 기술 및 개념의 사용을 유비쿼터스 지능을 위한 리소스가 제한된 임베디드 시스템에 통합하는 것이 바람직합니다. ML 개념을 임베디드 및 IoT 시스템에 사용하려는 욕구는 리소스가 제한되고 전력이 제한되며 저렴한 여러 장치에서 ML 모델 및 애플리케이션을 허용하는 임베디드 ML 기술인 TinyML 개발의 주요 동기 요인입니다. 

그러나 리소스가 제한된 장치에 ML을 구현하는 것은 간단하지 않았습니다. 컴퓨팅 능력이 낮은 장치에 ML 모델을 구현하면 최적화, 처리 용량, 안정성, 모델 유지 관리 등의 측면에서 자체적인 문제가 발생하기 때문입니다. 

이 기사에서는 TinyML 모델에 대해 더 자세히 알아보고 그 배경, TinyML을 지원하는 도구, 고급 기술을 사용하는 TinyML 애플리케이션에 대해 자세히 알아봅니다. 그럼 시작해 보겠습니다. 

TinyML 소개: 세상에 TinyML이 필요한 이유

사물 인터넷 또는 IoT 장치는 서로 연결된 수백만 개의 센서 및 장치의 데이터를 원활하게 실시간 처리할 수 있도록 사용자 근처의 다양한 장치 및 네트워크를 나타내는 컴퓨팅 패러다임인 엣지 컴퓨팅을 활용하는 것을 목표로 합니다. IoT 장치의 주요 장점 중 하나는 네트워크 에지에 배포할 수 있으므로 낮은 컴퓨팅 및 처리 능력이 필요하므로 메모리 공간이 낮다는 것입니다. 

또한 IoT 장치는 엣지 플랫폼에 크게 의존하여 이러한 엣지 장치가 감각 데이터를 수집할 때 데이터를 수집 및 전송한 다음 처리를 위해 가까운 위치나 클라우드 플랫폼으로 전송합니다. 엣지 컴퓨팅 기술은 데이터를 저장하고 컴퓨팅을 수행하며, 분산 컴퓨팅을 지원하는 데 필요한 인프라도 제공합니다. 

IoT 장치에 엣지 컴퓨팅을 구현하면 다음과 같은 이점이 있습니다.

1. 최종 사용자에게 효과적인 보안, 개인 정보 보호 및 안정성을 제공합니다. 
2. 낮은 지연. 
3. 애플리케이션 및 서비스에 대한 가용성 및 처리량 응답이 향상됩니다. 

또한 엣지 장치는 센서와 클라우드 사이에 협업 기술을 배포할 수 있기 때문에 데이터 처리가 클라우드 플랫폼에서 수행되는 대신 네트워크 엣지에서 수행될 수 있습니다. 이를 통해 효과적인 데이터 관리, 데이터 지속성, 효과적인 전달 및 콘텐츠 캐싱이 가능해집니다. 또한 H2M 또는 인간과 기계의 상호 작용 및 최신 의료 엣지 컴퓨팅을 처리하는 애플리케이션에 IoT를 구현하면 네트워크 서비스를 크게 개선할 수 있는 방법이 제공됩니다. 

IoT 에지 컴퓨팅 분야의 최근 연구는 여러 IoT 사용 사례에서 머신러닝 기술을 구현할 수 있는 잠재력을 보여주었습니다. 그러나 주요 문제는 기존 기계 학습 모델에 IoT 장치 및 애플리케이션에서 ML 모델 구현을 제한하는 강력한 컴퓨팅 및 처리 능력과 높은 메모리 용량이 필요한 경우가 많다는 것입니다. 

또한 오늘날 엣지 컴퓨팅 기술에는 높은 전송 용량과 효과적인 전력 절감이 부족하여 주로 ML 모델 업데이트, 훈련 및 배포를 위한 조화롭고 전체적인 인프라가 요구되는 주요 이유인 이기종 시스템으로 이어집니다. 임베디드 장치용으로 설계된 아키텍처는 장치마다 달라지는 하드웨어 및 소프트웨어 요구 사항에 따라 달라지기 때문에 또 다른 과제를 제기합니다. 이것이 IoT 네트워크용 표준 ML 아키텍처를 구축하기 어려운 주된 이유입니다. 

또한 현재 시나리오에서는 네트워크 구현의 계산 집약적 특성으로 인해 다양한 장치에서 생성된 데이터가 처리를 위해 클라우드 플랫폼으로 전송됩니다. 또한 ML 모델은 데이터 처리를 위해 딥 러닝, 심층 신경망, ASIC(응용프로그램별 집적 회로) 및 GPU(그래픽 처리 장치)에 의존하는 경우가 많으며 전력 및 메모리 요구 사항이 더 높은 경우가 많습니다. IoT 장치에 본격적인 ML 모델을 배포하는 것은 컴퓨팅 및 처리 능력이 명백히 부족하고 스토리지 솔루션이 제한되어 있기 때문에 실행 가능한 솔루션이 아닙니다. 

저전력 임베디드 장치를 소형화하고 ML 모델을 최적화하여 전력 및 메모리 효율성을 높이려는 요구로 인해 엣지 IoT 장치 및 프레임워크에 ML 모델 및 사례를 구현하는 것을 목표로 하는 TinyML이 탄생했습니다. TinyML IoT 장치에서 신호 처리를 지원하고 내장된 지능을 제공하므로 처리를 위해 데이터를 클라우드 플랫폼으로 전송할 필요가 없습니다. IoT 장치에 TinyML을 성공적으로 구현하면 궁극적으로 개인 정보 보호와 효율성이 향상되고 운영 비용이 절감될 수 있습니다. 또한 TinyML을 더욱 매력적으로 만드는 점은 연결이 부적절할 경우 온프레미스 분석을 제공할 수 있다는 것입니다. 

TinyML : 소개 및 개요

TinyML은 오디오, 시각, 음성과 같은 다양한 감지 양식에 대해 기기 내 분석을 수행할 수 있는 기능을 갖춘 기계 학습 도구입니다. TinyML 도구를 기반으로 구축된 ML 모델은 전력, 메모리 및 컴퓨팅 요구 사항이 낮아 임베디드 네트워크 및 배터리 전원으로 작동하는 장치에 적합합니다. 또한 TinyML은 요구 사항이 낮기 때문에 IoT 프레임워크에 ML 모델을 배포하는 데 이상적입니다.

현재 시나리오에서 클라우드 기반 ML 시스템은 보안 및 개인 정보 보호 문제, 높은 전력 소비, 신뢰성 및 대기 시간 문제를 포함한 몇 가지 어려움에 직면하고 있으며, 이것이 하드웨어-소프트웨어 플랫폼의 모델이 사전 설치되어 있는 이유입니다. 센서는 실제 세계를 시뮬레이션하는 데이터를 수집한 다음 CPU 또는 MPU(마이크로프로세싱 장치)를 사용하여 처리합니다. MPU는 에지 인식 ML 네트워크 및 아키텍처를 통해 지원되는 ML 분석 지원 요구 사항을 충족합니다. Edge ML 아키텍처는 데이터 전송을 위해 ML 클라우드와 통신하며, TinyML을 구현하면 기술이 크게 발전할 수 있습니다. 

TinyML은 원하는 성능을 제공하기 위해 서로 동기화되어 작동하는 소프트웨어, 하드웨어 및 알고리즘의 융합이라고 해도 무방할 것입니다. 하드웨어 가속기를 지원하지 않는 하드웨어 및 IoT 장치에 대해 더 좋고 효과적인 학습 환경을 제공하려면 아날로그 또는 메모리 컴퓨팅이 필요할 수 있습니다. 소프트웨어와 관련하여 TinyML을 사용하여 구축된 애플리케이션은 Linux 또는 임베디드 Linux와 같은 플랫폼과 클라우드 지원 소프트웨어를 통해 배포 및 구현할 수 있습니다. 마지막으로 TinyML 알고리즘을 기반으로 구축된 애플리케이션 및 시스템은 높은 메모리 소비를 피하기 위해 낮은 메모리 크기 모델이 필요한 새로운 알고리즘을 지원해야 합니다. 

요약하자면 TinyML 도구를 사용하여 구축된 애플리케이션은 고품질 데이터가 있는 경우 소프트웨어를 컴팩트하게 설계하는 동시에 ML 원리 및 방법을 최적화해야 합니다. 그런 다음 이 데이터는 훨씬 더 큰 용량과 컴퓨팅 성능을 갖춘 기계에서 훈련된 모델을 사용하여 생성된 이진 파일을 통해 플래시되어야 합니다. 

또한 TinyML 도구에서 실행되는 시스템 및 애플리케이션은 더 엄격한 제약 조건에서 수행할 때 높은 정확도를 제공해야 합니다. TinyML 의미를 지원하는 작은 전력 소비를 위해서는 소형 소프트웨어가 필요하기 때문입니다. 또한 TinyML 애플리케이션 또는 모듈은 엣지 임베디드 시스템에서의 작동을 지원하기 위해 배터리 전원에 의존할 수 있습니다. 

TinyML 애플리케이션에는 두 가지 기본 요구 사항이 있습니다.

1. 수십억 개의 저렴한 임베디드 시스템을 확장할 수 있는 능력. 
2. 몇 KB 미만의 용량으로 장치 RAM에 코드를 저장합니다. 

첨단 기술을 활용한 TinyML의 응용

TinyML이 AI 및 ML 산업에서 뜨거운 주제인 주요 이유 중 하나는 비전 및 음성 기반 애플리케이션, 건강 진단, 데이터 패턴 압축 및 분류, 뇌 제어 인터페이스, 엣지 컴퓨팅, 현상학, 자가 진단 등을 포함한 잠재적인 애플리케이션 때문입니다. -자동차 운전 등. 

음성 기반 애플리케이션

음성 커뮤니케이션

일반적으로 음성 기반 애플리케이션은 모든 데이터가 중요하고 전송되는 기존 통신 방법에 의존합니다. 그러나 최근에는 의미론적 의사소통이 데이터의 의미나 맥락만을 전달하는 것처럼 기존 의사소통의 대안으로 등장했다. TinyML 방법론을 사용하여 음성 기반 애플리케이션 전반에 걸쳐 의미 체계 통신을 구현할 수 있습니다. 

오늘날 음성 통신 산업에서 가장 인기 있는 응용 프로그램으로는 음성 감지, 음성 인식, 온라인 학습, 온라인 교육 및 목표 지향 통신이 있습니다. 이러한 애플리케이션은 일반적으로 전력 소비가 더 높으며 호스트 장치에 대한 데이터 요구 사항도 높습니다. 이러한 요구 사항을 극복하기 위해 개발자가 심층 컨벌루션 네트워크를 사용하여 낮은 저장 시설을 구축하는 낮은 계산 아키텍처를 구축할 수 있는 새로운 TinySpeech 라이브러리가 도입되었습니다. 

음성 향상을 위해 TinyML을 사용하기 위해 개발자는 하드웨어 제한 및 제약 조건이 적용되는 음성 향상 모델의 크기 조정을 먼저 해결했습니다. 이 문제를 해결하기 위해 RNN 또는 Recurrent Neural Networks 음성 향상 모델을 위한 구조적 가지치기 및 정수 양자화가 배포되었습니다. 결과에 따르면 모델 크기는 거의 12배로 줄어들고 작업은 거의 3배로 줄어들 것으로 나타났습니다. 또한 특히 음성 인식 애플리케이션을 실행하는 리소스가 제한된 애플리케이션에 배포할 때 리소스를 효과적으로 활용하는 것이 중요합니다. 

결과적으로 프로세스 분할을 위해 TinyML 기반 음성 및 음성 인식 애플리케이션에 대한 공동 설계 방법이 제안되었습니다. 개발자는 원시 음성 데이터를 사전 처리하는 방식으로 소프트웨어 및 하드웨어를 분할하기 위해 창 작업을 사용했습니다. 결과가 하드웨어의 에너지 소비 감소를 나타냄에 따라 이 방법은 효과가 있는 것처럼 보였습니다. 마지막으로 가까운 미래에 더 나은 성능을 위해 소프트웨어와 하드웨어 공동 설계 간에 최적화된 파티셔닝을 구현할 가능성도 있습니다. 

또한 최근 연구에서는 음성 인식 시스템에 전화 기반 변환기를 사용할 것을 제안했으며, 이 제안은 LSTM 예측기를 Conv1D 계층으로 대체하여 에지 장치의 계산 요구 사항을 줄이는 것을 목표로 합니다. 구현 시 제안은 SVD 또는 Singular Value Decomposition이 모델을 성공적으로 압축했기 때문에 긍정적인 결과를 반환한 반면, WFST 또는 Weighted Finite State Transducers 기반 디코딩을 사용하면 모델 개선 편향에 더 많은 유연성이 생겼습니다. 

가상 또는 음성 비서, 라이브 캡션, 음성 명령과 같은 음성 인식의 많은 주요 애플리케이션은 ML 기술을 사용하여 작동합니다. 현재 Siri 및 Google 어시스턴트와 같은 인기 있는 음성 어시스턴트는 일부 데이터를 수신할 때마다 클라우드 플랫폼에 핑을 전송하며 이로 인해 개인 정보 보호 및 데이터 보안과 관련된 심각한 문제가 발생합니다. TinyML은 장치에서 음성 인식을 수행하고 데이터를 클라우드 플랫폼으로 마이그레이션할 필요성을 없애는 것을 목표로 하기 때문에 이 문제에 대한 실행 가능한 솔루션입니다. 온디바이스 음성 인식을 달성하는 방법 중 하나는 계산 요구 사항을 낮추기 위해 LSTM 계층 대신 하나의 Conv1D 계층과 결합된 DFSMN 또는 Deep Feed-Forward Sequential Memory Block 계층을 사용하는 음성 인식 모델인 Tiny Transducer를 사용하는 것입니다. 및 네트워크 매개변수. 

보청기

청력 손실은 전 세계적으로 주요 건강 문제이며, 소리를 듣는 인간의 능력은 일반적으로 나이가 들수록 약해지며, 이는 중국, 일본, 한국을 포함하여 인구 고령화 문제를 다루는 국가에서 주요 문제입니다. 현재 보청기 장치는 주변의 모든 입력 소리를 증폭시키는 간단한 원리로 작동하므로 특히 시끄러운 환경에서 원하는 소리를 구별하거나 구별하기가 어렵습니다. 

보청기용 음성 인식 알고리즘을 사용하는 TinyLSTM 모델을 사용하면 사용자가 서로 다른 소리를 구별하는 데 도움이 될 수 있으므로 TinyML은 이 문제에 대한 실행 가능한 솔루션일 수 있습니다. 

비전 기반 애플리케이션

TinyML은 처리에서 중요한 역할을 할 수 있는 잠재력을 가지고 있습니다. 컴퓨터 비전 더 빠른 출력을 위해서는 이러한 데이터 세트를 엣지 플랫폼 자체에서 처리해야 하기 때문입니다. 이를 달성하기 위해 TinyML 모델은 OpenMV H7 마이크로 컨트롤러 보드를 사용하여 모델을 훈련하는 동안 직면하는 실질적인 과제에 직면합니다. 또한 개발자는 7KB의 프레임 버퍼 RAM에서만 작동하는 ARM Cortex M496 마이크로 컨트롤러를 사용하여 미국 수화를 감지하는 아키텍처를 제안했습니다. 

엣지 플랫폼에서 컴퓨터 비전 기반 애플리케이션을 위한 TinyML을 구현하려면 개발자가 높은 일반화 오류와 높은 훈련 및 테스트 정확도로 CNN 또는 컨볼루셔널 신경망의 주요 과제를 극복해야 했습니다. 그러나 구현은 새로운 사용 사례의 이미지와 노이즈가 있는 배경에 효과적으로 일반화되지 않았습니다. 개발자가 보간 증대 방법을 사용했을 때 모델은 테스트 데이터에서 98% 이상의 정확도 점수를 반환했으며 일반화에서는 약 75%의 정확도 점수를 반환했습니다. 

또한 개발자가 보간증강법을 사용한 경우 양자화 과정에서 모델의 정확도가 떨어지지만 동시에 모델의 추론 속도와 분류 일반화도 향상되는 것으로 관찰됐다. 또한 개발자들은 다양한 소스에서 얻은 데이터에 대한 일반화 모델 훈련의 정확성을 더욱 높이고 성능을 테스트하여 휴대용 스마트 시계와 같은 엣지 플랫폼에 배포할 가능성을 탐색하는 방법을 제안했습니다. 

또한, 현지 시간 제한된 리소스를 가진 장치에서 CNN 아키텍처를 사용하여 원하는 결과를 배포하고 달성하는 것이 가능함을 나타냅니다. 최근 개발자들은 메모리 공간이 최소화된 TensorFlow Lite를 사용하여 리소스가 제한된 ARM Cortex M7 마이크로 컨트롤러에서 의료용 안면 마스크를 감지하기 위한 프레임워크를 개발할 수 있었습니다. 양자화 후 모델 크기는 약 138KB인 반면 타겟 보드의 간섭 속도는 약 30FPS였습니다. 

컴퓨터 비전 기반 애플리케이션을 위한 TinyML의 또 다른 애플리케이션은 시각 장애가 있는 사람들이 일상 생활을 쉽게 탐색할 수 있도록 지팡이에 고정할 수 있는 동작 인식 장치를 구현하는 것입니다. 이를 설계하기 위해 개발자는 제스처 데이터 세트를 사용하고 데이터 세트를 사용하여 분류 알고리즘으로 ProtoNN 모델을 교육했습니다. 설정을 통해 얻은 결과는 정확했고, 디자인 비용도 저렴했으며, 만족스러운 결과를 얻었습니다. 

TinyML의 또 다른 중요한 응용 분야는 리소스 부족과 온보드 계산 능력으로 인해 자율 주행 및 자율 차량 산업에 있습니다. 이 문제를 해결하기 위해 개발자는 런타임에 이미지를 캡처하는 온라인 예측 모델을 제안하는 TinyCNN 모델을 기반으로 구축된 폐쇄 루프 학습 방법을 도입했습니다. 자율 주행을 위해 TinyML을 구현할 때 개발자가 직면한 주요 문제는 오프라인 데이터를 처리하도록 훈련된 의사 결정 모델이 온라인 데이터를 처리할 때 똑같이 잘 작동하지 않을 수 있다는 것입니다. 자율주행차와 자율주행차의 적용을 최대한 극대화하려면 모델이 실시간 데이터에 이상적으로 적응할 수 있어야 합니다. 

데이터 패턴 분류 및 압축

현재 TinyML 프레임워크의 가장 큰 과제 중 하나는 온라인 교육 데이터에 적응하도록 촉진하는 것입니다. 이 문제를 해결하기 위해 개발자는 마이크로 컨트롤러 장치에 대한 증분 온라인 학습을 통해 교육을 허용하고 IoT 에지 장치에서 모델을 업데이트할 수 있는 TinyOL 또는 TinyML 온라인 학습이라는 방법을 제안했습니다. 구현은 C++ 프로그래밍 언어를 사용하여 이루어졌으며 TinyOL 아키텍처에 추가 레이어가 추가되었습니다. 

또한 개발자는 Arduino Nano 33 BLE 센서 보드의 자동 인코딩도 수행했으며, 훈련된 모델은 새로운 데이터 패턴을 분류할 수 있었습니다. 또한 개발 작업에는 온라인 장치 훈련 패턴을 지원하기 위한 신경망용 효율적이고 최적화된 알고리즘을 설계하는 작업도 포함되었습니다. 

TinyOL 및 TinyML에 대한 연구에 따르면 활성화 계층 수가 리소스가 제한된 IoT 에지 장치의 주요 문제인 것으로 나타났습니다. 이 문제를 해결하기 위해 개발자는 IoT 에지 장치에서 메모리 활용을 훨씬 더 효과적으로 만들고 활성화 목적으로 중간 계층을 사용하지 않도록 새로운 TinyTL 또는 Tiny Transfer Learning 모델을 도입했습니다. 또한 개발자는 '라는 완전히 새로운 바이어스 모듈도 도입했습니다.라이트 잔여 모듈” 적응 기능을 최대화하고 특징 추출기가 잔여 특징 맵을 발견할 수 있도록 허용합니다. 

전체 네트워크 미세 조정과 비교할 때 결과는 TinyTL이 적당한 정확도 손실로 메모리 오버헤드를 약 6.5배 줄이는 것으로 나타났기 때문에 결과는 TinyTL 아키텍처에 유리한 것으로 나타났습니다. 마지막 레이어를 미세 조정했을 때 TinyML은 적당한 정확도 손실로 정확도를 34% 향상했습니다. 

또한 데이터 압축에 대한 연구에 따르면 데이터 압축 알고리즘 수집된 데이터를 휴대용 기기에서 관리해야 하는데, 이를 달성하기 위해 개발자들은 TAC(Tiny Anomaly Compressor)를 제안했습니다. TAC는 SDT(Swing Door Trending), DCT(Discrete Cosine Transform) 알고리즘보다 뛰어난 성능을 발휘할 수 있었습니다. 또한 TAC 알고리즘은 98% 이상의 최대 압축률을 달성하고 세 가지 알고리즘 중 최고 신호 대 잡음비가 우수하여 SDT 및 DCT 알고리즘보다 성능이 뛰어났습니다. 

건강진단

코로나19의 세계적인 유행병은 이제 기침 및 감기와 관련된 호흡기 증상을 지속적으로 감지하는 것이 필수적인 관행이 되었기 때문에 TinyML 구현을 위한 새로운 기회의 문을 열었습니다. 중단 없는 모니터링을 보장하기 위해 개발자는 다중 모델 설정에서 작동하는 CNN 모델 Tiny RespNet을 제안했으며, 이 모델은 장치가 정보를 병렬로 처리할 수 있고 효율성이 높은 Xilinx Artix-7 100t FPGA를 통해 배포됩니다. 그리고 낮은 전력 소비. 또한 TinyResp 모델은 환자의 음성, 오디오 녹음 및 인구통계 정보를 입력으로 사용하여 분류하며, 환자의 기침 관련 증상은 세 가지 별도의 데이터 세트를 사용하여 분류됩니다. 

또한 개발자는 TinyDL이라는 TinyML 모델인 엣지 장치에서 딥 러닝 계산을 실행할 수 있는 모델도 제안했습니다. TinyDL 모델은 건강 진단을 위한 스마트워치, 웨어러블 등 엣지 디바이스에 배포할 수 있으며 성능 분석을 수행하여 대역폭, 대기 시간 및 에너지 소비를 줄일 수도 있습니다. 휴대용 장치에 TinyDL을 배포하기 위해 LSTM 모델은 웨어러블 장치용으로 특별히 설계 및 훈련되었으며 수집된 데이터를 입력으로 제공했습니다. 이 모델의 정확도 점수는 약 75~80%이며, 기기 외부 데이터에서도 작동할 수 있었습니다. 에지 장치에서 실행되는 이러한 모델은 IoT 장치가 직면한 현재 문제를 해결할 수 있는 잠재력을 보여주었습니다. 

마지막으로 개발자는 노인의 신체 자세를 추정 및 분석하여 건강을 모니터링하는 또 다른 애플리케이션도 제안했습니다. 모델은 모델이 검증을 가능하게 하고 적응을 수행하기 위한 신속한 육성을 가능하게 하는 장치의 불가지론적 프레임워크를 사용합니다. 이 모델은 시공간적 신체 자세를 실시간으로 감지하기 위해 얼굴 랜드마크와 결합된 신체 자세 감지 알고리즘을 구현했습니다. 

에지 컴퓨팅

TinyML의 주요 응용 프로그램 중 하나는 엣지 컴퓨팅 분야에 있습니다. 전 세계적으로 장치를 연결하기 위해 IoT 장치를 사용하는 경우가 증가함에 따라 클라우드 아키텍처에 대한 부하를 줄이는 데 도움이 되므로 엣지 장치를 설정하는 것이 필수적입니다. . 이러한 엣지 장치에는 클라우드 아키텍처에 의존하지 않고 장치 자체에서 높은 수준의 컴퓨팅을 수행할 수 있는 개별 데이터 센터가 있습니다. 결과적으로 클라우드에 대한 의존도를 줄이고 대기 시간을 줄이며 사용자 보안 및 개인 정보 보호를 강화하고 대역폭을 줄이는 데 도움이 됩니다. 

TinyML 알고리즘을 사용하는 에지 장치는 전력, 컴퓨팅 및 메모리 요구 사항과 관련된 현재 제약 조건을 해결하는 데 도움이 되며 아래 이미지에서 이에 대해 설명합니다. 

또한 TinyML은 무인 항공기(UAV)가 현재 직면하고 있는 한계를 해결함으로써 무인 항공기(UAV)의 사용 및 적용을 향상시킬 수도 있습니다. TinyML을 사용하면 개발자는 대기 시간이 짧고 이러한 UAV의 컨트롤러 역할을 할 수 있는 높은 컴퓨팅 성능을 갖춘 에너지 효율적인 장치를 구현할 수 있습니다. 

뇌-컴퓨터 인터페이스 또는 BCI

TinyML은 의료 산업에서 중요한 응용 분야를 갖고 있으며 암 및 종양 감지, ECG 및 EEG 신호를 사용한 건강 예측, 감성 지능 등 다양한 분야에서 매우 유용한 것으로 입증될 수 있습니다. TinyML을 사용하면 적응형 심부 뇌 자극(Adaptive Deep Brain Stimulation, aDBS)이 임상 적응에 성공적으로 적응할 수 있습니다. TinyMl을 사용하면 aDBS가 뇌 신호의 침습적 기록을 사용하여 질병 관련 바이오 마크 및 증상을 식별할 수도 있습니다. 

또한, 의료 산업에는 환자에 대한 대량의 데이터 수집이 포함되는 경우가 많으며, 이 데이터는 질병 초기 단계의 환자 치료를 위한 구체적인 솔루션을 찾기 위해 처리되어야 합니다. 따라서 효율성이 높을 뿐만 아니라 보안도 뛰어난 시스템을 구축하는 것이 중요합니다. IoT 애플리케이션과 TinyML 모델을 결합하면 H-IoT 또는 Healthcare Internet of Things라는 새로운 분야가 탄생하며 H-IoT의 주요 애플리케이션은 진단, 모니터링, 물류, 확산 제어 및 보조 시스템입니다. 환자의 건강을 원격으로 감지하고 분석할 수 있는 장치를 개발하려면 글로벌 접근성과 낮은 대기 시간을 갖춘 시스템을 개발하는 것이 필수적입니다. 

자치 차량

마지막으로 TinyML은 인간 추적, 군사 목적 및 산업용 애플리케이션을 포함하여 다양한 방식으로 활용될 수 있으므로 자율주행차 산업에서 광범위한 애플리케이션을 가질 수 있습니다. 이러한 차량에는 물체를 검색할 때 물체를 효율적으로 식별할 수 있어야 하는 주요 요구 사항이 있습니다. 

현재 자율주행차와 자율주행은 특히 소형 또는 소형 차량을 개발할 때 상당히 복잡한 작업입니다. 최근 개발에서는 CNN 아키텍처를 사용하고 모델을 GAP8 MCI에 배포함으로써 소형 차량의 자율 주행 적용을 개선할 수 있는 잠재력이 나타났습니다. 

도전

TinyML은 AI 및 ML 업계에서 상대적으로 새로운 개념이며, 발전에도 불구하고 여전히 에지 및 IoT 장치의 대량 배포에 필요한 만큼 효과적이지는 않습니다. 

현재 TinyML 장치가 직면한 가장 큰 과제는 이러한 장치의 전력 소비입니다. 이상적으로 임베디드 엣지 및 IoT 장치의 배터리 수명은 10년 이상으로 예상됩니다. 예를 들어, 이상적인 조건에서 2Ah 배터리로 작동하는 IoT 장치는 장치의 전력 소비가 약 10년이라는 점을 고려할 때 배터리 수명이 12년 이상이라고 가정합니다. uㅏ. 그러나 온도 센서, MCU 유닛, WiFi 모듈을 갖춘 IoT 아키텍처의 경우 주어진 상태에서 소비 전류는 약 176.4mA이며, 이 전력 소비로 인해 배터리는 약 11시간 동안만 지속됩니다. 필요한 배터리 수명은 10년입니다. 

리소스 제약

알고리즘의 일관성을 유지하려면 전력 가용성을 유지하는 것이 중요하며 현재 시나리오에서 TinyML 장치의 제한된 전력 가용성은 중요한 과제입니다. 또한, 모델을 배포하는 데 효과적이고 정확하게 작동하려면 많은 양의 메모리가 필요한 경우가 많기 때문에 메모리 제한도 중요한 과제입니다. 

하드웨어 제약

하드웨어 제약으로 인해 하드웨어 장치의 이질성으로 인해 TinyML 알고리즘을 대규모로 배포하기가 어렵습니다. 수천 개의 장치가 있고 각각 고유한 하드웨어 사양 및 요구 사항이 있으므로 TinyML 알고리즘은 현재 모든 개별 장치에 대해 조정되어야 하므로 대량 배포가 주요 문제가 됩니다. 

데이터 세트 제약

TinyML 모델의 주요 문제 중 하나는 기존 데이터 세트를 지원하지 않는다는 것입니다. 외부 센서를 사용하여 데이터를 수집하는 모든 엣지 장치에는 어려운 과제가 있으며, 이러한 장치에는 전력 및 에너지 제약이 있는 경우가 많습니다. 따라서 기존 데이터 세트를 사용하여 TinyML 모델을 효과적으로 훈련할 수 없습니다. 

최종 생각

ML 기술의 개발은 IoT 생태계에 혁명과 관점의 변화를 가져왔습니다. IoT 장치에 ML 모델을 통합하면 이러한 엣지 장치가 외부 사람의 입력 없이 스스로 지능적인 결정을 내릴 수 있습니다. 그러나 일반적으로 ML 모델은 리소스가 제한되는 엣지 디바이스에 배포하기 위해 통합할 수 있는 높은 전력, 메모리 및 컴퓨팅 요구 사항을 갖는 경우가 많습니다. 

그 결과, AI의 새로운 부문이 IoT 장치용 ML 사용을 전담하게 되었고 이를 TinyML이라고 불렀습니다. TinyML은 리소스가 제한된 장치에서도 AI 및 ML의 기능을 활용하여 더 높은 정확성, 인텔리전스 및 효율성을 보장할 수 있는 ML 프레임워크입니다. 

이 기사에서는 리소스가 제한된 IoT 장치에서 TinyML 모델을 구현하는 방법에 대해 설명했으며, 이 구현에는 모델 교육, 하드웨어에 모델 배포 및 양자화 기술 수행이 필요합니다. 그러나 현재 범위를 고려할 때 IoT 및 에지 장치에 배포할 준비가 된 ML 모델에는 하드웨어 및 프레임워크 호환성 문제를 포함한 여러 가지 복잡성과 제약이 있습니다.