스마트폰에서 기계 학습 모델을 실행할 때 스마트폰을凉하게 유지하는 방법

오스틴 대학교와 카네기 멜런 대학교의 연구자들은 스마트폰과 같은 모바일 장치에서 컴퓨터 비전과 자연어 처리를 위한 기계 학습 모델을 실행할 때 발생하는 과도한 열을 방지하는 새로운 방법을 제안했습니다. 이 방법은 기계 학습 모델의 가중치를 동적으로 조정하여 스마트폰의 온도를 낮추는 것입니다.

이 새로운 접근 방식은 더 복잡한 기계 학습 모델을 실행할 때 스마트폰의 안정성을 유지하는 데 도움이 될 수 있습니다.

중심 아이디어는 동적 네트워크를 사용하는 것입니다. 여기서 모델의 가중치를 ‘저압’과 ‘전체 강도’ 버전의 로컬 기계 학습 모델이 모두 접근할 수 있습니다.

로컬 기계 학습 모델의 실행이 장치의 온도를 크게 높이는 경우, 모델은 동적으로 더 낮은 요구 사항의 모델로 전환하여 온도를 안정화시키고, 이후 다시 전체 버전으로 전환합니다.

테스트 작업은 이미지 분류 작업과 질문-답변 자연어 추론(QNLI) 작업으로 구성되었습니다. 두 작업 모두 모바일 AI 애플리케이션에서 발생할 수 있는 작업입니다. 출처: https://arxiv.org/pdf/2206.10849.pdf

연구자들은 2019년 호너 V30 프로 스마트폰과 라즈베리 파이 4B 4GB에서 컴퓨터 비전과 자연어 처리를 위한 기계 학습 모델을 테스트했습니다.

결과를 살펴보면, 스마트폰의 온도가 사용량에 따라 상승하고 하강하는 것을 볼 수 있습니다. 빨간 선은 동적 전환 없이 모델을 실행하는 경우를 나타냅니다.

결과는 비슷해 보이지만, 동적 전환을 사용하는 경우(파란 선) 모델의 온도가 안정적으로 유지되는 것을 볼 수 있습니다. 동적 전환을 사용하지 않는 경우(빨간 선) 온도가 상승하고 하강하는 것을 볼 수 있습니다.

동적 전환을 사용하는 경우, 모델의 실행 속도가 빨라지고, 지연 시간이 줄어듭니다. 이는 사용자에게 더 나은 사용자 경험을 제공합니다.

연구자들은 다음과 같이 말합니다.

‘기계 학습 모델이 스마트폰의 온도를 높이는 경우, 사용자 경험에 부정적인 영향을 미칠 수 있습니다. 예를 들어, 비디오 스트리밍이나 게임에서 프레임당 처리 지연 시간이 증가하면 사용자 경험에 부정적인 영향을 미칠 수 있습니다.’

‘사용자는 스마트폰을 사용할 때 음성으로만 상호 작용하기 때문에, 음성 서비스의 품질은 응답 시간에 크게 의존합니다.’

BERT w50 d50 모델의 동적 전환 성능을 보여주는 그래프.

CPU-Based Mobile AI

동적 전환과 다중 스케일 아키텍처는 이미 연구된 분야입니다. 그러나 대부분의 연구는 고성능 컴퓨팅 장치에 중점을 두었습니다. 현재의 연구는 로컬 기계 학습 모델의 최적화와 전용 모바일 하드웨어의 개선에 중점을 두고 있습니다.

Testing Weight Sharing

연구자들은 Slimmable 네트워크와 DynaBERT를 테스트했습니다. Slimmable 네트워크는 컴퓨터 비전 작업을 위한 모델입니다. DynaBERT는 자연어 처리 작업을 위한 모델입니다.

연구자들은 두 모델 모두에서 동적 전환을 테스트했습니다. 결과를 살펴보면, 동적 전환을 사용하는 경우 모델의 실행 속도가 빨라지고, 지연 시간이 줄어드는 것을 볼 수 있습니다.

연구자들은 다음과 같이 말합니다.

‘동적 전환은 기계 학습 모델의 실행 속도를提高하고, 지연 시간을 줄일 수 있습니다. 그러나 모델의 정확도는 동적 전환을 사용하는 경우에 따라 다를 수 있습니다.’

ResNet50 모델의 동적 전환 성능을 보여주는 그래프.

연구자들은 다음과 같이 결론을 내렸습니다.

동적 전환은 기계 학습 모델의 실행 속도를提高하고, 지연 시간을 줄일 수 있습니다. 그러나 모델의 정확도는 동적 전환을 사용하는 경우에 따라 다를 수 있습니다. 따라서 동적 전환을 사용하는 경우, 모델의 정확도와 실행 속도를 고려하여 최적의 결과를 얻을 수 있습니다.

최초로 게시된 날짜: 2022년 6월 23일.