기계 학습 모델을 실행하는 스마트폰을 시원하게 유지하는 방법

오스틴 대학교와 카네기 멜런 대학교 연구자들은 스마트폰 같은 모바일 장치와 저전력 에지 장치에서 계산량이 많은 기계 학습 모델을 실행하면서도 열 스로틀링을 유발하지 않는 새로운 방법을 제안했다. 열 스로틀링은 전문가용 장치와 소비자용 장치에서 널리 쓰이는 보호 장치로, 허용 가능한 작동 온도가 회복될 때까지 성능을 낮춰 장치의 온도를 떨어뜨린다.

새 접근법은 스마트폰 같은 호스트 장치의 안정성을 위협하지 않으면서 더 복잡한 ML 모델이 추론과 여러 다른 작업을 수행하도록 도울 수 있다.

핵심은 동적 네트워크를 사용하는 것이다. 로컬 기계 학습 모델의 저부하 버전과 전체 성능 버전이 모델의 가중치를 공유한다.

로컬 기계 학습 모델을 실행해 장치 온도가 위험하게 상승할 상황에서는, 온도가 안정될 때까지 덜 부담스러운 모델로 동적으로 전환한 뒤 다시 완전한 버전으로 돌아간다.

테스트 작업은 이미지 분류와 질문·답변 자연어 추론(QNLI)으로 구성되었다. 둘 다 모바일 AI 응용에서 사용될 가능성이 있는 작업이다. 출처: https://arxiv.org/pdf/2206.10849.pdf

연구자들은 2019년형 Honor V30 Pro 스마트폰과 Raspberry Pi 4B 4GB에서 컴퓨터 비전 및 자연어 처리(NLP) 모델의 개념 증명 실험을 수행했다.

아래 스마트폰 실험 결과에서는 사용에 따라 장치 온도가 오르내리는 것을 볼 수 있다. 빨간 선은 동적 전환 없이 실행한 모델을 나타낸다.

결과가 비슷해 보일 수 있지만 실제로는 다르다. 파란색 선, 즉 새 논문의 방법을 사용한 경우 온도가 오르내리는 이유는 단순한 모델과 복잡한 모델 사이를 오가기 때문이다. 실행 중 어느 시점에도 열 스로틀링은 발생하지 않는다.

빨간색 선의 온도가 오르내리는 이유는 장치의 열 스로틀링이 자동으로 작동하기 때문이다. 이는 모델의 실행을 느리게 하고 지연 시간을 늘린다.

모델의 사용 편의성 측면에서 보면, 아래 그림에서 동적 전환을 사용하지 않은 모델은 열 스로틀링이 발생하는 동안 지연 시간이 훨씬 길다는 것을 알 수 있다.

반면 위 그림에서 동적 전환으로 관리하는 모델은 지연 시간 변화가 거의 없고 실행 내내 빠르게 응답한다.

최종 사용자에게 긴 지연 시간은 대기 시간 증가를 뜻하며, 이로 인해 작업을 포기하거나 해당 작업을 제공하는 앱에 불만을 느낄 수 있다.

컴퓨터 비전이 아닌 NLP 시스템에서는 긴 응답 시간이 더 큰 문제가 될 수 있다. 자동 번역이나 장애인을 돕는 도구처럼 신속한 응답에 의존하는 작업이 있기 때문이다.

실시간 VR/AR처럼 시간에 매우 민감한 응용에서는 긴 지연 시간이 모델의 핵심 효용을 사실상 없애 버릴 수 있다.

연구자들은 다음과 같이 설명한다.

‘열 스로틀링은 지연 시간에 민감한 모바일 ML 응용에 심각한 위협이 된다고 주장한다. 예를 들어 비디오 스트리밍이나 게임을 위한 실시간 시각 렌더링 중 프레임당 처리 지연 시간이 갑자기 증가하면 사용자 경험에 상당한 악영향을 준다. 또한 최신 모바일 운영체제는 iOS의 VoiceOver와 Android의 TalkBack처럼 시각장애인을 위한 특수 서비스와 응용 프로그램을 제공하는 경우가 많다.’

‘이러한 사용자는 일반적으로 전적으로 음성에 의존해 휴대전화와 상호 작용하므로, 서비스 품질은 응용 프로그램의 응답성이나 지연 시간에 크게 좌우된다.’

동적 전환 없이 실행한 BERT w50 d50과 동적 전환을 적용한 BERT w50 d50의 성능 그래프. 동적 전환(파란색)의 지연 시간이 일정하다는 점에 주목하자.

논문의 제목은 시원하게 유지하기: 동적 전환으로 열 스로틀링 방지하기이다. UoA 연구자 두 명, 카네기 멜런 연구자 한 명, 두 기관을 함께 대표하는 연구자 한 명이 공동으로 작성했다.

CPU 기반 모바일 AI

동적 전환과 다중 규모 아키텍처는 확립되어 활발하게 연구되는 분야지만, 대부분의 시도는 고성능 계산 장치 집합에 집중했다. 현재의 노력은 대체로 학습보다는 추론을 위한 로컬, 즉 장치 내 신경망의 집중적인 최적화와 전용 모바일 하드웨어 개선으로 나뉜다.

연구자들은 GPU가 아닌 CPU 칩에서 실험했다. 모바일 기계 학습 응용에서 로컬 GPU 자원을 활용하는 데 대한 관심이 높아지고 있고, 심지어 최종 모델의 모바일 장치 내 직접 학습이 품질을 개선할 수도 있지만, GPU는 일반적으로 더 많은 전력을 소비한다. 이는 AI가 클라우드 서비스로부터 독립하고 자원이 제한된 장치에서 유용하게 작동하는 데 중요한 요인이다.

가중치 공유 실험

프로젝트에서 시험한 네트워크는 너비 조절형 네트워크(slimmable networks)와 DynaBERT로, 각각 컴퓨터 비전 작업과 NLP 작업을 담당했다.

모바일 장치에서 효율적이고 경제적으로 실행할 수 있는 BERT 변형을 만들려는 다양한 시도가 있었지만, 일부는 복잡한 우회책이라는 비판을 받았다. 새 논문의 연구자들은 모바일 환경에서 BERT를 사용하는 일이 어렵고, ‘일반적으로 BERT 모델은 휴대전화에서 실행하기에는 계산량이 너무 많다’고 지적한다.

DynaBERT는 구글의 강력한 NLP/NLU 프레임워크를 자원이 부족한 환경에 맞게 최적화하려는 중국의 연구다. 그러나 연구자들은 이 BERT 구현조차도 요구하는 자원이 매우 많다는 것을 확인했다.

그럼에도 연구자들은 스마트폰과 Raspberry PI 장치 모두에서 두 가지 실험을 수행했다. 컴퓨터 비전 실험에서는 무작위로 선택한 이미지 한 장을 ResNet50으로 계속 반복 분류했다. 모델은 한 시간 동안 진행된 실험 내내 열 스로틀링 없이 안정적으로 실행될 수 있었다.

논문은 다음과 같이 설명한다.

‘정확도를 일부 희생할 수는 있지만, 제안한 동적 전환은 더 빠른 추론 속도를 제공한다. 무엇보다 동적 전환 접근법은 일관된 추론 성능을 제공한다.’

연속 이미지 분류 작업에서 동적 전환 없이 ResNet50을 실행한 경우와 Slimmable ResNet50 x1.0 및 x0.25 사이를 동적으로 전환한 경우를 비교했다. 실험 시간은 60분이다.

NLP 실험에서는 DynaBERT 제품군에서 가장 작은 두 모델 사이를 전환하도록 설정했다. 하지만 지연 시간이 1.4배인 조건에서 BERT는 약 70°에서 열 스로틀링을 일으켰다. 따라서 작동 온도가 65°에 이르면 더 작은 모델로 전환하도록 설정했다.

BERT 실험에서는 GLUE의 ONLI 데이터셋에서 가져온 질문·답변 쌍에 대해 시스템이 계속 추론을 수행하게 했다.

더 까다로운 BERT 작업에서는 컴퓨터 비전 구현보다 지연 시간과 정확도의 절충이 더 심했다. 정확도를 유지하려면 열 스로틀링을 피하기 위해 장치 온도를 더 엄격하게 제어해야 했다.

연구자들이 수행한 두 종류의 작업에서 지연 시간과 정확도를 비교한 결과.

연구자들은 다음과 같이 지적한다.

‘일반적으로 동적 전환은 BERT 모델의 막대한 계산량 때문에 열 스로틀링을 막을 수 없다. 그러나 특정 제약 아래에서는 BERT 모델을 휴대전화에 배포할 때 동적 전환이 여전히 유용할 수 있다.’

연구자들은 BERT 모델로 인해 Honor V30 휴대전화의 CPU 온도가 32초도 되기 전에 80°로 오르고, 실행한 지 6분도 되기 전에 열 스로틀링이 발생한다는 사실을 확인했다. 따라서 너비가 절반인 BERT 모델만 사용했다.

Raspberry PI 구성에서도 실험을 반복했고, 이 환경에서도 해당 기법으로 열 스로틀링 발생을 막을 수 있었다. 다만 연구자들은 Raspberry PI가 부품이 밀집된 스마트폰처럼 극심한 열 제약 아래에서 작동하지는 않는다고 설명한다. 이 일련의 실험은 비교적 소박한 처리 환경에서도 이 방법이 효과적이라는 점을 추가로 보여 주기 위해 포함한 것으로 보인다.

최초 게시: 2022년 6월 23일.