시간 시리즈 예측 및 분석을 위한 기초 모델의 부상

시간 시리즈 예측은 소매, 금융, 제조, 의료 등 다양한 산업에서 중요한 의사 결정 과정에서 중요한 역할을 합니다. 그러나 자연어 처리와 이미지 인식과 같은 분야에 비해 시간 시리즈 예측에 고급 인공지능 기술을 통합하는 것은 상대적으로 느렸습니다. 기초 인공지능은 자연어 처리와 이미지 인식과 같은 분야에서 상당한 진전을 이루었지만, 시간 시리즈 예측에는 최근까지 제한적이었습니다. 그러나 최근 시간 시리즈 예측을 위한 기초 모델 개발에 대한 추진력이 증가하고 있습니다. 이 기사는 시간 시리즈 예측을 위한 기초 인공지능의 발전하는 풍경을 논의하고, 이 분야의 최근 발전을 탐구합니다.

시간 시리즈 예측 및 응용

시간 시리즈 데이터는 정기적인 시간 간격으로 수집되거나 기록된 데이터 포인트의 시퀀스를 의미합니다. 이러한 유형의 데이터는 경제, 날씨, 건강 등 다양한 도메인에서 普遍합니다. 시간 시리즈의 각 데이터 포인트는 시간戳가付き며, 시퀀스는 일반적으로 시간 경과에 따른 추세, 패턴 및 계절 변화를 분석하는 데 사용됩니다.

시간 시리즈 예측은 역사적인 데이터를 사용하여 시리즈의 미래 값을 예측하는 것을 의미합니다. 이는 통계와 기계 학습에서 중요한 방법으로, 과거 패턴에 따라 정보에 기반한 의사 결정을 지원합니다. 예측은 미래의 동일한 성장률을 투영하는 것과 같이 단순할 수도 있거나, 복잡할 수도 있습니다. 예측은 인공 지능 모델을 사용하여 미래의 추세를 예측하는 데 사용할 수 있습니다.

시간 시리즈 예측의 일부 응용 분야는 다음과 같습니다:

• 금융 시장: 금융에서 시간 시리즈 예측은 주가, 환율, 시장 추세를 예측하는 데 사용됩니다. 투자자와 분석가는 역사적인 데이터를 사용하여 미래의 움직임을 예측하고 거래 결정을 내립니다.
• 날씨 예측: 기상청은 시간 시리즈 데이터를 사용하여 날씨 조건을 예측합니다. 과거의 날씨 데이터를 분석하여 미래의 날씨 패턴을 예측하고, 농업, 여행, 재해 관리를 위한 계획과 의사 결정에 도움을 줍니다.
• 판매 및 마케팅: 기업은 시간 시리즈 예측을 사용하여 미래의 판매, 수요, 소비자 행동을 예측합니다. 이는 재고 관리, 판매 목표 설정, 마케팅 전략 개발에 도움을 줍니다.
• 에너지 부문: 에너지 회사들은 수요와 공급을 예측하여 생산과 분배를 최적화합니다. 시간 시리즈 예측은 에너지 소비 패턴을 예측하는 데 도움을 주어, 효율적인 에너지 관리와 계획을 가능하게 합니다.
• 의료: 의료 분야에서 시간 시리즈 예측은 질병 발병, 환자 입원, 의료 재고 요구를 예측하는 데 사용됩니다. 이는 의료 계획, 자원 할당, 정책 결정에 도움을 줍니다.

기초 시간 시리즈 모델

기초 인공지능 모델은 광범위한 사전 훈련된 모델로, 다양한 인공지능 응용 프로그램의 기초를 형성합니다. 이러한 모델은 대규모 및 다양한 데이터셋에서 훈련되어 데이터 내의 패턴, 연결, 구조를 식별할 수 있습니다. “기초”라는 용어는 이러한 모델이 최소한의 추가 훈련으로 nhiệm무 또는 도메인에 미세 조정될 수 있음을 의미합니다. 시간 시리즈 예측의 경우 이러한 모델은 대규모 언어 모델과 유사한 방식으로 구축되며, 트랜스포머 아키텍처를 사용합니다. 대규모 언어 모델과 마찬가지로, 이러한 모델은 데이터 시퀀스의 다음 또는 누락된 요소를 예측하도록 훈련됩니다. 그러나 대규모 언어 모델은 서브워드를 통해 트랜스포머 레이어를 처리하는 반면, 기초 시간 시리즈 모델은 연속적인 시간 포인트의 시퀀스를 토큰으로 처리하여 시간 시리즈 데이터를 순차적으로 처리할 수 있습니다.

최근에 시간 시리즈 데이터를 위한 다양한 기초 모델이 개발되었습니다. 이러한 모델 중 적절한 모델을 선택하여 그들의 능력을 효과적으로 활용할 수 있습니다. 다음 섹션에서는 시간 시리즈 데이터 분석을 위한 다양한 기초 모델을 탐구합니다.

• TimesFM: Google (GOOGL ) Research에서 개발된 TimesFM은 2억 개의 매개 변수를 갖는 디코더 전용 기초 모델입니다. 이 모델은 100억 개의 실제 시간 포인트로 구성된 데이터셋에서 훈련되며, Google Trends와 Wikipedia Pageviews와 같은 다양한 소스에서 합성 및 실제 데이터를 포함합니다. TimesFM은 소매, 금융, 제조, 의료, 자연 과학 등 다양한 분야에서 여러 시간 단위에 대한 제로샷 예측을 수행할 수 있습니다. Google은 TimesFM을 Google Cloud Vertex AI 플랫폼에서 출시할 계획으로, 외부 고객에게 고급 예측 기능을 제공할 수 있습니다.
• Lag-Llama: Université de Montréal, Mila-Québec AI Institute, McGill University의 연구자들이 개발한 Lag-Llama는 단변량 확률적 시간 시리즈 예측을 위한 기초 모델입니다. Llama를 기반으로 하는 이 모델은 디코더 전용 트랜스포머 아키텍처를 사용하며, 다양한 시간 지연 및 시간 분해능으로 예측을 수행합니다. 이 모델은 에너지, 교통, 경제, 자연, 대기질, 클라우드 운영 등 6개의 그룹에 걸친 다양한 소스에서 수집된 시간 시리즈 데이터셋에서 훈련됩니다. 이 모델은 Huggingface 라이브러리를 통해 접근할 수 있습니다.
• Moirai: Salesforce (CRM ) AI Research에서 개발한 Moirai는 범용 예측을 위한 기초 시간 시리즈 모델입니다. Moirai는 Large-scale Open Time Series Archive (LOTSA) 데이터셋에서 훈련되며, 9개의 서로 다른 도메인에서 27억 개의 관측값을 포함합니다. 이는 시간 시리즈 데이터의 가장 큰 공개 컬렉션입니다. 이 다양한 데이터셋을 통해 Moirai는 다양한 시간 시리즈 데이터에서 학습할 수 있으며, 다양한 예측 작업을 수행할 수 있습니다. Moirai는 여러 패치 크기 프로젝션 레이어를 사용하여 다양한 주파수에서 시간적 패턴을 캡처합니다. Moirai의 중요한 측면은任意 변수에 대한 예측을 허용하는 Any-Variate 주의 메커니즘을 사용하는 것입니다. Moirai와 관련된 코드, 모델 가중치, 데이터는 “uni2ts“라는 GitHub 저장소에서 찾을 수 있습니다.

• Chronos: Amazon에서 개발한 Chronos는 시간 시리즈 예측을 위한 사전 훈련된 확률적 모델의 컬렉션입니다. T5 트랜스포머 아키텍처를 기반으로 하는 이 모델은 4096개의 토큰으로 구성된 어휘를 사용하며, 800만 개에서 7억 1천만 개의 매개 변수를 갖습니다. Chronos는 가우스 프로세스에서 생성된 공개 및 합성 데이터에서 사전 훈련됩니다. TimesFM과 달리 Chronos는 인코더-디코더 모델로, 시간 시리즈 데이터에서 인코더 임베딩을 추출할 수 있습니다. Chronos는 Python 환경에서 쉽게 통합할 수 있으며, API를 통해 접근할 수 있습니다.

• Moment: Carnegie Mellon University와 University of Pennsylvania에서 공동 개발한 Moment는 오픈 소스 기초 시간 시리즈 모델家族입니다. 이 모델은 T5 아키텍처의 변형을 사용하며, 약 1억 2천 5백만 개의 매개 변수를 갖는 베이스 모델을 포함합니다. 이 모델은 다양한 도메인을 포함하는 “Time-series Pile”이라는 광범위한 공개 시간 시리즈 데이터셋에서 사전 훈련됩니다. 다른 기초 모델과 달리, Moment는 예측, 분류, 이상치 감지, 삽입 등 다양한 작업에 대한 사전 훈련을 받습니다. Python 저장소와 Jupyter 노트북 코드는 공개적으로 접근할 수 있습니다.

결론

시간 시리즈 예측은 금융, 의료 등 다양한 분야에서 중요한 도구로, 역사적인 패턴에 따라 정보에 기반한 의사 결정을 가능하게 합니다. TimesFM, Chronos, Moment, Lag-Llama, Moirai와 같은 고급 기초 모델은 트랜스포머 아키텍처와 다양한 훈련 데이터셋을 활용하여 정확한 예측과 분석을 제공합니다. 이러한 모델은 시간 시리즈 분석의 미래를 예측하며, 비즈니스와 연구자들에게 복잡한 데이터 풍경을 효과적으로 탐색할 수 있는 강력한 도구를 제공합니다.