Vzestup základních modelů časových řad pro analýzu a předpověď dat

Časová řada předpověď hraje zásadní roli v rozhodování napříč různými odvětvími, jako je maloobchod, finance, výroba a zdravotnictví. Nicméně, ve srovnání s doménami, jako je přirozený jazykový proces a rozpoznání obrazu, integrace pokročilých technik umělé inteligence (AI) do předpovědi časových řad byla relativně pomalá. Ačkoli základní AI udělal významný pokrok v oblastech, jako je přirozený jazykový proces a rozpoznání obrazu, jeho dopad na předpověď časových řad byl omezený až donedávna. Nicméně, nyní je zde rostoucí trend ve vývoji základních modelů speciálně navrženými pro předpověď časových řad. Tento článek bude diskutovat o měnícím se krajině základních AI pro předpověď časových řad, zkoumající recentní pokroky v této doméně.

Předpověď časových řad a aplikace

Časová řada dat se odkazuje na posloupnost datových bodů shromážděných nebo zaznamenaných v pravidelných časových intervalech. Tento typ dat je běžný napříč různými doménami, jako je ekonomika, počasí, zdravotnictví a další. Každý datový bod v časové řadě je časově označen, a posloupnost je často používána k analýze trendů, vzorců a sezónních variací v čase.

Předpověď časových řad zahrnuje použití historických dat k předpovědi budoucích hodnot v řadě. Je to kritická metoda ve statistice a strojovém učení, která pomáhá při informovaném rozhodování na základě minulých vzorců. Předpověď může být tak jednoduchá, jako projekce stejné míry růstu do budoucnosti, nebo tak komplexní, jako použití modelů AI k předpovědi budoucích trendů na základě složitých vzorců a vnějších faktorů.

Některé aplikace předpovědi časových řad jsou následující:

• Finanční trhy: Ve finančních trzích je předpověď časových řad používána k předpovědi cen akcií, směnných kurzů a tržních trendů. Investoři a analytici používají historická data k předpovědi budoucích pohybů a rozhodování o obchodech.
• Předpověď počasí: Meteorologické úřady používají data časových řad k předpovědi počasí. Analýzou minulých počasí dat, předpovídají budoucí počasí vzorce, pomáhající v plánování a rozhodování pro zemědělství, cestování a řízení katastrof.
• Prodej a marketing: Podniky využívají předpověď časových řad k předpovědi budoucích prodejů, poptávky a chování spotřebitelů. To pomáhá v řízení zásob, stanovení prodejních cílů a vývoji marketingových strategií.
• Energetický sektor: Energetické společnosti předpovídají poptávku a nabídku, aby optimalizovaly výrobu a distribuci. Předpověď časových řad pomáhá předpovídat vzorce spotřeby energie, umožňující efektivní energetické řízení a plánování.
• Zdravotnictví: Ve zdravotnictví je předpověď časových řad používána k předpovědi propuknutí nemocí, hospitalizací a požadavků na zdravotnické vybavení. To pomáhá ve zdravotnickém plánování, alokaci zdrojů a tvorbě politik.

Základní modely časových řad

Základní modely AI jsou rozsáhlé, předtrénované modely, které tvoří základ pro různé aplikace umělé inteligence. Jsou trénovány na velkých a rozmanitých datech, umožňujících jim rozpoznat vzorce, spojení a struktury v datech. Termín “základní” se odkazuje na jejich schopnost být jemně upraveny nebo modifikovány pro úkoly nebo domény s minimálním dodatečným trénováním. V kontextu předpovědi časových řad jsou tyto modely konstruovány podobně jako velké jazykové modely (LLM), využívající transformer architektury. Jako LLM, jsou trénovány k předpovědi následujícího nebo chybějícího prvku v datovém sekvenci. Nicméně, na rozdíl od LLM, které zpracovávají text jako subwords přes transformer vrstvy, základní modely časových řad zacházejí s posloupnostmi kontinuálních časových bodů jako tokeny, umožňující jim sekvenčně zpracovávat data časových řad.

Nedávno byly vyvinuty různé základní modely pro data časových řad. S lepším pochopením a výběrem vhodného základního modelu, můžeme efektivněji a účinněji využít jejich schopností. V následujících částech budeme zkoumat různé základní modely dostupné pro analýzu dat časových řad.

• TimesFM: Vyvinutý Google (GOOGL ) Research, TimesFM je dekodér-only základní model s 200 miliony parametrů. Model je trénován na datovém souboru 100 miliard reálných časových bodů, zahrnujícím syntetická a skutečná data z různých zdrojů, jako je Google Trends a Wikipedia Pageviews. TimesFM je schopen nulové předpovědi v několika sektorech, včetně maloobchodu, financí, výroby, zdravotnictví a přírodních věd, napříč různými časovými granularitami. Google má v úmyslu uvolnit TimesFM na své Google Cloud Vertex AI platformě, poskytující jeho pokročilé předpovědní funkce externím klientům.
• Lag-Llama: Vytvořený výzkumníky z Université de Montréal, Mila-Québec AI Institute a McGill University, Lag-Llama je základní model navržen pro univariabilní pravděpodobnostní předpověď časových řad. Postavený na základě Llama, model využívá dekodér-only transformer architekturu, která používá proměnné velikosti časových zpoždění a časových rozlišení pro předpověď. Model je trénován na rozmanitých datech časových řad z různých zdrojů napříč šesti různými skupinami, včetně energie, dopravy, ekonomiky, přírody, kvality vzduchu a cloud operací. Model je snadno dostupný prostřednictvím Huggingface knihovny.
• Moirai: Vyvinutý Salesforce (CRM ) AI Research, Moirai je základní časový model navržen pro univerzální předpověď. Moirai je trénován na Large-scale Open Time Series Archive (LOTSA) datovém souboru, který obsahuje 27 miliard pozorování z devíti různých domén, což je největší sbírka otevřených dat časových řad. Tato rozmanitá data umožňují Moirai naučit se z široké škály dat časových řad, umožňující mu zvládat různé úkoly předpovědi. Moirai využívá multiple patch size projekčních vrstev k zachycení temporálních vzorců napříč různými frekvencemi. Důležitým aspektem Moirai je použití libovolné variabilní pozornosti, umožňující předpověď napříč libovolným počtem proměnných. Kód, modelové váhy a data spojená s Moirai jsou dostupná v GitHub repozitáři nazvaném “uni2ts“

• Chronos: Vyvinutý Amazonem, Chronos je kolekce předtrénovaných pravděpodobnostních modelů pro předpověď časových řad. Postavený na T5 transformer architektuře, modely využívají slovník 4096 tokenů a mají různé parametry, sahající od 8 milionů do 710 milionů. Chronos se liší od TimesFM v tom, že je to encoder-decoder model, který umožňuje extrakci encoder embeddings z dat časových řad. Chronos lze snadno integrovat do Python prostředí a přístup k němu je možný prostřednictvím jeho API.

• Moment: Vyvinutý spoluprací mezi Carnegie Mellon University a University of Pennsylvania, Moment je rodina otevřených základních modelů časových řad. Využívá variace T5 architektur, včetně malých, základních a velkých verzí, s základním modelem zahrnujícím přibližně 125 milionů parametrů. Model prochází předtrénováním na rozsáhlém “Time-series Pile”, rozmanité sbírce veřejných dat časových řad pokrývajících různé domény. Na rozdíl od mnoha jiných základních modelů, MOMENT je předtrénován na širokém spektru úkolů, zvyšujícím jeho účinnost v aplikacích, jako je předpověď, klasifikace, detekce anomálií a imputace. Úplný Python repozitář a Jupyter notebook kód jsou veřejně dostupné pro využití modelu.

Závěrečné shrnutí

Předpověď časových řad je zásadním nástrojem napříč různými doménami, od financí po zdravotnictví, umožňujícím informované rozhodování na základě historických vzorců. Pokročilé základní modely, jako TimesFM, Chronos, Moment, Lag-Llama a Moirai, nabízejí sofistikované schopnosti, využívající transformer architektury a rozmanité trénovací datové sady pro přesnou předpověď a analýzu. Tyto modely poskytují pohled do budoucnosti analýzy časových řad, vybavující podniky a výzkumníky silnými nástroji pro efektivní navigaci v komplexních datových krajích.