Wzrost modeli czasowych fundamentów dla analizy i prognozowania danych

Seria czasowa prognozowania odgrywa kluczową rolę w podejmowaniu decyzji w różnych branżach, takich jak handel detaliczny, finanse, produkcja i opieka zdrowotna. Jednak w porównaniu z dziedzinami takimi jak przetwarzanie języka naturalnego i rozpoznawanie obrazów, integracja zaawansowanych technik sztucznej inteligencji (AI) z prognozowaniem szeregów czasowych była stosunkowo powolna. Chociaż modele podstawowe AI dokonały znaczących postępów w dziedzinach takich jak przetwarzanie języka naturalnego i rozpoznawanie obrazów, ich wpływ na prognozowanie szeregów czasowych był ograniczony do niedawna. Niemniej jednak, obecnie obserwujemy rosnący popyt na rozwój modeli podstawowych specjalnie dostosowanych do prognozowania szeregów czasowych. Artykuł ten omówi ewoluujący krajobraz modeli podstawowych AI dla prognozowania szeregów czasowych, przedstawiając ostatnie postępy w tej dziedzinie.

Prognozowanie szeregów czasowych i zastosowania

Dane szeregów czasowych odnoszą się do sekwencji punktów danych zebranych lub zarejestrowanych w regularnych odstępach czasu. Ten typ danych jest powszechny w różnych dziedzinach, takich jak ekonomia, pogoda, zdrowie i wiele innych. Każdy punkt danych w szeregu czasowym jest opatrzony znacznikiem czasowym, a sekwencja jest często wykorzystywana do analizy trendów, wzorców i wahania sezonowego w czasie.

Prognozowanie szeregów czasowych polega na wykorzystaniu danych historycznych do przewidywania przyszłych wartości w szeregu. Jest to kluczowa metoda w statystyce i uczeniu maszynowym, która pomaga w podejmowaniu decyzji opartych na wzorcach z przeszłości. Prognozowanie może być tak proste, jak projekcja tego samego tempa wzrostu w przyszłości, lub tak złożone, jak wykorzystanie modeli AI do przewidywania przyszłych trendów na podstawie skomplikowanych wzorców i czynników zewnętrznych.

Niektóre zastosowania prognozowania szeregów czasowych to:

• Rynki finansowe: W finansach, prognozowanie szeregów czasowych jest wykorzystywane do przewidywania cen akcji, kursów walutowych i trendów rynkowych. Inwestorzy i analitycy wykorzystują dane historyczne do prognozowania przyszłych ruchów i podejmowania decyzji inwestycyjnych.
• Prognozowanie pogody: Departamenty meteorologiczne wykorzystują dane szeregów czasowych do przewidywania warunków pogodowych. Analizując dane pogodowe z przeszłości, prognozują przyszłe wzorce pogodowe, co pomaga w planowaniu i podejmowaniu decyzji dotyczących rolnictwa, podróży i zarządzania klęskami żywiołowymi.
• Sprzedaż i marketing: Przedsiębiorstwa wykorzystują prognozowanie szeregów czasowych do przewidywania przyszłych sprzedaży, popytu i zachowań konsumentów. Pomaga to w zarządzaniu zapasami, ustalaniu celów sprzedaży i tworzeniu strategii marketingowych.
• Sektor energetyczny: Przedsiębiorstwa energetyczne prognozują popyt i podaż, aby zoptymalizować produkcję i dystrybucję. Prognozowanie szeregów czasowych pomaga w przewidywaniu wzorców zużycia energii, co umożliwia efektywne zarządzanie energią i planowanie.
• Ochrona zdrowia: W sektorze ochrony zdrowia, prognozowanie szeregów czasowych jest wykorzystywane do przewidywania wybuchów chorób, przyjęć pacjentów i wymagań dotyczących zapasów medycznych. Pomaga to w planowaniu opieki zdrowotnej, alokacji zasobów i tworzeniu polityki.

Modele podstawowe szeregów czasowych

Modele podstawowe AI są obszernymi, wstępnie wytrenowanymi modelami, które stanowią podstawę dla różnych aplikacji sztucznej inteligencji. Są one wytrenowane na dużych i zróżnicowanych zbiorach danych, co pozwala im na rozpoznanie wzorców, połączeń i struktur w danych. Termin “podstawowy” odnosi się do ich zdolności do być dostosowanymi lub modyfikowanymi dla zadań lub dziedzin z minimalnym dodatkowym treningiem. W kontekście prognozowania szeregów czasowych, te modele są konstruowane podobnie do dużych modeli językowych (LLM), wykorzystując architektury transformatora. Podobnie jak LLM, są one wytrenowane do przewidywania następnego lub brakującego elementu w sekwencji danych. Jednak w przeciwieństwie do LLM, które przetwarzają tekst jako podwyrazy przez warstwy transformatora, modele podstawowe szeregów czasowych traktują sekwencje punktów czasowych jako tokeny, co pozwala im na sekwencyjne przetwarzanie danych szeregów czasowych.

Ostatnio opracowano różne modele podstawowe dla danych szeregów czasowych. Z lepszym zrozumieniem i wyborem odpowiedniego modelu podstawowego, możemy skuteczniej i efektywniej wykorzystywać ich możliwości. W następnych sekcjach omówimy różne modele podstawowe dostępne dla analizy danych szeregów czasowych.

• TimesFM: Opracowany przez Google (GOOGL ) Research, TimesFM to model podstawowy dekodera tylko z 200 milionami parametrów. Model jest wytrenowany na zbiorze 100 miliardów punktów czasowych z różnych źródeł, takich jak Google Trends i Wikipedia Pageviews. TimesFM jest w stanie wykonywać prognozowanie zero-shot w wielu sektorach, w tym handlu detalicznym, finansach, produkcji, ochronie zdrowia i naukach przyrodniczych, na różnych granulacjach czasowych. Google planuje udostępnić TimesFM na platformie Google Cloud Vertex AI, zapewniając jego zaawansowane funkcje prognozowania klientom zewnętrznym.
• Lag-Llama: Stworzony przez badaczy z Université de Montréal, Mila-Québec AI Institute i McGill University, Lag-Llama to model podstawowy zaprojektowany dla prognozowania prawdopodobieństwa szeregów czasowych. Zbudowany na podstawie Llama, model wykorzystuje architekturę transformatora dekodera tylko, która wykorzystuje zmienne rozmiary opóźnień i rozdzielczości czasowych do prognozowania. Model jest wytrenowany na różnorodnych zbiorach danych szeregów czasowych z różnych źródeł, obejmujących sześć różnych grup, w tym energię, transport, ekonomię, naturę, jakość powietrza i operacje chmurowe. Model jest łatwo dostępny za pośrednictwem biblioteki Huggingface.
• Moirai: Opracowany przez Salesforce (CRM ) AI Research, Moirai to model podstawowy czasowy zaprojektowany dla powszechnego prognozowania. Moirai jest wytrenowany na zbiorze Large-scale Open Time Series Archive (LOTSA), który zawiera 27 miliardów obserwacji z dziewięciu różnych dziedzin, co czyni go największym zbiorem otwartych danych szeregów czasowych. Ten zróżnicowany zbiór danych pozwala Moirai nauczyć się z szerokiego zakresu danych szeregów czasowych, umożliwiając mu radzenie sobie z różnymi zadaniami prognozowania. Moirai wykorzystuje wiele warstw projekcji rozmiaru patcha do przechwytywania wzorców czasowych na różnych częstotliwościach. Ważnym aspektem Moirai jest użycie mechanizmu uwagi dowolnej zmiennej, co pozwala na prognozowanie dla dowolnej liczby zmiennych. Kod, wagi modelu i dane związane z Moirai są dostępne w repozytorium GitHub o nazwie “uni2ts“

• Chronos: Opracowany przez Amazon (AMZN ), Chronos to zbiór wstępnie wytrenowanych modeli prawdopodobieństwa dla prognozowania szeregów czasowych. Zbudowany na architekturze transformatora T5, modele wykorzystują słownik 4096 tokenów i mają różne parametry, od 8 milionów do 710 milionów. Chronos różni się od TimesFM tym, że jest modelem encoder-dekodera, co umożliwia wyodrębnienie osadzeń encoder z danych szeregów czasowych. Chronos może być łatwo zintegrowany z środowiskiem Python i dostępny za pośrednictwem API.

• Moment: Opracowany wspólnie przez Carnegie Mellon University i University of Pennsylvania, Moment to rodzina otwartych modeli podstawowych czasowych. Wykorzystuje wariacje architektur T5, w tym wersje small, base i large, z modelem base zawierającym około 125 milionów parametrów. Model przechodzi wstępne trening na obszernym “Time-series Pile”, zróżnicowanym zbiorze publicznych danych szeregów czasowych obejmującym różne dziedziny. W przeciwieństwie do wielu innych modeli podstawowych, Moment jest wytrenowany na szerokim spektrum zadań, co zwiększa jego skuteczność w aplikacjach takich jak prognozowanie, klasyfikacja, wykrywanie anomalii i imputacja. Kompletny repozytorium Python i kod notesu Jupyter są publicznie dostępne do wykorzystania modelu.

Podsumowanie

Prognozowanie szeregów czasowych jest kluczowym narzędziem w różnych dziedzinach, od finansów po opiekę zdrowotną, umożliwiającym podejmowanie decyzji opartych na wzorcach z przeszłości. Zaawansowane modele podstawowe, takie jak TimesFM, Chronos, Moment, Lag-Llama i Moirai, oferują zaawansowane możliwości, wykorzystując architektury transformatora i zróżnicowane zbiory danych do dokładnego prognozowania i analizy. Modele te dają nam wgląd w przyszłość analizy szeregów czasowych, wyposażając przedsiębiorstwa i badaczy w potężne narzędzia do skutecznego nawigowania w złożonych krajobrazach danych.