Tidsserieförutsägelse och tillämpningar med grundläggande modeller för dataanalys och förutsägelse

Tidsserieförutsägelse spelar en avgörande roll i viktiga beslutsprocesser inom olika branscher, såsom detaljhandel, finans, tillverkning och hälsovård. Men i jämförelse med områden som naturlig språkbehandling och bildigenkänning, har integrationen av avancerad artificiell intelligens (AI) i tidsserieförutsägelse varit relativt långsam. Även om grundläggande AI har gjort betydande framsteg inom områden som naturlig språkbehandling och bildigenkänning, har dess påverkan på tidsserieförutsägelse varit begränsad tills nyligen. Trots detta finns det nu en ökande trend i utvecklingen av grundläggande modeller som är specifikt utformade för tidsserieförutsägelse. Den här artikeln kommer att diskutera den utvecklande landskapet för grundläggande AI för tidsserieförutsägelse, med en undersökning av de senaste framstegen inom detta område.

Tidsserieförutsägelse och tillämpningar

Tidsseriedata refererar till en sekvens av datapunkter som samlas in eller registreras vid regelbundna tidsintervall. Denna typ av data förekommer inom olika områden, såsom ekonomi, väder, hälsa och mer. Varje datapunkt i en tidsserie är tidsstämplad, och sekvensen används ofta för att analysera trender, mönster och säsongsvariationer över tid.

Tidsserieförutsägelse innebär att man använder historiska data för att förutsäga framtida värden i serien. Det är en kritisk metod inom statistik och maskinlärning som hjälper till att fatta informerade beslut baserat på tidigare mönster. Förutsägelse kan vara så enkelt som att projicera samma tillväxttakt in i framtiden eller så komplext som att använda AI-modeller för att förutsäga framtida trender baserat på invecklade mönster och yttre faktorer.

Några tillämpningar av tidsserieförutsägelse är följande:

• Finansiella marknader: Inom finans används tidsserieförutsägelse för att förutsäga aktiepriser, valutakurser och marknadstrender. Investorer och analytiker använder historiska data för att förutsäga framtida rörelser och fatta handelsbeslut.
• Väderprognoser: Meteorologiska avdelningar använder tidsseriedata för att förutsäga väderförhållanden. Genom att analysera tidigare väderdata förutsäger de framtida vädermönster, vilket hjälper till att planera och fatta beslut för jordbruk, resor och katastrofhantering.
• Försäljning och marknadsföring: Företag använder tidsserieförutsägelse för att förutsäga framtida försäljning, efterfrågan och konsumentbeteende. Detta hjälper till att hantera lager, sätta försäljningsmål och utveckla marknadsstrategier.
• Energi: Energibolag förutsäger efterfrågan och utbud för att optimera produktion och distribution. Tidsserieförutsägelse hjälper till att förutsäga energiförbrukningsmönster, vilket möjliggör effektiv energihantering och planering.
• Hälsovård: Inom hälsovården används tidsserieförutsägelse för att förutsäga sjukdomsutbrott, patientinläggningar och medicinska lagerkrav. Detta hjälper till att planera hälsovård, allokera resurser och fatta politiska beslut.

Grundläggande tidsseriemodeller

Grundläggande AI-modeller är omfattande, förtränade modeller som utgör grunden för olika artificiella intelligensapplikationer. De tränas på stora och varierade datamängder, vilket ermöglicher dem att urskilja mönster, samband och strukturer inom data. Begreppet “grundläggande” refererar till deras förmåga att finjusteras eller modifieras för uppgifter eller domäner med minimal ytterligare träning. I sammanhanget med tidsserieförutsägelse konstrueras dessa modeller på liknande sätt som stora språkmodeller (LLM), med användning av transformatorarkitektur. Liksom LLM använder de för att förutsäga det efterföljande eller saknade elementet i en datasekvens. Men till skillnad från LLM, som bearbetar text som subord som går genom transformatorlager, behandlar grundläggande tidsseriemodeller sekvenser av kontinuerliga tidspunkter som token, vilket möjliggör sekventiell bearbetning av tidsseriedata.

Nyligen har olika grundläggande modeller utvecklats för tidsseriedata. Med bättre förståelse och val av lämplig grundläggande modell kan vi mer effektivt och effektivt utnyttja deras förmågor. I de efterföljande avsnitten kommer vi att undersöka de olika grundläggande modellerna som finns tillgängliga för tidsseriedataanalys.

• TimesFM: Utvecklad av Google (GOOGL ) Research, TimesFM är en decoder-only grundläggande modell med 200 miljoner parametrar. Modellen tränas på en datamängd med 100 miljarder verkliga tidspunkter, som omfattar både syntetiska och verkliga data från varierade källor som Google Trends och Wikipedia-sidor. TimesFM är kapabel till nollskottförutsägelse i flera sektorer, inklusive detaljhandel, finans, tillverkning, hälsovård och naturvetenskap, över olika tidsgranulariteter. Google avser att släppa TimesFM på sin Google Cloud Vertex AI-plattform, vilket tillhandahåller dess avancerade förutsägelsefunktioner till externa kunder.
• Lag-Llama: Skapad av forskare från Université de Montréal, Mila-Québec AI-institutet och McGill University, Lag-Llama är en grundläggande modell utformad för univariat probabilistisk tidsserieförutsägelse. Byggd på grunden av Llama, använder modellen en decoder-only transformatorarkitektur som använder variabla storlekar tidslag och tidsupplösningar för förutsägelse. Modellen tränas på en varierad tidsseriedatamängd från flera källor över sex olika grupper, inklusive energi, transport, ekonomi, natur, luftkvalitet och molnoperationer. Modellen är lättillgänglig via Huggingface-biblioteket.
• Moirai: Utvecklad av Salesforce (CRM ) AI Research, Moirai är en grundläggande tidsseriemodell utformad för universell förutsägelse. Moirai tränas på den stora öppna tidsseriedatamängden (LOTSA), som innehåller 27 miljarder observationer från nio distinkta domäner, vilket gör den till den största samlingen av öppna tidsseriedatamängder. Denna varierade datamängd tillåter Moirai att lära sig från en bred variation av tidsseriedata, vilket möjliggör hantering av olika förutsägelseuppgifter. Moirai använder flera patchstorleksprojektionslager för att fånga temporala mönster över olika frekvenser. En viktig aspekt av Moirai är att använda en variabel uppmärksamhetsmekanism, vilket tillåter förutsägelse över valfritt antal variabler. Koden, modellvikterna och datan som är associerad med Moirai är tillgängliga i GitHub-repositoriet som kallas “uni2ts“

• Chronos: Utvecklad av Amazon (AMZN ), Chronos är en samling förtränade probabilistiska modeller för tidsserieförutsägelse. Byggd på T5-transformatorarkitekturen, använder modellerna en vokabulär på 4096 token och har varierande parametrar, som sträcker sig från 8 miljoner till 710 miljoner. Chronos är förtränad på en stor mängd offentliga och syntetiska data genererade från gaussiska processer. Chronos skiljer sig från TimesFM genom att det är en encoder-decoder-modell, vilket möjliggör extrahering av encoder-embeddings från tidsseriedata. Chronos kan lätt integreras i en Python-miljö och nås via dess API.

• Moment: Utvecklad i samarbete mellan Carnegie Mellon University och University of Pennsylvania, Moment är en familj av öppen källkodsgrundläggande tidsseriemodeller. Den använder variationer av T5-arkitekturer, inklusive små, bas och stora versioner, där basmodellen inkorporerar cirka 125 miljoner parametrar. Modellen genomgår förträning på den omfattande “Time-series Pile”, en varierad samling av offentliga tidsseriedata som omfattar olika domäner. Till skillnad från många andra grundläggande modeller är Moment förtränad på en bred variation av uppgifter, vilket förbättrar dess effektivitet i applikationer som förutsägelse, klassificering, avvikelseupptäckt och imputation. Den fullständiga Python-repositorien och Jupyter-anteckningskoden är offentligt tillgängliga för att använda modellen.

Slutsatsen

Tidsserieförutsägelse är ett viktigt verktyg inom olika områden, från finans till hälsovård, vilket möjliggör informerade beslut baserat på historiska mönster. Avancerade grundläggande modeller som TimesFM, Chronos, Moment, Lag-Llama och Moirai erbjuder avancerade förmågor, som utnyttjar transformatorarkitekturer och varierade träningsdatamängder för exakt förutsägelse och analys. Dessa modeller ger en glimt av framtiden för tidsserianalys, vilket ger företag och forskare kraftfulla verktyg för att navigera komplexa datalandskap effektivt.