O Surgimento de Modelos Fundamentais de Séries Temporais para Análise e Previsão de Dados

Séries temporais previsão desempenha um papel vital nos processos de tomada de decisões cruciais em várias indústrias, como varejo, finanças, manufatura e saúde. No entanto, em comparação com domínios como processamento de linguagem natural e reconhecimento de imagens, a integração de técnicas avançadas de inteligência artificial (IA) na previsão de séries temporais tem sido relativamente lenta. Embora a IA fundamental tenha feito progressos significativos em áreas como processamento de linguagem natural e reconhecimento de imagens, seu impacto na previsão de séries temporais tem sido limitado até recentemente. No entanto, agora há um aumento no desenvolvimento de modelos fundamentais específicamente projetados para previsão de séries temporais. Este artigo discutirá a paisagem em evolução da IA fundamental para previsão de séries temporais, explorando os recentes avanços nesse domínio.

Previsão de Séries Temporais e Aplicações

Dados de séries temporais se referem a uma sequência de pontos de dados coletados ou registrados em intervalos de tempo regulares. Esse tipo de dado é prevalente em vários domínios, como economia, clima, saúde e mais. Cada ponto de dados em uma série temporal é marcado com um carimbo de data e hora, e a sequência é frequentemente usada para analisar tendências, padrões e variações sazonais ao longo do tempo.

A previsão de séries temporais envolve o uso de dados históricos para prever valores futuros na série. É um método crítico em estatística e aprendizado de máquina que ajuda na tomada de decisões informadas com base em padrões passados. A previsão pode ser tão simples quanto projetar a mesma taxa de crescimento para o futuro ou tão complexa quanto usar modelos de IA para prever tendências futuras com base em padrões intricados e fatores externos.

Algumas aplicações da previsão de séries temporais são as seguintes:

• Mercados Financeiros: No setor financeiro, a previsão de séries temporais é usada para prever preços de ações, taxas de câmbio e tendências do mercado. Investidores e analistas usam dados históricos para prever movimentos futuros e tomar decisões de negociação.
• Previsão do Tempo: Departamentos meteorológicos usam dados de séries temporais para prever condições climáticas. Analisando dados climáticos passados, eles preveem padrões climáticos futuros, ajudando no planejamento e tomada de decisões para agricultura, viagens e gestão de desastres.
• Vendas e Marketing: Empresas utilizam a previsão de séries temporais para prever vendas futuras, demanda e comportamento do consumidor. Isso ajuda no gerenciamento de estoque, definição de metas de vendas e desenvolvimento de estratégias de marketing.
• Setor Energético: Empresas de energia preveem demanda e oferta para otimizar produção e distribuição. A previsão de séries temporais ajuda a prever padrões de consumo de energia, permitindo um gerenciamento de energia eficiente e planejamento.
• Saúde: No setor de saúde, a previsão de séries temporais é usada para prever surtos de doenças, admissões de pacientes e necessidades de estoque médico. Isso ajuda no planejamento de saúde, alocação de recursos e elaboração de políticas.

Modelos Fundamentais de Séries Temporais

Modelos de IA fundamentais são extensos e pré-treinados, formando a base para várias aplicações de inteligência artificial. Eles são treinados em grandes e diversificados conjuntos de dados, permitindo que eles discernam padrões, conexões e estruturas dentro dos dados. O termo “fundamental” se refere à sua capacidade de ser ajustado ou modificado para tarefas ou domínios com treinamento adicional mínimo. No contexto da previsão de séries temporais, esses modelos são construídos de forma semelhante a grandes modelos de linguagem (LLMs), utilizando arquiteturas de transformadores. Como os LLMs, eles são treinados para prever o elemento subsequente ou ausente em uma sequência de dados. No entanto, ao contrário dos LLMs, que processam texto como subpalavras por meio de camadas de transformadores, os modelos fundamentais de séries temporais tratam sequências de pontos de tempo contínuos como tokens, permitindo que eles processem sequências de dados de séries temporais de forma sequencial.

Recentemente, vários modelos fundamentais foram desenvolvidos para dados de séries temporais. Com uma melhor compreensão e escolha do modelo fundamental apropriado, podemos aproveitar mais efetiva e eficientemente suas capacidades. Nas seções subsequentes, exploraremos os diferentes modelos fundamentais disponíveis para análise de dados de séries temporais.

• TimesFM: Desenvolvido pelo Google (GOOGL ) Research, o TimesFM é um modelo fundamental decodificador com 200 milhões de parâmetros. O modelo é treinado em um conjunto de dados de 100 bilhões de pontos de tempo reais, abrangendo tanto dados sintéticos quanto reais de várias fontes, como Google Trends e visualizações de páginas do Wikipedia. O TimesFM é capaz de previsão de zero-shot em vários setores, incluindo varejo, finanças, manufatura, saúde e ciências naturais, em diferentes granularidades de tempo. O Google pretende lançar o TimesFM em sua plataforma Google Cloud Vertex AI, fornecendo suas características de previsão sofisticadas para clientes externos.
• Lag-Llama: Criado por pesquisadores da Université de Montréal, Mila-Québec AI Institute e Universidade McGill, o Lag-Llama é um modelo fundamental projetado para previsão probabilística de séries temporais univariadas. Construído sobre a base do Llama, o modelo emprega uma arquitetura de transformador decodificador que usa tamanhos de atraso e resoluções de tempo variáveis para previsão. O modelo é treinado em conjuntos de dados de séries temporais diversificados de várias fontes, abrangendo seis grupos diferentes, incluindo energia, transporte, economia, natureza, qualidade do ar e operações em nuvem. O modelo está convenientemente acessível por meio da biblioteca Huggingface.
• Moirai: Desenvolvido pela Salesforce (CRM ) AI Research, o Moirai é um modelo fundamental de séries temporais projetado para previsão universal. O Moirai é treinado no conjunto de dados Large-scale Open Time Series Archive (LOTSA), que contém 27 bilhões de observações de nove domínios distintos, tornando-o a maior coleção de conjuntos de dados de séries temporais abertos. Esse conjunto de dados diversificado permite que o Moirai aprenda com uma ampla gama de dados de séries temporais, permitindo que ele lidere com diferentes tarefas de previsão. O Moirai usa várias camadas de projeção de tamanho de patch para capturar padrões temporais em várias frequências. Um aspecto importante do Moirai é o uso de um mecanismo de atenção variável, permitindo previsões em qualquer número de variáveis. O código, os pesos do modelo e os dados associados ao Moirai estão disponíveis no repositório GitHub chamado “uni2ts“

• Chronos: Desenvolvido pela Amazon (AMZN ), o Chronos é uma coleção de modelos probabilísticos pré-treinados para previsão de séries temporais. Construído sobre a arquitetura de transformador T5, os modelos usam um vocabulário de 4096 tokens e têm parâmetros variados, que vão de 8 milhões a 710 milhões. O Chronos é pré-treinado em uma vasta gama de dados públicos e sintéticos gerados a partir de processos gaussianos. O Chronos difere do TimesFM porque é um modelo codificador-decodificador, o que permite a extração de embeddings do codificador a partir de dados de séries temporais. O Chronos pode ser facilmente integrado a um ambiente Python e acessado por meio de sua API.

• Moment: Desenvolvido em colaboração pela Universidade Carnegie Mellon e pela Universidade da Pensilvânia, o Moment é uma família de modelos fundamentais de séries temporais de código aberto. Ele utiliza variações das arquiteturas T5, incluindo versões pequena, base e grande, com o modelo base incorporando aproximadamente 125 milhões de parâmetros. O modelo passa por pré-treinamento no extenso “Time-series Pile”, uma coleção diversificada de dados de séries temporais públicas que abrange vários domínios. Ao contrário de muitos outros modelos fundamentais, o Moment é pré-treinado em uma ampla gama de tarefas, melhorando sua eficácia em aplicações como previsão, classificação, detecção de anomalias e imputação. O repositório Python completo e o código do notebook Jupyter são publicamente acessíveis para utilizar o modelo.

A Linha de Fundo

A previsão de séries temporais é uma ferramenta crucial em vários domínios, desde finanças até saúde, permitindo a tomada de decisões informadas com base em padrões históricos. Modelos fundamentais avançados, como TimesFM, Chronos, Moment, Lag-Llama e Moirai, oferecem capacidades sofisticadas, aproveitando arquiteturas de transformadores e conjuntos de dados de treinamento diversificados para previsão e análise precisas. Esses modelos fornecem um vislumbre do futuro da análise de séries temporais, capacitando empresas e pesquisadores com ferramentas poderosas para navegar paisagens de dados complexas de forma eficaz. i ofereço capacidades sofisticadas, aproveitando arquiteturas de transformadores e conjuntos de dados de treinamento diversificados para previsão e análise precisas. Esses modelos fornecem um vislumbre do futuro da análise de séries temporais, capacitando empresas e pesquisadores com ferramentas poderosas para navegar paisagens de dados complexas de forma eficaz.