L’essor des modèles de série chronologique fondamentaux pour l’analyse et la prévision des données

Les séries temporelles de prévision jouent un rôle essentiel dans les processus de prise de décision cruciaux dans diverses industries, telles que la vente au détail, la finance, la fabrication et les soins de santé. Cependant, par rapport à des domaines comme le traitement automatique des langues et la reconnaissance d’images, l’intégration de techniques d’intelligence artificielle (IA) avancées dans la prévision des séries temporelles a été relativement lente. Bien que les modèles fondamentaux d’IA aient fait des progrès significatifs dans des domaines tels que le traitement automatique des langues et la reconnaissance d’images, leur impact sur la prévision des séries temporelles a été limité jusqu’à récemment. Néanmoins, il y a maintenant une augmentation de l’élan dans le développement de modèles fondamentaux spécifiquement conçus pour la prévision des séries temporelles. Cet article discutera l’évolution du paysage des modèles fondamentaux d’IA pour la prévision des séries temporelles, en explorant les progrès récents dans ce domaine.

Prévision des séries temporelles et applications

Les données de série temporelle font référence à une séquence de points de données collectés ou enregistrés à des intervalles de temps réguliers. Ce type de données est prévalent dans divers domaines, tels que l’économie, la météorologie, la santé, etc. Chaque point de données dans une série temporelle est horodaté, et la séquence est souvent utilisée pour analyser les tendances, les modèles et les variations saisonnières dans le temps.

La prévision des séries temporelles implique l’utilisation de données historiques pour prédire les valeurs futures de la série. Il s’agit d’une méthode critique en statistiques et en apprentissage automatique qui aide à prendre des décisions éclairées en fonction de modèles passés. La prévision peut être aussi simple que de projeter le même taux de croissance dans le futur ou aussi complexe que d’utiliser des modèles d’IA pour prédire les tendances futures en fonction de modèles complexes et de facteurs externes.

Certaines applications de la prévision des séries temporelles sont les suivantes :

• Marchés financiers : Dans la finance, la prévision des séries temporelles est utilisée pour prédire les prix des actions, les taux de change et les tendances du marché. Les investisseurs et les analystes utilisent les données historiques pour prédire les mouvements futurs et prendre des décisions de trading.
• Prévision météorologique : Les départements météorologiques utilisent les données de série temporelle pour prédire les conditions météorologiques. En analysant les données météorologiques passées, ils prévoient les modèles météorologiques futurs, aidant ainsi la planification et la prise de décision pour l’agriculture, les voyages et la gestion des catastrophes.
• Ventes et marketing : Les entreprises utilisent la prévision des séries temporelles pour prédire les ventes futures, la demande et le comportement des consommateurs. Cela aide à la gestion des stocks, à la fixation des objectifs de vente et au développement de stratégies marketing.
• Secteur de l’énergie : Les entreprises énergétiques prévoient la demande et l’offre pour optimiser la production et la distribution. La prévision des séries temporelles aide à prédire les modèles de consommation d’énergie, permettant ainsi une gestion efficace de l’énergie et la planification.
• Santé : Dans le secteur de la santé, la prévision des séries temporelles est utilisée pour prédire les épidémies, les admissions de patients et les besoins en stocks médicaux. Cela aide à la planification des soins de santé, à l’allocation des ressources et à l’élaboration de politiques.

Modèles de série temporelle fondamentaux

Les modèles fondamentaux d’IA sont des modèles pré-entraînés étendus qui forment la base de diverses applications d’IA. Ils sont formés sur de grands ensembles de données diversifiés, leur permettant de discerner les modèles, les connexions et les structures au sein des données. Le terme “fondamental” fait référence à leur capacité à être affinés ou modifiés pour des tâches ou des domaines avec un minimum de formation supplémentaire. Dans le contexte de la prévision des séries temporelles, ces modèles sont construits de manière similaire aux grands modèles de langage (LLM), en utilisant des architectures de transformateurs. Comme les LLM, ils sont formés pour prédire l’élément suivant ou manquant dans une séquence de données. Cependant, contrairement aux LLM, qui traitent le texte comme des sous-mots à travers des couches de transformateurs, les modèles de série temporelle fondamentaux traitent les séquences de points temporels continus comme des jetons, leur permettant de traiter séquentiellement les données de série temporelle.

Récemment, divers modèles fondamentaux ont été développés pour les données de série temporelle. Avec une meilleure compréhension et le choix du modèle fondamental approprié, nous pouvons utiliser plus efficacement et efficientement leurs capacités. Dans les sections suivantes, nous allons explorer les différents modèles fondamentaux disponibles pour l’analyse des données de série temporelle.

• TimesFM : Développé par Google (GOOGL ) Research, TimesFM est un modèle fondamental décodeur-seulement avec 200 millions de paramètres. Le modèle est formé sur un ensemble de données de 100 milliards de points temporels réels, englobant à la fois des données synthétiques et réelles provenant de sources diverses telles que Google Trends et Wikipedia Pageviews. TimesFM est capable de prévision à zéro coup dans plusieurs secteurs, notamment la vente au détail, la finance, la fabrication, les soins de santé et les sciences naturelles, à différentes granularités temporelles. Google prévoit de publier TimesFM sur sa plate-forme Google Cloud Vertex AI, offrant ainsi ses fonctionnalités de prévision sophistiquées à des clients externes.
• Lag-Llama : Créé par des chercheurs de l’Université de Montréal, de l’Institut d’IA de Mila-Québec et de l’Université McGill, Lag-Llama est un modèle fondamental conçu pour la prévision probabiliste de série temporelle univariée. Basé sur la fondation de Llama, le modèle utilise une architecture de transformateur décodeur-seulement qui utilise des tailles de retard et des résolutions temporelles variables pour la prévision. Le modèle est formé sur des ensembles de données de série temporelle diversifiés provenant de sources diverses à travers six groupes différents, notamment l’énergie, le transport, l’économie, la nature, la qualité de l’air et les opérations cloud. Le modèle est facilement accessible via la bibliothèque Huggingface.
• Moirai : Développé par Salesforce (CRM ) AI Research, Moirai est un modèle de série temporelle fondamental conçu pour la prévision universelle. Moirai est formé sur l’ensemble de données Large-scale Open Time Series Archive (LOTSA), qui contient 27 milliards d’observations provenant de neuf domaines distincts, ce qui en fait la plus grande collection de jeux de données de série temporelle ouverts. Cet ensemble de données diversifié permet à Moirai d’apprendre à partir d’une large gamme de données de série temporelle, lui permettant de gérer différentes tâches de prévision. Moirai utilise plusieurs couches de projection de taille de patch pour capturer les modèles temporels à travers différentes fréquences. Un aspect important de Moirai est d’utiliser un mécanisme d’attention à variante, permettant des prévisions sur n’importe quel nombre de variables. Le code, les poids du modèle et les données associés à Moirai sont disponibles dans le référentiel GitHub appelé “uni2ts“

• Chronos : Développé par Amazon (AMZN ), Chronos est une collection de modèles de prévision de série temporelle probabilistes pré-entraînés. Basé sur l’architecture de transformateur T5, les modèles utilisent un vocabulaire de 4096 jetons et ont des paramètres variables, allant de 8 millions à 710 millions. Chronos est pré-entraîné sur une vaste gamme de données publiques et synthétiques générées à partir de processus gaussiens. Chronos diffère de TimesFM en ce qu’il s’agit d’un modèle encodeur-décodeur, ce qui permet l’extraction d’incrustations d’encodeur à partir de données de série temporelle. Chronos peut être facilement intégré dans un environnement Python et est accessible via son API.

• Moment : Développé en collaboration par l’Université Carnegie Mellon et l’Université de Pennsylvanie, Moment est une famille de modèles de série temporelle fondamentaux open-source. Il utilise des variations d’architectures T5, notamment des versions petites, de base et grandes, avec le modèle de base incorporant environ 125 millions de paramètres. Le modèle subit une pré-formation sur l’ensemble de données étendu “Time-series Pile”, une collection diversifiée de données de série temporelle publiques couvrant divers domaines. Contrairement à de nombreux autres modèles fondamentaux, MOMENT est pré-formé sur une large gamme de tâches, améliorant ainsi son efficacité dans des applications telles que la prévision, la classification, la détection d’anomalies et l’imputation. Le référentiel Python complet et le code du cahier Jupyter sont accessibles publiquement pour utiliser le modèle.

En résumé

La prévision des séries temporelles est un outil crucial dans divers domaines, de la finance aux soins de santé, permettant de prendre des décisions éclairées en fonction de modèles historiques. Des modèles fondamentaux avancés comme TimesFM, Chronos, Moment, Lag-Llama et Moirai offrent des capacités sophistiquées, en exploitant les architectures de transformateurs et les ensembles de données de formation diversifiés pour une prévision et une analyse précises. Ces modèles offrent un aperçu de l’avenir de l’analyse des séries temporelles, dotant les entreprises et les chercheurs d’outils puissants pour naviguer efficacement dans des paysages de données complexes. i offre des capacités sophistiquées, en exploitant les architectures de transformateurs et les ensembles de données de formation diversifiés pour une prévision et une analyse précises. Ces modèles offrent un aperçu de l’avenir de l’analyse des séries temporelles, dotant les entreprises et les chercheurs d’outils puissants pour naviguer efficacement dans des paysages de données complexes.