時系列分析と予測のための基礎モデルへの期待

時系列 予測は、リテール、ファイナンス、製造、ヘルスケアなどのさまざまな業界で、重要な意思決定プロセスにおいて重要な役割を果たします。ただし、自然言語処理や画像認識などのドメインと比較して、時系列予測への高度な人工知能（AI）技術の統合は、比較的遅れてきました。虽然基礎AIは、自然言語処理や画像認識などの分野で著しい進歩を遂げてきましたが、時系列予測への影響は、最近まで限られていました。ただし、現在、時系列予測のための基礎モデルを開発する動きが、ますます増加しています。この記事では、時系列予測のための基礎AIの進化する状況について論じ、最近の進歩について探ります。

時系列予測とその応用

時系列データとは、一定の時間間隔で収集または記録されたデータポイントのシーケンスです。このタイプのデータは、経済、天気、健康など、さまざまなドメインで一般的です。時系列の各データポイントにはタイムスタンプが付与されており、シーケンスは、時間の経過に伴う傾向、パターン、季節変動を分析するために使用されます。

時系列予測とは、歴史的なデータを使用して、シリーズの将来の値を予測することを意味します。これは、統計と機械学習で重要な方法であり、過去のパターンに基づいて情報に基づいた決定を下すのに役立ちます。予測は、将来の成長率を単純に予測することから、AIモデルを使用して複雑なパターンや外部要因に基づいて将来の傾向を予測することまで、幅広いものがあります。

時系列予測の応用例は以下のとおりです：

• 金融市場： 金融では、時系列予測は株価、為替レート、市場動向を予測するために使用されます。投資家やアナリストは、歴史的なデータを使用して将来の動向を予測し、取引の決定を下します。
• 天気予報： 気象庁は、時系列データを使用して天気条件を予測します。過去の天気データを分析することで、将来の天気パターンを予測し、農業、旅行、災害管理の計画や決定を支援します。
• 販売とマーケティング： ビジネスは、時系列予測を使用して将来の販売、需要、消費者行動を予測します。これにより、在庫管理、販売目標の設定、マーケティング戦略の開発が容易になります。
• エネルギー部門： エネルギー企業は、需要と供給を予測して生産と配送を最適化します。時系列予測は、エネルギー消費パターンを予測するのに役立ち、効率的なエネルギー管理と計画を可能にします。
• ヘルスケア： ヘルスケア部門では、時系列予測は疾病の発生、患者受入、医療在庫の必要性を予測するために使用されます。これにより、ヘルスケアの計画、リソースの割り当て、政策決定が支援されます。

基礎時系列モデル

基礎AIモデルは、幅広い人工知能アプリケーションの基礎となる、広範囲にわたる事前トレーニング済みモデルです。これらは、大規模で多様なデータセットでトレーニングされており、データ内にパターン、接続、構造を認識する能力を持ちます。「基礎」という用語は、これらのモデルが最小限の追加トレーニングで、タスクまたはドメインに適合できることを示しています。時系列予測の文脈では、これらのモデルは、大規模言語モデル（LLM）と同様に構築されており、トランスフォーマー・アーキテクチャを使用しています。LLMと同様に、これらはデータシーケンスの次の要素または欠落した要素を予測するようにトレーニングされています。ただし、LLMはテキストをサブワードとしてトランスフォーマー層で処理するのに対し、基礎時系列モデルは連続時間点のシーケンスをトークンとして扱い、時系列データを順次処理できるようにします。

最近、時系列データ用の基礎モデルが開発されてきました。これらの基礎モデルを適切に選択し、理解することで、その機能をより効果的に活用できます。以下のセクションでは、時系列データ分析用に利用可能な基礎モデルについて探ります。

• TimesFM： Google (GOOGL ) Researchによって開発された、200万パラメータを持つデコーダー専用の基礎モデルです。モデルは、Google TrendsやWikipedia Pageviewsなどのさまざまなソースからの合成データと実際のデータを含む100億のリアルワールド時系列データでトレーニングされています。TimesFMは、小売、金融、製造、ヘルスケア、自然科学などのさまざまな業界や時間粒度でゼロショット予測が可能です。Googleは、TimesFMをGoogle Cloud Vertex AIプラットフォームでリリースする予定で、外部クライアントに高度な予測機能を提供します。
• Lag-Llama： ユニバーシティ・ド・モントリオール、Mila-Québec AI Institute、McGill Universityの研究者によって開発された、基礎モデルです。Lag-Llamaは、変数サイズの時間遅延と時間解像度を使用するデコーダー専用のトランスフォーマー・アーキテクチャを採用しています。モデルは、エネルギー、輸送、経済、自然、空気質、クラウド操作など6つのグループにわたるさまざまなソースからの時系列データセットでトレーニングされています。モデルは、Huggingfaceライブラリを介してアクセスできます。
• Moirai： Salesforce (CRM ) AI Researchによって開発された、基礎時系列モデルです。Moiraiは、27億の観測データを含む9つの異なるドメインを持つLarge-scale Open Time Series Archive（LOTSA）データセットでトレーニングされています。これにより、Moiraiは幅広い時系列データから学習し、さまざまな予測タスクに適応できるようになります。Moiraiは、複数のパッチサイズ投影層を使用して、さまざまな周波数での時間パターンを捉えます。Moiraiの重要な特徴は、任意の変数数に対する予測が可能な、任意変数注意メカニズムを使用することです。Moiraiに関連するコード、モデル重み、データは、GitHubリポジトリの「uni2ts」にあります。

• Chronos： Amazonによって開発された、事前トレーニング済みの確率モデルコレクションです。T5トランスフォーマー・アーキテクチャを使用し、4096トークンの語彙と8百万から7億1千万までのパラメータを持っています。Chronosは、ガウシアン・プロセスから生成された合成データと実際のデータの両方で事前トレーニングされています。Chronosは、TimesFMと異なり、エンコーダー・デコーダー・モデルであり、時系列データからエンコーダー・エンベッディングを抽出できるようになっています。Chronosは、Python環境に簡単に統合でき、APIを介してアクセスできます。

• Moment： カーネギー・メロン大学とペンシルバニア大学の共同研究によって開発された、オープンソースの基礎時系列モデルファミリーです。Momentは、T5アーキテクチャのバリエーションを使用し、約1億2千5百万パラメータを持つベースモデルを含みます。モデルは、さまざまなドメインにわたる広範な「時系列パイル」と呼ばれる公的時系列データコレクションで事前トレーニングされています。多くの基礎モデルと異なり、Momentは、予測、分類、異常検知、補間などのさまざまなタスクで事前トレーニングされており、さまざまなアプリケーションで有効です。PythonリポジトリとJupyterノートブックコードは、モデルを使用するために一般に公開されています。

まとめ

時系列予測は、金融からヘルスケアまで、さまざまな分野で重要なツールであり、過去のパターンに基づいて情報に基づいた決定を下すことができます。TimesFM、Chronos、Moment、Lag-Llama、Moiraiなどの高度な基礎モデルは、トランスフォーマー・アーキテクチャと多様なトレーニングデータセットを活用して、正確な予測と分析を提供します。これらのモデルは、時系列分析の未来を垣間見せるものであり、ビジネスと研究者に、複雑なデータ・ランドスケープを効果的にナビゲートするための強力なツールを提供します。