Munculnya Model Fondasi Time-Series untuk Analisis dan Peramalan Data

Seri waktu peramalan memainkan peran penting dalam proses pengambilan keputusan yang krusial di berbagai industri seperti ritel, keuangan, manufaktur, dan kesehatan. Namun, dibandingkan dengan domain seperti pemrosesan bahasa alami dan pengenalan gambar, integrasi teknik kecerdasan buatan (AI) canggih ke dalam peramalan seri waktu telah relatif lambat. Meskipun model fondasi AI telah membuat kemajuan signifikan di bidang seperti pemrosesan bahasa alami dan pengenalan gambar, dampaknya pada peramalan seri waktu telah terbatas hingga baru-baru ini. Namun, saat ini ada momentum yang meningkat dalam pengembangan model fondasi khusus untuk peramalan seri waktu. Artikel ini akan membahas lanskap yang berkembang dari model fondasi AI untuk peramalan seri waktu, mengeksplorasi kemajuan terbaru di domain ini.

Peramalan Seri Waktu dan Aplikasinya

Data seri waktu merujuk pada urutan data yang dikumpulkan atau direkam pada interval waktu teratur. Jenis data ini umum di berbagai domain, seperti ekonomi, cuaca, kesehatan, dan lain-lain. Setiap titik data dalam seri waktu diberi cap waktu, dan urutan ini sering digunakan untuk menganalisis tren, pola, dan variasi musiman seiring waktu.

Peramalan seri waktu melibatkan penggunaan data historis untuk memprediksi nilai-nilai masa depan dalam seri. Ini adalah metode kritis dalam statistik dan pembelajaran mesin yang membantu dalam membuat keputusan yang tepat berdasarkan pola masa lalu. Peramalan dapat sesederhana memproyeksikan laju pertumbuhan yang sama ke masa depan atau sesulit menggunakan model AI untuk memprediksi tren masa depan berdasarkan pola yang kompleks dan faktor eksternal.

Beberapa aplikasi peramalan seri waktu adalah sebagai berikut:

• Pasar Keuangan: Di keuangan, peramalan seri waktu digunakan untuk memprediksi harga saham, nilai tukar, dan tren pasar. Investor dan analis menggunakan data historis untuk memprediksi pergerakan masa depan dan membuat keputusan perdagangan.
• Peramalan Cuaca: Departemen meteorologi menggunakan data seri waktu untuk memprediksi kondisi cuaca. Dengan menganalisis data cuaca masa lalu, mereka memprediksi pola cuaca masa depan, membantu dalam perencanaan dan pengambilan keputusan untuk pertanian, perjalanan, dan manajemen bencana.
• Penjualan dan Pemasaran: Bisnis menggunakan peramalan seri waktu untuk memprediksi penjualan masa depan, permintaan, dan perilaku konsumen. Ini membantu dalam manajemen inventori, penentuan target penjualan, dan pengembangan strategi pemasaran.
• Sektor Energi: Perusahaan energi memprediksi permintaan dan penawaran untuk mengoptimalkan produksi dan distribusi. Peramalan seri waktu membantu dalam memprediksi pola konsumsi energi, memungkinkan manajemen energi yang efisien dan perencanaan.
• Kesehatan: Di sektor kesehatan, peramalan seri waktu digunakan untuk memprediksi wabah penyakit, penerimaan pasien, dan kebutuhan inventori medis. Ini membantu dalam perencanaan kesehatan, alokasi sumber daya, dan pembuatan kebijakan.

Model Fondasi Seri Waktu

Model AI fondasi adalah model yang luas dan telah dilatih sebelumnya yang membentuk dasar untuk berbagai aplikasi kecerdasan buatan. Mereka dilatih pada dataset yang besar dan beragam, memungkinkan mereka untuk memahami pola, koneksi, dan struktur dalam data. Istilah “fondasi” merujuk pada kemampuan mereka untuk difine-tuning atau dimodifikasi untuk tugas atau domain dengan pelatihan tambahan yang minimal. Dalam konteks peramalan seri waktu, model ini dibangun serupa dengan model bahasa besar (LLM), menggunakan arsitektur transformer. Seperti LLM, mereka dilatih untuk memprediksi elemen berikutnya atau hilang dalam urutan data. Namun, tidak seperti LLM, yang memproses teks sebagai subkata melalui lapisan transformer, model fondasi seri waktu memperlakukan urutan titik waktu kontinu sebagai token, memungkinkan mereka untuk memproses data seri waktu secara berurutan.

Baru-baru ini, berbagai model fondasi telah dikembangkan untuk data seri waktu. Dengan pemahaman dan pemilihan model fondasi yang tepat, kita dapat lebih efektif dan efisien memanfaatkan kemampuan mereka. Di bagian selanjutnya, kita akan menjelajahi model fondasi yang berbeda yang tersedia untuk analisis data seri waktu.

• TimesFM: Dikembangkan oleh Google (GOOGL ) Research, TimesFM adalah model fondasi decoder-saja dengan 200 juta parameter. Model ini dilatih pada dataset 100 miliar titik waktu dunia nyata, mencakup data sintetis dan nyata dari berbagai sumber seperti Google Trends dan Wikipedia Pageviews. TimesFM mampu melakukan peramalan zero-shot di berbagai sektor, termasuk ritel, keuangan, manufaktur, kesehatan, dan sains alam, di berbagai tingkat granularitas waktu. Google berencana untuk merilis TimesFM di platform Google Cloud Vertex AI, menyediakan fitur peramalan canggihnya kepada klien eksternal.
• Lag-Llama: Dibuat oleh peneliti dari Université de Montréal, Mila-Québec AI Institute, dan McGill University, Lag-Llama adalah model fondasi yang dirancang untuk peramalan seri waktu probabilistik univariat. Dibangun di atas fondasi Llama, model ini menggunakan arsitektur transformer decoder-saja yang menggunakan ukuran lag waktu dan resolusi waktu yang berbeda untuk peramalan. Model ini dilatih pada dataset seri waktu yang beragam dari berbagai sumber di enam grup yang berbeda, termasuk energi, transportasi, ekonomi, alam, kualitas udara, dan operasi awan. Model ini dapat diakses melalui perpustakaan Huggingface.
• Moirai: Dikembangkan oleh Salesforce (CRM ) AI Research, Moirai adalah model fondasi seri waktu yang dirancang untuk peramalan universal. Moirai dilatih pada dataset Large-scale Open Time Series Archive (LOTSA), yang berisi 27 miliar observasi dari sembilan domain yang berbeda, menjadikannya koleksi dataset seri waktu terbuka terbesar. Dataset yang beragam ini memungkinkan Moirai untuk belajar dari berbagai jenis data seri waktu, memungkinkan model ini untuk menangani berbagai tugas peramalan. Moirai menggunakan beberapa lapisan proyeksi ukuran patch untuk menangkap pola temporal di berbagai frekuensi. Aspek penting dari Moirai adalah menggunakan mekanisme perhatian any-variabel, memungkinkan peramalan di berbagai variabel. Kode, bobot model, dan data yang terkait dengan Moirai tersedia di repositori GitHub yang disebut “uni2ts“

• Chronos: Dikembangkan oleh Amazon (AMZN ), Chronos adalah koleksi model probabilistik pra-dilatih untuk peramalan seri waktu. Dibangun di atas arsitektur T5 transformer, model ini menggunakan kosakata 4096 token dan memiliki parameter yang berbeda, mulai dari 8 juta hingga 710 juta. Chronos pra-dilatih pada array data sintetis dan publik yang luas yang dihasilkan dari proses Gaussian. Chronos berbeda dari TimesFM karena ini adalah model encoder-decoder, yang memungkinkan ekstraksi embedding encoder dari data seri waktu. Chronos dapat dengan mudah diintegrasikan ke dalam lingkungan Python dan diakses melalui API-nya.

• Moment: Dikembangkan secara kolaboratif oleh Carnegie Mellon University dan University of Pennsylvania, Moment adalah keluarga model fondasi seri waktu sumber terbuka. Ini menggunakan variasi arsitektur T5, termasuk versi kecil, dasar, dan besar, dengan model dasar yang mencakup sekitar 125 juta parameter. Model ini menjalani pra-dilatih pada “Time-series Pile” yang luas, sebuah koleksi data seri waktu publik yang beragam yang mencakup berbagai domain. Tidak seperti banyak model fondasi lainnya, MOMENT pra-dilatih pada spektrum tugas yang luas, meningkatkan efektivitasnya dalam aplikasi seperti peramalan, klasifikasi, deteksi anomali, dan imputasi. Repositori Python lengkap dan kode notebook Jupyter dapat diakses secara publik untuk menggunakan model ini.

Bagian Bawah Garis

Peramalan seri waktu adalah alat penting di berbagai domain, dari keuangan hingga kesehatan, memungkinkan pengambilan keputusan yang tepat berdasarkan pola historis. Model fondasi canggih seperti TimesFM, Chronos, Moment, Lag-Llama, dan Moirai menawarkan kemampuan yang canggih, memanfaatkan arsitektur transformer dan dataset pelatihan yang beragam untuk peramalan dan analisis yang akurat. Model ini memberikan gambaran tentang masa depan analisis seri waktu, memberdayakan bisnis dan peneliti dengan alat kuat untuk menavigasi lanskap data yang kompleks secara efektif. i offer sophisticated capabilities, leveraging transformer architectures and diverse training datasets for accurate forecasting and analysis. These models provide a glimpse into the future of time series analysis, empowering businesses and researchers with powerful tools to navigate complex data landscapes effectively.