Mô hình và nền tảng AI

Sự trỗi dậy của các mô hình nền tảng thời gian loạt cho phân tích và dự báo dữ liệu

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Dãy thời gian dự báo đóng vai trò quan trọng trong các quá trình ra quyết định quan trọng trên nhiều ngành công nghiệp như bán lẻ, tài chính, sản xuất và chăm sóc sức khỏe. Tuy nhiên, so với các lĩnh vực như xử lý ngôn ngữ tự nhiênnhận dạng hình ảnh, việc tích hợp các kỹ thuật trí tuệ nhân tạo (AI) tiên tiến vào dự báo dãy thời gian đã diễn ra tương đối chậm. Mặc dù mô hình nền tảng đã đạt được tiến bộ đáng kể trong các lĩnh vực như xử lý ngôn ngữ tự nhiên và nhận dạng hình ảnh, nhưng tác động của nó đối với dự báo dãy thời gian đã bị hạn chế cho đến gần đây. Tuy nhiên, hiện nay có một động lực ngày càng tăng trong việc phát triển các mô hình nền tảng dành riêng cho dự báo dãy thời gian. Bài viết này sẽ thảo luận về phong cảnh đang thay đổi của trí tuệ nhân tạo nền tảng cho dự báo dãy thời gian, khám phá các tiến bộ gần đây trong lĩnh vực này.

Dự báo và Ứng dụng Dãy Thời gian

Dữ liệu dãy thời gian đề cập đến một chuỗi các điểm dữ liệu được thu thập hoặc ghi lại tại các khoảng thời gian đều đặn. Loại dữ liệu này phổ biến trên nhiều lĩnh vực, chẳng hạn như kinh tế, thời tiết, sức khỏe và nhiều hơn nữa. Mỗi điểm dữ liệu trong dãy thời gian được gắn thẻ thời gian, và chuỗi này thường được sử dụng để phân tích xu hướng, mẫu và biến động theo mùa theo thời gian.

Dự báo dãy thời gian liên quan đến việc sử dụng dữ liệu lịch sử để dự đoán các giá trị trong tương lai trong chuỗi. Đây là một phương pháp quan trọng trong thống kê và học máy giúp đưa ra quyết định thông minh dựa trên các mẫu trong quá khứ. Dự báo có thể đơn giản như dự đoán tốc độ tăng trưởng tương tự trong tương lai hoặc phức tạp như sử dụng các mô hình AI để dự đoán xu hướng tương lai dựa trên các mẫu và yếu tố bên ngoài tinh vi.

Một số ứng dụng của dự báo dãy thời gian bao gồm:

  • Thị trường Tài chính: Trong tài chính, dự báo dãy thời gian được sử dụng để dự đoán giá cổ phiếu, tỷ giá hối đoái và xu hướng thị trường. Các nhà đầu tư và phân tích sử dụng dữ liệu lịch sử để dự đoán chuyển động tương lai và đưa ra quyết định giao dịch.
  • Dự báo Thời tiết: Các bộ phận khí tượng sử dụng dữ liệu dãy thời gian để dự đoán điều kiện thời tiết. Bằng cách phân tích dữ liệu thời tiết trong quá khứ, họ dự đoán các mẫu thời tiết trong tương lai, giúp trong việc lập kế hoạch và quyết định cho nông nghiệp, du lịch và quản lý thảm họa.
  • Bán hàng và Tiếp thị: Doanh nghiệp sử dụng dự báo dãy thời gian để dự đoán doanh số, nhu cầu và hành vi của người tiêu dùng trong tương lai. Điều này giúp trong quản lý hàng tồn kho, thiết lập mục tiêu bán hàng và phát triển chiến lược tiếp thị.
  • Ngành Năng lượng: Các công ty năng lượng dự đoán nhu cầu và cung cấp để tối ưu hóa sản xuất và phân phối. Dự báo dãy thời gian giúp dự đoán các mẫu tiêu thụ năng lượng, cho phép quản lý năng lượng hiệu quả và lập kế hoạch.
  • Chăm sóc Sức khỏe: Trong lĩnh vực chăm sóc sức khỏe, dự báo dãy thời gian được sử dụng để dự đoán sự bùng phát của bệnh, nhập viện và nhu cầu hàng tồn kho y tế. Điều này hỗ trợ trong việc lập kế hoạch chăm sóc sức khỏe, phân bổ tài nguyên và xây dựng chính sách.

Các Mô hình Nền tảng Dãy Thời gian

Các mô hình trí tuệ nhân tạo nền tảng là các mô hình rộng lớn, được đào tạo trước, tạo thành cơ sở cho nhiều ứng dụng trí tuệ nhân tạo. Chúng được đào tạo trên các tập dữ liệu lớn và đa dạng, cho phép chúng nhận ra các mẫu, kết nối và cấu trúc trong dữ liệu. Thuật ngữ “nền tảng” đề cập đến khả năng của chúng có thể được tinh chỉnh hoặc sửa đổi cho các nhiệm vụ hoặc lĩnh vực với đào tạo bổ sung tối thiểu. Trong bối cảnh dự báo dãy thời gian, các mô hình này được xây dựng tương tự như mô hình ngôn ngữ lớn (LLM), sử dụng kiến trúc transformer. Giống như LLM, chúng được đào tạo để dự đoán phần tử tiếp theo hoặc bị thiếu trong một chuỗi dữ liệu. Tuy nhiên, không giống như LLM, chúng xử lý các chuỗi điểm thời gian liên tục dưới dạng token, cho phép chúng xử lý tuần tự dữ liệu dãy thời gian.

Gần đây, nhiều mô hình nền tảng đã được phát triển cho dữ liệu dãy thời gian. Với sự hiểu biết và lựa chọn mô hình nền tảng phù hợp, chúng ta có thể tận dụng hiệu quả và hiệu quả hơn các khả năng của chúng. Trong các phần tiếp theo, chúng ta sẽ khám phá các mô hình nền tảng khác nhau có sẵn cho phân tích dữ liệu dãy thời gian.

  • TimesFM: Được phát triển bởi Google (GOOGL ) Research, TimesFM là một mô hình nền tảng chỉ giải mã với 200 triệu tham số. Mô hình này được đào tạo trên một tập dữ liệu gồm 100 tỷ điểm thời gian thực, bao gồm cả dữ liệu tổng hợp và thực tế từ nhiều nguồn như Google Trends và Wikipedia Pageviews. TimesFM có khả năng dự báo không cần đào tạo trước trong nhiều lĩnh vực, bao gồm bán lẻ, tài chính, sản xuất, chăm sóc sức khỏe và khoa học tự nhiên, trên nhiều độ phân giải thời gian khác nhau. Google dự định sẽ phát hành TimesFM trên nền tảng Google Cloud Vertex AI, cung cấp các tính năng dự báo tiên tiến cho khách hàng bên ngoài.
  • Lag-Llama: Được tạo bởi các nhà nghiên cứu từ Université de Montréal, Mila-Québec AI Institute và McGill University, Lag-Llama là một mô hình nền tảng được thiết kế cho dự báo dãy thời gian xác suất đơn biến. Xây dựng trên nền tảng Llama, mô hình này sử dụng kiến trúc transformer chỉ giải mã, sử dụng các độ trễ thời gian và độ phân giải thời gian biến đổi cho dự báo. Mô hình này được đào tạo trên các tập dữ liệu dãy thời gian đa dạng từ nhiều nguồn trên sáu nhóm khác nhau, bao gồm năng lượng, giao thông, kinh tế, thiên nhiên, chất lượng không khí và hoạt động đám mây. Mô hình này có thể được truy cập dễ dàng thông qua thư viện Huggingface.
  • Moirai: Được phát triển bởi Salesforce (CRM ) AI Research, Moirai là một mô hình nền tảng thời gian loạt được thiết kế cho dự báo toàn diện. Moirai được đào tạo trên tập dữ liệu Large-scale Open Time Series Archive (LOTSA), chứa 27 tỷ quan sát từ chín lĩnh vực khác nhau, tạo thành bộ sưu tập lớn nhất của các tập dữ liệu dãy thời gian mở. Tập dữ liệu đa dạng này cho phép Moirai học hỏi từ nhiều loại dữ liệu dãy thời gian, cho phép nó xử lý các nhiệm vụ dự báo khác nhau. Moirai sử dụng nhiều lớp dự án kích thước bản vá để bắt các mẫu thời gian trên nhiều tần số. Một khía cạnh quan trọng của Moirai là sử dụng cơ chế chú ý biến đổi, cho phép dự báo trên bất kỳ số biến nào. Mã, trọng số mô hình và dữ liệu liên quan đến Moirai có sẵn trong kho lưu trữ GitHub có tên “uni2ts
  • Chronos: Được phát triển bởi Amazon (AMZN ), Chronos là một tập hợp các mô hình xác suất được đào tạo trước cho dự báo dãy thời gian. Xây dựng trên kiến trúc transformer T5, các mô hình này sử dụng từ vựng 4096 token và có các tham số khác nhau, từ 8 triệu đến 710 triệu. Chronos được đào tạo trước trên một loạt dữ liệu công khai và tổng hợp được tạo từ các quá trình Gaussian. Chronos khác với TimesFM ở chỗ nó là một mô hình giải mã-đ mã, cho phép trích xuất các bản nhúng mã hóa từ dữ liệu dãy thời gian. Chronos có thể được tích hợp dễ dàng vào môi trường Python và truy cập thông qua API của nó.
  • Moment: Được phát triển hợp tác bởi Đại học Carnegie Mellon và Đại học Pennsylvania, Moment là một họ các mô hình nền tảng thời gian loạt mã nguồn mở. Nó sử dụng các biến thể của kiến trúc T5, bao gồm các phiên bản nhỏ, cơ bản và lớn, với mô hình cơ bản bao gồm khoảng 125 triệu tham số. Mô hình này trải qua quá trình đào tạo trước trên “Time-series Pile”, một tập hợp đa dạng của dữ liệu dãy thời gian công khai trên nhiều lĩnh vực. Không giống như nhiều mô hình nền tảng khác, MOMENT được đào tạo trước trên một phổ rộng các nhiệm vụ, tăng cường hiệu quả của nó trong các ứng dụng như dự báo, phân loại, phát hiện bất thường và điền vào. Kho lưu trữ Python hoàn chỉnh và mã notebook Jupyter có sẵn công khai để sử dụng mô hình.

Kết Luận

Dự báo dãy thời gian là một công cụ quan trọng trên nhiều lĩnh vực, từ tài chính đến chăm sóc sức khỏe, cho phép đưa ra quyết định thông minh dựa trên các mẫu lịch sử. Các mô hình nền tảng tiên tiến như TimesFM, Chronos, Moment, Lag-Llama và Moirai cung cấp các khả năng phức tạp, tận dụng kiến trúc transformer và các tập dữ liệu đào tạo đa dạng cho dự báo và phân tích chính xác. Những mô hình này cung cấp một cái nhìn về tương lai của phân tích dãy thời gian, trao quyền cho các doanh nghiệp và nhà nghiên cứu với các công cụ mạnh mẽ để điều hướng các phong cảnh dữ liệu phức tạp một cách hiệu quả. i offer sophisticated capabilities, leveraging transformer architectures and diverse training datasets for accurate forecasting and analysis. These models provide a glimpse into the future of time series analysis, empowering businesses and researchers with powerful tools to navigate complex data landscapes effectively.

Tiến sĩ Tehseen Zia là Giáo sư Liên kết có thời hạn tại Đại học COMSATS Islamabad, nắm giữ bằng Tiến sĩ về Trí tuệ Nhân tạo từ Đại học Công nghệ Vienna, Áo. Chuyên về Trí tuệ Nhân tạo, Học máy, Khoa học Dữ liệu và Thị giác Máy tính, ông đã có những đóng góp đáng kể với các ấn phẩm trên các tạp chí khoa học uy tín. Tiến sĩ Tehseen cũng đã dẫn dắt các dự án công nghiệp khác nhau với tư cách là Điều tra viên Chính và từng là Tư vấn viên Trí tuệ Nhân tạo.