การเพิ่มขึ้นของโมเดลฟาวน์เดชันสำหรับการวิเคราะห์และการคาดการณ์ข้อมูลชุดเวลา

ชุดเวลา การคาดการณ์ มีบทบาทสำคัญในกระบวนการตัดสินใจที่สำคัญในอุตสาหกรรมต่างๆ เช่น การค้าปลีก การเงิน การผลิต และการดูแลสุขภาพ อย่างไรก็ตาม เมื่อเทียบกับโดเมนอย่าง การประมวลผลภาษาธรรมชาติ และ การรู้จำภาพ การบูรณาการเทคนิคปัญญาประดิษฐ์ (AI) ที่ทันสมัยเข้ากับการคาดการณ์ชุดเวลานั้นช้ากว่า แม้ว่า โมเดลฟาวน์เดชัน จะได้รับการพัฒนาอย่างมีนัยสำคัญในด้านการประมวลผลภาษาธรรมชาติและรู้จำภาพ แต่ผลกระทบต่อการคาดการณ์ชุดเวลานั้นจำกัดจนกระทั่งไม่นานมานี้ อย่างไรก็ตาม ปัจจุบันมีโมเมนตัมที่เพิ่มขึ้นในการพัฒนาโมเดลฟาวน์เดชันสำหรับการคาดการณ์ชุดเวลาโดยเฉพาะ ในบทความนี้จะพูดถึงภูมิทัศน์ที่เปลี่ยนแปลงของโมเดลฟาวน์เดชันสำหรับการคาดการณ์ชุดเวลา โดยสำรวจความก้าวหน้าล่าสุดในด้านนี้

การคาดการณ์ชุดเวลาและการใช้งาน

ข้อมูลชุดเวลาหมายถึงลำดับของจุดข้อมูลที่รวบรวมหรือบันทึกที่ช่วงเวลาเท่าๆ กัน ข้อมูลประเภทนี้พบได้ทั่วไปในโดเมนต่างๆ เช่น เศรษฐศาสตร์ สภาพอากาศ สุขภาพ และอื่นๆ แต่ละจุดข้อมูลในชุดเวลามีเวลาและลำดับใช้เพื่อวิเคราะห์แนวโน้ม รูปแบบ และการเปลี่ยนแปลงตามฤดูกาลตามเวลา

การคาดการณ์ชุดเวลาเกี่ยวข้องกับการใช้ข้อมูลในอดีตเพื่อคาดการณ์ค่าในอนาคตของชุดข้อมูล เป็นวิธีการสำคัญในด้านสถิติและปัญญาประดิษฐ์ที่ช่วยในการตัดสินใจโดยอาศัยรูปแบบในอดีต การคาดการณ์อาจเป็นเพียงการคาดการณ์การเติบโตในอนาคตหรือการใช้โมเดล AI เพื่อคาดการณ์แนวโน้มในอนาคตโดยอาศัยรูปแบบและปัจจัยภายนอกที่ซับซ้อน

การประยุกต์ใช้การคาดการณ์ชุดเวลาบางอย่างคือ:

• ตลาดการเงิน: ในด้านการเงิน การคาดการณ์ชุดเวลาถูกใช้เพื่อคาดการณ์ราคาหลักทรัพย์ อัตราแลกเปลี่ยน และแนวโน้มตลาด นักลงทุนและนักวิเคราะห์ใช้ข้อมูลในอดีตเพื่อคาดการณ์การเคลื่อนไหวในอนาคตและตัดสินใจซื้อขาย
• การพยากรณ์สภาพอากาศ: กรมสภาพอากาศใช้ข้อมูลชุดเวลาเพื่อคาดการณ์สภาพอากาศ โดยการวิเคราะห์ข้อมูลสภาพอากาศในอดีต พวกเขาคาดการณ์แนวโน้มสภาพอากาศในอนาคต ซึ่งช่วยในการวางแผนและการตัดสินใจสำหรับการเกษตร การเดินทาง และการบริหารจัดการภัยพิบัติ
• การขายและการตลาด: ธุรกิจใช้การคาดการณ์ชุดเวลาเพื่อคาดการณ์ยอดขาย ความต้องการ และพฤติกรรมของผู้บริโภค ซึ่งช่วยในการจัดการสินค้าคงคลัง การตั้งเป้าหมายการขาย และการพัฒนาแผนการตลาด
• ภาคพลังงาน: บริษัทพลังงานใช้การคาดการณ์ชุดเวลาเพื่อคาดการณ์อุปสงค์และอุปทานพลังงาน ซึ่งช่วยในการจัดการการผลิตและการกระจายพลังงานอย่างมีประสิทธิภาพ
• สาธารณสุข: ในภาคสาธารณสุข การคาดการณ์ชุดเวลาถูกใช้เพื่อคาดการณ์การระบาดของโรค การเข้ารับการรักษาในโรงพยาบาล และความต้องการสินค้าทางการแพทย์ ซึ่งช่วยในการวางแผนการดูแลสุขภาพ การจัดสรรทรัพยากร และการกำหนดนโยบาย

โมเดลฟาวน์เดชันสำหรับชุดเวลา

โมเดลฟาวน์เดชันคือโมเดลที่กว้างขวางและได้รับการฝึกอบรมล่วงหน้าซึ่งเป็นพื้นฐานสำหรับการประยุกต์ใช้ปัญญาประดิษฐ์ต่างๆ โมเดลเหล่านี้ได้รับการฝึกอบรมบนเซตข้อมูลขนาดใหญ่และหลากหลาย ทำให้สามารถรับรู้รูปแบบ ความเชื่อมโยง และโครงสร้างภายในข้อมูลได้ คำว่า “ฟาวน์เดชัน” หมายถึงความสามารถในการปรับแต่งหรือแก้ไขสำหรับงานหรือโดเมนเฉพาะด้วยการฝึกอบรมเพิ่มเติมน้อยมาก ในบริบทของการคาดการณ์ชุดเวลา โมเดลเหล่านี้ถูกสร้างขึ้นในลักษณะเดียวกับ โมเดลภาษาขนาดใหญ่ (LLMs) โดยใช้ สถาปัตยกรรมทรานส์ฟอร์เมอร์ เช่นเดียวกับ LLMs โมเดลเหล่านี้ได้รับการฝึกอบรมเพื่อคาดการณ์องค์ประกอบถัดไปหรือองค์ประกอบที่หายไปในลำดับข้อมูล อย่างไรก็ตาม ไม่เหมือนกับ LLMs ซึ่งประมวลผลข้อความเป็น subwords ผ่านชั้นทรานส์ฟอร์เมอร์ โมเดลฟาวน์เดชันสำหรับชุดเวลารักษาลำดับของจุดเวลาอย่างต่อเนื่องเพื่อประมวลผลข้อมูลชุดเวลา

เมื่อเร็วๆ นี้ โมเดลฟาวน์เดชันหลายรูปแบบได้รับการพัฒนาสำหรับข้อมูลชุดเวลา ด้วยการเข้าใจและเลือกโมเดลฟาวน์เดชันที่เหมาะสม เราสามารถใช้ความสามารถของพวกมันได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น ในส่วนถัดไป เราจะสำรวจโมเดลฟาวน์เดชันต่างๆ ที่มีอยู่สำหรับการวิเคราะห์ข้อมูลชุดเวลา

• TimesFM: พัฒนาโดย Google (GOOGL ) Research TimesFM คือโมเดลฟาวน์เดชันแบบ decoder-only ที่มีพารามิเตอร์ 200 ล้าน ตัวแบบนี้ได้รับการฝึกอบรมบนเซตข้อมูลที่มี 100 พันล้านจุดเวลาในโลกแห่งความเป็นจริง ซึ่งรวมถึงทั้งข้อมูลสังเคราะห์และข้อมูลจริงจากแหล่งต่างๆ เช่น Google Trends และ Wikipedia Pageviews TimesFM สามารถทำการคาดการณ์แบบ zero-shot ในหลายภาคส่วน รวมถึงการค้าปลีก การเงิน การผลิต การดูแลสุขภาพ และวิทยาศาสตร์ธรรมชาติ ในหลายระดับของช่วงเวลา Google มีแผนจะเผยแพร่ TimesFM บนแพลตฟอร์ม Google Cloud Vertex AI เพื่อให้บริการลูกค้าภายนอก
• Lag-Llama: สร้างโดยนักวิจัยจาก Université de Montréal Mila-Québec AI Institute และ McGill University Lag-Llama คือโมเดลฟาวน์เดชันที่ออกแบบสำหรับการคาดการณ์ข้อมูลชุดเวลาที่มีแนวโน้มเป็นไปได้แบบไม่แน่นอน โดยอาศัยสถาปัตยกรรมทรานส์ฟอร์เมอร์แบบ decoder-only ที่ใช้ขนาดช่องว่างและความละเอียดของเวลาที่แตกต่างกันสำหรับการคาดการณ์ โมเดลนี้ได้รับการฝึกอบรมบนเซตข้อมูลชุดเวลาที่หลากหลายจากแหล่งต่างๆ ในหกรายการ รวมถึงพลังงาน การขนส่ง เศรษฐศาสตร์ ธรรมชาติ คุณภาพอากาศ และการดำเนินงานบนคลาวด์ โมเดลนี้สามารถเข้าถึงได้ง่ายผ่าน ห้องสมุด Huggingface
• Moirai: พัฒนาโดย Salesforce (CRM ) AI Research Moirai คือโมเดลฟาวน์เดชันสำหรับการคาดการณ์แบบสากล Moirai ได้รับการฝึกอบรมบนเซตข้อมูล Large-scale Open Time Series Archive (LOTSA) ซึ่งมี 27 พันล้านการสังเกตจากโดเมน 9 รายการ ทำให้เป็นคอลเลกชันข้อมูลชุดเวลาที่เปิดกว้างที่ใหญ่ที่สุด เซตข้อมูลที่หลากหลายนี้ช่วยให้ Moirai เรียนรู้จากข้อมูลชุดเวลาที่หลากหลาย ทำให้สามารถจัดการกับงานคาดการณ์ที่แตกต่างกันได้ Moirai ใช้หลายชั้นการฉายภาพขนาดแพทช์เพื่อจับแนวโน้มตามเวลาในหลายความถี่ สิ่งสำคัญของ Moirai คือการใช้กลไกการดึงดูดความสนใจแบบ any-variate ทำให้สามารถคาดการณ์ข้ามตัวแปรใดๆ ก็ได้ รหัส โมเดล และข้อมูลที่เกี่ยวข้องกับ Moirai มีอยู่ใน存ถูกเก็บไว้ในร้านค้า GitHub ที่เรียกว่า “uni2ts“

• Chronos: พัฒนาโดย Amazon (AMZN ) Chronos คือชุดของโมเดลความน่าจะเป็นที่ได้รับการฝึกอบรมล่วงหน้าสำหรับการคาดการณ์ข้อมูลชุดเวลา โมเดลเหล่านี้สร้างขึ้นบนสถาปัตยกรรม T5 ทรานส์ฟอร์เมอร์ โดยใช้พจนานุกรม 4096 ตัวและพารามิเตอร์ที่แตกต่างกัน ตั้งแต่ 8 ล้านถึง 710 ล้าน Chronos แตกต่างจาก TimesFM ในด้านที่เป็นโมเดล encoder-decoder ซึ่งช่วยให้สามารถดึงเอา embeddings ของ encoder จากข้อมูลชุดเวลาได้ Chronos สามารถรวมเข้ากับสภาพแวดล้อม Python ได้ง่ายและเข้าถึงได้ผ่าน API ของมัน

• Moment: พัฒนาร่วมกันโดย Carnegie Mellon University และ University of Pennsylvania Moment คือครอบครัวของโมเดลฟาวน์เดชันสำหรับชุดเวลาที่เปิดกว้าง โมเดลนี้ใช้การเปลี่ยนแปลงของสถาปัตยกรรม T5 รวมถึงรุ่นเล็ก รุ่นฐาน และรุ่นใหญ่ โดยมีพารามิเตอร์ประมาณ 125 ล้านตัว โมเดลได้รับการฝึกอบรมบน “Time-series Pile” ซึ่งเป็นคอลเลกชันข้อมูลชุดเวลาที่หลากหลายจากโดเมนต่างๆ โมเดล Moment แตกต่างจากโมเดลฟาวน์เดชันอื่นๆ ในด้านที่ได้รับการฝึกอบรมบนงานที่หลากหลาย ซึ่งเพิ่มประสิทธิภาพในการใช้งาน เช่น การคาดการณ์ การจำแนกประเภท การตรวจจับอาการผิดปกติ และการเติมข้อมูลที่หายไป ร้านค้า Python และโค้ด Jupyter Notebook ที่สมบูรณ์สามารถเข้าถึงได้สำหรับการใช้งานโมเดล

สรุป

การคาดการณ์ชุดเวลามีบทบาทสำคัญในหลายโดเมน ตั้งแต่การเงินไปจนถึงการดูแลสุขภาพ โดยช่วยในการตัดสินใจโดยอาศัยรูปแบบในอดีต โมเดลฟาวน์เดชันที่ทันสมัย เช่น TimesFM, Chronos, Moment, Lag-Llama และ Moirai มีความสามารถที่ซับซ้อน โดยใช้สถาปัตยกรรมทรานส์ฟอร์เมอร์และเซตข้อมูลที่หลากหลายสำหรับการคาดการณ์และการวิเคราะห์ที่แม่นยำ โมเดลเหล่านี้ให้ภาพอนาคตของการวิเคราะห์ชุดเวลา โดยให้อำนาจแก่ธุรกิจและนักวิจัยด้วยเครื่องมือที่ทรงพลังในการสำรวจภูมิทัศน์ข้อมูลที่ซับซ้อนได้อย่างมีประสิทธิภาพ