โมเดลและแพลตฟอร์ม AI

AWS นำความสามารถให้เหตุผลกับอนุกรมเวลา OpenTSLM มาไว้ใน SageMaker JumpStart

Jonas Reeve
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการปรับแต่งละเอียดยกระดับความแม่นยำของ ARFBench จาก 5.0% เป็น 45.9%…
ดูเพิ่มเติม
  • การปรับแต่งละเอียดยกระดับความแม่นยำของ ARFBench จาก 5.0% เป็น 45.9% ในคำถามเหตุการณ์ที่ถูกกันไว้
  • การแทนค่าขนาดคงที่ของ Flamingo จำกัดหน่วยความจำของโมเดล แต่ไม่สามารถรับประกันว่าเหตุการณ์สั้นๆ จะอยู่รอดในบันทึกยาว
  • การเปิดตัวแบบมีการจัดการช่วยให้การติดตั้งใช้งานง่ายขึ้น ในขณะที่หลักฐานยังคงผูกกับหน้าต่างเฉพาะและรูปแบบคำตอบ

Amazon Web Services ประกาศเมื่อวันที่ 17 พฤศจิกายน 2026 ว่า OpenTSLM-Flamingo Gemma 3 4B พร้อมใช้งานใน Amazon SageMaker JumpStart ซึ่งเป็นฮับโมเดลแมชชีนเลิร์นนิงของ AWS ลูกค้าสามารถติดตั้งใช้งานโมเดลขนาด 5.24 พันล้านพารามิเตอร์บน จุดเชื่อมต่อสำหรับอนุมานแบบเรียลไทม์ของ SageMaker AI ภายในสภาพแวดล้อม AWS ของตนเองได้

OpenTSLM ตีความค่าการวัดเชิงตัวเลขควบคู่กับข้อความ เช่น บันทึกการบำรุงรักษา ข่าวตลาด และข้อสังเกตของวิศวกร จากนั้นจึงให้คำอธิบายและคำตอบเป็นภาษาธรรมชาติ แพ็กเกจ JumpStart จับคู่ Gemma 3 4B กับตัวเข้ารหัสอนุกรมเวลาและเลเยอร์ cross-attention ซึ่งช่วยให้โมเดลภาษาพิจารณาสัญญาณที่เข้ารหัสไว้ได้ เมื่อจัดเก็บในรูปแบบ bfloat16 น้ำหนักของโมเดลจะใช้หน่วยความจำ GPU ประมาณ 10.5 GB

บทความวิจัย OpenTSLM อธิบายความแตกต่างระหว่างสถาปัตยกรรม Flamingo นี้กับ SoftPrompt ทั้งสองวิธีถือว่าอนุกรมเวลาเป็นรูปแบบอินพุตโดยตรง แต่ SoftPrompt เพิ่มโทเค็นอนุกรมเวลาที่เรียนรู้แล้วเข้าไปในลำดับของโมเดลภาษา ขณะที่ Flamingo ใช้ Perceiver Resampler เพื่อสร้างตัวแทนแฝงขนาดคงที่ และใช้ gated cross-attention เพื่อผสานข้อมูลดังกล่าว การประเมินผลดั้งเดิมครอบคลุมการตอบคำถามเกี่ยวกับ ECG การจัดระยะการนอนหลับ และการรู้จำกิจกรรมของมนุษย์ จึงทำให้รุ่นที่มีบริการจัดการนี้มีรากฐานจากงานวิจัยที่อิงข้อมูลทางการแพทย์และข้อมูลจากอุปกรณ์สวมใส่

คลัง OpenTSLM แยกต่างหากนี้ใช้สัญญาอนุญาต MIT และมีโค้ดสำหรับปรับแต่งโมเดล โดยมีจุดตรวจสอบโมเดลที่ฝึกไว้ล่วงหน้าให้ใช้งานผ่านองค์กร Hugging Face ของโครงการ คลังนี้ระบุว่าโครงการเป็นความร่วมมือระหว่าง Schmiedmayer Lab ของ Stanford University และ Agentic Systems Lab ของ ETH Zurich

เวิร์กโฟลว์การสนับสนุนด้านไอทีเชิงรุกของ Nexthink

AWS ระบุว่า Nexthink และ Aionic Labs กำลังพัฒนาความช่วยเหลือเชิงรุกผ่าน Spark ซึ่งเป็นเอเจนต์ไอทีส่วนบุคคลของ Nexthink เพื่อให้พนักงานได้รับความช่วยเหลือก่อนที่จะร้องขอ เวิร์กโฟลว์นี้ผสานค่าการวัดล่าสุดของ CPU หน่วยความจำ ดิสก์ ความเสถียรของแอปพลิเคชัน และการเชื่อมต่อ เข้ากับเหตุการณ์ที่มีการประทับเวลา การกำหนดค่าอุปกรณ์ และเวอร์ชันซอฟต์แวร์ โมเดลจะจัดทำสรุปสถานะพร้อมสัญญาณสนับสนุน การตรวจสอบและการดำเนินการที่แนะนำ ตลอดจนผลลัพธ์ที่คาดหวังซึ่ง Spark สามารถตรวจสอบได้

ตัวอย่างพื้นที่ดิสก์เหลือน้อยของ AWS เป็นเพียงตัวอย่างประกอบ โมเดลเชื่อมโยงพื้นที่ว่างที่ลดลง คิวดิสก์ที่เพิ่มขึ้น และอาการแอปพลิเคชันค้างที่เกิดบ่อยขึ้น เข้ากับอาการต่าง ๆ เช่น ประสิทธิภาพช้าลงหรือบันทึกไฟล์ได้ยาก Spark จะตรวจสอบว่าการล้างข้อมูลที่ฝ่ายไอทีอนุมัตินั้นเหมาะสมหรือไม่ แสดงให้พนักงานทราบว่าจะลบอะไร และขอการยืนยันก่อนดำเนินการ จากนั้นจะตรวจสอบผลลัพธ์ และเสนอให้ส่งต่อเรื่องไปยังฝ่ายสนับสนุนไอทีหากปัญหายังคงอยู่

ข้อจำกัดในการติดตั้งใช้งานและช่วงข้อมูลนำเข้า

จุดเชื่อมต่อ ml.g6.2xlarge ซึ่งเป็นค่าเริ่มต้นของ AWS ตรงตามข้อกำหนด GPU เดี่ยวและ bfloat16 ด้วย NVIDIA L4 ขนาด 24 GB หนึ่งตัว และหน่วยความจำโฮสต์ 32 GB คำขอหนึ่งรายการมีอินสแตนซ์คำถามได้สูงสุด 4 รายการ โดยแต่ละรายการมีอนุกรมตัวเลข 1 ถึง 32 ชุด และมีค่าได้สูงสุด 32,768 ค่าต่อชุด การติดตั้งใช้งานโมเดล JumpStart ที่จำกัดการเข้าถึงต้องยอมรับข้อกำหนดการใช้งาน Gemma

จุดเชื่อมต่อจะปรับมาตรฐานแต่ละอนุกรมให้มีค่าเฉลี่ยเป็นศูนย์และส่วนเบี่ยงเบนมาตรฐานเป็นหนึ่ง พร้อมส่งค่าเฉลี่ยและส่วนเบี่ยงเบนมาตรฐานดั้งเดิมในรูปแบบข้อความ เพื่อให้โมเดลได้รับข้อมูลทั้งรูปร่างและสเกล การเรียกใช้งานแบบเรียลไทม์มีเวลาจำกัด 60 วินาที และขนาดเนื้อหาคำขอสูงสุด 6 MB AWS รายงานว่าประมวลผลโทเค็นที่สร้างขึ้นได้ประมาณ 20 โทเค็นต่อวินาทีบนอินสแตนซ์เริ่มต้น อินสแตนซ์จะได้รับการประมวลผลตามลำดับ และแนะนำให้ใช้การอนุมานแบบอะซิงโครนัสสำหรับงานที่ใช้เวลานานกว่า

ตัวแทนขนาดคงที่ของ Flamingo จำกัดปริมาณข้อมูลที่ส่งไปยังโมเดลภาษา แต่ไม่ได้ทำให้ระบบทั้งหมดมีหน่วยความจำไม่จำกัด และไม่ได้รับประกันว่าเหตุการณ์ช่วงสั้น ๆ จะยังแยกแยะได้ในการบันทึกที่ยาวมาก AWS แนะนำให้ทดสอบช่วงข้อมูลปกติและผิดปกติที่เป็นตัวแทนของข้อมูลจริง รักษาความละเอียดในการสุ่มตัวอย่างให้เพียงพอสำหรับเหตุการณ์ระยะสั้น จัดแนวช่องสัญญาณที่เกี่ยวข้องให้ตรงกัน และระบุหน่วย ช่วงการสุ่มตัวอย่าง และระยะเวลาการสังเกตไว้ในบริบท ขีดจำกัดขนาดข้อมูลที่ส่งและช่วงเวลาที่โมเดลวิเคราะห์ได้อย่างมีประโยชน์เป็นข้อจำกัดคนละประการ

ปรับแต่งโมเดลสำหรับคำถามเกี่ยวกับเหตุขัดข้อง

เวิร์กโฟลว์การปรับแต่งโมเดลของ AWS ใช้ TimeNet ซึ่งมีรูปแบบชุดข้อมูลมาตรฐานและ API ของ Python พร้อมตัวเชื่อมต่อและเวอร์ชันที่แก้ไขไม่ได้ เอกสารของ TimeNet ระบุขอบเขตไว้อย่างชัดเจนว่าครอบคลุมเฉพาะข้อมูล ส่วนการฝึก การอนุมาน นิยามโมเดล และเมตริกการประเมินอยู่นอกขอบเขตดังกล่าว ตัวอย่างนี้โหลดจุดตรวจสอบโมเดลที่ฝึกไว้ล่วงหน้าจาก Hugging Face และข้อมูล ARFBench ผ่าน TimeNet เรียกใช้งานฝึกบน SageMaker จัดเก็บโมเดลที่ปรับแต่งแล้วใน Amazon S3 และติดตั้งใช้งานบนจุดเชื่อมต่อแบบเรียลไทม์แยกต่างหากโดยใช้รูปแบบคำขอเดียวกัน

ARFBench ของ Datadog ประกอบด้วยคู่คำถามและคำตอบแบบปรนัย 750 คู่ ซึ่งได้มาจากอนุกรมเวลา 142 ชุดที่ครอบคลุมเหตุขัดข้องภายในจริง 63 เหตุการณ์ โดยใช้ข้อมูลเทเลเมทรีจากระบบใช้งานจริงและบริบทเพิ่มเติม งานฝึกจะปรับปรุงตัวเข้ารหัสอนุกรมเวลา Perceiver Resampler เลเยอร์ cross-attention และเอ็มเบดดิงโทเค็นของโมเดลภาษา ขณะที่ตรึงส่วนที่เหลือของ Gemma 3 ไว้

ในการทดสอบของ AWS เองบนอินสแตนซ์ ml.g7e.2xlarge หนึ่งเครื่อง ความแม่นยำในการตอบคำถาม ARFBench 135 ข้อที่กันไว้สำหรับทดสอบเพิ่มขึ้นจาก 5.0% ก่อนปรับแต่งโมเดลเป็น 45.9% หลังปรับแต่ง โมเดลที่ฝึกไว้ล่วงหน้าปล่อยคำตอบส่วนใหญ่ให้ว่าง ขณะที่โมเดลที่ปรับแต่งแล้วตอบทุกคำถามโดยเลือกตัวเลือกที่ให้มา การทดสอบนี้แสดงให้เห็นการปรับโมเดลให้เข้ากับงานและรูปแบบคำตอบใหม่ ไม่ใช่การเปรียบเทียบกับโมเดลอื่นหรือผลการจัดอันดับอย่างเป็นทางการของ ARFBench

การเปิดตัวบน JumpStart ช่วยให้ติดตั้งใช้งานและปรับแต่งสถาปัตยกรรมอนุกรมเวลาที่ออกแบบมาโดยเฉพาะได้ง่ายขึ้น ขณะที่หลักฐานที่มีอยู่ยังจำกัดอยู่เฉพาะช่วงเวลา งาน และรูปแบบคำตอบบางประเภท สำหรับทีมปฏิบัติงาน คำถามสำคัญคือ ตัวอย่างที่ผ่านการตรวจสอบและเป็นตัวแทนของการใช้งานจริงแสดงให้เห็นหรือไม่ว่า คำอธิบายและการดำเนินการที่โมเดลแนะนำมีความน่าเชื่อถือเพียงพอสำหรับกระบวนงานที่ออกแบบมาเพื่อรองรับ

Jonas Reeve เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, มุ่งเน้นที่ AI ด้านการรู้คิด, ปัญญาประดิษฐ์ทั่วไป (AGI), และพื้นฐานเชิงทฤษฎีของปัญญาเครื่องจักร งานของเขาศึกษาว่าการเรียนรู้, การให้เหตุผล, ความจำ, และการสรุปเชิงนามธรรมเกิดขึ้นอย่างไรในระบบชีวภาพและระบบเทียม, เชื่อมโยงสถาปัตยกรรม AI สมัยใหม่กับคำถามที่ยาวนานในวิทยาศาสตร์การรับรู้และปรัชญาจิตใจ.

ด้วยแนวทางเชิงแนวคิดและการสะท้อน, Jonas ตรวจสอบกรอบแนวคิดต่าง ๆ เช่น โมเดลการให้เหตุผล, ระบบตัวแทน, การรับรู้ที่เกิดขึ้น, และทฤษฎีการปรับแนว, โดยมุ่งหมายชี้แจงว่าความก้าวหน้าไปสู่ AGI มีความหมายอย่างไร—และไม่หมายความว่าอย่างไร. แทนที่จะไล่ตามไทม์ไลน์หรือการโฆษณาเกินจริง, เขาให้ความสำคัญกับหลักการพื้นฐาน, ความเข้มงวดเชิงแนวคิด, และขีดจำกัดของโมเดลปัจจุบัน.

บทความที่เขียนโดย Jonas Reeve ถูกสร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำ, ความชัดเจน, และการอภิปรายอย่างรับผิดชอบเกี่ยวกับแนวคิด AI ขั้นสูง.