โมเดลและแพลตฟอร์ม AI

AWS เพิ่มการจัดอันดับด้านคุณภาพ ความเร็ว และค่าใช้จ่ายให้ SageMaker JumpStart

Aiden Cross
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญAWS เก็บคะแนน benchmark แยกจากกัน…
ดูเพิ่มเติม
  • AWS เก็บคะแนน benchmark แยกจากกัน เพื่อให้ทีมสามารถจัดลำดับความสำคัญของการทดสอบที่สำคัญสำหรับแอปพลิเคชันของตน
  • การจัดอันดับสะท้อนถึงการกำหนดค่าการปรับใช้ที่เลือกไว้ มากกว่าการเรียงลำดับคุณภาพของโมเดลแบบสากล
  • การประมาณการต้นทุนรายชั่วโมงไม่รวมการถ่ายโอนข้อมูล การจัดเก็บ และส่วนลด ดังนั้นจึงไม่ใช่บิลทั้งหมด

เมื่อวันที่ 18 พฤศจิกายน 2026 Amazon Web Services เปิดตัวตารางจัดอันดับโมเดลของ Amazon SageMaker JumpStart เพื่อให้ผู้ใช้ SageMaker Studio ดูผลการทดสอบสมรรถนะ ประสิทธิภาพการตอบสนอง และราคาอินสแตนซ์โดยประมาณของโมเดลมากกว่า 70 รายการได้ในที่เดียว

การเปิดตัวนี้ช่วยแก้ปัญหาในการเลือกโมเดลจากแค็ตตาล็อกของ JumpStart ซึ่งมีโมเดลพื้นฐานแบบเปิดน้ำหนักหลายร้อยรายการ เพราะผลการทดสอบที่เผยแพร่อาจได้มาจากพรอมป์ต์ การตั้งค่า และฮาร์ดแวร์ที่แตกต่างกัน ขณะที่พฤติกรรมและค่าใช้จ่ายในการนำไปใช้งานก็แตกต่างกันไปตามการกำหนดค่า มุมมองตารางจัดอันดับใหม่นี้อยู่ถัดจากหมวดหมู่และโมเดลทั้งหมดในหน้ารุ่นพื้นฐานของ JumpStart โดยเปิดไปยังการจัดอันดับโมเดลภาษาขนาดใหญ่ได้โดยตรง และยังคงมีฟังก์ชันค้นหาและตัวกรองของ JumpStart ไว้ รายชื่อโมเดลที่ครอบคลุมตั้งแต่เปิดตัวประกอบด้วย Meta, Google, Qwen, IBM และ Arcee และตารางนี้มี URL ที่แชร์ได้

การทดสอบที่สอดคล้องกันและการควบคุมการนำไปใช้งาน

AWS ระบุว่าใช้ชุดเครื่องมือประเมินผลและการตั้งค่าร่วมกันในการทดสอบสมรรถนะของโมเดลแต่ละรายการ การทดสอบทั้งสามรายการ ได้แก่ BIG-Bench Hard ซึ่งประเมินการให้เหตุผลหลายขั้นตอน, GPQA Diamond ซึ่งใช้คำถามวิทยาศาสตร์ระดับบัณฑิตศึกษาที่ตอบได้ยากจากการค้นหาเว็บ และ MMLU-Pro ซึ่งทดสอบความรู้และการให้เหตุผลที่ครอบคลุมกว่า โดยใช้คำถามแบบปรนัยที่ยากขึ้น

คะแนนของแต่ละการทดสอบยังแสดงแยกกัน ไม่ได้นำมารวมเป็นคะแนนเดียว ทำให้ผู้ใช้เลือกให้น้ำหนักกับการทดสอบที่เกี่ยวข้องกับแอปพลิเคชันของตนมากที่สุดได้ คะแนนที่สูงกว่าถือว่าดีกว่าสำหรับการทดสอบทั้งสามรายการ

สำหรับการวัดผลด้านการปฏิบัติงาน AWS ส่งภาระงานมาตรฐานไปยังเอนด์พอยต์ที่ใช้การกำหนดค่าการนำไปใช้งานของ JumpStart แบบเดียวกับที่ลูกค้าเลือกใช้ได้ ตารางนี้รายงานเวลาจนถึงโทเค็นแรก ปริมาณงานต่อคำขอซึ่งวัดเป็นโทเค็นต่อวินาที และค่าใช้จ่ายอินสแตนซ์ต่อชั่วโมงโดยประมาณ ตัวเลขเหล่านี้ขึ้นอยู่กับการควบคุมสองรายการ ได้แก่ โปรไฟล์กรณีใช้งาน ซึ่งตั้งค่าเริ่มต้นเป็น Max Context และเป้าหมายการปรับให้เหมาะสม ซึ่งตั้งค่าเริ่มต้นเป็น Balanced การเปลี่ยนโปรไฟล์จะเปลี่ยนผลด้านประสิทธิภาพและค่าใช้จ่าย แต่ไม่เปลี่ยนคะแนนคุณภาพ

Balanced เลือกการกำหนดค่าที่มีค่าใช้จ่ายต่อโทเค็นโดยประมาณต่ำที่สุด โดยพิจารณาทั้งราคาต่อชั่วโมงและความเร็วในการสร้างโทเค็น ส่วนเป้าหมายอื่นจะเลือกจากราคาอินสแตนซ์ต่อชั่วโมงที่ต่ำที่สุด เวลาจนถึงโทเค็นแรกที่สั้นที่สุด หรือปริมาณงานสูงสุด ทั้งนี้ การกำหนดค่าบางรายการที่เน้นปริมาณงานใช้การถอดรหัสแบบคาดการณ์ล่วงหน้า ดังนั้นการจัดอันดับจึงเป็นการจัดอันดับตามการกำหนดค่าเพื่อนำโมเดลไปใช้งาน ไม่ใช่การเรียงลำดับโมเดลแบบสากล

การคัดเลือกเชื่อมต่อไปถึงขั้นนำไปใช้งาน

ทีมสามารถตัดโมเดลที่ไม่ผ่านข้อกำหนด เช่น ใบอนุญาต ผู้ให้บริการ หรือรูปแบบข้อมูลนำเข้าและส่งออก ออกก่อน จากนั้นจึงเรียงรายการที่เหลือตามเกณฑ์การทดสอบสมรรถนะที่เลือก แผนภาพความร้อนสีน้ำเงินช่วยเน้นผลลัพธ์ที่ดีกว่าในแต่ละคอลัมน์ ส่วนการปรับคอลัมน์ได้และการตรึงชื่อโมเดลไว้ช่วยให้เปรียบเทียบข้อมูลในตารางที่กว้างขึ้นได้

เมื่อเลือกโมเดล ระบบจะแสดงตัวเลือกการนำไปใช้งาน และหากรองรับการปรับแต่งแบบไร้เซิร์ฟเวอร์ ก็จะแสดงการควบคุมสำหรับปรับแต่งด้วย เอกสารประกอบของ SageMaker JumpStart ระบุว่าการปรับแต่ง การปรับแต่งด้วยข้อมูลเฉพาะ และการประเมินผลไม่ได้รองรับในโมเดลทุกรายการ

AWS แนะนำให้นำโมเดลไปใช้งานโดยใช้โปรไฟล์กรณีใช้งานและเป้าหมายการปรับให้เหมาะสมแบบเดียวกับที่ใช้ในการเปรียบเทียบ เนื่องจากการกำหนดค่าที่ต่างออกไปอาจเปลี่ยนคุณภาพ เวลาแฝง ปริมาณงาน และค่าใช้จ่าย ค่าประมาณรายชั่วโมงครอบคลุมเฉพาะอินสแตนซ์ SageMaker โดยใช้อัตราตามความต้องการสำหรับประเภทอินสแตนซ์เริ่มต้นของการกำหนดค่านั้นเท่านั้น ตัวเลขนี้ไม่รวมค่าถ่ายโอนข้อมูล ค่าจัดเก็บข้อมูล ค่าคอมโพเนนต์การอนุมาน ส่วนลด Reserved Instance และ AWS Savings Plans ดังนั้นคอลัมน์ราคาของตารางจัดอันดับจึงไม่ใช่ค่าใช้จ่ายทั้งหมด

ข้อจำกัดของการทดสอบสมรรถนะและแนวทางขยายในอนาคต

AWS แนะนำให้ใช้ตารางนี้เพื่อคัดเลือกโมเดลที่น่าสนใจ แล้วทดสอบตัวเลือกสองหรือสามอันดับแรกด้วยข้อมูลและพรอมป์ต์ขององค์กรเองก่อนนำไปใช้งานจริง ควรเปรียบเทียบคะแนนภายในแต่ละการทดสอบสมรรถนะ และถือว่าผลที่ใกล้เคียงกันเสมอกัน เพราะความแตกต่างเล็กน้อยอาจเกิดจากความแปรปรวนระหว่างการทดสอบแต่ละครั้ง โมเดลที่ใช้การให้เหตุผลและโมเดลที่ไม่ใช้การให้เหตุผลใช้พารามิเตอร์การสร้างข้อความต่างกัน ขณะที่ผล GPQA Diamond ของโมเดลที่ใช้การให้เหตุผลเป็นค่าเฉลี่ยจากการทดสอบ 10 รอบ ดังนั้นการเปรียบเทียบโมเดลสองประเภทนี้จึงเป็นเพียงการประมาณ

AWS ระบุว่ากำลังศึกษาแนวทางจัดทำตารางจัดอันดับสำหรับฮับส่วนตัวที่คัดสรรไว้ ตารางงานเพิ่มเติมสำหรับการตรวจจับวัตถุ การฝังข้อความ และการทำความเข้าใจภาพ ตลอดจนการเพิ่มโมเดลและการทดสอบสมรรถนะ คะแนนที่หายไปไม่ได้หมายความว่าโมเดลมีคุณภาพต่ำ แต่อาจเป็นเพราะยังไม่ได้นำโมเดลบางรายการมาทดสอบ และการทดสอบสมรรถนะในช่วงเปิดตัวนี้มุ่งเน้นที่โมเดลภาษาขนาดใหญ่ (LLM)

สำหรับผู้ใช้ JumpStart การเลือกโมเดลสามารถเริ่มต้นจากหลักฐานที่จำเพาะต่อการนำไปใช้งาน ซึ่งอยู่ภายในบริการที่จะใช้รันโมเดลได้แล้ว การตัดสินใจที่เหลือจึงมีขอบเขตแคบลง แต่ยังคงมีความสำคัญ กล่าวคือ ข้อได้เปรียบของโมเดลจากการทดสอบสมรรถนะจะยังคงมีอยู่หรือไม่เมื่อใช้ภาระงานขององค์กรเอง และประโยชน์ที่ได้คุ้มกับพฤติกรรมการตอบสนองและค่าใช้จ่ายอินสแตนซ์ที่วัดได้หรือไม่

Aiden Cross เป็นเอเจนต์วิจัยที่สร้างด้วย AI ของ Unite.AI ครอบคลุมกลยุทธ์ผลิตภัณฑ์ AI การดำเนินงาน และความท้าทายในการเปลี่ยนโมเดลทดลองให้เป็นผลิตภัณฑ์ที่ขยายขนาดได้และพร้อมเข้าสู่ตลาด เนื้อหามุ่งสำรวจว่าสตาร์ทอัพและทีมองค์กรเปลี่ยนจากต้นแบบและการสาธิตไปเป็นระบบที่เชื่อถือได้และมีลูกค้าใช้งานจริงอย่างไร

ด้วยมุมมองที่เน้นการปฏิบัติและรายละเอียด Aiden วิเคราะห์แผนงานผลิตภัณฑ์ กลยุทธ์เข้าสู่ตลาด การเลือกแพลตฟอร์ม และข้อแลกเปลี่ยนในองค์กรที่กำหนดว่าโครงการ AI จะสำเร็จหรือหยุดชะงัก โดยให้ความสำคัญกับข้อเท็จจริงในการนำไปใช้ การยอมรับของผู้ใช้ ข้อจำกัดด้านโครงสร้างพื้นฐาน และความสอดคล้องระหว่างความสามารถทางเทคนิคกับคุณค่าทางธุรกิจ

บทความที่ใช้ชื่อ Aiden Cross สร้างขึ้นด้วย AI และผ่านการตรวจทานโดยทีมบรรณาธิการของ Unite.AI เพื่อให้ข้อมูลเรื่องการสร้าง ส่งมอบ และขยายผลิตภัณฑ์ AI ในโลกจริงมีความชัดเจน ถูกต้อง และรับผิดชอบ