โมเดลและแพลตฟอร์ม AI
AWS เพิ่ม PolyAI Dialog-RSN-1 ลงในแค็ตตาล็อก SageMaker JumpStart

ประเด็นสำคัญJumpStart ย่นระยะทางจากการประเมินไปสู่ปลายทาง AWS ที่มีการกำกับดูแล…
ดูเพิ่มเติม
- JumpStart ย่นระยะทางจากการประเมินไปสู่ปลายทาง AWS ที่มีการกำกับดูแล แต่ปล่อยให้ลูกค้าจัดการโทรศัพท์และการสังเคราะห์เสียงเอง
- Dialog-RSN-1 ส่งคืนเพียงข้อความหรือการเรียกฟังก์ชัน ดังนั้นทุกการติดตั้งใช้งานจึงต้องเพิ่มชั้นแปลงข้อความเป็นเสียงพูดของตนเอง
- การเรียกเก็บเงินเริ่มเมื่อปลายทางเข้าสู่การให้บริการและดำเนินต่อไปจนกว่าจะถูกลบ แม้จะไม่มีไคลเอนต์เชื่อมต่ออยู่ก็ตาม
AWS ประกาศเมื่อวันที่ 19 พฤศจิกายน 2026 ว่า Dialog-RSN-1 ของ PolyAI ได้เข้าร่วมแค็ตตาล็อก Amazon SageMaker JumpStart โดยเพิ่มความสามารถในการติดตั้งใช้งานด้วยคลิกเดียว เครื่องมือประเมินผล และโปรไฟล์การปรับแต่งประสิทธิภาพ 4 แบบ สำหรับโมเดลบริการลูกค้าที่ประมวลผลเสียงโดยตรง โดยเอ็นด์พอยต์จะทำงานภายในบัญชี AWS ของลูกค้าเอง
พัฒนาการใหม่นี้คือเวิร์กโฟลว์ในแค็ตตาล็อก ซึ่งเกิดขึ้นหลังจาก PolyAI ประกาศข่าวก่อนหน้านี้ 2 ครั้ง PolyAI เปิดตัว Dialog-RSN-1 เมื่อวันที่ 30 กรกฎาคม 2026 และ ประกาศการติดตั้งใช้งานเอ็นด์พอยต์ SageMaker ผ่าน AWS Marketplace เมื่อวันที่ 6 ตุลาคม 2026 JumpStart ช่วยให้ค้นหา ประเมินผล และติดตั้งใช้งานด้วยการกำหนดค่าที่เตรียมไว้ล่วงหน้าได้ ขณะที่ลูกค้ายังคงสมัครใช้บริการผ่าน AWS Marketplace
ประเมินผลและติดตั้งใช้งานได้ในแค็ตตาล็อกเดียว
ใน Model Hub ของคอนโซล SageMaker AI ลูกค้าเลือก Dialog-RSN-1 แล้วเลือก Deploy จากนั้น JumpStart จะสร้างเอ็นด์พอยต์อนุมานแบบเรียลไทม์บนสแต็กสำหรับให้บริการที่กำหนดค่าไว้ล่วงหน้า จึงไม่ต้องเลือกคอนเทนเนอร์ด้วยตนเองหรือทดสอบเปรียบเทียบการตั้งค่าโครงสร้างพื้นฐานหลายสิบรูปแบบด้วยตัวเอง ทีมงานยังสามารถใช้โค้ด SageMaker Python SDK เพียงไม่กี่บรรทัด และผนวกการติดตั้งใช้งานเข้ากับไปป์ไลน์การผสานรวมอย่างต่อเนื่องและการส่งมอบอย่างต่อเนื่องได้
ก่อนติดตั้งใช้งาน การ์ดข้อมูลโมเดลจะแสดงค่าความหน่วง P50 เวลาจนถึงโทเค็นแรก และอัตราปริมาณงาน โปรไฟล์เหล่านี้ให้ความสำคัญกับความหน่วง อัตราปริมาณงาน ต้นทุน หรือการใช้งานทั่วไปแบบสมดุล โดยโปรไฟล์ความหน่วงช่วยลดเวลาจนถึงโทเค็นแรก โปรไฟล์อัตราปริมาณงานเพิ่มจำนวนโทเค็นต่อวินาทีให้สูงสุด และโปรไฟล์ต้นทุนลดค่าใช้จ่ายด้านโครงสร้างพื้นฐานต่อคำขอให้ต่ำที่สุด ตัวเลือกเหล่านี้ช่วยให้การกำหนดค่าการให้บริการสอดคล้องกับปริมาณการโทร ความรวดเร็วในการตอบสนอง และข้อกำหนดด้านค่าใช้จ่าย แทนที่จะใช้ค่าเริ่มต้นแบบเดียวกับทุกภาระงาน
การประเมินผลอยู่ในรายการแค็ตตาล็อกเดียวกัน สมุดบันทึกตัวอย่างของ PolyAI สตรีมเสียงผู้โทรที่บันทึกไว้ แล้วแสดงการตัดสินใจเรื่องการผลัดกันพูด คำตอบ และบทถอดเสียงของโมเดล เพื่อให้ทีมตรวจสอบพฤติกรรมของโมเดลกับรูปแบบการโทรที่คาดว่าจะต้องรองรับได้ ทีมงานตรวจดูภาพรวมและตัวอย่างก่อนติดตั้งใช้งานได้ แต่หากต้องการสตรีมเสียงของตนเองผ่านโมเดล จำเป็นต้องมีเอ็นด์พอยต์
การใช้เหตุผลจากเสียงพร้อมแยกชั้นเสียงพูดออกต่างหาก
Dialog-RSN-1 ประมวลผลเสียงของผู้โทรโดยตรง และรวมการผลัดกันพูด การรู้จำเสียงพูด การสร้างคำตอบ และการเรียกใช้ฟังก์ชันไว้ในโมเดลเดียว PolyAI ระบุว่าการประมวลผลเสียงโดยตรงช่วยรักษาน้ำเสียง การลังเล และจังหวะการพูด ซึ่งระบบแบบหลายขั้นตอนอาจสูญเสียไปเมื่อการรู้จำเสียงพูดแปลงบทสนทนาเป็นบทถอดเสียง ตัวตรวจจับกิจกรรมเสียงจะเป็นตัวเริ่มการตรวจสอบแต่ละครั้ง ขณะที่โทเค็นแรกที่โมเดลส่งออกจะบันทึก EMPTY, ONGOING หรือ COMPLETE ซึ่งทำให้โมเดลเป็นผู้ตัดสินใจขั้นสุดท้ายว่าจะผลัดกันพูดอย่างไร
เส้นทางการส่งออกแยกต่างหากจากส่วนอื่น Dialog-RSN-1 ส่งข้อความคำตอบแบบสตรีม หรือการเรียกใช้ฟังก์ชัน โดยบทถอดเสียงของผู้โทรจะมาถึงแยกต่างหาก และโมเดลไม่ได้สังเคราะห์เสียงพูด ดังนั้นการติดตั้งใช้งานจึงต้องมีระบบแปลงข้อความเป็นเสียงพูดเพิ่มเติม ซึ่งช่วยให้ลูกค้ายังคงเลือกเสียงพูดได้ตามต้องการ แต่ก็ต้องเพิ่มองค์ประกอบที่อยู่นอกเอ็นด์พอยต์ของโมเดล
รายการของ PolyAI บน Marketplace ระบุว่า เวลาตอบสนองมัธยฐานจนถึงโทเค็นแรกต่ำกว่า 300 มิลลิวินาที และการโต้ตอบกับผู้โทรแบบครบถ้วนโดยทั่วไปใช้เวลาประมาณ 390 มิลลิวินาทีในการใช้งานจริง ความแตกต่างนี้สำคัญ เพราะค่าความหน่วงของโมเดลเพียงอย่างเดียวไม่ได้บอกถึงความล่าช้าของการติดตั้งใช้งานระบบเสียงพูดโดยรวม ซึ่งรวมการสังเคราะห์เสียงพูด ระบบโทรศัพท์ และเครื่องมือภายนอกไว้ด้วย
ข้อจำกัดด้านการผสานรวมและค่าใช้จ่ายรายชั่วโมง
เอ็นด์พอยต์อยู่ในคลาวด์ส่วนตัวเสมือนของลูกค้า ใช้บทบาทของ AWS Identity and Access Management ของลูกค้า และได้รับการตรวจสอบผ่าน Amazon CloudWatch เนื่องจากการอนุมานทำงานภายในบัญชีนั้น เสียงการโทรและบทถอดเสียงจึงยังอยู่ภายในโครงสร้างพื้นฐานที่ลูกค้าควบคุมได้ ซึ่งเป็นการออกแบบที่เกี่ยวข้องกับข้อกำหนดด้านการจัดเก็บข้อมูลภายในเขตอำนาจและการตรวจสอบ
เอ็นด์พอยต์รองรับโปรโตคอล OpenAI Realtime บริดจ์ไคลเอนต์ของ PolyAI เปิด WebSocket ในเครื่องสำหรับไคลเอนต์ Realtime และส่งอีเวนต์ของไคลเอนต์ผ่านสตรีม HTTP/2 แบบสองทิศทางที่ลงนามแล้วของ SageMaker ส่วนแอปพลิเคชันก็เรียกใช้สตรีมดังกล่าวได้โดยตรงเช่นกัน ลูกค้ายังคงรับผิดชอบระบบโทรศัพท์ การประสานงาน ลอจิกทางธุรกิจ และการเรียกใช้เครื่องมือ ขณะที่คำแนะนำการผสานรวมของ PolyAI ระบุให้ตรวจสอบวันที่ หมายเลขอ้างอิง และจำนวนเงินก่อนดำเนินการตามการเรียกใช้เครื่องมือ
อินพุตเสียงจำกัดเฉพาะ PCM16 โมโนที่เข้ารหัสแบบ base64 ที่ 16 หรือ 24 kHz โดยไม่รองรับ G.711, Opus หรือสเตอริโอ บริบทรองรับได้ 32,000 โทเค็น และโมเดลรองรับเฉพาะภาษาอังกฤษ การเชื่อมต่อมีขีดจำกัดสูงสุด 30 นาที และหมดเวลาเมื่อไม่มีการใช้งานนาน 5 นาที สถานะจะไม่ถูกส่งต่อเมื่อเชื่อมต่อใหม่ แอปพลิเคชันจึงต้องกู้คืนบริบทที่เกี่ยวข้องเมื่อเริ่มเซสชันใหม่
การอนุมานแบบเรียลไทม์มีค่าใช้จ่าย 45 ดอลลาร์ต่อโฮสต์ต่อชั่วโมงบน ml.p4d.24xlarge และ 110 ดอลลาร์ต่อชั่วโมงโฮสต์บน ml.p5.48xlargeหนึ่งชั่วโมงโฮสต์หมายถึงเวลาทำงานหนึ่งชั่วโมงของอินสแตนซ์ประมวลผล และอาจมีค่าใช้จ่ายด้านโครงสร้างพื้นฐาน AWS เพิ่มเติม การเรียกเก็บเงินเริ่มขึ้นเมื่อเอ็นด์พอยต์เริ่มให้บริการ และดำเนินต่อไปจนกว่าจะลบเอ็นด์พอยต์ แม้ไม่มีไคลเอนต์เชื่อมต่ออยู่ก็ตาม ตัวอย่างการติดตั้งใช้งานของ AWS จะลบเอ็นด์พอยต์ การกำหนดค่าเอ็นด์พอยต์ และโมเดลในขั้นตอนล้างข้อมูล
ประโยชน์หลักของ JumpStart คือช่วยให้กระบวนการทำงานตั้งแต่การประเมินโมเดลไปจนถึงการติดตั้งใช้งานปลายทางบน AWS ที่อยู่ภายใต้การกำกับดูแลสั้นลง งานที่ยังต้องทำก่อนนำไปใช้งานจริงเกี่ยวข้องกับส่วนอื่นนอกเหนือจากตัวโมเดล ได้แก่ ระบบโทรศัพท์ การสังเคราะห์เสียง การตรวจสอบความถูกต้องของเครื่องมือ การกู้คืนเซสชัน และการควบคุมปลายทางที่ยังมีค่าใช้จ่ายแม้ไม่มีการใช้งาน ดังนั้น ความคุ้มค่าทางธุรกิจจึงขึ้นอยู่กับผลลัพธ์ด้านการจัดการสายที่วัดจากเสียงของลูกค้าเอง เมื่อนำไปเปรียบเทียบกับค่าใช้จ่ายด้านวิศวกรรมและโฮสติ้งที่ยังเกิดขึ้นอย่างต่อเนื่อง












