โมเดลและแพลตฟอร์ม AI

Perplexity เปิดตัว Orchestrator API พร้อมระบบสลับไปยังผู้ให้บริการรายอื่นโดยใช้โมเดลเดิม

Jonas Reeve
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญOrchestrator จะลองส่งคำขอที่ล้มเหลวใหม่ไปยัง deployment อื่นของโมเดลเดียวกัน…
ดูเพิ่มเติม
  • Orchestrator จะลองส่งคำขอที่ล้มเหลวใหม่ไปยัง deployment อื่นของโมเดลเดียวกัน ดังนั้นคำขอ Claude จึงสามารถเปลี่ยนผู้ให้บริการได้โดยไม่ต้องเปลี่ยนโมเดล
  • Perplexity รายงานว่าคำขอ Claude และ GPT ผ่าน Orchestrator ประสบความสำเร็จบ่อยกว่าคำขอไปยังผู้ให้บริการรายใดรายหนึ่งที่วัดผล
  • การกำหนดเส้นทางโมเดลอัตโนมัติเป็นฟีเจอร์พรีวิวที่ความสามารถและค่าใช้จ่ายอาจเปลี่ยนแปลงได้ระหว่างแต่ละรอบภายในบทสนทนาเดียว

Perplexity เปิดตัว Orchestrator เมื่อวันที่ 17 พฤศจิกายน 2026 ซึ่งเป็น API สำหรับเข้าถึงโมเดลแบบกรรมสิทธิ์และโมเดลแบบเปิดที่โฮสต์อยู่บนโครงสร้างพื้นฐานสำหรับประมวลผลการอนุมานของบริษัท บริการนี้รวมการเรียกเก็บเงินไว้ในที่เดียว รองรับการสลับไปยังผู้ให้บริการรายอื่นโดยใช้โมเดลเดิมเมื่อเกิดความขัดข้อง และมีฟีเจอร์กำหนดเส้นทางไปยังโมเดลโดยอัตโนมัติให้ทดลองใช้ในเวอร์ชันพรีวิว

เอกสารประกอบการกำหนดเส้นทางแยกการตัดสินใจออกเป็นสองขั้นตอน หลังเลือกโมเดลแล้ว ระบบกำหนดเส้นทางไปยังผู้ให้บริการจะกระจายทราฟฟิกระหว่างการติดตั้งใช้งานต่าง ๆ โดยพิจารณาจากอัตราข้อผิดพลาดที่ตรวจพบ ความจุ และเวลาแฝง ลูกค้าไม่สามารถเลือกการติดตั้งใช้งานได้ ข้อผิดพลาดจากผู้ให้บริการ การจำกัดอัตราการเรียกใช้ และการหมดเวลา อาจทำให้ระบบลองส่งคำขออีกครั้งไปยังการติดตั้งใช้งานอื่นของโมเดลเดียวกัน ดังนั้น คำขอที่ใช้ Claude จึงอาจย้ายจาก Anthropic ไปยัง AWS Bedrock หลังเกิดข้อผิดพลาด โดยยังคงเป็นคำขอที่ใช้ Claude

Orchestrator รองรับคำขอ OpenAI Chat Completions, OpenAI Responses และ Anthropic Messages นักพัฒนายังคงใช้ SDK ของ OpenAI หรือ Anthropic ได้ โดยเปลี่ยนไปใช้คีย์ Perplexity API, URL ฐานของ Orchestrator และ ID โมเดลแบบเต็มจากแค็ตตาล็อก คู่มือเริ่มต้นใช้งานอธิบายว่าบริการนี้เป็นแบบไร้สถานะ และออกแบบมาเพื่อให้เข้าถึงโมเดลได้โดยตรง พร้อมใช้พรอมต์และเครื่องมือของลูกค้าเอง จึงแตกต่างจาก API สำหรับเอเจนต์ ซึ่งให้คำตอบที่อ้างอิงข้อมูลจากเว็บพร้อมการอ้างอิงแหล่งที่มาในตัว

แค็ตตาล็อกครอบคลุมกลุ่มโมเดลจาก Anthropic, OpenAI, Google, xAI, Z.AI, DeepSeek และ Moonshot AI โดยสามารถเข้าถึงโมเดลของ Google, xAI และโมเดลแบบเปิดได้ในทุกระดับการใช้งาน การเรียกใช้โมเดลของ OpenAI และ Anthropic ต้องอยู่ใน Tier 1 ขึ้นไป ส่วนโมเดล Claude Opus 5, Opus 5.5 และ Fable ต้องอยู่ใน Tier 2 ขึ้นไป

การสลับผู้ให้บริการและประสิทธิภาพที่วัดได้

Perplexity รายงานว่า คำขอ Claude และ GPT ที่ส่งผ่าน Orchestrator ระหว่างวันที่ 4 ตุลาคม 2026 ถึง 2 พฤศจิกายน 2026 สำเร็จบ่อยกว่าคำขอที่ส่งไปยังผู้ให้บริการรายใดรายหนึ่งที่บริษัทวัดผล และมีความผันผวนรายวันน้อยกว่าในช่วงที่ผู้ให้บริการขัดข้อง โดยนับว่าเกิดความล้มเหลวเมื่อการติดตั้งใช้งานทั้งหมดที่พร้อมให้บริการไม่สามารถรองรับคำขอได้ หรือเมื่อระบบให้บริการส่งข้อผิดพลาดกลับมา ทั้งนี้ ไม่นับข้อผิดพลาดจากฝั่งไคลเอนต์ เช่น คำขอไม่ถูกต้องและการละเมิดขีดจำกัดอัตราการเรียกใช้ของไคลเอนต์ ในช่วง 30 วันเดียวกัน Anthropic และ AWS Bedrock ต่างมีความเร็วในการสร้างผลลัพธ์ของ Claude Opus 5.5 สูงสุดคนละ 15 วัน และค่ามัธยฐานความเร็วในการสร้างผลลัพธ์ของ GPT-5.6 Sol บน Azure สูงกว่าของ OpenAI อยู่ 27% การกำหนดเส้นทางแบบปรับตามความแตกต่างด้านความเร็วเหล่านี้ยังอยู่ระหว่างการพัฒนา

การสลับผู้ให้บริการมีข้อจำกัด คำขอที่ไม่ถูกต้องและพรอมต์ที่ยาวเกินหน้าต่างบริบทของโมเดลจะส่งกลับ HTTP 400 โดยไม่มีการลองส่งคำขอไปยังการติดตั้งใช้งานอื่น หากการติดตั้งใช้งานทั้งหมดไม่สามารถให้บริการได้ ระบบจะส่งกลับ HTTP 429 พร้อมส่วนหัว Retry-After และจะไม่เรียกเก็บเงินสำหรับคำขอที่ล้มเหลวก่อนเริ่มสร้างผลลัพธ์ หากสตรีมล้มเหลวหลังเริ่มส่งผลลัพธ์แล้ว ลูกค้าจะถูกเรียกเก็บเงินตามโทเค็นที่ส่งไปแล้ว

การกำหนดเส้นทางเวอร์ชันพรีวิวและการเรียกเก็บเงินตามการใช้งาน

การกำหนดเส้นทางไปยังโมเดลโดยอัตโนมัติช่วยเลือกโมเดล ไม่ใช่เลือกการติดตั้งใช้งาน การตั้งค่าโมเดลเป็น perplexity/auto จะเรียกใช้โมเดลตัดสินใจ ซึ่งจะเห็นข้อความในการสนทนาและคำอธิบายเส้นทางด้วยภาษาทั่วไป แต่จะไม่เห็นชื่อเส้นทางหรือ ID โมเดล ออบเจ็กต์การกำหนดเส้นทางแบบกำหนดเองสามารถระบุโมเดลเริ่มต้นและเส้นทางสำหรับงานได้ตั้งแต่หนึ่งถึงห้าเส้นทาง ระบบจะใช้โมเดลเริ่มต้นเมื่อไม่มีเส้นทางใดตรงกับงาน เมื่อโมเดลตัดสินใจทำงานล้มเหลวหรือหมดเวลา หรือเมื่อการสนทนามีรูปภาพ เสียง วิดีโอ หรือไฟล์

ระบบกำหนดเส้นทางแยกกันในแต่ละคำขอ ดังนั้นแต่ละรอบการสนทนาอาจใช้โมเดลต่างกันเมื่อประเภทงานเปลี่ยนไป ทุกคำขอต้องมีประวัติการสนทนาทั้งหมด และแต่ละโมเดลจะมีแคชพรอมต์แยกกัน การใช้ตัวระบุเซสชันหรือคีย์แคชพรอมต์ที่คงที่อาจช่วยให้คำขอที่เกี่ยวข้องกันอยู่บนการติดตั้งใช้งานเดียวกันได้ แต่การรักษาความเชื่อมโยงนี้เป็นเพียงความพยายามอย่างดีที่สุด และไม่ได้ตรึงการเลือกโมเดลไว้ตลอดทุกรอบการสนทนา ส่วนหัวของการตอบกลับจะระบุผลการกำหนดเส้นทางและเส้นทางที่เลือก หากมี ขณะที่ฟิลด์ model ของการตอบกลับจะระบุโมเดลที่ให้คำตอบจริง

การเรียกเก็บเงินอิงตามโมเดลที่ให้คำตอบ โดยคิดตามอัตราต่อโทเค็นที่ประกาศไว้ของโมเดลนั้น ไม่ว่าคำขอจะผ่านการติดตั้งใช้งานใดก็ตาม การใช้งานจะหักจากเครดิตแบบเติมเงินชุดเดียวกับที่ใช้ในส่วนอื่น ๆ ของโปรเจ็กต์ Perplexity API แค็ตตาล็อกระบุว่า GLM-5.3 Flash ใน Tier 0 มีค่าใช้จ่าย 0.15 ดอลลาร์ต่อโทเค็นอินพุตหนึ่งล้านโทเค็น และ 0.50 ดอลลาร์ต่อโทเค็นเอาต์พุตหนึ่งล้านโทเค็น ส่วนการอ่านแคชมีค่าใช้จ่าย 0.03 ดอลลาร์ต่อหนึ่งล้านโทเค็น โทเค็นสำหรับการใช้เหตุผลจะคิดค่าบริการตามอัตราเอาต์พุตที่เกี่ยวข้อง

จุดเด่นด้านความน่าเชื่อถือของ Orchestrator คือช่วยให้ระบบทำงานต่อได้โดยไม่ต้องเปลี่ยนโมเดลที่เลือกหรืออัตราค่าโทเค็น อย่างไรก็ตาม ระบบอัตโนมัติในขอบเขตที่กว้างขึ้นยังมีข้อจำกัด กล่าวคือ การกำหนดเส้นทางไปยังโมเดลยังเป็นเวอร์ชันพรีวิว ซึ่งอาจทำให้ความสามารถและค่าใช้จ่ายเปลี่ยนไปในแต่ละรอบการสนทนา ขณะที่การเลือกผู้ให้บริการโดยปรับตามความเร็วแบบไดนามิกยังอยู่ระหว่างการพัฒนา

Jonas Reeve เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, มุ่งเน้นที่ AI ด้านการรู้คิด, ปัญญาประดิษฐ์ทั่วไป (AGI), และพื้นฐานเชิงทฤษฎีของปัญญาเครื่องจักร งานของเขาศึกษาว่าการเรียนรู้, การให้เหตุผล, ความจำ, และการสรุปเชิงนามธรรมเกิดขึ้นอย่างไรในระบบชีวภาพและระบบเทียม, เชื่อมโยงสถาปัตยกรรม AI สมัยใหม่กับคำถามที่ยาวนานในวิทยาศาสตร์การรับรู้และปรัชญาจิตใจ.

ด้วยแนวทางเชิงแนวคิดและการสะท้อน, Jonas ตรวจสอบกรอบแนวคิดต่าง ๆ เช่น โมเดลการให้เหตุผล, ระบบตัวแทน, การรับรู้ที่เกิดขึ้น, และทฤษฎีการปรับแนว, โดยมุ่งหมายชี้แจงว่าความก้าวหน้าไปสู่ AGI มีความหมายอย่างไร—และไม่หมายความว่าอย่างไร. แทนที่จะไล่ตามไทม์ไลน์หรือการโฆษณาเกินจริง, เขาให้ความสำคัญกับหลักการพื้นฐาน, ความเข้มงวดเชิงแนวคิด, และขีดจำกัดของโมเดลปัจจุบัน.

บทความที่เขียนโดย Jonas Reeve ถูกสร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำ, ความชัดเจน, และการอภิปรายอย่างรับผิดชอบเกี่ยวกับแนวคิด AI ขั้นสูง.