Perplexity เผยแพร่คำอธิบายเกี่ยวกับกลไกการทำงานและข้อจำกัดของเกตเวย์ AI

Perplexity เผยแพร่คู่มือเมื่อวันที่ 20 ตุลาคม 2026 โดยอธิบายว่าเกตเวย์ AI จัดเส้นทาง วัดปริมาณ และกำกับดูแลการรับส่งข้อมูลระหว่างแอปพลิเคชันกับโมเดลภาษาขนาดใหญ่ได้อย่างไร รวมถึงกรณีที่องค์กรจำเป็นต้องใช้เกตเวย์ดังกล่าว บทความชื่อ “เกตเวย์ AI คืออะไร? คู่มือการจัดเส้นทาง การควบคุมต้นทุน และการกำกับดูแลการรับส่งข้อมูลของ LLM และเอเจนต์” เป็นโพสต์ล่าสุดบนบล็อกของบริษัท

คำจำกัดความและการจัดการคำขอ

คู่มือนิยามเกตเวย์ AI ว่าเป็นชั้นพร็อกซีส่วนกลางที่คั่นอยู่ระหว่างแอปพลิเคชันหรือเอเจนต์ AI ขององค์กรด้านหนึ่ง กับโมเดลภาษาขนาดใหญ่และเครื่องมือที่เรียกใช้อีกด้านหนึ่ง โดยจัดการการกำหนดเส้นทาง การควบคุมต้นทุน การบังคับใช้มาตรการรักษาความปลอดภัย และการตรวจสอบการใช้งานไว้ในที่เดียว เนื่องจากผู้ให้บริการแต่ละราย (คู่มือระบุชื่อ OpenAI, Anthropic, Google, โมเดลโอเพนซอร์ส และปลายทางที่โฮสต์เอง) มี SDK, คีย์ API และรูปแบบคำขอเป็นของตนเอง เกตเวย์จึงรับคำขอมาตรฐานรูปแบบเดียว แล้วแปลงให้เหมาะกับผู้ให้บริการที่เรียกใช้งาน การเพิ่ม เปลี่ยน หรือเลิกใช้โมเดลทำได้ผ่านการกำหนดค่าเกตเวย์ แทนการแก้ไขโค้ดของแอปพลิเคชัน

ตามคู่มือ คำขอทุกคำขอที่ส่งไปยัง URL พื้นฐานของเกตเวย์จะผ่านขั้นตอนเดียวกัน 4 ขั้น ได้แก่ เกตเวย์ตรวจสอบตัวตนและให้สิทธิ์ผู้เรียกใช้งานด้วยคีย์และบทบาท จากนั้นบังคับใช้นโยบาย เช่น ขีดจำกัดโทเค็น งบประมาณ และมาตรการป้องกัน ซึ่งรวมถึงการปกปิดข้อมูลระบุตัวบุคคล (PII) แล้วจึงกำหนดเส้นทางไปยังโมเดลหรือผู้ให้บริการโดยพิจารณาจากต้นทุน เวลาแฝง หรือความพร้อมใช้งาน พร้อมสลับไปใช้ระบบสำรองและแปลงคำขอเป็นรูปแบบของผู้ให้บริการเป้าหมาย สุดท้ายจะบันทึกโมเดล จำนวนโทเค็น เวลาแฝง และผลลัพธ์ เพื่อใช้ติดตามค่าใช้จ่ายและแก้ไขข้อบกพร่อง

ขีดความสามารถและข้อจำกัดที่ระบุไว้

คู่มืออธิบายขีดความสามารถ 6 ด้าน การกำหนดเส้นทางและการสลับระบบสำรองจะเลือกโมเดลโดยพิจารณาจากต้นทุน เวลาแฝง หรือขีดความสามารถ และเปลี่ยนเส้นทางคำขอโดยอัตโนมัติเมื่อผู้ให้บริการหยุดทำงานหรือจำกัดอัตราการเรียกใช้ การจำกัดอัตราและการกำหนดงบประมาณตามจำนวนโทเค็นจะกำหนดเพดานการใช้งานต่อทีมหรือโครงการ หรือผู้ใช้ และปฏิเสธคำขอเมื่อใช้โควตาที่จัดสรรไว้ครบแล้ว การแคชเชิงความหมายจะจับคู่พรอมป์ใหม่กับคำตอบที่จัดเก็บไว้โดยอาศัยความหมาย และส่งคำตอบที่บันทึกไว้กลับไปโดยไม่เรียกใช้โมเดล เมื่อพรอมป์มีความใกล้เคียงกันมากพอ มาตรการป้องกันจะตรวจสอบพรอมป์และคำตอบแต่ละรายการ ลบข้อมูลส่วนบุคคลหรือข้อมูลละเอียดอ่อนก่อนส่งถึงผู้ให้บริการ ลดความเสี่ยงจากการแทรกคำสั่งในพรอมป์ และกรองเนื้อหาที่ไม่ต้องการ ส่วนการตรวจสอบการทำงานจะบันทึกว่าใช้โมเดลใด ปริมาณโทเค็น เวลาแฝง และข้อผิดพลาด ขณะที่ฟีเจอร์ด้านการกำกับดูแลจะให้สิทธิ์เข้าถึงโมเดลตามบทบาทและเก็บบันทึกการตรวจสอบของทุกการเรียกใช้

ในด้านข้อจำกัด คู่มือระบุว่าเกตเวย์เพิ่มเวลาแฝง แต่ชี้ว่าความล่าช้าที่เพิ่มขึ้นนั้นค่อนข้างน้อยสำหรับการรับส่งข้อมูลของ LLM คู่มืออ้างถึงการทดสอบเปรียบเทียบโดยอิสระเมื่อเดือนมิถุนายน 2026 ของทีม VMware Cloud Foundation ในเครือ Broadcom ซึ่งพบว่า Envoy AI Gateway ที่ปรับแต่งแล้วเพิ่มเวลาประมาณ 2 มิลลิวินาทีต่อคำขอ เมื่อมีผู้ใช้พร้อมกันสูงสุด 224 ราย โดยเปิดใช้การกำหนดเส้นทางและการจำกัดอัตรา แต่ไม่ได้ตรวจสอบเนื้อหา ทั้งนี้ การทดสอบเดียวกันตามที่คู่มืออ้างถึงระบุว่า มาตรการป้องกันและการแคชเชิงความหมายอาจเพิ่มเวลาตั้งแต่หลักสิบถึงหลักร้อยมิลลิวินาที คู่มือยังระบุด้วยว่าเกตเวย์ไม่ได้ตัดสินใจว่าจะถามอะไรจากโมเดล ไม่จดจำบทสนทนา ไม่ดำเนินตรรกะการทำงานทีละขั้นของเอเจนต์ และไม่ประเมินคุณภาพคำตอบ อีกทั้งเตือนว่าการกำหนดเส้นทางโดยเน้นต้นทุนอาจทำให้คุณภาพลดลง หากโมเดลที่ราคาถูกกว่าให้คำตอบที่แย่กว่า

ประเภทของเกตเวย์และการรับส่งข้อมูลของเอเจนต์

คู่มือเปรียบเทียบเกตเวย์ AI กับเกตเวย์ API แบบดั้งเดิมในหลายด้าน ได้แก่ การวัดปริมาณโทเค็นเทียบกับการจำกัดจำนวนคำขอ การแคชเชิงความหมายเทียบกับการแคชที่ตรงกันทุกประการ การตรวจสอบพรอมป์เพื่อค้นหาข้อมูลละเอียดอ่อนและคำสั่งที่ซ่อนอยู่เทียบกับการตรวจสอบสิทธิ์ด้วยคีย์ และการกำหนดเส้นทางไปยังโมเดลโดยพิจารณาจากต้นทุน เวลาแฝง หรือขีดความสามารถ เทียบกับการกำหนดเส้นทางไปยังบริการส่วนหลัง นอกจากนี้ยังแยกคำศัพท์เฉพาะที่มีขอบเขตแคบกว่าออกเป็นสองคำ ได้แก่ เกตเวย์ LLM ซึ่งจัดการการเรียกใช้โมเดลโดยตรง และเกตเวย์ MCP ซึ่งกำกับดูแลว่าเอเจนต์เข้าถึงเครื่องมือและแหล่งข้อมูลใดได้บ้างผ่าน Model Context Protocol คู่มือระบุว่า ขณะนี้ LiteLLM, Portkey, Azure API Management และ Envoy AI Gateway เพิ่มความสามารถในการกำกับดูแล MCP แล้ว ดังนั้นคำศัพท์เหล่านี้จึงหมายถึงชั้นการควบคุมที่มีขอบเขตทับซ้อนกัน

สำหรับเอเจนต์ ซึ่งคู่มืออธิบายว่าทำงานเป็นวงจรของการเรียกใช้โมเดลและเครื่องมือจนกว่าจะทำงานเสร็จ เกตเวย์จะควบคุมและตรวจสอบการรับส่งข้อมูลทั้งหมดที่เอเจนต์เริ่มต้นขึ้น กำหนดสิทธิ์ว่าเอเจนต์เข้าถึงเครื่องมือและแหล่งข้อมูลใดได้บ้าง และบันทึกการเรียกใช้โมเดลและเครื่องมือทั้งหมดไว้ในบันทึกการตรวจสอบ

ข้อมูลการนำไปใช้ที่อ้างถึงและคำแนะนำในการติดตั้งใช้งาน

เพื่อประเมินขนาดความต้องการ คู่มืออ้างอิงตัวเลขจากแหล่งข้อมูลภายนอก Cisco’s AI Readiness Index 2025 พบว่า 83% ของผู้บริหารระดับสูง 8,039 คนที่ร่วมตอบแบบสำรวจจากองค์กรซึ่งมีพนักงานมากกว่า 500 คน วางแผนพัฒนาหรือนำเอเจนต์ AI มาใช้งาน ส่วน Gartner คาดการณ์ว่า ภายในสิ้นปี 2026 แอปพลิเคชันระดับองค์กร 40% จะมีเอเจนต์เฉพาะงาน เพิ่มขึ้นจากไม่ถึง 5% ในปี 2025 ด้านต้นทุน คู่มืออ้างถึงผลสำรวจ DoiT/Sapio 2026 ซึ่งพบว่า 79% ของผู้บริหารฝ่ายการเงินที่เข้าร่วมระบุว่า ในปีที่ผ่านมาองค์กรใช้งบประมาณ AI เกินกำหนด และผลสำรวจปี 2026 ของ Dataiku และ Harris Poll ซึ่งพบว่า 93% ของประธานเจ้าหน้าที่สารสนเทศ (CIO) ในองค์กรระบุว่าโมเดลต่างชนิดกันทำงานได้ดีกว่าในกรณีใช้งานที่แตกต่างกัน 81% ขององค์กรคาดว่าจะใช้ผู้ให้บริการโมเดลตั้งแต่ 2 รายขึ้นไป และ 55% เคยเปลี่ยนผู้ให้บริการ LLM อย่างน้อย 1 ครั้ง

ข้อมูลการติดตามอิสระที่อ้างถึงในคู่มือระบุว่า ในเดือนพฤษภาคม 2026 ผู้ให้บริการ LLM ชั้นนำมีเวลาทำงานต่อเนื่องอยู่ที่ประมาณ 99.85–99.9% ซึ่งคู่มือแปลงเป็นเวลาหยุดให้บริการราว 9–13 ชั่วโมงต่อปี นอกจากนี้ ในการสำรวจปี 2026 ของ Cockroach Labs ซึ่งสอบถามผู้นำด้านโครงสร้างพื้นฐานระดับอาวุโส 1,125 คน พบว่า 2 ใน 3 ประเมินว่าหากระบบ AI หยุดทำงานหนึ่งชั่วโมง จะทำให้องค์กรของตนเสียค่าใช้จ่ายมากกว่า $100,000 คู่มือยังอ้างถึงการจัดอันดับของ OWASP ในปี 2025 ซึ่งระบุว่าการแทรกคำสั่ง (prompt injection) เป็นความเสี่ยงด้านความปลอดภัยอันดับหนึ่งของ LLM และผลการค้นพบของ Zscaler ThreatLabz ที่ระบุว่า ข้อมูลขององค์กรที่ส่งไปยังแอปพลิเคชัน AI เพิ่มขึ้น 93% ภายในหนึ่งปี โดย ChatGPT เพียงรายเดียวทำให้เกิดการละเมิดมาตรการป้องกันข้อมูลสูญหายถึง 410 ล้านครั้ง

คู่มือระบุสัญญาณที่บ่งชี้ว่าองค์กรจำเป็นต้องมีเกตเวย์ ได้แก่ การฝังคีย์ผู้ให้บริการไว้ในโค้ดหลายชุด การที่ฝ่ายการเงินไม่สามารถระบุที่มาของค่าใช้จ่ายโมเดลได้ ข้อผิดพลาดเกี่ยวกับการจำกัดอัตราการใช้งานหรือการหยุดให้บริการซึ่งเชื่อมโยงกับการพึ่งพาผู้ให้บริการรายเดียว พรอมป์ต์ที่มีข้อมูลละเอียดอ่อนแต่ไม่ได้รับการตรวจสอบ การผสานการทำงานกับผู้ให้บริการที่ซ้ำซ้อนกันในแต่ละทีม การผสานเครื่องมือ MCP และการไม่มีภาพรวมด้านความปลอดภัยหรือการปฏิบัติตามข้อกำหนด คู่มือระบุว่าไม่จำเป็นต้องมีเกตเวย์สำหรับต้นแบบเพียงชิ้นเดียว โครงการเสริมที่มีปริมาณการใช้งานต่ำ หรือการเรียกใช้ปลายทางโมเดลเดียวที่มีข้อกำหนดด้านความปลอดภัยน้อย ตัวเลือกที่โฮสต์เอง ได้แก่ LiteLLM, Portkey และ Apache APISIX ซึ่งใช้งานบนคลาวด์ส่วนตัว, Kubernetes หรือโครงสร้างพื้นฐานภายในองค์กร ส่วนตัวเลือกที่มีผู้ให้บริการจัดการ ได้แก่ Cloudflare AI Gateway, Azure API Management และ Amazon Bedrock AgentCore Gateway คู่มือเสนอให้พิจารณาเลือกโดยดูจากการควบคุมข้อมูลและความเป็นส่วนตัว ภาระในการดำเนินงาน ซึ่งรวมถึงระบบจัดเก็บสถานะอย่าง PostgreSQL, Redis หรือ etcd ความเร็วในการติดตั้งใช้งาน และการผสานการทำงาน ส่วนคำถามที่พบบ่อยระบุว่า “เกตเวย์ AI เชิงกำเนิด” ใช้แทน “เกตเวย์ AI” ได้ และไม่มีเกตเวย์ AI แบบโอเพนซอร์สตัวใดที่ดีที่สุดเพียงหนึ่งเดียว