Baseten เปิดตัว Grid สำหรับกำหนดเส้นทางและกำกับดูแลการเขียนโค้ดด้วย AI ในองค์กร

เมื่อวันที่ 4 พฤศจิกายน 2026 Baseten ประกาศเปิดตัว Grid พร้อมเปิดให้ทดลองใช้ routing, gateway และ guardrails สำหรับการเขียนโค้ดด้วย AI ในองค์กรแบบสาธารณะ บริษัทระบุว่า Baseten Router ประหยัดต้นทุนต่อภารกิจได้เกือบ 70% ในการทดสอบเบื้องต้น โดยมีการแลกเปลี่ยนด้านคุณภาพ 0.9 จุดเปอร์เซ็นต์เมื่อเทียบกับ Opus 5.5 ส่วนการเข้าถึงก่อนเปิดให้บริการทั่วไปจะจัดการผ่านรายชื่อรอ

การกำหนดเส้นทางที่ไม่ได้มองแค่ราคาต่อโทเค็น

Grid ทำให้การตัดสินใจที่นักพัฒนาต้องเลือกเองโดยปกติเป็นไปโดยอัตโนมัติ นั่นคือโมเดลที่ผ่านการอนุมัติแล้วตัวใดควรจัดการงานเขียนโค้ดแต่ละงาน สำหรับทุกคำขอ Baseten Router จะประเมินตัวเลือกทั้งแบบโอเพนซอร์สและซอร์สปิดที่องค์กรอนุมัติไว้ แล้วชั่งน้ำหนักประสิทธิภาพที่คาดว่าจะทำได้กับต้นทุน

แทนที่จะจัดอันดับโมเดลโดยดูเพียงราคาต่อโทเค็น เราเตอร์จะคำนึงถึงค่าใช้จ่ายจากการลองใหม่ การเรียกใช้เครื่องมือที่ล้มเหลว และคำตอบที่ไม่สมบูรณ์ด้วย เป้าหมายคือการลดต้นทุนในการทำงานให้เสร็จ โดยยังเป็นไปตามข้อกำหนดด้านคุณภาพและประสิทธิภาพของทีม การกำหนดเส้นทางอัตโนมัติสามารถให้ความสำคัญกับต้นทุน ความสามารถในการวิเคราะห์ หรือการประนีประนอมระหว่างทั้งสองด้าน

องค์กรยังเลือกเข้าร่วมแบ่งปันร่องรอยการทำงานได้ ซึ่งสามารถนำไปใช้ฝึกเราเตอร์แบบกำหนดเองให้มีประสิทธิภาพแบบพาเรโตกับภาระงานเฉพาะขององค์กรนั้น Baseten ระบุว่าจำนวนเงินที่ประหยัดได้จริงจะแตกต่างกันไปตามลักษณะภาระงานและสมดุลระหว่างต้นทุนกับคุณภาพที่ลูกค้าต้องการ ดังนั้นผลการทดสอบจึงบ่งชี้ถึงศักยภาพ ไม่ใช่การลดต้นทุนในระดับเดียวกันสำหรับทุกกรณี

Chintan Parikh หัวหน้าฝ่ายวิศวกรรมของ Opendoor กล่าวว่า Grid รวมการมองเห็นค่าใช้จ่ายด้าน AI ภายในองค์กรไว้ในที่เดียว และลดค่าใช้จ่ายโดยอัตโนมัติโดยแทบไม่สูญเสียคุณภาพ พนักงานเกือบทุกคนที่ Opendoor ใช้ AI และพนักงานส่วนใหญ่ไม่ต้องการเป็นผู้ตัดสินใจเองว่าจะเลือกใช้โมเดลใด

รวมศูนย์การเข้าถึงโดยไม่ต้องเปลี่ยนเครื่องมือสำหรับนักพัฒนา

Grid Gateway ทำหน้าที่เป็นชั้นการจัดการสำหรับผู้ดูแลระบบ ทีมแพลตฟอร์มสามารถอนุมัติโมเดล กำหนดสิทธิ์การเข้าถึงแยกตามทีม ตั้งงบประมาณ และใช้ข้อมูลรับรองที่บริษัทจัดการให้ พร้อมติดตามการใช้งานของทีม แอปพลิเคชัน และเอเจนต์ต่าง ๆ แดชบอร์ดแยกค่าใช้จ่ายตามโมเดล และแสดงยอดใช้จ่ายรวม ปริมาณโทเค็น อัตราการเข้าถึงแคช และต้นทุนที่ประหยัดได้

เมื่อเปิดตัว Grid รองรับโมเดลจาก OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock และ Baseten นักพัฒนาสามารถเชื่อมต่อ Claude Code, Codex, OpenCode และ Pi ได้ด้วยคำสั่งตั้งค่าเพียงคำสั่งเดียว ส่วนผู้ดูแลระบบสามารถทำให้การกำหนดค่าเป็นแบบอัตโนมัติผ่านการจัดการอุปกรณ์เคลื่อนที่

แอปพลิเคชันและเอเจนต์ที่พัฒนาภายในองค์กรโดยใช้ Anthropic หรือ OpenAI API สามารถเชื่อมต่อได้ด้วยการเปลี่ยน URL พื้นฐานและ ID ของโมเดล วิธีนี้ทำให้ซอฟต์แวร์ที่มีอยู่ใช้งานผ่านปลายทางเดียวกันได้ โดยองค์กรไม่จำเป็นต้องเปลี่ยนเครื่องมือสำหรับนักพัฒนาที่ใช้อยู่

ทีมแพลตฟอร์มยังสามารถกำหนดโมเดลเขียนโค้ดเริ่มต้นให้กับฮาร์เนสแต่ละชุด และกำหนดโมเดลเบื้องหลังที่มีขนาดเล็กกว่าสำหรับงานเสริม เช่น การสรุปเนื้อหา นักพัฒนาจะได้รับค่าเริ่มต้นเหล่านี้ระหว่างการตั้งค่า และสามารถเปลี่ยนโมเดลได้ในภายหลัง

มาตรการป้องกันร่วมกันและโครงสร้างพื้นฐานสำหรับการประมวลผลอนุมาน

Grid วางนโยบายความปลอดภัยที่ปรับแต่งได้ไว้ที่เกตเวย์ โดยตรวจสอบคำขอและคำตอบจากส่วนกลาง นโยบายสามารถแตกต่างกันไปตามภาระงาน และบันทึกจะแสดงสิ่งที่ถูกตั้งธงเตือนพร้อมวิธีจัดการ ความเสี่ยงที่ระบุไว้รวมถึงเอกสารที่ซ่อนคำสั่งเพื่อชักนำเอเจนต์ให้เปลี่ยนทิศทาง การกระทำที่ไม่ได้รับอนุญาต และการปรากฏของข้อมูลลูกค้าในที่ที่ไม่ควรอยู่

มาตรการป้องกันเหล่านี้แยกจากการควบคุมการทำงาน การตรวจสอบความปลอดภัยจะตรวจคำขอและคำตอบที่มีความเสี่ยง ส่วนการควบคุมการทำงานจะกำหนดว่าเอเจนต์เข้าถึงและทำอะไรได้บ้าง Baseten ระบุว่าองค์กรขนาดใหญ่จำเป็นต้องมีทั้งสองชั้น

เบื้องหลังเกตเวย์ แพลตฟอร์มประมวลผลอนุมานของ Baseten จัดการการกำหนดเส้นทาง การแปลงระหว่างโปรโตคอลของโมเดลกับฮาร์เนส การแคช การปรับขนาด และการเพิ่มประสิทธิภาพ เมื่อ Baseten เป็นผู้ให้บริการโมเดลที่เลือก เซสชันเอเจนต์แบบหลายรอบที่ต่อเนื่องยาวนานสามารถกำหนดให้ใช้แคชคีย์-แวลูที่เตรียมไว้ล่วงหน้าเพื่อลดต้นทุนได้ นอกจากนี้ ทีมวิจัยประสิทธิภาพโมเดล ทีมฝึกฝนเพิ่มเติมหลังการฝึก และทีมโครงสร้างพื้นฐานของบริษัทยังทำงานเกี่ยวกับเคอร์เนลแบบกำหนดเอง การถอดรหัสแบบคาดการณ์ล่วงหน้า และการประเมินที่โมเดลทุกตัวต้องผ่านก่อนนำออกใช้งาน

นอกเหนือจากช่วงทดลองใช้ Baseten วางแผนรองรับการมอบหมายงานที่ใช้เวลานานให้เอเจนต์ซึ่งโฮสต์บนคลาวด์ทำ และการประสานงานเอเจนต์หลายตัวเพื่อจัดการงานซับซ้อน นอกจากนี้ยังมีแผนปรับการกำหนดเส้นทางให้เหมาะกับข้อมูลและกรณีใช้งานของลูกค้า เพิ่มสัญญาณด้านความปลอดภัยให้ละเอียดขึ้น และรองรับมาตรการป้องกันที่ลูกค้ากำหนดเอง

ดังนั้น เกณฑ์ทางเศรษฐกิจที่แท้จริงคือค่าใช้จ่ายในการทำงานให้เสร็จโดยได้คุณภาพตามที่ต้องการ ซึ่งราคาต่อโทเค็นเป็นเพียงปัจจัยหนึ่งเท่านั้น เนื่องจากเงินที่ประหยัดได้ตามรายงานขึ้นอยู่กับลักษณะภาระงาน และความสามารถหลายอย่างด้านการจัดการเอเจนต์ยังอยู่ในแผน ช่วงทดลองใช้จึงยังไม่แสดงให้เห็นว่าผลการทดสอบดังกล่าวจะถ่ายทอดไปสู่งานเขียนโค้ดจริงในระบบใช้งานจริงได้อย่างสม่ำเสมอเพียงใด