ความร่วมมือ

Baseten นำโมเดลเปิด 4 รุ่นเข้าสู่ช่วงพรีวิวของ Microsoft Foundry

Theo Nash
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญโครงสร้างพื้นฐานการอนุมานของ Baseten เข้าสู่การพรีวิว Microsoft Foundry…
ดูเพิ่มเติม
  • โครงสร้างพื้นฐานการอนุมานของ Baseten เข้าสู่การพรีวิว Microsoft Foundry ในฐานะบริการของบุคคลที่หนึ่งซึ่งขับเคลื่อนโมเดลเปิดสี่โมเดล
  • ผู้ดูแลระบบต้องเลือกเข้าร่วมก่อนที่องค์กรของตนจะสามารถเข้าถึงโมเดลที่อยู่ในพรีวิวผ่าน Foundry ได้
  • Baseten คาดว่าจะพร้อมให้บริการทั่วไปในช่วงต้นปี 2027 และวางแผนที่จะเพิ่มโมเดลเปิดใหม่ในวันเปิดตัว

Baseten ประกาศเมื่อวันที่ 17 พฤศจิกายน 2026 ว่าโครงสร้างพื้นฐานสำหรับการอนุมานของบริษัทเปิดให้ใช้งานในช่วงพรีวิวสาธารณะผ่าน Microsoft Foundry โดยในระยะแรกจะรองรับโมเดลเปิด 4 รุ่นสำหรับลูกค้า Azure ในฐานะบริการของ Microsoft โดยตรง

โมเดลที่เปิดตัวประกอบด้วย DeepSeek V4.1 Flash, GLM-5.3, GLM-5.3 Flash และ Kimi K3 โมเดลเหล่านี้อยู่ในแค็ตตาล็อกของ Foundry ร่วมกับระบบเปิดและระบบปิดอื่น ๆ ภายใต้การควบคุมระดับองค์กรชุดเดียวกันและข้อตกลง Microsoft ที่ลูกค้ามีอยู่แล้ว ลูกค้า Foundry ทุกคนสามารถใช้พรีวิวนี้ได้ แต่ผู้ดูแลระบบต้องเลือกเข้าร่วมในนามองค์กรของตน ประกาศระบุว่าโมเดลรุ่นใหม่เหล่านี้นำไปใช้ได้กับเอเจนต์เขียนโค้ด เวิร์กโฟลว์งานวิจัย และแอปพลิเคชันบริการลูกค้า

ตัวเลือกการติดตั้งใช้งานและ API ที่เข้ากันได้กับ OpenAI

Basetenนำเสนอการผสานรวมนี้ในฐานะช่องทางสำหรับประเมินและนำโมเดลเปิดไปใช้ โดยไม่ต้องจัดหากำลังประมวลผล GPU หรือดูแลรันไทม์ของโมเดล บริษัทจัดการโครงสร้างพื้นฐานสำหรับให้บริการโมเดล ส่วนผู้พัฒนาสามารถเลือกระหว่างการติดตั้งใช้งานแบบ Standard และ Provisioned โดยบริษัทระบุว่าการติดตั้งใช้งานทั้งสองแบบพร้อมใช้งานภายในไม่กี่วินาที

การติดตั้งใช้งานแบบ Global Standard และ Data Zone Standard ในสหรัฐฯ คิดค่าบริการตามจำนวนโทเค็น ส่วนการติดตั้งใช้งานแบบ Global Provisioned และ Data Zone Provisioned ในสหรัฐฯ ใช้หน่วยปริมาณงานที่จัดสรรไว้ล่วงหน้า (PTU) ซึ่งเป็นการสำรองความจุและให้ปริมาณงานที่คาดการณ์ได้

ระบบให้บริการโมเดลผ่าน Chat Completions API และ Responses API Baseten ระบุว่าการรองรับ API เหล่านี้ช่วยให้โค้ดและเวิร์กโฟลว์เอเจนต์ที่เข้ากันได้กับ OpenAI ซึ่งใช้อยู่แล้วสามารถนำมาใช้ต่อได้โดยแทบไม่ต้องแก้ไข จึงลดงานผสานรวมที่จำเป็นต่อการทดสอบโมเดลใหม่ในแค็ตตาล็อก

ความปลอดภัย การเรียกเก็บเงิน และโครงสร้างพื้นฐาน

บริการนี้ใช้การวิจัยด้านประสิทธิภาพและโครงสร้างพื้นฐานสำหรับการอนุมานชุดเดียวกับที่อยู่เบื้องหลัง API โมเดลของ Baseten ส่วน Foundry มอบกรอบการทำงานของ Azure สำหรับความปลอดภัย การตรวจสอบและติดตามระบบ และการเรียกเก็บเงิน Baseten ระบุว่าโมเดลทุกตัวได้รับการปรับแต่งในด้านการกำหนดเส้นทาง การจัดชุดคำขอ การแคช และเคอร์เนล อีกทั้งโครงสร้างพื้นฐานยังออกแบบมาให้มีเวลาพร้อมใช้งาน 99.9%

คำขอไม่เก็บสถานะ และ Baseten ไม่จัดเก็บทั้งพรอมป์ต์และคำตอบ ตัวเลือกการยืนยันตัวตนผ่าน Foundry มีทั้ง Microsoft Entra ID และการเข้าถึงด้วยคีย์ ส่วน Azure Policy มีระบบควบคุมการเข้าถึงแยกตามโมเดล

การใช้งานจะเรียกเก็บเงินผ่าน Azure ในฐานะการใช้บริการ Foundry โดยตรง Baseten ระบุว่าค่าใช้จ่ายดังกล่าว 100% นับรวมใน Microsoft Azure Consumption Commitment (MACC) ของลูกค้า ทำให้การใช้โมเดลเชื่อมโยงโดยตรงกับข้อตกลงการใช้จ่าย Azure ที่มีอยู่แล้ว

Steve Sweetman รองประธานฝ่ายผลิตภัณฑ์ของ Microsoft Foundry กล่าวว่า “การนำ Baseten มาไว้บน Microsoft Foundry ช่วยให้องค์กรมีทางเลือกมากขึ้น และผสานการอนุมานที่ผ่านการปรับแต่งและมีความน่าเชื่อถือของ Baseten เข้ากับการกำกับดูแล การควบคุม และการตรวจสอบติดตามภายในแพลตฟอร์ม Foundry เพื่อให้นักพัฒนาสามารถเปลี่ยนแนวคิดที่ทะเยอทะยานที่สุดให้เป็นแอปพลิเคชันที่ใช้งานจริงได้”

แผนงานช่วงพรีวิว

พรีวิวสาธารณะเป็นระยะแรก Baseten คาดว่าจะเปิดให้บริการทั่วไปในช่วงต้นปี 2027 และมีแผนเพิ่มโมเดลเปิดอย่างต่อเนื่องเมื่อมีการเปิดตัว รวมถึงนำระบบใหม่มาให้ใช้งานในวันเปิดตัวด้วย

สำหรับทีม Azure การเปลี่ยนแปลงที่เกิดขึ้นทันทีคือด้านการปฏิบัติงาน โดยสามารถประเมินโมเดลเปิดผ่านแค็ตตาล็อก การควบคุม และระบบเรียกเก็บเงินของ Foundry ได้ โดยไม่ต้องสร้างสภาพแวดล้อมสำหรับให้บริการโมเดลบน GPU เอง พรีวิวนี้จึงเป็นการทดสอบในทางปฏิบัติว่าโครงสร้างพื้นฐานและการจัดซื้อที่ผสานรวมกันจะช่วยให้องค์กรด้าน AI เปลี่ยนจากการประเมินโมเดลไปสู่การใช้งานจริงได้ง่ายขึ้นหรือไม่

Theo Nash เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมโครงสร้างพื้นฐาน AI, การคำนวณ, และระบบฮาร์ดแวร์ที่ขับเคลื่อนปัญญาประดิษฐ์สมัยใหม่ งานของเขามุ่งเน้นที่พื้นฐานทางเทคนิคเบื้องหลังภาระงาน AI ขนาดใหญ่ รวมถึงศูนย์ข้อมูล, ตัวเร่งความเร็ว, เครือข่าย, และสแตกซอฟต์แวร์ที่เชื่อมโยงพวกมันเข้าด้วยกัน.

ด้วยมุมมองเชิงวิเคราะห์และขับเคลื่อนโดยวิศวกรรม, Theo ตรวจสอบว่าความก้าวหน้าใน GPU, ซิลิกอนแบบกำหนดเอง, สถาปัตยกรรมหน่วยความจำ, และระบบกระจายทำให้รุ่นใหม่ของโมเดล AI สามารถเกิดขึ้นได้อย่างไร เขาให้ความสนใจเป็นพิเศษต่อการแลกเปลี่ยนด้านประสิทธิภาพ, ประสิทธิภาพการใช้พลังงาน, ความสามารถในการขยาย, และข้อจำกัดเชิงปฏิบัติที่กำหนดการใช้งานจริงของโครงสร้างพื้นฐาน AI.

บทความที่เขียนโดย Theo Nash สร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำทางเทคนิค, ความชัดเจน, และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์การคำนวณ AI ที่กำลังพัฒนาอย่างรวดเร็ว