โมเดลและแพลตฟอร์ม AI
vCluster เพิ่มคลาวด์ส่วนตัวแบบบริการตนเองสำหรับฮาร์ดแวร์ AI โดยเฉพาะ
vCluster Platform v5.0 มอบสิทธิ์ให้ลูกค้าคลาวด์ AI เข้าถึงเซิร์ฟเวอร์เฉพาะและสภาพแวดล้อม Kubernetes, Slurm และการอนุมานที่ผู้ให้บริการอนุมัติได้ด้วยตนเอง
ประเด็นสำคัญvCluster Platform v5.0 ช่วยให้ลูกค้าสามารถจัดเตรียมเซิร์ฟเวอร์ GPU แบบ bare-metal…
ดูเพิ่มเติม
- vCluster Platform v5.0 ช่วยให้ลูกค้าสามารถจัดเตรียมเซิร์ฟเวอร์ GPU แบบ bare-metal ได้โดยไม่ต้องให้เจ้าหน้าที่ของผู้ให้บริการจัดการแต่ละคำขอ
- ผู้ให้บริการควบคุมว่าแต่ละผู้เช่าสามารถเข้าถึงประเภทเครื่องและเทมเพลตใดได้ ขณะที่ลูกค้าบริการตนเองได้ภายในโควตา
- ความพร้อมใช้งานแบบจำกัดหมายความว่าผู้ปฏิบัติงานยังต้องตรวจสอบความเข้ากันได้และวัดว่าภาระการสนับสนุนลดลงจริงหรือไม่
vCluster Labs เปิดให้ใช้งาน vCluster Platform v5.0 แบบจำกัด โดยมอบวิธีให้ผู้ให้บริการคลาวด์ AI เสนอสภาพแวดล้อมแบบบริการตนเองบนเซิร์ฟเวอร์จริงโดยเฉพาะ ลูกค้าสามารถจัดเตรียมเครื่องจากทรัพยากรที่ได้รับจัดสรร เลือกอิมเมจระบบปฏิบัติการ และเปิดใช้งานคลัสเตอร์ Kubernetes, Slurm หรือคลัสเตอร์สำหรับการอนุมานได้ โดยไม่ต้องขอให้ผู้ให้บริการดำเนินการให้ทุกครั้ง
การเปิดตัวเมื่อวันที่ 19 พฤศจิกายนนี้ช่วยแก้ปัญหาในทางปฏิบัติให้ผู้ให้บริการที่ตกลงจัดหาทรัพยากรเซิร์ฟเวอร์แบบ Bare Metal ไว้แล้ว ลูกค้าอาจเช่าเซิร์ฟเวอร์ GPU จำนวนหนึ่ง แต่ยังต้องพึ่งทีมปฏิบัติการของผู้ให้บริการเพื่อเตรียมเครื่องสำหรับโครงการใหม่ แพลตฟอร์มใหม่นี้มอบอำนาจตัดสินใจบางส่วนให้ลูกค้า ขณะที่ผู้ให้บริการยังคงเป็นเจ้าของฮาร์ดแวร์และจัดสรรทรัพยากร
รวมเครื่องจริงไว้ในคลังเดียว
การเปิดตัวครั้งนี้นำเซิร์ฟเวอร์จริงเข้ามาอยู่ในคลังทรัพยากรที่ vMetal ซึ่งเป็นองค์ประกอบสำหรับจัดเตรียมทรัพยากรเบื้องหลังแพลตฟอร์มดูแลอยู่ ผู้ให้บริการจะจัดสรรทรัพยากรให้ลูกค้า หรือเปิดให้เรียกใช้ตามต้องการ จากนั้นจึงกำหนดประเภทเครื่อง อิมเมจ และเทมเพลตคลัสเตอร์ที่ลูกค้าแต่ละรายใช้ได้ แพลตฟอร์มเพิ่มขอบเขตแยกสำหรับลูกค้าโดยเฉพาะ ซึ่งเรียกว่าเทนแนนต์ และอยู่เหนือโครงการแต่ละโครงการ โควตาจะจำกัดปริมาณทรัพยากรที่ลูกค้าขอใช้ได้ และลูกค้าจะไม่เห็นทรัพยากรในคลังที่ตนไม่ได้รับจัดสรร
สำหรับทีมแพลตฟอร์มของลูกค้า นั่นหมายความว่าหลายกลุ่มภายในองค์กรสามารถใช้ทรัพยากรจากสัญญาเดียวกันได้ โดยไม่ต้องให้แต่ละกลุ่มขอการจัดสรรใหม่จากผู้ให้บริการ กลุ่มวิจัยอาจตั้งค่าสภาพแวดล้อม Slurm สำหรับจัดตารางงาน ขณะที่ทีมแอปพลิเคชันใช้ Kubernetes เพื่อนำระบบอนุมานขึ้นใช้งาน ผู้ให้บริการเป็นผู้กำหนดว่ารองรับการตั้งค่าแบบใดบ้าง ส่วนลูกค้าสามารถเลือกจากตัวเลือกเหล่านั้นได้ ดังนั้น ระดับการควบคุมที่ลูกค้ามีจึงขึ้นอยู่กับสิ่งที่รวมอยู่ในการจัดสรรทรัพยากร และเทมเพลตที่ผู้ให้บริการเปิดให้ใช้
บริษัทระบุว่าผู้ให้บริการสามารถใช้คอนโซลของบริษัท หรือสร้างพอร์ทัลภายใต้แบรนด์ของตนเองโดยใช้ API พื้นฐานเดียวกันได้ ความแตกต่างนี้สำคัญต่อผู้ให้บริการที่ขายโครงสร้างพื้นฐานภายใต้แบรนด์ของตนเอง เพราะสามารถปรับเปลี่ยนหน้าตาส่วนติดต่อได้ โดยไม่ต้องสร้างระบบคลังทรัพยากรและระบบจัดเตรียมทรัพยากรแยกสำหรับบริการแต่ละประเภท
ฮาร์ดแวร์เฉพาะพร้อมการจัดเตรียมทรัพยากรแบบคลาวด์
เซิร์ฟเวอร์แบบ Bare Metal ให้เข้าถึงเซิร์ฟเวอร์จริง แทนการใช้เครื่องเสมือนที่ต้องแบ่งปันโฮสต์กับลูกค้ารายอื่น ซึ่งอาจดึงดูดใจผู้ซื้อที่ต้องการชุดฮาร์ดแวร์ที่กำหนดไว้ชัดเจน ทรัพยากรตัวเร่งประมวลผลเฉพาะ หรือการควบคุมสภาพแวดล้อมซอฟต์แวร์ แต่การจองเครื่องจริงเพียงอย่างเดียวไม่ได้ทำให้เกิดบริการคลาวด์ที่พร้อมใช้งาน ยังต้องมีผู้ติดตั้งระบบปฏิบัติการ กำหนดค่าการเข้าถึง และเตรียมคลัสเตอร์
แนวทางของ vCluster ผสานเครื่องเฉพาะและเครือข่ายแยกสำหรับลูกค้าแต่ละรายเข้ากับการจัดเตรียมทรัพยากรด้วยตนเอง ผู้ให้บริการอาจใช้คลังทรัพยากรเดียวกันสำหรับทั้งบริการเช่าเซิร์ฟเวอร์แบบเรียบง่ายและผลิตภัณฑ์ที่มีการจัดการมากกว่า เหตุผลทางธุรกิจคือ การลดจำนวนขั้นตอนที่เจ้าหน้าที่ของผู้ให้บริการต้องดำเนินการอาจช่วยให้เริ่มให้บริการลูกค้าแต่ละรายได้ง่ายขึ้น ขณะที่ผู้ซื้อซึ่งต้องการคลัสเตอร์ที่มีผู้ดูแลก็สามารถซื้อบริการในระดับที่ต่างออกไปได้ การเปิดตัวครั้งนี้ไม่ได้ระบุว่าฝ่ายใดจะประหยัดได้มากน้อยเพียงใด และความคุ้มค่าทางเศรษฐกิจจะขึ้นอยู่กับระดับการใช้งานฮาร์ดแวร์และบริการสนับสนุนที่ลูกค้าต้องการ
การจัดการฮาร์ดแวร์ที่ไม่มีการใช้งานระหว่างโครงการก็เป็นเรื่องสำคัญเช่นกัน การจองทรัพยากรช่วยให้ผู้ซื้อคาดการณ์ได้ แต่เครื่องเหล่านั้นอาจยังไม่พร้อมให้ลูกค้ารายอื่นใช้ แม้จะว่างอยู่ก็ตาม การจัดสรรทรัพยากรตามความต้องการช่วยเพิ่มความยืดหยุ่นได้ แต่จะทำได้ก็ต่อเมื่อผู้ให้บริการตอบสนองความต้องการได้อย่างน่าเชื่อถือ แพลตฟอร์มช่วยให้ผู้ให้บริการเสนอได้ทั้งสองรูปแบบ แต่ไม่ได้ทำให้ไม่จำเป็นต้องกำหนดเงื่อนไขการจองหรือวางแผนรับมือกับการขาดแคลน
การเปิดให้ใช้งานแบบจำกัดมีความหมายอย่างไรต่อผู้ให้บริการ
เวอร์ชัน 5.0 ยังไม่ได้เปิดให้ใช้งานทั่วไป เอกสารของผู้จำหน่ายแนะนำให้คงรุ่นที่มีการสนับสนุนระยะยาวซึ่งใช้อยู่ในปัจจุบัน ได้แก่ Platform v4.12 และ vCluster v0.37 สำหรับการติดตั้งใช้งานที่มีอยู่ ผู้ให้บริการที่กำลังพิจารณาเวอร์ชันใหม่ยังต้องประเมินความเข้ากันได้กับเครื่องมือจัดเตรียมทรัพยากรและเครื่องมือเครือข่ายของตน รวมถึงตรวจสอบว่าลูกค้าสามารถเปลี่ยนจากการจัดสรรเครื่องไปเป็นคลัสเตอร์ที่พร้อมใช้งานได้โดยไม่เกิดคอขวดใหม่ในการรับการสนับสนุนหรือไม่
สิ่งที่ต้องทดสอบในทันทีคือการดำเนินงาน: ผู้ให้บริการสามารถส่งมอบโครงสร้างพื้นฐานที่ใช้งานได้หลังจัดสรรฮาร์ดแวร์เร็วเพียงใด และหลังจากนั้นลูกค้าต้องขอความช่วยเหลือบ่อยแค่ไหน หากตัวชี้วัดเหล่านี้ดีขึ้นโดยไม่ทำให้การจัดการทรัพยากรเฉพาะทำได้ยากขึ้น บริการตนเองก็อาจกลายเป็นจุดแตกต่างสำคัญระหว่างผู้ให้บริการคลาวด์ AI ที่ขายฮาร์ดแวร์คล้ายกัน












