โมเดลและแพลตฟอร์ม AI

vCluster เพิ่มคลาวด์ส่วนตัวแบบบริการตนเองสำหรับฮาร์ดแวร์ AI โดยเฉพาะ

vCluster Platform v5.0 มอบสิทธิ์ให้ลูกค้าคลาวด์ AI เข้าถึงเซิร์ฟเวอร์เฉพาะและสภาพแวดล้อม Kubernetes, Slurm และการอนุมานที่ผู้ให้บริการอนุมัติได้ด้วยตนเอง

Theo Nash
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
Rows of dedicated GPU server racks inside an AI data center
ประเด็นสำคัญvCluster Platform v5.0 ช่วยให้ลูกค้าสามารถจัดเตรียมเซิร์ฟเวอร์ GPU แบบ bare-metal…
ดูเพิ่มเติม
  • vCluster Platform v5.0 ช่วยให้ลูกค้าสามารถจัดเตรียมเซิร์ฟเวอร์ GPU แบบ bare-metal ได้โดยไม่ต้องให้เจ้าหน้าที่ของผู้ให้บริการจัดการแต่ละคำขอ
  • ผู้ให้บริการควบคุมว่าแต่ละผู้เช่าสามารถเข้าถึงประเภทเครื่องและเทมเพลตใดได้ ขณะที่ลูกค้าบริการตนเองได้ภายในโควตา
  • ความพร้อมใช้งานแบบจำกัดหมายความว่าผู้ปฏิบัติงานยังต้องตรวจสอบความเข้ากันได้และวัดว่าภาระการสนับสนุนลดลงจริงหรือไม่

vCluster Labs เปิดให้ใช้งาน vCluster Platform v5.0 แบบจำกัด โดยมอบวิธีให้ผู้ให้บริการคลาวด์ AI เสนอสภาพแวดล้อมแบบบริการตนเองบนเซิร์ฟเวอร์จริงโดยเฉพาะ ลูกค้าสามารถจัดเตรียมเครื่องจากทรัพยากรที่ได้รับจัดสรร เลือกอิมเมจระบบปฏิบัติการ และเปิดใช้งานคลัสเตอร์ Kubernetes, Slurm หรือคลัสเตอร์สำหรับการอนุมานได้ โดยไม่ต้องขอให้ผู้ให้บริการดำเนินการให้ทุกครั้ง

การเปิดตัวเมื่อวันที่ 19 พฤศจิกายนนี้ช่วยแก้ปัญหาในทางปฏิบัติให้ผู้ให้บริการที่ตกลงจัดหาทรัพยากรเซิร์ฟเวอร์แบบ Bare Metal ไว้แล้ว ลูกค้าอาจเช่าเซิร์ฟเวอร์ GPU จำนวนหนึ่ง แต่ยังต้องพึ่งทีมปฏิบัติการของผู้ให้บริการเพื่อเตรียมเครื่องสำหรับโครงการใหม่ แพลตฟอร์มใหม่นี้มอบอำนาจตัดสินใจบางส่วนให้ลูกค้า ขณะที่ผู้ให้บริการยังคงเป็นเจ้าของฮาร์ดแวร์และจัดสรรทรัพยากร

รวมเครื่องจริงไว้ในคลังเดียว

การเปิดตัวครั้งนี้นำเซิร์ฟเวอร์จริงเข้ามาอยู่ในคลังทรัพยากรที่ vMetal ซึ่งเป็นองค์ประกอบสำหรับจัดเตรียมทรัพยากรเบื้องหลังแพลตฟอร์มดูแลอยู่ ผู้ให้บริการจะจัดสรรทรัพยากรให้ลูกค้า หรือเปิดให้เรียกใช้ตามต้องการ จากนั้นจึงกำหนดประเภทเครื่อง อิมเมจ และเทมเพลตคลัสเตอร์ที่ลูกค้าแต่ละรายใช้ได้ แพลตฟอร์มเพิ่มขอบเขตแยกสำหรับลูกค้าโดยเฉพาะ ซึ่งเรียกว่าเทนแนนต์ และอยู่เหนือโครงการแต่ละโครงการ โควตาจะจำกัดปริมาณทรัพยากรที่ลูกค้าขอใช้ได้ และลูกค้าจะไม่เห็นทรัพยากรในคลังที่ตนไม่ได้รับจัดสรร

สำหรับทีมแพลตฟอร์มของลูกค้า นั่นหมายความว่าหลายกลุ่มภายในองค์กรสามารถใช้ทรัพยากรจากสัญญาเดียวกันได้ โดยไม่ต้องให้แต่ละกลุ่มขอการจัดสรรใหม่จากผู้ให้บริการ กลุ่มวิจัยอาจตั้งค่าสภาพแวดล้อม Slurm สำหรับจัดตารางงาน ขณะที่ทีมแอปพลิเคชันใช้ Kubernetes เพื่อนำระบบอนุมานขึ้นใช้งาน ผู้ให้บริการเป็นผู้กำหนดว่ารองรับการตั้งค่าแบบใดบ้าง ส่วนลูกค้าสามารถเลือกจากตัวเลือกเหล่านั้นได้ ดังนั้น ระดับการควบคุมที่ลูกค้ามีจึงขึ้นอยู่กับสิ่งที่รวมอยู่ในการจัดสรรทรัพยากร และเทมเพลตที่ผู้ให้บริการเปิดให้ใช้

บริษัทระบุว่าผู้ให้บริการสามารถใช้คอนโซลของบริษัท หรือสร้างพอร์ทัลภายใต้แบรนด์ของตนเองโดยใช้ API พื้นฐานเดียวกันได้ ความแตกต่างนี้สำคัญต่อผู้ให้บริการที่ขายโครงสร้างพื้นฐานภายใต้แบรนด์ของตนเอง เพราะสามารถปรับเปลี่ยนหน้าตาส่วนติดต่อได้ โดยไม่ต้องสร้างระบบคลังทรัพยากรและระบบจัดเตรียมทรัพยากรแยกสำหรับบริการแต่ละประเภท

ฮาร์ดแวร์เฉพาะพร้อมการจัดเตรียมทรัพยากรแบบคลาวด์

เซิร์ฟเวอร์แบบ Bare Metal ให้เข้าถึงเซิร์ฟเวอร์จริง แทนการใช้เครื่องเสมือนที่ต้องแบ่งปันโฮสต์กับลูกค้ารายอื่น ซึ่งอาจดึงดูดใจผู้ซื้อที่ต้องการชุดฮาร์ดแวร์ที่กำหนดไว้ชัดเจน ทรัพยากรตัวเร่งประมวลผลเฉพาะ หรือการควบคุมสภาพแวดล้อมซอฟต์แวร์ แต่การจองเครื่องจริงเพียงอย่างเดียวไม่ได้ทำให้เกิดบริการคลาวด์ที่พร้อมใช้งาน ยังต้องมีผู้ติดตั้งระบบปฏิบัติการ กำหนดค่าการเข้าถึง และเตรียมคลัสเตอร์

แนวทางของ vCluster ผสานเครื่องเฉพาะและเครือข่ายแยกสำหรับลูกค้าแต่ละรายเข้ากับการจัดเตรียมทรัพยากรด้วยตนเอง ผู้ให้บริการอาจใช้คลังทรัพยากรเดียวกันสำหรับทั้งบริการเช่าเซิร์ฟเวอร์แบบเรียบง่ายและผลิตภัณฑ์ที่มีการจัดการมากกว่า เหตุผลทางธุรกิจคือ การลดจำนวนขั้นตอนที่เจ้าหน้าที่ของผู้ให้บริการต้องดำเนินการอาจช่วยให้เริ่มให้บริการลูกค้าแต่ละรายได้ง่ายขึ้น ขณะที่ผู้ซื้อซึ่งต้องการคลัสเตอร์ที่มีผู้ดูแลก็สามารถซื้อบริการในระดับที่ต่างออกไปได้ การเปิดตัวครั้งนี้ไม่ได้ระบุว่าฝ่ายใดจะประหยัดได้มากน้อยเพียงใด และความคุ้มค่าทางเศรษฐกิจจะขึ้นอยู่กับระดับการใช้งานฮาร์ดแวร์และบริการสนับสนุนที่ลูกค้าต้องการ

การจัดการฮาร์ดแวร์ที่ไม่มีการใช้งานระหว่างโครงการก็เป็นเรื่องสำคัญเช่นกัน การจองทรัพยากรช่วยให้ผู้ซื้อคาดการณ์ได้ แต่เครื่องเหล่านั้นอาจยังไม่พร้อมให้ลูกค้ารายอื่นใช้ แม้จะว่างอยู่ก็ตาม การจัดสรรทรัพยากรตามความต้องการช่วยเพิ่มความยืดหยุ่นได้ แต่จะทำได้ก็ต่อเมื่อผู้ให้บริการตอบสนองความต้องการได้อย่างน่าเชื่อถือ แพลตฟอร์มช่วยให้ผู้ให้บริการเสนอได้ทั้งสองรูปแบบ แต่ไม่ได้ทำให้ไม่จำเป็นต้องกำหนดเงื่อนไขการจองหรือวางแผนรับมือกับการขาดแคลน

การเปิดให้ใช้งานแบบจำกัดมีความหมายอย่างไรต่อผู้ให้บริการ

เวอร์ชัน 5.0 ยังไม่ได้เปิดให้ใช้งานทั่วไป เอกสารของผู้จำหน่ายแนะนำให้คงรุ่นที่มีการสนับสนุนระยะยาวซึ่งใช้อยู่ในปัจจุบัน ได้แก่ Platform v4.12 และ vCluster v0.37 สำหรับการติดตั้งใช้งานที่มีอยู่ ผู้ให้บริการที่กำลังพิจารณาเวอร์ชันใหม่ยังต้องประเมินความเข้ากันได้กับเครื่องมือจัดเตรียมทรัพยากรและเครื่องมือเครือข่ายของตน รวมถึงตรวจสอบว่าลูกค้าสามารถเปลี่ยนจากการจัดสรรเครื่องไปเป็นคลัสเตอร์ที่พร้อมใช้งานได้โดยไม่เกิดคอขวดใหม่ในการรับการสนับสนุนหรือไม่

สิ่งที่ต้องทดสอบในทันทีคือการดำเนินงาน: ผู้ให้บริการสามารถส่งมอบโครงสร้างพื้นฐานที่ใช้งานได้หลังจัดสรรฮาร์ดแวร์เร็วเพียงใด และหลังจากนั้นลูกค้าต้องขอความช่วยเหลือบ่อยแค่ไหน หากตัวชี้วัดเหล่านี้ดีขึ้นโดยไม่ทำให้การจัดการทรัพยากรเฉพาะทำได้ยากขึ้น บริการตนเองก็อาจกลายเป็นจุดแตกต่างสำคัญระหว่างผู้ให้บริการคลาวด์ AI ที่ขายฮาร์ดแวร์คล้ายกัน

Theo Nash เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมโครงสร้างพื้นฐาน AI, การคำนวณ, และระบบฮาร์ดแวร์ที่ขับเคลื่อนปัญญาประดิษฐ์สมัยใหม่ งานของเขามุ่งเน้นที่พื้นฐานทางเทคนิคเบื้องหลังภาระงาน AI ขนาดใหญ่ รวมถึงศูนย์ข้อมูล, ตัวเร่งความเร็ว, เครือข่าย, และสแตกซอฟต์แวร์ที่เชื่อมโยงพวกมันเข้าด้วยกัน.

ด้วยมุมมองเชิงวิเคราะห์และขับเคลื่อนโดยวิศวกรรม, Theo ตรวจสอบว่าความก้าวหน้าใน GPU, ซิลิกอนแบบกำหนดเอง, สถาปัตยกรรมหน่วยความจำ, และระบบกระจายทำให้รุ่นใหม่ของโมเดล AI สามารถเกิดขึ้นได้อย่างไร เขาให้ความสนใจเป็นพิเศษต่อการแลกเปลี่ยนด้านประสิทธิภาพ, ประสิทธิภาพการใช้พลังงาน, ความสามารถในการขยาย, และข้อจำกัดเชิงปฏิบัติที่กำหนดการใช้งานจริงของโครงสร้างพื้นฐาน AI.

บทความที่เขียนโดย Theo Nash สร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อรับประกันความแม่นยำทางเทคนิค, ความชัดเจน, และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์การคำนวณ AI ที่กำลังพัฒนาอย่างรวดเร็ว