เดวิด ดริกเกอส์ ซีทีโอของ Cirrascale – ซีรีส์สัมภาษณ์

เดวิด ดริกเกอส์ เป็น Chief Technology Officer ของ Cirrascale Cloud Services ซึ่งเป็นผู้ให้บริการชั้นนำด้านโครงสร้างพื้นฐานการเรียนรู้ลึก Guided โดยค่านิยมของความซื่อสัตย์ ความคล่องตัว และการมุ่งเน้นลูกค้า Cirrascale นำเสนอโซลูชัน Infrastructure-as-a-Service (IaaS) ที่เป็นนวัตกรรมและเป็น基于คลาวด์ โดยการร่วมมือกับผู้นำในระบบนิเวศ AI เช่น Red Hat และ WekaIO Cirrascale ให้การเข้าถึงเครื่องมือที่ทันสมัยอย่างไม่มีข้อจำกัด ทำให้ลูกค้าสามารถขับเคลื่อนความก้าวหน้าในการเรียนรู้ลึกได้พร้อมทั้งรักษาค่าใช้จ่ายที่คาดการณ์ได้

Cirrascale เป็นผู้ให้บริการ GPUaaS เพียงรายเดียวที่ร่วมมือกับบริษัท半导体ขนาดใหญ่ เช่น NVIDIA (NVDA ), AMD, Cerebras (CBRS ) และ Qualcomm สิ่งนี้ทำให้ลูกค้าได้รับประโยชน์อย่างไรในด้านประสิทธิภาพและความสามารถในการปรับขนาด?

เมื่ออุตสาหกรรมพัฒนาไปจากการฝึกอบรมแบบจำลองไปสู่การนำแบบจำลองไปใช้ (Inferencing) ไม่มีวิธีแก้ปัญหาแบบ “หนึ่งขนาดที่เหมาะกับทุกคน” ขึ้นอยู่กับขนาดและความต้องการด้านความล่าช้าของแบบจำลอง ตัวเร่งความเร็วที่แตกต่างกันสามารถให้คุณค่าที่แตกต่างกันซึ่งอาจมีความสำคัญได้ เช่น เวลาในการตอบสนอง ค่าใช้จ่ายต่อโทเค็น หรือประสิทธิภาพต่อวัตต์ สามารถส่งผลกระทบต่อค่าใช้จ่ายและประสบการณ์ของผู้ใช้ เนื่องจาก Inferencing เป็นการผลิต สิ่งเหล่านี้จึงมีความสำคัญ

อะไรคือสิ่งที่ทำให้ AI Innovation Cloud ของ Cirrascale แตกต่างจากผู้ให้บริการ GPUaaS อื่น ๆ ในการสนับสนุนการทำงาน AI และการเรียนรู้ลึก?

AI Innovation Cloud ของ Cirrascale ช่วยให้ผู้ใช้สามารถทดลองใช้เทคโนโลยีใหม่ ๆ ในลักษณะที่ปลอดภัย มีการช่วยเหลือ และได้รับการสนับสนุนอย่างเต็มที่ ซึ่งไม่มีให้เห็นในคลาวด์อื่น ๆ สิ่งนี้สามารถช่วยไม่เพียงแต่ในการตัดสินใจเกี่ยวกับเทคโนโลยีคลาวด์เท่านั้น แต่ยังช่วยในการซื้อของอุปกรณ์ภายในอีกด้วย

วิธีการของ Cirrascale ในการรับรองการรวมระบบอย่างไม่มีข้อจำกัดสำหรับธุรกิจเริ่มต้นและองค์กรที่มีความต้องการการเร่งความเร็ว AI ที่หลากหลายคืออะไร?

Cirrascale ใช้วิธีการแก้ปัญหาแบบ “โซลูชัน” สำหรับคลาวด์ของเรา ซึ่งหมายความว่าสำหรับทั้งธุรกิจเริ่มต้นและองค์กร เราเสนอบริการที่พร้อมใช้งานทันที ซึ่งรวมถึงทั้ง Dev-Ops และ Infra-Ops แม้ว่าเราจะเรียกว่า “bare-metal” เพื่อแยกความแตกต่างของเราจากบริการที่ใช้ร่วมกันหรือเสมือนจริง แต่ Cirrascale ก็.configure ทุกด้านของบริการ รวมถึงการกำหนดค่าเซิร์ฟเวอร์ การเชื่อมต่อเครือข่าย การจัดเก็บข้อมูล ความปลอดภัย และการเข้าถึงของผู้ใช้ก่อนที่จะส่งมอบบริการให้กับลูกค้า ลูกค้าสามารถเริ่มใช้บริการได้ทันทีโดยไม่ต้องกำหนดค่าทุกอย่างด้วยตนเอง

การนำ AI ไปใช้ในองค์กรต้องเผชิญกับอุปสรรค เช่น คุณภาพของข้อมูล ข้อจำกัดด้านโครงสร้างพื้นฐาน และค่าใช้จ่ายสูง Cirrascale จัดการกับความท้าทายเหล่านี้อย่างไรเพื่อช่วยให้ธุรกิจขยายการนำ AI ไปใช้?

แม้ว่า Cirrascale จะไม่ให้บริการที่เกี่ยวข้องกับคุณภาพของข้อมูล แต่เราก็ร่วมมือกับบริษัทที่สามารถช่วยเหลือเกี่ยวกับปัญหาข้อมูลได้ สำหรับโครงสร้างพื้นฐานและค่าใช้จ่าย Cirrascale สามารถปรับแต่งโซลูชันให้เหมาะสมกับความต้องการเฉพาะของลูกค้า ซึ่งนำไปสู่ประสิทธิภาพและค่าใช้จ่ายที่ดีขึ้นตามความต้องการของลูกค้า

เมื่อ Google (GOOGL ) พัฒนาไปสู่การคำนวณแบบควอนตัม (Willow) และแบบจำลอง AI (Gemini 2.0) คุณคาดการณ์ว่าภูมิทัศน์ของ AI ในองค์กรจะเปลี่ยนแปลงไปอย่างไรในอนาคตอันใกล้นี้?

การคำนวณแบบควอนตัมยังคงอยู่ห่างจากความพร้อมสำหรับการใช้งานจริงสำหรับคนส่วนใหญ่เนื่องจากขาดนักเขียนโปรแกรมและโปรแกรมสำเร็จรูปที่สามารถใช้ประโยชน์จากคุณสมบัติเหล่านี้ได้ Gemini 2.0 และการนำเสนอขนาดใหญ่อื่น ๆ เช่น GPT4 และ Claude จะได้รับการยอมรับจากลูกค้าองค์กร แต่ส่วนใหญ่ของตลาดองค์กรไม่ได้เตรียมพร้อมที่จะเชื่อถือข้อมูลของตนกับบุคคลที่สาม โดยเฉพาะอย่างยิ่งผู้ที่อาจใช้ข้อมูลเหล่านั้นในการฝึกอบรมแบบจำลองของตน

การหาสมดุลที่เหมาะสมระหว่างพลังงาน ราคา และประสิทธิภาพมีความสำคัญอย่างยิ่งในการขยายโซลูชัน AI คุณมีคำแนะนำใดสำหรับบริษัทที่กำลังพยายามหาสมดุลนี้?

ทดสอบ ทดสอบ ทดสอบ มันสำคัญมากสำหรับบริษัทที่จะทดสอบแบบจำลองของตนบนแพลตฟอร์มที่แตกต่างกัน การผลิตแตกต่างจากการพัฒนา ค่าใช้จ่ายมีความสำคัญในการผลิต การฝึกอบรมอาจเป็นเพียงครั้งเดียว แต่การอนุมาน (Inferencing) คือตลอดไป หากสามารถตอบสนองความต้องการด้านประสิทธิภาพได้ในราคาที่ต่ำกว่า การประหยัดเหล่านั้นจะส่งผลกระทบต่อผลกำไรสุทธิและอาจทำให้โซลูชันสามารถใช้งานได้จริง ผู้ใช้ส่วนปลายควรหาคำแนะนำจากบริษัทที่สามารถช่วยเหลือในการทดสอบเหล่านี้ เนื่องจากวิศวกร ML สามารถช่วยในการปรับใช้มากกว่านักวิทยาศาสตร์ข้อมูลที่สร้างแบบจำลอง

Cirrascale ปรับเปลี่ยนโซลูชันของตนอย่างไรเพื่อตอบสนองความต้องการที่เพิ่มขึ้นสำหรับการใช้งาน AI ที่สร้างสรรค์ เช่น LLMs และแบบจำลองการสร้างภาพ?

Cirrascale มีเครื่องเร่งความเร็ว AI ที่หลากหลายที่สุด และด้วยการแพร่กระจายของ LLMs และ GenAI แบบจำลองที่มีขนาดและขอบเขตที่แตกต่างกัน (เช่น สzenario มัลติม็อดัล) และแบบแบตช์หรือแบบเรียลไทม์ จริงๆ แล้วเป็นเรื่องของ “ม้าสำหรับหลักสูตร” (horse for a course)

คุณสามารถให้ตัวอย่างได้หรือไม่ว่า Cirrascale ช่วยให้ธุรกิจ克服อุปสรรคด้านความล่าช้าและโอนย้ายข้อมูลในกระบวนการทำงาน AI ได้อย่างไร?

Cirrascale มีศูนย์ข้อมูลหลายแห่งในหลายภูมิภาคและไม่พิจารณาการเชื่อมต่อเครือข่ายเป็นศูนย์กำไร ซึ่งช่วยให้ผู้ใช้สามารถ “right-size” การเชื่อมต่อที่จำเป็นในการย้ายข้อมูลได้ รวมถึงการใช้หลายแห่งหากความล่าช้าเป็นคุณลักษณะที่สำคัญ นอกจากนี้ โดยการวิเคราะห์งานจริง Cirrascale สามารถช่วยในการสร้างสมดุลระหว่างความล่าช้า ประสิทธิภาพ และค่าใช้จ่ายเพื่อมอบคุณค่าที่ดีที่สุดหลังจากตอบสนองความต้องการด้านประสิทธิภาพ

เทรนด์ใหม่ ๆ ที่คุณตื่นเต้นมากที่สุดในด้านฮาร์ดแวร์หรือโครงสร้างพื้นฐาน AI คืออะไร และ Cirrascale เตรียมพร้อมสำหรับเทรนด์เหล่านี้อย่างไร?

เราตื่นเต้นมากที่สุดเกี่ยวกับโปรเซสเซอร์ที่ถูกสร้างขึ้นโดยเฉพาะสำหรับการอนุมาน (Inferencing) เทียบกับโปรเซสเซอร์ GPU ทั่วไปที่เหมาะสมกับการฝึกอบรม แต่ไม่ได้ถูกปรับให้เหมาะสมสำหรับการใช้งานอนุมาน (Inference) ซึ่งมีข้อกำหนดในการคำนวณที่แตกต่างกันอย่างแท้จริงจากฝึกอบรม

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Cirrascale Cloud Services เพื่อเรียนรู้เพิ่มเติม