เควิน ทับบ์ส, PhD, SVP Strategic Solutions Group ที่ Penguin Computing – สัมภาษณ์ซีรีส์

เควิน ทับบ์ส, PhD, เป็น Senior Vice President of Strategic Solutions Group ที่ Penguin Computing Penguin Computing ออกแบบโซลูชันแบบกำหนดเองที่เป็นกลาง ตั้งแต่ฮาร์ดแวร์ ซอฟต์แวร์ คลาวด์ บริการ เพื่อแก้ปัญหาทางวิทยาศาสตร์ วิเคราะห์ และวิศวกรรมที่ซับซ้อน ที่บริษัท Fortune 500 สตาร์ทอัพ สถาบันการศึกษา และองค์กรรัฐบาลต่างๆ

สิ่งใดที่ดึงดูดคุณเข้าสู่สาขาวิทยาการคอมพิวเตอร์?

พ่อและแม่ของฉันซื้อคอมพิวเตอร์ให้ฉันตั้งแต่ฉันยังเด็ก และฉันมีความสนใจและความสามารถในการใช้คอมพิวเตอร์และการซ่อมแซม ตลอดการเรียนของฉัน ฉันเลื่อนไปสู่สาขาวิทยาศาสตร์ เทคโนโลยี และวิศวกรรม (STEM) และนั่นทำให้ฉันต้องการทำงานในสาขาที่ใช้การประยุกต์ใช้มากขึ้น พื้นหลังของฉันคือฟิสิกส์และการคำนวณประสิทธิภาพสูง (HPC) การมีความรักในการใช้คอมพิวเตอร์ตั้งแต่เนิ่นๆ ทำให้ฉันสามารถรักษาความสนใจในการใช้คอมพิวเตอร์ไว้เหนือสิ่งอื่นใด และนำฉันมาถึงจุดที่ฉันอยู่ในปัจจุบัน

Penguin Computing มีการทำงานอย่างใกล้ชิดกับ Open Compute Project (OCP) – สิ่งนี้คืออะไร?

ตั้งแต่เริ่มต้นของ Open Compute Project (OCP) Penguin Computing ได้รับการยอมรับและสนับสนุนการทำงานร่วมกันเพื่อนำผลประโยชน์ของ OCP มาสู่การคำนวณประสิทธิภาพสูง (HPC) และปัญญาประดิษฐ์ (AI)

จุดมุ่งหมายของ OCP คือการรวมชุมชนนักพัฒนาทั่วโลกเพื่อสร้างระบบโครงสร้างพื้นฐานเทคโนโลยีที่มีประสิทธิภาพ มีความยืดหยุ่น และสามารถปรับขนาดได้ Penguin Computing เข้าร่วม OCP เนื่องจากเทคโนโลยีที่เปิดกว้างและแนวคิดของชุมชน ซึ่งเราได้ทำงานร่วมกันเพื่อให้แน่ใจว่าเทคโนโลยีและแนวโน้มที่เกิดขึ้นใหม่ใน AI และ Analytics สามารถปรับขนาดได้อย่างมีประสิทธิภาพ – Penguin Computing นำสิ่งเหล่านี้เข้าสู่ OCP

หนึ่งในผลประโยชน์ของ OCP คือการลดต้นทุนการเป็นเจ้าของทั้งหมด (TCO) – ค่าใช้จ่ายทุนลดลง เนื่องจากการถอดออกขององค์ประกอบที่ไม่จำเป็น และค่าใช้จ่ายในการดำเนินงานลดลงเนื่องจากการบริการจากด้านหน้า การแบ่งปันพลังงาน และการเปลี่ยนแปลงการออกแบบอื่นๆ – ทำให้เทคโนโลยี OCP เหมาะสำหรับการขยายขนาด

Penguin Computing มีผลิตภัณฑ์ OCP หลายรายการ รวมถึง Penguin Computing Tundra Extreme Scale Platform และ Penguin Computing Tundra AP แพลตฟอร์ม Tundra ยังเข้ากันได้กับ HPC และ AI

Tundra AP ซึ่งเป็นรุ่นล่าสุดของแพลตฟอร์มซูเปอร์คอมพิวเตอร์ที่มีความหนาแน่นสูงของเรา รวมการประมวลผลของ Intel (INTC ) Xeon Scalable 9200 ซีรีส์ โปรเซสเซอร์เข้ากับ Relion XO1122eAP Server ของ Penguin Computing ในรูปแบบ OCP ที่ให้ความหนาแน่นสูงของ CPU คอร์ต่อแร็ค

เมื่อพูดถึงข้อมูลขนาดใหญ่ เพื่อเพิ่มประสิทธิภาพให้สูงสุด ผู้ใช้ต้องลบอุปสรรคที่ชะลอการเข้าถึงข้อมูลของพวกเขา Penguin Computing เข้าใกล้ปัญหานี้อย่างไร?

Penguin Computing ใช้ความสามารถในการใช้เทคโนโลยีที่เปิดกว้างและเคลื่อนไหวอย่างรวดเร็วตามเทรนด์ปัจจุบัน – หนึ่งในเทรนด์เหล่านั้นคือข้อมูลขนาดใหญ่หรือการเติบโตของข้อมูลและเวิร์กโหลดที่ขับเคลื่อนด้วยข้อมูล ในการตอบสนองต่อปัญหานี้ เราได้สร้างกลุ่มโซลูชันเชิงกลยุทธ์เพื่อจัดการกับปัญหานี้โดยตรง

ในการแก้ไขปัญหา เราพบว่าเวิร์กโหลดส่วนใหญ่ แม้แต่จากเทคนิคการคำนวณแบบดั้งเดิม ล้วนได้รับแรงบันดาลใจให้เป็นขับเคลื่อนด้วยข้อมูลมากขึ้น ในผลลัพธ์ Penguin Computing ออกแบบโซลูชันที่สมบูรณ์แบบตั้งแต่ต้นจนจบโดยพยายามเข้าใจเวิร์กโหลดของผู้ใช้ เพื่อสร้างโซลูชันที่เหมาะสมกับเวิร์กโหลด เรามุ่งเน้นไปที่ชั้นซอฟต์แวร์ที่เหมาะสมกับเวิร์กโหลด ซึ่งรวมถึงการกำกับดูแลและการจัดส่งเวิร์กโหลด

ต่อไป เราจะพยายามมุ่งเน้นไปที่โครงสร้างพื้นฐานการคำนวณที่เหมาะสมกับเวิร์กโหลด มีระดับที่แตกต่างกันของข้อมูลและความท้าทาย IO ที่ให้ความกดดันมากที่สุดต่อการคำนวณ ตัวอย่างเช่น เวิร์กโหลดที่แตกต่างกันต้องการการผสมผสานที่แตกต่างกันของโครงสร้างพื้นฐานการคำนวณที่เร่งความเร็วจาก CPU, GPU, ความกว้างของแบนด์วิธหน่วยความจำ และเครือข่ายที่ช่วยให้ข้อมูลไหลผ่านและคำนวณได้

สุดท้าย เราต้องค้นหาวิธีแก้ปัญหาที่จะช่วยให้เราสามารถส่งมอบข้อมูลได้ เราตรวจสอบโครงสร้างพื้นฐานข้อมูลที่เหมาะสมกับเวิร์กโหลดเพื่อทำความเข้าใจว่าเวิร์กโหลดโต้ตอบกับข้อมูลอย่างไร อะไรคือข้อกำหนดความจุและรูปแบบ IO เมื่อเรามีข้อมูลเหล่านี้แล้ว จะช่วยให้เราออกแบบระบบที่เหมาะสมกับเวิร์กโหลด

เมื่อเรามีข้อมูลทั้งหมดแล้ว เราจะใช้ความเชี่ยวชาญภายในของ Penguin Computing เพื่อออกแบบและสร้างโซลูชันแบบกำหนดเอง รู้ว่ามันถูกออกแบบมาจากมุมมองของประสิทธิภาพ เราต้องเข้าใจว่ามันถูกใช้งานที่ไหน (ในสถานที่ ออนพรีเมส คลาวด์ เอดจ์ หรือผสมผสานทั้งหมด) นั่นคือวิธีการของ Penguin Computing ในการนำเสนอโซลูชันที่เหมาะสมกับเวิร์กโหลดที่ขับเคลื่อนด้วยข้อมูล

คุณสามารถพูดถึงความสำคัญของการใช้ GPU แทน CPU สำหรับการเรียนรู้เชิงลึกได้หรือไม่?

หนึ่งในเทรนด์ที่ใหญ่ที่สุดที่ฉันเห็นเกี่ยวกับความสำคัญของ GPU สำหรับการเรียนรู้เชิงลึก (DL) คือการเคลื่อนไหวจากการใช้ GPU ทั่วไป (GPGPU) เป็นชิ้นส่วนของฮาร์ดแวร์ที่ขนานกันซึ่งช่วยให้เราสามารถเร่งความเร็วในการคำนวณได้อย่างมาก

ฉันเข้าร่วมในขั้นตอนแรกของการเขียนโปรแกรม GPGPU เมื่อฉันยังอยู่ในระดับบัณฑิตศึกษาและต้นอาชีพของฉัน ฉันเชื่อว่าการมีจุดกระโดดในความหนาแน่นการคำนวณที่ GPU ให้มา ซึ่งช่วยให้เราสามารถมีแกนการคำนวณและวิเคราะห์ที่หนาแน่นบนอุปกรณ์ และช่วยให้เราสามารถมีแกนการคำนวณมากขึ้นในพื้นที่เซิร์ฟเวอร์ได้ และการนำสิ่งที่เดิมทีถูกออกแบบมาเพื่อกราฟฟิกมาเป็นเครื่องมือคำนวณจริงๆ เป็นเทรนด์ที่เปิดเผยในโลก HPC และชุมชน AI

อย่างไรก็ตาม สิ่งเหล่านี้ต้องอาศัยการแปลงและปรับโค้ดให้ทำงานบน GPU แทน CPU เมื่อเราทำงานเหล่านั้น เรากำลังรอการมาถึงของ “แอปพลิเคชันที่杀” – แอปพลิเคชันหรือกรณีการใช้งานที่แท้จริงๆ ได้รับการเร่งความเร็วจาก GPU สำหรับชุมชน GPGPU การเรียนรู้เชิงลึกเป็นแอปพลิเคชันที่杀 ซึ่งรวมความพยายามและพัฒนาการในการเร่งความเร็วของ HPC และ AI

เมื่อเวลาผ่านไป มีการฟื้นตัวของ AI และการเรียนรู้ของเครื่อง (ML) และการเรียนรู้เชิงลึกเข้ามาอยู่ในสถานการณ์ เราได้พบว่าการฝึกอบรมเครือข่ายประสาทโดยใช้การเรียนรู้เชิงลึกสอดคล้องกับการออกแบบพื้นฐานของ GPU ฉันเชื่อว่าเมื่อสองสิ่งนี้มาบรรจบกัน เราจะมีความสามารถในการทำการเรียนรู้เชิงลึกที่ไม่เคยเป็นไปได้ก่อนหน้านี้โดยโปรเซสเซอร์ CPU และจำกัดความสามารถของเราในการทำ AI ทั้งในระดับใหญ่และในทางปฏิบัติ

เมื่อ GPU เข้ามาในภาพแล้ว มันทำให้เกิดการฟื้นตัวของชุมชนการวิจัยและพัฒนาเกี่ยวกับ AI และการเรียนรู้เชิงลึก เนื่องจากคุณไม่มีการคำนวณที่เพียงพอในการทำ AI ที่มีประสิทธิภาพและไม่ได้รับการทำให้เป็นประชาธิปไตย GPU ช่วยให้คุณสามารถส่งมอบการคำนวณที่หนาแน่นซึ่งออกแบบมาเพื่อการเรียนรู้เชิงลึกโดยพื้นฐาน และนำไปสู่โซลูชันโครงสร้างฮาร์ดแวร์ที่ทำให้ง่ายต่อการเข้าถึงสำหรับนักวิจัยและนักวิทยาศาสตร์มากขึ้น ฉันเชื่อว่านี่คือเหตุผลหลักที่ GPU ดีกว่าสำหรับการศึกษาการเรียนรู้เชิงลึก

มีอะไรที่คุณต้องการแบ่งปันเกี่ยวกับ Penguin Computing อีกหรือไม่?

เป็นเวลาหลายทศวรรษที่แล้ว Penguin Computing ได้นำเสนอโซลูชันที่กำหนดเอง นวัตกรรม และเปิดกว้างให้กับโลกการคำนวณประสิทธิภาพสูงและเทคนิค Penguin Computing ช่วยให้องค์กรต่างๆ มีความยืดหยุ่นและอิสระในการใช้เทคโนโลยีล่าสุดใน môi trườngการคำนวณของตน องค์กรสามารถมุ่งเน้นทรัพยากรในการส่งผลิตภัณฑ์และความคิดสร้างสรรค์ออกสู่ตลาดในเวลาที่รวดเร็วที่สุด แทนที่จะใช้เทคโนโลยีพื้นฐาน Penguin Computing มีโซลูชันที่หลากหลายสำหรับ AI/ML/Analytics, HPC, DataOps และเทคโนโลยีคลาวด์แบบเนทีฟ ซึ่งสามารถปรับแต่งและรวมกันเพื่อตอบสนองความต้องการในปัจจุบันและปรับเปลี่ยนอย่างรวดเร็วเพื่อตอบสนองความต้องการและความเปลี่ยนแปลงทางเทคโนโลยีในอนาคต บริการมืออาชีพและบริหารจัดการของ Penguin Computing ช่วยในการรวมระบบ ติดตั้ง และจัดการโซลูชัน

ขอขอบคุณสำหรับการสัมภาษณ์ที่ดี ผู้อ่านสามารถเยี่ยมชม Penguin Computing เพื่อเรียนรู้เพิ่มเติม