ดัก ฟูลเลอร์ รองประธานฝ่ายวิศวกรรมซอฟต์แวร์ของ Cornelis Networks – ซีรีส์สัมภาษณ์

ในฐานะรองประธานฝ่ายวิศวกรรมซอฟต์แวร์ ดัก รับผิดชอบทุกด้านของซอฟต์แวร์ Cornelis Networks รวมถึงไดรเวอร์ Omni-Path Architecture ซอฟต์แวร์สำหรับการส่งข้อความ และระบบควบคุมอุปกรณ์ฝังตัว ก่อนที่จะเข้าร่วม Cornelis Networks ดัก曾率ทีมวิศวกรรมซอฟต์แวร์ที่ Red Hat ในด้านการเก็บข้อมูลบนคลาวด์และบริการข้อมูล อาชีพของดักในด้าน HPC และคลาวด์คอมพิวติ้งเริ่มต้นที่ห้องปฏิบัติการคอมพิวเตอร์ขนาดใหญ่ที่ Ames National (ATLO ) Laboratory หลังจากผ่านหลายบทบาทในด้านการวิจัยคอมพิวเตอร์ของมหาวิทยาลัย ดักได้เข้าร่วม Oak Ridge National Laboratory ของกระทรวงพลังงานสหรัฐในปี 2009 โดยที่เขาพัฒนาและรวมเทคโนโลยีใหม่ๆ เข้ากับศูนย์คำนวณความเร็วสูง Oak Ridge Leadership Computing Facility

Cornelis Networks เป็นผู้นำด้านเทคโนโลยีที่นำเสนอฟาบริกประสิทธิภาพสูงแบบเฉพาะสำหรับการคำนวณประสิทธิภาพสูง (HPC) การวิเคราะห์ข้อมูลประสิทธิภาพสูง (HPDA) และปัญญาประดิษฐ์ (AI) ให้กับองค์กรชั้นนำในด้านพาณิชย์ วิทยาศาสตร์ การศึกษา และรัฐบาล

สิ่งใดที่ดึงดูดคุณเข้าสู่ด้านวิทยาการคอมพิวเตอร์?

ฉันแค่รู้สึกว่าฉันชอบทำงานกับเทคโนโลยี ฉันชอบทำงานกับคอมพิวเตอร์ตั้งแต่ฉันยังเป็นเด็ก เรามีโมเด็มที่โรงเรียนที่ให้ฉันลองใช้อินเทอร์เน็ตและฉันพบว่ามันสนุก เมื่อฉันเป็นนักศึกษาปีหนึ่ง ฉันพบวิทยาการคอมพิวเตอร์จาก USDOE ในขณะที่ฉันทำการ志愿ที่ National Science Bowl เขาเชิญฉันไปทัวร์ห้องปฏิบัติการ HPC ของเขาและฉันก็หลงใหลไปเลย ฉันเป็นคนรักซูเปอร์คอมพิวเตอร์ตั้งแต่นั้นมา

คุณ曾ทำงานที่ Red Hat ระหว่างปี 2015 ถึง 2019 คุณ曾ทำงานในโครงการใดบ้างและได้รับความรู้อะไรจากประสบการณ์นั้น?

โครงการหลักของฉันที่ Red Hat คือ Ceph distributed storage ฉันเคยเน้นไปที่ HPC เท่านั้น แต่โครงการนี้ให้โอกาสฉันในการทำงานกับเทคโนโลยีที่สำคัญสำหรับโครงสร้างพื้นฐานคลาวด์ มันคล้ายกันมาก หลายหลักการของการปรับขนาด ความสามารถในการจัดการ และความน่าเชื่อถือเป็นเหมือนกัน แม้ว่าจะมุ่งไปที่การแก้ปัญหาที่แตกต่างกันเล็กน้อย ในด้านเทคโนโลยี สิ่งที่สำคัญที่สุดที่ฉันได้รับจากประสบการณ์นี้คือว่าคลาวด์และ HPC มีหลายสิ่งที่สามารถเรียนรู้จากกันและกัน เรากำลังสร้างโครงการที่แตกต่างกันโดยใช้ชุดเลโก้เดียวกัน มันช่วยให้ฉันเข้าใจว่าเทคโนโลยีที่เป็นไปได้ รวมถึงฟาบริก สามารถนำมาใช้กับ HPC คลาวด์ และ AI ได้อย่างไร นอกจากนี้ยังช่วยให้ฉันเข้าใจคุณค่าของ Open Source และวิธีการดำเนินการตามปรัชญาการพัฒนาซอฟต์แวร์ Open Source ที่ฉันนำมาใช้ที่ Cornelis Networks ส่วนตัวแล้ว Red Hat คือที่ที่ฉันเติบโตและพัฒนาตนเองในฐานะผู้นำ

คุณปัจจุบันเป็นรองประธานฝ่ายวิศวกรรมซอฟต์แวร์ที่ Cornelis Networks คุณมีหน้าที่อะไรบ้างและวันทำงานของคุณเป็นอย่างไร?

ในฐานะรองประธานฝ่ายวิศวกรรมซอฟต์แวร์ ฉันรับผิดชอบทุกด้านของซอฟต์แวร์ Cornelis Networks รวมถึงไดรเวอร์ Omni-Path Architecture ซอฟต์แวร์สำหรับการส่งข้อความ การจัดการฟาบริก และระบบควบคุมอุปกรณ์ฝังตัว Cornelis Networks เป็นสถานที่ที่น่าตื่นเต้นในการทำงาน โดยเฉพาะในขณะนี้และในตลาดนี้ เนื่องจากสิ่งนี้ ฉันไม่แน่ใจว่าฉันมีวันทำงาน “ปกติ” หรือไม่ บางวันฉันทำงานกับทีมเพื่อแก้ไขปัญหาทางเทคนิคที่ซับซ้อน วันถัดมาฉันอาจมีการติดต่อกับวิศวกรฮาร์ดแวร์เพื่อให้แน่ใจว่าผลิตภัณฑ์หน้าจั่วของเราจะตอบสนองความต้องการของลูกค้าได้ ฉันบ่อยครั้งไปพบปะกับลูกค้าและผู้ร่วมงานที่น่าตื่นเต้นของเราเพื่อให้แน่ใจว่าเราจะเข้าใจและคาดการณ์ความต้องการของพวกเขา

Cornelis Networks มีฮาร์ดแวร์สำหรับการคำนวณประสิทธิภาพสูงและ AI คุณสามารถแบ่งปันรายละเอียดเกี่ยวกับฮาร์ดแวร์ได้หรือไม่?

ฮาร์ดแวร์ของเราคือฟาบริกแบบสวิตช์ที่มีประสิทธิภาพสูง ซึ่งเป็นโซลูชันฟาบริกแบบเครือข่าย เพื่อให้บรรลุเป้าหมายนี้ เราให้เครื่องมือที่จำเป็นทั้งหมดเพื่อเชื่อมต่อ HPC คลาวด์ และ AI ฟาบริกได้อย่างสมบูรณ์ Omni-Path Host-Fabric Interface (HFI) เป็น카ด PCI Express ต่ำสำหรับอุปกรณ์ปลายทาง เรายังผลิตสวิตช์ “top-of-rack” 48 พอร์ต 1U สำหรับการใช้งานขนาดใหญ่ เราผลิตสวิตช์ “director-class” ที่มีการรวมอย่างเต็มที่สองตัว หนึ่งตัวมี 288 พอร์ตใน 7U และอีกตัวมี 1152 พอร์ตใน 20U

คุณสามารถพูดถึงซอฟต์แวร์ที่จัดการโครงสร้างพื้นฐานนี้และวิธีการออกแบบเพื่อลดความล่าช้าได้หรือไม่?

แพลตฟอร์มการจัดการฝังตัวของเรามีการติดตั้งและคอนฟิกอย่างง่าย รวมถึงการเข้าถึงเมตริกการแสดงผลและคอนฟิกที่หลากหลายที่ผลิตโดย ASIC สวิตช์ของเรา

ซอฟต์แวร์ไดรเวอร์ของเราพัฒนาเป็นส่วนหนึ่งของเคอร์เนล Linux จริงๆ แล้ว เราส่งแพตช์ซอฟต์แวร์ทั้งหมดของเราไปยังชุมชนเคอร์เนล Linux โดยตรง ซึ่งให้ความมั่นใจว่าลูกค้าทุกคนจะได้รับความเข้ากันได้สูงสุดระหว่างการกระจาย Linux และการรวมเข้ากับซอฟต์แวร์อื่นๆ เช่น Lustre แม้ว่าจะไม่อยู่ในเส้นทางความล่าช้า แต่การมีไดรเวอร์ในต้นไม้จะลดความซับซ้อนในการติดตั้งลงอย่างมาก

ผู้จัดการฟาบริก Omni-Path (FM) คอนฟิกและกำหนดเส้นทางฟาบริก Omni-Path ด้วยการเพิ่มประสิทธิภาพเส้นทางการจราจรและฟื้นตัวจากข้อผิดพลาดอย่างรวดเร็ว FM ให้ประสิทธิภาพและความน่าเชื่อถือที่เป็นผู้นำในอุตสาหกรรมสำหรับฟาบริกตั้งแต่หลายสิบถึงหลายพันโหนด

Omni-Path Express (OPX) เป็นซอฟต์แวร์ส่งข้อความประสิทธิภาพสูงที่เราเปิดตัวในเดือนพฤศจิกายน 2022 มันถูกออกแบบมาเพื่อลดความล่าช้าเมื่อเทียบกับซอฟต์แวร์ส่งข้อความก่อนหน้าของเรา เราได้เรียกใช้ซิมูเลชันที่แม่นยำของโค้ดเส้นทางส่งและรับของเราเพื่อลดจำนวนคำสั่งและใช้แคชให้น้อยที่สุด ซึ่งให้ผลลัพธ์ที่น่าประทับใจ: เมื่อคุณอยู่ในระดับไมโครวินาที ทุกวินาทีนับเป็นเรื่องสำคัญ!

เรายังรวมเข้ากับ OpenFabrics Interfaces (OFI) ซึ่งเป็นมาตรฐานเปิดที่ผลิตโดย OpenFabrics Alliance โครงสร้าง OFI ที่เป็นโมดูลาร์ช่วยลดความล่าช้าโดยการอนุญาตให้ซอฟต์แวร์ระดับสูง เช่น MPI ใช้คุณลักษณะฟาบริกโดยไม่ต้องเรียกฟังก์ชันเพิ่มเติม

เครือข่ายทั้งหมดยังถูกออกแบบมาเพื่อเพิ่มความสามารถในการปรับขนาด คุณสามารถแบ่งปันรายละเอียดเกี่ยวกับวิธีการที่เครือข่ายสามารถปรับขนาดได้ดี?

ความสามารถในการปรับขนาดเป็นหลักการหลักที่อยู่เบื้องหลังการออกแบบ Omni-Path ในระดับต่ำสุด เราใช้เทคโนโลยีการเชื่อมต่อ Cray เพื่อแก้ไขข้อผิดพลาดของลิงก์โดยไม่มีผลกระทบต่อความล่าช้า ซึ่งส่งผลกระทบต่อฟาบริกทุกระดับ แต่เฉพาะเจาะจงสำหรับฟาบริกขนาดใหญ่ ซึ่งมักจะพบข้อผิดพลาดของลิงก์มากขึ้น ผู้จัดการฟาบริกของเรามุ่งเน้นไปที่การเขียนตารางการกำหนดเส้นทางที่เหมาะสมและทำเช่นนั้นอย่างรวดเร็ว ซึ่งให้ความมั่นใจว่าการกำหนดเส้นทางสำหรับฟาบริกที่ใหญ่ที่สุดสามารถทำได้ภายในเวลาที่น้อยที่สุด

ความสามารถในการปรับขนาดยังเป็นส่วนสำคัญของ OPX การลดการใช้แคชให้น้อยที่สุดจะปรับปรุงความสามารถในการปรับขนาดในโหนดเดี่ยวที่มีจำนวนคอร์ขนาดใหญ่ การลดความล่าช้าจะปรับปรุงความสามารถในการปรับขนาดโดยการปรับปรุงเวลาในการทำการคำนวณสำหรับอัลกอริทึมที่รวบรวม การใช้ทรัพยากรอินเทอร์เฟซโฮสต์-ฟาบริกของเรามีประสิทธิภาพมากขึ้นจะทำให้แต่ละคอร์สามารถสื่อสารกับคู่ที่อยู่ห่างไกลได้มากขึ้น การเลือก libfabric โดยกลยุทธ์ทำให้เราสามารถใช้คุณลักษณะซอฟต์แวร์ เช่น จุดสิ้นสุดแบบปรับขนาดได้โดยใช้インターフェซมาตรฐาน

คุณสามารถแบ่งปันรายละเอียดเกี่ยวกับวิธีการที่ AI ถูกนำมาใช้ในกระบวนการทำงานที่ Cornelis Networks ได้หรือไม่?

เรายังไม่พร้อมที่จะพูดถึงการใช้ AI ภายในและแผนการของเราต่อผู้ฟังภายนอก แต่เรากินอาหารของตัวเอง ดังนั้นเราจึงได้รับประโยชน์จากความล่าช้าและความสามารถในการปรับขนาดที่เราได้ปรับปรุงให้กับ Omni-Path เพื่อสนับสนุนเวิร์กโหลด AI มันทำให้เราตื่นเต้นที่จะแบ่งปันผลประโยชน์เหล่านั้นกับลูกค้าและผู้ร่วมงานของเรา เราได้สังเกตเห็นว่าเช่นเดียวกับการคำนวณประสิทธิภาพสูงแบบดั้งเดิม การขยายโครงสร้างพื้นฐานออกไปเป็นทางเดียวที่จะไปข้างหน้า แต่ความท้าทายคือประสิทธิภาพของเครือข่ายสามารถถูกขัดขวางได้ง่ายโดยเครือข่ายแบบดั้งเดิม เช่น อีเทอร์เน็ต

คุณคาดการณ์อะไรเกี่ยวกับการเปลี่ยนแปลงในอุตสาหกรรมด้วยการมาถึงของ AI ที่สร้างขึ้น?

ก่อนอื่น การใช้ AI ที่สร้างขึ้นจะทำให้ผู้คนมีประสิทธิภาพมากขึ้น ไม่มีเทคโนโลยีใดในประวัติศาสตร์ที่ทำให้มนุษย์กลายเป็นคนเก่า การปฏิวัติและพัฒนาทางเทคโนโลยีที่เราได้เห็นตั้งแต่เครื่องปั่นฝ้ายไปจนถึงเครื่องปั่นแบบอัตโนมัติ โทรศัพท์ อินเทอร์เน็ต และอื่นๆ ทั้งหมดนี้ทำให้บางงานมีประสิทธิภาพมากขึ้น แต่เรายังไม่ได้ทำให้มนุษย์กลายเป็นคนเก่าไปเลย

ผ่านการประยุกต์ใช้ AI ที่สร้างขึ้น ฉันเชื่อว่าบริษัทต่างๆ จะก้าวหน้าทางเทคโนโลยีได้เร็วขึ้น เนื่องจากผู้ที่ดำเนินธุรกิจจะมีเวลาว่างมากขึ้นในการมุ่งเน้นไปที่การก้าวหน้าเหล่านั้น ตัวอย่างเช่น หาก AI ให้การคาดการณ์ที่แม่นยำมากขึ้น การรายงาน การวางแผน ฯลฯ บริษัทต่างๆ จะสามารถมุ่งเน้นไปที่นวัตกรรมในด้านความเชี่ยวชาญของตนเอง

ฉันรู้สึกว่า AI จะทำให้เราแต่ละคนเป็นผู้เชี่ยวชาญหลายสาขา ตัวอย่างเช่น ในฐานะผู้เชี่ยวชาญด้านซอฟต์แวร์ที่มีการปรับขนาด ฉันเข้าใจความเชื่อมโยงระหว่าง HPC ข้อมูลขนาดใหญ่ คลาวด์ และ AI ที่ขับเคลื่อนไปสู่โซลูชัน เช่น Omni-Path ด้วยความช่วยเหลือจาก AI ฉันสามารถลึกเข้าไปใน ความหมาย ของแอปพลิเคชันที่ลูกค้าของเราทำงาน ฉันมั่นใจว่ามันจะช่วยให้เราได้รับการออกแบบฮาร์ดแวร์และซอฟต์แวร์ที่มีประสิทธิภาพมากขึ้นสำหรับตลาดและลูกค้าที่เรารับใช้

ฉันยังเห็นถึงการปรับปรุงคุณภาพซอฟต์แวร์โดยรวม AI สามารถทำงานเป็น “ดวงตาอีกคู่” เพื่อวิเคราะห์โค้ดอย่างมีประสิทธิภาพและพัฒนาความเข้าใจเกี่ยวกับข้อผิดพลาดและปัญหาด้านประสิทธิภาพ มันจะน่าสนใจมากโดยเฉพาะในขนาดใหญ่ๆ ที่ปัญหาประสิทธิภาพสามารถเป็นเรื่องที่ยากต่อการระบุและแพงในการทำซ้ำ

สุดท้าย ฉันหวังและเชื่อว่า AI ที่สร้างขึ้นจะช่วยให้เราได้รับการฝึกอบรมและฝึกอบรมผู้เชี่ยวชาญด้านซอฟต์แวร์มากขึ้นโดยไม่ต้องมีประสบการณ์ก่อนหน้านี้ใน AI และ HPC สาขาของเราสามารถดูเหมือนน่ากลัวสำหรับหลายคน และอาจใช้เวลานานในการเรียนรู้ที่จะ “คิดแบบขนาน” ในหลักการ AI จะทำให้เราสามารถพิจารณาและให้เหตุผลเกี่ยวกับแนวคิดได้ง่ายขึ้น

คุณต้องการแบ่งปันอะไรเกี่ยวกับการทำงานหรือ Cornelis Networks โดยทั่วไป?

ฉันอยากจะแนะนำให้ทุกคนที่สนใจในการทำงานด้านคอมพิวเตอร์ โดยเฉพาะในด้าน HPC และ AI ในสาขานี้ เรามีทรัพยากรคอมพิวเตอร์ที่ทรงพลังที่สุดที่เคยสร้างมา และเรานำมาใช้เพื่อแก้ไขความท้าทายที่ยิ่งใหญ่ที่สุดของมนุษย์ มันเป็นสถานที่ที่น่าตื่นเต้นในการทำงาน และฉันชอบมัน ทุกขั้นตอน AI ที่สร้างขึ้นจะนำสาขาของเราไปสู่ความสูงใหม่ๆ เมื่อความต้องการความสามารถที่เพิ่มขึ้นเพิ่มขึ้นอย่างมาก ฉันรู้สึกตื่นเต้นที่จะเห็นว่าเราจะไปที่ไหนต่อไป

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Cornelis Networks เพื่อเรียนรู้เพิ่มเติม