เอลัด ราซ, CEO ของ NextSilicon – ซีรีส์สัมภาษณ์

เอลัด ราซ ซีอีโอของ NextSilicon เป็นนักธุรกิจและผู้นำด้านเทคโนโลยีที่มีประสบการณ์อย่างกว้างขวางและได้รับการยกย่องอย่างมากสำหรับความเชี่ยวชาญของเขาในด้านระบบระดับต่ำ ความปลอดภัย เครือข่าย และการพัฒนาไฟล์-ระบบ ในช่วงอาชีพที่ครอบคลุมถึงบทบาทวิศวกรรมทหารชั้นยอด การนำ软件ระดับสูง การสร้างบริษัท และการลงทุนระยะยาว ราซได้นำโครงการที่ซับซ้อนและสำคัญต่อภารกิจข้ามระบบปฏิบัติการภายในและบูรณาการฮาร์ดแวร์-ซอฟต์แวร์ ก่อนที่จะก่อตั้ง NextSilicon เขาได้สร้างและออกจากบริษัทเทคโนโลยีหลายแห่ง ดำรงตำแหน่งผู้นำระดับสูงในบริษัท半導體ชั้นนำ และลงทุนในพอร์ตโฟลิโอของสตาร์ทอัพ โดยรวมความลึกของวิศวกรรมเข้ากับการดำเนินงานที่แข็งแกร่งและวิสัยทัศน์เชิงกลยุทธ์ระยะยาว

NextSilicon เป็นบริษัทคอมพิวเตอร์ประสิทธิภาพสูงและ半導體ของอิสราเอลที่ก่อตั้งขึ้นในปี 2017 ซึ่งกำลังเปลี่ยนแปลงสถาปัตยกรรมคอมพิวเตอร์สำหรับงานที่ต้องการมาก เช่น AI และการคำนวณทางวิทยาศาสตร์ บริษัทได้พัฒนาพลatform คอมพิวเตอร์ที่ถูกกำหนดโดยซอฟต์แวร์ ซึ่งออกแบบมาเพื่อมอบประสิทธิภาพสูงและประสิทธิภาพโดยไม่ต้องให้นักพัฒนาต้องเขียนแอปพลิเคชันใหม่ โดยการมุ่งเน้นไปที่ความสามารถในการปรับเปลี่ยนในระดับฮาร์ดแวร์ NextSilicon มีเป้าหมายที่จะแก้ไขปัญหาที่ขัดขวางในศูนย์ข้อมูลและระบบคอมพิวเตอร์ขนาดใหญ่ และตั้งตนเองเป็นทางเลือกที่เป็นไปได้สำหรับเครื่องเร่งความเร็วแบบดั้งเดิม

คุณสามารถเล่าเรื่องราวของคุณที่นำไปสู่การก่อตั้ง NextSilicon ได้หรือไม่? สิ่งใดกระตุ้นให้เกิดความคิดแรก และประสบการณ์เริ่มแรกของคุณกับการคำนวณมีอิทธิพลต่อวิสัยทัศน์ของคุณอย่างไร?

ฉันสนใจคอมพิวเตอร์ตั้งแต่ฉันยังเป็นเด็ก ความสนใจนั้นนำฉันจากการทดลองกับคอมพิวเตอร์เก่าๆ เช่น Commodore 64 และ Atari (ซึ่งฉันยังคงสะสมจนถึงทุกวันนี้) ไปสู่การร่วมก่อตั้งสตาร์ทอัพ และสุดท้ายก็ขายบริษัทก่อนหน้าของฉันให้กับ Mellanox แต่แม้จะมีความสำเร็จเหล่านั้น ฉันก็ยังคงพบกับความท้าทายเดียวกันซ้ำๆ ในอุตสาหกรรมนี้ เมื่อภาระงานคำนวณมีความซับซ้อนมากขึ้น สถาปัตยกรรม CPU และ GPU แบบดั้งเดิมก็ถึงขีดจำกัดในด้านประสิทธิภาพ การใช้พลังงาน และความสามารถในการปรับขนาด

จุดเริ่มต้นของ NextSilicon มาจากความท้าทายที่เกิดขึ้นซ้ำๆ และทำให้เกิดคำถามว่า: ถ้าเราสามารถพลิกสถานการณ์และสร้างสถาปัตยกรรมคอมพิวเตอร์ที่ปรับเปลี่ยนตามภาระงานได้ ไม่ใช่ภาระงานที่ต้องปรับเปลี่ยนตามฮาร์ดแวร์? ประสบการณ์เริ่มแรกของฉันกับการออกแบบอัลกอริทึมและฮาร์ดแวร์ทำให้ฉันเข้าใจว่าการผสมผสานทั้งสองอย่างในเวลาจริงจะเป็นกุญแจสำคัญในการสร้างความก้าวหน้า นั่นคือรากฐานของสถาปัตยกรรม Intelligent Compute (ICA) ของเรา และเป็นวิสัยทัศน์ที่ชี้นำ NextSilicon ตั้งแต่เริ่มต้น

Maverick-2 ได้รับการอธิบายว่าเป็นเครื่องเร่งความเร็วการคำนวณแบบอัจฉริยะที่ปรับเปลี่ยนตามภาระงานในเวลาจริง สถาปัตยกรรมของมันแตกต่างจาก GPU หรือ FPGA แบบดั้งเดิมอย่างไร และอะไรที่ทำให้มันสามารถปรับเปลี่ยนได้?

CPU และ GPU ได้เปลี่ยนแปลงโลกของเราและให้บริการเราอย่างดี แต่พวกมันไม่ได้ออกแบบมาเพื่อตอบสนองความต้องการของภาระงาน AI และการคำนวณประสิทธิภาพสูง (HPC) ในสาขาต่างๆ เช่น วิทยาศาสตร์ สภาพอากาศ พลังงาน และการป้องกันประเทศ ภาระงานเหล่านี้มีความสัมพันธ์ที่ซับซ้อนระหว่างข้อมูล รูปแบบการเข้าถึงหน่วยความจำ และรูปแบบการคำนวณ ซึ่งโปรเซสเซอร์ในปัจจุบันไม่ได้ออกแบบมาเพื่อรับมือ

ความแตกต่างหลักของ Maverick-2 คือการผสมผสานระหว่างเครื่องยนต์ dataflow ที่สามารถปรับเปลี่ยนได้และซอฟต์แวร์สำหรับการเพิ่มประสิทธิภาพในเวลาจริง สถาปัตยกรรมที่แตกต่างคือฮาร์ดแวร์ถูกกำหนดค่าตามภาระงาน ไม่ใช่ในทางกลับกัน สำหรับ Maverick-2 การมีอยู่ของข้อมูลขับเคลื่อนการคำนวณ ไม่ใช่โปรแกรมคอนเทอร์ที่ขับเคลื่อนการดำเนินการคำสั่งเหมือนในโปรเซสเซอร์แบบดั้งเดิม ซึ่งช่วยให้เราสามารถสร้างหน่วยประมวลผลเสมือนที่สามารถกำหนดค่าและปรับเปลี่ยนได้ในเวลาจริงเพื่อให้ตรงกับรูปแบบภาระงานที่เฉพาะเจาะจง

ผลลัพธ์เป็นไปตามที่คาดไว้: Maverick-2 มอบประสิทธิภาพต่อวัตต์ที่มากกว่า GPU ถึง 4 เท่า และมากกว่า CPU ชั้นนำถึง 20 เท่า ในขณะเดียวกันก็ลดต้นทุนการดำเนินงานลงมากกว่าครึ่งหนึ่ง ทำให้นักวิจัยและวิศวกรสามารถรันการจำลองที่ซับซ้อนและไม่สม่ำเสมอได้เร็วขึ้นและมีประสิทธิภาพมากขึ้น ซึ่งช่วยให้สามารถเข้าถึงข้อมูลเชิงลึกและความก้าวหน้าได้ในเวลาที่สั้นลง

คุณได้รายงานว่าสามารถบรรลุประสิทธิภาพต่อวัตต์ที่มากกว่า GPU ถึง 4 เท่า และมากกว่า CPU ชั้นนำถึง 20 เท่า สิ่งใดที่ขับเคลื่อนการเพิ่มประสิทธิภาพเหล่านี้ในภาระงานจริง?

การเพิ่มประสิทธิภาพมาจากนวัตกรรมหลักๆ หลายประการที่ทำงานร่วมกัน

ประการแรก เราได้ละทิ้งแบบจำลอง Von Neumann ที่ได้ครอบงำการคำนวณมาเป็น 80 ปี แทนที่จะใช้การดำเนินการคำสั่งแบบลำดับ Maverick-2 ใช้สถาปัตยกรรม dataflow ที่การคำนวณตามการมีอยู่ของข้อมูล ซึ่งเหมาะสมกว่าสำหรับภาระงานที่ไม่สม่ำเสมอและต้องการหน่วยความจำมาก

ประการที่สอง สถาปัตยกรรมที่ปรับเปลี่ยนได้ของเราสามารถสร้างคอร์ประมวลผลซอฟต์แวร์แบบกำหนดเองในเวลาจริง ฮาร์ดแวร์ปรับเปลี่ยนตามความต้องการของแอปพลิเคชันโดยไม่ต้องเขียนโค้ดใหม่ คุณจะได้รับการเพิ่มประสิทธิภาพโดยไม่มีค่าใช้จ่ายเพิ่มเติม

ประการที่สาม และสิ่งนี้สำคัญ: เรามุ่งเน้นไปที่ประสิทธิภาพที่ยั่งยืนในภาระงานจริง ไม่ใช่แค่จุดสูงสุดทางทฤษฎี หลายสถาปัตยกรรมดูดีบนกระดาษ แต่ล้มเหลวในภาระงานจริง Maverick-2 รักษาความมีประสิทธิภาพไว้ตลอดการคำนวณ AI, HPC และฐานข้อมูลเวกเตอร์โดยการปรับเปลี่ยนอย่างต่อเนื่องตามความต้องการของภาระงาน

Maverick-2 รองรับ C/C++, Fortran, OpenMP และ Kokkos โดยไม่ต้องมีการเปลี่ยนแปลงโค้ดอย่างไร? นักพัฒนาตอบสนองอย่างไรต่อความเข้ากันได้นี้ และคุณมีแผนการรองรับ CUDA, ROCm หรือเฟรมเวิร์ก AI ที่ได้รับความนิยมอย่างไร?

นักพัฒนาชอบที่ Maverick-2 เป็นตัวแทน “ทดแทนจริง” พวกเขาสามารถรันแอปพลิเคชันของตนได้ทันทีโดยไม่ต้องมีอุปสรรคในการพอร์ต เรารองรับ C/C++, Fortran, OpenMP และ Kokkos โดยไม่ต้องมีการเปลี่ยนแปลงโค้ด โดยมี CUDA, ROCm และเฟรมเวิร์ก AI ที่สำคัญอย่าง TensorFlow, JAX, PyTorch และ ONNX อยู่ในการพัฒนา ซึ่งลบการล็อกของซัพพลายเออร์และค่าใช้จ่ายในการเขียนโค้ดใหม่ และช่วยให้ลูกค้าสามารถประเมินและนำสถาปัตยกรรมใหม่มาใช้โดยไม่หยุดชะงักกระบวนการทำงาน

ระบบการเพิ่มประสิทธิภาพของ Maverick-2 ที่ขับเคลื่อนด้วยการวัดผลการทำงานเป็นอย่างไร? สิ่งใดที่เกี่ยวข้องกับการสร้างโปรไฟล์และการกำหนดค่าใหม่ของชิปในเวลาจริง?

คิดว่าการเพิ่มประสิทธิภาพของระบบเป็นวงจรที่ต่อเนื่องกัน: ระหว่างการดำเนินการ ระบบการวัดผลการทำงานของเราจะวัดตัวบ่งชี้ประสิทธิภาพหลายร้อยรายการ (เช่น ความกว้างแบนด์วิธของหน่วยความจำ การใช้งาน ความลึกคิว) ข้อมูลทั้งหมดนี้จะถูกส่งเข้าไปในตัวเพิ่มประสิทธิภาพที่ทำงานในเวลาจริง ซึ่งจะพิจารณาว่าการตั้งค่าฮาร์ดแวร์ปัจจุบันยังคงเหมาะสมสำหรับภาระงานและความต้องการที่คาดการณ์ไว้หรือไม่ หากไม่ ตัวเพิ่มประสิทธิภาพสามารถแบ่งส่วนทรัพยากรใหม่ จัดเรียงเส้นทางข้อมูลใหม่ และปรับเปลี่ยนการประมวลผลได้อย่างต่อเนื่อง โดยที่แอปพลิเคชันไม่หยุดทำงาน ซึ่งเกิดขึ้นภายในไม่กี่มิลลิวินาที ดังนั้นแอปพลิเคชันจึงรักษาความมีประสิทธิภาพสูงสุดไว้แม้ว่าโปรไฟล์คำนวณจะเปลี่ยนแปลงไป

มีภาระงานหรือกรณี đặc biệtที่การปรับเปลี่ยนประสิทธิภาพในเวลาจริงของ Maverick-2 นั้นน้อยกว่าหรือทำให้เกิดการแลกเปลี่ยนในด้านความหน่วงหรือพลังงานอย่างไร?

สถาปัตยกรรมใดๆ ก็มีการแลกเปลี่ยน Maverick-2 มีประสิทธิภาพสูงสุดในภาระงานที่ซับซ้อนและไม่สม่ำเสมอ โดยมีรูปแบบการเข้าถึงข้อมูลและการคำนวณที่เปลี่ยนแปลงไป สำหรับภาระงานที่คาดการณ์ได้สูงและฟังก์ชันคงที่ GPU ที่ได้รับการปรับให้เหมาะสมสามารถมีประสิทธิภาพสูงโดยไม่ต้องมีค่าใช้จ่ายในการปรับเปลี่ยน ในกรณีเหล่านั้น ความสามารถในการปรับเปลี่ยนของเรายังคงให้ประสิทธิภาพที่ดี แต่ความได้เปรียบอาจน้อยกว่า

การออกแบบของ NextSilicon มุ่งเน้นไปที่ความสามารถในการปรับเปลี่ยนและความสามารถในการแข่งขันในกรณีที่ตรงไปตรงมา แต่เปลี่ยนแปลงไปในกรณีที่ท้าทาย

ทำไมคุณจึงตัดสินใจให้ความสำคัญกับตลาด HPC ในระยะแรก เมื่อมost สตาร์ทอัพกำลังรีบเข้าสู่ AI อย่างไร? สิ่งนี้มีอิทธิพลต่อกลยุทธ์ผลิตภัณฑ์และธุรกิจของคุณอย่างไร?

ตลาด HPC แสดงถึงแนวหน้าของความซับซ้อนในการคำนวณและการแก้ปัญหาสำหรับเซตข้อมูลขนาดใหญ่ การเข้าถึงหน่วยความจำที่ไม่สม่ำเสมอ และรูปแบบการคำนวณที่ไม่คาดเดาได้ หากคุณสามารถสร้างสถาปัตยกรรมที่สามารถทำงานได้ดีในพื้นที่นี้ เช่น การรันการจำลองขนาดอิกซะไบต์ในแบบจำลองสภาพภูมิอากาศหรือฟิสิกส์ PARTICLE จะทำงานได้ดีใน AI เช่นกัน

โดยการมุ่งเน้นไปที่ HPC ในระยะแรก เราได้พิสูจน์ Maverick-2 ในภาระงานที่ท้าทายที่สุดในแบบจำลองสภาพภูมิอากาศ ฟิสิกส์ และชีววิทยา ซึ่งทำให้เรามีความน่าเชื่อถือ ข้อมูลการแสดงผลจริง และผลิตภัณฑ์ที่เติบโตก่อนที่จะขยายเข้าสู่ตลาด AI ที่ลึกกว่า ตอนนี้ เราได้ตำแหน่งที่จะให้บริการทั้งสองโดยไม่ต้องประนีประนอมสถาปัตยกรรมของเราเพื่อใช้ประโยชน์จากกระแสหรือความต้องการระยะสั้น

ตอนนี้ที่ Maverick-2 อยู่ในกระบวนการผลิตและใช้งานในลูกค้าหลายสิบราย คุณสามารถแบ่งปันข้อมูลเกี่ยวกับวิธีการใช้งานได้หรือไม่? มีผลลัพธ์หรือมาตรฐานการแสดงผลจากการติดตั้งหลักๆ ใดๆ บ้าง?

ตัวอย่างหลักๆ คือการนำไปใช้ที่ Sandia National Labs โดยที่ Maverick-2 กำลังขับเคลื่อน Spectra supercomputer ในโครงการ Vanguard-II เราได้รับผลลัพธ์ประสิทธิภาพที่น่าประทับใจโดยไม่ต้องมีการเปลี่ยนแปลงโค้ด เรากำลังทำงานกับ ODISSEE (Online Data Intensive Solutions for Science in the Exabytes Era) ซึ่งรวมถึงสถาบันวิจัยชั้นนำเพื่อจัดการข้อมูลขนาดอิกซะไบต์จาก CERN’s High-Luminosity Large Hadron Collider และ Square Kilometre Array Observatory Maverick-2 จะมีบทบาทสำคัญในการแก้ปัญหาในการประมวลผลข้อมูลทดลองหลายพีตะไบต์ในเวลาที่สั้นลงและใช้พลังงานน้อยกว่าที่เคยต้องการมาก่อน

คุณได้ระดมทุนมากกว่า 300 ล้านดอลลาร์ โดยมีการประกาศรอบการระดมทุนในปี 2021 และล่าสุด คุณสามารถแบ่งปันว่าการระดมทุนนี้ได้เร่งการพัฒนาผลิตภัณฑ์และการเข้าถึงตลาดของคุณได้อย่างไร?

การระดมทุนช่วยให้เราทำสิ่งต่อไปนี้ได้ ประการแรก เราสามารถผลักดันสถาปัตยกรรมให้ไปข้างหน้า ไม่ใช่แค่การปรับปรุงเชิงปริมาณ แต่เป็นการก้าวหน้าที่สำคัญที่ทำให้ Maverick-2 พร้อมสำหรับการผลิต ประการที่สอง เราสามารถขยายการผลิตและโซ่อุปทานเพื่อตอบสนองความต้องการที่เพิ่มขึ้น ซึ่งเป็นความท้าทายที่ไม่ธรรมดาสำหรับซิลิคอนที่ใหม่ ประการที่สาม เราสามารถขยายระบบนิเวศซอฟต์แวร์ของเราเพื่อให้ลูกค้าสามารถรวมและใช้งานได้เร็วขึ้น

การระดมทุนยังช่วยให้เราสามารถร่วมมือกับศูนย์ข้อมูลขนาดใหญ่และผู้ให้บริการคลาวด์ ซึ่งช่วยให้เราสามารถเร่งกระบวนการจากแนวคิดไปสู่การนำไปใช้ได้เร็วขึ้นมากกว่าสตาร์ทอัพฮาร์ดแวร์แบบดั้งเดิม

ในภูมิทัศน์ที่มี Cerebras (CBRS ), SambaNova และ Nvidia (NVDA ) คุณมองเห็น NextSilicon วางตำแหน่งตัวเองอย่างไร? กลยุทธ์การตลาดของคุณเป็นอย่างไรในฐานะผู้ท้าทาย?

เรามอง NextSilicon เป็นบริษัทเทคโนโลยีมากกว่าบริษัทชิป เราเพิ่มประสิทธิภาพทุกภาระงาน โดยไม่ต้องล็อกลูกค้าเข้ากับการเขียนโปรแกรมหรือฮาร์ดแวร์เฉพาะ ลูกค้าของเราสามารถนำโค้ดที่มีอยู่มาใช้และบรรลุการเร่งความเร็วทันทีโดยไม่ต้องมีการพอร์ตโค้ดหรือล็อกเข้ากับระบบนิเวศใดระบบนิเวศหนึ่ง เช่น CUDA สิ่งนี้มีความสำคัญอย่างยิ่งเมื่อภาระงาน AI วิวัฒนาการไปไกลกว่าการฝึกอบรมแบบดั้งเดิม โมเดลการให้เหตุผล การอนุมานที่ขยายออกไป และหน้าต่างบริบทขนาดใหญ่ต้องการรูปแบบการคำนวณที่แตกต่าง: การเข้าถึงหน่วยความจำแบบไดนามิก การคำนวณขนาดตัวแปร และการกำหนดทรัพยากรแบบปรับเปลี่ยนได้ สิ่งเหล่านี้ไม่ใช่ปัญหาที่คุณสามารถแก้ไขได้ด้วยสถาปัตยกรรมแบบดั้งเดิมที่มีการกำหนดค่าแบบคงที่

กลยุทธ์การตลาดของเรามุ่งเน้นไปที่การแก้ปัญหาที่ยากที่สุดก่อน: การทำงานร่วมกับสถาบันวิจัย ห้องปฏิบัติการแห่งชาติ และองค์กรที่ประสิทธิภาพ พลังงาน และความสามารถในการปรับเปลี่ยนเป็นสิ่งสำคัญ จากนั้นเราจึงขยายออกไปสู่ตลาด AI และข้อมูลที่เข้มข้นมากขึ้น อุตสาหกรรมนี้ถูกครอบงำโดยสถาปัตยกรรมแบบคงที่ เราเสนอสิ่งที่แตกต่าง: ความสามารถในการปรับเปลี่ยนตั้งแต่เริ่มต้น AI กำลังเปลี่ยนแปลงจากขนาดบริสุทธิ์ไปสู่ความฉลาด โมเดลที่ใหญ่ขึ้นกำลังทำให้เหตุผลที่ฉลาดขึ้นจากคำสั่งแบบสั้นไปสู่ความเข้าใจบริบทขนาดใหญ่ ในการเปลี่ยนแปลงนี้ สถาปัตยกรรมที่สามารถปรับเปลี่ยนได้จะไม่เพียงแต่ใหม่เท่านั้น แต่ยังจำเป็นต่อความสำเร็จด้วย

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม NextSilicon เพื่อเรียนรู้เพิ่มเติม