ความลับของ AI ที่เร็วขึ้นไม่ใช่ GPU ที่มากขึ้น แต่เป็นเครือข่ายที่ฉลาดกว่า

AI กำลังเปลี่ยนแปลงสิ่งที่เป็นไปได้ทั่วอุตสาหกรรม รวมถึงสุขภาพ การเงิน การผลิต และการค้าปลีก แต่ด้วยศักยภาพที่มีแนวโน้ม นอกจากนี้ยังนำมาซึ่งความต้องการโครงสร้างพื้นฐานขนาดใหญ่

องค์กรทั่วโลกกำลังลงทุนใน GPU ในระดับที่ไม่เคยเกิดขึ้นมาก่อนเพื่อเร่งการฝึกอบรม AI และการอนุมาน โดยคาดการณ์ว่าในปี 2028 การใช้จ่าย IT ของ AI ที่สร้างขึ้นจะเกิน 1 ล้านล้านดอลลาร์ ตามรายงานของ Gartner คาดการณ์ และ Hyperion Research คาดการณ์ ว่าตลาด HPC จะเกิน 100 พันล้านดอลลาร์ในเวลาเดียวกัน อย่างไรก็ตาม แม้ว่าจะลงทุนในเครื่องเร่งความเร็วที่ทันสมัย แต่หลายๆ CIO ยังคงเห็น GPU ที่ไม่ได้ใช้งาน โดยมีการใช้งานอยู่ที่ 35% หรือน้อยกว่า ซึ่งไม่เพียงแต่ส่งผลให้การทำงานช้าลง แต่ยังทำให้พลังงานและต้นทุนสูงขึ้น

ในขณะที่หลายๆ โครงการ AI ติดค้าง ไม่ใช่เพราะไม่มี GPU หรือพลังการคำนวณ แต่เพราะเครือข่ายไม่สามารถตามทัน ทำให้ต้องมีการออกแบบใหม่สำหรับ AI ในระดับที่ใหญ่ขึ้น

ค่าใช้จ่ายที่ซ่อนอยู่ของการขัดขวางเครือข่าย

เมื่อเครือข่ายไม่สามารถส่งผ่านข้อมูลได้เร็วพอที่จะทำให้ GPU มีงานอย่างต่อเนื่อง องค์กรจะประสบผลกระทบสำคัญๆ ดังนี้:

• GPU และ CPU ที่ไม่ได้ใช้เนื่องจากการถ่ายโอนข้อมูลที่ถูกขัดขวาง: GPU ได้รับการออกแบบมาเพื่อการคำนวณแบบขนานขนาดใหญ่ แต่สามารถประมวลผลข้อมูลได้เร็วเท่ากับที่ส่งมาเท่านั้น หากเครือข่ายไม่สามารถตามทัน GPU จะนั่งรอข้อมูลแทนการคำนวณ CPU อาจหยุดชะงักเช่นกัน เนื่องจากกำลังประสานงานและย้ายข้อมูลผ่านไปในกระบวนการ ทำให้เกิดการใช้งานต่ำ尽管มีฮาร์ดแวร์ที่มีราคาแพง
• ประสิทธิภาพการอนุมานที่ไม่สม่ำเสมอจากเครือข่ายที่ไม่มีประสิทธิภาพ: ความไม่มีประสิทธิภาพของเครือข่ายทำให้การไหลของข้อมูลไม่สม่ำเสมอ ทำให้ GPU มีการเปลี่ยนแปลงระหว่างความเร็วเต็มและสถานะไม่ทำงาน ซึ่งส่งผลให้การทำงานของ AI ในการผลิตไม่แน่นอน
• การฝึกอบรมที่ยาวขึ้น ทำให้เวลาในการเข้าสู่ตลาดชะงัก: การฝึกอบรม AI ต้องย้ายชุดข้อมูลขนาดใหญ่ข้ามเซิร์ฟเวอร์ GPU และการเก็บข้อมูล การขัดขวางเครือข่ายทำให้กระบวนการนี้ชะงัก GPU ใช้เวลาน้อยลงในการฝึกอบรมและใช้เวลามากขึ้นในการรอ ซึ่งทำให้การวางแผนและกำหนดเวลาในการวางตลาดชะงัก
• ค่าใช้จ่ายด้านพลังงานและปฏิบัติการที่เพิ่มขึ้น: แม้ว่าไม่ได้ทำงาน GPU และโครงสร้างพื้นฐานที่เกี่ยวข้องยังคงใช้พลังงานจำนวนมาก หาก GPU ไม่ได้ใช้เนื่องจากความไม่มีประสิทธิภาพของเครือข่าย องค์กรจะจ่ายค่าใช้จ่ายด้านพลังงานโดยไม่ได้รับประสิทธิภาพที่สอดคล้องกัน ค่าใช้จ่ายในการดำเนินงานเพิ่มขึ้นเพราะสถานที่ต้องรองรับภาระการทำงานสูงสุดและความเย็น แม้ว่าการคำนวณจะถูกจำกัดโดยไม่จำเป็น

องค์กรสามารถลงทุนใน GPU เพิ่มเติมได้ แต่หากไม่มีการปรับปรุงเครือข่ายที่เหมาะสม จะทำให้การขัดขวางและความไม่มีประสิทธิภาพเพิ่มขึ้น

เครือข่ายเป็นตัวเร่งความเร็ว: การเปลี่ยนแปลงในแนวคิด

คำตอบต้องมีการคิดใหม่เกี่ยวกับโครงสร้างเครือข่ายทั้งหมด โดยการนำเสนอแบบจำลองที่ใช้เครือข่ายเป็นตัวเร่งความเร็ว ซึ่งเปลี่ยนความคิดแบบดั้งเดิมเกี่ยวกับการทำงานของ HPC และ AI เพื่อปลดปล่อยความสามารถใหม่ๆ

แทนที่จะเน้นการเพิ่มการคำนวณผ่าน GPU และ CPU เป็นหลัก แบบจำลอง “เครือข่ายเป็นตัวเร่งความเร็ว” ถือว่าฟาบริกของเครือข่ายเป็นตัวคูณประสิทธิภาพ ซึ่งทำให้เครือข่ายสามารถรองรับการคำนวณที่หนาแน่นได้ดีขึ้น และเร่ง ROI โดยการกำจัดการขัดขวาง การปรับขนาดเพื่อตอบสนองความต้องการการคำนวณ และการลงทุนในฮาร์ดแวร์ที่เหมาะสม โดยการทำให้การคำนวณมีประสิทธิภาพมากขึ้นโดยไม่ชะงัก องค์กรสามารถรันงานขนาดใหญ่ในพื้นที่ที่น้อยลง ได้รับผลลัพธ์เร็วขึ้น และหลีกเลี่ยงการลงทุนเกินจำเป็นในฮาร์ดแวร์เสริม

วิธีการทำงานของแบบจำลอง ‘เครือข่ายเป็นตัวเร่งความเร็ว’

แบบจำลองนี้ทำงานอย่างไร เพื่อให้องค์กรสามารถเปลี่ยนเครือข่ายจากตัวย้ายข้อมูลที่ไม่มีพลังงานเป็นตัวช่วยให้การคำนวณและเริ่มรับประโยชน์? มันส่งมอบความสามารถหลัก 4 ประการที่เครือข่ายแบบดั้งเดิมไม่มี:

• การส่งมอบที่รับประกันที่ระดับฮาร์ดแวร์: เครือข่ายแบบดั้งเดิมให้ภาระแก่ CPU และ GPU ในการติดตามแพ็คเก็ต การส่งซ้ำ และการเรียงลำดับ ซึ่งใช้การคำนวณที่อาจอุทิศให้กับการฝึกอบรมหรือการอนุมานได้ ด้วยฟาบริกของเครือข่ายที่รับประกันการส่งมอบที่ระดับฮาร์ดแวร์ งานเหล่านี้ถูกย้ายออกจากโหนดการคำนวณ ทำให้เกิดการลดลงของการทำงานของ CPU และ GPU ที่ไม่จำเป็น ประสิทธิภาพที่คาดการณ์ได้และสม่ำเสมอ และการปรับขนาดที่ทำให้ง่ายต่อการเขียนโปรแกรมและจัดการคลัสเตอร์
• การกำหนดเส้นทางแบบไดนามิกอัจฉริยะ: การกำหนดเส้นทางแบบดั้งเดิมพึ่งพาเส้นทางที่ตายตัวหรือไม่เหมาะสม ซึ่งอาจทำให้ส่วนหนึ่งของเครือข่ายไม่ได้ใช้หรือสร้างการขัดขวางเมื่อมีการไหลของข้อมูลขนาดใหญ่พร้อมกัน การกำหนดเส้นทางแบบไดนามิกใช้เส้นทางที่มีอยู่ทั้งหมดเพื่อปรับกระแสการจราจร ทำให้สามารถส่งผ่านข้อมูลได้มากขึ้น โดยมีการแบ่งกระแสการจราจรหลายเส้นทางที่ทำงานพร้อมกัน ลดความล่าช้าโดยการเลือกเส้นทางที่เหมาะสม และเพิ่มความทนทานเนื่องจากการจราจรของเครือข่ายจะถูกส่งผ่านอัตโนมัติไปรอบๆ การล้มเหลวของลิงก์หรือโหนด ทำให้ลดเวลาที่ไม่ได้ทำงานและทำให้ GPU ได้รับข้อมูลอย่างต่อเนื่อง
• การลองใหม่อัตโนมัติที่ระดับลิงก์: เมื่อแพ็คเก็ตสูญหายหรือเสียหาย เครือข่ายแบบดั้งเดิมพึ่งพาโหนดการคำนวณในการตรวจจับและส่งซ้ำ ซึ่งทำให้เกิดความล่าช้าอย่างมีนัยสำคัญ ฟาบริกที่มีความสามารถในการลองใหม่อัตโนมัติที่ระดับลิงก์สามารถจัดการการลองใหม่ภายในเครือข่ายเอง ทำให้เกิดความน่าเชื่อถือที่ใกล้จะโปร่งใส เนื่องจากการสูญเสียแพ็คเก็ตกลายเป็นเรื่องที่ไม่สำคัญต่อโหนดการคำนวณ ในขณะที่ลดผลกระทบของความล่าช้าเนื่องจากการลองใหม่เกิดขึ้นที่ระดับลิงก์ ไม่ใช่ทั้งเครือข่าย ทำให้ไม่จำเป็นต้องมีการจัดการข้อผิดพลาดที่ซับซ้อนในระดับแอปพลิเคชัน ความสามารถในการลองใหม่ทำให้การคำนวณแบบกระจายมีประสิทธิภาพและไม่หยุดชะงัก ซึ่งสำคัญเมื่อปรับขนาดไปที่หลายพัน GPU
• การคำนวณในเครือข่าย: ในขณะที่ฟาบริกของเครือข่ายแบบดั้งเดิมส่งเนื้อหาข้อมูลเป็นหลัก การคำนวณในเครือข่ายทำให้เครือข่ายกลายเป็นโค-โปรเซสเซอร์โดยการดำเนินการบางอย่างภายในฟาบริกโดยตรง NVIDIA SHARP เป็นตัวอย่างที่ดี – ทำให้สามารถลดขนาดได้บน 스วิตช์ของเครือข่ายเอง ทำให้การดำเนินการแบบกระจายเร็วขึ้น ลดความล่าช้าเนื่องจากข้อมูลถูกสรุปเมื่อไหลผ่านเครือข่าย และเพิ่มประสิทธิภาพเนื่องจากโหนดการคำนวณถูกปลดปล่อยจากการดำเนินการสรุป ทำให้มีサイクルมากขึ้นสำหรับการฝึกอบรมและซิมูเลชัน

โดยรวมแล้ว ความสามารถเหล่านี้คือสิ่งที่ทำให้ “การคำนวณที่นำโดยเครือข่าย” เป็นพื้นฐานสำหรับการปรับขนาดสภาพแวดล้อม AI และ HPC รุ่นต่อไป การใช้เครือข่ายเป็นศูนย์กลางส่งผลที่สามารถวัดได้ รวมถึงการใช้ GPU ที่สูงขึ้นซึ่งกำจัดความหิวของข้อมูล เวลาในการเข้าใจที่เร็วขึ้นซึ่งลดรอบการฝึกอบรมและทำให้การอนุมานมีเสถียรภาพ มีประสิทธิภาพด้านทรัพยากรที่ดีขึ้น และต้นทุนการเป็นเจ้าของทั้งหมดที่ลดลง

ค้นพบพลังของเครือข่ายที่แท้จริง

AI ในระดับที่ใหญ่ไม่ใช่แค่ปัญหาในการคำนวณ แต่เป็นความท้าทายด้านวิศวกรรมระดับระบบ โดยมีเครือข่ายอยู่ที่ศูนย์กลางของมัน การรักษาเครือข่ายให้เป็นตัวเร่งความเร็วเปลี่ยนมันให้เป็นตัวคูณประสิทธิภาพสำหรับการคำนวณ ทำให้ศูนย์ข้อมูล HPC และ AI สามารถปรับขนาดในความหนาแน่นโดยไม่สูญเสียประสิทธิภาพ มันส่งมอบ ROI ที่วัดได้เร็วขึ้นโดยการดึงคุณค่าสูงสุดจากโครงสร้างพื้นฐานที่มีอยู่ก่อนที่จะลงทุนในซิลิคอนเพิ่มเติม

โดยการกำจัดการขัดขวาง การเพิ่มการใช้ และการส่งมอบประสิทธิภาพที่คาดการณ์ได้ เครือข่ายที่ฉลาดขึ้นช่วยให้ทีม AI มีประสิทธิภาพมากขึ้น ROI ที่ดีกว่าสำหรับโครงสร้างพื้นฐาน GPU และเวลาในการเข้าใจที่เร็วขึ้น นวัตกรรม และการเป็นผู้นำตลาด มันช่วยให้องค์กรค้นพบสิ่งที่เครือข่ายของตนสามารถทำได้จริงและใช้พลังของ AI ในวิธีใหม่ๆ