ทำไมการแข่งขันชิป AI ปัจจุบันขึ้นอยู่กับซอฟต์แวร์

ทุกๆ ชิป AI ใหม่ที่ออกมามาพร้อมกับเรื่องราวของการเปรียบเทียบประสิทธิภาพ: ประสิทธิภาพสูงสุด, เทอราops ต่อวัตต์, ตัวเลขที่น่าประทับใจที่สัญญาว่าชิปนี้จะเปลี่ยนแปลงทุกอย่าง แต่สิ่งที่ตัวเลขเหล่านั้นไม่ได้บอกคือว่าลูกค้าสามารถใช้ชิปนี้ในงานผลิตได้หรือไม่ ส่วนใหญ่แล้วไม่สามารถใช้ได้ และนั่นคือเรื่องราวที่แท้จริงของที่ที่อุตสาหกรรมฮาร์ดแวร์ AI อยู่ในปัจจุบัน มันเผชิญกับปัญหาความเต็มที่ของซอฟต์แวร์ และบริษัทส่วนใหญ่ยังไม่พร้อมที่จะพูดถึงสิ่งนี้ต่อสาธารณะ

ช่องว่างที่ไม่มีใครพูดถึง

วงจรพัฒนาซิลิคอนใช้เวลา 2-4 ปี ในขณะที่ภูมิทัศน์ของโมเดล AI มีการเปลี่ยนแปลงในวงจรที่วัดเป็นเดือนและเข้าใกล้สัปดาห์ ที่ฐานของสิ่งนี้คือปัญหาในห่วงคุณค่า: กรณีการใช้งานสุดท้าย ตั้งแต่รถยนต์และโรงงานไปจนถึงโรงพยาบาลและอุปกรณ์ มีการเติบโตในด้านฟังก์ชันและเริ่มสร้างผลกระทบต่อ P&L ที่วัดได้ ความเต็มที่นี้ทำให้เกิดความต้องการการปรับซอฟต์แวร์ ซึ่งจำเป็นต้องมีการเปลี่ยนแปลงฮาร์ดแวร์ แต่ละชั้นนี้ทำงานในความเร็วที่แตกต่างกัน และความไม่สอดคล้องนี้เป็นสาเหตุของการสร้างความเสียดสีในตลาด ซอฟต์แวร์สแต็กที่จำเป็นในการรันโมเดลภาษาขนาดใหญ่แตกต่างจากที่สร้างขึ้นสำหรับงานโหลดการเรียนรู้ของเครื่องก่อนหน้านี้ วงจรพัฒนาฮาร์ดแวร์ยังไม่ได้ถูกบีบอัดให้เข้ากับวงจรนี้ บริษัทที่จัดส่งซิลิคอนใหม่ในปัจจุบันส่งมอบให้กับลูกค้าพร้อมซอฟต์แวร์ที่ไม่สามารถปลดปล่อยความสามารถของชิปได้อย่างเต็มที่ ทำให้เกิดรูปแบบที่ซ้ำกันในตลาด: ซิลิคอนที่น่าประทับใจ ซอฟต์แวร์ที่ไม่เต็มที่ การใช้งานที่ช้า และรายได้ที่พลาดไป ชิปทำสิ่งที่ได้รับการออกแบบมา แต่ปัญหาคือลูกค้าไม่สามารถใช้งานได้ง่าย

พิจารณาสิ่งที่เกิดขึ้นกับอุตสาหกรรมรถยนต์ รถยนต์เองเป็นปัญหาที่ได้รับการแก้ไขแล้วในกลางศตวรรษที่ 20 แต่เมื่อซอฟต์แวร์กลายเป็นปัจจัยที่แตกต่าง บริษัทที่มีมรดกการผลิตที่ลึกที่สุดต้องดิ้นรนมากที่สุดในการปรับตัว ฟอร์ดและจีเอ็มรู้วิธีการสร้างเครื่องยนต์ แต่ไม่มีกล้ามเนื้อในการสร้างระบบปฏิบัติการ อุตสาหกรรมฮาร์ดแวร์ AI กำลังผ่านการเปลี่ยนแปลงในแบบเดียวกัน และความคล้ายคลึงกันนี้ไม่สบายใจมาก นVIDIA มีบทบาทเป็นผู้รุกรานที่มีฐานซอฟต์แวร์ ในขณะที่บริษัทซิลิคอนแบบดั้งเดิมยังคงพยายามค้นหาวิธีการขายระบบนิเวศของนักพัฒนาไปพร้อมกับซิลิคอน

ความโดดเด่นของนVIDIA เกือบจะไม่เกี่ยวข้องกับการมีชิปที่ดีที่สุด CUDA (Compute Unified Device Architecture) มีอายุ 20 ปี โดยมีหนี้สินทางเทคนิคที่สะสมอยู่ แต่สิ่งที่นVIDIA สร้างขึ้นจริงๆ คือระบบปฏิบัติการของการคำนวณ AI: ระบบนิเวศที่คาดการณ์ได้และเต็มที่ที่นักพัฒนาและ OEM สามารถพึ่งพาได้ในงานผลิต

ลูกค้าเลือกแพลตฟอร์มตามความเต็มที่ของซอฟต์แวร์และความเสี่ยงในการรวมระบบ ดังนั้นเมื่อชิปเร่งความเร็วใหม่มาถึงโดยไม่มีซอฟต์แวร์สแต็กที่พร้อมสำหรับการผลิต การสนทนาทางการค้าจะสิ้นสุดลงก่อนที่จะเริ่มต้น

เวลาในการรันโมเดลแรก ซึ่งกำหนดเป็นวิธีการที่ลูกค้าได้รับงานโหลด AI ที่แท้จริงบนชิปเร่งความเร็วที่กำหนด มากกว่าเป็นเมตริกการค้าที่มีความหมายมากกว่าประสิทธิภาพสูงสุด นั่นคือการสนทนาที่บริษัทฮาร์ดแวร์ส่วนใหญ่ไม่พร้อมที่จะพูด

ตลาดที่แท้จริงคือการอนุมาน

ภาษาประจำของธุรกิจคือ P&L และทุกๆ บริษัทที่ใช้ AI ต้องตอบคำถามเดียวกัน: ที่ไหนคือเงิน และอะไรที่หยุดฉันไม่ให้ได้รับเงินนั้น การฝึกอบรมเป็นขั้นตอนที่จำเป็น แต่ AI ที่ใช้ในเชิงพาณิชย์อยู่ในด้านการอนุมาน และตลาดนั้นเพิ่งเริ่มต้นขึ้น

ความไม่สมมาตรของขนาดที่นี่น่าประทับใจ การฝึกอบรมครอบคลุมกรณีการใช้งานหนึ่งครั้ง ในขณะที่การอนุมานครอบคลุมจำนวนอนันต์ ทุกๆ การใช้งาน AI ในรถยนต์ โรงงาน โรงพยาบาล โทรศัพท์ หรือคลังเก็บต้องการการอนุมาน ชิปที่รันระบบความปลอดภัยในรถยนต์ไม่สามารถดึงพลังงานจากศูนย์ข้อมูลได้ และอุปกรณ์ที่รันการอนุมานแบบเรียลไทม์บนพื้นโรงงานไม่สามารถทนความล่าช้าได้ ตลาดการอนุมานที่จุดสิ้นสุดต้องการซิลิคอนที่ออกแบบโดยเฉพาะสำหรับการใช้พลังงาน ประโยชน์ทางกายภาพ และความต้องการด้านความปลอดภัยและความน่าเชื่อถือของอุตสาหกรรมที่ใช้งาน

การตัดสินใจล่าสุดของ Google ที่จะแบ่ง TPU รุ่นที่ 8 ของตนออกเป็นสองชิปที่แตกต่าง ชิปหนึ่งสำหรับการฝึกอบรมและอีกชิปหนึ่งสำหรับการอนุมาน น่าสนใจ การเลือกระบบสถาปัตยกรรมนี้ยอมรับว่างานโหลดทั้งสองมีความแตกต่างกันมากจนการปรับให้เหมาะสมสำหรับทั้งสองในดีไซน์เดียวหมายความว่าไม่สามารถทำได้ดีในงานโหลดใดๆ เมื่อบริษัทที่รันโครงสร้างพื้นฐาน AI ที่ใหญ่ที่สุดตัดสินใจว่าการเชี่ยวชาญมากกว่าการรวมกันมากขึ้น สิ่งนี้แสดงให้เห็นว่าตลาดกำลังจะไปทางไหน: ไปสู่ซิลิคอนการอนุมานที่ออกแบบโดยเฉพาะที่ใช้งานที่จุดสิ้นสุด ในปริมาณภายใต้ข้อจำกัดในโลกแห่งความเป็นจริงที่ไม่ได้ออกแบบมาเพื่อวัดโดยการเปรียบเทียบศูนย์ข้อมูล

เรากำลังอยู่ในสถานการณ์ที่ทุกคนต้องการการอนุมาน ในขณะที่ตลาดส่วนใหญ่ยังคงจัดระเบียบตามการฝึกอบรม

ข้อจำกัดทางโครงสร้างของมรดก

บริษัทที่มีตำแหน่งที่ดีที่สุดในการผลิตในระดับใหญ่ยังคงไม่สามารถตอบสนองตลาดที่การอนุมานจะอยู่ได้ ลูกค้าในอุตสาหกรรมรถยนต์ต้องการให้ผู้จัดหาส่วนประกอบรับประกันการมีอยู่ของส่วนประกอบเป็นเวลาหนึ่งทศวรรษ บริษัทซิลิคอนแบบทั่วไปเช่น Intel (INTC ) ไม่พร้อมที่จะให้คำมั่นสัญญานั้น ข้อจำกัดทางโครงสร้างนี้ทำให้อุตสาหกรรมทั้งหมดไม่ได้รับการบริการ และไม่มีการเจรจาที่สามารถเปลี่ยนแปลงสิ่งนี้ได้

แพลตฟอร์ม AI ที่จุดสิ้นสุดของนVIDIA กำลังเผชิญกับความท้าทายจากทางเลือกที่เข้ากันได้กับ PIN ที่ให้ประสิทธิภาพที่ดีกว่าต่อวัตต์โดยไม่ต้องเปลี่ยนแปลงซอฟต์แวร์สแต็ก ลูกค้าสามารถเปลี่ยนชิปและรักษาสิ่งอื่นๆ ไว้ ทำให้สิ่งนี้เป็นการโจมตีเชิงพาณิชย์โดยตรงต่อส่วนที่แข็งแกร่งที่สุดของตำแหน่งของนVIDIA ที่จุดสิ้นสุด

บริษัทที่พิสูจน์แนวคิดของตนบน CUDA กำลังพบว่าการใช้งานที่มีประสิทธิภาพในระดับใหญ่ต้องมีการออกแบบซ้ำบนซิลิคอนที่ใช้พลังงานต่ำกว่า เนื่องจากเมื่อองค์กรต่างๆ นำอุปกรณ์ออกสู่ตลาดหลายหมื่นหน่วย ต้นทุนต่อหน่วยและความใช้พลังงานกลายเป็นปัจจัยที่ตัดสินใจ การใช้งานที่เกิดขึ้นในตลาดการอนุมานเป็นเรื่องตรงไปตรงมา: ใช้สิ่งที่ทำงาน ทดสอบ แล้วหาวิธีการใช้งานที่มีประสิทธิภาพทางเศรษฐกิจ เพราะ คุณต้องทำเงินจากมัน โดยพิจารณาจากความเร็วของการนำ AI ไปใช้ ช่วงเวลาในการสร้างความได้เปรียบด้านซอฟต์แวร์และระบบนิเวศวัดเป็นไตรมาส

การลงทุนด้านวิศวกรรมที่บริษัทส่วนใหญ่ข้ามไป

บริษัทฮาร์ดแวร์ AI ยังคงส่งชิปที่มีพลังงานสูงพร้อมซอฟต์แวร์ที่ไม่สามารถรันชิปได้อย่างเต็มที่ ซอฟต์แวร์ระบบที่พร้อมสำหรับการผลิต ซึ่งครอบคลุมการรันการอนุมาน การปรับแต่งคอมไพเลอร์ และการเปิดใช้งานงานโหลด ต้องการวิศวกรรมที่ลึกและเชี่ยวชาญซึ่งบริษัทฮาร์ดแวร์ส่วนใหญ่ไม่มีในองค์กร

การสร้างความสามารถนี้หมายถึงการ雇วิศวกรคอมไพเลอร์และสถาปนิก runtime ที่สามารถปิดช่องว่างระหว่างสิ่งที่ชิปสามารถทำได้ทางทฤษฎีและลูกค้าสามารถใช้งานได้จริง บริษัทต่างๆ ยังต้องลงทุนในเครื่องมือก่อนที่รายได้จะพิสูจน์ได้ เพราะ เมื่อรายได้มาถึง ช่วงเวลาได้ปิดไปแล้ว บริษัทที่ข้ามการลงทุนนี้ไม่เพียงแต่ล้าหลัง แต่ยังเสียสัญญาไปด้วย

ชิปที่บรรลุระดับใหญ่คือชิปที่สามารถใช้งานได้มากที่สุด และความสามารถในการใช้งานเป็นฟังก์ชันของคุณภาพซอฟต์แวร์ ผู้ซื้อในระดับล่างสุด ตั้งแต่ OEM และ Hyperscalers ไปจนถึงลูกค้าองค์กร ได้รับผลกระทบจากซิลิคอนที่เปรียบเทียบได้ดีแต่รวมกันไม่ได้ดี พวกเขาเลือกตามความเต็มที่ของระบบนิเวศและความเสี่ยงในการรวมระบบ บริษัทที่ให้ความสำคัญกับซอฟต์แวร์เป็นวิศวกรรมลำดับแรกสามารถเปลี่ยนการบินเป็นสัญญาผลิตได้เร็วขึ้นและเข้าถึงรายได้ได้เร็วขึ้น บริษัทที่ให้ความสำคัญกับซอฟต์แวร์เป็นเรื่องรองจะเห็นซิลิคอนที่เหนือกว่าทางเทคนิคแพ้ให้กับชิปที่ด้อยกว่าซึ่งมีสแต็กที่เต็มที่มากกว่า

นาฬิกากำลังเดินแล้ว

บริษัทฮาร์ดแวร์ AI ที่มีตำแหน่งที่จะจับหุ้นสำคัญในระยะถัดไปกำลังสร้างความได้เปรียบของระบบนิเวศในวันนี้ ซึ่งจะยากสำหรับผู้เข้าร่วมที่มาสายที่จะทำซ้ำ ความยืดหยุ่นของซอฟต์แวร์ ความสามารถในการปรับตัวเข้ากับสถาปัตยกรรมโมเดลใหม่โดยไม่ต้องรอการออกซิลิคอนครั้งถัดไป แยกชิปที่ยังคงเกี่ยวข้องเชิงพาณิชย์ออกจากชิปที่วนซ้ำผ่านการบินโดยไม่สร้างรายได้ที่ต้องการเพื่อสนับสนุนรุ่นต่อไป

การตัดสินใจที่กำลังทำอยู่ในขณะนี้ ในทีมวิศวกรรม สัญญาการร่วมมือ และการบินเชิงพาณิชย์ทั่วทั้งภูมิทัศน์ของฮาร์ดแวร์ AI จะกำหนดบริษัทใดที่ยังคงมีความเกี่ยวข้องในปี 2028 การเริ่มต้น CUDA ที่ 20 ปีเป็นร่องน้ำที่สร้างขึ้นจากความลึกของระบบนิเวศ แต่บริษัทใดๆ ก็ตามที่ บริษัทที่เต็มใจที่จะรักษาซอฟต์แวร์ให้เป็นวิศวกรรมที่ยั่งยืนสามารถสร้างความลึกนั้นได้ตลอดเวลา คำถามที่อุตสาหกรรมต้องตอบคือบริษัทใดกำลังเคลื่อนไหวเพียงพอในการสร้างความลึกของระบบนิเวศที่ทำให้ชิปของตนเป็นตัวเลือกเริ่มต้นก่อนที่ชิปของคนอื่นจะกลายเป็นชิปที่มีความเข้มแข็งเกินกว่าจะถูกแทนที่