รีวิวหนังสือ
รีวิวหนังสือ: The Thinking Machine: Jensen Huang, NVIDIA, และไมโครชิปที่เป็นที่ต้องการที่สุดในโลก โดย Stephen Witt

The Thinking Machine: Jensen Huang, NVIDIA, และไมโครชิปที่เป็นที่ต้องการที่สุดในโลก มีความแตกต่างจากหนังสือส่วนใหญ่ที่เขียนเกี่ยวกับปัญญาประดิษฐ์ เนื่องจากมันเข้าใกล้หัวข้อนี้จากมุมที่ผู้อ่านหลายคน รวมทั้งฉันเอง มองข้ามไป
เช่นเดียวกับหลายคนที่ติดตาม AI มาหลายปี ความเข้าใจของฉันในด้านนี้ถูกกำหนดโดย 里程碑ที่คุ้นเคย เรื่องราวมักจะเริ่มต้นในปี 1956 ที่ การประชุม Dartmouth จากนั้นผ่านระบบสัญลักษณ์ในช่วงแรก จนถึงช่วงเวลาที่สำคัญ เช่น IBM's Deep Blue ที่ชนะ Garry Kasparov DeepMind ที่ชนะเกม Go และ最近ที่สุด OpenAI ที่แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่สามารถประสานกลยุทธ์ในสภาพแวดล้อมหลายผู้เล่นที่ซับซ้อนได้ ช่วงเวลาที่น่าประทับใจและง่ายต่อการจำได้เนื่องจากมันอยู่ที่ชัยชนะที่เห็นได้ชัด
สิ่งที่หนังสือของ Stephen Witt ทำได้ดีเยี่ยมคือท้าทายการกำหนดกรอบนั้น แทนที่จะมุ่งเน้นไปที่ช่วงเวลาที่ AI ทำให้โลกประทับใจ The Thinking Machine มุ่งเน้นไปที่ชั้นที่ไม่เห็นได้ภายใต้ความสำเร็จเหล่านั้น มันโต้แย้งอย่างน่าเชื่อถือว่า ยุค AI สมัยใหม่นี้ไม่ได้ถูกปลดล็อกหลักๆ โดยความคิดที่ฉลาดเพียงอย่างเดียว แต่โดยการเปลี่ยนแปลงพื้นฐานใน cáchที่การคำนวณถูกดำเนินการ
โดยการมุ่งเน้นไปที่ NVIDIA (NVDA ) และผู้ร่วมก่อตั้ง Jensen Huang Witt ทำให้เรื่องราวของการปฏิวัติ AI เป็นเรื่องราวเกี่ยวกับการออกแบบคอมพิวเตอร์ อีโคซิสเต็มของนักพัฒนา และความมุ่งมั่นในระยะยาว ผลลัพธ์ไม่ใช่เพียงชีวประวัติของบริษัท แต่เป็นบทที่หายไปในประวัติศาสตร์กว้างๆ ของปัญญาประดิษฐ์
จากวิดีโอเกมสู่พาราไดม์ใหม่ของการคำนวณ
จุดเริ่มต้นของ NVIDIA นั้นห่างไกลจากความทะเยอทะยานที่สูงซึ่งเกี่ยวข้องกับ AI ในปัจจุบัน บริษัท ก่อตั้งในปี 1993 ในฐานะผู้ผลิตชิปกราฟิก โดยมุ่งเน้นไปที่การแสดงโลกของวิดีโอเกมที่มีความสมจริงมากขึ้นเรื่อยๆ ความท้าทายในขณะนั้นไม่ใช่เรื่องของความฉลาด แต่เป็นเรื่องของความเร็ว เกมจำเป็นต้องมีการคำนวณจำนวนมากที่ต้องดำเนินการในทันทีเพื่อจำลองแสง การเคลื่อนไหว และความลึก
วิธีแก้ปัญหาที่ NVIDIA พยายามคือ การคำนวณแบบขนาน การคำนวณแบบขนานหมายถึงการดำเนินการคำนวณหลายอย่างในเวลาเดียวกัน ไม่ใช่การดำเนินการตามลำดับ แทนที่จะพึ่งพาแกนกลางที่ทรงพลังเพียงตัวเดียวที่ประมวลผลคำสั่งตามลำดับ GPU ใช้หลายพันแกนกลางที่เล็กกว่าที่ทำงานพร้อมกันในการดำเนินการทางคณิตศาสตร์ที่คล้ายกัน วิธีนี้มีประสิทธิภาพสูงสำหรับการทำงานที่เกี่ยวข้องกับการทำซ้ำการคำนวณที่คล้ายกันบนเซตข้อมูลขนาดใหญ่
เดิมทีการออกแบบนี้ถูกสร้างขึ้นสำหรับกราฟิก แต่ Witt แสดงให้เห็นว่าการตัดสินใจนี้สร้างรากฐานที่เหมาะสมสำหรับเครือข่ายประสาทในอนาคตหลายทศวรรษ การฝึกโมเดล AI รุ่นใหม่เกี่ยวข้องกับการดำเนินการทางคณิตศาสตร์จำนวนมากที่เหมือนกันซึ่งใช้กับเซตข้อมูลขนาดใหญ่ GPU ได้รับการปรับให้เหมาะสมสำหรับการทำงานประเภทนี้แล้ว
สิ่งที่ทำให้ส่วนนี้ของหนังสือน่าสนใจคือวิธีที่ Witt เชื่อมโยงการตัดสินใจด้านเทคนิคกับการอยู่รอด NVIDIA ไม่ได้เลือกการคำนวณแบบขนานเพราะมันเห็นปัญญาประดิษฐ์ มันเลือกเพราะว่ามันเป็นวิธีเดียวที่จะแข่งขันในกราฟิกแบบเรียลไทม์
Jensen Huang และการคิดในระบบ ไม่ใช่สินค้า
ที่ศูนย์กลางของเรื่องราวนี้คือ Jensen Huang ซึ่งถูกพรรณนาว่าไม่ใช่ผู้บริหารแบบเดิมๆ แต่เป็นคนที่คิดในระบบมากกว่าสินค้าเดี่ยวๆ Witt แสดงให้เห็น Huang เป็นคนต้องการสิ่งที่สมบูรณ์แบบ มีความเข้มข้น และบางครั้งก็ยาก แต่ก็มีความสม่ำเสมอใน cáchที่เขามองเทคโนโลยีในระยะยาว
ในขณะที่คู่แข่งมอง GPU เป็นชิ้นส่วนที่ทิ้งได้ซึ่งเชื่อมโยงกับวงจรเกม Huang มองว่ามันเป็นรากฐานของแพลตฟอร์มการคำนวณที่กว้างขึ้น ความแตกต่างนี้มีความสำคัญ สินค้าถูกแทนที่ แพลตฟอร์มก็สะสมขึ้น
ภายใน NVIDIA สะท้อนความคิดนี้ นักวิศวกรถูกกระตุ้นให้คิดล่วงหน้าหลายปี ซอฟต์แวร์ถูกมองว่ามีความสำคัญเช่นเดียวกับซิลิคอน การลงทุนในเครื่องมือและความสนับสนุนนักพัฒนาถูกทำล่วงหน้ามาก่อนที่จะมีความต้องการที่ชัดเจน การตัดสินใจเหล่านี้ดูเหมือนมากเกินไปหรือไม่จำเป็นในขณะนั้น แต่สุดท้ายก็สร้างรั้วที่คู่แข่งต้องพยายามข้าม
Witt ทำให้เห็นได้ชัดว่าความสำเร็จของ NVIDIA ไม่ใช่เรื่องที่ต้องเกิดขึ้น บริษัทนี้ใกล้จะล้มหลายครั้ง สิ่งที่ทำให้มันเดินหน้าต่อไม่ใช่การผิดพลาดครั้งเดียว แต่ความเชื่อที่ยั่งยืนในการคำนวณแบบเร่งความเร็วที่จะสำคัญในอนาคต
CUDA และเรื่องราวกำเนิด AI ที่หลายคนพลาดไป
สิ่งสำคัญที่ The Thinking Machine มีคือการนำเสนอเรื่องราวของ CUDA ในประวัติศาสตร์ AI
ก่อนที่จะอ่านหนังสือเล่มนี้ มันง่ายที่จะคิดว่า CUDA เป็นเพียงเครื่องมือพัฒนาที่ประสบความสำเร็จ Witt แสดงให้เห็นว่ามันสมควรได้รับความสนใจมากกว่านั้น CUDA ถูกสร้างขึ้นเพื่อให้การคำนวณแบบขนานใช้ได้นอกเหนือจากกราฟิก ก่อนที่จะมี CUDA การใช้ GPU สำหรับการคำนวณทั่วไปต้องบังคับปัญหาผ่านอินเทอร์เฟซเฉพาะของกราฟิก ซึ่งไม่เสถียร ไม่มีประสิทธิภาพ และจำกัดเฉพาะผู้เชี่ยวชาญ
CUDA เปลี่ยนแปลงสิ่งนี้โดยทำให้นักพัฒนาสามารถเขียนโปรแกรม GPU โดยใช้แบบจำลองการเขียนโปรแกรมที่คุ้นเคย หลายพันแกนกลางการคำนวณกลายเป็นทรัพยากรทั่วไปที่สามารถเข้าถึงได้ สิ่งนี้ลดข้อจำกัดในการเข้าถึงการคำนวณประสิทธิภาพสูงในลักษณะที่ไม่มากนักคนเข้าใจในขณะนั้น
สิ่งนี้สอดคล้องกับประสบการณ์ของฉันเองในการเรียนรู้ประวัติ AI เรื่องราวที่ฉันรับมาเน้นไปที่โมเดลและอัลกอริทึมมาก The Thinking Machine ทำให้เห็นชัดว่าความคิดเหล่านั้นสามารถนำไปใช้ได้จริงเมื่อนักวิจัยสามารถฝึกอบรมได้ที่ขนาดใหญ่
นักวิจัย AI รับรู้ว่าเครือข่ายประสาทเป็นการจับคู่ที่สมบูรณ์แบบสำหรับการคำนวณแบบขนาน การฝึกอบรมเกี่ยวข้องกับการทำซ้ำการดำเนินการเดียวกันบนเซตข้อมูลขนาดใหญ่ การปรับพารามิเตอร์หลายล้านหรือหลายพันล้านครั้ง CUDA ทำให้กระบวนการนี้เร็วขึ้น ถูกกว่า และเชื่อถือได้มากกว่าที่ CPU จะทำได้
สิ่งนี้มีความสำคัญมากขึ้นเมื่อการเรียนรู้ลึกเร่งความเร็วและต่อมาเมื่อโมเดลแบบทรานส์ฟอร์เมอร์เกิดขึ้น โมเดลทรานส์ฟอร์เมอร์เจริญเติบโตด้วยขนาด CUDA ไม่ได้สร้างสถาปัตยกรรมเหล่านี้ แต่มันทำให้การพัฒนาอย่างรวดเร็วเป็นไปได้
สิ่งที่ Witt จับได้ดีคือผลลัพธ์นี้ไม่ได้ถูกวางแผนไว้ CUDA ถูกสร้างขึ้นสำหรับการคำนวณทางวิทยาศาสตร์ นักวิจัย AI ค้นพบพลังของมันและดึง NVIDIA เข้าสู่จุดศูนย์กลางของการแข่งขัน AI
โครงสร้างพื้นฐานมากกว่าอัลกอริทึม
ข้อคิดที่มีคุณค่าของหนังสือเล่มนี้คือความก้าวหน้าของ AI ถูกจำกัดโดยโครงสร้างพื้นฐานไม่น้อยไปกว่าความคิด อีกหลายเรื่องมุ่งเน้นไปที่อัลกอริทึม เทคนิคการฝึกอบรม และเซตข้อมูล The Thinking Machine เตือนให้ผู้อ่านจำไว้ว่าไม่มีสิ่งเหล่านี้สำคัญหากไม่มีการคำนวณเพียงพอ
จากมุมมองนี้ การเติบโตของ AI ในยุคปัจจุบันดูไม่ฉับพลันและล่าช้ากว่าที่คิด โมเดลประสาทได้ถูกพัฒนามาหลายทศวรรษแล้ว สิ่งที่เปลี่ยนไปคือการมีฮาร์ดแวร์ที่สามารถฝึกอบรมได้ที่ขนาดที่มีความหมาย
NVIDIA ไม่ได้เพียงแค่ให้ชิปที่เร็วขึ้น แต่ยังสร้างระบบนิเวศของฮาร์ดแวร์ ลิบรารี่ซอฟต์แวร์ และเครื่องมือพัฒนาที่เสริมซึ่งกันและกันเมื่อเวลาผ่านไป เมื่อนักวิจัยปรับงานให้เหมาะสมกับแพลตฟอร์ม NVIDIA แพลตฟอร์มก็ถูกปรับให้ดีขึ้นเพื่อรองรับงาน AI ได้ดีขึ้น ลูปการให้ข้อมูลนี้สร้างความได้เปรียบที่ยั่งยืนซึ่งไปไกลกว่าประสิทธิภาพด้านราว
หนังสือเล่มนี้เน้นย้ำความจริงที่ชัดเจนมากขึ้นทุกวันนี้: ความเป็นผู้นำใน AI ถูกกำหนดโดยโซ่อุปทาน การผลิต ความสามารถในการผลิต ซอฟต์แวร์ และการควบคุมแพลตฟอร์ม ไม่ใช่แค่ความฉลาดในการวิจัย
วิสัยทัศน์ ความเสี่ยง และผลที่ตามมา
Witt ไม่หลีกเลี่ยงผลกระทบของการครอบงำของ NVIDIA เมื่อบริษัทกลายเป็นพื้นฐานของโครงสร้างพื้นฐาน AI ทั่วโลก อิทธิพลของมันก็เพิ่มขึ้นตามไปด้วย ความเชื่อของ Jensen Huang ที่การคำนวณแบบเร่งความเร็วจะกำหนดระยะถัดไปของความก้าวหน้าทางเทคโนโลยีนั้นเป็นเส้นหลักที่贯穿ทั้งหนังสือ
แทนที่จะให้คำแนะนำทางศีลธรรม The Thinking Machine มุ่งเน้นไปที่วิธีการที่การตัดสินใจด้านวิศวกรรมและยุทธศาสตร์ที่สม่ำเสมอสะสมผลในระยะยาว NVIDIA ไม่ได้ชนะโดยการไล่ตามกระแส แต่ชนะโดยการมุ่งมั่นในการคำนวณแบบขนาน การผ่านรอบการตลาดซ้ำๆ และการลงทุนอย่างไม่หยุดยั้งในเครื่องมือที่ทำให้ฮาร์ดแวร์ของตนไม่สามารถทดแทนได้
สำหรับผู้อ่านที่ต้องการเข้าใจว่า AI ขยายตัวได้อย่างไร
สำหรับผู้อ่านที่รู้จักช่วงเวลาสำคัญของ ประวัติ AI แล้ว หนังสือเล่มนี้เติมชั้นที่หายไปใต้พวกมัน มันอธิบายว่าเหตุใดการผ่านทางจึงสามารถขยายตัวเมื่อใด และเหตุใด NVIDIA จึงกลายเป็นกำลังหลักในกระบวนการนี้
หนังสือเล่มนี้สำหรับผู้อ่านที่ต้องการเข้าใจ AI เป็นระบบอุตสาหกรรมมากกว่าแค่การรวมรูปแบบที่ฉลาด มันจะสอดคล้องกับผู้ที่สนใจในไมโครชิป ศูนย์ข้อมูล และการตัดสินใจด้านวิศวกรรมที่มองไม่เห็นซึ่งกำหนดพลังทางเทคโนโลยี
The Thinking Machine ประสบความสำเร็จเพราะมันเปลี่ยนเรื่องราวของ AI จากพื้นฐาน โดยแสดงให้เห็นว่าการคำนวณแบบขนาน แพลตฟอร์มของนักพัฒนา และวิสัยทัศน์ในระยะยาวสร้างรากฐานที่ AI รุ่นใหม่นี้ยืนอยู่












