จาก Moore’s Law ถึง “OpenAI’s Law” : เส้นทางที่เพิ่มขึ้นอย่างเป็นเอกซ์โปเนนเชียลของการพัฒนา AI

ปัญญาประดิษฐ์กำลังพัฒนาอย่างรวดเร็วที่ยากจะเข้าใจได้ เพื่ออธิบายปรากฏการณ์นี้ ผู้เชี่ยวชาญได้เริ่มใช้คำว่า “OpenAI’s Law” ซึ่งเป็นข้อสัมพันธ์ที่ทันสมัยกับ Moore’s Law แต่มีความชันมากขึ้น คำนี้ถูกนำมาใช้ในการเขียนหนังสือ Empire of AI ซึ่งบันทึกถึงการเกิดขึ้นของ OpenAI และการแข่งขันที่กำลังจะเกิดขึ้นเพื่อสร้างปัญญาประดิษฐ์ทั่วไป (AGI) ในหนังสือเล่มนี้ “OpenAI’s Law” ถูกใช้เพื่ออธิบายถึงความเร็วที่ความต้องการคอมพิวเตอร์เพิ่มขึ้น และด้วยเหตุนี้จึงเพิ่มขึ้นของความสามารถของ AI ในช่วงเวลา 10 ปีที่ผ่านมา

แม้ว่า OpenAI’s Law จะไม่ใช่กฎทางวิทยาศาสตร์อย่างเป็นทางการ แต่ก็อ้างอิงถึงแนวโน้มที่วัดได้จริงๆ คือการเพิ่มขึ้นอย่างรวดเร็วของพลังการคำนวณที่ใช้ในการฝึกอบรมโมเดล AI ที่ทันสมัย ซึ่งเกิดขึ้นในอัตราที่เร็วกว่า Moore’s Law มาก ในแง่ปฏิบัติ การคำนวณ AI ได้เพิ่มขึ้นประมาณทุกๆ 3-4 เดือน เมื่อเทียบกับ 18-24 เดือนของ Moore’s Law เส้นโค้งแบบเอกซ์โปเนนเชียลนี้เป็นพื้นฐานของการเติบโตของ AI ในยุคใหม่ และกำหนดอนาคตที่กำลังจะมาถึงเร็วกว่าที่คาดไว้

Moore’s Law: เครื่องยนต์ที่ขับเคลื่อนยุคดิจิทัล

Moore’s Law เป็นแรงผลักดันที่อยู่เบื้องหลังการเกิดขึ้นของคอมพิวเตอร์ส่วนบุคคล สมาร์ทโฟน และ การประมวลผลแบบคลาวด์ มันคาดการณ์ว่าจำนวนทรานซิสเตอร์บนชิปจะเพิ่มขึ้นประมาณทุกๆ 2 ปี ส่งผลให้ได้ผลลัพธ์ที่เพิ่มขึ้นอย่างเป็นเอกซ์โปเนนเชียลในด้านพลังการคำนวณ ประสิทธิภาพการใช้พลังงาน และการลดต้นทุน

เป็นเวลาหลายทศวรรษ รูปแบบนี้ยังคงถือเป็นจริง ทำให้ทุกๆ รุ่นของฮาร์ดแวร์มีประสิทธิภาพมากกว่ารุ่นก่อนหน้า แต่เมื่อถึงขีดจำกัดทางกายภาพและเศรษฐกิจในช่วงปี 2010 Moore’s Law เริ่มชะลอตัวลง วิศวกรตอบสนองโดยใช้โคアที่มากขึ้น การยึดชิป 3 มิติ และโปรเซสเซอร์เฉพาะเพื่อขยายประสิทธิภาพ แต่ผลประโยชน์ที่ง่ายๆ ก็หายไป

ในช่วงเวลาเดียวกันนั้น การวิจัย AI ที่ได้รับพลังจาก การเรียนรู้ลึก เริ่มเบี่ยงเบนไปจากเส้นทางแบบดั้งเดิมของ Moore’s Law

การเกิด OpenAI’s Law: เส้นโค้งการคำนวณที่ระเบิดของ AI

ในช่วงต้นปี 2010 นักวิจัยพบว่าการให้การคำนวณมากขึ้นในเครือข่ายประสาทเทียมขนาดใหญ่นำไปสู่ความสามารถ AI ที่เพิ่มขึ้นอย่างมาก ตั้งแต่ปี 2012 จำนวนการคำนวณที่ใช้ในการฝึกอบรม AI ที่ใหญ่ที่สุดเริ่มเพิ่มขึ้นประมาณทุกๆ 3-4 เดือน

การเร่งความเร็วที่น่าประหลาดใจนี้เกิดขึ้นเร็วกว่า Moore’s Law มาก ในช่วง 6 ปี การคำนวณที่ใช้ใน โมเดล AI ที่ทันสมัย เพิ่มขึ้นมากกว่า 300,000 เท่า ในขณะที่ Moore’s Law จะให้เพียงการเพิ่มขึ้น 7 เท่าในระยะเวลานั้น การคำนวณ AI เพิ่มขึ้นอย่างรวดเร็วเนื่องจากการปรับขนาดอย่างจริงจัง

ปรากฏการณ์นี้กลายเป็นที่รู้จักอย่างไม่เป็นทางการว่า OpenAI’s Law — เส้นทางที่กำหนดโดยองค์กรอย่าง OpenAI ซึ่งเชื่อว่าการปรับขนาดโมเดลและคอมพิวเตอร์เป็นเส้นทางที่เร็วที่สุดสู่ ปัญญาประดิษฐ์ทั่วไป (AGI) หนังสือ Empire of AI อธิบายการเปลี่ยนแปลงนี้โดยละเอียด โดยแสดงให้เห็นว่า OpenAI และผู้นำของมันให้ความสำคัญกับยุทธศาสตร์นี้尽管มีค่าใช้จ่ายที่เพิ่มขึ้น เพราะพวกเขาเชื่อว่ามันเป็นเส้นทางที่ตรงไปสู่ความสามารถที่เปลี่ยนแปลงได้

สิ่งสำคัญคือ OpenAI’s Law ไม่ใช่ความจำเป็นทางกายภาพ — มันเป็นตัวเลือกเชิงกลยุทธ์ ความเชื่อที่ว่า “การคำนวณมากขึ้นหมายถึง AI ที่ดีกว่า” กลายเป็นหลักการชี้นำที่ได้รับการสนับสนุนจากการลงทุนจำนวนมาก การสร้างโครงสร้างพื้นฐาน และการร่วมมือกับผู้ให้บริการคลาวด์

สมมติฐานการปรับขนาดและการแข่งขันใหม่

พื้นฐานของ OpenAI’s Law คือ สมมติฐานการปรับขนาด — ความคิดที่ว่าการเพิ่มขนาดโมเดลและฝึกอบรมด้วยข้อมูลมากขึ้นจะนำไปสู่ผลลัพธ์ที่ดีกว่า สมมติฐานนี้ได้รับการยอมรับเมื่อแต่ละโมเดล — GPT-2, GPT-3, GPT-4 — แสดงให้เห็นถึงการกระโดดในด้านความคล่องแคล่ว การให้เหตุผล และความเข้าใจหลายรูปแบบ

ที่ใจกลางของแนวโน้มนี้คือการแข่งขันที่รุนแรงระหว่างบริษัทเทคโนโลยีเพื่อครอบงำด้านหน้าของ AI ผลลัพธ์คือการแข่งขันอย่างหนัก โดยที่แต่ละ 里程碑ใหม่ต้องการทรัพยากรการคำนวณที่เพิ่มขึ้นอย่างเป็นเอกซ์โปเนนเชียลมากกว่าครั้งก่อน

การฝึกอบรมโมเดลขนาดใหญ่ต้องใช้ GPU สูงหลายหมื่นตัวที่ทำงานแบบขนาน การคาดการณ์สำหรับโมเดลในอนาคตเกี่ยวข้องกับงบการคำนวณที่อาจเข้าใกล้หรือเกิน 100 พันล้านดอลลาร์ พร้อมกับความต้องการพลังงานและโครงสร้างพื้นฐานที่มาก

แนวโน้มนี้นำไปสู่การเกิดเส้นโค้งแบบเอกซ์โปเนนเชียลใหม่ — ไม่ได้ถูกกำหนดโดยจำนวนทรานซิสเตอร์ แต่โดยความเต็มใจและความสามารถในการปรับขนาดการคำนวณที่ไม่มีขีดจำกัด

การเปรียบเทียบ: Huang’s Law และ Kurzweil’s Law of Accelerating Returns

เพื่อทำความเข้าใจถึงความสำคัญของ OpenAI’s Law อย่างเต็มที่ มันจะช่วยให้เราสามารถสำรวจกรอบการทำงานอื่นๆ ที่หล่อหลอมความเข้าใจของเราเกี่ยวกับการก้าวหน้าทางเทคโนโลยี

Huang’s Law ซึ่งตั้งชื่อตาม CEO ของ NVIDIA Jensen Huang อธิบายถึงการสังเกตว่าประสิทธิภาพของ GPU สำหรับการทำงาน AI ได้ปรับปรุงอย่างรวดเร็วมากกว่า Moore’s Law ในช่วง 5 ปี GPU ได้เห็นการปรับปรุงประสิทธิภาพมากกว่า 25 เท่า ซึ่งมากกว่าผลลัพธ์ที่คาดหวัง 10 เท่าภายใต้การปรับขนาดทรานซิสเตอร์แบบดั้งเดิม

การเร่งความเร็วนี้ไม่ได้เกิดจากความหนาแน่นของชิปเพียงอย่างเดียว แต่เป็นผลมาจากการนวัตกรรมระดับระบบ การปรับปรุงโครงสร้าง GPU การเพิ่มแบนด์วิธของหน่วยความจำ การเชื่อมต่อความเร็วสูง และความก้าวหน้าในระบบนิเวศของซอฟต์แวร์ เช่น CUDA และไลบรารีการเรียนรู้ลึก การเพิ่มประสิทธิภาพด้านวิศวกรรมในการจัดตาราง การดำเนินการเทนเซอร์ และการทำงานแบบขนาน cũngมีบทบาทสำคัญ

การปรับปรุงประสิทธิภาพในการทำงานแบบอินเฟอร์เรนซ์และการฝึกอบรมแบบเดี่ยวได้ถึง 1,000 เท่าในช่วง 10 ปีที่ผ่านมา โดยได้รับแรงผลักดันจากกลุ่มนวัตกรรมฮาร์ดแวร์และซอฟต์แวร์ที่สะสมกัน ในผลลัพธ์ ประสิทธิภาพของ GPU สำหรับการทำงาน AI ได้เพิ่มขึ้นประมาณทุกๆ 6-12 เดือน — เร็วกว่าเส้นโค้งของ Moore ถึง 3-4 เท่า ความเร่งนี้ทำให้ GPU เป็นเครื่องยนต์ที่จำเป็นของ AI ในยุคใหม่ โดยเปิดโอกาสให้การฝึกอบรมแบบขนานขนาดใหญ่ที่เป็นพื้นฐานของ OpenAI’s Law

Kurzweil’s Law of Accelerating Returns นำแนวคิดของการเติบโตแบบเอกซ์โปเนนเชียลไปสู่ขั้นตอนต่อไป — โดยเสนอว่าอัตราการเติบโตแบบเอกซ์โปเนนเชียลนั้นเร่งความเร็วขึ้นเองเมื่อเวลาผ่านไป ตามหลักการนี้ แต่ละการผิดพลาดทางเทคโนโลยีไม่ได้เพียงแต่คงอยู่เพียงอย่างเดียว แต่ยังสร้างเครื่องมือ แพลตฟอร์ม และความรู้ที่ทำให้การผิดพลาดครั้งต่อไปเกิดขึ้นเร็วขึ้นและได้ผลมากขึ้น ส่งผลให้เกิดผลกระทบเชิงประกอบที่การเปลี่ยนแปลงทางเทคโนโลยีให้อาหารตัวเอง โดยเร่งความเร็วทั้งในขนาดและความถี่

Kurzweil ได้โต้แย้งว่าพลวัตนี้จะบีบอัดความก้าวหน้าหลายศตวรรษให้เหลือเพียงไม่กี่ทศวรรษ หากอัตราการก้าวหน้าเพิ่มขึ้นสองเท่าทุกๆ ทศวรรษ ศตวรรษที่ 21 อาจสัมผัสกับการกระโดดที่น่าเหลือเชื่อ — เทียบเท่ากับการพัฒนามานานหลายพันปีที่อัตราการก้าวหน้าในประวัติศาสตร์

กฎนี้มีความเกี่ยวข้องอย่างยิ่งสำหรับ AI AI ในยุคใหม่ไม่ได้เป็นเพียงเรื่องของความก้าวหน้า แต่ยังเป็นตัวเร่งความก้าวหน้าด้วย ระบบ AI กำลังช่วยในการออกแบบชิปใหม่ การเพิ่มประสิทธิภาพเครือข่ายประสาทเทียม การทำวิจัยทางวิทยาศาสตร์ และแม้แต่การเขียนโค้ดที่ใช้ในการสร้างระบบ AI รุ่นต่อไป สิ่งนี้สร้างวงจรการปรับปรุงแบบเรคурсซึ่งแต่ละรุ่นของ AI ปรับปรุงรุ่นต่อไป ทำให้ระยะเวลาการพัฒนาสั้นลงและเพิ่มความสามารถ

วงจรป้อนกลับนี้เริ่มมีลักษณะคล้ายกับสิ่งที่บางคนเรียกว่า การระเบิดของปัญญา — สถานการณ์ที่ระบบ AI สามารถปรับปรุงตนเองอย่างรวดเร็วโดยไม่ต้องมีการแทรกแซงจากมนุษย์ ผลลัพธ์คือเส้นที่ไม่เพียงแต่เพิ่มขึ้นอย่างรวดเร็ว แต่ยังหักเหไปข้างหน้าอย่างมากเมื่อวงจรการปรับปรุงยุบตัวและความก้าวหน้าเกิดขึ้นอย่างต่อเนื่อง หากรูปแบบนี้ดำเนินต่อไป เราอาจสังเกตเห็นการเปลี่ยนแปลงทางเทคโนโลยีที่รู้สึกเหมือนเกิดขึ้นในทันที — โดยที่อุตสาหกรรมทั้งหมด สาขาวิชาวิทยาศาสตร์ และรูปแบบการคิดพัฒนาไปในเวลาไม่กี่เดือนแทนที่จะเป็นทศวรรษ

OpenAI’s Law ตั้งอยู่ในลักษณะนี้เป็นการแสดงออกมาในด้านความต้องการของการเติบโตแบบเอกซ์โปเนนเชียล ไม่เหมือนกับ Moore’s Law หรือ Huang’s Law ซึ่งอธิบายถึงอัตราการปรับปรุงของฮาร์ดแวร์ OpenAI’s Law สะท้อนถึงความต้องการในการใช้การคำนวณที่นักวิจัยต้องการเพื่อให้ได้ผลลัพธ์ที่ดีกว่า มันแสดงให้เห็นว่าการก้าวหน้าของ AI ไม่ได้ถูกจำกัดโดยความสามารถของชิป แต่โดยความเต็มใจและความสามารถในการปรับขนาดของนักวิจัย

สัญญา: ทำไม AI ที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียลจึงมีความสำคัญ

ผลกระทบของ OpenAI’s Law มีความสำคัญอย่างมาก

ในด้านที่ดี การปรับขนาดแบบเอกซ์โปเนนเชียลได้ผลลัพธ์ที่น่าประหลาดใจ ระบบ AI สามารถเขียนบทความ สร้างโค้ด ช่วยเหลือในการวิจัยทางวิทยาศาสตร์ และมีส่วนร่วมในการสนทนาที่น่าประหลาดใจ แต่ละการเพิ่มขึ้น 10 เท่าดูเหมือนจะปลดล็อกความสามารถใหม่ๆ ที่เกิดขึ้นเอง โดยชี้ให้เห็นว่าเราอาจจะใกล้จะบรรลุถึง AGI มากขึ้น

AI อาจจะเปลี่ยนแปลงอุตสาหกรรมต่างๆ ตั้งแต่การศึกษาและด้านสุขภาพไปจนถึงการเงินและ วัสดุศาสตร์ หาก OpenAI’s Law ยังคงดำเนินต่อไป เราอาจจะเห็นการผิดพลาดที่บีบอัดหลายทศวรรษของนวัตกรรมให้เหลือเพียงไม่กี่ปี

สิ่งนี้คือแก่นแท้ของคำที่เราตั้งขึ้นใหม่: “ความเร็วการหลบหนีของ AI” — ช่วงเวลาที่ AI เริ่มปรับปรุงตนเอง ทำให้ความก้าวหน้าเข้าสู่การเพิ่มขึ้นแบบเอกซ์โปเนนเชียลที่เสริมกำลังตนเอง

ราคา: ต้นทุนด้านสิ่งแวดล้อม เศรษฐกิจ และจริยธรรม

แต่การเติบโตแบบเอกซ์โปเนนเชียลไม่ได้มาโดยไม่มีค่าใช้จ่าย

การฝึกอบรมโมเดลแนวหน้าตอนนี้ใช้พลังงานและน้ำจำนวนมาก การใช้ GPU หลายพันชิ้นเป็นเวลาหลายสัปดาห์สร้างความกังวลเกี่ยวกับสิ่งแวดล้อม รวมถึงการปล่อยก๊าซคาร์บอนและของเสียความร้อน โซ่การผลิตสำหรับชิป AI ก็อยู่ภายใต้แรงกดดันเช่นกัน โดยทำให้เกิดประเด็นด้านความยั่งยืนและภูมิรัฐศาสตร์

ในด้านการเงิน บริษัทเทคโนโลยีเพียงไม่กี่แห่งหรือสตาร์ทอัพขนาดใหญ่เท่านั้นที่สามารถอยู่ในเส้นทางได้ สิ่งนี้นำไปสู่การรวมอำนาจ โดยที่กลุ่มองค์กรขนาดเล็กควบคุมแนวหน้าของความฉลาด

ในด้านจริยธรรม OpenAI’s Law ส่งเสริมความคิดของการแข่งขัน — ใหญ่กว่า เร็วกว่า เร็วกว่า — ซึ่งอาจนำไปสู่การนำระบบออกสู่ตลาดก่อนที่สังคมจะเข้าใจผลกระทบของมันอย่างเต็มที่

เพื่อลดปัญหานี้ นักวิจัยได้เสนอ กรอบการกำกับดูแล ที่ติดตามการพัฒนา AI ไม่ใช่โดยสิ่งที่โมเดลทำ แต่โดยการคำนวณที่ใช้ในการฝึกอบรมพวกมัน เนื่องจากการคำนวณเป็นหนึ่งในตัวบ่งชี้ที่ดีที่สุดของความสามารถของโมเดล จึงอาจกลายเป็นตัวแทนสำหรับการประเมินความเสี่ยงและการกำกับดูแล

ขีดจำกัดของการปรับขนาด: สิ่งที่เกิดขึ้นเมื่อเส้นโค้งหักเห?

尽管มีการเพิ่มขึ้นที่น่าประทับใจ มีการถกเถียงกันว่าการเติบโตแบบเอกซ์โปเนนเชียลจะดำเนินต่อไปได้เท่าไหร่ บางคนเชื่อว่าเรากำลังเห็นการลดลงของผลตอบแทน — โมเดลที่ใหญ่ขึ้นใช้การคำนวณมากขึ้น แต่ให้เพียงการปรับปรุงที่เล็กน้อย

คนอื่น ๆ แย้งว่าการผิดพลาดในด้านประสิทธิภาพ การออกแบบอัลกอริทึม หรือสถาปัตยกรรมโมเดลอาจทำให้เส้นโค้งราบออกโดยไม่ชะลอความก้าวหน้า โมเดลที่เล็กและฉลาดกว่าอาจกลายเป็นที่น่าสนใจมากกว่าโมเดลขนาดใหญ่

นอกจากนี้ ความกดดันจากสาธารณชน การกำกับดูแล และข้อจำกัดของโครงสร้างพื้นฐานอาจบังคับให้อุตสาหกรรมต้องคิดใหม่เกี่ยวกับแนวคิด “การปรับขนาดทุกวิธี” หากโครงข่ายไฟฟ้า งบประมาณ หรือการยินยอมของสังคมไม่สามารถตามทัน AI ที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียลอาจต้องเผชิญกับเพดาน — หรืออย่างน้อยก็จุดเปลี่ยน

ถนนหน้า: การวางแผนอนาคตของ AI ที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียล

สำหรับตอนนี้ OpenAI’s Law ยังคงเป็นหนึ่งในมุมมองที่ชัดเจนที่สุดในการมองอนาคตของ AI มันช่วยให้เราเข้าใจว่าเราได้พัฒนามาได้อย่างไรตั้งแต่ช็อตบอทที่เริ่มแรกมาถึงระบบทั่วไปแบบหลายรูปแบบในเวลาไม่ถึงหนึ่งทศวรรษ — และทำไมการก้าวหน้าครั้งถัดไปอาจจะน่าตื่นเต้นยิ่งขึ้น

อย่างไรก็ตาม กฎนี้มาพร้อมกับการแลกเปลี่ยน: ความไม่เท่าเทียมกันในการเข้าถึง ต้นทุนที่เพิ่มขึ้น ภาระด้านสิ่งแวดล้อม และความท้าทายด้านความปลอดภัย เมื่อเราก้าวเข้าสู่ยุคใหม่นี้ สังคมจะต้องเผชิญกับคำถามพื้นฐาน:

• ใครที่จะได้กำหนดอนาคตของ AI?
• เราจะสร้างสมดุลระหว่างความก้าวหน้าและความระมัดระวังได้อย่างไร?
• ระบบใดที่จำเป็นในการจัดการความสามารถที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียลก่อนที่จะหลุดออกจากควบคุมของมนุษย์?

OpenAI’s Law ไม่ใช่สิ่งที่ไม่เปลี่ยนแปลงได้ เช่นเดียวกับ Moore’s Law ก่อนหน้านี้ มันอาจจะชะลอลง จอด หรือถูกแทนที่ด้วยพาราไดม์ใหม่ แต่สำหรับตอนนี้ มันทำหน้าที่เป็นทั้งคำเตือนและแผนที่ — เตือนให้เราเห็นว่าอนาคตของ AI ไม่ได้เพียงแต่กำลังจะก้าวหน้า แต่ยัง เพิ่มขึ้นอย่างเอกซ์โปเนนเชียล ด้วย

เรากำลังไม่เพียงแต่สังเกตเห็นประวัติศาสตร์ — เรากำลังสร้างมันขึ้นมาด้วยความเร็วที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียล แต่ด้วยอำนาจนี้มาถึงความรับผิดชอบ: เพื่อให้แน่ใจว่ามนุษยชาติจะไม่ต้องทนทุกข์ทรมานจากอันตรายที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียลพร้อมกับความก้าวหน้าที่เพิ่มขึ้นอย่างเอกซ์โปเนนเชียล