โมเดลและแพลตฟอร์ม AI

การใช้ซิลิคอน: วิธีการพัฒนาไอซีในบ้านที่จะเปลี่ยนแปลงอนาคตของ AI

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

ปัญญาประดิษฐ์เหมือนซอฟต์แวร์อื่นๆ ต้องการสองส่วนประกอบพื้นฐาน: โปรแกรม AI ซึ่งมักจะเรียกว่าโมเดล และฮาร์ดแวร์คำนวณหรือชิปที่ขับเคลื่อนโปรแกรมเหล่านี้ ในช่วงเวลาที่ผ่านมา การพัฒนา AI มุ่งเน้นไปที่การปรับปรุงโมเดล ในขณะที่ฮาร์ดแวร์ถูกมองว่าเป็นส่วนประกอบมาตรฐานที่จัดหาโดยซัพพลายเออร์จากภายนอก อย่างไรก็ตาม ในช่วงไม่นานมานี้ วิธีการนี้ได้เริ่มเปลี่ยนแปลงไปแล้ว บริษัท AI ที่สำคัญๆ เช่น Google (GOOGL ), Meta และ Amazon (AMZN ) ได้เริ่มพัฒนาไอซีของตนเอง การพัฒนาไอซี AI ในบ้านเป็นการเริ่มต้นยุคใหม่ในการพัฒนา AI

ทำไมการพัฒนาไอซี AI ในบ้านจึงจำเป็น?

การเปลี่ยนแปลงไปสู่การพัฒนาไอซี AI ในบ้านถูกขับเคลื่อนโดยปัจจัยสำคัญหลายประการ ซึ่งรวมถึง:

ความต้องการไอซี AI ที่เพิ่มขึ้น

การสร้างและใช้โมเดล AI ต้องการทรัพยากรการคำนวณที่สำคัญเพื่อจัดการข้อมูลจำนวนมากและสร้างการคาดการณ์ที่แม่นยำหรือข้อมูลเชิงลึก ชิปคอมพิวเตอร์แบบดั้งเดิมไม่สามารถจัดการกับความต้องการการคำนวณเมื่อฝึกอบรมบนจุดข้อมูลล้านๆ จุด ซึ่งนำไปสู่การสร้างไอซี AI ที่ทันสมัยซึ่งออกแบบมาเพื่อตอบสนองความต้องการประสิทธิภาพและประสิทธิภาพที่สูงของแอปพลิเคชัน AI สมัยใหม่ เมื่อการวิจัยและพัฒนา AI ยังคงเติบโต ความต้องการไอซีเหล่านี้จึงเพิ่มขึ้น

Nvidia (NVDA ) ซึ่งเป็นผู้นำในการผลิตไอซี AI ที่ทันสมัยและอยู่ห่างหนึ่งจากคู่แข่ง กำลังเผชิญกับความท้าทาย เนื่องจากความต้องการเกินความสามารถในการผลิต ซึ่งนำไปสู่ การรอสำหรับไอซี AI ของ Nvidia ที่ขยายออกไปเป็นหลายเดือน ซึ่งเป็นการล่าช้าที่ยังคงเพิ่มขึ้นเมื่อความต้องการไอซี AI ของพวกเขาเพิ่มขึ้น นอกจากนี้ ตลาดชิปซึ่งมีผู้เล่นหลักๆ เช่น Nvidia และ Intel (INTC ) ยังเผชิญกับความท้าทายในการผลิตชิป ซึ่งมาจากความพึ่งพาในการผลิตชิปของ TSMC ในไต้หวัน ความพึ่งพานี้นำไปสู่ระยะเวลาการผลิตที่ยาวนานสำหรับการผลิตไอซีที่ทันสมัยเหล่านี้

การทำให้การคำนวณ AI มีประสิทธิภาพและยั่งยืน

ชิป AI รุ่นปัจจุบันซึ่งออกแบบมาเพื่อการคำนวณที่หนักหน่วง มักจะ ใช้พลังงานมาก และสร้างความร้อน ซึ่งนำไปสู่ผลกระทบต่อสิ่งแวดล้อมที่สำคัญสำหรับการฝึกอบรมและใช้โมเดล AI นักวิจัยของ OpenAI ระบุว่า: ตั้งแต่ปี 2012 กำลังคำนวณที่ต้องการในการฝึกอบรมโมเดล AI ที่ทันสมัยเพิ่มขึ้นสองเท่าทุกๆ 3.4 เดือน ซึ่งบ่งชี้ว่าในปี 2040 การปล่อยก๊าซเรือนกระจกจากภาค ICT อาจประกอบด้วย 14% ของการปล่อยก๊าซเรือนกระจกทั่วโลก การศึกษาอื่น แสดงให้เห็นว่า การฝึกอบรมโมเดลภาษาที่มีขนาดใหญ่เพียงครั้งเดียวสามารถปล่อยก๊าซคาร์บอนไดออกไซด์ได้มากถึง 284,000 กิโลกรัม ซึ่งเทียบเท่ากับการบริโภคพลังงานของรถยนต์ 5 คันตลอดอายุการใช้งาน นอกจากนี้ คาดการณ์ ว่าการบริโภคพลังงานของศูนย์ข้อมูลจะ เพิ่มขึ้น 28% ภายในปี 2030 การค้นพบเหล่านี้เน้นย้ำถึงความจำเป็นในการสร้างสมดุลระหว่างการพัฒนา AI และความรับผิดชอบต่อสิ่งแวดล้อม ในการตอบสนอง บริษัท AI จำนวนมากกำลังลงทุนในการพัฒนาไอซีที่มีประสิทธิภาพมากขึ้น โดยมีเป้าหมายในการทำให้การฝึกอบรม AI และการดำเนินงานมีความยั่งยืนและเป็นมิตรต่อสิ่งแวดล้อมมากขึ้น

การปรับแต่งไอซีสำหรับงานเฉพาะ

กระบวนการ AI ที่แตกต่างกันมีความต้องการการคำนวณที่แตกต่างกัน ตัวอย่างเช่น การฝึกโมเดลการเรียนรู้ลึกต้องการพลังคำนวณที่สำคัญและทูพุตสูงเพื่อจัดการข้อมูลจำนวนมากและดำเนินการคำนวณที่ซับซ้อนอย่างรวดเร็ว ไอซีที่ออกแบบมาเพื่อการฝึกอบรมถูกปรับให้เหมาะสมเพื่อปรับปรุงการทำงานเหล่านี้ ทำให้การทำงานเร็วขึ้นและประสิทธิภาพดีขึ้น ในทางกลับกัน การอนุมานซึ่งเป็นกระบวนการที่โมเดลนำความรู้ที่ได้รับมาใช้ในการทำนายผลลัพธ์ ต้องการการประมวลผลที่รวดเร็วโดยใช้พลังงานน้อย โดยเฉพาะในอุปกรณ์เช่น สมาร์ทโฟนและอุปกรณ์ IoT ไอซีที่ออกแบบมาเพื่อการอนุมานถูกสร้างขึ้นเพื่อเพิ่มประสิทธิภาพต่อวัตต์ เพื่อให้แน่ใจว่ามีการตอบสนองที่รวดเร็วและประหยัดแบตเตอรี่ การปรับแต่งการออกแบบไอซีสำหรับการฝึกอบรมและงานอนุมานช่วยให้ไอซีแต่ละชิปสามารถปรับให้เหมาะสมกับบทบาทที่ตั้งใจไว้ ซึ่งปรับปรุงประสิทธิภาพการทำงานทั่วทั้งอุปกรณ์และแอปพลิเคชันต่างๆ การเชี่ยวชาญนี้ไม่เพียงแต่สนับสนุนฟังก์ชัน AI ที่แข็งแกร่งกว่า แต่ยังช่วยส่งเสริมประสิทธิภาพและความคุ้มค่าด้วย

การลดภาระทางการเงิน

ภาระทางการเงินในการคำนวณสำหรับการฝึกอบรมและดำเนินการโมเดล AI ยังคงมาก OpenAI ใช้ซูเปอร์คอมพิวเตอร์ที่สร้างโดย Microsoft (MSFT ) สำหรับการฝึกอบรมและอนุมานตั้งแต่ปี 2020 มันใช้เงิน OpenAI ประมาณ 12 ล้านดอลลาร์ในการฝึกโมเดล GPT-3 และค่าใช้จ่ายเพิ่มขึ้นเป็น 100 ล้านดอลลาร์ สำหรับการฝึก GPT-4 ตาม รายงาน ของ SemiAnalysis OpenAI ต้องการประมาณ 3,617 เซิร์ฟเวอร์ HGX A100 รวมทั้งหมด 28,936 GPU เพื่อสนับสนุน ChatGPT ซึ่งทำให้ค่าใช้จ่ายเฉลี่ยต่อการสอบถามอยู่ที่ประมาณ 0.36 ดอลลาร์ ด้วยค่าใช้จ่ายสูงเหล่านี้ Sam Altman ซีอีโอของ OpenAI ได้รายงานว่ากำลังมองหาการลงทุนจำนวนมากเพื่อสร้างโรงงานผลิตไอซี AI ทั่วโลก ตาม รายงาน ของ Bloomberg

การควบคุมและนวัตกรรม

ไอซี AI จากบุคคลที่สามมักจะมีข้อจำกัด บริษัทที่พึ่งพาชิปเหล่านี้อาจพบว่าตัวเองถูกจำกัดด้วยโซลูชันที่มีอยู่ซึ่งไม่สอดคล้องกับโมเดล AI หรือแอปพลิเคชันที่ไม่เหมือนใครของตน การพัฒนาไอซีในบ้านช่วยให้บริษัทสามารถปรับแต่งฮาร์ดแวร์ได้ตามกรณีการใช้งานเฉพาะ ไม่ว่าจะเป็นรถยนต์ไร้คนขับหรืออุปกรณ์มือถือ การควบคุมฮาร์ดแวร์ทำให้บริษัทสามารถใช้ประโยชน์จากอัลกอริทึม AI ของตนได้อย่างเต็มที่ ไอซีที่ปรับแต่งสามารถปรับปรุงงานเฉพาะ ลดความหน่วง และปรับปรุงประสิทธิภาพโดยรวม

ความก้าวหน้าล่าสุดในการพัฒนาไอซี AI

ส่วนนี้จะพูดถึงความก้าวหน้าล่าสุดของ Google, Meta และ Amazon ในการสร้างเทคโนโลยีไอซี AI

โปรเซสเซอร์ Axion ของ Google

Google ได้พัฒนาเทคโนโลยีไอซี AI อย่างต่อเนื่องตั้งแต่การแนะนำ Tensor Processing Unit (TPU) ในปี 2015 โดยสร้างบนพื้นฐานนี้ Google ได้เปิดตัว โปรเซสเซอร์ Axion ซึ่งเป็น CPU ที่ออกแบบมาโดยเฉพาะสำหรับศูนย์ข้อมูลและงาน AI โปรเซสเซอร์เหล่านี้ใช้อาร์กิเทคเจอร์ Arm ซึ่งรู้จักกันดีในเรื่องของประสิทธิภาพและดีไซน์ที่กะทัดรัด โปรเซสเซอร์ Axion มีเป้าหมายในการปรับปรุงประสิทธิภาพของการฝึกอบรม AI และการอนุมานที่ใช้ CPU ในขณะที่ยังคงรักษาประสิทธิภาพการใช้พลังงาน นอกจากนี้ยังแสดงถึงการปรับปรุงประสิทธิภาพที่สำคัญสำหรับงานทั่วไปต่างๆ รวมถึงเซิร์ฟเวอร์เว็บและแอปพลิเคชัน คอนเทนเนอร์ ไมโครเซอร์วิสที่เปิดแหล่งที่มา ฐานข้อมูลที่เปิดแหล่งที่มา แคชในหน่วยความจำ เครื่องมือวิเคราะห์ข้อมูล การประมวลผลสื่อ และอื่นๆ

MTIA ของ Meta

Meta กำลังผลักดันไปข้างหน้าในการพัฒนาไอซี AI ด้วย Meta Training and Inference Accelerator (MTIA) ของตน ซึ่งออกแบบมาเพื่อเพิ่มประสิทธิภาพของการฝึกอบรมและการอนุมาน โดยเฉพาะสำหรับอัลกอริทึมการจัดอันดับและคำแนะนำ เมื่อเร็วๆ นี้ Meta ได้อธิบายว่า MTIA เป็นส่วนสำคัญของกลยุทธ์ในการเสริมสร้างโครงสร้างพื้นฐาน AI ของตนไปไกลกว่า GPU แล้ว โดยกำหนดให้จะเปิดตัวในปี 2025 แต่ Meta ได้เร่งการวางแผนการพัฒนาไอซีของตนและได้ผลิต MTIA แล้ว โดยมีเป้าหมายที่จะขยายการใช้งาน MTIA ไปยังการฝึกอบรม AI ที่สร้างสรรค์ เช่น โมเดลภาษา Llama ของ Meta

Trainium และ Inferentia ของ Amazon

ตั้งแต่การแนะนำ ชิป Nitro ของ Amazon ในปี 2013 Amazon ได้ขยายการพัฒนาไอซี AI ของตนอย่างมาก บริษัทได้เปิดตัวไอซี AI สองตัวที่เป็นนวัตกรรมใหม่ๆ คือ Trainium และ Inferentia Trainium ได้รับการออกแบบมาโดยเฉพาะเพื่อปรับปรุงการฝึกอบรมโมเดล AI และจะถูกนำไปใช้ใน EC2 UltraClusters คลัสเตอร์เหล่านี้สามารถรองรับได้ถึง 100,000 ชิป และได้รับการปรับให้เหมาะสมสำหรับการฝึกโมเดลที่เป็นพื้นฐานและโมเดลภาษาขนาดใหญ่ในลักษณะที่ประหยัดพลังงาน Inferentia ได้รับการออกแบบสำหรับงานอนุมาน โดยมุ่งเน้นไปที่การลดความหน่วงและค่าใช้จ่ายในการอนุมานเพื่อให้บริการที่ดีขึ้นสำหรับผู้ใช้หลายล้านคนที่โต้ตอบกับบริการที่ขับเคลื่อนด้วย AI

สรุป

การเคลื่อนไหวไปสู่การพัฒนาไอซี AI ในบ้านโดยบริษัทหลักๆ เช่น Google, Microsoft และ Amazon สะท้อนถึงการเปลี่ยนแปลงเชิงกลยุทธ์ในการตอบสนองความต้องการการคำนวณที่เพิ่มขึ้นของเทคโนโลยี AI แนวโน้มนี้เน้นย้ำถึงความจำเป็นในการมีโซลูชันที่ออกแบบมาโดยเฉพาะเพื่อสนับสนุนโมเดล AI ได้อย่างมีประสิทธิภาพ โดยตอบสนองความต้องการที่ไม่เหมือนใครของระบบเหล่านี้ เมื่อความต้องการไอซี AI ยังคงเติบโต ผู้นำในอุตสาหกรรม เช่น Nvidia มีแนวโน้มที่จะเห็นการเพิ่มขึ้นอย่างมีนัยสำคัญในมูลค่าตลาด โดยเน้นย้ำถึงบทบาทที่สำคัญที่ไอซีแบบกำหนดเองมีต่อการขับเคลื่อนนวัตกรรม AI ด้วยการสร้างไอซีของตนเอง บริษัทเหล่านี้ไม่เพียงแต่ปรับปรุงประสิทธิภาพและประสิทธิภาพของระบบ AI ของตนเท่านั้น แต่ยังช่วยส่งเสริมอนาคตที่ยั่งยืนและคุ้มค่ามากขึ้น การพัฒนานี้กำลังตั้งมาตรฐานใหม่ในอุตสาหกรรม โดยขับเคลื่อนความก้าวหน้าทางเทคโนโลยีและความได้เปรียบในการแข่งขันในภูมิทัศน์ทางเทคโนโลยีที่เปลี่ยนแปลงอย่างรวดเร็ว

ดร. Tehseen Zia เป็น Professor ที่ COMSATS University Islamabad โดยได้รับ PhD ใน AI จาก Vienna University of Technology, Austria มีเชี่ยวชาญด้าน Artificial Intelligence, Machine Learning, Data Science, และ Computer Vision โดยมีส่วนร่วมที่สำคัญด้วยการเผยแพร่ในวารสารวิทยาศาสตร์ที่มีชื่อเสียง ดร. Tehseen ยังได้ดำเนินโครงการอุตสาหกรรมต่างๆ ในฐานะ Principal Investigator และให้บริการเป็นที่ปรึกษาด้าน AI