หน่วยประมวลผลประสาท (NPUs): แรงผลักดันเบื้องหลัง AI และการประมวลผลรุ่นต่อไป

เช่นเดียวกับที่ GPU เคยเป็น เหนือกว่า CPU สำหรับการประมวลผล AI หน่วยประมวลผลประสาท (NPUs) ก็พร้อมที่จะท้าทาย GPU โดยการให้ประสิทธิภาพที่เร็วขึ้นและใช้พลังงานน้อยลง—尤其สำหรับ การสร้าง AI ซึ่งต้องประมวลผลข้อมูลจำนวนมากในเวลาเรียลไทม์และต้องมีการเรียนรู้ที่มีประสิทธิภาพ

คำถามคือ NPUs ทำงานอย่างไร และทำไมพวกมันจึงเริ่มแซงหน้า GPU ในงาน AI โมเดิร์น และอะไรที่ทำให้พวกมันจำเป็นต่อทุกสิ่ง ตั้งแต่โครงสร้างพื้นฐานของศูนย์ข้อมูลที่แข็งแกร่งไปจนถึงอุปกรณ์ผู้บริโภคทั่วไป ไม่ว่าคุณจะวางแผนการนำ AI ไปใช้ครั้งใหญ่หรือเพียงแค่สนใจในเทคโนโลยีล่าสุด ก็สำคัญที่จะต้องเข้าใจว่าทำไม NPUs จึงอาจเป็นนวัตกรรมที่เปลี่ยนแปลง AI และการประมวลผลรุ่นต่อไป

NPUs คืออะไร?

NPUs คือไมโครโพรเซสเซอร์ที่ออกแบบมาเพื่อจัดการกับความต้องการเฉพาะของ AI และการเรียนรู้ของเครื่องสมัยใหม่ ในขณะที่ หน่วยประมวลผลกลาง (CPUs) และ หน่วยประมวลผลกราฟฟิก (GPUs) มีประวัติที่ให้พลังงานในการประมวลผลแบบดั้งเดิมและเรนเดอร์กราฟฟิก พวกมันไม่ได้ออกแบบมาเพื่อจัดการกับความเข้มข้นในการคำนวณของเครือข่ายประสาทเทียม NPUs ช่วยเติมช่องว่างนี้โดยมุ่งเน้นไปที่การดำเนินการแบบขนานและปริมาณสูง เช่น การคูณเมทริกซ์และคณิตศาสตร์เทนเซอร์—รากฐานของโมเดล AI

ประเด็นสำคัญที่ทำให้ NPUs แตกต่าง จาก CPU และ GPU ทั่วไป ได้แก่:

• เลขคณิต AI ที่ได้รับการปรับให้เหมาะสม: NPUs มักใช้ประเภทข้อมูลที่มีความแม่นยำต่ำ (เช่น การคำนวณจำนวนเต็ม 8 บิต หรือแม้แต่ต่ำกว่า) เพื่อสร้างสมดุลระหว่างพลังการประมวลผลและความสามารถในการประหยัดพลังงาน ในขณะที่ CPU และ GPU มักจะพึ่งพาการคำนวณที่มีความแม่นยำสูง
• สถาปัตยกรรมแบบขนาน: NPUs สามารถแบ่งงาน AI ออกเป็นหลายพัน (หรือแม้กระทั่งล้าน) การคำนวณที่เล็กกว่าที่สามารถทำงานพร้อมกัน ทำให้เพิ่มปริมาณการประมวลผลได้อย่างมาก
• ความสามารถในการประหยัดพลังงาน: โดยการกำจัดคำสั่งที่ไม่จำเป็นและปรับให้เหมาะสมสำหรับงาน AI โดยเฉพาะ NPUs สามารถให้ประสิทธิภาพที่สูงขึ้นโดยใช้พลังงานที่ต่ำกว่าเมื่อเทียบกับ GPU หรือ CPU ที่ทำงาน AI เหมือนกัน

เรียกอีกอย่างว่า ตัวเร่ง AI NPUs มักปรากฏเป็นอุปกรณ์ฮาร์ดแวร์ที่แยกจากกันซึ่งติดกับเมนบอร์ดเซิร์ฟเวอร์ หรือเป็นส่วนหนึ่งของ ระบบบนชิป (SoC) ในสมาร์ทโฟน แล็ปท็อป หรืออุปกรณ์เอดจ์

ทำไม NPUs จึงสำคัญสำหรับ AI ที่สร้าง

การเพิ่มขึ้นของ AI ที่สร้าง—ซึ่งรวมถึง โมเดลภาษาขนาดใหญ่ (LLMs) เช่น ChatGPT เครื่องมือสร้างภาพ DALL·E และโมเดลสังเคราะห์วิดีโอ—ต้องการแพลตฟอร์มการประมวลผลที่สามารถจัดการข้อมูลจำนวนมากได้ ประมวลผลในเวลาเรียลไทม์ และเรียนรู้จากมันอย่างมีประสิทธิภาพ โปรเซสเซอร์แบบดั้งเดิมสามารถต่อสู้กับความต้องการเหล่านี้ ส่งผลให้เกิดการบริโภคพลังงานสูง ความล่าช้า และปัญหาการไหลของข้อมูล

ข้อได้เปรียบหลักของ NPUs สำหรับ AI ที่สร้าง

1. การประมวลผลแบบเรียลไทม์: โมเดล AI ที่สร้าง เช่น โมเดลทรานส์ฟอร์เมอร์ โมเดลการกระจาย และ เครือข่ายที่สร้างแบบกันเอง (GANs) ต้องมีการดำเนินการเมทริกซ์และเวกเตอร์อย่างกว้างขวาง NPUs มีความเชี่ยวชาญในการคูณเมทริกซ์และบวกเวกเตอร์แบบขนาน ช่วยให้โมเดลที่สร้างสามารถบรรลุประสิทธิภาพต่ำได้
2. ความสามารถในการปรับขนาด: NPUs ได้รับการออกแบบมาเพื่อปรับขนาดขนาน ทำให้พวกมันเหมาะสำหรับสถาปัตยกรรมขนาดใหญ่ที่ใช้ใน AI ที่สร้าง การเพิ่มคอร์ NPU หรือ NPUs ในคลัสเตอร์ศูนย์ข้อมูลสามารถเพิ่มประสิทธิภาพ AI ได้อย่างเป็นเส้นตรงโดยไม่เพิ่มค่าใช้จ่ายพลังงานมากเกินไป
3. ความสามารถในการประหยัดพลังงาน: เมื่อความซับซ้อนของโมเดลที่สร้างเพิ่มขึ้น รอยเท้าพลังงานก็เพิ่มขึ้นด้วย NPUs ช่วยรักษารอยเท้าพลังงานให้เหลือน้อยที่สุดโดยเน้นไปที่คณิตศาสตร์ที่ AI ที่สร้างต้องการ โดยกำจัดภาระการคำนวณอื่น ๆ

คุณลักษณะหลักของ NPUs

1. การประมวลผลแบบขนาน: โดยการแบ่งงานคำนวณออกเป็นงานเล็กๆ จำนวนมาก NPUs สามารถจัดการการดำเนินการเมทริกซ์ขนาดใหญ่ได้เร็วกว่า CPU ซึ่งมักจะดำเนินการคำสั่งในลักษณะเชิงเส้นหรือเชิงสلسัย การขนานนี้มีความสำคัญอย่างยิ่งสำหรับงาน การเรียนรู้ลึก ซึ่งการฝึกอบรมและการอนุมานเกี่ยวข้องกับข้อมูลจำนวนมาก
2. เลขคณิตความแม่นยำต่ำ: การคำนวณเครือข่ายประสาทส่วนใหญ่ไม่ต้องการความแม่นยำของการดำเนินการแบบจุดลอย 32 บิตหรือ 64 บิต ประเภทข้อมูลความแม่นยำต่ำ เช่น จำนวนเต็ม 8 บิต ลดจำนวนบิตที่ประมวลผลต่อการดำเนินการ ทำให้การดำเนินการเร็วขึ้นและประหยัดพลังงานมากขึ้นในขณะเดียวกันก็ยังคงความแม่นยำของโมเดล
3. หน่วยความจำแบบชิปความสูง: ความสามารถในการเก็บข้อมูลฝึกอบรมหรืออนุมานขนาดใหญ่ใกล้กับโปรเซสเซอร์เป็นสิ่งสำคัญสำหรับงาน AI หลาย NPU มี หน่วยความจำความสูง (HBM) หรือระบบหน่วยความจำขั้นสูงอื่นๆ ที่ออกแบบมาเฉพาะสำหรับเครือข่ายประสาท
4. เทคนิคการเร่งฮาร์ดแวร์: สถาปัตยกรรม NPU ร่วมสมัยมักมีหน่วยฮาร์ดแวร์เฉพาะ เช่น เมทริกซ์แบบซิสตอลิก หรือคอร์เทนเซอร์ ซึ่งช่วยให้สามารถดำเนินการคูณเมทริกซ์และการดำเนินการ AI อื่นๆ ได้อย่างรวดเร็วและไม่มีภาระ

NPUs ทำงานอย่างไร: การจำลองสมอง

NPUs ได้รับแรงบันดาลใจจากเครือข่ายประสาทของสมองมนุษย์ เช่นเดียวกับพันล้านเซลล์ประสาทและซินแอปส์ที่ประมวลผลข้อมูลแบบขนาน NPU ประกอบด้วยองค์ประกอบการประมวลผลจำนวนมากที่สามารถจัดการข้อมูลขนาดใหญ่ได้พร้อมกัน การออกแบบนี้มีประสิทธิภาพเป็นพิเศษสำหรับงาน เช่น

• การรู้จำภาพและการประมวลผล
• การประมวลผลภาษาและคำพูด
• การตรวจจับวัตถุและการนำทางอัตโนมัติ
• การสร้าง AI (เช่น การสร้างภาพและการสร้างข้อความ)

น้ำหนักซินแอปส์และการเรียนรู้

หลักการสำคัญของการคำนวณเครือข่ายประสาทคือน้ำหนัก ซึ่งแสดงถึง “ความเข้มข้น” หรือ “ความสำคัญ” ของการเชื่อมต่อของเซลล์ประสาทแต่ละตัวในเครือข่าย NPUs รวมน้ำหนักเหล่านี้เข้ากับฮาร์ดแวร์โดยตรง ทำให้สามารถอัปเดตโมเดลได้อย่างรวดเร็วและประหยัดพลังงานมากขึ้น

คอร์สูงความจุที่เรียบง่าย

ในขณะที่ CPU มีประวัติที่จะจัดการการดำเนินการที่หลากหลาย (ตั้งแต่การซื้อของออนไลน์ไปจนถึงการคำนวณสเปรดชีต) NPUs สตรีมไลน์การออกแบบเพื่อมุ่งเน้นไปที่การดำเนินการหลักๆ เพียงไม่กี่อย่าง เช่น การคูณเมทริกซ์ ฟังก์ชันการกระตุ้น และการคอนโวลูชัน ซึ่งดำเนินการซ้ำๆ แบบขนาน

NPUs เทียบกับ GPUs เทียบกับ CPUs

แต่ละประเภทโปรเซสเซอร์มีบทบาทเฉพาะในคอมพิวเตอร์สมัยใหม่ แม้ว่าจะมีการทับซ้อนกันบ้างเมื่อพูดถึงการประมวลผล AI นี่คือการแบ่งประเภทอย่างรวดเร็ว:

สรุป: ในขณะที่ CPU ยังคงจำเป็นต่อการควบคุมระบบและงานแบบดั้งเดิม และ GPU มีพลังการประมวลผลขนานที่แข็งแกร่ง (โดยเฉพาะสำหรับงานกราฟฟิกหนัก) NPUs ได้รับการออกแบบมาเพื่อเร่ง AI และมักจะทำงานที่มีประสิทธิภาพสูงกว่าสำหรับงานการเรียนรู้ของเครื่อง

การประยุกต์ใช้ NPUs ในโลกแห่งความเป็นจริง

ศูนย์ข้อมูลและ AI ในคลาวด์

ศูนย์ข้อมูลขนาดใหญ่มี NPUs แยก ที่สามารถติดกับเมนบอร์ดเซิร์ฟเวอร์ได้โดยตรง สิ่งเหล่านี้เร่งทุกสิ่ง ตั้งแต่ เครื่องมือแนะนำ (เช่น ที่ใช้ใน Netflix (NFLX ) และ Amazon (AMZN )) ไปจนถึง AI ที่สร้าง เช่น การสร้างข้อความและรูปภาพแบบเรียลไทม์

สมาร์ทโฟนและอุปกรณ์ผู้บริโภค

สมาร์ทโฟนพรีเมียมหลายรุ่น แล็ปท็อป และแท็บเล็ตในปัจจุบันรวม NPU หรือเครื่องมือ AI เข้ากับ SoC โดยตรง เครื่องมือประสาทของ Apple (AAPL ) Hexagon NPU ของ Qualcomm (QCOM ) และ เครื่องมือประมวลผลประสาทของ Samsung เป็นตัวอย่างของโซลูชันที่รวมไว้แล้ว วิธีการนี้ช่วยให้

• การประมวลผลภาพและวิดีโอแบบเรียลไทม์ (เช่น การเบลอแบ็คกราวนด์ในระหว่างการโทร)
• ผู้ช่วยเสียงบนอุปกรณ์ (พร้อมการรู้จำเสียง)
• คุณสมบัติกล้องอัจฉริยะ เช่น การตรวจจับฉาก การรู้จำใบหน้า และการ稳ดภาพภาพขั้นสูง

อุปกรณ์เอดจ์และ IoT

NPUs ได้กลายเป็นสิ่งสำคัญในคอมพิวเตอร์เอดจ์ ซึ่งอุปกรณ์ต้องประมวลผลข้อมูลที่ địa phươngแทนการส่งไปยังคลาวด์ สิ่งนี้มีคุณค่าอย่างยิ่งสำหรับการใช้งานที่ต้องการความล่าช้าต่ำ ความเป็นส่วนตัวของข้อมูล หรือการให้ข้อมูลย้อนกลับแบบเรียลไทม์—คิดถึงอุปกรณ์สมาร์ทโฮม เซ็นเซอร์อุตสาหกรรม 4.0 จรวดน้ำ อุปกรณ์รถยนต์ไร้คนขับ และอื่นๆ

หุ่นยนต์

จากหุ่นยนต์คลังสินค้าอัตโนมัติไปจนถึงหุ่นยนต์ช่วยผ่าตัด NPUs สามารถตัดสินใจในเสี้ยววินาทีตามข้อมูลจากเซ็นเซอร์ ความสามารถในการจัดการฟีดวิดีโอ (การตรวจจับวัตถุและการจดจำรูปแบบ) และข้อมูลเซ็นเซอร์อื่นๆ อย่างรวดเร็ว เป็นการเปลี่ยนแปลงสำหรับ รุ่นต่อไปของหุ่นยนต์อัตโนมัติและหุ่นยนต์ครึ่งอัตโนมัติ

NPUs สำหรับการประมวลผลเอดจ์และ AI บนอุปกรณ์

ทำไมการประมวลผลเอดจ์จึงสำคัญ

เมื่อ AI เข้ามาในอุปกรณ์ IoT อุปกรณ์สวมใส่ และอุปกรณ์อื่นๆ ของ IoT ความสามารถในการประมวลผลข้อมูล ใกล้กับแหล่งที่มา (ไม่ใช่ในคลาวด์) มีความสำคัญมากกว่าที่เคย AI ในเอดจ์ ลดค่าใช้จ่ายในการถ่ายโอนข้อมูล ลดปัญหาความล่าช้า และเก็บข้อมูลที่ละเอียดอ่อนไว้บนอุปกรณ์—เพิ่มความปลอดภัยและความเป็นส่วนตัว

บทบาทของ NPUs ใน AI ในเอดจ์

1. การบริโภคพลังงานต่ำ: อุปกรณ์เอดจ์มักใช้แบตเตอรี่หรือมีข้อจำกัดด้านพลังงาน NPUs ที่ได้รับการปรับให้เหมาะสมสำหรับการดำเนินการเมทริกซ์ที่มีประสิทธิภาพจึงเป็นตัวเลือกที่เหมาะสม
2. ข้อมูลแบบเรียลไทม์: ไม่ว่าจะเป็นการตรวจจับความผิดปกติในโรงงานหรือเปลี่ยนเส้นทางของรถยนต์ไร้คนขับ การตัดสินใจแบบเรียลไทม์สามารถตัดสินผลลัพธ์ของแอปพลิเคชันได้ NPUs มอบความสามารถนี้พร้อมกับภาระที่น้อยที่สุด
3. การประยุกต์ใช้บนสมาร์ทโฟน: ด้วยการเกิดขึ้นของ AI ที่สร้างบนอุปกรณ์ NPUs บนสมาร์ทโฟนกำลังขับเคลื่อนคุณสมบัติกล้องขั้นสูง การแปลภาษาแบบเรียลไทม์ และการช่วยเหลือเสียงที่ตระหนักรู้บริบท

อนาคตของ NPUs และ AI

เมื่อ AI ที่สร้าง ยังคงเพิ่มขึ้นในความสามารถ ความต้องการในการประมวลผลที่มีประสิทธิภาพสูงและประหยัดพลังงานก็เพิ่มขึ้นเช่นกัน ผู้ผลิตฮาร์ดแวร์อย่าง Intel (INTC ), AMD, Nvidia (NVDA ), Apple, Qualcomm และ Samsung กำลังแข่งขันกันเพื่อผสมผสานหรือปรับปรุงสถาปัตยกรรม NPU ของตน ในทำนองเดียวกัน ศูนย์ข้อมูลกำลังเปลี่ยนไปสู่ การประมวลผลที่หลากหลาย —ที่ CPU, GPU และ NPUs ร่วมกันจัดการงานที่มีความเชี่ยวชาญมากขึ้น

NPUs สำหรับ AI ที่สร้างรุ่นต่อไป

• ความล่าช้าต่ำ: NPUs ในอนาคตอาจบรรลุการอนุมานแบบเรียลไทม์ที่เกือบจะทันที ทำให้แอปพลิเคชันเช่นผู้ช่วยเสียงเสมือนและเนื้อหาที่สร้างโดย AI เป็นส่วนหนึ่งของชีวิตประจำวัน
• การปรับเปลี่ยนแบบไดนามิก: เมื่อโมเดลกลายเป็นแบบไดนามิก—ปรับเปลี่ยนสถาปัตยกรรมและน้ำหนักได้ตลอดเวลา—NPUs จะพัฒนาเพื่อจัดการสถานการณ์การเรียนรู้แบบต่อเนื่อง
• นอกเหนือจากภาพและภาษา: AI ที่สร้างจะขยายออกไปสู่ผลลัพธ์แบบหลายประสาทสัมผัสที่ซับซ้อน รวมถึงการให้ข้อมูลย้อนกลับแบบสัมผัสแบบเรียลไทม์ การสร้างวัตถุ 3 มิติ หรือแม้กระทั่งประสบการณ์เสียงและภาพที่สมจริง

การทำงานร่วมกันของโปรเซสเซอร์หลายตัว

การประมวลผลที่หลากหลายเกี่ยวข้องกับการใช้โปรเซสเซอร์ที่เหมาะสมสำหรับงานที่เหมาะสม CPU จัดการงานทั่วไปและจัดระเบียบ GPU จัดการการประมวลผลขนานขนาดใหญ่ (เช่น กราฟฟิกหรือการคำนวณเมทริกซ์ขนาดใหญ่) และ NPU ขับเคลื่อนงาน AI ที่มีความเชี่ยวชาญ—โดยเฉพาะการอนุมานของเครือข่ายประสาทขนาดใหญ่

ในสถานการณ์อนาคตนี้ แอปพลิเคชันจะกลายเป็นแบบยืดหยุ่นและทรงพลัง:

• ศิลปะที่สร้าง สามารถทำงานบนอุปกรณ์ โดยที่ NPU ของคุณจัดการงานโอนสไตล์หรือการปรับขนาดขึ้นในแบบเรียลไทม์
• ซอฟต์แวร์สำหรับองค์กร ที่ต้องการการประมวลผลภาษาโดยใช้ AI สามารถมอบหมายการแก้ไขไวยากรณ์และความเข้าใจบริบทให้กับ NPUs ในขณะที่ CPU จัดระเบียบการทำงานร่วมกับ GPU สำหรับการแสดงข้อมูล
• การจำลอง ที่ซับซ้อนในการวิจัยทางวิทยาศาสตร์สามารถแบ่งออกเป็น CPU, GPU และ NPUs เพื่อจัดการจุดข้อมูลหลายพันล้านจุดได้อย่างมีประสิทธิภาพ

นวัตกรรมฮาร์ดแวร์และซอฟต์แวร์ที่รวดเร็ว

เนื่องจากความต้องการการปรับขนาด AI ที่รวดเร็ว นวัตกรรมฮาร์ดแวร์และซอฟต์แวร์จึงกำลังเร่งตัวขึ้น:

• ชุดคำสั่งแบบกำหนดเอง: NPUs หลายตัวถูกพัฒนาด้วยชุดคำสั่งแบบกำหนดเองที่สอดคล้องกับอัลกอริทึม AI ที่พัฒนา
• เฟรมเวิร์ก AI ที่รวมกัน: เฟรมเวิร์ก AI (เช่น TensorFlow, PyTorch, ONNX) ยังคงปรับให้เหมาะสมสำหรับแบ็คเอนด์ NPU ทำให้กระบวนการทำงานของนักพัฒนาง่ายขึ้น
• การรวมเอดจ์และคลาวด์: AI ที่ทำงานในคลาวด์สามารถกระจายไปทั่ว GPU ในคลาวด์และ NPUs หรือแม้กระทั่งบนอุปกรณ์เอดจ์

สรุป

NPUs กำลังเปิดยุคใหม่ของฮาร์ดแวร์ AI ที่ออกแบบมาโดยเฉพาะ โดยตรงแก้ไขความท้าทายที่เกิดขึ้นจากการเรียนรู้ลึก AI ที่สร้าง และการประมวลผลข้อมูลขนาดใหญ่ ด้วยการเน้นไปที่การประมวลผลแบบขนานและความแม่นยำต่ำ NPUs ให้ประสิทธิภาพที่ไม่เคยเห็นมาก่อน ความสามารถในการประหยัดพลังงาน และความสามารถในการปรับขนาด—ผลประโยชน์ที่สำคัญทั้งสำหรับ AI ในคลาวด์ที่ทันสมัยและอุปกรณ์ผู้บริโภคทั่วไปและแอปพลิเคชันเอดจ์ที่เกิดขึ้นใหม่

ความสำคัญของ NPUs ในอนาคตของ AI ไม่สามารถเน้นได้มากพอที่จะเน้นย้ำได้ เมื่อความต้องการ AI ที่สร้างบนอุปกรณ์เพิ่มขึ้นและคอมพิวเตอร์แบบหลากหลายกลายเป็นมาตรฐาน NPUs มีแนวโน้มที่จะกลายเป็นสิ่งจำเป็นสำหรับระบบ AI เหมือนกับที่ CPU เป็นสำหรับการประมวลผลแบบดั้งเดิม ไม่ว่าจะเป็นการเปิดใช้งานการแปลภาษาแบบเรียลไทม์บนสมาร์ทโฟนหรือการจัดระเบียบโมเดลภาษาขนาดใหญ่ในศูนย์ข้อมูล NPU เตรียมที่จะปฏิวัติวิธีที่เครื่องจักรเรียนรู้และโต้ตอบกับโลก—ให้ภาพแรกของอนาคตที่มีการประมวลผลที่ฉลาดมากขึ้น ส่วนบุคคล และประหยัดพลังงาน