การเพิ่มขึ้นของหน่วยประมวลผลประสาท : การเพิ่มความเร็วและความยั่งยืนของ AI ที่สร้างขึ้นบนอุปกรณ์

การพัฒนาของ AI ที่สร้างขึ้น ไม่ได้เปลี่ยนแปลงการโต้ตอบและประสบการณ์ของเรากับอุปกรณ์คอมพิวเตอร์เท่านั้น แต่ยังเปลี่ยนแปลงการประมวลผลหลักของการคำนวณด้วย การขับเคลื่อนการเปลี่ยนแปลงนี้คือความจำเป็นในการดำเนินการ AI ที่สร้างขึ้นบนอุปกรณ์ที่มีทรัพยากรการประมวลผลที่จำกัด บทความนี้พูดถึงความท้าทายที่เกิดขึ้นและวิธีที่ หน่วยประมวลผลประสาท (NPUs) กำลังเกิดขึ้นเพื่อแก้ไขปัญหาเหล่านี้ นอกจากนี้ บทความนี้ยังแนะนำตัวประมวลผล NPU ล่าสุดที่นำทางในด้านนี้

ความท้าทายของโครงสร้างพื้นฐาน AI ที่สร้างขึ้นบนอุปกรณ์

AI ที่สร้างขึ้น ซึ่งเป็นพลังหลักที่อยู่เบื้องหลังการสร้างภาพ การสร้างข้อความ และการสร้างเพลง ต้องการทรัพยากรการประมวลผลที่มีนัยสำคัญ ตามปกติแล้ว ความต้องการเหล่านี้ได้รับการตอบสนองโดยใช้ความสามารถที่กว้างขวางของแพลตฟอร์มคลาวด์ แม้ว่าจะมีประสิทธิภาพ แต่วิธีการนี้มีความท้าทายของตนเองสำหรับ AI ที่สร้างขึ้นบนอุปกรณ์ รวมถึงการอาศัยการเชื่อมต่ออินเทอร์เน็ตอย่างต่อเนื่องและโครงสร้างพื้นฐานที่มีศูนย์กลาง สิ่งนี้นำไปสู่ความล่าช้า ความไม่ปลอดภัย และการบริโภคพลังงานที่สูงขึ้น

โครงสร้างพื้นฐานของ AI ที่สร้างขึ้นบนคลาวด์ขึ้นอยู่กับ หน่วยประมวลผลกลาง (CPUs) และ หน่วยประมวลผลกราฟิก (GPUs) เพื่อจัดการกับความต้องการการประมวลผลของ AI ที่สร้างขึ้น อย่างไรก็ตาม เมื่อนำไปใช้กับ AI ที่สร้างขึ้นบนอุปกรณ์ ตัวประมวลผลเหล่านี้พบกับความท้าทายที่สำคัญ CPUs ได้รับการออกแบบสำหรับงานทั่วไปและขาดสถาปัตยกรรมที่มีประสิทธิภาพและใช้พลังงานต่ำที่จำเป็นสำหรับการประมวลผล AI ที่สร้างขึ้น ความสามารถในการประมวลผลขนานที่จำกัดของ CPUs ส่งผลให้การประมวลผลลดลง ความล่าช้าเพิ่มขึ้น และการบริโภคพลังงานสูงขึ้น ทำให้ไม่เหมาะสำหรับ AI บนอุปกรณ์ ในทางกลับกัน แม้ว่า GPUs จะมีประสิทธิภาพในการประมวลผลขนาน แต่ก็ได้รับการออกแบบสำหรับการประมวลผลกราฟิกเป็นหลัก เพื่อทำงาน AI ที่สร้างขึ้นได้อย่างมีประสิทธิภาพ GPUs ต้องการวงจรผสมที่มีพลังงานสูงและสร้างความร้อน ซึ่งทำให้ไม่เหมาะสำหรับการใช้งานบนอุปกรณ์ที่มีขนาดกะทัดรัด

การเกิดขึ้นของหน่วยประมวลผลประสาท (NPUs)

เพื่อตอบสนองต่อความท้าทายเหล่านี้ หน่วยประมวลผลประสาท (NPUs) กำลังเกิดขึ้นเป็นเทคโนโลยีที่เปลี่ยนแปลงการนำ AI ที่สร้างขึ้นไปใช้บนอุปกรณ์ สถาปัตยกรรมของ NPUs ได้รับแรงบันดาลใจจากโครงสร้างและหน้าที่ของสมอง โดยเฉพาะวิธีการทำงานร่วมกันของเซลล์ประสาทและซินแอปส์เพื่อประมวลผลข้อมูล ใน NPUs เซลล์ประสาทเทียมเป็นหน่วยพื้นฐาน ซึ่งเลียนแบบเซลล์ประสาททางชีววิทยาโดยการรับข้อมูลเข้า ประมวลผล และส่งสัญญาณออกไป เซลล์ประสาทเหล่านี้เชื่อมต่อกันด้วยซินแอปส์เทียม ซึ่งส่งสัญญาณระหว่างเซลล์ประสาทด้วยความเข้มข้นที่แตกต่างกันระหว่างกระบวนการเรียนรู้ NPUs จัดเรียงเป็นชั้น ๆ โดยมีชั้นรับข้อมูลเข้า ชั้นประมวลผลกลาง และชั้นส่งสัญญาณออก สิ่งนี้สะท้อนถึงความสามารถในการประมวลผลข้อมูลหลายขั้นตอนและขนานของสมอง เนื่องจาก AI ที่สร้างขึ้นยังถูกสร้างขึ้นโดยใช้โครงสร้างของเครือข่ายประสาทเทียมที่คล้ายกัน NPUs จึงเหมาะสมสำหรับการจัดการงาน AI ที่สร้างขึ้น สิ่งนี้ช่วยลดความจำเป็นในการใช้วงจรผสมพิเศษ ทำให้ได้โซลูชันที่กะทัดรัด มีประสิทธิภาพ ใช้พลังงานต่ำ และยั่งยืน

การแก้ไขความต้องการการประมวลผลที่หลากหลายของ AI ที่สร้างขึ้น

AI ที่สร้างขึ้นประกอบด้วยงานที่หลากหลาย เช่น การสร้างภาพ การสร้างข้อความ และการสร้างเพลง แต่ละงานมีความต้องการการประมวลผลที่เป็นเอกลักษณ์ ตัวอย่างเช่น การสร้างภาพพึ่งพาการดำเนินการเมทริกซ์ ในขณะที่การสร้างข้อความเกี่ยวข้องกับการประมวลผลแบบลำดับ เพื่อตอบสนองความต้องการการประมวลผลที่หลากหลายนี้ หน่วยประมวลผลประสาท (NPUs) มักถูกผสมผสานเข้ากับเทคโนโลยี System-on-Chip (SoC) ร่วมกับ CPUs และ GPUs

แต่ละตัวประมวลผลมีความเข้มแข็งในการประมวลผลที่แตกต่างกัน CPUs มีความเหมาะสมอย่างยิ่งสำหรับการควบคุมแบบลำดับและความเร็วสูง GPUs มีประสิทธิภาพในการประมวลผลข้อมูลแบบขนาน และ NPUs ได้รับการปรับให้เหมาะสมสำหรับการดำเนินการ AI หลัก โดยจัดการกับเลขคณิตสเกลาร์ เวกเตอร์ และเทนเซอร์ โดยการนำสถาปัตยกรรมการประมวลผลที่หลากหลายมาใช้ งานสามารถถูกกำหนดให้กับตัวประมวลผลตามความเข้มแข็งและความต้องการของงานนั้น

NPUs ซึ่งได้รับการปรับให้เหมาะสมสำหรับงาน AI สามารถโหลดงาน AI ที่สร้างขึ้นออกจาก CPU ได้อย่างมีประสิทธิภาพ ซึ่งไม่เพียงแต่ทำให้การดำเนินการเร็วขึ้นและใช้พลังงานน้อยลง แต่ยังเร่งการอนุมาน AI ทำให้โมเดล AI ที่สร้างขึ้นสามารถทำงานได้อย่างราบรื่นบนอุปกรณ์ เมื่อ NPUs จัดการงาน AI ที่เกี่ยวข้อง CPUs และ GPUs สามารถจัดสรรทรัพยากรให้กับฟังก์ชันอื่น ๆ ทำให้การทำงานของแอปพลิเคชันโดยรวมดีขึ้นในขณะที่รักษาความมีประสิทธิภาพทางเทอร์มอล

ตัวอย่างในโลกแห่งความเป็นจริงของ NPUs

การปรับปรุงของ NPUs กำลังได้รับความนิยม ต่อไปนี้คือตัวอย่างจริงของ NPUs:

• Hexagon NPUs โดย Qualcomm (QCOM ) ได้รับการออกแบบมาเพื่อเร่งการอนุมาน AI บนอุปกรณ์ที่มีพลังงานและทรัพยากรต่ำ มันถูกสร้างขึ้นเพื่จัดการกับงาน AI ที่สร้างขึ้น เช่น การสร้างข้อความ การสร้างภาพ และการประมวลผลเสียง Hexagon NPU ถูกผสมผสานเข้ากับแพลตฟอร์ม Snapdragon ของ Qualcomm โดยให้การดำเนินการแบบโมเดลเครือข่ายประสาทเทียมที่มีประสิทธิภาพบนอุปกรณ์ที่มีผลิตภัณฑ์ AI ของ Qualcomm
• Apple’s Neural Engine (AAPL ) เป็นส่วนสำคัญของชิป A-series และ M-series ซึ่งขับเคลื่อนคุณสมบัติ AI ที่หลากหลาย เช่น Face ID, Siri และ ความเป็นจริงเสริม (AR) Neural Engine เร่งการทำงาน เช่น การรู้จำใบหน้าสำหรับ Face ID ที่ปลอดภัย การประมวลผลภาษาธรรมชาติ (NLP) สำหรับ Siri และการ跟踪วัตถุและความเข้าใจฉากที่ดีขึ้นสำหรับการใช้งาน AR สิ่งนี้ช่วยเพิ่มประสิทธิภาพของงาน AI ที่เกี่ยวข้องบนอุปกรณ์ Apple โดยให้ประสบการณ์ผู้ใช้ที่ราบรื่นและใช้พลังงานน้อย
• NPU ของ Samsung เป็นตัวประมวลผลที่มีการออกแบบพิเศษสำหรับการคำนวณ AI สามารถจัดการการคำนวณได้หลายพันรายการในเวลาเดียวกัน เมื่อผสมผสานเข้ากับ Samsung Exynos SoCs ล่าสุด ซึ่งขับเคลื่อนโทรศัพท์ Samsung หลายรุ่น เทคโนโลยี NPU ของ Samsung ช่วยให้การคำนวณ AI ที่สร้างขึ้นมีพลังงานต่ำและความเร็วสูง เทคโนโลยี NPU ของ Samsung ยังถูกผสมผสานเข้ากับโทรทัศน์ระดับพรีเมียม ทำให้สามารถสร้างนวัตกรรมเสียงที่ขับเคลื่อนด้วย AI และเพิ่มประสบการณ์ผู้ใช้
• สถาปัตยกรรม Da Vinci ของ Huawei เป็นแก่นกลางของ โปรเซสเซอร์ AI Ascend ซึ่งได้รับการออกแบบเพื่อเพิ่มพลังการประมวลผล AI สถาปัตยกรรมนี้ใช้เครื่องมือการประมวลผล 3 มิติที่มีประสิทธิภาพสูง ทำให้มีประสิทธิภาพสูงสำหรับงาน AI

สรุป

AI ที่สร้างขึ้นกำลังเปลี่ยนแปลงการโต้ตอบของเราและกำลังเปลี่ยนแปลงการประมวลผลหลักของการคำนวณ การที่จะนำ AI ที่สร้างขึ้นไปใช้บนอุปกรณ์ที่มีทรัพยากรการประมวลผลที่จำกัดเป็นความท้าทายที่สำคัญ และ CPU และ GPU แบบดั้งเดิมมักไม่เพียงพอ หน่วยประมวลผลประสาท (NPUs) เสนอทางออกที่มีแนวโน้มด้วยสถาปัตยกรรมที่ออกแบบมาเพื่อตอบสนองความต้องการของ AI ที่สร้างขึ้น โดยการผสมผสาน NPUs เข้ากับเทคโนโลยี System-on-Chip (SoC) ร่วมกับ CPUs และ GPUs เราสามารถใช้ความเข้มแข็งของตัวประมวลผลแต่ละตัวได้ ทำให้การทำงานของ AI บนอุปกรณ์มีประสิทธิภาพเร็วขึ้น ใช้พลังงานน้อยลง และยั่งยืนมากขึ้น เมื่อ NPUs ยังคงพัฒนา พวกมันจะช่วยเพิ่มความสามารถของ AI บนอุปกรณ์ ทำให้แอปพลิเคชันมีความตอบสนองและใช้พลังงานน้อยขึ้น