อุปกรณ์ニューロンเทียมใหม่ลดความต้องการพลังงานสำหรับการคำนวณของเครือข่ายニューラル

นักวิจัยจากมหาวิทยาลัยซานดิเอโกได้พัฒนาเครื่องมืออุปกรณ์ニューロนเทียมใหม่ที่สามารถทำงานการคำนวณของเครือข่ายニューラล์ได้ด้วยพลังงานและพื้นที่น้อยกว่าอุปกรณ์ CMOS ที่ใช้กันในปัจจุบัน 100 ถึง 1,000 เท่า

รายงานล่าสุดได้รับการตีพิมพ์ใน วารสาร เมื่อวันที่ 18 มีนาคม ใน Nature Nanotechnology.

เพื่อสร้างอินพุตสำหรับหนึ่งในเลเยอร์ที่เชื่อมต่อกับニューロนเทียมในเครือข่ายニューラล์ จะต้องใช้การคำนวณทางคณิตศาสตร์ที่เรียกว่าฟังก์ชันการกระตุ้นที่ไม่เป็นเชิงเส้น อย่างไรก็ตาม การใช้ฟังก์ชันนี้ต้องใช้พลังงานคอมพิวเตอร์และวงจรมากเนื่องจากต้องถ่ายโอนข้อมูลระหว่างหน่วยความจำและโปรเซสเซอร์ภายนอก

นักวิจัยจาก UC San Diego ได้พัฒนาเครื่องมืออุปกรณ์ขนาดนาโนเมตรที่สามารถทำงานฟังก์ชันการกระตุ้นนี้ได้อย่างมีประสิทธิภาพมากกว่า

Duygu Kuzum เป็นศาสตราจารย์ด้านวิศวกรรมไฟฟ้าและคอมพิวเตอร์ที่ UC San Diego Jacobs School of Engineering.

“การคำนวณของเครือข่ายニューラล์ในฮาร์ดแวร์จะไม่มีประสิทธิภาพมากขึ้นเมื่อโมเดลเครือข่ายニューラล์มีขนาดใหญ่และซับซ้อน” Kuzum กล่าว “เราพัฒนาเครื่องมืออุปกรณ์ニューロนเทียมขนาดนาโนเมตรเพียงตัวเดียวที่สามารถทำงานการคำนวณเหล่านี้ในฮาร์ดแวร์ได้อย่างมีประสิทธิภาพและประหยัดพลังงาน”

การศึกษานี้ได้รับการนำโดย Kuzum และนักศึกษาปริญญาเอก Shangheon Oh และได้ร่วมมือกับ Ivan Schuller ศาสตราจารย์ด้านฟิสิกส์จาก UC San Diego ซึ่งเป็นผู้นำของ DOE Energy Frontier Research Center ซึ่งเกี่ยวข้องกับการพัฒนาฮาร์ดแวร์สำหรับเครือข่ายニューラล์เทียมที่มีประสิทธิภาพด้านพลังงาน

อุปกรณ์ใหม่

เครื่องมืออุปกรณ์ใหม่นี้ขึ้นอยู่กับฟังก์ชันการกระตุ้นที่ไม่เป็นเชิงเส้นแบบเรียงลำดับ ซึ่งเป็นหนึ่งในฟังก์ชันการกระตุ้นที่ใช้กันมากที่สุดในการฝึกอบรมเครือข่ายニューラล์ ต้องใช้ฮาร์ดแวร์ที่สามารถเปลี่ยนแปลงความต้านทานได้อย่างค่อยเป็นค่อยไป ซึ่งเป็นสิ่งที่วิศวกรมุ่งหวัง อุปกรณ์นี้สามารถเปลี่ยนจากสถานะการปิดการนำไฟฟ้าเป็นสถานะการนำไฟฟ้าได้ด้วยความร้อนเล็กน้อย

การเปลี่ยนแปลงนี้เรียกว่าการเปลี่ยนแปลง Mott ซึ่งเกิดขึ้นในเลเยอร์ที่มีความหนาไม่มากของ vanadium dioxide และมี nanowire ฮีตเตอร์ทำจากไทเทเนียมและทองคำอยู่ด้านบน เลเยอร์ vanadium dioxide จะค่อยๆ ร้อนขึ้นเมื่อมีกระแสไฟฟ้าไหลผ่าน nanowire และทำให้เกิดการเปลี่ยนแปลงความต้านทานอย่างช้าๆ และควบคุมได้

Oh เป็นผู้เขียนหลักของการศึกษานี้

“สถาปัตยกรรมของอุปกรณ์นี้น่าสนใจและเป็นนวัตกรรม” Oh กล่าว “ในกรณีนี้ เราไหลกระแสไฟฟ้าผ่าน nanowire บนอุปกรณ์เพื่อทำให้ร้อนและทำให้เกิดการเปลี่ยนแปลงความต้านทานอย่างช้าๆ”

การนำอุปกรณ์ไปใช้

สำหรับการนำไปใช้ ทีมงานได้สร้างอุปกรณ์กระตุ้นและอุปกรณ์ซินแอปส์ และรวมเข้ากับบอร์ดวงจรพิมพ์แบบกำหนดเอง จากนั้นจึงเชื่อมต่อเข้าด้วยกัน ทำให้เกิดเป็นเวอร์ชันฮาร์ดแวร์ของเครือข่ายニューラล์

เครือข่ายนี้ถูกใช้ในการประมวลผลภาพโดยการตรวจจับขอบ ซึ่งระบุเส้นขอบและรูปร่างของวัตถุในภาพ ระบบฮาร์ดแวร์ที่รวมเข้าด้วยกันแสดงให้เห็นถึงความสามารถในการทำงานการคำนวณแบบคอนโวลูชัน ซึ่งเป็นสิ่งสำคัญสำหรับเครือข่ายニューラล์หลายประเภท

“ในขณะนี้ นี่เป็นเพียงการแสดงแนวคิด” Kuzum กล่าว “เป็นระบบขนาดเล็กที่เรารวมเลเยอร์ซินแอปส์หนึ่งเลเยอร์และเลเยอร์การกระตุ้นหนึ่งเลเยอร์เท่านั้น โดยการรวมเลเยอร์เหล่านี้เข้าด้วยกันมากขึ้น คุณสามารถสร้างระบบที่ซับซ้อนกว่านี้สำหรับการใช้งานที่แตกต่างกัน”