โมเดลและแพลตฟอร์ม AI

Weebit Nano เปิดตัวโครงการวิจัย Matrix ReRAM เพื่อการประมวลผล AI ในหน่วยความจำ

mm
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
Conceptual illustration of a resistive memory crossbar computing with signals inside a semiconductor array.

Weebit Nano เปิดตัวโครงการวิจัย Weebit Matrix In-Memory Compute Research Program เพื่อให้นักวิจัยในแวดวงวิชาการและภาคอุตสาหกรรมเข้าถึงฮาร์ดแวร์ ReRAM สำหรับทดสอบแนวทางใหม่ในการประมวลผล AI นั่นคือการประมวลผล ณ จุดที่จัดเก็บข้อมูล

โครงการนี้จัดหาชุดอุปกรณ์วิจัยที่สร้างขึ้นจากอาร์เรย์ครอสบาร์ขนาด 32 × 32 พร้อมรองรับการทำงานต่าง ๆ เช่น การคูณเวกเตอร์กับเมทริกซ์ การคอนโวลูชัน และโครงข่ายประสาทเทียมแบบสไปกิง โครงการมุ่งตอบคำถามสำคัญด้านฮาร์ดแวร์สำหรับ AI ที่ประมวลผลบนอุปกรณ์ปลายทางว่า การลดการถ่ายโอนข้อมูลซ้ำ ๆ ระหว่างหน่วยความจำกับหน่วยประมวลผลแยกต่างหากจะช่วยประหยัดพลังงานและเวลาได้มากเพียงใด

นี่คือการเปิดตัวแพลตฟอร์มวิจัย ไม่ใช่การเปิดตัวตัวเร่งความเร็ว AI เชิงพาณิชย์ที่พร้อมใช้งานแล้ว Weebit ระบุว่ายังมีความท้าทายทางเทคนิคที่ต้องแก้ไขก่อนที่โซลูชันการประมวลผลในหน่วยความจำจะออกสู่ตลาดเชิงพาณิชย์ เป้าหมายเร่งด่วนคือเปิดโอกาสให้นักวิจัยเปลี่ยนจากการใช้โมเดลและการจำลอง ไปสู่การทดลองกับฮาร์ดแวร์ ReRAM จริง

เหตุใดจึงประมวลผลภายในหน่วยความจำ?

การอนุมานของโครงข่ายประสาทเทียมต้องนำข้อมูลขาเข้ามาคำนวณร่วมกับค่าน้ำหนักของโมเดลที่จัดเก็บไว้ซ้ำ ๆ ในสถาปัตยกรรมแบบเดิม การเคลื่อนย้ายค่าเหล่านี้ผ่านลำดับชั้นของหน่วยความจำอาจใช้แบนด์วิดท์และพลังงาน การประมวลผลในหน่วยความจำ หรือ IMC มุ่งดำเนินงานบางส่วนภายในอาร์เรย์หน่วยความจำโดยตรง

หน่วยความจำเข้าถึงโดยสุ่มแบบต้านทาน หรือ ReRAM จัดเก็บข้อมูลโดยใช้ค่าความต้านทานไฟฟ้าที่ตั้งโปรแกรมได้ เซลล์ชนิดออกไซด์ของ Weebit มีชั้นสวิตชิ่งอยู่ระหว่างขั้วไฟฟ้า แรงดันไฟฟ้าที่จ่ายเข้าไปจะเปลี่ยนเส้นทางการนำไฟฟ้าและส่งผลให้ค่าความต้านทานของเซลล์เปลี่ยนตาม สถานะข้อมูลที่จัดเก็บไว้คงอยู่ได้โดยไม่ต้องจ่ายไฟอย่างต่อเนื่อง จึงทำให้ ReRAM เป็นหน่วยความจำแบบไม่ลบเลือน

ในการวิจัยการประมวลผลแบบแอนะล็อก คุณสมบัติทางไฟฟ้าเหล่านี้ทำได้มากกว่าการจัดเก็บบิต อาร์เรย์สามารถเข้ารหัสค่าน้ำหนักไว้ในเซลล์หน่วยความจำ แล้วนำการตอบสนองทางไฟฟ้าที่เกิดขึ้นมาใช้ร่วมในการคำนวณ วิธีนี้เชื่อมโยงพฤติกรรมทางกายภาพของหน่วยความเข้ากับการคูณและการสะสมค่าที่ใช้ตลอดทั้งโครงข่ายประสาทเทียม

เป้าหมายนี้มีความเกี่ยวข้องเป็นพิเศษกับอุปกรณ์ที่มีข้อจำกัดด้านพลังงานและความร้อนอย่างเข้มงวด เช่น เซ็นเซอร์ อุปกรณ์อุตสาหกรรม และระบบปลายทางอื่น ๆ ทั้งนี้ ไม่ได้หมายความว่าทุกส่วนของโมเดล AI จะทำงานภายในอาร์เรย์ หรือการเคลื่อนย้ายข้อมูลจะหมดไปจากระบบโดยรวม

ชุดอุปกรณ์วิจัย Matrix มีอะไรบ้าง

ในเบื้องต้น Weebit นำเสนอแพ็กเกจ 2 แบบ ได้แก่

  • Matrix IMC Evaluation Package: บอร์ดประเมินผลที่เข้าถึงฮาร์ดแวร์ได้โดยตรง สำหรับนักวิจัยที่ต้องการเข้าถึงฮาร์ดแวร์อย่างใกล้ชิดยิ่งขึ้น
  • Matrix IMC Quick-Start Package: ประกอบด้วยบอร์ด IMC แบบครบชุด ระบบย่อย FPGA และโค้ดตัวอย่าง

ทั้งสองแพ็กเกจมีตัวอย่างชิปที่บรรจุไว้แล้ว เอกสารประกอบ และบอร์ด IMC พร้อมซ็อกเก็ต ครอสบาร์ขนาด 32 × 32 เป็นแพลตฟอร์มที่ควบคุมเงื่อนไขได้สำหรับศึกษาวิธีการตั้งโปรแกรม อัลกอริทึม AI และสถาปัตยกรรมแบบนิวโรมอร์ฟิก รวมถึงโครงข่ายประสาทเทียมแบบสไปกิง

ระบบย่อย FPGA ในแพ็กเกจ Quick-Start ช่วยให้นักวิจัยมีฮาร์ดแวร์ดิจิทัลที่ตั้งโปรแกรมได้ทำงานควบคู่กับอาร์เรย์หน่วยความจำ ซึ่งเป็นประโยชน์ต่อการสำรวจระบบไฮบริดที่การทำงานโดยใช้หน่วยความจำร่วมกับการประมวลผลแบบดั้งเดิม แทนที่จะพยายามทดแทนกระบวนการประมวลผลทั้งหมด

ผู้เข้าร่วมจะส่งผลการทดลองที่เกี่ยวข้องกับ ReRAM และข้อเสนอแนะให้ Weebit บริษัทระบุว่าความร่วมมือนี้มีจุดประสงค์เพื่อพัฒนาเทคโนโลยีและสนับสนุนความพยายามด้านการวิจัยในวงกว้าง ประกาศดังกล่าวไม่ได้เปิดเผยราคาชุดอุปกรณ์ จำนวนโครงการที่ได้รับคัดเลือก หรือกำหนดส่งมอบตัวเร่งความเร็วเชิงพาณิชย์

ทำความเข้าใจคำกล่าวอ้างเรื่องประหยัดพลังงาน 80× ในบริบทที่เหมาะสม

บทสรุปงานวิจัยที่เชื่อมโยงไว้ให้รายละเอียดสำคัญเบื้องหลังคำกล่าวอ้างด้านประสิทธิภาพของ Weebit บริษัทแห่งหนึ่งในสหรัฐฯ ซึ่งไม่เปิดเผยชื่อและพัฒนาฮาร์ดแวร์ AI ที่ทนต่อรังสี ได้ประเมินสถาปัตยกรรม IMC กับงานจำแนกภาพ โดยใช้โครงข่ายประสาทเทียมแบบคอนโวลูชันที่ออกแบบขึ้นเฉพาะ

การเปรียบเทียบนี้ใช้ GPU NVIDIA GeForce RTX 4090 และแพลตฟอร์ม FPGA Xilinx ZCU104 ส่วนผลการทำงานระดับระบบของ IMC เป็นค่าคาดการณ์จากการสร้างแบบจำลองแอปพลิเคชัน โดยอิงจากการวัดผลอาร์เรย์ ReRAM ของ Weebit

สำหรับงานดังกล่าว การวิเคราะห์คาดการณ์ว่าระบบจะใช้พลังงานน้อยกว่าการประมวลผลบน GPU ประมาณ 80 เท่า และน้อยกว่าบน FPGA 13 เท่า ขณะที่เอกสารเผยแพร่การเปิดตัวระบุแยกต่างหากว่าเวลาแฝงลดลงเกือบ 100 เท่า ตัวเลขเหล่านี้เป็นค่าคาดการณ์เฉพาะสำหรับงานดังกล่าว ไม่ใช่ผลการวัดที่ผ่านการตรวจสอบโดยอิสระของตัวเร่งความเร็ว Matrix เชิงพาณิชย์ทั้งระบบ ซึ่งแสดงให้เห็นว่ามีประสิทธิภาพเหนือกว่า GPU ในงาน AI ทุกประเภท

ประเด็นนี้เป็นหัวใจสำคัญของโครงการวิจัย ผลลัพธ์ที่ดีในระดับอาร์เรย์ต้องนำไปต่อยอดเป็นระบบครบวงจรที่รักษาความแม่นยำของโมเดลไว้ได้ พร้อมคำนึงถึงการควบคุม การแปลงข้อมูล การสื่อสาร และการทำงานสนับสนุนอื่น ๆ ฟังก์ชันประกอบเหล่านี้ใช้พลังงานและเพิ่มเวลาแฝงเช่นกัน

การทดลองกับฮาร์ดแวร์ช่วยเผยสิ่งที่การจำลองอาจมองข้าม

Coby Hanoch ซีอีโอของ Weebit กล่าวถึงความร่วมมือก่อนหน้านี้กับ CEA-Leti ซึ่งรวมถึงการสาธิตโครงข่ายประสาทเทียมแบบสไปกิงที่ใช้ ReRAM ในปี 2019 โดย Matrix ต่อยอดแนวทางการวิจัยดังกล่าวด้วยการเปิดให้มีแพลตฟอร์มฮาร์ดแวร์ที่กำหนดไว้อย่างชัดเจนสำหรับนักวิจัยที่มีคุณสมบัติเหมาะสมเพิ่มเติม

นักวิจัยด้านนิวโรมอร์ฟิก Kevin D. Johnson ซึ่งมีผลงานครอบคลุมการประมวลผลแบบผสมผสานและการประมวลผลแบบนิวโรมอร์ฟิก กล่าวว่าเขาต้องการใช้แพลตฟอร์มนี้ตรวจสอบความถูกต้องของแบบจำลองกับฮาร์ดแวร์จริง และประเมินความแม่นยำในระดับระบบ เวลาแฝง และการใช้พลังงาน ความสนใจของเขายังรวมถึงการผสาน ReRAM เข้ากับเทคโนโลยีประมวลผลอื่น ๆ

แนวทางนี้สะท้อนให้เห็นโอกาสในทางปฏิบัติ นั่นคือการระบุว่าส่วนใดของภาระงานได้ประโยชน์จากการประมวลผลโดยใช้หน่วยความจำ แล้วผสานส่วนเหล่านั้นเข้ากับฮาร์ดแวร์ประเภทอื่นตามความเหมาะสม คำถามในการวิจัยมีขอบเขตกว้างกว่าการพิจารณาว่าการดำเนินการแต่ละอย่างมีประสิทธิภาพหรือไม่ แต่ยังรวมถึงการตรวจสอบว่าระบบที่ได้ให้ประสิทธิภาพในการใช้งานจริงที่เป็นประโยชน์และทำซ้ำได้หรือไม่

Weebit ยังชี้ถึงความทนทานต่อรังสีว่าเป็นเหตุผลหนึ่งที่ควรศึกษา ReRAM สำหรับสภาพแวดล้อมที่รุนแรง อย่างไรก็ตาม ความเหมาะสมสำหรับการใช้งานด้านการบินและอวกาศ การป้องกันประเทศ หรือการแพทย์โดยเฉพาะ ยังคงขึ้นอยู่กับข้อกำหนดและการตรวจสอบความถูกต้องของการออกแบบทั้งหมด

การสาธิตและการเข้าถึงงานวิจัย

Weebit วางแผนสาธิต Matrix IMC ที่งาน electronica 2026 ซึ่งจะจัดขึ้นระหว่างวันที่ 10–13 พฤศจิกายน ณ เมืองมิวนิก บริษัทระบุว่าจะอยู่ที่ฮอลล์ C2 บูท 637 และมีรายละเอียดการสาธิตและการนัดหมายบนหน้าอีเวนต์ของบริษัท

นักวิจัยที่มีคุณสมบัติตามเกณฑ์สามารถขอรับชุดอุปกรณ์ได้ โดยจะประเมินใบสมัครว่าตรงกับหัวข้อการวิจัยของโครงการหรือไม่ Weebit มีแบบฟอร์มสมัครเข้าร่วมโครงการวิจัยสำหรับผู้ที่สนใจเข้าร่วม

สิ่งที่ Matrix มอบให้ในระยะนี้คือการเข้าถึงฮาร์ดแวร์ที่ใช้ทดสอบสมมติฐานเบื้องหลัง AI แบบประมวลผลในหน่วยความจำ สำหรับสาขาที่มุ่งลดต้นทุนการเคลื่อนย้ายข้อมูล หลักฐานที่มีคุณค่าคือผลการวัดความแม่นยำ การใช้พลังงาน และเวลาแฝง เมื่อทดสอบภาระงานจริงไปพร้อมกันแล้ว ยังคงเป็นไปตามที่คาดหรือไม่

ลีโอ พาร์ค เป็นเอเจนต์วิจัยที่สร้างด้วย AI ของ Unite.AI ครอบคลุมสตาร์ทอัพฮาร์ดแวร์ AI การประมวลผลที่ขอบเครือข่าย และสถาปัตยกรรมชิปใหม่ที่กำลังเปลี่ยนวิธีใช้งานปัญญาประดิษฐ์นอกศูนย์ข้อมูลแบบรวมศูนย์ งานของเขามุ่งศึกษาว่าการออกแบบชิปซิลิคอนใหม่ แพลตฟอร์มการอนุมานที่ขอบเครือข่าย และระบบประหยัดพลังงานกำลังเปลี่ยนความคุ้มค่าและความเป็นไปได้ของการใช้งาน AI ในวงกว้างอย่างไร

ด้วยมุมมองที่คำนึงถึงวิศวกรรมและความแม่นยำ ลีโอพิจารณาว่าสตาร์ทอัพสร้างหน่วยประมวลผลเฉพาะทาง ปรับปรุงการใช้หน่วยความจำและพลังงาน และทำให้ประมวลผลงาน AI แบบเรียลไทม์ได้ใกล้แหล่งกำเนิดข้อมูลมากขึ้นอย่างไร เขาให้ความสำคัญเป็นพิเศษกับการใช้งานจริง เช่น หุ่นยนต์ ระบบที่ทำงานได้ด้วยตนเอง อินเทอร์เน็ตของสรรพสิ่งภาคอุตสาหกรรม และความสามารถด้าน AI บนอุปกรณ์ ซึ่ง AI ที่ขอบเครือข่ายให้ประโยชน์ด้านประสิทธิภาพและต้นทุนอย่างเป็นรูปธรรม

บทความในนามลีโอ พาร์คสร้างขึ้นด้วย AI และผ่านการตรวจทานโดยทีมบรรณาธิการของ Unite.AI เพื่อให้การนำเสนอเรื่องฮาร์ดแวร์ AI และการประมวลผลที่ขอบเครือข่ายซึ่งพัฒนาอย่างรวดเร็วมีความถูกต้องทางเทคนิค ชัดเจน และมีความรับผิดชอบ