Enfabrica เปิดตัว Memory Fabric แบบ Ethernet ที่อาจเปลี่ยนแนวทางการอนุมาน AI ในระดับใหญ่

Enfabrica ซึ่งเป็นสตาร์ทอัพใน Silicon Valley ที่ได้รับการสนับสนุนจาก Nvidia (NVDA ) ได้เปิดตัวผลิตภัณฑ์ใหม่ที่อาจเปลี่ยนแนวทางการทำงานของ AI ในระดับใหญ่ บริษัทได้พัฒนา Elastic Memory Fabric System (EMFASYS) ซึ่งเป็น Memory Fabric แบบ Ethernet ที่ออกแบบมาเพื่อแก้ไขปัญหาการเข้าถึงหน่วยความจำของ AI

ในยุคที่ AI มีความซับซ้อนมากขึ้น และต้องการหน่วยความจำมากขึ้น EMFASYS ได้นำเสนอแนวทางใหม่ในการแยกหน่วยความจำออกจากหน่วยประมวลผล ทำให้ศูนย์ข้อมูลสามารถปรับปรุงประสิทธิภาพ ลดค่าใช้จ่าย และเพิ่มการใช้ทรัพยากรที่มีค่ามากที่สุด ได้แก่ GPU

Memory Fabric คืออะไร และทำไมมันสำคัญ?

โดยทั่วไป หน่วยความจำในศูนย์ข้อมูลจะถูกผูกไว้กับเซิร์ฟเวอร์หรือโหนดที่อยู่ในระบบ แต่ละ GPU หรือ CPU สามารถเข้าถึงหน่วยความจำที่มีแบนด์วิธสูงได้เท่านั้น ซึ่งทำงานได้ดีเมื่อทำงานมีขนาดเล็กและคาดการณ์ได้ แต่ AI ที่สร้างขึ้นได้เปลี่ยนเกมไปแล้ว AI ต้องการการเข้าถึงหน่วยความจำที่มีขนาดใหญ่และความเร็วสูง

หน่วยความจำที่มีการแบ่งปันสามารถแก้ไขปัญหานี้ได้โดยการเปลี่ยนหน่วยความจำให้เป็นทรัพยากรที่มีการแบ่งปันและกระจาย ซึ่งสามารถเข้าถึงได้โดย GPU หรือ CPU ในคลัสเตอร์ นึกภาพว่ามันเป็น “เมฆหน่วยความจำ” ภายในรैकของศูนย์ข้อมูล แทนที่จะทำซ้ำหน่วยความจำข้ามเซิร์ฟเวอร์หรือโหลดหน่วยความจำที่มีราคาแพง หน่วยความจำที่มีการแบ่งปันสามารถรวมกัน แยกออก และเข้าถึงได้ตามความต้องการผ่านเครือข่ายที่มีความเร็วสูง

แนวทางของ Enfabrica: Ethernet และ CXL

EMFASYS ได้ใช้สองเทคโนโลยีที่มีประสิทธิภาพ ได้แก่ RDMA över Ethernet และ Compute Express Link (CXL) เทคโนโลยีแรกทำให้สามารถถ่ายโอนข้อมูลได้อย่างรวดเร็วและไม่มีการหน่วงเวลา เทคโนโลยีที่สองทำให้สามารถแยกหน่วยความจำออกจาก CPU และ GPU และรวมเข้าด้วยกันเป็นทรัพยากรที่มีการแบ่งปัน

ที่核心ของ EMFASYS คือชิป ACF-S ของ Enfabrica ซึ่งเป็น “SuperNIC” ที่รวมการเชื่อมต่อเครือข่ายและควบคุมหน่วยความจำเข้าด้วยกัน ชิปนี้ทำให้เซิร์ฟเวอร์สามารถเชื่อมต่อกับหน่วยความจำที่มีขนาดใหญ่และความเร็วสูงได้ โดยใช้พอร์ต Ethernet มาตรฐาน

สิ่งที่ทำให้ EMFASYS น่าสนใจคือความสามารถในการโหลดงานที่มีการเข้าถึงหน่วยความจำออกจาก GPU ที่มีราคาแพงและเข้าถึงหน่วยความจำที่มีราคาถูกกว่า โดยไม่สูญเสียความเร็วในการเข้าถึง

ผลกระทบต่ออุตสาหกรรม AI

สิ่งนี้ไม่ใช่แค่การแก้ไขปัญหาฮาร์ดแวร์เท่านั้น แต่เป็นการเปลี่ยนแปลงแนวทางในการสร้างและขยายระบบ AI เมื่อ AI มีความซับซ้อนมากขึ้นและต้องการหน่วยความจำมากขึ้น ค่าใช้จ่ายในการให้บริการ AI ได้กลายเป็นเรื่องที่ไม่ยั่งยืนสำหรับหลายบริษัท

ด้วยการทำให้หน่วยความจำที่มีการแบ่งปันสามารถเข้าถึงได้โดยใช้ Ethernet Enfabrica ได้ให้ทางเลือกที่มีการขยายตัวสำหรับศูนย์ข้อมูลในการเพิ่มความจุหน่วยความจำได้อย่างง่ายดาย โดยไม่ต้องซื้อ GPU หรือหน่วยความจำที่มีราคาแพง

ผลกระทบไปไกลกว่านั้น โดยการทำให้หน่วยความจำสามารถแยกออกจากกันและเข้าถึงได้โดยใช้ Ethernet จะเปิดโอกาสให้สามารถสร้างระบบ AI ที่มีการแบ่งปันหน่วยความจำและสามารถทำงานได้อย่างมีประสิทธิภาพ

มองไปข้างหน้า

Enfabrica’s EMFASYS hiện đangถูกทดสอบกับลูกค้าบางราย และแม้ว่าบริษัทจะไม่ได้เผยแพร่ชื่อลูกค้า แต่ Reuters รายงานว่าผู้ให้บริการ AI Cloud รายใหญ่กำลังทดสอบระบบนี้

ด้วยการแยกหน่วยความจำออกจากหน่วยประมวลผลและทำให้สามารถเข้าถึงได้โดยใช้ Ethernet ที่มีความเร็วสูง Enfabrica ได้สร้างรากฐานสำหรับการสร้างระบบ AI ใหม่ ซึ่งสามารถทำงานได้อย่างมีประสิทธิภาพและไม่มีการจำกัด

ในโลกที่มีการใช้ AI ที่มีการแบ่งปันหน่วยความจำและสามารถทำงานได้อย่างมีประสิทธิภาพ หน่วยความจำไม่ใช่แค่ส่วนประกอบรอง แต่เป็นเวทีหลัก และ Enfabrica คิดว่าผู้ที่สร้างเวทีที่ดีที่สุดจะกำหนดผลการทำงานของ AI ในอนาคต