Jin Kim, CEO and Co-Founder at XCENA

ห้าขั้นตอนในการเปลี่ยนหน่วยความจำจากข้อจำกัดที่ใหญ่ที่สุดของ AI เป็นข้อได้เปรียบในการแข่งขัน

ในช่วงหลายปีที่ผ่านมา โครงสร้างพื้นฐาน AI มุ่งเน้นไปที่การคำนวณมากกว่ามาตรการอื่นๆ มีการเพิ่มแอคเซเลอเรเตอร์ คลัสเตอร์ที่ใหญ่ขึ้น และ FLOPS ที่สูงขึ้น ทำให้เกิดการอภิปรายเกี่ยวกับการใช้ GPU ให้เกิดประโยชน์สูงสุด วิธีนี้มีเหตุผลเมื่อความก้าวหน้าของโมเดลขึ้นอยู่กับการฝึกอบรมขนาดใหญ่ แต่ตอนนี้เมื่อการนำ AI ไปใช้ในการผลิตได้รับความสำคัญ มีข้อจำกัดใหม่ที่ต้องให้ความสนใจ: หน่วยความจำ ปัจจุบัน ข้อจำกัดที่ยากที่สุดสำหรับ AI หลายข้อเกิดขึ้นในด้านความจุหน่วยความจำ แบนด์วิธ ละตันซี และต้นทุนของเวลาและพลังงานในการย้ายข้อมูลผ่านระบบ วินโดว์บริบทยังคงขยายตัว...