อนาคตของ Generative AI คือ Edge

การมาถึงของ ChatGPT และ Generative AI โดยทั่วไปเป็นจุดเปลี่ยนสำคัญในประวัติศาสตร์เทคโนโลยีและเปรียบได้กับการเริ่มต้นของอินเทอร์เน็ตและสมาร์ทโฟน Generative AI ได้แสดงศักยภาพที่ไม่มีที่สิ้นสุดในการสนทนาที่ฉลาด ผ่านการสอบ การสร้างโปรแกรม/โค้ดที่ซับซ้อน และสร้างภาพและวิดีโอที่น่าดึงดูด ในขณะที่ GPU ทำงานส่วนใหญ่ของโมเดล Gen AI ในคลาวด์ – ทั้งสำหรับการฝึกอบรมและการอนุมาน – นี่ไม่ใช่วิธีแก้ปัญหาในระยะยาวที่สามารถขยายได้ โดยเฉพาะสำหรับการอนุมาน เนื่องจากปัจจัยต่างๆ เช่น ต้นทุน พลังงาน ความล่าช้า ความเป็นส่วนตัว และความปลอดภัย บทความนี้จะกล่าวถึงปัจจัยเหล่านี้พร้อมด้วยตัวอย่างที่กระตุ้นให้ย้ายงาน Gen AI ไปยัง Edge

ส่วนใหญ่ของแอปพลิเคชันทำงานบนโปรเซสเซอร์ที่มีประสิทธิภาพสูง – ทั้งบนอุปกรณ์ (เช่น สมาร์ทโฟน เดสก์ท็อป แล็ปท็อป) หรือในศูนย์ข้อมูล เมื่อแอปพลิเคชันที่ใช้ AI เพิ่มขึ้น โปรเซสเซอร์เหล่านี้ที่มีเฉพาะ CPU จะไม่เพียงพอ นอกจากนี้ การขยายตัวที่รวดเร็วของงาน Generative AI กำลังขับเคลื่อนความต้องการที่เพิ่มขึ้นอย่างมากสำหรับเซิร์ฟเวอร์ที่มี GPU ที่มีราคาแพงและกินพลังงาน ซึ่งจะเพิ่มต้นทุนโครงสร้างพื้นฐานได้ เซิร์ฟเวอร์ที่มี AI เหล่านี้สามารถมีราคาสูงกว่าเซิร์ฟเวอร์ปกติถึง 7 เท่า และ GPU คิดเป็น 80% ของต้นทุนที่เพิ่มขึ้นนี้

นอกจากนี้ เซิร์ฟเวอร์คลาวด์หนึ่งเครื่องกินพลังงาน 500W ถึง 2000W ในขณะที่เซิร์ฟเวอร์ที่มี AI กินพลังงาน 2000W ถึง 8000W – มากกว่า 4 เท่า เพื่อสนับสนุนเซิร์ฟเวอร์เหล่านี้ ศูนย์ข้อมูลต้องการโมดูลการทำความเย็นที่เพิ่มขึ้นและอัปเกรดโครงสร้างพื้นฐาน – ซึ่งอาจสูงกว่าการลงทุนในการคำนวณแล้ว ศูนย์ข้อมูลกินพลังงาน 300 TWH ต่อปี ซึ่งเท่ากับ 1% ของการบริโภคพลังงานทั้งหมดของโลก หากแนวโน้มการนำ AI ไปใช้ดำเนินต่อไป อาจใช้พลังงานทั่วโลกถึง 5% โดยศูนย์ข้อมูลภายในปี 2030 นอกจากนี้ ยังมีการลงทุนอย่างไม่เคยปรากฏมาก่อนในศูนย์ข้อมูล Generative AI มีการประมาณการว่าศูนย์ข้อมูลจะกินพลังงาน 500 พันล้านดอลลาร์สำหรับการลงทุนด้านทุนโดย 2027 ซึ่งได้รับแรงผลักดันหลักจากความต้องการโครงสร้างพื้นฐาน AI

การบริโภคไฟฟ้าของศูนย์ข้อมูล ซึ่งปัจจุบันอยู่ที่ 300 TwH จะเพิ่มขึ้นอย่างมีนัยสำคัญพร้อมกับการนำ AI ที่สร้างสรรค์มาใช้

ต้นทุนการคำนวณ AI เช่นเดียวกับการบริโภคพลังงานจะขัดขวางการนำ AI ที่สร้างสรรค์มาใช้อย่างแพร่หลาย การแก้ไขความท้าทายเหล่านี้สามารถทำได้โดยการย้ายการคำนวณ AI ไปยัง Edge และใช้โซลูชันการประมวลผลที่ได้รับการปรับให้เหมาะสมสำหรับงาน AI ด้วยวิธีนี้ ลูกค้ายังได้รับประโยชน์อื่นๆ รวมถึงความล่าช้า ความเป็นส่วนตัว ความน่าเชื่อถือ และความสามารถที่เพิ่มขึ้น

การคำนวณตามรอยข้อมูลไปยัง Edge

ตั้งแต่หนึ่งทศวรรษที่แล้ว เมื่อ AI ออกมาจากโลกวิชาการ การฝึกอบรมและการอนุมานของโมเดล AI เกิดขึ้นในคลาวด์/ศูนย์ข้อมูล เนื่องจากข้อมูลส่วนใหญ่ถูกสร้างและบริโภคที่ Edge – โดยเฉพาะวิดีโอ – จึงมีเหตุผลที่จะย้ายการอนุมานของข้อมูลไปยัง Edge เพื่อปรับปรุงต้นทุนรวมของการเป็นเจ้าของ (TCO) สำหรับองค์กรเนื่องจากต้นทุนเครือข่ายและคำนวณที่ลดลง ในขณะที่ค่าใช้จ่ายในการอนุมาน AI ในคลาวด์เป็นต้นทุนซ้ำๆ ค่าใช้จ่ายในการอนุมานที่ Edge เป็นต้นทุนฮาร์ดแวร์ครั้งเดียว โดยพื้นฐานแล้ว การเพิ่มระบบด้วย Edge AI โปรเซสเซอร์จะลดต้นทุนการดำเนินงานทั้งหมดลง การย้ายงาน AI ที่ไม่ใช่ Generative ไปยัง Edge (เช่น อุปกรณ์ อุปกรณ์) งาน AI ที่สร้างสรรค์จะทำตามรอยนี้เช่นกัน ซึ่งจะนำมาซึ่งการประหยัดที่สำคัญสำหรับองค์กรและผู้บริโภค

การย้ายไปยัง Edge คู่กับ AI อ_accelerator ที่มีประสิทธิภาพในการทำงานอนุมานส่งมอบผลประโยชน์อื่นๆ เช่นกัน สิ่งสำคัญที่สุดในนั้นคือความล่าช้า ตัวอย่างเช่น ในแอปพลิเคชันเกม การควบคุมและเพิ่มคุณสมบัติของตัวละครที่ไม่ใช่ผู้เล่น (NPCs) โดยใช้ AI ที่สร้างสรรค์ โดยใช้โมเดล LLM ที่ทำงานบน Edge AI อ_accelerator ในเครื่องเล่นเกมหรือ PC ผู้เล่นสามารถให้ NPC เหล่านั้นมีเป้าหมายเฉพาะเพื่อให้พวกมันสามารถมีส่วนร่วมในเรื่องราวได้อย่างมีความหมาย ความล่าช้าที่ต่ำจาก Edge อนุมานท้องถิ่นจะทำให้ NPC พูดและเคลื่อนไหวตอบสนองต่อคำสั่งและการกระทำของผู้เล่นในเวลาจริง ซึ่งจะส่งมอบประสบการณ์เกมที่มีประสิทธิภาพสูงในลักษณะที่คุ้มค่าและประหยัดพลังงาน

ในแอปพลิเคชันเช่นสุขภาพ ความเป็นส่วนตัวและความน่าเชื่อถือมีความสำคัญอย่างยิ่ง (เช่น การประเมินผู้ป่วย การแนะนำยา) ข้อมูลและโมเดล AI ที่เกี่ยวข้องจะต้องอยู่บนพื้นฐานของการปกป้องข้อมูลผู้ป่วย (ความเป็นส่วนตัว) และการหยุดทำงานของเครือข่ายที่จะปิดกั้นการเข้าถึงโมเดล AI ในคลาวด์อาจเป็นอันตรายได้ Edge AI อุปกรณ์ที่ทำงานโมเดล AI ที่สร้างสรรค์แบบกำหนดเองสำหรับลูกค้าองค์กรแต่ละราย – ในกรณีนี้ผู้ให้บริการสุขภาพ – สามารถแก้ไขปัญหาความเป็นส่วนตัวและความน่าเชื่อถือได้อย่างราบรื่น ในขณะเดียวกันก็ส่งมอบความล่าช้าที่ต่ำและต้นทุนที่ลดลง

AI ที่สร้างสรรค์บนอุปกรณ์ Edge จะรับประกันความล่าช้าที่ต่ำในเกมและรักษาข้อมูลผู้ป่วยและปรับปรุงความน่าเชื่อถือสำหรับการดูแลสุขภาพ

โมเดล AI ที่สร้างสรรค์หลายร้อยโมเดลที่ทำงานบนคลาวด์สามารถมีพารามิเตอร์ถึงหนึ่งล้านล้าน – โมเดลเหล่านี้สามารถตอบคำถามทั่วไปได้อย่างมีประสิทธิภาพ อย่างไรก็ตาม แอปพลิเคชันเฉพาะขององค์กรมีความต้องการให้โมเดลส่งผลลัพธ์ที่เกี่ยวข้องกับกรณีการใช้งาน ตัวอย่างเช่น ผู้ช่วย AI ที่สร้างสรรค์แบบกำหนดเองเพื่อรับคำสั่งซื้อในร้านอาหารฟาสต์ฟู้ด – สำหรับระบบนี้เพื่อมีปฏิสัมพันธ์กับลูกค้าอย่างราบรื่น โมเดล AI ที่สร้างสรรค์แบบกำหนดเองจะต้องได้รับการฝึกอบรมจากเมนูของร้านอาหาร รวมทั้งสารอาหารและส่วนผสมที่สำคัญ ขนาดโมเดลสามารถได้รับการปรับให้เหมาะสมโดยใช้โมเดล LLM ขนาดใหญ่เพื่อฝึกโมเดล LLM ขนาด 10-30 พันล้านพารามิเตอร์ และใช้การปรับให้เหมาะสมเพิ่มเติมด้วยข้อมูลเฉพาะของลูกค้า โมเดลดังกล่าวสามารถส่งผลลัพธ์ที่มีความแม่นยำและความสามารถที่เพิ่มขึ้นได้ และเนื่องจากขนาดโมเดลที่เล็กกว่า จึงสามารถใช้งานได้อย่างมีประสิทธิภาพบน AI อ_accelerator ที่ Edge

Gen AI จะชนะที่ Edge

จะมีความจำเป็นต้องมี Gen AI ที่ทำงานบนคลาวด์เสมอ โดยเฉพาะสำหรับแอปพลิเคชันทั่วไป เช่น ChatGPT และ Claude แต่เมื่อพูดถึงแอปพลิเคชันเฉพาะขององค์กร เช่น Adobe Photoshop’s generative fill หรือ Github copilot AI ที่สร้างสรรค์ที่ Edge ไม่ใช่แค่อนาคต แต่ยังเป็นปัจจุบัน AI อ_accelerator ที่สร้างสรรค์เป็นกุญแจสำคัญในการทำให้สิ่งนี้เป็นไปได้ โดยเฉพาะสำหรับแอปพลิเคชันเฉพาะขององค์กร เช่น Adobe Photoshop’s generative fill หรือ Github copilot AI ที่สร้างสรรค์ที่ Edge ไม่ใช่แค่อนาคต แต่ยังเป็นปัจจุบัน AI อ_accelerator ที่สร้างสรรค์เป็นกุญแจสำคัญในการทำให้สิ่งนี้เป็นไปได้