เปลี่ยนไปสู่ AI Inferencing ที่นำความฉลาดทันเวลาไปสู่ Edge

อุตสาหกรรม AI และการอภิปรายที่ตามมานั้น กำลังเปลี่ยนโฟกัสออกจากความพยายามในการฝึกอบรมโมเดล AI ซึ่งเป็นเรื่องที่เกิดขึ้นในศูนย์กลางเมฆหรือศูนย์ข้อมูล (หรือทั้งสองอย่าง) นั้นเป็น “ข่าวเก่า” แล้ว ในขณะนี้ โดยมีการใช้งานมากมายทั่วทั้งอุตสาหกรรม โมเดลเหล่านี้ถูกนำไปใช้และดำเนินการใน môi trườngที่กระจายและ децентрализован อุตสาหกรรมนี้กำลังเปลี่ยนจากช่วงการฝึกอบรมไปสู่ช่วงการอนุมาน และเรื่องราวนี้เกิดขึ้นที่ Edge โดยมีความฉลาดทันเวลาที่จำเป็นต้องใช้สำหรับทุกสิ่ง ตั้งแต่กล้องอัจฉริยะไปจนถึงอุปกรณ์ที่ฝังตัวในเครื่องจักรอุตสาหกรรม โฟกัสกำลังเปลี่ยนจากการฝึกอบรม AI ที่ศูนย์กลางไปสู่ Edge AI หรือการนำไปใช้ในรูปแบบผสมผสาน

ในยุคที่ความเร็ว ความแม่นยำ และความเป็นส่วนตัวของข้อมูลมีความสำคัญมากกว่าที่เคย Edge AI กำลังเปลี่ยนแปลงกระบวนการทำงานในจุดที่สำคัญที่สุดของธุรกิจ โดยไม่เหมือนกับโมเดล AI แบบดั้งเดิมที่พึ่งพาโครงสร้างพื้นฐานเมฆ Edge AI นำการตัดสินใจมาใกล้กับจุดที่เกิดข้อมูล

คุณค่าของ Edge AI

การลดระยะห่างระหว่างการเกิดข้อมูลและการตัดสินใจจะช่วยลดความล่าช้าโดยการกำจัดความล่าช้าจากการส่งข้อมูลเครือข่าย ทำให้สามารถส่งมอบข้อมูลเชิงลึกและตัดสินใจโดยอัตโนมัติได้เร็วขึ้น การประมวลผลแบบเรียลไทม์นี้จะช่วยให้องค์กรได้รับประสิทธิภาพที่ดีขึ้น โดยปรับปรุงประสบการณ์ของลูกค้า คุณภาพของผลิตภัณฑ์ หรือแม้กระทั่งการสนับสนุนความปลอดภัยของพนักงาน โดยไม่คำนึงถึงกรณีการใช้งาน ระยะทางที่สั้นลงยังช่วยปรับปรุงความปลอดภัยและความน่าเชื่อถือโดยการลดระยะเวลาที่ข้อมูลที่มีความละเอียดอ่อนอยู่ในระหว่างการเคลื่อนไหว และลดแบนด์วิธที่จำเป็น

ความทันทีและความเกี่ยวข้องเป็นสิ่งสำคัญที่สุด ไม่ว่าจะเป็นอุตสาหกรรมใด

ตัวอย่างเช่น ในการผลิต Edge AI สามารถให้พลังงานแก่ระบบการรับรองคุณภาพที่สามารถระบุพื้นผิวที่มีข้อบกพร่องได้ทันที ในด้านการดูแลสุขภาพ มันสามารถสนับสนุน ระบบติดตามผู้ป่วย ที่สามารถกระตุ้นการแจ้งเตือนเมื่อตรวจพบความผิดปกติ ผู้ค้าปลีกจะใช้ Edge AI เพื่อสร้างประสบการณ์ลูกค้าใน店ที่มีการปรับแต่งได้และจัดการสินค้าอย่างมีประสิทธิภาพ ในทุกสถานการณ์เหล่านี้ ความฉลาดที่จำเป็นที่จะนั่งอยู่ที่ Edge เป็นตัวแยกแยะที่สำคัญ Edge AI มีความสำคัญเมื่อเวลาเป็นเงิน

บริบทมีความสำคัญตั้งแต่ศูนย์ข้อมูลไปจนถึง Edge

ในขณะที่ GPU มักถูกมองว่าเป็นของ AI Edge AI เกี่ยวข้องกับความซับซ้อนที่มากกว่า เนื่องจากความต้องการและลักษณะของงานสำหรับการอนุมานนั้นแตกต่างอย่าง根本จากที่ใช้ในการฝึกอบรมโมเดล การอนุมานหลายงาน โดยเฉพาะอย่างยิ่งการประยุกต์ใช้การมองเห็น สามารถจัดการได้อย่างมีประสิทธิภาพโดย CPU ซึ่งมีความสามารถในการใช้พลังงานและค่าใช้จ่ายที่ดีกว่า แม้ว่าการนำไปใช้ที่ Edge จะต้องมีการแสดงผลที่สูงกว่า GPU ใหม่ประเภทหนึ่งที่มีพลังงานต่ำได้ปรากฏขึ้น โดยให้คำตอบที่เหมาะสมสำหรับ Edge

สุดท้าย การเลือกคอนฟิกที่ถูกต้องเป็นการออกกำลังกายในการสร้างสมดุลระหว่างงานที่เฉพาะเจาะจง การส่งผ่านข้อมูลที่ต้องการ และข้อจำกัดด้านสิ่งแวดล้อม การนำไปใช้ Edge AI ต้องการฮาร์ดแวร์ที่สร้างสมดุลระหว่างประสิทธิภาพและความสามารถในการใช้งานจริงในสนาม

ความสำเร็จที่ Edge ต้องการแนวทางที่แตกต่างโดยพื้นฐานซึ่งจัดการกับพื้นที่ พลังงาน และข้อจำกัดด้านการทำความเย็น ในขณะเดียวกันก็รักษาความสามารถในการประมวลผลไว้ ฮาร์ดแวร์และซอฟต์แวร์ต้องถูกออกแบบมาโดยเฉพาะสำหรับความต้องการของ Edge ซึ่งมักจะรวมถึงความสามารถในการทำงานได้อย่างน่าเชื่อถือในสภาพแวดล้อมที่รุนแรงโดยไม่กระทบต่อความสามารถในการประมวลผล ทางเลือกคือการหยุดทำงาน ซึ่งสามารถมีผลกระทบทางด้านล่างที่รุนแรง

เส้นทางสู่ความสำเร็จ

เส้นทางสู่ความสำเร็จของ Edge AI เริ่มต้นด้วยการระบุกรณีการใช้งานที่มีผลกระทบสูงและโฟกัสการนำไปใช้ครั้งแรกในนั้น การมุ่งเน้นนี้จะช่วยให้องค์กรสามารถจัดการกับขอบเขตได้ ในขณะเดียวกันก็สร้างความสำเร็จเชิงบวกจากการนำไปใช้ ทำให้องค์กรมีความเข้าใจถึงศักยภาพของเทคโนโลยีนี้ ในขณะเดียวกันก็ปรับปรุงกระบวนการทำงานและกรอบการสนับสนุน

อย่างไรก็ตาม สิ่งนี้พูดได้ง่ายกว่าทำ!

ส่วนใหญ่ขององค์กรที่พยายามใช้ประโยชน์จากการนำไปใช้ AI ไม่ได้มีความรู้ที่ลึกซึ้งหรือมีประสบการณ์ในการใช้เทคโนโลยีเหล่านี้ สิ่งนี้ทำให้เกิดช่องว่างด้านความรู้ที่ทำให้พวกเขาต้องการคำแนะนำและความสามารถที่ดีขึ้นจากพันธมิตรภายนอก โดยเฉพาะอย่างยิ่งเมื่อการนำไปใช้กำลังแพร่กระจายและอุตสาหกรรมกำลังเปลี่ยนจากการฝึกอบรมที่ศูนย์กลางไปสู่การอนุมานที่ Edge ความต้องการซอฟต์แวร์และบริการที่มาพร้อมกับฮาร์ดแวร์จะเพิ่มขึ้นเช่นกัน นอกจากนี้ ความซับซ้อนจะเพิ่มขึ้นในอนาคต โดยเฉพาะอย่างยิ่งที่ Edge ซึ่งการหยุดทำงานสามารถมีผลกระทบทางด้านล่างที่รุนแรงและแพง พันธมิตรที่มีความเชี่ยวชาญและบริการที่จำเป็นในการรับรองประสิทธิภาพที่สม่ำเสมอเป็นสิ่งจำเป็น

อุปสรรคทั่วไปที่องค์กรพบคือการมุ่งเน้นไปที่โครงการทดลองโดยไม่มีเส้นทางที่ชัดเจนในการขยายขนาด องค์กรจะต้องคำนึงถึงความซับซ้อนในการดำเนินงาน ตั้งแต่การบริหารจัดการระยะไกลและการทนต่อข้อผิดพลาดไปจนถึงการสนับสนุนตลอดวงจรชีวิต สิ่งนี้ทำให้การทำงานร่วมกับพันธมิตรที่มีประสบการณ์เป็นสิ่งสำคัญ ในทางกลับกัน ไม่เหมือนกับศูนย์ข้อมูลที่ระบบถูกติดตามและอัปเดตอย่างใกล้ชิด อินฟราสตรัคเชอร์ Edge ต้องถูกออกแบบมาเพื่อความทนทาน โดยมีเป้าหมายที่ 5-7 ปี

นอกจากนี้ องค์กรต่างๆ กำลังพยายามรวมทรัพยากรการประมวลผล Edge เพื่อลดขนาดและค่าใช้จ่าย สิ่งนี้รวมการทำงานแบบดั้งเดิมเข้ากับการใช้งาน AI บนแพลตฟอร์มที่รวมและเสมือน ทำให้ไม่จำเป็นต้องมีอินฟราสตรัคเชอร์ที่แยกจากกัน แต่เพิ่มความต้องการความฉลาดทันเวลา

Edge AI ในอนาคต

Edge AI กำลังพัฒนาอย่างรวดเร็ว โดยเปลี่ยนจากระบบที่ใช้กฎไปสู่ระบบอัจฉริยะที่ตระหนักถึงบริบทได้ ด้วยความก้าวหน้าในด้าน AI ที่สร้างสรรค์และโมเดลพื้นฐาน ระบบ Edge กำลังเริ่มสนับสนุนการเรียนรู้แบบวงจรปิด โดยปรับเปลี่ยนตนเองตามข้อมูลเข้าโดยไม่ต้องอาศัยเมฆ

การนำไปใช้แบบ Kubernetes และโมเดลที่อยู่ในคอนเทนเนอร์สร้างความสม่ำเสมอในการรักษาประสิทธิภาพของการนำไปใช้ Edge AI คอนเทนเนอร์ทำให้ง่ายต่อการอัปเดตอย่างรวดเร็วจากเมฆไปยัง Edge และ Kubernetes จัดการคอนเทนเนอร์ที่ระดับขนาดใหญ่ โดยจัดการการนำไปใช้ การอัปเดต และการตรวจสอบสุขภาพโดยอัตโนมัติ ความสามารถที่เพิ่มขึ้นและความน่าเชื่อถือในการอัปเดตที่ถูกส่งไปยังโหนด Edge ยังช่วยปรับปรุงความแม่นยำของโมเดลและให้ความทนทานและความพร้อมใช้งานที่ดีขึ้น ซึ่งเป็นสิ่งสำคัญในการรักษาคุณค่าของการนำไปใช้ Edge AI ในขณะเดียวกัน อุปกรณ์ Edge สามารถรวบรวมข้อมูลใหม่ที่จะช่วยฝึกโมเดลที่ดีขึ้นในระบบ AI แบบวงจรปิด

Edge AI มากกว่าแค่คำพูดที่น่าฮือฮา มันคือการเปลี่ยนแปลงที่เป็นรูปธรรมใน วิธีที่อุตสาหกรรมจะใช้ความฉลาดที่จุดโต้ตอบในอนาคต – และมันกำลังมาอย่างรวดเร็ว ด้วยแผน Edge AI ที่มาพร้อมกับโครงสร้างพื้นฐานและความสามารถของระบบที่เหมาะสม องค์กรสามารถปลดล็อกประสิทธิภาพใหม่ๆ ของ AI ได้ โดยการเพิ่มความตอบสนองในขณะที่หลีกเลี่ยงการหยุดทำงานที่มีค่าใช้จ่ายสูง