บทบาทของ tinyML ในการเปิดใช้งาน Computer Vision ที่ขอบ (Edge) – Thought Leaders

โดย: เดวิส ซอว์เยอร์, ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ Deeplite

การมองเห็นของคอมพิวเตอร์มีศักยภาพที่จะปรับปรุงชีวิตประจำวันของเรา – และมีการใช้งานและประยุกต์ใช้มากมาย ตัวอย่างเช่น:

• ดอร์เบลล์สมาร์ท สำหรับการรักษาความปลอดภัยที่บ้านช่วยป้องกัน “โจรขโมยพอร์ช” และการบุกรุก ตามการวิจัยของ I.H.S. Markit (เผยแพร่ใน SecurityInfoWatch) จำนวนกล้องวงจรปิดทั่วโลกคาดว่าจะถึง 1 พันล้านในปี 2021 ในสหรัฐอเมริกาคาดว่าจะมีกล้องถึง 85 ล้านเครื่อง;
• ใน ที่จอดรถ กล้องที่มี AI ช่วยให้สามารถติดตามที่จอดรถว่างและที่จอดรถที่ถูกยึดได้โดยอัตโนมัติ เพื่อให้ผู้บริโภคทราบว่าที่จอดรถว่างอยู่ที่ไหน;
• กล้อง داشบอร์ด บนรถบรรทุกสามารถอ่านป้ายจำกัดความเร็วและลดความเร็วของรถบรรทุกได้โดยอัตโนมัติ เพื่อเพิ่มความปลอดภัย;
• และ โดรนที่มีกล้องเชื่อมต่อ สามารถตรวจสอบพื้นที่ห่างไกลและพื้นที่ที่ยากจะเข้าถึง และสามารถประมวลผลภาพและตัดสินใจในแบบเรียลไทม์

ทั้งหมดนี้ใช้การวิเคราะห์วิดีโออัจฉริยะที่ขับเคลื่อนด้วย AI และ Machine Learning (ML) เพื่อดูวิดีโอ ใช้ความฉลาดในการตัดสินใจ และดำเนินการ

การมองเห็นของคอมพิวเตอร์ต้องการทรัพยากรมากขึ้นที่ขอบ

อย่างไรก็ตาม เช่นเดียวกับการใช้งาน AI ที่ขับเคลื่อนด้วยอื่นๆ การมองเห็นของคอมพิวเตอร์ต้องการพลังการประมวลผล ความจำ และพลังงานในการวิเคราะห์ที่ซับซ้อนและตัดสินใจ แม้ว่านี่จะดีในศูนย์ข้อมูลที่มีพลังการประมวลผลมาก แต่ก็สามารถป้องกันการย้าย AI ไปยังขอบได้ โดยเฉพาะอุปกรณ์ขนาดเล็กที่อยู่ห่างจากศูนย์ข้อมูลและทำงานบนแบตเตอรี่ขนาดเล็ก ต้องการ AI ใหม่ที่มีขนาดเล็ก เร็ว และ “เบา” มากกว่าแนวทางแบบดั้งเดิม และอุปกรณ์ที่มีอยู่จะต้องได้รับการอัปเกรดด้วยฟังก์ชัน AI + ML (การมองเห็นของคอมพิวเตอร์) ใหม่เพื่อให้สามารถแข่งขันได้

ความก้าวหน้าใหม่ๆ ช่วยให้ Deep Neural Networks ดีขึ้น

วันนี้ ความก้าวหน้าใหม่ๆ ใน AI ทำให้ Deep Neural Networks (DNNs) เร็วขึ้น เล็กขึ้น และมีประสิทธิภาพด้านพลังงานมากขึ้น ซึ่งช่วยให้ AI ย้ายจากคลาวด์และศูนย์ข้อมูลไปยังอุปกรณ์ขอบและเซ็นเซอร์ที่ใช้แบตเตอรี่ เมื่อพูดถึงการฝึกอบรม AI โค้งคำนวณคาร์บอนฟุตพรินต์ที่น่าประทับใจได้รับการบันทึกและอภิปราย (เช่น การฝึกอบรม AI โมเดลภาษาหนึ่งๆ ปล่อยก๊าซคาร์บอนไดออกไซด์เท่ากับรถ 5 คันตลอดชีวิต) อย่างไรก็ตาม เราต้องเข้าใจถึงผลกระทบต่อสิ่งแวดล้อมของ การอนุมาน AI และวิธีการลดผลกระทบนี้ ซึ่งเป็นที่ที่การปรับโมเดลสามารถมีประโยชน์อย่างมากในการลดต้นทุนและผลกระทบต่อสิ่งแวดล้อมของ DNNs

tinyML ช่วยให้ AI ใช้งานได้บนอุปกรณ์ขนาดเล็ก

ความก้าวหน้าใหม่ๆ หนึ่งในนั้นคือ tinyML ซึ่งเป็นแนวโน้มใหม่ที่มีพลังในการทำให้อุปกรณ์ขนาดเล็กที่ใช้แบตเตอรี่สามารถใช้ ML ที่ซับซ้อนเพื่อการมองเห็นของคอมพิวเตอร์และงานการรับรู้อื่นๆ ได้ มันช่วยให้สามารถอนุมาน ML บนอุปกรณ์ขนาดเล็กที่มีข้อจำกัดทางทรัพยากรที่ขอบของคลาวด์ และช่วยให้สามารถใช้งานได้ใกล้กับผู้ใช้

ตัวอย่างเช่น GPU ของเซิร์ฟเวอร์อย่าง NVIDIA A100 มีหน่วยความจำมากกว่า 40GB ซึ่งเหมาะสำหรับการใช้งาน AI ที่ซับซ้อน เช่น การมองเห็นของคอมพิวเตอร์และการประมวลผลภาษาธรรมชาติ แต่เมื่อพูดถึงอุปกรณ์ขอบและ tinyML ไมโครคอนโทรลเลอร์ (MCU) ทั่วไปอาจมีหน่วยความจำภายในเพียง 256KB ซึ่งเป็นหน่วยความจำที่น้อยกว่า 100,000 เท่าของคลาวด์! นอกจากนี้ ไม่เหมือนกับศูนย์ข้อมูลและคลาวด์ อุปกรณ์ขอบไม่สามารถอัปเดตฮาร์ดแวร์ได้ง่ายในสนาม ซึ่งหมายความว่าเราต้อง “ใส่” AI ของเราให้เข้ากับฮาร์ดแวร์ที่มีอยู่ ซึ่งอาจต้องใช้เวลาหลายเดือนหรือหลายปีในการพัฒนาให้สำเร็จ ซึ่งเป็นที่ที่ tinyML โดยเฉพาะการเรียนรู้ของเครื่องอัตโนมัติ (AutoML) สามารถมีบทบาทสำคัญในการทำลายอุปสรรคในการนำ AI ไปใช้ในโลกแห่งความเป็นจริง

และอิทธิพลของ tinyML ก็เพิ่มขึ้นเรื่อยๆ ด้วยสมาชิกมากกว่า 10,000 คน มูลนิธิ tinyML กำลังขยายระบบนิเวศเพื่อสนับสนุนการพัฒนาและใช้งานโซลูชัน Machine Learning ที่มีพลังงานต่ำมากที่ขอบ มูลนิธินี้รวมชุมชนระดับโลกของฮาร์ดแวร์ ซอฟต์แวร์ Machine Learning วิทยาศาสตร์ข้อมูล วิศวกรระบบ นักออกแบบ ผลิตภัณฑ์ และธุรกิจ

โลกแห่งโอกาส

โดยรวมแล้ว มีอุปกรณ์เชื่อมต่อขนาดเล็กหลายพันล้านเครื่องที่สามารถใช้ประโยชน์จากความฉลาดที่ซับซ้อนได้ ความท้าทายคือว่าอุปกรณ์เหล่านี้มีทรัพยากรที่จำกัดมาก ดังนั้นเราจะ เพิ่มความฉลาดให้กับอุปกรณ์เหล่านี้ได้อย่างไร tinyML สามารถมีบทบาทสำคัญในการนำ AI และ ML ไปใช้กับการใช้งานที่ขับเคลื่อนด้วยการมองเห็นของคอมพิวเตอร์มากขึ้น ที่ขอบบนอุปกรณ์ขนาดเล็ก และสิ่งนี้สามารถปลดล็อกประโยชน์มากมายให้กับคนและบริษัททั่วผลิตภัณฑ์ บริการ และอุตสาหกรรมต่างๆ ช่วยให้เราขยายไปสู่แนวหน้าใหม่ๆ ของ AI