ผู้นำทางความคิด

บทบาทของ tinyML ในการเปิดใช้งาน Computer Vision ที่ขอบ (Edge) – Thought Leaders

Davis Sawyer
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญtinyML ช่วยให้การประมวลผลภาพบนไมโครคอนโทรลเลอร์เป็นไปได้ โดยใช้หน่วยความจำน้อยกว่า GPU…
ดูเพิ่มเติม
  • tinyML ช่วยให้การประมวลผลภาพบนไมโครคอนโทรลเลอร์เป็นไปได้ โดยใช้หน่วยความจำน้อยกว่า GPU บนคลาวด์ถึง 100,000 เท่า
  • การเรียนรู้ของเครื่องอัตโนมัติผ่าน tinyML ทำลายอุปสรรคในการปรับใช้ AI บนอุปกรณ์ขอบที่มีทรัพยากรจำกัด
  • มูลนิธิ tinyML รวบรวมสมาชิกกว่า 10,000 คน เพื่อพัฒนา ML ที่ใช้พลังงานต่ำเป็นพิเศษบนขอบเครือข่าย

โดย: เดวิส ซอว์เยอร์, ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่ฝ่ายผลิตภัณฑ์ Deeplite

การมองเห็นของคอมพิวเตอร์มีศักยภาพที่จะปรับปรุงชีวิตประจำวันของเรา – และมีการใช้งานและประยุกต์ใช้มากมาย ตัวอย่างเช่น:

  • ดอร์เบลล์สมาร์ท สำหรับการรักษาความปลอดภัยที่บ้านช่วยป้องกัน “โจรขโมยพัสดุหน้าบ้าน” และการบุกรุก ตามการวิจัยของ I.H.S. Markit (เผยแพร่ใน SecurityInfoWatch) จำนวนกล้องวงจรปิดทั่วโลกคาดว่าจะถึง 1 พันล้านในปี 2021 ในสหรัฐอเมริกาคาดว่าจะมีกล้องถึง 85 ล้านเครื่อง;
  • ใน ที่จอดรถ กล้องที่มี AI ช่วยให้สามารถติดตามที่จอดรถว่างและที่จอดรถที่มีรถจอดอยู่ได้โดยอัตโนมัติ เพื่อให้ผู้บริโภคทราบว่าที่จอดรถว่างอยู่ที่ไหน;
  • กล้องติดหน้ารถ บนรถบรรทุกสามารถอ่านป้ายจำกัดความเร็วและลดความเร็วของรถบรรทุกได้โดยอัตโนมัติ เพื่อเพิ่มความปลอดภัย;
  • และ โดรนที่มีกล้องเชื่อมต่อ สามารถตรวจสอบพื้นที่ห่างไกลและพื้นที่ที่ยากจะเข้าถึง และสามารถประมวลผลภาพและตัดสินใจในแบบเรียลไทม์

ทั้งหมดนี้ใช้การวิเคราะห์วิดีโออัจฉริยะที่ขับเคลื่อนด้วย AI และ Machine Learning (ML) เพื่อดูวิดีโอ ใช้ความฉลาดในการตัดสินใจ และดำเนินการ

การมองเห็นของคอมพิวเตอร์ต้องการทรัพยากรมากขึ้นที่ขอบ

อย่างไรก็ตาม เช่นเดียวกับการใช้งาน AI ที่ขับเคลื่อนด้วยอื่นๆ การมองเห็นของคอมพิวเตอร์ต้องการพลังการประมวลผล ความจำ และพลังงานในการวิเคราะห์ที่ซับซ้อนและตัดสินใจ แม้ว่านี่จะดีในศูนย์ข้อมูลที่มีพลังการประมวลผลมาก แต่ก็สามารถป้องกันการย้าย AI ไปยังขอบได้ โดยเฉพาะอุปกรณ์ขนาดเล็กที่อยู่ห่างจากศูนย์ข้อมูลและทำงานบนแบตเตอรี่ขนาดเล็ก ต้องการ AI ใหม่ที่มีขนาดเล็ก เร็ว และ “เบา” มากกว่าแนวทางแบบดั้งเดิม และอุปกรณ์ที่มีอยู่จะต้องได้รับการอัปเกรดด้วยฟังก์ชัน AI + ML (การมองเห็นของคอมพิวเตอร์) ใหม่เพื่อให้สามารถแข่งขันได้

ความก้าวหน้าใหม่ๆ ช่วยให้ Deep Neural Networks ดีขึ้น

วันนี้ ความก้าวหน้าใหม่ๆ ใน AI ทำให้ Deep Neural Networks (DNNs) เร็วขึ้น เล็กขึ้น และมีประสิทธิภาพด้านพลังงานมากขึ้น ซึ่งช่วยให้ AI ย้ายจากคลาวด์และศูนย์ข้อมูลไปยังอุปกรณ์ขอบและเซ็นเซอร์ที่ใช้แบตเตอรี่ เมื่อพูดถึงการฝึกอบรม AI รอยเท้าคาร์บอนที่สูงอย่างน่าตกใจได้รับการบันทึกและอภิปราย (เช่น การฝึกอบรม AI โมเดลภาษาหนึ่งๆ ปล่อยก๊าซคาร์บอนไดออกไซด์เท่ากับรถ 5 คันตลอดชีวิต) อย่างไรก็ตาม เราต้องเข้าใจถึงผลกระทบต่อสิ่งแวดล้อมของ การอนุมาน AI และวิธีการลดผลกระทบนี้ ซึ่งเป็นที่ที่การปรับโมเดลสามารถมีประโยชน์อย่างมากในการลดต้นทุนและผลกระทบต่อสิ่งแวดล้อมของ DNNs

tinyML ช่วยให้ AI ใช้งานได้บนอุปกรณ์ขนาดเล็ก

ความก้าวหน้าใหม่ๆ หนึ่งในนั้นคือ tinyML ซึ่งเป็นแนวโน้มใหม่ที่มีพลังในการทำให้อุปกรณ์ขนาดเล็กที่ใช้แบตเตอรี่สามารถใช้ ML ที่ซับซ้อนเพื่อการมองเห็นของคอมพิวเตอร์และงานการรับรู้อื่นๆ ได้ มันช่วยให้สามารถอนุมาน ML บนอุปกรณ์ขนาดเล็กที่มีข้อจำกัดทางทรัพยากรที่ขอบของคลาวด์ และช่วยให้สามารถใช้งานได้ใกล้กับผู้ใช้

ตัวอย่างเช่น GPU ของเซิร์ฟเวอร์อย่าง NVIDIA A100 มีหน่วยความจำมากกว่า 40GB ซึ่งเหมาะสำหรับการใช้งาน AI ที่ซับซ้อน เช่น การมองเห็นของคอมพิวเตอร์และการประมวลผลภาษาธรรมชาติ แต่เมื่อพูดถึงอุปกรณ์ขอบและ tinyML ไมโครคอนโทรลเลอร์ (MCU) ทั่วไปอาจมีหน่วยความจำภายในเพียง 256KB ซึ่งน้อยกว่าหน่วยความจำในคลาวด์มากกว่า 100,000 เท่า! นอกจากนี้ ไม่เหมือนกับศูนย์ข้อมูลและคลาวด์ อุปกรณ์ขอบไม่สามารถอัปเดตฮาร์ดแวร์ได้ง่ายในสนาม ซึ่งหมายความว่าเราต้อง “ใส่” AI ของเราให้เข้ากับฮาร์ดแวร์ที่มีอยู่ ซึ่งอาจต้องใช้เวลาลองผิดลองถูกหลายเดือนหรือหลายปีกว่าผู้พัฒนาจะทำได้สำเร็จ หรืออาจทำไม่ได้เลย ซึ่งเป็นที่ที่ tinyML โดยเฉพาะการเรียนรู้ของเครื่องอัตโนมัติ (AutoML) สามารถมีบทบาทสำคัญในการทำลายอุปสรรคในการนำ AI ไปใช้ในโลกแห่งความเป็นจริง

และอิทธิพลของ tinyML ก็เพิ่มขึ้นเรื่อยๆ ด้วยสมาชิกมากกว่า 10,000 คน มูลนิธิ tinyML กำลังขยายระบบนิเวศเพื่อสนับสนุนการพัฒนาและใช้งานโซลูชัน Machine Learning ที่มีพลังงานต่ำมากที่ขอบ มูลนิธินี้รวมชุมชนระดับโลกของฮาร์ดแวร์ ซอฟต์แวร์ Machine Learning วิทยาศาสตร์ข้อมูล วิศวกรระบบ นักออกแบบ ผลิตภัณฑ์ และธุรกิจ

โลกแห่งโอกาส

โดยรวมแล้ว มีอุปกรณ์เชื่อมต่อขนาดเล็กหลายพันล้านเครื่องที่สามารถใช้ประโยชน์จากความฉลาดที่ซับซ้อนได้ ความท้าทายคือว่าอุปกรณ์เหล่านี้มีทรัพยากรที่จำกัดมาก ดังนั้นเราจะ เพิ่มความฉลาดให้กับอุปกรณ์เหล่านี้ได้อย่างไร tinyML สามารถมีบทบาทสำคัญในการนำ AI และ ML ไปใช้กับการใช้งานที่ขับเคลื่อนด้วยการมองเห็นของคอมพิวเตอร์มากขึ้น ที่ขอบบนอุปกรณ์ขนาดเล็ก และสิ่งนี้สามารถปลดล็อกประโยชน์มากมายให้กับคนและบริษัททั่วผลิตภัณฑ์ บริการ และอุตสาหกรรมต่างๆ ช่วยให้เราขยายไปสู่แนวหน้าใหม่ๆ ของ AI

Davis Sawyer

เดวิส ซอว์เยอร์ เป็นนักธุรกิจด้านเทคโนโลยีชาวแคนาดา มีประสบการณ์ด้านสตาร์ทอัพและอุตสาหกรรม AI ที่หลากหลาย ที่ Deeplite เขาเป็นผู้นำทิศทางผลิตภัณฑ์และกลยุทธ์การนำผลิตภัณฑ์ไปใช้เชิงพาณิชย์ ก่อนเข้าร่วม Deeplite เดวิสพัฒนาแบบจำลองทางสถิติสำหรับความปลอดภัยของยาในด้านภูมิคุ้มกันวิทยามะเร็ง สำหรับภาคการผลิต และสำหรับการผลิตน้ำมันและก๊าซในภาคต้นน้ำ