Orr Danon, CEO & Co-Founder ของ Hailo – สัมภาษณ์ Series

Orr Danon, เป็น CEO & Co-Founder ของ Hailo, บริษัทที่มีภารกิจในการทำให้เทคโนโลยี Edge มีความฉลาดมากขึ้น โดยการนำเสนอโซลูชันที่ช่วยลดช่องว่างระหว่างเทคโนโลยี AI ที่มีอยู่และเทคโนโลยี AI ในอนาคต และความสามารถในการประมวลผลที่จำเป็นในการให้พลังงานแก่แอปพลิเคชันเหล่านี้ บริษัทมุ่งเน้นในการสร้างโปรเซสเซอร์ AI ที่มีประสิทธิภาพและกะทัดรัดเพียงพอที่จะประมวลผลและตีความข้อมูลจำนวนมากในเวลาจริง

คุณสามารถแบ่งปันเรื่องราวเบื้องหลัง Hailo ได้หรือไม่?

ฉันร่วมก่อตั้ง Hailo ในปี 2017 ร่วมกับเพื่อนร่วมงานที่ฉันเคยพบก่อนหน้านี้ในหน่วยเทคโนโลยีระดับสูงของกองทัพอิสราเอล (IDF) ในขณะที่ทำงานกับเพื่อนร่วมงาน Rami Feig และ Avi Baum ในด้าน IoT (Internet of Things) เราได้พบกับแนวคิด “Deep Learning” ซึ่งเป็นแนวคิดที่ไม่ค่อยเป็นที่รู้จักในขณะนั้น ในที่สุดเราก็ได้รวมทีมผู้เชี่ยวชาญในด้านนี้เพื่อพัฒนาโซลูชัน Deep Learning ใหม่ที่มีจุดมุ่งหมายเพื่อแก้ไขข้อบกพร่องของโครงสร้างคอมพิวเตอร์ที่มีอายุยาวนาน เพื่อให้อุปกรณ์สมาร์ทสามารถทำงานได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น หลังจากที่ Rami เสียชีวิต ทีม Hailo ได้ดำเนินตามความฝันของเขาโดยการสร้างโปรเซสเซอร์ AI ที่เป็นนวัตกรรมใหม่

คุณสามารถอธิบายได้หรือไม่ว่าทำไมการประมวลผลข้อมูลที่ Edge จึงเป็นโซลูชันที่ดีกว่าการประมวลผลข้อมูลใน Cloud?

เมื่อเริ่มก่อตั้ง Hailo เทคโนโลยี AI ที่เป็นนวัตกรรมใหม่ส่วนใหญ่ถูกจำกัดอยู่ใน Cloud หรือศูนย์ข้อมูลขนาดใหญ่ เนื่องจากต้องใช้พลังงานและฮาร์ดแวร์จำนวนมากในการทำงาน เราเชื่อว่า AI ช่วยสร้างโลกที่ดีขึ้น ปลอดภัย มีประสิทธิภาพ และน่าตื่นเต้นมากขึ้น แต่เพื่อให้สิ่งนี้เกิดขึ้น AI ต้องสามารถเข้าถึงได้ที่ Edge เช่นกัน สำหรับการใช้งานในเวลาจริงและแอปพลิเคชันที่มีล่าช้า thấpบนอุปกรณ์ เช่น กล้องที่เชื่อมต่อเครือข่าย อุปกรณ์ IoT และรถยนต์ การประมวลผลที่แหล่งที่มาเป็นสิ่งจำเป็นสำหรับการทำงานที่มีประสิทธิภาพ ด้วย Edge AI เราสามารถใช้ประโยชน์จากกรณีการใช้งานหลักๆ ที่ขับเคลื่อนอนาคตของเมืองสมาร์ท การขนส่งอัจฉริยะ การขับขี่อัตโนมัติ ระบบการจัดการวิดีโอ (VMS) Industry 4.0 และอื่นๆ

คุณสามารถอธิบายได้หรือไม่ว่าความท้าทายหลักๆ ในการประมวลผลข้อมูลภาพที่ Edge คืออะไร?

เป้าหมายคือการบรรลุประสิทธิภาพและคุณสมบัติมากที่สุดเท่าที่จะเป็นไปได้บนอุปกรณ์ Edge เพื่อให้สามารถประมวลผลข้อมูลภาพจำนวนมากได้อย่างรวดเร็วและมีล่าช้า thấp อย่างไรก็ตาม ข้อจำกัดหลักๆ คือการบริโภคพลังงาน ทั้งในด้านการบริโภคพลังงานและความร้อนที่เกิดจากโปรเซสเซอร์

ตัวอย่างเช่น สำหรับ กล้องอัจฉริยะ ผู้ผลิตต้องการโปรเซสเซอร์ AI ที่สามารถทำงานได้ในพื้นที่ 2-3 วัตต์ เนื่องจากกล้องไม่สามารถใช้การทำความเย็นด้วยพัดลมและโดยทั่วไปจะมีแหล่งจ่ายไฟที่จำกัด นี่เป็นปัญหาที่เจ็บปวด เนื่องจากที่ระดับพลังงานต่ำ ประสิทธิภาพจะถูกจำกัดอย่างมากเมื่อใช้โปรเซสเซอร์ส่วนใหญ่ในตลาด

คุณสามารถอธิบายได้หรือไม่ว่า Hailo ได้สร้างสถาปัตยกรรมโปรเซสเซอร์ AI ใหม่ๆ อย่างไร?

เราทำได้โดยการออกแบบโปรเซสเซอร์ AI โดยเฉพาะสำหรับอุปกรณ์ Edge โดยคำนึงถึงข้อจำกัดด้านขนาดและพลังงาน ด้วยการทำเช่นนี้ เราได้ทำให้โปรเซสเซอร์ Edge มีประสิทธิภาพในการประมวลผลที่ไม่เคยเป็นไปได้ก่อนหน้านี้ และสามารถทำงาน AI ได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น โดยสามารถประมวลผลแอปพลิเคชัน Deep Learning ที่ซับซ้อน เช่น การตรวจจับวัตถุ การจดจำวัตถุ การแบ่งส่วน และอื่นๆ ด้วยประสิทธิภาพที่เคยเป็นไปได้เฉพาะใน Cloud เท่านั้น สถาปัตยกรรมที่เป็นเอกลักษณ์นี้ช่วยให้สามารถประมวลผลหลายสตรีมและหลายแอปพลิเคชันพร้อมกัน ทำให้ประสิทธิภาพและต้นทุนของอุปกรณ์ Edge ดีขึ้น

ตัวอย่างหนึ่งของการใช้สถาปัตยกรรมนี้คือ ระบบการจัดการวิดีโอ (VMS) ระบบเหล่านี้ถูกใช้ในพื้นที่ที่มีกล้องหลายตัว เช่น อาคารสำนักงาน สนามกีฬา การใช้งานในเมืองสมาร์ท และทางหลวง เพื่อจัดการความปลอดภัยและความมั่นคง รวมถึงการตรวจสอบเหตุฉุกเฉินและอุบัติเหตุ การตรวจสอบกิจกรรมที่น่าสงสัย การจัดการการจราจร การควบคุมการเข้าถึง การเก็บค่าผ่านทาง และอื่นๆ ในช่วงหลายปีที่ผ่านมา องค์กรต่างๆ ได้พึ่งพาการประมวลผลวิดีโอแบบแมนนวลในการรวบรวม วิเคราะห์ และจัดเก็บข้อมูลวิดีโอ ตอนนี้ด้วยสถาปัตยกรรมเครือข่ายประสาทเทียมที่เป็นเอกลักษณ์ของ Hailo ระบบ VMS สามารถทำงานหลายอย่างพร้อมกันในเวลาจริง ทำให้สามารถประมวลผลช่องทางและแอปพลิเคชันมากกว่าเดิมได้พร้อมกัน การใช้งานรวมถึงการรู้จำป้ายทะเบียนรถยนต์ขั้นสูง การตรวจสอบการจราจร การตรวจจับการกระทำ และอื่นๆ

คุณสามารถอธิบายได้หรือไม่ว่า Hailo ใช้หลักการประมวลผลเครือข่ายประสาทเทียมแบบไหน?

โปรเซสเซอร์ AI ของเรารวมนวัตกรรมหลายอย่างที่ตอบสนองคุณสมบัติขั้นพื้นฐานของเครือข่ายประสาทเทียม เราใช้ระบบควบคุมที่เป็นนวัตกรรมใหม่ซึ่งอาศัยการผสมผสานระหว่างฮาร์ดแวร์และซอฟต์แวร์เพื่อให้ได้ประสิทธิภาพในการประมวลผลที่ต่ำที่สุดต่อการดำเนินการด้วยความยืดหยุ่นสูง

สถาปัตยกรรมที่เน้นการไหลของข้อมูลของเราสามารถปรับให้เข้ากับโครงสร้างของเครือข่ายประสาทเทียมได้ และช่วยให้สามารถใช้ทรัพยากรได้อย่างมีประสิทธิภาพ คอมไพลเลอร์ข้อมูลไหลของ Hailo ประกอบด้วยซอฟต์แวร์แบบ full stack ที่ออกแบบมาเพื่อทำงานร่วมกับฮาร์ดแวร์ของเรา เพื่อให้สามารถใช้งานเครือข่ายประสาทเทียมได้อย่างมีประสิทธิภาพ คอมไพลเลอร์ข้อมูลไหลรับโมเดลของผู้ใช้เป็นข้อมูลเข้า ในระหว่างกระบวนการสร้าง คอมไพลเลอร์ข้อมูลไหลจะแบ่งแต่ละชั้นของเครือข่ายออกเป็นองค์ประกอบการคำนวณที่จำเป็น โดยสร้างกราฟทรัพยากรซึ่งเป็นตัวแทนของเครือข่ายเป้าหมาย จากนั้น คอมไพลเลอร์ข้อมูลไหลจะจับคู่กราฟทรัพยากรของเครือข่ายเป้าหมายกับทรัพยากรทางกายภาพที่มีอยู่บนโปรเซสเซอร์ โดยสร้างท่อข้อมูลที่กำหนดเองสำหรับเครือข่ายเป้าหมาย เมื่อทำเช่นนี้ การทำงานของโมเดลบนอุปกรณ์จะเกิดขึ้นได้อย่างมีประสิทธิภาพ โดยใช้ทรัพยากรการคำนวณขั้นต่ำเสมอ

คุณสามารถอธิบายได้หรือไม่ว่าแพลตฟอร์ม Hailo ที่มีอยู่สำหรับธุรกิจในปัจจุบันคืออะไร?

โปรเซสเซอร์ Hailo-8 และโมดูล AI สามารถเชื่อมต่อกับอุปกรณ์ Edge หลายๆ ชนิด ช่วยให้สามารถใช้ AI ที่มีประสิทธิภาพสูงในหลายๆ ภาคส่วน รวมถึงอุตสาหกรรมยานยนต์ เมืองสมาร์ท ร้านค้าสมาร์ท และอุตสาหกรรม 4.0

Hailo ได้ร่วมมือกับผู้นำด้าน VMS และ ISV เช่น Innovatrics, Network Optix, GeoVision และ Art of Logic เพื่อทำให้การวิเคราะห์วิดีโอมีความสามารถสูงสุด

คุณสามารถอธิบายได้หรือไม่ว่าโซลูชันเหล่านี้สามารถช่วยให้ลูกค้าประหยัดเวลาได้มากน้อยเพียงใด?

การหาซื้อโซลูชันที่รวมเข้ากับแพลตฟอร์ม VMS ที่มีอยู่แล้วสามารถช่วยประหยัดเวลาได้ แต่นี่ไม่ใช่ประโยชน์หลักของระบบ โซลูชันที่ใช้ Hailo ช่วยให้สามารถประมวลผลสตรีมวิดีโอได้มากกว่า และประมวลผลแอปพลิเคชันมากกว่าสำหรับสตรีมแต่ละสตรีม

ความสามารถในการใช้ AI ในการประมวลผลวิดีโอสตรีมหลายสตรีมยังหมายความว่าเฉพาะเหตุการณ์เฉพาะเท่านั้นที่ต้องส่งไปยัง Cloud สำหรับการจัดเก็บ ทำให้สามารถประหยัดแบนด์วิธและความจุในการจัดเก็บข้อมูลได้อย่างมาก

คุณสามารถแบ่งปันสิ่งที่คุณได้เรียนรู้จากการใช้งานแอปพลิเคชัน Deep Learning บนอุปกรณ์ Edge ได้หรือไม่?

เรามองเห็นโดยตรงว่า AI ที่ Edge จะมีบทบาทสำคัญในการขับเคลื่อนนวัตกรรมในหลายๆ ภาคส่วนในอนาคต เมื่อธุรกิจต่างๆ ค้นหาวิธีแก้ปัญหาที่ทำให้อุปกรณ์ของตนมีประสิทธิภาพ มากกว่า มีประสิทธิผล มากกว่า และมีความปลอดภัยยิ่งขึ้น Cloud จะยังคงให้ทางให้กับอุปกรณ์ Edge และแบบจำลองไฮบริด ผู้ที่ประสบความสำเร็จในการใช้ AI ที่ Edge จะได้รับประโยชน์อย่างมาก

คุณมีความคิดเห็นอย่างไรเกี่ยวกับอนาคตของการประมวลผลข้อมูลที่ Edge?

การประมวลผลข้อมูลที่ Edge โดยเฉพาะ AI ที่ Edge มีศักยภาพในการเปลี่ยนแปลงโลกของเราอย่างสมบูรณ์ โดยการทำให้อุปกรณ์ เช่น กล้องอัจฉริยะ ยานพาหนะอัตโนมัติ หุ่นยนต์อัตโนมัติ เครื่องมือการจัดการการจราจรอัจฉริยะ การก่อสร้างอัจฉริยะ และโรงงานอัจฉริยะ มีพลังในการเปลี่ยนแปลงทุกสิ่งทุกอย่าง AI ที่ Edge มีพลังในการเปลี่ยนแปลงและทำให้โลกของเราสมาร์ทและปลอดภัยยิ่งขึ้น เทคโนโลยีการประมวลผล AI ของ Hailo เป็นตัวช่วยสำคัญสำหรับการใช้งานเหล่านี้ เราจะยังคงร่วมมือกับผู้ผลิตและผู้นำนวัตกรรมทั่วโลกเพื่อทำให้โซลูชันเหล่านี้เข้าถึงได้มากขึ้น

ขอขอบคุณสำหรับการสัมภาษณ์ที่ยอดเยี่ยม ผู้อ่านสามารถเยี่ยมชม Hailo เพื่อเรียนรู้เพิ่มเติม