Orr Danon, CEO & Co-Founder of Hailo – Interview Series

Orr Danon, adalah CEO & Co-Founder dari Hailo, sebuah perusahaan dengan misi untuk memungkinkan teknologi edge pintar mencapai potensi penuhnya. Solusi yang ditawarkan Hailo menjembatani kesenjangan antara teknologi AI yang ada dan yang akan datang dengan kapasitas komputasi yang dibutuhkan untuk memuat aplikasi tersebut. Perusahaan ini fokus pada membangun prosesor AI yang efisien dan kompak enough untuk menghitung dan menafsirkan sejumlah besar data secara real-time.

Apakah Anda bisa berbagi cerita tentang asal-usul Hailo?

Saya co-founded Hailo pada 2017 bersama dengan rekan-rekan yang saya temui sebelumnya di unit teknologi elite Angkatan Pertahanan Israel (IDF). Sementara bekerja dengan co-founder saya Rami Feig dan Avi Baum pada solusi IoT (Internet of Things), sebuah konsep yang kurang dikenal – “Deep Learning” – terus muncul sepanjang penelitian kami. Akhirnya, kami mengumpulkan para ahli di bidang ini untuk mengembangkan solusi deep-learning baru yang bertujuan untuk mengatasi kekurangan arsitektur komputer yang sudah tua untuk memungkinkan perangkat pintar beroperasi lebih efektif dan efisien di edge. Setelah Rami meninggal, tim Hailo melihat visinya – menciptakan prosesor AI Hailo yang revolusioner.

Apakah Anda bisa menjelaskan singkat mengapa edge computing sering menjadi solusi yang superior dibandingkan dengan cloud computing?

Ketika kami memulai Hailo, teknologi AI yang disruptif sebagian besar terbatas pada cloud, atau pusat data besar, karena biayanya mahal, memerlukan daya komputasi yang tinggi dan perangkat keras yang luas untuk berjalan, dan mengkonsumsi sejumlah besar energi. Kami percaya bahwa AI membantu menciptakan dunia yang lebih baik, lebih aman, lebih produktif, dan lebih menarik, tetapi untuk ini terjadi, AI perlu tersedia di edge juga. Untuk implementasi aplikasi real-time dan low-latency pada perangkat seperti kamera yang terhubung jaringan, kendaraan, dan perangkat IoT, pemrosesan di sumber sangat penting untuk operasi yang efektif. Dengan edge AI, kami dapat memanfaatkan sejumlah kasus penggunaan kunci yang memungkinkan masa depan kota pintar, transportasi pintar, mengemudi otonom, sistem manajemen video (VMS), Industri 4.0, dan lain-lain.

Apa beberapa tantangan di balik pemrosesan data visual di edge?

Tujuan adalah untuk mendapatkan kinerja dan fitur sebanyak mungkin yang dapat dipasang ke dalam perangkat edge sehingga mereka dapat memproses sejumlah besar data visual dengan cepat dan dengan sedikit latency; namun salah satu keterbatasan kunci adalah konsumsi daya – baik dalam hal berapa banyak daya yang dapat disampaikan ke perangkat dan panas yang dihasilkan oleh prosesor.

Dengan kamera pintar, misalnya, produsen memerlukan prosesor AI yang dapat masuk ke dalam amplop 2-3W karena kamera tidak dapat menggunakan pendingin kipas dan karena umumnya akan memiliki catu daya yang terbatas. Ini adalah titik nyeri akut karena pada daya yang sangat rendah, kinerja sangat terbatas ketika menggunakan sebagian besar prosesor di pasar.

Bagaimana Hailo mereimaginasikan arsitektur prosesor AI?

Kami melakukannya dengan merancang khusus prosesor AI yang dibangun untuk bekerja pada perangkat edge, mempertimbangkan keterbatasan ukuran dan daya. Dengan melakukan ini, kami memungkinkan daya komputasi yang belum pernah terjadi sebelumnya pada perangkat edge, memungkinkan mereka untuk menjalankan AI lebih efisien dan efektif dan untuk melakukan aplikasi deep learning yang canggih seperti deteksi objek, pengenalan objek, segmentasi, dan lain-lain, dengan tingkat kinerja yang sebelumnya hanya mungkin di cloud. Arsitektur unik ini memungkinkan pemrosesan multi-stream dan multi-aplikasi, meningkatkan kinerja dan efisiensi biaya perangkat edge.

Salah satu contoh penggunaan arsitektur ini adalah Sistem Manajemen Video (VMS). Sistem ini digunakan di area dengan sejumlah kamera, seperti bangunan kantor, stadion, aplikasi kota pintar dan jalan raya untuk lebih baik mengelola keamanan dan keselamatan, termasuk pemantauan untuk keadaan darurat dan kecelakaan, aktivitas mencurigakan, manajemen lalu lintas, kontrol akses, pengumpulan tol dan lain-lain. Selama bertahun-tahun, perusahaan bergantung sepenuhnya pada proses manual ketika datang ke pengumpulan, analisis, dan penyimpanan data video. Sekarang, dengan arsitektur jaringan neural unik Hailo, VMS dapat melakukan beberapa tugas secara paralel, secara real-time, memungkinkan pemrosesan lebih banyak saluran dan aplikasi secara bersamaan. Aplikasi termasuk pengenalan pelat nomor canggih (LPR), pemantauan lalu lintas, deteksi perilaku, dan lain-lain.

Apakah Anda bisa membahas inti pemrosesan jaringan neural dan pendekatan Anda dalam menghitung jaringan neural secara paralel versus secara berurutan?

Prosesor AI kami menggabungkan beberapa inovasi yang menangani sifat dasar jaringan neural. Kami menerapkan skema kontrol inovatif yang berdasarkan pada kombinasi perangkat keras dan perangkat lunak untuk mencapai joule per operasi yang sangat rendah dengan tingkat fleksibilitas yang tinggi.

Arsitektur dataflow-orientasi unik kami beradaptasi dengan struktur jaringan neural dan memungkinkan utilitas sumber daya yang tinggi. Kompiler dataflow Hailo terdiri dari perangkat lunak stack penuh, co-desain dengan perangkat keras kami, untuk memungkinkan penerapan jaringan neural yang efisien. Kompiler dataflow menerima model pengguna sebagai input. Sebagai bagian dari alur bangunan, kompiler dataflow memecah setiap lapisan jaringan ke elemen komputasi yang diperlukan, menghasilkan grafik sumber daya yang merupakan representasi jaringan target. Kompiler dataflow kemudian mencocokkan grafik sumber daya jaringan target dengan sumber daya fisik yang tersedia pada prosesor, menghasilkan pipa data kustom untuk jaringan target. Ketika dilakukan dengan cara ini, menjalankan model pada perangkat sangat efisien, menggunakan sumber daya komputasi minimal pada semua waktu.

Apa beberapa platform Hailo yang saat ini tersedia untuk bisnis?

Prosesor Hailo-8™ dan modul AI dapat dipasang ke berbagai perangkat edge, membantu memungkinkan sejumlah sektor dengan kemampuan AI yang superior – termasuk otomotif, kota pintar, ritel pintar, dan industri 4.0.

Hailo telah bermitra dengan pemain VMS dan ISV terkemuka seperti Innovatrics, Network Optix, GeoVision, dan Art of Logic, untuk memungkinkan analitik video terbaik di skala.

Berapa banyak waktu yang dapat diselamatkan oleh solusi ini untuk klien yang mengintegrasikan solusi AI?

Menggunakan solusi terintegrasi yang berjalan pada platform VMS yang mapan sangat menghemat waktu, tetapi ini bukanlah manfaat utama dari sistem. Solusi VMS berbasis Hailo memungkinkan lebih banyak aliran untuk berjalan secara paralel, dan lebih banyak aplikasi untuk diproses untuk setiap aliran.

Kemampuan untuk memanfaatkan AI untuk memproses beberapa aliran video juga berarti bahwa hanya peristiwa tertentu yang perlu disiarkan ke cloud untuk penyimpanan, memungkinkan penghematan yang signifikan pada bandwidth dan kapasitas penyimpanan.

Apa beberapa pelajaran yang Anda pelajari dari penerapan aplikasi deep learning di perangkat edge?

Kami telah melihat langsung bagaimana AI di edge akan memainkan peran kunci dalam menggerakkan inovasi di berbagai sektor dalam beberapa tahun mendatang. Ketika bisnis mencari solusi yang memastikan perangkat mereka lebih kuat, lebih serbaguna, lebih responsif, dan lebih aman, cloud akan terus memberi jalan bagi perangkat edge dan model hibrida. Mereka yang berhasil menerapkan AI di edge akan mendapatkan keunggulan di seluruh papan.

Apa visi Anda untuk masa depan komputasi edge?

Komputasi edge – khususnya AI di edge – memiliki kemampuan untuk mengubah secara total bagaimana dunia di sekitar kita bekerja, memungkinkan perangkat seperti kamera pintar, kendaraan pintar, robot otonom, alat manajemen lalu lintas canggih, konstruksi pintar, pabrik pintar, dan lain-lain. AI di edge memiliki kekuatan untuk mengubah apa saja dan semuanya, memungkinkan aplikasi baru untuk membuat dunia kita lebih pintar dan lebih aman. Teknologi pemrosesan AI Hailo adalah pengaktif utama dari semua kasus penggunaan ini. Kami akan terus bermitra dengan produsen dan inovator di seluruh dunia untuk membuat solusi ini lebih mudah diakses.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Hailo.