Nick Romano, Co-Founder & CEO of Deeplite – Interview Series

Nick Romano adalah Co-Founder & CEO of Deeplite sebuah solusi Optimisasi yang Digunakan AI untuk membuat Jaringan Saraf Dalam lebih cepat, lebih kecil dan hemat energi dari cloud hingga edge computing.

Nick adalah seorang wirausaha serial & CEO yang berpengalaman yang telah menghasilkan hasil yang sukses selama lebih dari 20 tahun. Baru-baru ini ia mendirikan & membesarkan sebuah platform SaaS perusahaan dengan pendapatan berulang multi-juta dolar & lebih dari 100 karyawan. Ia telah dianugerahi oleh McMaster University Engineering sebagai Top 150 Alumni.

Apa yang awalnya menarik Anda ke AI?

Saya telah berada di ruang teknologi selama lebih dari 25 tahun dan telah melihat banyak siklus dan tren, beberapa hype dan beberapa nyata. AI adalah bidang yang dinamis dan tumbuh, dan apa yang saya sukai tentang hal itu adalah bagaimana teknologi dapat digunakan secara nyata dalam banyak cara yang berbeda untuk meningkatkan bagaimana orang hidup dan bekerja. Saya ingin menjadi bagian dari gerakan ini. Namun, ada tantangan untuk membawa AI ke lingkungan dunia nyata. Ini membutuhkan banyak kapasitas komputasi dan energi untuk membuat AI bekerja dengan benar – itu intensif komputasi. Itu baik di laboratorium, tetapi jika itu terlalu besar atau terlalu lambat atau menghabiskan terlalu banyak daya, itu sulit untuk membawa AI ke skenario dunia nyata. Itulah misi kami dan daya tarik nyata bagi saya – memungkinkan AI untuk kehidupan sehari-hari.

Apakah Anda dapat berbagi cerita asal di balik Deeplite?

Ide untuk Deeplite dimulai di inkubator TandemLaunch di Montreal. Davis Sawyer, yang sekarang menjadi chief product officer kami dan ahli domain AI, dan Ehsan Saboori, yang sekarang menjadi CTO kami dan benar-benar otak di balik IP kami, memulai mengembangkan teknologi di sana. Saya bergabung dengan mereka pada 2019, membawa pengalaman kepemimpinan teknologi dan membesarkan perusahaan, dan kami secara resmi meluncurkan Deeplite sebagai perusahaan pada pertengahan 2019. Sekarang kami memiliki lebih dari 20 karyawan dengan kantor di Montreal dan Toronto, dan kami mengumumkan $6 juta Series Seed pada April 2021.

Mengapa mengintegrasikan pemrosesan AI langsung ke perangkat keras versus cloud sangat penting dalam kasus penggunaan tertentu seperti kendaraan otonom dan drone?

Ada banyak alasan mengapa Anda ingin menjalankan inferensi, proses pengambilan keputusan AI, di titik pengambilan data vs. cloud. Alasan terbesar mungkin adalah apa yang disebut latensi, yang pada dasarnya berarti berapa lama AI membutuhkan waktu untuk membuat keputusan. Jika Anda perlu mengambil data, mengirimkannya ke cloud untuk inferensi, lalu mengembalikan hasilnya, itu jelas akan membutuhkan waktu lebih lama daripada melakukannya secara lokal dalam waktu nyata. Dalam mengemudi otonom, milidetik sangat penting.

Alasan lainnya termasuk privasi, menjaga data sensitif secara lokal vs. mengirimkannya ke cloud dan, tentu saja, koneksi yang dalam ketidakhadirannya membuat inferensi cloud tidak berguna. Jaringan saraf dalam yang kompleks yang menggerakkan AI membutuhkan banyak daya komputasi untuk dijalankan, mereka menggunakan banyak memori, dan mereka menghabiskan banyak daya, sehingga solusi AI dipaksa untuk menggunakan cloud. Jadi, untuk keluar dari cloud dan membuat AI berjalan secara lokal di tepi dalam kendaraan atau drone, misalnya, Anda perlu menemukan cara untuk mengurangi ukuran dan profil daya model secara keseluruhan, sehingga dapat dijalankan langsung pada perangkat keras – perangkat – dengan sumber daya yang jauh lebih sedikit. Ini penting untuk memecahkan hambatan ini untuk membawa AI ke perangkat yang jauh lebih banyak yang melayani orang setiap hari. Itulah di mana Deeplite masuk.

Apakah Anda dapat memberitahu kami apa itu Deeplite Neutrino secara khusus?

Platform Neutrino kami mengubah AI, khususnya jaringan saraf dalam atau DNN, menjadi bentuk baru yang lebih kecil, lebih cepat dan lebih hemat daya daripada bentuk aslinya. Dengan Deeplite Neutrino, tim AI dapat fokus pada pelatihan model mereka untuk akurasi, seberapa sering keputusan benar, dan menggunakan platform kami untuk mengoptimalkan model AI sehingga dapat diterapkan ke perangkat keras yang terbatas di tepi. Deeplite Neutrino melakukan ini tanpa mengorbankan akurasi asli AI. Pada dasarnya, kami mengambil model AI besar dan membuatnya lebih kecil, lebih cepat dan lebih hemat energi. Tujuan akhirnya adalah untuk mendapatkan AI keluar dari laboratorium dan ke dunia nyata dalam hal-hal yang kita gunakan setiap hari.

Bagaimana Deeplite Neutrino dapat membuat AI yang lebih efisien, lebih cepat, lebih kecil, dan lebih kuat tanpa mengorbankan akurasi model asli?

Kami menggunakan pendekatan eksplorasi ruang desain multi-objek yang baru. Kami menggunakan model asli sebagai model “guru” dan kemudian menjelajahi arsitektur model mencari model “siswa” terbaik yang memenuhi batasan desain yang ditentukan oleh pengguna Deeplite untuk mengoptimalkan model DNN secara otomatis dan membuatnya jauh lebih cepat, lebih kecil dan lebih hemat daya tanpa mengorbankan kinerja.

Apa saja kasus penggunaan teratas untuk menggunakan jenis AI ini?

Sementara kami tidak terbatas pada ini, fokus kami saat ini adalah pada visi komputer dan AI berbasis persepsi. Teknologi AI kami digunakan dalam kendaraan otonom, drone, kamera, ponsel, sensor dan perangkat IoT lainnya. Kami juga melihat aplikasi baru untuk itu belakangan ini, termasuk sikat gigi pintar dan mesin kopi pintar. Kami bahkan bekerja dengan sebuah perusahaan mainan internasional terkemuka yang menggunakan teknologi kami untuk pengembangan game. Apa yang sangat menarik, dan memuaskan tentang apa yang kami lakukan adalah keragaman aplikasi yang kami lihat datang ke pasar di mana kami dapat membantu membuatnya hidup.

Apa pandangan Anda tentang pembelajaran federasi dan bagaimana itu akan mempengaruhi masa depan pembelajaran mesin?

Pelatihan model membutuhkan banyak data dan banyak daya komputasi. Semakin besar keragaman kasus penggunaan, semakin banyak data yang diperlukan, dan semakin banyak waktu komputasi yang dibutuhkan untuk melatih model hingga tingkat akurasi yang memuaskan. Dengan pembelajaran federasi, pelatihan diarahkan di tepi di setiap perangkat berdasarkan kondisi data lokal. Ini dapat membuat pelatihan lebih efisien (mengapa melatih untuk kangguru menyeberangi jalan di Alaska) dan juga merupakan kemenangan besar untuk privasi karena data pelatihan – misalnya, wajah seseorang – tidak dikirim ke server pusat.

Mengingat bahwa proses optimasi kami melibatkan apa yang kami sebut “loop pelatihan” untuk mempertahankan akurasi model yang dioptimalkan, tujuan akhir kami akan menjadi bagian dari proses pelatihan awal daripada sebagai langkah kedua. Saat ini, ini aspiratif, tetapi itu bagian dari tujuan jangka panjang kami.

Sebagai startup, bagaimana Anda menarik bakat dan kekuatan otak yang dibutuhkan?

Ini adalah tantangan besar untuk menarik bakat AI yang tepat saat ini – ada terlalu sedikit orang di luar sana dan persaingan untuk merekrut sangat tinggi. Tim kami luar biasa. Mereka adalah magnet bagi bakat. Kami memiliki calon pekerja berbicara dan wawancara dengan tim kami. Setelah mereka melihat kualitas orang-orang di Deeplite, mereka ingin berada di sini. Sebagai startup, kami menawarkan budaya yang hebat dan kesempatan untuk bekerja pada sesuatu yang baru dan muncul yang dapat menjadi perubahan besar untuk banyak industri dan produk yang berbeda. Saya pikir kesempatan itu, bersama dengan tim, adalah kunci bagi kami untuk menarik bakat terbaik. Kami juga terletak secara strategis di dua pusat AI utama Amerika Utara, Montreal dan Toronto, yang membantu. Sebagai perusahaan Kanada, kami menggunakan program Aliran Bakat Global pemerintah untuk merekrut di mana saja di dunia, mensponsori pekerja baru dan mempercepat mereka ke Kanada.

Apakah Anda memiliki saran untuk wirausaha lain di ruang AI?

Ini melampaui AI, tetapi sebagai wirausaha berulang, saya telah belajar betapa pentingnya memiliki dukungan keluarga, karena keputusan untuk menjadi wirausaha bukanlah keputusan individu – itu mempengaruhi semua orang – pasangan dan anak-anak termasuk. Semua orang adalah bagian dari perjalanan dengan Anda, dan semua orang membuat pengorbanan. Anda harus mengakui dan menghargai itu, dan itulah bagaimana keluarga dapat tetap bersama sepanjang perjalanan.

Apakah ada yang ingin Anda bagikan tentang Deeplite?

Salah satu aspek unik dari Deeplite adalah co-founder kami. Davis berusia mid-20an, dan sangat pintar dan berenergi. Ia pasti ahli domain di apa yang kami lakukan. Ehsan adalah imigran Iran dengan gelar PhD, dan seperti yang disebutkan sebelumnya, adalah otak di balik IP kami. Dan saya adalah veteran berusia 50+ tahun yang telah membangun perusahaan sebelumnya. Ketiga kami adalah kombinasi yang menarik yang membawa kekuatan dan pengalaman yang berbeda ke meja. Saya sangat berterima kasih bahwa saya memiliki mitra yang hebat dan dikelilingi oleh tim yang hebat.

Terima kasih atas wawancara yang luar biasa, saya berharap untuk mengikuti kemajuan Deeplite dan ini adalah perusahaan yang akan berada di radar saya. Pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Deeplite.