Nick Romano, Co-Pendiri & CEO Deeplite – Seri Wawancara

Nick Romano adalah Co-Pendiri & CEO Deeplite, solusi optimasi yang digerakkan AI untuk membuat Jaringan Saraf Dalam lebih cepat, lebih kecil, dan hemat energi dari komputasi awan ke komputasi tepi.

Nick adalah seorang wirausaha serial & CEO yang berpengalaman dengan hasil yang sukses selama lebih dari 20 tahun. Baru-baru ini, ia mendirikan & membesarkan platform SaaS perusahaan dengan pendapatan berulang multi-juta dolar & lebih dari 100 karyawan. Ia telah dianugerahi oleh Universitas McMaster Teknik sebagai 150 Alumni Teratas.

Apa yang awalnya menarik Anda ke AI?

Saya telah berada di ruang teknologi selama lebih dari 25 tahun dan telah melihat banyak siklus dan tren, beberapa di antaranya adalah hype dan beberapa di antaranya adalah nyata. AI adalah bidang yang dinamis dan berkembang, dan apa yang saya sukai tentangnya adalah bagaimana teknologi dapat digunakan secara nyata dalam banyak cara yang berbeda untuk memperbaiki cara orang hidup dan bekerja. Saya ingin menjadi bagian dari gerakan ini. Namun, ada tantangan untuk membawa AI ke lingkungan dunia nyata. Ini membutuhkan banyak kapasitas komputasi dan energi untuk membuat AI bekerja dengan baik – ini intensif komputasi. Ini tidak masalah di laboratorium, tetapi jika terlalu besar atau terlalu lambat atau menghabiskan terlalu banyak daya, maka sulit untuk membawa AI ke skenario dunia nyata. Itulah misi dan daya tarik sebenarnya bagi saya – memungkinkan AI untuk kehidupan sehari-hari.

Apakah Anda dapat membagikan kisah asal di balik Deeplite?

Gagasan Deeplite dimulai di inkubator TandemLaunch di Montreal. Davis Sawyer, yang sekarang menjadi petugas produk utama kami dan ahli domain AI, dan Ehsan Saboori, yang sekarang menjadi CTO kami dan benar-benar otak di balik IP kami, memulai pengembangan teknologi di sana. Saya bergabung dengan mereka pada tahun 2019, membawa pengalaman kepemimpinan teknologi dan membesarkan perusahaan, dan kami secara resmi meluncurkan Deeplite sebagai perusahaan di pertengahan 2019. Sekarang kami memiliki lebih dari 20 karyawan dengan kantor di Montreal dan Toronto, dan kami mengumumkan $6 juta Seri Seed pada April 2021.

Mengapa mengintegrasikan proses AI langsung ke perangkat keras versus awan sehingga penting dalam beberapa kasus seperti kendaraan otonom dan drone?

Ada banyak alasan mengapa Anda ingin menjalankan inferensi, proses pengambilan keputusan AI, pada titik pengambilan data versus awan. Alasan terbesar dalam aplikasi kritis seperti kendaraan otonom adalah apa yang disebut latensi, yang pada dasarnya berarti berapa lama AI membutuhkan waktu untuk membuat keputusan. Jika Anda perlu mengambil data, mengirimkannya ke awan untuk inferensi, lalu mengembalikan hasilnya, itu pasti akan memakan waktu lebih lama daripada melakukan secara lokal secara real-time. Dalam mengemudi otonom, milidetik sangat penting.

Alasan lainnya termasuk privasi, menjaga data sensitif secara lokal versus mengirimkannya ke awan, dan tentu saja, koneksi yang dalam ketidakhadirannya membuat inferensi awan tidak berguna. Jaringan saraf dalam yang kompleks yang menggerakkan AI membutuhkan banyak daya komputasi untuk dijalankan, mereka menggunakan banyak memori, dan mereka menghabiskan banyak daya, sehingga solusi AI terpaksa menggunakan awan. Jadi, untuk keluar dari awan dan membuat AI berjalan secara lokal di tepi dalam sebuah kendaraan atau drone, misalnya, Anda perlu menemukan cara untuk mengurangi ukuran dan profil daya model secara keseluruhan, sehingga dapat dijalankan langsung pada perangkat – perangkat – dengan sumber daya yang jauh lebih sedikit. Ini penting untuk memecahkan hambatan ini untuk membawa AI ke perangkat yang jauh lebih banyak yang melayani orang setiap hari. Itulah di mana Deeplite masuk.

Apakah Anda dapat memberitahu kami apa itu Deeplite Neutrino secara khusus?

Platform Neutrino kami mengubah AI, khususnya jaringan saraf dalam atau DNN, menjadi bentuk faktor baru yang lebih kecil, lebih cepat, dan lebih hemat energi daripada bentuk aslinya. Dengan Deeplite Neutrino, tim AI dapat fokus pada pelatihan model mereka untuk akurasi, seberapa sering keputusan benar, dan menggunakan platform kami untuk mengoptimalkan model AI sehingga dapat diterapkan ke perangkat keras yang terbatas di tepi. Deeplite Neutrino melakukan ini tanpa mengorbankan akurasi asli AI. Pada dasarnya, kami mengambil model AI besar dan membuatnya lebih kecil, lebih cepat, dan lebih hemat energi. Tujuan akhir adalah untuk mendapatkan AI keluar dari laboratorium dan ke dunia nyata dalam hal-hal yang kita gunakan setiap hari.

Bagaimana Deeplite Neutrino dapat membuat AI yang lebih efisien, lebih cepat, lebih kecil, dan lebih kuat tanpa mengorbankan akurasi model asli?

Kami menggunakan pendekatan eksplorasi ruang desain multi-tujuan yang baru. Kami menggunakan model asli sebagai model “guru” dan kemudian menjelajahi arsitektur model untuk mencari model “siswa” terbaik yang memenuhi batasan desain yang ditentukan oleh pengguna Deeplite untuk mengoptimalkan model AI secara otomatis dan membuatnya jauh lebih cepat, lebih kecil, dan lebih hemat energi tanpa mengorbankan kinerja.

Apa beberapa kasus penggunaan teratas untuk menggunakan jenis AI ini?

Meskipun kami tidak terbatas pada ini, fokus kami saat ini adalah pada visi komputer dan AI berbasis persepsi. Teknologi AI kami digunakan dalam kendaraan otonom, drone, kamera, ponsel, sensor, dan perangkat IoT lainnya. Kami juga melihat aplikasi baru untuk ini, termasuk sikat gigi pintar dan mesin kopi pintar. Kami bahkan bekerja dengan perusahaan mainan internasional terkemuka yang menggunakan teknologi kami untuk pengembangan game. Apa yang sangat menarik dan memuaskan tentang apa yang kami lakukan adalah keragaman aplikasi yang kami lihat datang ke pasar di mana kami dapat membantu membuatnya hidup.

Apa pandangan Anda tentang pembelajaran terfederasi dan bagaimana itu akan mempengaruhi masa depan pembelajaran mesin?

Melatih model membutuhkan banyak data dan banyak daya komputasi. Semakin besar keragaman kasus penggunaan, semakin banyak data yang diperlukan, dan semakin banyak waktu komputasi yang dibutuhkan untuk melatih model hingga tingkat akurasi yang memuaskan. Dengan pembelajaran terfederasi, pelatihan diatur di tepi dalam setiap perangkat berdasarkan kondisi data lokal. Ini dapat membuat pelatihan lebih efisien (mengapa melatih untuk menyeberangi jalan di Alaska) dan juga merupakan kemenangan besar untuk privasi karena data pelatihan – misalnya, wajah seseorang – tidak dikirim ke server pusat.

Memandang bahwa proses optimasi kami melibatkan apa yang kami sebut “loop pelatihan” untuk mempertahankan akurasi model yang dioptimalkan, tujuan akhir kami adalah untuk memiliki apa yang kami lakukan menjadi bagian dari proses pelatihan awal daripada sebagai langkah kedua. Saat ini, ini masih aspiratif, tetapi itu adalah bagian dari tujuan jangka panjang kami.

Sebagai startup, bagaimana Anda menarik bakat dan kecerdasan yang dibutuhkan?

Ini adalah tantangan besar untuk menarik bakat AI yang tepat hari ini – ada terlalu sedikit orang di luar sana dan persaingan untuk merekrut sangat tinggi. Tim kami luar biasa. Mereka adalah magnet bagi bakat. Kami memiliki calon yang berbicara dan diwawancarai dengan tim kami. Setelah mereka melihat kualitas orang-orang di Deeplite, mereka ingin berada di sini. Sebagai startup, kami menawarkan budaya yang hebat dan kesempatan untuk bekerja pada sesuatu yang baru dan muncul yang dapat menjadi perubahan besar untuk banyak industri dan produk yang berbeda. Saya pikir kesempatan itu, bersama dengan tim, adalah kunci bagi kami untuk menarik bakat terbaik. Kami juga terletak secara strategis di dua pusat AI utama Amerika Utara, Montreal dan Toronto, yang membantu. Sebagai perusahaan Kanada, kami menggunakan program Aliran Bakat Global pemerintah. Kami dapat merekrut di mana saja di dunia, mensponsori pegawai baru, dan mempercepat mereka ke Kanada.

Apakah Anda memiliki saran untuk wirausaha lain di ruang AI?

Ini melampaui AI, tetapi sebagai wirausaha berulang, saya telah belajar betapa pentingnya memiliki dukungan keluarga, karena keputusan untuk menjadi wirausaha tidak hanya mempengaruhi individu – ini mempengaruhi semua orang – pasangan dan anak-anak termasuk. Semua orang adalah bagian dari perjalanan dengan Anda, dan semua orang membuat pengorbanan. Anda harus mengakui dan menghargai itu, dan itulah cara keluarga dapat tetap bersama selama perjalanan.

Apakah ada yang lain yang Anda ingin bagikan tentang Deeplite?

Salah satu aspek unik dari Deeplite adalah co-pendiri kami. Davis berusia mid-20an, dan sangat pintar dan berenergi. Ia pasti ahli domain di bidang yang kami lakukan. Ehsan adalah imigran Iran dengan gelar PhD, dan seperti yang disebutkan sebelumnya, adalah otak di balik IP kami. Dan saya adalah veteran 50+ tahun yang telah membangun perusahaan sebelumnya. Ketiga kami adalah kombinasi yang menarik yang membawa kekuatan dan pengalaman yang berbeda ke meja. Saya sangat berterima kasih bahwa saya memiliki mitra yang hebat dan dikelilingi oleh tim yang hebat.

Terima kasih atas wawancara yang luar biasa, saya berharap dapat mengikuti kemajuan Deeplite dan ini adalah perusahaan yang akan berada di radar saya. Pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Deeplite.