Nick Romano, Deeplite’in Kurucu Ortağı ve CEO’su – Röportaj Serisi

Nick Romano, Deeplite‘in Kurucu Ortağı ve CEO’sudur. Deeplite, bulut ve kenar bilgisayarlar için daha hızlı, daha küçük ve daha enerji verimli derin sinir ağları oluşturmak için bir AI odaklı optimize etme çözümü sunar.

Nick, 20 yılı aşkın bir süredir başarılı sonuçlar elde etmiş bir girişimci ve CEO’dur.最近, bir entreprise SaaS platformunu kurdu ve ölçeklendirdi ve bu platformdan milyonlarca dolarlık gelir elde etti. Ayrıca, McMaster Üniversitesi Mühendislik Fakültesi tarafından en iyi 150 mezun arasında gösterildi.

AI’ye ilk olarak ne çekti?

25 yılı aşkın bir süredir teknoloji alanında çalışıyorum ve birçok döngü ve trendi gördüm. AI, dinamik ve büyüyen bir alandır ve bana göre AI’nin insan yaşamını ve çalışma şeklini iyileştirmek için birçok farklı şekilde kullanılabilecek bir teknoloji olması çok ilgi çekici. Ancak, AI’yi gerçek dünya ortamlarına taşımak için bazı zorluklar var. AI, çok fazla hesaplama kapasitesi ve enerji gerektirir – çok fazla işlem gücü gerektirir. Bu, bir laboratuvarda sorun değil, ancak AI’yi gerçek dünya senaryolarına taşımak için çok büyük, çok yavaş veya çok fazla güç tüketiyorsa, AI’yi gerçek dünya ortamlarına taşımak zorlaşır. İşte bizim misyonumuz ve benim için gerçek çekicilik – AI’yi günlük yaşama taşımak.

Deeplite’nin doğuş hikayesini paylaşabilir misiniz?

Deeplite fikri, Montreal’deki TandemLaunch kuluçka merkezinde ortaya çıktı. Davis Sawyer, şu anda bizim ürün sorumlumuz ve AI alanında bir uzman, ve Ehsan Saboori, şu anda bizim CTO’muz ve bizim IP’nin gerçek beyni, teknolojiyi orada geliştirmeye başladılar. Ben 2019’da onlara katıldım ve teknoloji liderliği ve şirketleri ölçeklendirmeye yönelik yıllarca süren deneyimimi getirdim. Deeplite’i resmi olarak bir şirket olarak 2019’un ortalarında kurduk. Şimdi, Montreal ve Toronto’da ofislerimiz var ve Nisan 2021’de 6 milyon dolarlık Series Seed yatırımını açıkladık.

AI işlemlerini donanımda doğrudan çalıştırmak, bulut yerine, örneğin otonom araçlar ve dronlar gibi belirli kullanım durumlarında neden önemlidir?

Veri toplama noktasında, AI karar verme sürecini, yani çıkarımı, çalıştırmak için birçok neden vardır. Muhtemelen en büyük neden, misyon kritik uygulamalarda, örneğin otonom araçlarda, gecikme – AI’nin bir karar vermesi ne kadar sürer. Verileri toplamak, buluta göndermek ve sonra sonuçları geri almak, yerel olarak gerçek zamanlı olarak yapmaktan çok daha uzun sürer. Otonom sürüşte, milisaniyeler çok önemlidir.

Diğer nedenler arasında, hassas verilerin yerel olarak tutulması, buluta gönderilmeden önce, ve elbette, bağlantının yokluğunda bulut çıkarımı anlamsız hale getirmesi yer alır. AI’yi çalıştırmak için gereken karmaşık derin nöral ağlar, çok fazla hesaplama gücü gerektirir, çok fazla bellek kullanır ve çok fazla güç tüketir, bu nedenle AI çözümleri buluta bağımlı hale geldi. Bu nedenle, AI’yi bulutun dışına çıkarmak ve kenar cihazlarında, örneğin bir araçta veya dronda, yerel olarak çalıştırmak için, modelin genel boyutunu ve güç profilini azaltmak gerekir. Bu, AI’yi daha fazla cihaza, insanların her gün kullandığı cihazlara taşımak için çok önemlidir. İşte Deeplite’nin rolü burada.

Deeplite Neutrino’nun ne olduğunu açıklayabilir misiniz?

Neutrino platformumuz, AI’yi, özellikle derin nöral ağları veya DNN’leri, daha küçük, daha hızlı ve daha az güç tüketen bir forma dönüştürür. Deeplite Neutrino ile AI ekipleri, modellerinin doğruluğuna odaklanabilir ve bizim platformumuzu kullanarak AI modelini optimize edebilir, böylece modeli kenarında, sınırlı donanımda çalıştırabilir. Deeplite Neutrino, AI’nin orijinal doğruluğunu bozmadan bunu yapar. Aslında, büyük AI modellerini daha küçük, daha hızlı ve daha enerji verimli hale getiriyoruz. Son hedef, AI’yi laboratuvarlardan gerçek dünyaya, insanların her gün kullandığı şeylere taşımak.

Deeplite Neutrino, AI’yi daha verimli, daha hızlı, daha küçük ve daha güçlü hale getirebilir, ancak orijinal modelin doğruluğunu bozmadan nasıl yapıyor?

Bir novel multi-objektif tasarım alanı keşfi yaklaşımı kullanıyoruz. Orijinal modeli bir “öğretmen” modeli olarak kullanıyoruz ve sonra modelin mimarisini inceleyerek, Deeplite kullanıcısı tarafından belirtilen tasarım kısıtlamalarına uyan en iyi “öğrenci” modelini arıyoruz. Bu şekilde, DNN modellerini otomatik olarak optimize edebiliriz ve bunları önemli ölçüde daha hızlı, daha küçük ve daha enerji verimli hale getirebiliriz, ancak performansı feda etmeden.

AI’nin bu türünün kullanım durumları nelerdir?

Şu anda, bilgisayar görüşü ve algı tabanlı AI’ye odaklanıyoruz. AI teknolojimiz, otonom araçlar, dronlar, kameralar, cep telefonları, sensörler ve diğer IoT cihazlarında kullanılıyor. Ayrıca, bir akıllı diş fırçası ve bir akıllı kahve makinesi için de kullanımlar görüyoruz. Bir lider uluslararası oyuncak şirketi ile çalışıyoruz ve onlar bizim teknolojisini oyun geliştirme için kullanıyorlar. Yapmakta olduğumuz şeyin çeşitliliği ve bunu hayata geçirmemize yardımcı olmak çok heyecan verici ve ödüllendirici.

Federated öğrenme hakkında ne düşünüyorsunuz ve makine öğreniminin geleceğini nasıl etkileyecek?

Model eğitimi için çok fazla veri ve hesaplama gücü gereklidir. Kullanım durumlarının çeşitliliği arttıkça, daha fazla veri gereklidir ve modeli tatmin edici bir doğruluk seviyesine ulaştırmak için daha fazla hesaplama zamanı gereklidir. Federated öğrenme ile eğitim, kenarda, her cihazda yerel veri koşullarına göre düzenlenir. Bu, eğitimi daha verimli hale getirebilir (Alaska’da bir kangurunun yolunu geçmesi için neden eğitim verelim) ve ayrıca veri gizliliği için büyük bir kazanç sağlar, çünkü eğitim verisi – örneğin bir kişinin yüzü – merkezi bir sunucuya gönderilmez.

Uzun vadeli hedefimiz, optimize etme sürecimizi, modelin doğruluğunu korumak için kullandığımız “eğitim döngüsü” olarak adlandırdığımız şeyi, ilk eğitim sürecinin bir parçası haline getirmektir. Şu anda bu, hedefimizdir.

Bir startup olarak, gerekli yetenek ve beyin gücünü nasıl çekersiniz?

Doğru AI yeteneklerini çekmek bugün büyük bir zorluk – çok fazla insan yok ve rekabet yüksek. Ekibimiz harika. Onlar kendileri yetenek çekicisidir. Potansiyel işe alımlar bizim ekibimizle konuşuyor ve görüşüyor. Onlar bizim ekibimizin kalitesini gördüklerinde, burada olmak istiyorlar. Bir startup olarak, harika bir kültür ve yeni ve ortaya çıkan bir şeyin parçası olma fırsatı sunuyoruz, bu da birçok farklı endüstri ve ürün için oyun değiştirici olabilir. Sanırım bu fırsat, ekibimizle birlikte, en iyi yetenekleri çekmemize yardımcı oluyor. Ayrıca, Montreal ve Toronto gibi iki büyük Kuzey Amerika AI merkezinde stratejik olarak konumlandık. Kanada olarak, hükümetin Global Talent Stream programını da kullanıyoruz. Dünyanın her yerinden yetenekleri işe alabilir ve onları Kanada’ya hızlı bir şekilde getirebiliriz.

AI alanında diğer girişimcilere herhangi bir tavsiye vermek ister misiniz?

Bu, AI’nin ötesinde bir şey, ancak tekrar eden bir girişimci olarak, aile desteğinin ne kadar önemli olduğunu öğrendim, çünkü girişimci olmaya karar vermek, bireysel bir karar değildir – eşler ve çocuklar dahil herkesi etkiler. Herkes bu yolculukta sizinle birlikte ve herkes fedakarlık yapıyor. Bunu tanımanız ve takdir etmeniz gerekiyor, ve bu, ailelerin birlikte kalmasını sağlıyor.

Deeplite hakkında paylaşmak istediğiniz başka bir şey var mı?

Deeplite’nin benzersiz yönlerinden biri, kurucularımızdır. Davis 20’li yaşlarının ortalarında ve çok zeki ve enerjik. O, yaptığımız şeyin bir domaine uzmanlarından biri. Ehsan, bir İranlı göçmen ve bir doktora sahibi, ve daha önce de söylediğim gibi, bizim IP’mizin gerçek beyni. Ve ben, 50’li yaşlarının üzerinde, daha önce şirketler kurmuş bir veterenım. Üçümüz, farklı güçler ve deneyimler getiriyoruz. Çok iyi ortaklarımın ve harika bir ekibin olması için çok şanslıyım.

Harika bir röportaj için teşekkür ederim, Deeplite’nin ilerlemesini takip etmekten heyecan duyuyorum ve bu şirket radarımda olacak. Daha fazla bilgi edinmek isteyen okuyucular Deeplite‘i ziyaret edebilir.