Nick Romano, współzałożyciel i CEO Deeplite – seria wywiadów

Nick Romano jest współzałożycielem i CEO Deeplite, rozwiązaniem do optymalizacji sieci neuronowych opartych na sztucznej inteligencji, które sprawia, że są one szybsze, mniejsze i bardziej efektywne energetycznie, od chmury do komputowania na krawędzi.

Nick jest doświadczonym przedsiębiorcą i skutecznym CEO, który przez ponad 20 lat dostarczał udane wyniki. Niedawno współzałożył i rozwinął platformę SaaS dla przedsiębiorstw z wielomilionowymi przychodami i ponad 100 pracownikami. Został uhonorowany przez Wydział Inżynierii Uniwersytetu McMaster jako jeden z najlepszych 150 absolwentów.

Co początkowo przyciągnęło Cię do sztucznej inteligencji?

Przez ponad 25 lat byłem w przestrzeni technologicznej i widziałem wiele cykli i trendów, niektóre z nich były tylko hajsem, a niektóre były prawdziwe. Sztuczna inteligencja to dynamicznie rozwijająca się dziedzina, a to, co mnie w niej fascynuje, to sposób, w jaki ta technologia może być naprawdę wykorzystywana na wiele różnych sposobów, aby poprawić, jak ludzie żyją i pracują. Chciałem być częścią tego ruchu. Jednak istnieją wyzwania związane z wprowadzaniem sztucznej inteligencji do środowisk rzeczywistych. Wymaga to dużej mocy obliczeniowej i energii, aby sztuczna inteligencja działała prawidłowo – jest to obliczeniowo intensywny proces. To jest w porządku w laboratorium, ale jeśli jest zbyt duże, zbyt wolne lub zajmuje zbyt dużo mocy, trudno wprowadzić sztuczną inteligencję do środowisk rzeczywistych. To jest nasza misja i prawdziwe przyciąganie dla mnie – umożliwienie sztucznej inteligencji w codziennym życiu.

Czy mógłbyś opowiedzieć o historii powstania Deeplite?

Pomysł na Deeplite powstał w inkubatorze TandemLaunch w Montrealu. Davis Sawyer, który jest teraz naszym dyrektorem ds. produktu i ekspertem w dziedzinie sztucznej inteligencji, oraz Ehsan Saboori, który jest teraz naszym dyrektorem technicznym i jest naprawdę mózgiem za naszą własnością intelektualną, zaczęli rozwijać tę technologię tam. Dołączyłem do nich w 2019 roku, przynosząc ze sobą wiele lat doświadczenia w kierowaniu firmami technologicznymi i skalowaniu, i oficjalnie uruchomiliśmy Deeplite jako firmę w połowie 2019 roku. Teraz mamy ponad 20 pracowników z biurami w Montrealu i Toronto, i ogłosiliśmy rundę finansowania serii Seed o wartości 6 milionów dolarów w kwietniu 2021 roku.

Dlaczego wbudowywanie przetwarzania sztucznej inteligencji bezpośrednio w sprzęcie, a nie w chmurze, jest takie ważne w pewnych przypadkach, takich jak pojazdy autonomiczne i drony?

Istnieje wiele powodów, dla których chcesz uruchomić swój proces inferencji, proces decyzyjny sztucznej inteligencji, w miejscu pozyskiwania danych, a nie w chmurze. Prawdopodobnie największym powodem w krytycznych aplikacjach, takich jak pojazdy autonomiczne, jest to, co nazywamy opóźnieniem, które podstawowo oznacza, jak długo sztuczna inteligencja potrzebuje, aby podjąć decyzję. Jeśli musisz przechwycić dane, wysłać je do chmury w celu inferencji, a następnie zwrócić wyniki, to oczywiście zajmie to znacznie więcej czasu niż zrobienie tego lokalnie w czasie rzeczywistym. W przypadku jazdy autonomicznej milisekundy mają ogromne znaczenie.

Inne powody obejmują prywatność, utrzymanie wrażliwych danych lokalnie, a nie wysyłanie ich do chmury, oraz łączność, która w przypadku jej braku renderuje inferencję chmury nieistotną. Złożone głębokie sieci neutralne, które napędzają sztuczną inteligencję, wymagają dużej mocy obliczeniowej, aby działać, używają dużej ilości pamięci i zużywają dużo energii, więc rozwiązania sztucznej inteligencji były zmuszone do korzystania z chmury. Aby więc wyjść z chmury i umożliwić sztucznej inteligencji działać lokalnie na krawędzi w pojeździe lub dronie, na przykład, musisz znaleźć sposób, aby zmniejszyć ogólny rozmiar i profil mocy modelu, umożliwiając mu działać bezpośrednio na urządzeniu – sprzęcie – z znacznie mniejszymi zasobami. Jest to ważne, aby przełamać tę barierę i wprowadzić sztuczną inteligencję do znacznie więcej urządzeń, które służą ludziom każdego dnia. To jest miejsce, w którym Deeplite się pojawia.

Czy mógłbyś powiedzieć nam, co konkretnie jest Deeplite Neutrino?

Nasza platforma Neutrino przekształca sztuczną inteligencję, a konkretnie głębokie sieci neuronowe lub DNN, w nową postać, która jest mniejsza, szybsza i mniej zużywa energii niż jej oryginalna postać. Z Deeplite Neutrino zespoły sztucznej inteligencji mogą skupić się na szkoleniu swoich modeli pod kątem dokładności, jak często decyzja jest poprawna, i wykorzystać naszą platformę do optymalizacji modelu sztucznej inteligencji, aby mógł być wdrożony w ograniczonym sprzęcie na krawędzi. Deeplite Neutrino robi to bez kompromisowania oryginalnej dokładności sztucznej inteligencji. W istocie, bierzemy duże modele sztucznej inteligencji i robimy je mniejszymi, szybszymi i bardziej efektywnymi energetycznie. Końcowym celem jest wyprowadzenie sztucznej inteligencji z laboratorium i wprowadzenie jej do świata rzeczywistego w rzeczach, które używamy każdego dnia.

Jak Deeplite Neutrino jest w stanie uczynić sztuczną inteligencję bardziej efektywną, szybszą, mniejszą i bardziej potężną bez kompromisowania dokładności oryginalnego modelu?

Używamy nowatorskiego podejścia do eksploracji przestrzeni projektowej z wieloma celami. Używamy oryginalnego modelu jako rodzaju “nauczyciela” i następnie eksplorujemy architekturę modelu w poszukiwaniu najlepszego “ucznia” modelu, który spełnia ograniczenia projektowe określone przez użytkownika Deeplite, aby automatycznie optymalizować modele DNN i robić je znacznie szybszymi, mniejszymi i bardziej efektywnymi energetycznie bez poświęcania wydajności.

Jakie są niektóre z głównych przypadków użycia tego rodzaju sztucznej inteligencji?

Pomimo że nie jesteśmy ograniczeni do tego, naszym obecnie głównym celem jest wizja komputerowa i sztuczna inteligencja oparta na percepcji. Nasza technologia sztucznej inteligencji jest używana w pojazdach autonomicznych, dronach, kamerach, telefonach komórkowych, czujnikach i innych urządzeniach IoT. Widzimy również nowe zastosowania dla niej, w tym inteligentną szczoteczkę do zębów i inteligentną ekspres do kawy. Pracujemy nawet z wiodącą międzynarodową firmą zabawkarską, która używa jej do tworzenia gier. To, co jest niesamowicie ekscytujące i satysfakcjonujące w tym, co robimy, to różnorodność aplikacji, które widzimy na rynku, gdzie możemy pomóc im zaistnieć.

Jakie są Twoje poglądy na federacyjne uczenie się i jak wpłynie ono na przyszłość sztucznej inteligencji?

Uczenie modeli wymaga dużej ilości danych i dużej mocy obliczeniowej. Im większa różnorodność przypadków użycia, tym więcej danych jest wymaganych, i tym więcej czasu obliczeniowego jest potrzebne do szkolenia modelu do satysfakcjonującego poziomu dokładności. Z federacyjnym uczeniem się szkolenie odbywa się w urządzeniu na krawędzi na podstawie lokalnych warunków danych. To może sprawić, że szkolenie będzie bardziej efektywne (dlaczego szkolić kangura przechodzącego przez drogę w Alasce) i jest to również duże zwycięstwo dla prywatności, ponieważ dane szkoleniowe – na przykład kogoś twarz – nie są wysyłane do centralnego serwera.

Biorąc pod uwagę, że nasz proces optymalizacji obejmuje to, co nazywamy “pętlą szkolenia”, aby zachować dokładność zoptymalizowanego modelu, naszym ostatecznym celem byłoby mieć to, co robimy, jako część początkowego procesu szkolenia, a nie jako drugi przejazd. Obecnie jest to aspiracja, ale to jest część naszego długoterminowego celu.

Jak jako startup przyciągasz talent i mózgi, które są potrzebne?

To jest duże wyzwanie, aby przyciągnąć odpowiedni talent sztucznej inteligencji dzisiaj – jest ich zbyt mało, a konkurencja o rekrutację jest wysoka. Nasz zespół jest niesamowity. Są one magnesem samym w sobie dla talentu. Mamy potencjalnych kandydatów, którzy rozmawiają i przeprowadzają wywiady z naszym zespołem. Kiedy widzą kaliber ludzi w Deeplite, chcą być tutaj. Jako startup oferujemy wspaniałą kulturę i możliwość pracy nad czymś nowym i wschodzącym, co może być grą zmieniającą dla wielu różnych branż i produktów. Myślę, że ta możliwość, wraz z zespołem, jest kluczem do przyciągania najlepszych talentów. Jesteśmy również strategicznie zlokalizowani w dwóch głównych amerykańskich hubach sztucznej inteligencji, Montrealu i Toronto, co pomaga. Jako kanadyjska firma wykorzystujemy rządowy program Global Talent Stream, aby rekrutować na całym świecie, sponsorować nowych pracowników i przyspieszać ich wjazd do Kanady.

Czy masz jakieś porady dla innych przedsiębiorców w dziedzinie sztucznej inteligencji?

To wykracza poza sztuczną inteligencję, ale jako wielokrotny przedsiębiorca nauczyłem się, jak ważne jest posiadanie wsparcia rodziny, ponieważ decyzja o byciu przedsiębiorcą nie jest decyzją indywidualną – wpływa na wszystkich – małżonków i dzieci włącznie. Każdy jest częścią podróży z tobą, i każdy czyni ofiary. Musisz to rozpoznać i docenić, i to jest sposób, w jaki rodziny mogą pozostać razem na całej drodze.

Czy jest coś jeszcze, co chciałbyś podzielić się na temat Deeplite?

Jednym z unikalnych aspektów Deeplite jest nasze współzałożycielskie trio. Davis ma mniej niż 25 lat i jest niezwykle inteligentny i pełen energii. Jest on naprawdę ekspertem w dziedzinie, w której działamy. Ehsan jest imigrantem z Iranu z tytułem doktora, i jak wcześniej wspomniano, jest on prawdziwym mózgiem za naszą własnością intelektualną. A ja jestem 50-letnim weteranem, który zbudował firmy wcześniej. Trzej z nas tworzymy ciekawą kombinację, która przywozi różne siły i doświadczenie do stołu. Jestem bardzo wdzięczny, że mam tak wspaniałych partnerów i jestem otoczony tak wspaniałym zespołem.

Dziękuję za wspaniały wywiad, czekam na obserwowanie postępów Deeplite i jest to firma, która będzie na moim radarze. Czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Deeplite.