Nick Romano, Deepliten perustaja ja toimitusjohtaja – Haastattelusarja

Nick Romano on Deepliten perustaja ja toimitusjohtaja, joka tarjoaa tekoälyohjattuja optimointiratkaisuja tehokkaampiin, pienempiin ja energiatehokkaampiin syvän neuroverkkoihin pilvestä reunan laskentaan.

Nick on sarjayrittäjä ja kokenut toimitusjohtaja, joka on toimittanut menestyksekkäitä tuloksia yli 20 vuoden ajan. Hän on vastikään perustanut ja laajentanut yritys-SaaS-alustan, jolla on monien miljoonien dollarien vuosittaiset tuotot ja yli 100 työntekijää. Hän on saanut kunnian McMasterin yliopiston insinööritieteellisestä tiedekunnasta Top 150 Alumni -tunnustuksen.

Mikä aluksi veti sinut tekolyyn?

Olen ollut teknologian parissa yli 25 vuotta ja olen nähnyt monia syklejä ja trendejä, joista osa on hypeä ja osa todellista. Tekoäly on dynaaminen ja kasvava ala, ja sen mikä minusta on niin houkuttelevaa, on se, miten teknologiaa voidaan käyttää monin eri tavooin parantamaan ihmisten elämää ja työtä. Halusin olla osa tätä liikettä. On kuitenkin haasteita tekolysohjelmien siirtämisessä laboratoriosta todellisiin maailman tilanteisiin. Se vaatii paljon laskentakapasiteettia ja energiaa – se on laskennallisesti intensiivinen. Se on ok labrassa, mutta jos se on liian suuri tai liian hidas tai vie liian paljon voimaa, on vaikea tuoda tekolyä todellisiin maailman tilanteisiin. Tämä on meidän tehtävämme ja se, mikä minusta on niin houkuttelevaa – tekolysohjelmien mahdollistaminen jokapäiväisessä elämässä.

Voitko kertoa Deepliten syntytarinaa?

Deepliten idea syntyi TandemLaunch-innovaatiokeskuksessa Montrealissa. Davis Sawyer, joka on nyt meidän tuotejohtajamme ja tekolyasiantuntijamme, ja Ehsan Saboori, joka on nyt meidän tekninen johtajamme ja joka on todellinen aivot meidän IP: n takana, alkoivat kehittää teknologiaa siellä. Liityin heihin vuonna 2019, tuoden mukanaan monen vuoden kokemuksen teknologian johtamisesta ja yritysten kasvattamisesta, ja virallisesti lanseerasimme Deepliten yrityksenä kesäkuussa 2019. Nyt meillä on yli 20 työntekijää, ja meillä on toimistot Montrealissa ja Torontossa, ja ilmoitimme 6 miljoonan dollarin Series Seed -rahoituksesta huhtikuussa 2021.

Miksi on tärkeää upottaa tekolyprosessi suoraan laitteistoon verrattuna pilveen joissakin sovelluksissa, kuten itseohjautuvissa ajoneuvoissa ja dronissa?

On monia syitä, miksi haluat suorittaa inference- eli tekolyohjelmien päätöksentekoprosessin datan keräämisen kohdalla eikä pilvessä. Yksi syy on latenssi, joka tarkoittaa, kuinka kauan tekolyohjelma tarvitsee päätöksenteon. Jos tarvitset kerätä dataa, lähettää sen pilveen inferenceä varten ja sitten palauttaa tulokset, se kestää selvästi kauemmin kuin tekeminen paikallisesti reaaliajassa. Itseohjautuvissa ajoneuvoissa millisekunnit ovat suuria.

Muita syitä ovat tietosuojelu, joka pitää herkkää dataa paikallisesti eikä lähetä sitä pilveen, ja yhteyden muodostaminen, joka on tarpeen, jotta pilvipohjainen inference voisi toimia. Monimutkaiset syvät neuroverkkomallit, jotka ohjaavat tekolyä, vaativat paljon laskentakapasiteettia ja muistia ja kuluttavat paljon energiaa, joten tekolyratkaisut joutuivat käyttämään pilveä. Jotta voisimme päästä pilvestä pois ja suorittaa tekolyä paikallisesti reunassa, esimerkiksi ajoneuvossa tai dronessa, meidän on löydettävä keino vähentää mallin kokoa ja energiankulutusta, jotta se voisi suorittaa suoraan laitteistolla – laitteella – paljon vähemmällä resursseilla. On tärkeää murtaa tämä este, jotta voisimme tuoda tekolyä moniin laitteisiin, joita ihmiset käyttävät jokapäiväisessä elämässään. Tässä Deeplite tulee kuvaan.

Voitko kertoa, mitä Deeplite Neutrino on?

Neutrino-alustamme muuttaa tekolyä, erityisesti syviä neuroverkkoja, uudeksi muodoksi, joka on pienempi, nopeampi ja vähemmän energiankulutuksella kuin alkuperäinen muoto. Deeplite Neutrino -alustalla tekolytiimit voivat keskittyä mallien kouluttamiseen tarkkuuden suhteen ja käyttää meidän alustaa optimoimaan tekoly mallia, jotta se voidaan käyttää rajoitettujen laitteiden reunassa. Deeplite Neutrino tekee tämän ilman alkuperäisen tekoly mallin tarkkuuden heikentämistä. Perusidea on, että otamme suuret tekoly mallit ja teemme niistä pienemmät, nopeammat ja energiatehokkaammat. Lopullinen tavoite on saada tekoly pois laboratoriosta ja tuoda se jokapäiväiseen elämään, jokapäiväisissä asioissa, joita käytetään.

Kuinka Deeplite Neutrino pystyy tekemään tekolyä, joka on tehokkaampi, nopeampi, pienempi ja tehokkaampi ilman alkuperäisen mallin tarkkuuden heikentämistä?

Käytämme uudenlaista monitavoitteista suunnittelutilan tutkimuslähestymistapaa. Käytämme alkuperäistä mallia “opettajamallina” ja sitten tutkimme mallin arkkitehtuuria etsimään parasta “oppilasmallia”, joka toteuttaa Deeplite-käyttäjän määrittämät suunnittelurajoitukset automaattisesti optimoidakseen DNN-malleja ja tekemään niistä merkittävästi nopeampia, pienempiä ja energiatehokkaampia ilman suorituskyvyn heikentämistä.

Mitkä ovat joitakin tärkeimmistä sovelluksista tällaisen tekolysohjelmien käytölle?

Vaikka emme ole rajoittuneet tähän, nykyinen fokus on tietokoneen näön ja havaintopohjaisessa tekolyssä. Tekolytekniikkaamme käytetään itseohjautuvissa ajoneuvoissa, dronissa, kameroissa, matkapuhelimissa, anturissa ja muissa IoT-laitteissa. Näemme myös uusia sovelluksia, kuten älyhammasharjan ja älykahvinkeittimen. Työskentelemme myös johtavan kansainvälisen leluyrityksen kanssa, joka käyttää sitä pelien kehittämiseen. Se, mitä me teemme, on uskomattoman jännittävää ja palkitsevaa, koska näemme, miten moninaisia sovelluksia meidän tekniikkamme voi tukea.

Mitkä ovat näkymät federated learningiin ja miten se vaikuttaa koneoppimisen tulevaisuuteen?

Mallien kouluttaminen vaatii paljon dataa ja laskentakapasiteettia. Mitä monipuolisempia sovelluksia on, sitä enemmän dataa vaaditaan, ja sitä enemmän laskentaa tarvitaan kouluttamaan malli tyydyttävään tarkkuustasoon. Federated learningissä koulutus suoritetaan reunassa kussakin laitteessa paikallisten dataolosuhteiden mukaan. Tämä voi tehdä koulutuksesta tehokkaamman (miksi kouluttaa kangaroojen ylityksestä Alaskassa) ja se on myös suuri voitto tietosuojalle, koska koulutusdataa – esimerkiksi jonkun kasvoja – ei lähetetä keskuspalvelimeen.

koska meidän optimointiprosessimme sisältää “koulutussilmukan” säilyttääkseen optimoidun mallin tarkkuuden, lopullinen tavoitteemme on, että meidän tekemämme olisi osa alkuperäistä koulutusprosessia eikä toinen kierros. Tällä hetkellä tämä on toiveikasta, mutta se on osa pitkän aikavälin tavoitteita.

Kuinka startup-yrityksesi houkuttelee kykyjä ja aivot, joita tarvitaan?

On suuri haaste houkutella oikea tekolykyky tänään – niitä on liian vähän, ja kilpailu niiden rekrytoimiseksi on korkea. Meidän tiimimme on uskomattoman hyvä. He ovat itse magnetti kykyjen houkuttelemiseksi. Mahdolliset palkkatut työntekijät puhuvat ja haastattelevat meidän tiimimme kanssa. Kun he näkevät meidän tiimimme kalibereita, he haluavat tulla tänne. Startup-yrityksenä me tarjoamme hyvän kulttuurin ja mahdollisuuden työskennellä uuden ja nousevan alalla, joka voi olla pelinmuuttaja monille eri aloille ja tuotteille. Uskon, että tämä mahdollisuus, yhdessä tiimimme kanssa, on avain meidän kykyjen houkuttelemiseen. Olemme myös strategisesti sijoittuneet kahteen suureen Pohjois-Amerikan tekolykeskukseen, Montrealiin ja Torontoon, mikä auttaa. Kanadalaisena yrityksenä me hyödyämme hallituksen Global Talent Stream -ohjelmaa ja voimme rekrytoida maailmanlaajuisesti, sponsoroida uusia palkkatuotteita ja nopeuttaa heidän käsittelyään Kanadaan.

Onko sinulla neuvoja muille yrittäjille tekolyalalla?

Tämä menee tekolyä pidemmälle, mutta toistuvana yrittäjänä olen oppinut, kuinka tärkeää on perheen tuki, koska yrittäjyyden päätös ei ole yksilöllinen – se vaikuttaa kaikkiin – puolisoihin ja lapsiin sisältyen. Kaikki ovat mukana matkassa, ja kaikki tekevät uhrauksia. On tärkeää tunnustaa ja arvostaa sitä, ja se on, miten perheet voivat pysyä yhdessä koko matkan ajan.

Onko sinulla jotain muuta, mitä haluaisit jakaa Deeplitestä?

Yksi Deepliten ainutlaatuisista piirteistä on meidän perustajamme. Davis on 20-vuotias, ja hän on äärimmäisen älykäs ja energinen. Hän on todellinen asiantuntija siinä, mitä teemme. Ehsan on iranilainen maahanmuuttaja, jolla on tohtorin tutkinto, ja hän on todellinen aivot meidän IP:n takana. Ja minä olen yli 50-vuotias veteraani, joka on rakentanut yrityksiä aiemmin. Kolme meistä ovat mielenkiintoinen yhdistelmä, joka tuo eri vahvuuksia ja kokemusta pöytään. Olen erittäin kiitollinen, että minulla on näin hyvät kumppanit ja ympärilläni on näin hyvä tiimi.

Kiitos haastattelusta, odotan Deepliten edistymistä ja se on yritys, joka on minun radarillani. Lukijat, jotka haluavat oppia lisää, voivat vierailla Deeplitessä.