Nick Romano, Deepliten perustaja ja toimitusjohtaja – Haastattelu sarja

Nick Romano on Deepliten perustaja ja toimitusjohtaja Deeplite on tekoälyohjattu optimointiratkaisu, joka tekee syvistä neuroverkoista nopeammat, pienemmät ja energiatehokkaammat pilvestä reunan laskentaan.

Nick on sarjayrittäjä ja kokenut toimitusjohtaja, joka on toimittanut menestyksekkäitä tuloksia yli 20 vuoden ajan. Hän on äskettäin perustanut ja laajentanut yritys-SaaS-alustan, jolla on monien miljoonien dollarien toistuva tuotto ja yli 100 työntekijää. Hänet on kunnioitettu McMasterin yliopiston insinööritieteellisessä tiedekunnassa yhtenä 150 parhaasta alumneista.

Mikä alun perin veti sinut tekoälyyn?

Olen ollut teknologian parissa yli 25 vuotta ja olen nähnyt monia syklejä ja trendejä, joista osa on huhua ja osa todellista. Tekoäly on dynaaminen ja kasvava ala, ja se, mitä minä rakastan siinä, on se, miten teknologiaa voidaan todella käyttää monin eri tavoin parantamaan sitä, miten ihmiset elävät ja työskentelevät. Halusin olla osa tätä liikettä. On kuitenkin haasteita tekoälyn siirtämisessä todellisiin maailman ympäristöihin. Se vaatii paljon laskentakapasiteettia ja energiaa, jotta tekoäly toimii oikein – se on laskennallisesti intensiivinen. Se on ok labrassa, mutta jos se on liian suuri tai liian hidas tai vie liian paljon voimaa, on vaikea tuoda tekoälyä todellisiin skenaarioihin. Se on meidän tehtävämme ja se on todellinen vetovoima minulle – tekoälyn mahdollistaminen jokapäiväisessä elämässä.

Voitko kertoa Deepliten syntytarina?

Deepliten idea syntyi TandemLaunch-inkubatorissa Montrealissa. Davis Sawyer, joka on nyt meidän tuotejohtajamme ja tekoälyalan asiantuntija, ja Ehsan Saboori, joka on nyt meidän CTO ja joka on todella aivot meidän IP:n takana, alkoivat kehittää teknologiaa siellä. Liityin heihin vuonna 2019, tuoden mukanaan monen vuoden kokemuksen teknologian johdosta ja yritysten kasvattamisesta, ja virallisesti lanseerasimme Deepliten yrityksenä kesäkuussa 2019. Nyt meillä on yli 20 työntekijää, ja meillä on toimistot Montrealissa ja Torontossa, ja ilmoitimme 6 miljoonan dollarin Series Seed -rahoituksesta huhtikuussa 2021.

Miksi tekoälyn prosessointi suoraan laitteistossa on tärkeää tietyissä käyttötapauksissa, kuten itseohjautuvissa ajoneuvoissa ja droneissa?

On monia syitä, miksi haluat suorittaa tekoälypäätöksenteon, eli inference-prosessin, datan keräämisen kohdalla eikä pilvessä. Luultavasti suurin syy kriittisissä sovelluksissa, kuten itseohjautuvissa ajoneuvoissa, on niin kutsuttu viive, joka tarkoittaa, kuinka kauan tekoäly tarvitsee aikaa päätöksenteon tekemiseen. Jos tarvitset kerätä datan, lähettää sen pilveen inferenceä varten ja sitten palauttaa tulokset, se on ilmiselvästi pidempi prosessi kuin tekeminen paikallisesti reaaliajassa.

Muita syitä ovat yksityisyys, jossa herkkä data pidetään paikallisesti eikä lähetetä pilveen, ja tietysti yhteyden muodostaminen, joka voi olla mahdotonta pilveen. Monimutkaiset syvät neuroverkot, jotka ohjaavat tekoälyä, vaativat paljon laskentakapasiteettia toimimiseen, ne käyttävät paljon muistia ja kuluttavat paljon energiaa, joten tekoälyratkaisut joutuivat käyttämään pilveä. Jotta voidaan päästä pilvestä pois ja tehdä tekoäly toimivaksi paikallisesti reunan laskennassa, esimerkiksi ajoneuvossa tai dronessa, on löydettävä keino vähentää mallin kokoa ja tehokkuutta, jotta se voi toimia suoraan laitteistossa – laitteessa – paljon vähemmällä resursseilla. On tärkeää murtaa tämä este, jotta tekoäly voidaan tuoda moniin laitteisiin, jotka palvelevat ihmisiä jokapäiväisessä elämässä. Siinä Deeplite tulee kuvioon.

Voitko kertoa, mitä Deeplite Neutrino on erityisesti?

Meidän Neutrino-alusta muuttaa tekoälyä, erityisesti syviä neuroverkkoja, uudenlaiseksi, joka on pienempi, nopeampi ja vähemmän energiankuluttava kuin alkuperäinen muoto. Deeplite Neutrino -alustalla tekoälytiimit voivat keskittyä kouluttamaan mallejaan tarkkuuden suhteen, eli kuinka usein päätös on oikein, ja käyttää meidän alustaa optimoimaan tekoälymallin, jotta se voidaan käyttää rajoitettujen laitteiden kanssa reunan laskennassa. Deeplite Neutrino tekee tämän ilman, että alkuperäinen tarkkuus tekoälymallissa menetetään. Me otamme suuret tekoälymallit ja teemme niistä pienemmät, nopeammat ja energiatehokkaammat. Lopullinen tavoite on saada tekoäly laboratoriosta ja tuoda se todelliseen maailmaan jokapäiväisessä elämässä.

Miten Deeplite Neutrino pystyy tekemään tekoälystä tehokkaamman, nopeamman, pienemmän ja tehokkaamman ilman, että se vaikuttaa alkuperäisen mallin tarkkuuteen?

Käytämme uudenlaisen monitavoitteisen suunnittelutilan löytämismenetelmää. Käytämme alkuperäistä mallia “opettajamallina” ja sitten etsimme mallin arkkitehtuuria etsimällä parasta “oppilasmallia”, joka toteuttaa Deeplite-käyttäjän määrittämät suunnittelurajoitukset automaattisesti optimoidaksesi DNN-malleja ja tekemään niistä merkittävästi nopeampia, pienempiä ja energiatehokkaampia ilman, että heikennetään suorituskykyä.

Mitkä ovat joitain tärkeimpiä käyttötapauksia tällaisen tekoälyn käytölle?

Vaikka emme ole rajoittuneet siihen, meidän nykyinen fokus on tietokoneen näön ja havainnon perustuvassa tekoälyssä. Meidän tekoälytekniikkaa käytetään itseohjautuvissa ajoneuvoissa, droneissa, kameroissa, matkapuhelimissa, antureissa ja muissa IoT-laitteissa. Me näemme myös uusia sovelluksia sille, kuten älykkäät hammasharjat ja älykkäät kahvikoneet. Me työskentelemme jopa johtavan kansainvälisen leluyrityksen kanssa, joka käyttää sitä pelien kehittämiseen. Se, mitä me teemme, on todella jännittävää ja palkitsevaa, koska me näemme moninaisia sovelluksia, joissa voimme auttaa.

Mitkä ovat näkymäsi hajautetusta oppimisesta ja miten se vaikuttaa tekoälyksen tulevaisuuteen?

Mallien kouluttaminen vaatii paljon dataa ja laskentakapasiteettia. Mitä suurempi on sovellusten monimuotoisuus, sitä enemmän dataa vaaditaan, ja sitä enemmän laskentaaikaa tarvitaan kouluttamaan malli tyydyttävään tarkkuustasoon. Hajautetussa oppimisessa koulutus suoritetaan reunan laskennassa kussakin laitteessa paikallisten dataolosuhteiden mukaan. Tämä voi tehdä koulutuksesta tehokkaamman (miksi kouluttaa kangaroojen ylittämiseen tietä Alaskassa) ja se on myös suuri voitto yksityisyydelle, koska koulutusdataa – esimerkiksi jonkun kasvoja – ei lähetetä keskuspalvelimeen.

Koska meidän optimointiprosessimme sisältää niin kutsutun “koulutussilmukan” säilyttääksemme optimoidun mallin tarkkuuden, meidän lopullinen tavoitteemme on, että meidän tekemämme olisi osa alkuperäistä koulutusprosessia eikä toissijainen prosessi. Tällä hetkellä tämä on toive, mutta se on osa meidän pitkän aikavälin tavoitteita.

Kuinka startup-yrityksenä te houkuttelette kykyjä ja aivot, joita tarvitaan?

Se on suuri haaste houkutella oikea tekoälykyky tänään – siellä on liian vähän ihmisiä, ja kilpailu rekrytoinnissa on kova. Meidän tiimimme on mahtava. He ovat itse magnetti kykyjen houkuttelemiseen. Meillä on potentiaaliset palkkatut työntekijät, jotka puhuvat ja haastattelevat meidän tiimimme kanssa. Kun he näkevät meidän tiimimme tasoa, he haluavat tulla tänne. Startup-yrityksenä me tarjoamme hyvän kulttuurin ja mahdollisuuden työskennellä uuden ja nousevan alalla, joka voi olla pelinmuuttaja monille eri aloille ja tuotteille. Luulen, että tämä mahdollisuus, yhdessä tiimimme kanssa, on avain meidän kykyjen houkuttelemiseen. Me sijaitsemme myös strategisesti kahdessa suuressa Pohjois-Amerikan tekoälykeskuksessa, Montrealissa ja Torontossa, mikä auttaa. Kanadalaisena yrityksenä me hyödyntämme hallituksen Global Talent Stream -ohjelmaa. Voimme rekrytoida missä tahansa maailmassa, sponsoroida uusia palkkaamisia ja nopeuttaa heidän käsittelyään Kanadaan.

Onko sinulla neuvoja muille tekoälyalan yrittäjille?

Tämä menee tekoälystä pidemmälle, mutta toistuvana yrittäjänä olen oppinut, kuinka tärkeää on perheen tuki, koska yrittäjyyden päätös ei ole yksilöllinen – se vaikuttaa jokaiseen, mukaan lukien puoliso ja lapset. Kaikki ovat mukana matkassa, ja kaikki tekevät uhrauksia. On tunnustettava ja arvostettava sitä, ja se on, miten perheet voivat pysyä yhdessä koko matkan ajan.

Onko sinulla jotain muuta, mitä haluat jakaa Deeplitestä?

Yksi Deepliten ainutlaatuisista piirteistä on meidän perustajamme. Davis on 20-vuotias, ja hän on äärimmäisen älykäs ja energinen. Hän on todella asiantuntija siinä, mitä me teemme. Ehsan on iranilainen maahanmuuttaja, jolla on tohtorin tutkinto, ja kuten mainittu aiemmin, hän on todella aivot meidän IP:n takana. Ja minä olen yli 50-vuotias veteraani, joka on rakentanut yrityksiä aiemmin. Me kolme olemme mielenkiintoinen yhdistelmä, joka tuo eri vahvuudet ja kokemukset pöytään. Olen hyvin kiitollinen siitä, että minulla on tällaiset hyvät kumppanit ja olen ympäröity täysin mahtavalla tiimillä.

Kiitos haastattelusta, odotan Deepliten edistymistä ja se on yritys, joka on minun radarillani. Lukijat, jotka haluavat oppia lisää, voivat vierailla Deeplitessa.