Nick Romano, spoluzakladatel a CEO Deeplite – rozhovorová série

Nick Romano je spoluzakladatel a CEO společnosti Deeplite, která nabízí řešení pro optimalizaci hlubokých neuronových sítí, aby byly rychlejší, menší a energeticky efektivnější od cloudu po edge computing.

Nick je zkušený podnikatel a úspěšný CEO s více než 20 lety zkušeností. Nedávno spoluzakládal a rozšiřoval podnikový software jako službu s miliony dolarů v opakovaných příjmech a více než 100 zaměstnanci. Byl oceněn McMaster University Engineering jako jeden z nejlepších 150 absolventů.

Co vás původně přitáhlo k umělé inteligenci?

Jsem již více než 25 let v technologickém odvětví a viděl jsem mnoho cyklů a trendů, některé z nich jsou pouze reklamní a některé jsou skutečné. Umělá inteligence je dynamické a rostoucí odvětví, a to, co mě na ní baví, je to, jak lze tuto technologii skutečně použít mnoha různými způsoby, aby se zlepšila životní situace lidí a jejich práce. Chtěl jsem být součástí tohoto hnutí. Existují však výzvy spojené s aplikací umělé inteligence v reálném světě. K tomu, aby umělá inteligence fungovala správně, je zapotřebí velké množství výpočetního výkonu a energie – je to výpočetně náročné. To je v pořádku v laboratoři, ale pokud je to příliš velké, příliš pomalé nebo spotřebuje příliš mnoho energie, je obtížné umělé inteligence aplikovat v reálném světě. To je naše mise a skutečný důvod, proč mě to přitahuje – umožnit umělé inteligenci pro každodenní život.

Můžete sdílet příběh o vzniku Deeplite?

Nápad na Deeplite vznikl v inkubátoru TandemLaunch v Montrealu. Davis Sawyer, který je nyní нашим chief product officer a odborníkem na umělou inteligenci, a Ehsan Saboori, který je nyní našim CTO a skutečným mozkem za naší IP, začali zde vyvíjet technologii. Připojil jsem se k nim v roce 2019 a přinesl jsem své mnoholeté zkušenosti s vedením technologických firem a škálováním firem. Oficiálně jsme spustili Deeplite jako společnost v polovině roku 2019. Nyní máme více než 20 zaměstnanců se sídly v Montrealu a Torontu a ohlásili jsme 6 milionů dolarů série Seed v dubnu 2021.

Proč je důležité integrovat zpracování umělé inteligence přímo do hardwaru místo cloudu v některých případech, jako jsou autonomní vozidla a drony?

Existuje mnoho důvodů, proč chcete spustit proces rozhodování umělé inteligence, nazývaný inference, na místě, kde se data zachycují, a ne v cloudu. Největší důvod je pravděpodobně latence, která znamená, jak dlouho umělá inteligence potřebuje k rozhodnutí. Pokud potřebujete zachytit data, odeslat je do cloudu pro inference a poté vrátit výsledky zpět, bude to samozřejmě trvat déle, než kdyby se to dělalo lokálně v reálném čase. U autonomních vozidel jsou milisekundy velmi důležité.

Dalšími důvody jsou soukromí, uchování citlivých dat lokálně místo odesílání do cloudu, a samozřejmě i připojení, které v jeho nepřítomnosti činí cloud inference zbytečným. Komplexní hluboké neuronové sítě, které pohánějí umělou inteligenci, vyžadují大量 výpočetního výkonu k běhu, spotřebují mnoho paměti a spotřebují mnoho energie, takže řešení umělé inteligence byly nuceny používat cloud. Abychom se dostali z cloudu a umožnili umělé inteligenci běhat lokálně na edge v vozidle nebo dronu, musíme najít způsob, jak snížit celkovou velikost a energetický profil modelu, aby mohl běžet přímo na hardwaru – zařízení – s mnohem menšími zdroji. Je důležité prolomit tuto bariéru a přivést umělou inteligenci do mnoha zařízení, která slouží lidem každý den. To je místo, kde Deeplite vstupuje do hry.

Můžete nám říci, co je Deeplite Neutrino?

Naše platforma Neutrino transformuje umělou inteligenci, konkrétně hluboké neuronové sítě nebo DNN, do nové formy, která je menší, rychlejší a méně energeticky náročná než původní forma. S Deeplite Neutrino mohou týmy umělé inteligence soustředit se na školení svých modelů pro přesnost, kolikrát je rozhodnutí správné, a použít naši platformu k optimalizaci modelu umělé inteligence, aby mohl být nasazen do hardwaru s omezenými zdroji na edge. Deeplite Neutrino to dělá bez kompromisů původní přesnosti umělé inteligence. V podstatě bereme velké modely umělé inteligence a děláme je menšími, rychlejšími a energeticky efektivnějšími. Cílem je dostat umělou inteligenci z laboratoře do skutečného světa v věcech, které používáme každý den.

Jak je Deeplite Neutrino schopno udělat umělou inteligenci efektivnější, rychlejší, menší a výkonnější bez kompromisů původní přesnosti modelu?

Používáme novou multiobjektivní metodu prozkoumání designového prostoru. Používáme původní model jako určitý “učitel” model a poté prozkoumáváme architekturu modelu, abychom našli nejlepší “žák” model, který splňuje designové omezení stanovené uživatelem Deeplite, aby automaticky optimalizoval modely DNN a učinil je mnohem rychlejšími, menšími a energeticky efektivnějšími bez obětování výkonu.

Jaké jsou některé z hlavních případů použití tohoto typu umělé inteligence?

Zatímco neomezujeme se pouze na to, naše současné zaměření je na počítačové vidění a percepci založené na umělé inteligenci. Naše technologie umělé inteligence se používá v autonomních vozidlech, dronech, kamerách, mobilních telefonech, senzorech a dalších zařízeních IoT. Vidíme také nové aplikace pro ni, včetně chytré zubní kartáčky a chytré kávovaru. Pracujeme také s vedoucí mezinárodní hračkářskou společností, která ji používá pro vývoj her. Co je neuvěřitelně vzrušující a odměňující v tom, co děláme, je rozmanitost aplikací, které vidíme na trhu, kde můžeme pomoci, aby se staly skutečností.

Jaké jsou vaše názory na federované učení a jak bude ovlivňovat budoucnost strojového učení?

Školení modelů vyžaduje大量 dat a大量 výpočetního výkonu. Čím větší je rozmanitost případů použití, tím více dat je vyžadováno a tím více výpočetního času je potřeba k tomu, aby se model naučil na uspokojivé úrovni přesnosti. S federovaným učením je školení orchestrováno na edge v každém zařízení na základě místních podmínek. To může učinit školení efektivnějším (proč trénovat pro kangaroo přecházející silnici v Aljašce) a je také velkým vítězstvím pro soukromí, protože školicí data – například někdo tvář – nejsou odeslána na centrální server.

Dáno, že náš optimalizační proces zahrnuje to, co nazýváme “školicí smyčkou”, abychom zachovali přesnost optimalizovaného modelu, náš konečný cíl by byl mít to, co děláme, jako součást počátečního školicího procesu, a ne jako druhý průchod. Právě teď je to aspirační, ale to je část našeho dlouhodobého cíle.

Jak jako startup přitáhnete talent a mozkový trust, který je potřebný?

Je to velká výzva přitáhnout správný talent umělé inteligence dnes – je jich příliš málo a konkurence je vysoká. Náš tým je úžasný. Jsou sami magnetem pro talent. Máme potenciální náboráře, kteří mluví a interviewují s naším týmem. Jakmile uvidí úroveň lidí v Deeplite, chtějí být zde. Jako startup nabízíme skvělou kulturu a příležitost pracovat na něčem novém a vznikajícím, co může být hračkou pro mnoho různých odvětví a produktů. Myslím, že tato příležitost, spolu s týmem, je klíčem k tomu, aby jsme přitáhli špičkový talent. Jsme také strategicky umístěni v dvou hlavních severoamerických centrech umělé inteligence, Montrealu a Torontu, což pomáhá. Jako kanadská společnost využíváme programu Global Talent Stream vlády a můžeme náborovat kdekoliv na světě, sponzorovat nové náboráře a urychlit je do Kanady.

Máte nějaké rady pro ostatní podnikatele v oblasti umělé inteligence?

To jde za hranice umělé inteligence, ale jako opakující se podnikatel jsem se naučil, jak důležité je mít podporu rodiny, protože rozhodnutí být podnikatelem není pouze individuální – to ovlivňuje každého – manželky a děti včetně. Všichni jsou součástí cesty s vámi a všichni dělají oběti. Musíte to uznat a ocenit a to je způsob, jakým rodiny mohou zůstat spolu po celou cestu.

Je něco jiného, co byste rádi sdíleli o Deeplite?

Jedna z unikátních aspektů Deeplite jsou naši spoluzakladatelé. Davis je ve svých středních 20 letech a je extrémně chytrý a energický. Je určitě odborníkem na to, co děláme. Ehsan je íránský imigrant s PhD a jako již zmíněno, je skutečným mozkem za naší IP. A já jsem 50+ let starý veteran, který již postavil společnosti dříve. Tři z nás jsme zajímavou kombinací, která přináší různé síly a zkušenosti do hry. Jsem velmi vděčný, že mám tak skvělé partnery a jsem obklopen tak skvělým týmem.

Děkuji za skvělý rozhovor, těším se na sledování pokroku Deeplite a je to společnost, která bude na mé radarové obrazovce. Čtenáři, kteří chtějí se dozvědět více, by měli navštívit Deeplite.