Nick Romano, spoluzakladatel a CEO společnosti Deeplite – Interview Series

Nick Romano je spoluzakladatelem a CEO společnosti Hluboké řešení optimalizace řízené umělou inteligencí, díky kterému jsou hluboké neuronové sítě rychlejší, menší a energeticky úsporné od cloudu až po edge computing.

Nick je sériový podnikatel a uznávaný generální ředitel, který přináší úspěšné výsledky již více než 20 let. Nedávno spoluzaložil a rozšířil podnikovou platformu SaaS s mnohamilionovými opakujícími se příjmy a více než 100 zaměstnanci. Byl oceněn McMaster University Engineering jako Top 150 Alumni.

Co vás zpočátku přitahovalo k AI?

Pohybuji se v technologickém prostoru více než 25 let a viděl jsem mnoho cyklů a trendů, některé hype a některé skutečné. Umělá inteligence je dynamická a rozvíjející se oblast a to, co na ní miluji, je to, jak lze tuto technologii skutečně využít mnoha různými způsoby ke zlepšení toho, jak lidé žijí a pracují. Chtěl jsem být součástí tohoto hnutí. Přenesení umělé inteligence do prostředí reálného světa však přináší výzvy. Správné fungování umělé inteligence vyžaduje hodně výpočetní kapacity a energie – je to výpočetně náročné. To je v laboratoři v pořádku, ale pokud je příliš velké nebo příliš pomalé nebo zabírá příliš mnoho energie, je těžké přenést umělou inteligenci do reálných scénářů. To je naše poslání a pro mě skutečné lákadlo – umožnit AI pro každodenní život.

Mohl byste se podělit o příběh geneze za Deeplite?

Myšlenka Deeplite začala v inkubátoru TandemLaunch v Montrealu. Davis Sawyer, který je nyní naším hlavním produktovým ředitelem a expertem na AI doménu, a Ehsan Saboori, který je nyní naším CTO a je skutečně mozkem naší IP, tam začali vyvíjet technologii. Připojil jsem se k nim v roce 2019, přivedl jsem ke stolu své mnohaleté technologické vedení a škálovací společnosti a v polovině roku 2019 jsme oficiálně spustili společnost Deeplite. Nyní máme více než 20 zaměstnanců s kancelářemi v Montrealu a Torontu a oznámili jsme 6 milionů $ Series Seed v dubnu 2021.

Proč je v určitých případech použití, jako jsou autonomní vozidla a drony, tak důležité zabudování zpracování AI přímo do hardwaru oproti cloudu?

Existuje mnoho důvodů, proč chcete spustit svůj závěr, proces rozhodování AI, v bodě sběru dat vs. cloud. Pravděpodobně největším důvodem pro kritické aplikace, jako jsou autonomní vozidla, je to, co se nazývá latence, což v podstatě znamená, jak dlouho trvá AI, než se rozhodne. Pokud potřebujete zachytit data, odeslat je do cloudu k odvození a poté vrátit výsledky zpět, což bude samozřejmě trvat mnohem déle, než to udělat lokálně v reálném čase. Při autonomním řízení záleží na milisekundách.

Mezi další důvody patří soukromí, uchování citlivých dat na místní úrovni vs. odesílání do cloudu a samozřejmě konektivita, která v případě, že chybí, činí z cloudových inferencí diskutabilní. Složité hluboce neutrální sítě, které řídí AI, vyžadují ke svému běhu hodně výpočetního výkonu, využívají hodně paměti a spotřebovávají hodně energie, takže řešení AI byla nucena používat cloud. Abyste se tedy dostali z cloudu a umožnili umělé inteligenci běžet lokálně na okraji vozidla nebo například dronu, musíte najít způsob, jak zmenšit celkovou velikost a výkonový profil modelu, aby mohl běžet přímo. na hardwaru – zařízení – s mnohem méně zdroji. Je důležité prolomit tuto bariéru, aby se umělá inteligence dostala do mnohem více zařízení, která slouží lidem každý den. Zde přichází na řadu Deeplite.

Mohl byste nám říci, co konkrétně Deeplite Neutrino je?

Naše platforma Neutrino transformuje AI, konkrétně hluboké neuronové sítě nebo DNN, do nového tvarového faktoru, který je menší, rychlejší a méně energeticky náročný než jeho původní podoba. S Deeplite Neutrino se týmy umělé inteligence mohou zaměřit na trénování svých modelů na přesnost, na to, jak často je rozhodnutí správné, a využít naši platformu k optimalizaci modelu umělé inteligence, aby jej bylo možné nasadit do omezeného hardwaru na okraji. Deeplite Neutrino to dělá, aniž by byla ohrožena původní přesnost AI. V podstatě bereme velké modely AI a děláme je menší, rychlejší a energeticky účinnější. Konečným cílem je dostat AI z laboratoře do skutečného světa ve věcech, které používáme každý den.

Jak je Deeplite Neutrino schopno vytvořit AI, která je efektivnější, rychlejší, menší a výkonnější, aniž by byla ohrožena přesnost původního modelu?

Používáme nový vícecílový designový přístup k průzkumu prostoru. Původní model používáme jako jakýsi „učitelský“ model a poté prozkoumáme architekturu modelu a hledáme nejlepší „studentský“ model, který splňuje omezení návrhu specifikovaná uživatelem Deeplite, abychom automaticky optimalizovali modely DNN a výrazně je zrychlili, menší a výkonnější bez obětování výkonu.

Jaké jsou nejčastější případy použití tohoto typu AI?

I když se neomezujeme pouze na toto, naše současné zaměření je na počítačové vidění a umělou inteligenci založenou na vnímání. Naše technologie AI se používá v autonomních vozidlech, dronech, fotoaparátech, mobilních telefonech, senzorech a dalších zařízeních IoT. V poslední době se pro něj také setkáváme s novými aplikacemi, včetně chytrého zubního kartáčku a chytrého kávovaru. Dokonce spolupracujeme s přední mezinárodní hračkářskou společností, která jej používá pro vývoj her. Co je neuvěřitelně vzrušující a obohacující na tom, co děláme, je rozmanitost aplikací, které jsme svědky toho, jak přicházejí na trh, kde jim můžeme pomoci oživit.

Jaký je váš názor na federované učení a jak to ovlivní budoucnost strojového učení?

Tréninkové modely vyžadují hodně dat a hodně výpočetního výkonu. Čím větší je rozmanitost případů použití, tím více dat je vyžadováno a tím více výpočetního času je potřeba k trénování modelu na uspokojivou úroveň přesnosti. Díky federovanému učení je školení organizováno na okraji každého zařízení na základě místních datových podmínek. To může zefektivnit trénink (proč trénovat na klokana křižujícího silnici na Aljašce) a také je to velká výhra pro soukromí, protože tréninková data – například něčí obličej – se neodesílají na centrální server.

Vzhledem k tomu, že náš proces optimalizace zahrnuje to, čemu říkáme „tréninková smyčka“, abychom zachovali přesnost optimalizovaného modelu, naším konečným cílem by bylo, aby to, co děláme, bylo součástí počátečního tréninkového procesu, nikoli jako druhý průchod. Právě teď je to ambiciózní, ale je to součástí našeho dlouhodobého cíle.

Jak jako startup přitahujete potřebný talent a mozkovou sílu?

Přilákat dnes ty správné talenty AI je velkou výzvou – je tam příliš málo lidí a konkurence při náboru je vysoká. Náš tým je úžasný. Sami jsou magnetem pro talenty. S naším týmem necháváme mluvit a pohovory potenciálních zaměstnanců. Jakmile uvidí kalibr lidí v Deeplite, chtějí být tady. Jako startup nabízíme skvělou kulturu a příležitost pracovat na něčem novém a nově vznikajícím, co může změnit hru pro mnoho různých odvětví a produktů. Myslím, že tato příležitost je spolu s týmem klíčem k tomu, abychom přilákali špičkové talenty. Jsme také strategicky umístěni ve dvou hlavních severoamerických centrech umělé inteligence, Montrealu a Torontu, což pomáhá. Jako kanadská společnost využíváme také vládní program Global Talent Stream. Můžeme nábor kdekoli na světě, sponzorovat nové zaměstnance a rychle je dopravit do Kanady.

Máte nějakou radu pro ostatní podnikatele v oblasti AI?

To jde nad rámec umělé inteligence, ale jako opakovaný podnikatel jsem se naučil, jak důležité je mít podporu rodiny, protože rozhodnutí být podnikatelem není individuální – má dopad na všechny – manžele a děti včetně. Každý je součástí cesty s vámi a každý přináší oběti. Musíte to uznat a ocenit, a tak mohou rodiny zůstat spolu po celou dobu cesty.

Je ještě něco, co byste chtěli o Deeplite sdílet?

Jedním z jedinečných aspektů Deeplite jsou naši spoluzakladatelé. Davisovi je něco přes 20 let a je extrémně chytrý a energický. Je to určitě doménový expert v tom, co děláme. Ehsan je íránský přistěhovalec s PhD, a jak již bylo zmíněno dříve, je skutečným mozkem naší IP. A já jsem 50+ let starý veterán, který už dříve vybudoval společnosti. My tři jsme zajímavou kombinací, která přináší různé síly a zkušenosti. Jsem velmi vděčný, že mám tak skvělé partnery a jsem obklopen tak skvělým týmem.

Děkuji za skvělý rozhovor, těším se na sledování pokroku Deeplite a je to společnost, která bude na mém radaru. Čtenáři, kteří se chtějí dozvědět více, by měli navštívit Hluboké.