Nick Romano, co-fondatore e CEO di Deeplite – Serie di interviste

Nick Romano è il co-fondatore e CEO di Deeplite una soluzione di ottimizzazione guidata dall'intelligenza artificiale per rendere le reti neurali profonde più veloci, più piccole ed efficienti dal punto di vista energetico dal cloud all'edge computing.

Nick è un imprenditore seriale e un affermato CEO che offre risultati di successo da oltre 20 anni. Di recente ha cofondato e ridimensionato una piattaforma SaaS aziendale con entrate ricorrenti multimilionarie e oltre 100 dipendenti. È stato premiato dalla McMaster University Engineering come Top 150 Alumni.

Cosa ti ha attratto inizialmente dell'IA?

Sono stato nello spazio tecnologico per oltre 25 anni e ho visto molti cicli e tendenze, alcuni clamorosi e altri reali. L'intelligenza artificiale è un campo dinamico e in crescita e ciò che amo è come la tecnologia possa davvero essere utilizzata in tanti modi diversi per migliorare il modo in cui le persone vivono e lavorano. Volevo far parte di questo movimento. Tuttavia, ci sono sfide nel portare l'IA negli ambienti del mondo reale. Ci vogliono molta capacità di calcolo ed energia per far funzionare correttamente l'IA: è computazionalmente intensiva. Va bene in un laboratorio, ma se è troppo grande o troppo lento o consuma troppa energia, è difficile portare l'IA negli scenari del mondo reale. Questa è la nostra missione e la vera attrazione per me: abilitare l'IA per la vita di tutti i giorni.

Potresti condividere la storia della genesi di Deeplite?

L'idea di Deeplite è nata nell'incubatore TandemLaunch a Montreal. Davis Sawyer, che ora è il nostro chief product officer ed esperto di dominio AI, ed Ehsan Saboori, che ora è il nostro CTO ed è davvero il cervello dietro il nostro IP, hanno iniziato a sviluppare la tecnologia lì. Mi sono unito a loro nel 2019, portando sul tavolo i miei molti anni di leadership tecnologica e ridimensionamento delle aziende, e abbiamo lanciato ufficialmente Deeplite come azienda a metà del 2019. Ora abbiamo oltre 20 dipendenti con uffici a Montreal e Toronto, e abbiamo annunciato un seme di serie da $ 6 milioni nell'aprile 2021.

Perché l'integrazione dell'elaborazione AI direttamente nell'hardware rispetto al cloud è così importante in determinati casi d'uso come veicoli autonomi e droni?

Ci sono molte ragioni per cui vuoi eseguire la tua inferenza, il processo decisionale dell'IA, al momento dell'acquisizione dei dati rispetto al cloud. Probabilmente il motivo principale nelle applicazioni mission-critical come i veicoli autonomi è la cosiddetta latenza, che in pratica significa quanto tempo impiega l'IA per prendere una decisione. Se è necessario acquisire i dati, inviarli al cloud per l'inferenza, quindi restituire i risultati, ovviamente ci vorrà molto più tempo rispetto a farlo localmente in tempo reale. Nella guida autonoma, i millisecondi contano molto.

Altri motivi includono la privacy, il mantenimento locale dei dati sensibili rispetto all'invio al cloud e, naturalmente, la connettività che, in sua assenza, rende discutibile l'inferenza del cloud. Le complesse reti deep neutral che guidano l'IA richiedono molta potenza di calcolo per funzionare, usano molta memoria e consumano molta energia, quindi le soluzioni AI sono state costrette a utilizzare il cloud. Quindi, per uscire dal cloud e far funzionare l'IA localmente all'edge in un veicolo o in un drone, ad esempio, è necessario trovare un modo per ridurre le dimensioni complessive e il profilo di potenza del modello, consentendogli di funzionare direttamente sull'hardware, il dispositivo, con molte meno risorse. È importante abbattere questa barriera per portare l'IA su molti più dispositivi che servono le persone ogni giorno. È qui che entra in gioco Deeplite.

Potresti dirci cos'è nello specifico Deeplite Neutrino?

La nostra piattaforma Neutrino trasforma l'intelligenza artificiale, in particolare le reti neurali profonde o DNN, in un nuovo fattore di forma più piccolo, più veloce e che consuma meno energia rispetto alla sua forma originale. Con Deeplite Neutrino, i team di intelligenza artificiale possono concentrarsi sull'addestramento dei propri modelli per l'accuratezza, la frequenza con cui la decisione è corretta e utilizzare la nostra piattaforma per ottimizzare il modello di intelligenza artificiale in modo che possa essere implementato in hardware vincolato all'edge. Deeplite Neutrino lo fa senza compromettere la precisione originale dell'IA. In sostanza, prendiamo grandi modelli di intelligenza artificiale e li rendiamo più piccoli, più veloci e più efficienti dal punto di vista energetico. L'obiettivo finale è portare l'IA fuori dal laboratorio e nel mondo reale nelle cose che usiamo ogni giorno.

In che modo Deeplite Neutrino è in grado di rendere l'IA più efficiente, più veloce, più piccola e più potente senza compromettere la precisione del modello originale?

Utilizziamo un nuovo approccio di esplorazione dello spazio di progettazione multi-obiettivo. Utilizziamo il modello originale come una sorta di modello "insegnante" e quindi esploriamo l'architettura del modello cercando il miglior modello "studente" che soddisfi i vincoli di progettazione specificati dall'utente Deeplite per ottimizzare automaticamente i modelli DNN e renderli significativamente più veloci, più piccolo e più efficiente dal punto di vista energetico senza sacrificare le prestazioni.

Quali sono alcuni dei principali casi d'uso per l'utilizzo di questo tipo di IA?

Anche se non ci limitiamo a questo, la nostra attenzione attuale è rivolta alla visione artificiale e all'intelligenza artificiale basata sulla percezione. La nostra tecnologia AI viene utilizzata in veicoli autonomi, droni, fotocamere, telefoni cellulari, sensori e altri dispositivi IoT. Ultimamente stiamo vedendo anche nuove applicazioni, tra cui uno spazzolino da denti intelligente e una macchina per il caffè intelligente. Stiamo anche lavorando con un'azienda leader a livello internazionale nel settore dei giocattoli che lo utilizza per lo sviluppo di giochi. Ciò che è incredibilmente entusiasmante e gratificante in ciò che facciamo è la varietà di applicazioni che vediamo arrivare sul mercato e dove possiamo aiutarlo a prendere vita.

Qual è la tua opinione sull'apprendimento federato e sull'impatto che avrà sul futuro dell'apprendimento automatico?

L'addestramento dei modelli richiede molti dati e molta potenza di calcolo. Maggiore è la diversità dei casi d'uso, maggiori sono i dati richiesti e maggiore è il tempo di calcolo necessario per addestrare il modello a un livello di accuratezza soddisfacente. Con l'apprendimento federato, l'addestramento viene orchestrato all'edge di ciascun dispositivo in base alle condizioni dei dati locali. Questo può rendere l'addestramento più efficiente (perché addestrare un canguro che attraversa la strada in Alaska?) e rappresenta anche un grande vantaggio per la privacy, poiché i dati di addestramento, ad esempio il volto di qualcuno, non vengono inviati a un server centrale.

Dato che il nostro processo di ottimizzazione coinvolge quello che chiamiamo un "ciclo di addestramento" per preservare l'accuratezza del modello ottimizzato, il nostro obiettivo finale sarebbe quello di fare in modo che ciò che stiamo facendo sia parte del processo di addestramento iniziale piuttosto che come un secondo passaggio. In questo momento, questo è ambizioso, ma fa parte del nostro obiettivo a lungo termine.

In qualità di startup, come attiri il talento e la potenza del cervello necessari?

Oggi è una grande sfida attrarre i giusti talenti dell'IA: ci sono troppo poche persone là fuori e la competizione per reclutare è alta. Il nostro team è fantastico. Sono essi stessi una calamita per il talento. Abbiamo potenziali assunzioni che parlano e intervistano il nostro team. Una volta che vedono il calibro delle persone in Deeplite, vogliono essere qui. Come startup, offriamo una grande cultura e l'opportunità di lavorare su qualcosa di nuovo ed emergente che può cambiare le regole del gioco per molti settori e prodotti diversi. Penso che questa opportunità, insieme al team, sia la chiave per attrarre i migliori talenti. Siamo anche strategicamente posizionati in due importanti hub di intelligenza artificiale del Nord America, Montreal e Toronto, il che aiuta. In qualità di azienda canadese, sfruttiamo anche il programma Global Talent Stream del governo. Possiamo reclutare ovunque nel mondo, sponsorizzare nuovi assunti e seguirli rapidamente in Canada.

Hai qualche consiglio per altri imprenditori nello spazio AI?

Questo va oltre l'intelligenza artificiale, ma come imprenditore abituale, ho imparato quanto sia importante avere il sostegno della famiglia, perché la decisione di essere un imprenditore non è individuale - ha un impatto su tutti - coniugi e figli inclusi. Tutti fanno parte del viaggio con te e tutti fanno sacrifici. Devi riconoscerlo e apprezzarlo, ed è così che le famiglie possono stare insieme durante il viaggio.

C'è qualcos'altro che vorresti condividere su Deeplite?

Uno degli aspetti unici di Deeplite sono i nostri co-fondatori. Davis ha circa 20 anni ed è estremamente intelligente ed energico. È sicuramente un esperto di dominio in quello che facciamo. Ehsan è un immigrato iraniano con un dottorato di ricerca e, come accennato in precedenza, è il vero cervello dietro il nostro IP. E sono un veterano di oltre 50 anni che ha già creato aziende. Noi tre siamo una combinazione interessante che mette in campo diversi punti di forza ed esperienza. Sono molto grato di avere partner così fantastici e di essere circondato da una squadra così fantastica.

Grazie per la fantastica intervista, non vedo l'ora di seguire i progressi di Deeplite, un'azienda che sicuramente seguirò con interesse. I lettori che desiderano saperne di più possono visitare il sito https://www.deeplite.com/ Deeplite.