Nick Romano, Co-Fondatore e Amministratore Delegato di Deeplite – Serie di Interviste

Nick Romano è il Co-Fondatore e Amministratore Delegato di Deeplite un’azienda di soluzioni di ottimizzazione guidate da intelligenza artificiale per rendere le reti neurali profonde più veloci, più piccole e più efficienti in termini di energia, dalla nuvola al calcolo edge.

Nick è un imprenditore seriale e un amministratore delegato di successo, con oltre 20 anni di esperienza nel settore tecnologico. Recentemente, ha co-fondato e scalato una piattaforma di software aziendale con entrate ricorrenti di diversi milioni di dollari e oltre 100 dipendenti. È stato onorato dall’Università di McMaster come uno dei 150 migliori alumni del dipartimento di ingegneria.

Cosa ti ha inizialmente attirato verso l’intelligenza artificiale?

Sono stato nel settore tecnologico per oltre 25 anni e ho visto molti cicli e tendenze, alcune delle quali sono state iperboli e altre reali. L’intelligenza artificiale è un campo dinamico e in crescita, e ciò che amo di essa è il modo in cui la tecnologia può essere utilizzata in molti modi diversi per migliorare la vita e il lavoro delle persone. Volevo far parte di questo movimento. Tuttavia, ci sono sfide nell’applicare l’intelligenza artificiale in ambienti reali. Richiede molta capacità di calcolo e energia per far funzionare l’intelligenza artificiale – è intensiva in termini di calcolo. Va bene in un laboratorio, ma se è troppo grande o troppo lenta o richiede troppa potenza, è difficile portare l’intelligenza artificiale in scenari reali. Questa è la nostra missione e l’attrazione reale per me – abilitare l’intelligenza artificiale per la vita di tutti i giorni.

Puoi condividere la storia di come è nata Deeplite?

L’idea di Deeplite è nata nell’incubatore TandemLaunch di Montreal. Davis Sawyer, che ora è il nostro direttore del prodotto e un esperto di intelligenza artificiale, e Ehsan Saboori, che ora è il nostro direttore tecnico e il vero cervello dietro la nostra proprietà intellettuale, hanno iniziato a sviluppare la tecnologia lì. Mi sono unito a loro nel 2019, portando la mia lunga esperienza di leadership tecnologica e di scaling di aziende, e abbiamo lanciato ufficialmente Deeplite come azienda a metà del 2019. Ora abbiamo oltre 20 dipendenti con uffici a Montreal e Toronto, e abbiamo annunciato un finanziamento di 6 milioni di dollari di serie Seed ad aprile 2021.

Perché è importante integrare l’elaborazione dell’intelligenza artificiale direttamente nel hardware anziché nella nuvola in alcuni casi d’uso, come i veicoli autonomi e i droni?

Ci sono molti motivi per cui si vuole eseguire il processo di inferenza, il processo decisionale dell’intelligenza artificiale, al punto di acquisizione dei dati anziché nella nuvola. Probabilmente il motivo più grande in applicazioni critiche come i veicoli autonomi è la latenza, che significa essenzialmente quanto tempo impiega l’intelligenza artificiale per prendere una decisione. Se è necessario catturare i dati, inviarli alla nuvola per l’inferenza e poi restituire i risultati, ciò richiederà ovviamente molto più tempo rispetto a farlo localmente in tempo reale. Nella guida autonoma, i millisecondi contano molto.

Altri motivi includono la privacy, il mantenimento dei dati sensibili localmente anziché inviarli alla nuvola, e naturalmente la connettività, che in assenza rende l’inferenza nella nuvola inutile. Le complesse reti neurali profonde che guidano l’intelligenza artificiale richiedono molta potenza di calcolo per funzionare, utilizzano molta memoria e consumano molta energia, quindi le soluzioni di intelligenza artificiale sono state costrette a utilizzare la nuvola. Quindi, per uscire dalla nuvola e far funzionare l’intelligenza artificiale localmente ai bordi, ad esempio in un veicolo o in un drone, è necessario trovare un modo per ridurre le dimensioni e il profilo di potenza del modello, consentendo di eseguirlo direttamente sull’hardware – il dispositivo – con molte meno risorse. È importante superare questa barriera per portare l’intelligenza artificiale su molti più dispositivi che servono le persone ogni giorno. È qui che entra in gioco Deeplite.

Puoi dirci cosa è specificamente Deeplite Neutrino?

La nostra piattaforma Neutrino trasforma l’intelligenza artificiale, in particolare le reti neurali profonde o DNN, in un nuovo fattore di forma che è più piccolo, più veloce e meno consumatore di energia rispetto alla sua forma originale. Con Deeplite Neutrino, i team di intelligenza artificiale possono concentrarsi sull’addestramento dei loro modelli per l’accuratezza, ovvero quanto spesso la decisione è corretta, e utilizzare la nostra piattaforma per ottimizzare il modello di intelligenza artificiale in modo che possa essere distribuito su hardware limitato ai bordi. Deeplite Neutrino fa ciò senza compromettere l’accuratezza originale dell’intelligenza artificiale. In sostanza, prendiamo i grandi modelli di intelligenza artificiale e li rendiamo più piccoli, più veloci e più efficienti in termini di energia. L’obiettivo finale è quello di portare l’intelligenza artificiale fuori dal laboratorio e nel mondo reale, nelle cose che utilizziamo ogni giorno.

Come fa Deeplite Neutrino a rendere l’intelligenza artificiale più efficiente, più veloce, più piccola e più potente senza compromettere l’accuratezza del modello originale?

Utilizziamo un approccio di esplorazione dello spazio di progettazione multi-obiettivo. Utilizziamo il modello originale come un tipo di “modello insegnante” e poi esploriamo l’architettura del modello alla ricerca del miglior “modello studente” che soddisfi i vincoli di progettazione specificati dall’utente di Deeplite per ottimizzare automaticamente i modelli di intelligenza artificiale e renderli significativamente più veloci, più piccoli e più efficienti in termini di energia senza sacrificare le prestazioni.

Quali sono alcuni dei principali casi d’uso per l’utilizzo di questo tipo di intelligenza artificiale?

Sebbene non siamo limitati a questo, il nostro focus attuale è sulla visione artificiale e sull’intelligenza artificiale basata sulla percezione. La nostra tecnologia di intelligenza artificiale viene utilizzata in veicoli autonomi, droni, telecamere, telefoni cellulari, sensori e altri dispositivi IoT. Stiamo anche vedendo nuove applicazioni per essa, tra cui uno spazzolino da denti intelligente e una macchina del caffè intelligente. Stiamo anche lavorando con una importante azienda di giocattoli internazionale che la utilizza per lo sviluppo di giochi. Ciò che è incredibilmente emozionante e gratificante è la diversità di applicazioni che stiamo vedendo emergere sul mercato, dove possiamo aiutare a farle vivere.

Quali sono le tue opinioni sull’apprendimento federato e come impatterà sul futuro dell’apprendimento automatico?

L’addestramento dei modelli richiede molti dati e molta potenza di calcolo. Maggiore è la diversità dei casi d’uso, maggiori sono i dati richiesti e maggiore è il tempo di calcolo necessario per addestrare il modello a un livello di accuratezza soddisfacente. Con l’apprendimento federato, l’addestramento è orchestrato ai bordi in ogni dispositivo in base alle condizioni locali dei dati. Ciò può rendere l’addestramento più efficiente (perché addestrare per un attraversamento di canguro sulla strada in Alaska) e anche è una grande vittoria per la privacy, poiché i dati di addestramento – ad esempio, il viso di qualcuno – non vengono inviati a un server centrale.

Considerato che il nostro processo di ottimizzazione coinvolge ciò che chiamiamo un “ciclo di addestramento” per preservare l’accuratezza del modello ottimizzato, il nostro obiettivo finale sarebbe quello di far parte del processo di addestramento iniziale anziché come seconda passata. Al momento, questo è aspirazionale, ma fa parte del nostro obiettivo a lungo termine.

Come startup, come attiri il talento e il potere cerebrale necessari?

È una grande sfida attirare il talento giusto oggi – ci sono troppo poche persone là fuori e la concorrenza per reclutare è alta. Il nostro team è fantastico. Sono un magnete per il talento. I nostri potenziali assunti parlano e si incontrano con il nostro team. Una volta che vedono il livello delle persone in Deeplite, vogliono essere qui. Come startup, offriamo una grande cultura e l’opportunità di lavorare su qualcosa di nuovo e emergente che può essere un fattore di cambiamento per molte industrie e prodotti diversi. Credo che questa opportunità, insieme al team, sia la chiave per attirare i migliori talenti. Siamo anche strategicamente posizionati in due importanti hub di intelligenza artificiale nordamericani, Montreal e Toronto, il che aiuta. Come azienda canadese, sfruttiamo il programma di Global Talent Stream del governo e possiamo reclutare in tutto il mondo, sponsorizzare nuove assunzioni e accelerare il loro inserimento in Canada.

Hai qualche consiglio per altri imprenditori nel settore dell’intelligenza artificiale?

Ciò va al di là dell’intelligenza artificiale, ma come imprenditore seriale, ho imparato quanto sia importante avere il sostegno della famiglia, perché la decisione di essere un imprenditore non è una decisione individuale – colpisce tutti – coniugi e figli inclusi. Tutti sono parte del viaggio con te e tutti fanno sacrifici. Devi riconoscere e apprezzare ciò e questo è il modo in cui le famiglie possono rimanere insieme durante il viaggio.

C’è qualcos’altro che vorresti condividere su Deeplite?

Uno degli aspetti unici di Deeplite è il nostro team di co-fondatori. Davis ha poco più di 25 anni e è estremamente intelligente e energico. È sicuramente un esperto di dominio in ciò che facciamo. Ehsan è un immigrato iraniano con un dottorato di ricerca e, come ho menzionato in precedenza, è il vero cervello dietro la nostra proprietà intellettuale. E io sono un veterano di oltre 50 anni che ha costruito aziende in precedenza. I tre noi siamo una combinazione interessante che porta diversi punti di forza e esperienze al tavolo. Sono molto grato di avere così grandi partner e di essere circondato da un team così grande.

Grazie per la grande intervista, ho aspettative per seguire i progressi di Deeplite e sarà un’azienda che sarà sul mio radar. I lettori che desiderano saperne di più possono visitare Deeplite.