Nick Romano, Co-Fundador e CEO da Deeplite – Série de Entrevistas

Nick Romano é o Co-Fundador e CEO da Deeplite, uma solução de otimização impulsionada por IA para tornar as Redes Neurais Profundas mais rápidas, menores e eficientes em energia, desde a computação em nuvem até a computação de bordo.

Nick é um empreendedor serial e um CEO bem-sucedido, com mais de 20 anos de experiência em entrega de resultados bem-sucedidos. Recentemente, ele co-fundou e escalou uma plataforma de SaaS empresarial com receitas recorrentes de vários milhões de dólares e mais de 100 funcionários. Ele foi homenageado pela Faculdade de Engenharia da Universidade McMaster como um dos 150 ex-alunos mais destacados.

O que o atraiu inicialmente para a IA?

Estou no espaço tecnológico há mais de 25 anos e vi muitos ciclos e tendências, algumas hype e outras reais. A IA é um campo dinâmico e em crescimento, e o que eu amo sobre isso é como a tecnologia pode ser usada de verdade em muitas maneiras diferentes para melhorar a vida e o trabalho das pessoas. Eu queria fazer parte desse movimento. No entanto, existem desafios para levar a IA para ambientes do mundo real. Isso requer muita capacidade de computação e energia para que a IA funcione corretamente – é computacionalmente intensivo. Isso está bem em um laboratório, mas se for muito grande ou lento ou consumir muito poder, é difícil trazer a IA para cenários do mundo real. Essa é a nossa missão e a verdadeira atração para mim – habilitar a IA para a vida cotidiana.

Pode compartilhar a história por trás da Deeplite?

A ideia da Deeplite começou no incubador TandemLaunch em Montreal. Davis Sawyer, que agora é nosso diretor de produto e um especialista em domínio de IA, e Ehsan Saboori, que agora é nosso CTO e é basicamente o cérebro por trás de nossa propriedade intelectual, começaram a desenvolver a tecnologia lá. Eu me juntei a eles em 2019, trazendo meus muitos anos de liderança tecnológica e escalando empresas para a mesa, e lançamos oficialmente a Deeplite como uma empresa em meados de 2019. Agora temos mais de 20 funcionários com escritórios em Montreal e Toronto, e anunciamos um investimento de US$ 6 milhões em série de sementes em abril de 2021.

Por que é importante incorporar o processamento de IA diretamente no hardware em vez de na nuvem em casos de uso como veículos autônomos e drones?

Existem muitas razões pelas quais você deseja executar sua inferência, o processo de tomada de decisão da IA, no ponto de captura de dados em vez de na nuvem. Provavelmente a maior razão em aplicações críticas de missão, como veículos autônomos, é o que chamamos de latência, que basicamente significa quanto tempo a IA leva para tomar uma decisão. Se você precisar capturar os dados, enviá-los para a nuvem para inferência e, em seguida, retornar os resultados, isso obviamente levará muito mais tempo do que fazer isso localmente em tempo real. No dirigir autônomo, milissegundos importam muito.

Outras razões incluem privacidade, manter dados sensíveis locais em vez de enviá-los para a nuvem e, claro, conectividade, que na sua ausência torna a inferência na nuvem inútil. As redes neurais profundas complexas que impulsionam a IA exigem muito poder de computação para executar, usam muito memória e consomem muito poder, então as soluções de IA foram forçadas a usar a nuvem. Portanto, para sair da nuvem e fazer a IA funcionar localmente no dispositivo – no veículo ou no drone, por exemplo – você precisa encontrar uma maneira de reduzir o tamanho geral e o perfil de energia do modelo, permitindo que ele execute diretamente no hardware com muito menos recursos. É importante romper essa barreira para trazer a IA para muitos dispositivos que servem às pessoas todos os dias. É aí que a Deeplite entra.

Pode nos dizer o que é especificamente a Deeplite Neutrino?

Nossa plataforma Neutrino transforma a IA, especificamente as redes neurais profundas ou DNNs, em um novo fator de forma que é menor, mais rápida e menos consumidora de energia do que sua forma original. Com a Deeplite Neutrino, as equipes de IA podem se concentrar em treinar seus modelos para precisão, ou seja, quão frequentemente a decisão está correta, e usar nossa plataforma para otimizar o modelo de IA para que ele possa ser implantado em hardware restrito na borda. A Deeplite Neutrino faz isso sem comprometer a precisão original da IA. Em essência, pegamos grandes modelos de IA e os tornamos menores, mais rápidos e mais eficientes em energia. O objetivo final é tirar a IA do laboratório e colocá-la no mundo real nas coisas que usamos todos os dias.

Como a Deeplite Neutrino consegue tornar a IA mais eficiente, mais rápida, menor e mais poderosa sem comprometer a precisão do modelo original?

Usamos uma abordagem de exploração de espaço de design de múltiplos objetivos. Usamos o modelo original como um tipo de “modelo de professor” e, em seguida, exploramos a arquitetura do modelo procurando pelo melhor “modelo de aluno” que atende às restrições de design especificadas pelo usuário da Deeplite para otimizar automaticamente os modelos de DNN e torná-los significativamente mais rápidos, menores e mais eficientes em energia sem sacrificar o desempenho.

Quais são alguns dos principais casos de uso para usar esse tipo de IA?

Embora não estejamos limitados a isso, nosso foco atual está em visão computacional e IA baseada em percepção. Nossa tecnologia de IA está sendo usada em veículos autônomos, drones, câmeras, celulares, sensores e outros dispositivos IoT. Também estamos vendo novas aplicações para isso, incluindo uma escova de dentes inteligente e uma cafeteira inteligente. Estamos trabalhando com uma empresa de brinquedos líder internacional que está usando nossa tecnologia para desenvolvimento de jogos. O que é incrivelmente emocionante e gratificante sobre o que fazemos é a diversidade de aplicações que estamos vendo chegar ao mercado, onde podemos ajudar a torná-las vivas.

Quais são suas visões sobre o aprendizado federado e como ele afetará o futuro do aprendizado de máquina?

Treinar modelos requer muitos dados e muito poder de computação. Quanto maior a diversidade de casos de uso, mais dados são necessários e mais tempo de computação é necessário para treinar o modelo para um nível de precisão satisfatório. Com o aprendizado federado, o treinamento é orquestrado na borda em cada dispositivo com base em condições de dados locais. Isso pode tornar o treinamento mais eficiente (por que treinar para um cruzamento de canguru na estrada na Alasca) e também é uma grande vitória para a privacidade, pois os dados de treinamento – por exemplo, o rosto de alguém – não são enviados para um servidor central.

Dado que nosso processo de otimização envolve o que chamamos de “loop de treinamento” para preservar a precisão do modelo otimizado, nosso objetivo final seria ter o que estamos fazendo como parte do processo de treinamento inicial em vez de como uma segunda passagem. No momento, isso é aspiracional, mas essa é parte de nosso objetivo de longo prazo.

Como uma startup, como você atrai o talento e o poder cerebral necessário?

É um grande desafio atrair o talento de IA certo hoje – há muito poucas pessoas lá fora e a concorrência para recrutar é alta. Nossa equipe é incrível. Eles são um ímã por si mesmos para talentos. Temos candidatos em potencial que falam e entrevistam com nossa equipe. Uma vez que veem o calibre das pessoas da Deeplite, eles querem estar aqui. Como uma startup, oferecemos uma ótima cultura e a oportunidade de trabalhar em algo novo e emergente que pode ser um jogo-changer para muitas indústrias e produtos diferentes. Acho que essa oportunidade, junto com a equipe, é a chave para atrairmos talentos de ponta. Também estamos estrategicamente localizados em dois principais hubs de IA da América do Norte, Montreal e Toronto, o que ajuda. Como uma empresa canadense, aproveitamos o programa de Talento Global do governo e podemos recrutar em qualquer lugar do mundo, patrocinar novos contratados e acelerar seu processo de entrada no Canadá.

Você tem algum conselho para outros empreendedores no espaço de IA?

Isso vai além da IA, mas como um empreendedor serial, aprendi o quão importante é ter o apoio da família, porque a decisão de ser um empreendedor não é individual – afeta todos, incluindo cônjuges e filhos. Todos estão parte da jornada com você, e todos fazem sacrifícios. Você precisa reconhecer e apreciar isso, e é assim que as famílias podem permanecer juntas ao longo da jornada.

Há algo mais que você gostaria de compartilhar sobre a Deeplite?

Um dos aspectos únicos da Deeplite é nossos co-fundadores. Davis está em seus anos 20, e é extremamente inteligente e energético. Ele é definitivamente um especialista em domínio no que fazemos. Ehsan é um imigrante iraniano com um PhD, e como mencionado anteriormente, é o verdadeiro cérebro por trás de nossa propriedade intelectual. E eu sou um veterano de 50+ anos que construiu empresas antes. Os três somos uma combinação interessante que traz diferentes forças e experiências para a mesa. Estou muito grato por ter tais grandes parceiros e estar cercado por uma equipe tão incrível.

Obrigado pela grande entrevista, estou ansioso para seguir o progresso da Deeplite e é uma empresa que estará no meu radar. Os leitores que desejam aprender mais devem visitar Deeplite.