Nick Romano, Co-Fundador y CEO de Deeplite – Serie de Entrevistas

Nick Romano es el Co-Fundador y CEO de Deeplite una solución de optimización impulsada por IA para hacer que las Redes Neuronales Profundas sean más rápidas, más pequeñas y más eficientes en términos de energía, desde la nube hasta la computación de borde.

Nick es un empresario serial y un CEO experimentado que ha entregado resultados exitosos durante más de 20 años. Recientemente, cofundó y escaló una plataforma de SaaS empresarial con ingresos recurrentes de varios millones de dólares y más de 100 empleados. Ha sido honrado por la Universidad de McMaster de Ingeniería como uno de los 150 mejores exalumnos.

¿Qué te atrajo inicialmente a la IA?

He estado en el espacio tecnológico durante más de 25 años y he visto muchos ciclos y tendencias, algunas de las cuales son hype y otras son reales. La IA es un campo dinámico y en crecimiento, y lo que me gusta de ella es cómo la tecnología puede ser utilizada de verdad en muchas formas diferentes para mejorar cómo las personas viven y trabajan. Quería ser parte de este movimiento. Sin embargo, hay desafíos para llevar la IA a entornos del mundo real. Se requiere mucha capacidad de cómputo y energía para que la IA funcione correctamente, es intensiva en términos de cómputo. Esto está bien en un laboratorio, pero si es demasiado grande o demasiado lenta o consume mucha potencia, es difícil llevar la IA a escenarios del mundo real. Esa es nuestra misión y la verdadera atracción para mí, habilitar la IA para la vida cotidiana.

¿Puedes compartir la historia de génesis detrás de Deeplite?

La idea de Deeplite comenzó en el incubador TandemLaunch en Montreal. Davis Sawyer, quien ahora es nuestro director de productos y un experto en dominio de IA, y Ehsan Saboori, quien ahora es nuestro CTO y es realmente el cerebro detrás de nuestra propiedad intelectual, comenzaron a desarrollar la tecnología allí. Me uní a ellos en 2019, trayendo mis muchos años de liderazgo tecnológico y escalando empresas, y lanzamos oficialmente Deeplite como empresa a mediados de 2019. Ahora tenemos más de 20 empleados con oficinas en Montreal y Toronto, y anunciamos una ronda de financiación de $6 millones en abril de 2021.

¿Por qué es importante incrustar el procesamiento de IA directamente en hardware en lugar de la nube en ciertos casos de uso como vehículos autónomos y drones?

Hay muchas razones por las que deseas ejecutar tu inferencia, el proceso de toma de decisiones de IA, en el punto de captura de datos en lugar de la nube. Probablemente la razón más grande en aplicaciones críticas como vehículos autónomos es lo que se llama latencia, que básicamente significa cuánto tiempo tarda la IA en tomar una decisión. Si necesitas capturar los datos, enviarlos a la nube para inferencia y luego regresar los resultados, eso obviamente tomará mucho más tiempo que hacerlo localmente en tiempo real. En la conducción autónoma, los milisegundos importan mucho.

Otras razones incluyen la privacidad, mantener los datos sensibles locales en lugar de enviarlos a la nube, y por supuesto, la conectividad, que en su ausencia hace que la inferencia en la nube sea inútil. Las redes neuronales profundas complejas que impulsan la IA requieren mucha potencia de cómputo para ejecutarse, utilizan mucha memoria y consumen mucha potencia, por lo que las soluciones de IA se vieron obligadas a utilizar la nube. Así que, para salir de la nube y hacer que la IA se ejecute localmente en el borde en un vehículo o un dron, por ejemplo, necesitas encontrar una forma de reducir el tamaño y el perfil de potencia general del modelo, lo que permite que se ejecute directamente en el hardware, el dispositivo, con muchísimos menos recursos. Es importante romper esta barrera para llevar la IA a muchos más dispositivos que sirven a las personas todos los días. Eso es donde entra Deeplite.

¿Puedes decirnos qué es específicamente Deeplite Neutrino?

Nuestra plataforma Neutrino transforma la IA, específicamente las redes neuronales profundas o DNN, en un nuevo factor de forma que es más pequeño, más rápido y menos consumidor de potencia que su forma original. Con Deeplite Neutrino, los equipos de IA pueden centrarse en entrenar sus modelos para la precisión, cuántas veces la decisión es correcta, y utilizar nuestra plataforma para optimizar el modelo de IA para que se pueda implementar en hardware limitado en el borde. Deeplite Neutrino hace esto sin comprometer la precisión original de la IA. En esencia, tomamos modelos de IA grandes y los hacemos más pequeños, más rápidos y más eficientes en términos de energía. El objetivo final es sacar la IA del laboratorio y llevarla al mundo real en las cosas que usamos todos los días.

¿Cómo es capaz Deeplite Neutrino de hacer que la IA sea más eficiente, más rápida, más pequeña y más poderosa sin comprometer la precisión del modelo original?

Utilizamos un enfoque de exploración de espacio de diseño multi-objetivo. Utilizamos el modelo original como una especie de “modelo maestro” y luego exploramos la arquitectura del modelo en busca del mejor “modelo estudiante” que satisfaga las restricciones de diseño especificadas por el usuario de Deeplite para optimizar automáticamente los modelos de DNN y hacerlos significativamente más rápidos, más pequeños y más eficientes en términos de energía sin sacrificar el rendimiento.

¿Cuáles son algunos de los casos de uso más importantes para utilizar este tipo de IA?

Aunque no estamos limitados a esto, nuestro enfoque actual es en visión por computadora y percepción basada en IA. Nuestra tecnología de IA se está utilizando en vehículos autónomos, drones, cámaras, teléfonos celulares, sensores y otros dispositivos de IoT. También estamos viendo nuevas aplicaciones para ella últimamente, incluyendo un cepillo de dientes inteligente y una cafetera inteligente. Incluso estamos trabajando con una empresa de juguetes líder a nivel internacional que está utilizando nuestra tecnología para el desarrollo de juegos. Lo que es increíblemente emocionante y gratificante sobre lo que hacemos es la diversidad de aplicaciones que estamos viendo que llegan al mercado donde podemos ayudar a que cobren vida.

¿Cuáles son tus opiniones sobre el aprendizaje federado y cómo impactará en el futuro del aprendizaje automático?

El entrenamiento de modelos requiere mucha datos y mucha potencia de cómputo. Cuanto mayor es la diversidad de casos de uso, más datos se requieren y más tiempo de cómputo se necesita para entrenar el modelo a un nivel de precisión satisfactorio. Con el aprendizaje federado, el entrenamiento se orquesta en el borde en cada dispositivo en función de las condiciones de datos locales. Esto puede hacer que el entrenamiento sea más eficiente (¿por qué entrenar para un canguro que cruza la carretera en Alaska) y también es una gran victoria para la privacidad, ya que los datos de entrenamiento, por ejemplo, la cara de alguien, no se envían a un servidor central.

Dado que nuestro proceso de optimización implica lo que llamamos un “bucle de entrenamiento” para preservar la precisión del modelo optimizado, nuestro objetivo final sería tener lo que estamos haciendo como parte del proceso de entrenamiento inicial en lugar de como una segunda pasada. Ahora mismo, esto es aspiracional, pero eso es parte de nuestro objetivo a largo plazo.

¿Cómo atraes el talento y la capacidad cerebral que se necesita como startup?

Es un gran desafío atraer al talento de IA adecuado hoy en día, hay demasiada poca gente allí y la competencia para reclutar es alta. Nuestro equipo es increíble. Son un imán para el talento. Tenemos entrevistas y conversaciones con nuestro equipo para los posibles reclutas. Una vez que ven el nivel de las personas en Deeplite, quieren estar aquí. Como startup, ofrecemos una gran cultura y la oportunidad de trabajar en algo nuevo y emergente que puede ser un cambio de juego para muchas industrias y productos diferentes. Creo que esa oportunidad, junto con el equipo, es la clave para atraer a los mejores talentos. También estamos estratégicamente ubicados en dos de los principales centros de IA de Norteamérica, Montreal y Toronto, lo que nos ayuda. Como empresa canadiense, aprovechamos el programa de Corriente de Talento Global del gobierno, podemos reclutar en cualquier lugar del mundo, patrocinar a los nuevos reclutas y agilizar su incorporación a Canadá.

¿Tienes algún consejo para otros empresarios en el espacio de IA?

Esto va más allá de la IA, pero como empresario repetido, he aprendido lo importante que es tener el apoyo de la familia, porque la decisión de ser empresario no es individual, impacta a todos, incluyendo a cónyuges e hijos. Todos son parte del viaje contigo, y todos hacen sacrificios. Tienes que reconocer y apreciar eso, y esa es la forma en que las familias pueden permanecer unidas a lo largo del viaje.

¿Hay algo más que te gustaría compartir sobre Deeplite?

Uno de los aspectos únicos de Deeplite es nuestros cofundadores. Davis tiene menos de 25 años y es extremadamente inteligente y enérgico. Es definitivamente un experto en dominio en lo que hacemos. Ehsan es un inmigrante iraní con un doctorado y, como se mencionó anteriormente, es el verdadero cerebro detrás de nuestra propiedad intelectual. Y yo soy un veterano de más de 50 años que ha construido empresas antes. Los tres somos una combinación interesante que aportan diferentes fortalezas y experiencias a la mesa. Estoy muy agradecido de tener tales grandes socios y estar rodeado de un equipo tan grande.

Gracias por la gran entrevista, espero seguir el progreso de Deeplite y es una empresa que estará en mi radar. Los lectores que deseen aprender más deben visitar Deeplite.