Entrevistas
Ludovic Larzul, Fundador y CEO de Mipsology – Serie de Entrevistas
Añade Unite.AI a tus fuentes preferidas en Google
Ludovic Larzul es el fundador y CEO de Mipsology, una startup innovadora que se centra en la aceleración de estado de la técnica para la inferencia de aprendizaje profundo. Han desarrollado una tecnología para acelerar los cálculos de las redes neuronales de inferencia y ocultar el acelerador de hardware a los usuarios de IA. El Zebra de Mipsology es el primer acelerador comercial que encapsula dicha tecnología para proporcionar un alto rendimiento y facilidad de uso.
¿Qué te interesó por primera vez en la IA y los microchips?
Trabajé en el diseño de un tipo específico de supercomputadora durante unos 20 años con mi anterior empresa EVE, antes de que fuera adquirida por Synopsys en 2012. Esas computadoras, también llamadas emuladores de ASIC, se utilizan en muchas empresas que diseñan ASIC en todo el mundo. Me gustó la complejidad y diversidad de ese trabajo. Para tener éxito, hay que (a) entender la electrónica, el software, los algoritmos complejos, cómo diseñan las personas los chips y cómo asegurarse de que funcionen bien, la arquitectura del chip, la potencia y más tecnología profunda, (b) predecir correctamente las necesidades de los clientes unos años por adelantado, (c) innovar continuamente y (d) como startup, derrotar a la competencia con muchos menos recursos. Después de 20 años de éxito, estaba buscando un nuevo desafío. Fue entonces cuando la IA comenzó a regresar a la escena. AlexNet había dado un gran salto hacia la comprensión de las imágenes (y en retrospectiva, todavía estaba en su infancia). El aprendizaje profundo era completamente nuevo, pero prometedor (¿Quién recuerda cuando se necesitaban días para obtener un resultado en una red neuronal simple?). Me pareció bastante “divertido”, pero reconocí que había muchos desafíos.
¿Cuál fue la inspiración detrás del lanzamiento de Mipsology?
No sé si utilizaría la palabra “inspiración”. Al principio fue más como: “¿Podemos hacer algo que sea diferente y mejor?” Comenzó con suposiciones sobre lo que a la gente de la IA le gustaría y haría, y los siguientes años se dedicaron a encontrar soluciones cada vez mejores basadas en eso. Creo que más que inspiración, diría que las personas con las que trabajo les gusta ser las mejores en lo que crean, con una actitud positiva de competencia. Eso hace un equipo fuerte que puede resolver problemas que otros no pueden resolver adecuadamente.
Mipsology utiliza tarjetas FPGA en lugar de GPU. ¿Puedes describir qué son las FPGA?
Las FPGA son componentes electrónicos que se pueden programar a nivel de hardware. Puedes imaginarlo como un conjunto de Legos — unos pocos millones de ellos. Cada bloque pequeño realiza una operación simple como mantener un valor, o operaciones ligeramente más complejas como la adición. Al agrupar todos estos bloques, es posible crear un comportamiento específico después de que se fabrica el chip. Esto es lo contrario de las GPU y casi todos los demás chips, que están diseñados para una función específica y no se pueden cambiar después.
Algunos, como las CPU y las GPU, se pueden programar, pero no son tan paralelos como las FPGA. En cualquier momento dado, una FPGA realiza un par de millones de operaciones simples. Y esto puede ocurrir seiscientos o setecientos millones de veces por segundo. Debido a que son programables, lo que hacen se puede cambiar en cualquier momento para adaptarse a diferentes problemas, por lo que el poder computacional extraordinario puede ser efectivo. Las FPGA ya están casi en todas partes, incluyendo las estaciones base de los teléfonos móviles, las redes, los satélites, los coches, etc. La gente no las conoce bien, aunque, porque no son tan visibles como una CPU como la que hay en tu portátil.
¿Qué hace que estas tarjetas FPGA sean la solución superior a las GPU más populares?
Las FPGA son superiores en muchos aspectos. Centrémonos en un par de aspectos importantes.
Las GPU están diseñadas para renderizar imágenes, principalmente para juegos. Se han encontrado para coincidir bien con algunos cálculos en la IA debido a la similitud de las operaciones. Pero siguen siendo principalmente dedicadas a los juegos, lo que significa que vienen con restricciones que no se ajustan bien a las redes neuronales.
La programación también está limitada a las instrucciones que se decidieron dos o tres años antes de que estuvieran disponibles. El problema es que las redes neuronales están avanzando más rápidamente que el diseño de los ASIC, y las GPU son ASIC. Así que es como tratar de predecir el futuro: no es simple estar en lo correcto. Puedes ver tendencias, pero los detalles son lo que realmente impactan los resultados, como el rendimiento. En contraste, debido a que las FPGA son programables a nivel de hardware, podemos mantenernos más fácilmente al día con el progreso de la IA. Esto nos permite ofrecer un mejor producto con un mayor rendimiento, y satisfacer las necesidades del cliente sin tener que esperar a la próxima generación de silicio.
Además, las GPU están diseñadas para ser productos de consumo. Su vida útil es intencionalmente corta, porque las empresas que diseñan las GPU quieren vender nuevas cada unos años a los jugadores. Esto no funciona bien en los sistemas electrónicos que necesitan ser confiables durante muchos años. Las FPGA están diseñadas para ser robustas y utilizadas las 24 horas del día, los 7 días de la semana, durante muchos años.
Otras ventajas bien conocidas de las FPGA incluyen:
- Hay muchas opciones que pueden caber en áreas específicas como la redes o el procesamiento de video
- Funcionan tan bien en los centros de datos como en el borde o en sistemas integrados
- No requieren un enfriamiento específico (mucho menos enfriamiento por agua como las grandes GPU)
Una gran desventaja es que las FPGA son difíciles de programar. Requiere conocimientos específicos. Aunque las empresas que venden FPGA han puesto un gran esfuerzo en reducir la brecha de complejidad, todavía no es tan simple como una CPU. En realidad, las GPU no son simples tampoco. Pero el software que oculta su programación para la IA hace que ese conocimiento sea innecesario. Ese es el problema que Mipsology es el primero en resolver: eliminar la necesidad de programar o tener conocimiento de FPGA para la computación de IA.
¿Hay alguna limitación actual en las tarjetas FPGA?
Algunas tarjetas FPGA son como algunas tarjetas GPU. Pueden conectarse a las ranuras PCIe de una computadora. Una ventaja bien conocida, además de la vida útil que mencioné antes, es que el consumo de energía es típicamente menor que el de las GPU. Otra menos conocida es que hay una selección más grande de tarjetas FPGA que de tarjetas GPU. Hay más FPGA para más mercados, lo que lleva a más tarjetas que caben en diferentes áreas de los mercados. Esto simplemente significa que hay más posibilidades para calcular las redes neuronales en todas partes a un costo más bajo. Las GPU son más limitadas; caben en los centros de datos, pero no en mucho más.
El Zebra de Mipsology es el primer acelerador comercial que encapsula tarjetas FPGA para proporcionar un alto rendimiento y facilidad de uso. ¿Puedes describir qué es Zebra?
Para aquellos que están familiarizados con la IA y las GPU, la descripción más sencilla es que Zebra es para FPGA lo que Cuda/CuDNN es para GPU. Es una pila de software que oculta completamente la FPGA detrás de los marcos habituales como PyTorch o TensorFlow. Nos centramos principalmente en la inferencia para imágenes y videos. Zebra comienza con una red neuronal que se entrenó típicamente en punto flotante, y sin ningún esfuerzo manual del usuario o herramienta propietaria, hace que se ejecute en cualquier tarjeta basada en FPGA. Es tan simple como: conectar la tarjeta FPGA, cargar el controlador, iniciar el entorno de Zebra y lanzar la misma aplicación de inferencia que la que se ejecuta en las CPU o las GPU. Tenemos nuestra propia cuantización que mantiene la precisión, y el rendimiento es fuera de la caja. No hay herramienta propietaria que el usuario deba aprender, y no toma horas de tiempo de ingeniería para obtener un alto rendimiento o una baja latencia. Esto significa simplemente transiciones rápidas, lo que también reduce el costo y el tiempo de comercialización.
¿Cuáles son los diferentes tipos de aplicaciones para las que Zebra está mejor diseñado?
Zebra es un motor de aceleración genérico, por lo que puede acelerar el cálculo para cualquier aplicación que necesite calcular las redes neuronales, con un enfoque principal en las imágenes y los videos porque las necesidades de cálculo son más grandes para este tipo de datos. Hemos recibido solicitudes de muy diferentes mercados, pero todos son similares cuando se trata de calcular las redes neuronales. Todos ellos requieren típicamente clasificación, segmentación, super resolución, posición del cuerpo, etc.
Como Zebra se ejecuta en las FPGA, se puede utilizar cualquier tipo de tarjeta. Algunas tienen un alto rendimiento y se utilizan típicamente en los centros de datos. Otras son más adecuadas para su uso en el borde o en sistemas integrados. Nuestra visión es que, si una FPGA puede caber, los usuarios pueden utilizar Zebra para acelerar sus cálculos de redes neuronales de inmediato. Y si se utilizan GPU o CPU, Zebra puede reemplazarlas y reducir los costos de la infraestructura de IA. La mayoría de las empresas con las que hablamos están teniendo problemas similares: podrían implementar más aplicaciones basadas en IA, pero el costo es lo que les limita.
¿Cuál es el proceso para una empresa que desee utilizar Zebra?
Simplemente háganoslo saber en support@mipsology.com y nos encargaremos de que comiencen.
¿Hay algo más que te gustaría compartir sobre Mipsology?
Estamos muy animados con la retroalimentación que recibimos de la comunidad de IA sobre nuestra solución Zebra. En particular, nos dicen que esto es probablemente el mejor acelerador del mercado. Después de solo unos meses, seguimos agregando a un ecosistema en crecimiento de socios interesados, incluyendo Xilinx, Dell, Western Digital (WDC ), Avnet, TUL y Advantech, por nombrar algunos.
Me gustó mucho aprender sobre esta tecnología innovadora. Los lectores que deseen aprender más deben visitar Mipsology.
