Krishna Rangasayee, Fundador y CEO de SiMa.ai – Serie de Entrevistas

Krishna Rangasayee es Fundador y CEO de SiMa.ai. Anteriormente, Krishna fue COO de Groq y trabajó en Xilinx durante 18 años, donde ocupó varios cargos de liderazgo senior, incluyendo Vicepresidente Senior y Gerente General del negocio en general, y Vicepresidente Ejecutivo de ventas globales. Mientras estuvo en Xilinx, Krishna hizo crecer el negocio a $2.5 mil millones en ingresos con una margen de beneficio bruto del 70% al mismo tiempo que creaba la base para 10 trimestres consecutivos de crecimiento secuencial sostenido y expansión de la participación de mercado. Antes de Xilinx, ocupó varios cargos de ingeniería y negocios en Altera Corporation y Cypress Semiconductor. Es titular de más de 25 patentes internacionales y ha sido miembro de la junta directiva de empresas públicas y privadas.

¿Qué te atrajo inicialmente a la inteligencia artificial?

He sido estudiante de los mercados de la nube y el borde embebido durante los últimos 20 años. He visto mucha innovación en la nube, pero muy poca hacia la habilitación de la inteligencia artificial en el borde. Es un mercado masivamente subatendido de más de $40 mil millones que ha sobrevivido con tecnología antigua durante décadas.

Así que emprendimos algo que nadie había hecho antes: habilitar la Inteligencia Artificial sin Esfuerzo para el borde embebido.

¿Podrías compartir la historia de origen detrás de SiMa?

En mi carrera de más de 20 años, nunca había presenciado innovación arquitectónica en el mercado del borde embebido. Sin embargo, la necesidad de inteligencia artificial en el borde embebido aumentó en la nube y los elementos de IoT. Esto demuestra que, aunque las empresas están exigiendo inteligencia artificial en el borde, la tecnología para hacer que esto sea una realidad es demasiado anticuada para funcionar realmente.

Por lo tanto, antes de que SiMa.ai comenzara a diseñar, era importante entender los mayores desafíos de nuestros clientes. Sin embargo, lograr que ellos dedicaran tiempo a una startup en etapa inicial para obtener retroalimentación significativa y honesta era un desafío en sí mismo. Afortunadamente, el equipo y yo pudimos aprovechar nuestra red de relaciones pasadas para solidificar la visión de SiMa.ai con las empresas objetivo adecuadas.

Nos reunimos con más de 30 clientes y les hicimos dos preguntas básicas: “¿Cuáles son los mayores desafíos para escalar la inteligencia artificial al borde embebido?” y “¿Cómo podemos ayudar?” Después de muchas discusiones sobre cómo querían reformar la industria y escuchar sus desafíos para lograrlo, obtuvimos una comprensión profunda de sus puntos de dolor y desarrollamos ideas sobre cómo solucionarlos. Estos incluyen:

• Obtener los beneficios de la inteligencia artificial sin una curva de aprendizaje pronunciada.
• Preservar las aplicaciones heredadas junto con la implementación de inteligencia artificial a prueba de futuro.
• Trabajar con una solución de alto rendimiento, bajo consumo de energía en un entorno de usuario amigable.

Rápidamente, nos dimos cuenta de que necesitábamos ofrecer un enfoque de mitigación de riesgos para ayudar a nuestros clientes. Como startup, teníamos que traer algo tan convincente y diferenciado de todos los demás. Ninguna otra empresa estaba abordando esta necesidad clara, así que este fue el camino que elegimos tomar.

SiMa.ai logró este logro raro al diseñar desde cero la primera plataforma de sistema de circuito integrado de aprendizaje automático (MLSoC) centrada en software. Con su combinación de silicio y software, ahora se puede agregar inteligencia artificial a aplicaciones de borde embebido con solo pulsar un botón.

¿Podrías compartir tu visión de cómo la inteligencia artificial reformará todo para estar en el borde?

La mayoría de las empresas de inteligencia artificial se centran en mercados de alto crecimiento como la nube y la conducción autónoma. Sin embargo, son la robótica, los drones, el comercio minorista sin fricciones, las ciudades inteligentes y la automatización industrial las que demandan la última tecnología de inteligencia artificial para mejorar la eficiencia y reducir los costos.

Estos sectores en crecimiento, junto con las frustraciones actuales al implementar la inteligencia artificial en el borde embebido, son la razón por la que creemos que es el momento oportuno para aprovechar esta oportunidad. SiMa.ai se acerca a este problema de una manera completamente diferente; queremos hacer que la adopción generalizada sea una realidad.

¿Qué ha impedido hasta ahora la escalabilidad de la inteligencia artificial en el borde?

La inteligencia artificial debe integrarse fácilmente con los sistemas heredados. Las empresas Fortune 500 y las startups por igual han invertido mucho en sus plataformas de tecnología actuales, pero la mayoría de ellas no reescribirán todo su código o reformarán completamente su infraestructura subyacente para integrar la inteligencia artificial. Para mitigar el riesgo mientras se aprovechan los beneficios de la inteligencia artificial, es necesario que haya tecnología que permita la integración sin problemas del código heredado junto con la inteligencia artificial en sus sistemas. Esto crea un camino fácil para desarrollar y desplegar estos sistemas para abordar las necesidades de la aplicación mientras se aprovechan los beneficios de la inteligencia que aporta la inteligencia artificial.

No hay grandes sockets, no hay un solo cliente grande que mueva la aguja, así que no tuvimos más remedio que poder apoyar a más de mil clientes para realmente escalar la inteligencia artificial y realmente llevar la experiencia a ellos. Descubrimos que estos clientes tienen el deseo de inteligencia artificial, pero no tienen la capacidad de obtener la experiencia de aprendizaje porque les falta la capacidad interna para construir y no tienen la base de conocimientos fundamentales. Así que quieren implementar la experiencia de inteligencia artificial, pero sin la curva de aprendizaje del borde embebido y lo que realmente se reduce a que debemos hacer que esta experiencia de inteligencia artificial sea muy esfuerzo para los clientes.

¿Cómo es que SiMA puede disminuir tan dramáticamente el consumo de energía en comparación con los competidores?

Nuestro MLSoC es el motor subyacente que realmente permite todo, es importante diferenciar que no estamos construyendo un acelerador de inteligencia artificial. De los 2 mil millones de dólares invertidos en startups de SoC de inteligencia artificial de borde, la respuesta de la industria a la innovación ha sido un bloque de acelerador de inteligencia artificial como núcleo o chip. Lo que la gente no reconoce es que, para migrar a las personas de un SoC clásico a un entorno de inteligencia artificial, necesitas un entorno de MLSoC para que las personas puedan ejecutar código heredado desde el primer día y, de manera gradual y con mitigación de riesgos, desplegar su capacidad en un componente de inteligencia artificial o, un día, están haciendo segmentación semántica utilizando un enfoque de visión clásica y al día siguiente pueden hacerlo utilizando un enfoque de inteligencia artificial, pero de una u otra manera, permitimos a nuestros clientes la oportunidad de desplegar y particionar su problema como lo consideren adecuado utilizando visión clásica, procesamiento de sistemas clásico ARM o un cálculo heterogéneo de inteligencia artificial. Para nosotros, la inteligencia artificial no es un producto final y, por lo tanto, un acelerador de inteligencia artificial no tendrá éxito por sí solo; la inteligencia artificial es una capacidad y es una herramienta adicional a las demás herramientas que permitimos a nuestros clientes, para que, utilizando una metodología de pulsar un botón, puedan iterar el diseño de preprocesamiento, postprocesamiento, análisis y aceleración de inteligencia artificial, todo en una sola plataforma, mientras entregan el rendimiento de la aplicación del sistema más alto y el consumo de energía más bajo.

¿Cuáles son algunas de las prioridades del mercado principales para SiMa?

Hemos identificado varios mercados clave, algunos de los cuales son más rápidos en términos de ingresos que otros. El tiempo más rápido para generar ingresos es la visión inteligente, la robótica, la industria 4.0 y los drones. Los mercados que tardan un poco más debido a las calificaciones y los requisitos estándar son las aplicaciones automotrices y de atención médica. Hemos iniciado trabajos en todos los anteriores, colaborando con los principales jugadores de cada categoría.

La captura de imágenes generalmente ha estado en el borde, con análisis en la nube. ¿Cuáles son los beneficios de cambiar esta estrategia de despliegue?

Las aplicaciones de borde necesitan que el procesamiento se realice localmente; para muchas aplicaciones, no hay suficiente tiempo para que los datos vayan a la nube y regresen. La capacidad de inteligencia artificial es fundamental en las aplicaciones de borde porque las decisiones deben tomarse en tiempo real, por ejemplo, en aplicaciones automotrices y robótica donde las decisiones deben procesarse rápidamente y de manera eficiente.

¿Por qué las empresas deben considerar las soluciones de SiMa en lugar de las de sus competidores?

Nuestra metodología única de enfoque centrado en software, empaquetada con una solución de hardware completa. Nos hemos centrado en una solución completa que aborda lo que nos gusta llamar Any, 10x y Pushbutton como el núcleo de los problemas de los clientes. La tesis original para la empresa es que pulsas un botón y ¡obtienes un ¡WOW! La experiencia realmente necesita ser abstracta hasta el punto en que quieras que miles de desarrolladores la utilicen, pero no quieras que todos sean genios de la inteligencia artificial, no quieras que todos estén ajustando capa por capa, codificando a mano para obtener el rendimiento deseado, quieras que se mantengan en el nivel de abstracción más alto y desplieguen la inteligencia artificial sin esfuerzo de manera significativa. Así que la tesis detrás de por qué nos aferramos a esto fue una correlación muy fuerte con la escalabilidad, ya que realmente necesita ser una experiencia de inteligencia artificial sin esfuerzo y no requiere mucha ayuda ni servicios de asistencia que se interpongan en el camino de la escalabilidad.

Nos pasamos el primer año visitando a más de 50 clientes en todo el mundo, tratando de entender si todos quieren inteligencia artificial pero no la están desplegando. ¿Por qué? ¿Qué se interpone en el camino de una implementación significativa de la inteligencia artificial y/o qué se requiere para realmente impulsar la inteligencia artificial a una implementación a escala? Y realmente se reduce a tres pilares clave de comprensión, el primero siendo Any. Como empresa, debemos resolver problemas dados la amplitud de los clientes y la amplitud de los modelos de uso, junto con la disparidad entre las redes de inteligencia artificial, los sensores, la tasa de cuadros, la resolución. Es un mundo muy dispar, donde cada mercado tiene diseños de frontend completamente diferentes, y si solo tomamos una rebanada estrecha de ello, no podemos construir una empresa de manera económica; realmente debemos crear un embudo que sea capaz de aceptar una amplia gama de espacios de aplicación, casi como pensar en el embudo como la Isla Ellis de todo lo relacionado con la visión por computadora. Las personas podrían estar en Tensorflow, podrían estar utilizando Python, podrían estar utilizando una cámara con sensor de 1080 de resolución o podría ser un sensor de 4K de resolución, realmente no importa si podemos homogeneizar y traerlos a todos, y si no tienes el frontend así, entonces no tienes una empresa escalable.

El segundo pilar es 10x, lo que significa que también hay un problema de por qué los clientes no pueden desplegar y crear plataformas derivadas porque todo es volver a empezar desde cero para construir un nuevo modelo o pipeline. El segundo desafío es, sin duda, que como startup, debemos traer algo muy emocionante, muy convincente, donde cualquier persona esté dispuesta a asumir el riesgo, incluso si eres una startup, basado en una métrica de rendimiento 10x. El único mérito técnico que nos centramos en solucionar en problemas de visión por computadora es la métrica de cuadros por segundo por vatio. Necesitamos ser ilógicamente mejores que cualquier otro, para que podamos mantenernos una o dos generaciones por delante, así que tomamos esto como parte de nuestro enfoque centrado en software. Este enfoque creó una plataforma de cómputo heterogéneo, para que las personas puedan solucionar toda la canalización de visión por computadora en un solo chip y entregar 10x en comparación con cualquier otra solución. El tercer pilar de Pushbutton está impulsado por la necesidad de escalar la inteligencia artificial en el borde embebido de manera significativa. Las cadenas de herramientas de inteligencia artificial son muy incipientes, a menudo rotas, ninguna empresa ha construido realmente una experiencia de software de inteligencia artificial de clase mundial. Reconocimos además que, para el mercado embebido, es importante ocultar la complejidad del código embebido, mientras se les da un proceso iterativo para regresar rápidamente y optimizar sus plataformas. Los clientes realmente necesitan una experiencia de pulsar un botón que les dé una respuesta o solución en minutos en lugar de en meses para lograr la inteligencia artificial sin esfuerzo. Any, 10x y Pushbutton son las propuestas de valor clave que se volvieron realmente claras para nosotros, que si hacemos un trabajo excelente en estas tres cosas, absolutamente moveremos la aguja en la inteligencia artificial sin esfuerzo y en la escalabilidad de la inteligencia artificial en el borde embebido.

¿Hay algo más que te gustaría compartir sobre SiMa?

En el desarrollo temprano de la plataforma MLSoC, estábamos empujando los límites de la tecnología y la arquitectura. Estábamos apostando por una plataforma centrada en software, que era un enfoque completamente nuevo, que iba en contra de la sabiduría convencional. El viaje para descubrirlo y luego implementarlo fue difícil.

Una victoria monumental reciente valida la fortaleza y la singularidad de la tecnología que hemos construido. SiMa.ai logró un hito importante en abril de 2023 al superar al líder establecido en nuestro debut en el rendimiento de la prueba de benchmark MLPerf en la categoría de energía de borde cerrada. Estamos orgullosos de ser la primera startup en participar y lograr resultados ganadores en el benchmark de MLPerf más popular y reconocido de la industria para Resnet-50 en cuanto a nuestro rendimiento y potencia.

Comenzamos con aspiraciones ambiciosas y hasta hoy, estoy orgulloso de decir que esa visión ha permanecido invariable. Nuestro MLSoC fue diseñado a propósito para ir en contra de las normas de la industria para entregar una solución revolucionaria de inteligencia artificial al mercado del borde embebido.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar SiMa.ai.