Omri Geller, CEO y Co-Fundador de Run:AI – Serie de Entrevistas

Omri Geller es el CEO y Co-Fundador de Run:AI

Run:AI virtualiza y acelera el aprendizaje automático mediante la agrupación de recursos de cómputo de GPU para garantizar la visibilidad y, en última instancia, el control sobre la priorización y asignación de recursos. Esto garantiza que los proyectos de aprendizaje automático estén vinculados a los objetivos comerciales y produzcan una mejora significativa en la productividad de los equipos de ciencia de datos, lo que les permite crear y entrenar modelos concurrentes sin limitaciones de recursos.

¿Qué fue lo que inicialmente te atrajo a la Inteligencia Artificial?

Cuando comencé mi licenciatura en Ingeniería Eléctrica y Electrónica en la Universidad de Tel Aviv, descubrí cosas fascinantes sobre la IA que sabía que nos ayudarían a dar el siguiente paso en las posibilidades de cómputo. A partir de ahí, supe que quería invertirme en el espacio de la IA. Ya fuera en investigación de IA o abriendo una empresa que ayudaría a introducir nuevas formas de aplicar la IA en el mundo.

¿Siempre has tenido interés en el hardware de computadoras?

Cuando recibí mi primera computadora con un procesador Intel (INTC ) 486 a los seis o siete años, me interesé de inmediato por descubrir cómo funcionaba todo, aunque probablemente era demasiado joven para entenderlo realmente. Además de los deportes, las computadoras se convirtieron en uno de mis pasatiempos más grandes al crecer. Desde entonces, he construido computadoras, trabajado con ellas y estudiado en el campo debido a la pasión que tenía de niño.

¿Cuál fue la inspiración detrás del lanzamiento de Run:AI?

Sabía desde muy temprano que quería invertirme en el espacio de la IA. En los últimos años, la industria ha experimentado un crecimiento tremendo en la IA, y gran parte de ese crecimiento provino de científicos informáticos como yo y del hardware que podría soportar más aplicaciones. Se hizo más claro para mí que inevitablemente fundaría una empresa, y junto con mi co-fundador Ronen Dar, para seguir innovando y ayudar a traer la IA a más empresas.

Run:AI permite a los especialistas en aprendizaje automático obtener un nuevo tipo de control sobre la asignación de recursos de GPU costosos. ¿Puedes explicar cómo funciona esto?

Lo que debemos entender es que los ingenieros de aprendizaje automático, como los investigadores y científicos de datos, necesitan consumir potencia de cómputo de manera flexible. No solo las computaciones más nuevas son muy intensivas en términos de cómputo, sino que también hay nuevos flujos de trabajo que se utilizan en la ciencia de datos. Estos flujos de trabajo se basan en el hecho de que la ciencia de datos se basa en la experimentación y la ejecución de experimentos.

Para desarrollar nuevas soluciones para ejecutar experimentos más eficientes, necesitamos estudiar estas tendencias de flujo de trabajo a lo largo del tiempo. Por ejemplo: un científico de datos utiliza ocho GPUs en un día, pero al día siguiente puede utilizar cero, o puede utilizar una GPU durante un período prolongado, pero luego necesita utilizar 100 GPUs porque quiere ejecutar 100 experimentos en paralelo. Una vez que entendamos este flujo de trabajo para optimizar la potencia de procesamiento de un usuario, podemos comenzar a escalarlo a varios usuarios.

Con la computación tradicional, se asigna un número específico de GPUs a cada usuario, sin tener en cuenta si están en uso o no. Con este método, a menudo las GPUs costosas permanecen inactivas sin que nadie más pueda acceder a ellas, lo que resulta en un bajo rendimiento de la inversión para la GPU. Entendemos las prioridades financieras de una empresa y ofrecemos soluciones que permiten la asignación dinámica de esos recursos según las necesidades de los usuarios. Al ofrecer un sistema flexible, podemos asignar poder adicional a un usuario específico cuando se requiera, al utilizar las GPUs que no están en uso por parte de otros usuarios, lo que crea un rendimiento máximo de la inversión para los recursos de cómputo de una empresa y acelera la innovación y el tiempo de llegada al mercado de las soluciones de IA.

Una de las funcionalidades de Run:AI es que permite la reducción de los puntos ciegos creados por la asignación estática de GPU. ¿Cómo se logra esto?

Tenemos una herramienta que nos proporciona visibilidad completa en el clúster de recursos. Al utilizar esta herramienta, podemos observar y entender si hay puntos ciegos y luego utilizar esas GPUs inactivas para los usuarios que necesitan la asignación. La misma herramienta que proporciona visibilidad en el clúster y control sobre el clúster también garantiza que esos puntos ciegos se mitiguen.

En un discurso reciente, destacaste algunas distinciones entre los flujos de trabajo de creación y capacitación, ¿puedes explicar cómo Run:AI utiliza un mecanismo de administración de cola de GPU para asignar la gestión de recursos para ambos?

Un modelo de IA se crea en dos etapas. Primero, hay la etapa de creación, donde un científico de datos escribe el código para crear el modelo real, de la misma manera que un ingeniero construiría un coche. La segunda es la etapa de capacitación, donde el modelo completado comienza a aprender y se “capacita” en cómo optimizar una tarea específica. Similar a cuando alguien aprende a conducir el coche después de que se ha ensamblado.

Para crear el modelo en sí, no se necesita mucha potencia de cómputo. Sin embargo, eventualmente, puede necesitar una potencia de procesamiento más fuerte para comenzar pruebas internas más pequeñas. Por ejemplo, la forma en que un ingeniero eventualmente querría probar el motor antes de instalarlo. Debido a estas necesidades distintas durante cada etapa, Run.AI permite la asignación de GPU independientemente de si están creando o capacitando el modelo, sin embargo, como se mencionó anteriormente, se requiere un uso más alto de GPU para la capacitación del modelo, mientras que se requiere menos para la creación.

¿Cuánto tiempo de cómputo bruto/recursos pueden ahorrarse los desarrolladores de IA que deseen integrar Run.AI en sus sistemas?

Nuestras soluciones en Run.ai pueden mejorar la digitalización de los recursos, aproximadamente dos a tres veces, lo que significa 2-3 veces mayor productividad general.

Gracias por la entrevista, los lectores que deseen obtener más información pueden visitar Run:AI.