Omri Geller, CEO & Co-Founder of Run:AI – Série de Entrevistas

Omri Geller é o CEO e Co-Fundador da Run:AI

A Run:AI virtualiza e acelera a IA ao poolizar recursos de computação de GPU para garantir visibilidade e, em última análise, controle sobre a priorização e alocação de recursos. Isso garante que os projetos de IA sejam mapeados para os objetivos comerciais e produzam uma melhoria significativa na produtividade das equipes de ciência de dados, permitindo que elas construam e treinem modelos concorrentes sem limitações de recursos.

O que foi que inicialmente o atraiu para a Inteligência Artificial?

Quando comecei meu bacharelado em Engenharia Elétrica e Eletrônica na Universidade de Tel Aviv, descobri coisas fascinantes sobre a IA que sabia que ajudariam a levar ao próximo passo nas possibilidades de computação. A partir daí, eu sabia que queria investir em mim mesmo no espaço de IA. Seja em pesquisa de IA ou abrindo uma empresa que ajudaria a introduzir novas maneiras de aplicar a IA ao mundo.

Ele sempre teve interesse em hardware de computador?

Quando recebi meu primeiro computador com processador Intel 486 com seis ou sete anos de idade, fiquei imediatamente interessado em descobrir como tudo funcionava, embora provavelmente fosse muito jovem para realmente entender. Além dos esportes, os computadores se tornaram um dos meus maiores hobbies ao crescer. Desde então, construí computadores, trabalhei com eles e estudei no campo devido à paixão que eu tinha quando era criança.

Qual foi a sua inspiração para lançar a Run:AI?

Eu sabia desde muito cedo que queria investir em mim mesmo no espaço de IA. Nos últimos anos, a indústria viu um crescimento tremendo na IA, e muito desse crescimento veio de cientistas da computação, como eu, e hardware que poderia suportar mais aplicações. Ficou claro para mim que eu inevitavelmente começaria uma empresa – e juntamente com meu co-fundador Ronen Dar – para continuar a inovar e ajudar a trazer a IA para mais empresas de negócios.

A Run:AI permite que especialistas em aprendizado de máquina ganhem um novo tipo de controle sobre a alocação de recursos de GPU caros. Você pode explicar como isso funciona?

O que precisamos entender é que engenheiros de aprendizado de máquina, como pesquisadores e cientistas de dados, precisam consumir poder de computação de forma flexível. Não apenas as novas computações de hoje são muito intensivas em computação, mas também há novos fluxos de trabalho que estão sendo usados na ciência de dados. Esses fluxos de trabalho são baseados no fato de que a ciência de dados é baseada em experimentação e execução de experimentos.

Para desenvolver novas soluções para executar experimentos mais eficientes, precisamos estudar essas tendências de fluxo de trabalho ao longo do tempo. Por exemplo: um cientista de dados usa oito GPUs em um dia, mas no dia seguinte pode usar zero, ou pode usar uma GPU por um longo período de tempo, mas então precisar usar 100 GPUs porque deseja executar 100 experimentos em paralelo. Uma vez que entendemos esse fluxo de trabalho para otimizar o poder de processamento de um usuário, podemos começar a escalá-lo para vários usuários.

Com a computação tradicional, um número específico de GPUs é alocado para cada usuário, não levando em conta se estão em uso ou não. Com esse método, muitas vezes, GPUs caras ficam ociosas sem que ninguém mais possa acessá-las, resultando em baixo ROI para a GPU. Entendemos as prioridades financeiras de uma empresa e oferecemos soluções que permitem a alocação dinâmica desses recursos de acordo com as necessidades dos usuários. Ao oferecer um sistema flexível, podemos alocar poder extra para um usuário específico quando necessário, utilizando GPUs que não estão em uso por outros usuários, criando o máximo ROI para os recursos de computação de uma empresa e acelerando a inovação e o tempo de comercialização de soluções de IA.

Uma das funcionalidades da Run:AI é que ela permite a redução de pontos cegos criados pela alocação estática de GPU. Como isso é alcançado?

Temos uma ferramenta que nos dá visibilidade total no cluster de recursos. Ao usar essa ferramenta, podemos observar e entender se há pontos cegos e, em seguida, utilizar essas GPUs ociosas para usuários que precisam da alocação. A mesma ferramenta que fornece visibilidade no cluster e controle sobre o cluster também garante que esses pontos cegos sejam mitigados.

Em um discurso recente, você destacou algumas distinções entre fluxos de trabalho de construção e treinamento, pode explicar como a Run:AI usa um mecanismo de gerenciamento de filas de GPU para alocar gerenciamento de recursos para ambos?

Um modelo de IA é construído em duas etapas. Primeiro, há a etapa de construção, onde um cientista de dados está escrevendo o código para construir o modelo real, da mesma maneira que um engenheiro constrói um carro. A segunda é a etapa de treinamento, onde o modelo concluído começa a aprender e ser “treinado” para otimizar uma tarefa específica. Semelhante a alguém que aprende a dirigir o carro após ele ter sido montado.

Para construir o modelo em si, não é necessário muito poder de computação. No entanto, eventualmente, pode precisar de um processamento mais forte para começar a realizar testes menores e internos. Por exemplo, a maneira como um engenheiro eventualmente quer testar o motor antes de instalá-lo. Devido a essas necessidades distintas em cada etapa, a Run.AI permite a alocação de GPU independentemente de estarem construindo ou treinando o modelo, no entanto, como mencionado anteriormente, um uso mais alto de GPU geralmente é necessário para treinar o modelo, enquanto menos é necessário para construí-lo.

Quanto tempo de computação bruto/recursos pode ser economizado por desenvolvedores de IA que desejam integrar a Run.AI em seus sistemas?

Nossas soluções na Run.ai podem melhorar a digitalização de recursos, cerca de duas a três vezes, significando 2-3 vezes mais produtividade geral.

Obrigado pela entrevista, leitores que desejam aprender mais podem visitar Run:AI.