Krishna Rangasayee, Fundador e CEO da SiMa.ai – Série de Entrevistas

Krishna Rangasayee é Fundador e CEO da SiMa.ai. Anteriormente, Krishna foi COO da Groq e trabalhou na Xilinx por 18 anos, onde ocupou vários cargos de liderança sênior, incluindo Vice-Presidente Sênior e Gerente Geral do negócio como um todo, e Vice-Presidente Executivo de vendas globais. Enquanto esteve na Xilinx, Krishna cresceu o negócio para $2,5B em receita com uma margem de lucro de 70%, criando as bases para 10+ trimestres de crescimento sequencial sustentado e expansão de participação de mercado. Antes de ingressar na Xilinx, ele ocupou vários cargos de engenharia e negócios na Altera Corporation e Cypress Semiconductor. Ele detém mais de 25 patentes internacionais e já atuou no conselho de administração de empresas públicas e privadas.

O que o atraiu inicialmente para a aprendizagem de máquina?

Eu sou um estudante dos mercados de borda embarcada e nuvem há 20 anos. Eu vi muitas inovações na nuvem, mas muito pouca coisa para habilitar a aprendizagem de máquina na borda. É um mercado massivamente subatendido de $40B+ que sobreviveu com tecnologia antiga por décadas.

Então, embarcamos em algo que ninguém havia feito antes – habilitar a Aprendizagem de Máquina sem Esforço para a borda embarcada.

Pode compartilhar a história de criação da SiMa?

Em minha carreira de 20 anos, eu ainda não havia testemunhado inovação arquitetônica acontecendo no mercado de borda embarcada. No entanto, a necessidade de ML na borda embarcada aumentou na nuvem e em elementos de IoT. Isso prova que, embora as empresas estejam exigindo ML na borda, a tecnologia para tornar isso realidade é muito ultrapassada para funcionar.

Portanto, antes de a SiMa.ai começar a trabalhar em nosso design, era importante entender os principais desafios dos nossos clientes. No entanto, fazer com que eles gastassem tempo com uma startup em estágio inicial para obter feedback significativo e sincero foi um desafio em si. Felizmente, a equipe e eu conseguimos aproveitar nossa rede de relacionamentos anteriores para solidificar a visão da SiMa.ai com as empresas certas.

Nós nos reunimos com mais de 30 clientes e fizemos duas perguntas básicas: “Quais são os principais desafios para escalonar a ML para a borda embarcada?” e “Como podemos ajudar?” Após muitas discussões sobre como eles queriam reestruturar a indústria e ouvindo seus desafios para alcançá-la, ganhamos uma compreensão profunda de seus pontos de dor e desenvolvemos ideias sobre como resolvê-los. Esses incluem:

• Obter os benefícios da ML sem uma curva de aprendizado acentuada.
• Preservar aplicações legadas juntamente com a implementação de ML à prova de falhas.
• Trabalhar com uma solução de alto desempenho, baixo consumo de energia em um ambiente de usuário amigável.

Rapidamente, percebemos que precisávamos entregar uma abordagem faseada de mitigação de riscos para ajudar nossos clientes. Como uma startup, tivemos que trazer algo tão convincente e diferenciado de todos os outros. Nenhuma outra empresa estava abordando essa necessidade clara, então esse foi o caminho que escolhemos seguir.

A SiMa.ai alcançou esse feito raro ao arquitetar, do zero, a primeira plataforma de Sistema de Chip de Aprendizagem de Máquina (MLSoC) software-cêntrica e construída com propósito. Com sua combinação de silício e software, a aprendizagem de máquina agora pode ser adicionada a aplicações de borda embarcada com o pressionar de um botão.

Pode compartilhar sua visão de como a aprendizagem de máquina irá reestruturar tudo para estar na borda?

A maioria das empresas de ML se concentra em mercados de alto crescimento, como nuvem e condução autônoma. No entanto, são robótica, drones, varejo sem atrito, cidades inteligentes e automação industrial que exigem a última tecnologia de ML para melhorar a eficiência e reduzir custos.

Esses setores em crescimento, juntamente com as frustrações atuais ao implantar ML na borda embarcada, são por que acreditamos que o momento é propício para oportunidades. A SiMa.ai está abordando esse problema de uma maneira completamente diferente; queremos tornar a adoção generalizada uma realidade.

O que até agora impediu a escalonagem da aprendizagem de máquina na borda?

A aprendizagem de máquina deve integrar-se facilmente com sistemas legados. Empresas da Fortune 500 e startups alike investiram pesadamente em suas plataformas de tecnologia atuais, mas a maioria delas não reescreverá todo o seu código ou reformulará completamente sua infraestrutura subjacente para integrar a ML. Para mitigar o risco enquanto colhem os benefícios da ML, é necessário haver tecnologia que permita a integração sem esforço de código legado junto com a ML em seus sistemas. Isso cria um caminho fácil para desenvolver e implantar esses sistemas para atender às necessidades da aplicação, ao mesmo tempo em que fornece os benefícios da inteligência que a aprendizagem de máquina traz.

Não há grandes soquetes, não há um grande cliente que vá mover a agulha, então não tivemos escolha a não ser ser capaz de apoiar mais de mil clientes para realmente escalonar a aprendizagem de máquina e realmente trazer a experiência para eles. Descobri que esses clientes têm o desejo de ML, mas não têm a capacidade de obter a experiência de aprendizado porque carecem da capacidade interna para construir e não têm a base de conhecimento fundamental interna. Então, eles querem implementar a experiência de ML, mas para fazê-lo sem a curva de aprendizado da borda embarcada e o que realmente veio a ser é que temos que tornar essa experiência de ML muito sem esforço para os clientes.

Como a SiMA consegue diminuir drasticamente o consumo de energia em comparação com os concorrentes?

Nossa MLSoC é o motor subjacente que realmente habilita tudo, é importante diferenciar que não estamos construindo um acelerador de ML. Para os 2 bilhões de dólares investidos em startups de SoC de ML de borda, a resposta da indústria para a inovação foi um bloco de acelerador de ML como núcleo ou chip. O que as pessoas não estão reconhecendo é que, para migrar as pessoas de um SoC clássico para um ambiente de ML, você precisa de um ambiente de MLSoC para que as pessoas possam executar código legado desde o primeiro dia e, gradualmente, de forma faseada e mitigada de risco, implantar sua capacidade em um componente de ML ou, um dia, eles estão fazendo segmentação semântica usando uma abordagem de visão computacional clássica e, no dia seguinte, eles podem fazer isso usando uma abordagem de ML, mas, de uma forma ou de outra, permitimos que nossos clientes tenham a oportunidade de implantar e particionar seu problema como acham adequado, usando visão computacional clássica, processamento de sistemas clássico ARM ou computação heterogênea de ML. Para nós, a ML não é um produto final e, portanto, um acelerador de ML não será bem-sucedido por si só; a ML é uma capacidade e é uma ferramenta adicional que habilitamos aos nossos clientes para que, usando uma metodologia de pressionar um botão, eles possam iterar o design de pré-processamento, pós-processamento, análise e aceleração de ML, tudo em uma única plataforma, ao mesmo tempo em que entrega o melhor desempenho de aplicação de sistema amplo com o menor consumo de energia.

Quais são algumas das principais prioridades de mercado para a SiMa?

Nós identificamos vários mercados-chave, alguns dos quais são mais rápidos para gerar receita do que outros. O tempo mais rápido para gerar receita é visão inteligente, robótica, indústria 4.0 e drones. Os mercados que levam um pouco mais de tempo devido a qualificações e requisitos padrão são aplicações automotivas e de saúde. Nós rompemos terreno em todos os acima, trabalhando com os principais jogadores de cada categoria.

Captura de imagem geralmente foi na borda, com análise na nuvem. Quais são os benefícios de mudar essa estratégia de implantação?

Aplicações de borda precisam que o processamento seja feito localmente; para muitas aplicações, não há tempo suficiente para que os dados sejam enviados para a nuvem e retornem. As capacidades de ML são fundamentais em aplicações de borda porque as decisões precisam ser tomadas em tempo real, por exemplo, em aplicações automotivas e robótica, onde as decisões devem ser processadas rapidamente e de forma eficiente.

Por que as empresas devem considerar as soluções da SiMa em vez das dos concorrentes?

Nossa metodologia única de abordagem software-cêntrica embalada com uma solução de hardware completa. Nós nos concentramos em uma solução completa que aborda o que gostamos de chamar de Qualquer, 10x e Pressionar Botão como o núcleo dos problemas dos clientes. A tese original para a empresa é que você pressiona um botão e obtém um “Uau!”. A experiência realmente precisa ser abstraída a um ponto em que você queira obter milhares de desenvolvedores para usá-la, mas você não quer exigir que todos sejam gênios de ML, você não quer que todos estejam ajustando camada por camada, codificando à mão para obter o desempenho desejado; você quer que eles fiquem no nível mais alto de abstração e, de forma significativa, implantem a ML sem esforço. Então, a tese por trás de por que nos apegamos a isso foi uma correlação muito forte com a escalabilidade, pois realmente precisa ser uma experiência de ML sem esforço e não exigir muito apoio e engajamento de serviços que atrapalhem a escalabilidade.

Nós passamos o primeiro ano visitando mais de 50 clientes globalmente, tentando entender se todos vocês querem ML, mas não estão implantando. Por quê? O que está no caminho de vocês para implantar significativamente a ML e o que é necessário para realmente impulsionar a ML para uma implantação em escala? E isso realmente se resume a três pilares principais de compreensão: o primeiro sendo Qualquer. Como uma empresa, temos que resolver problemas, dados a amplitude dos clientes, e a amplitude dos modelos de uso, juntamente com a disparidade entre as redes de ML, os sensores, a taxa de quadros, a resolução. É um mundo muito disparatado, onde cada mercado tem projetos de frente completamente diferentes, e se apenas pegarmos uma fatia estreita disso, não podemos construir economicamente uma empresa; realmente, temos que criar um funil que seja capaz de aceitar uma ampla gama de espaços de aplicativos, quase pense no funil como a Ilha Ellis de tudo relacionado à visão computacional. As pessoas podem estar no TensorFlow, podem estar usando Python, podem estar usando uma câmera sensor com resolução de 1080 ou pode ser um sensor de resolução 4K; realmente não importa se podemos homogeneizar e trazer todos, e se você não tiver a frente como essa, então você não tem uma empresa escalável.

O segundo pilar é 10x, o que significa que também há o problema de por que os clientes não conseguem implantar e criar plataformas derivadas porque tudo é voltar ao início para construir um novo modelo ou pipeline. O segundo desafio é, sem dúvida, como uma startup, precisamos trazer algo muito emocionante, muito convincente, onde qualquer pessoa esteja disposta a correr o risco, mesmo que você seja uma startup, com base em uma métrica de desempenho de 10x. O mérito técnico que nos concentramos em resolver para problemas de visão computacional é a métrica de quadros por segundo por watt. Precisamos ser ilogicamente melhores do que qualquer outra solução para que possamos ficar uma geração ou duas à frente; então, pegamos isso como parte de nossa abordagem software-cêntrica. Essa abordagem criou uma plataforma de computação heterogênea para que as pessoas possam resolver toda a pipeline de visão computacional em um único chip e entregar 10x em comparação com qualquer outra solução. O terceiro pilar de Pressionar Botão é impulsionado pela necessidade de escalonar a ML na borda embarcada de forma significativa. As cadeias de ferramentas de ML são muito imaturas; frequentemente, quebradas; nenhuma empresa construiu uma experiência de software de ML de classe mundial. Além disso, reconhecemos que, para o mercado embarcado, é importante mascarar a complexidade do código embarcado, ao mesmo tempo em que fornece um processo iterativo para que os clientes possam rapidamente voltar e atualizar e otimizar suas plataformas. Os clientes realmente precisam de uma experiência de pressionar um botão que lhes dê uma resposta ou solução em minutos, em vez de meses, para alcançar a ML sem esforço. Qualquer, 10x e Pressionar Botão são as principais propostas de valor que se tornaram realmente claras para nós, de que, se fizermos um trabalho incrível nessas três coisas, absolutamente moveremos a agulha na ML sem esforço e na escalonagem da ML na borda embarcada.

Há algo mais que você gostaria de compartilhar sobre a SiMa?

No início do desenvolvimento da plataforma MLSoC, estávamos empurrando os limites da tecnologia e arquitetura. Estávamos indo completamente contra a sabedoria convencional com uma plataforma software-cêntrica, que era uma abordagem completamente nova. A jornada para descobrir e, em seguida, implementar foi difícil.

Uma vitória monumental recente valida a força e a singularidade da tecnologia que construímos. A SiMa.ai alcançou um marco importante em abril de 2023, superando o líder estabelecido em nosso desempenho de benchmark MLPerf na categoria de Energia de Borda Fechada. Estamos orgulhosos de ser a primeira startup a participar e alcançar resultados vencedores no benchmark MLPerf mais popular e reconhecido da indústria para o desempenho e energia do Resnet-50.

Nós começamos com aspirações elevadas e, até hoje, estou orgulhoso de dizer que essa visão permaneceu inalterada. Nossa MLSoC foi construída com propósito para ir contra as normas da indústria para entregar uma solução revolucionária de ML para o mercado de borda embarcada.

Obrigado pela grande entrevista; leitores que desejam aprender mais devem visitar SiMa.ai.