Elad Raz, CEO da NextSilicon – Série de Entrevistas

Elad Raz, CEO da NextSilicon, é um empreendedor experiente e líder de tecnologia amplamente respeitado por sua profunda especialização em sistemas de baixo nível, segurança, redes e desenvolvimento de sistemas de arquivos. Ao longo de uma carreira que abrange papéis de engenharia militar de elite, liderança de software sênior, construção de empresas e investimento de longo prazo, Raz liderou projetos complexos e críticos em todo o mundo, abrangendo internos de sistemas operacionais e integração de hardware e software. Antes de fundar a NextSilicon, ele construiu e saiu de várias empresas de tecnologia, atuou em funções de liderança sênior em uma empresa líder de semicondutores e investiu em um portfólio diversificado de startups, combinando profundidade de engenharia prática com forte execução e visão estratégica de longo prazo.

NextSilicon é uma empresa israelense de computação de alto desempenho e semicondutores fundada em 2017 que está redefinindo a arquitetura de computação para cargas de trabalho exigentes, como IA e computação científica. A empresa desenvolveu uma plataforma de computação inteligente definida por software projetada para entregar alto desempenho e eficiência sem exigir que os desenvolvedores reescrevam aplicações. Ao se concentrar na adaptabilidade no nível de hardware, a NextSilicon visa resolver gargalos fundamentais em centros de dados modernos e ambientes de supercomputação, posicionando-se como uma alternativa de próxima geração aos aceleradores tradicionais.

Pode nos contar sobre sua jornada que levou à fundação da NextSilicon? O que despertou a ideia inicial, e como suas experiências iniciais com computação moldaram sua visão?

Eu sempre fui fascinado por computadores desde criança. Essa fascinação me levou desde brincar com velhos Commodore 64 e Atari (que ainda coleciono até hoje) até co-fundar startups e, eventualmente, vender minha empresa anterior para a Mellanox. Mas, mesmo com esses primeiros sucessos, continuei vendo o mesmo desafio repetidamente nessa indústria. À medida que as cargas de trabalho computacionais se tornaram mais complexas, as arquiteturas tradicionais de CPU e GPU atingiram limites de desempenho, eficiência de energia e escalabilidade. Seja otimizando algoritmos ou executando simulações em larga escala, ficou claro que as arquiteturas atuais estavam forçando as cargas de trabalho a se adaptarem ao hardware – e não o contrário.

A ideia da NextSilicon surgiu desse desafio recorrente e levantou a pergunta: E se pudéssemos virar o script e construir arquiteturas de computação que se adaptassem às cargas de trabalho, em vez de forçar as cargas de trabalho a se adaptarem ao hardware? Minha exposição inicial ao design de algoritmos e hardware me ensinou que a verdadeira inovação viria da combinação dos dois em tempo real. Essa é a base de nossa Arquitetura de Computação Inteligente (ICA) e a visão orientadora da NextSilicon desde o início.

Maverick-2 é descrito como um Acelerador de Computação Inteligente que se adapta a cargas de trabalho em tempo real. Como sua arquitetura difere das GPUs ou FPGAs tradicionais, e o que permite esse nível de adaptabilidade?

CPUs e GPUs transformaram nosso mundo e nos serviram bem. Mas elas nunca foram projetadas para atender às demandas das cargas de trabalho de IA e computação de alto desempenho (HPC) modernas em campos como ciência, clima, energia e defesa. Essas cargas de trabalho têm dependências de dados complexas, padrões de acesso à memória e padrões computacionais que os processadores atuais não foram projetados para lidar. O resultado são gargalos que retardam a inovação.

A principal diferença do Maverick-2 é sua abordagem inovadora que combina um motor de fluxo de dados reconfigurável com otimização de software em tempo real. A diferença arquitetônica fundamental é que o hardware é configurado com base na carga de trabalho, e não o contrário. Para o Maverick-2, a disponibilidade de dados impulsiona a computação, em vez de um contador de programa impulsionar a execução de instruções como em processadores tradicionais. Isso nos permite criar unidades de processamento virtuais definidas por software que podem ser configuradas e reconfiguradas em tempo real para corresponder a padrões de carga de trabalho específicos.

Os resultados falam por si: o Maverick-2 entrega mais de 4 vezes o desempenho por watt das GPUs e mais de 20 vezes o das CPUs de alta gama, reduzindo os custos operacionais em mais da metade. Como resultado, pesquisadores e engenheiros podem executar simulações grandes e irregulares mais rapidamente e de forma mais eficiente, desbloqueando insights e avanços em uma fração do tempo.

Você relatou alcançar mais de 4× o desempenho por watt em relação às GPUs e mais de 20× em relação às CPUs de alta gama. Quais são as principais inovações que impulsionam esses ganhos de desempenho em cargas de trabalho do mundo real?

Os ganhos de desempenho vêm de algumas inovações-chave trabalhando juntas.

Em primeiro lugar, nos afastamos do modelo de Von Neumann que dominou a computação por 80 anos. Em vez da execução sequencial de instruções, o Maverick-2 usa uma arquitetura de fluxo de dados onde a computação segue a disponibilidade de dados. Isso é fundamentalmente melhor adaptado para cargas de trabalho irregulares e intensivas em memória.

Em segundo lugar, nossa arquitetura auto-otimizada gera núcleos de processador definidos por software em tempo real. O hardware se adapta às necessidades de cada aplicativo sem exigir reescrita de código – você obtém otimização sem a sobrecarga.

Em terceiro lugar, e isso é crítico: nos concentramos no desempenho sustentado do mundo real, e não em picos teóricos. Muitas arquiteturas parecem ótimas no papel, mas falham em cargas de trabalho reais. O Maverick-2 mantém a eficiência em AI, HPC e bancos de dados vetoriais, continuamente se adaptando às necessidades da carga de trabalho.

O Maverick-2 suporta C/C++, Fortran, OpenMP e Kokkos sem exigir alterações de código. Como os desenvolvedores responderam a essa compatibilidade, e quais são seus planos para suportar CUDA, ROCm ou frameworks de IA populares?

Os desenvolvedores amam o fato de o Maverick-2 ser um verdadeiro “substituto direto”. Eles podem executar suas aplicações existentes imediatamente sem as barreiras de portabilidade que atormentam essa indústria. Atualmente, suportamos C/C++, Fortran, OpenMP e Kokkos, com CUDA, ROCm e principais frameworks de IA, como TensorFlow, JAX, PyTorch e ONNX, em desenvolvimento ativo. Isso elimina o bloqueio de fornecedor e as reescritas de código caras, permitindo que os clientes avaliem e adotem novas arquiteturas sem interromper seus fluxos de trabalho.

Como funciona a otimização do sistema baseada em telemetria do Maverick-2 por trás dos panos? O que está envolvido no perfil e reconfiguração do chip em tempo real?

Pense na nossa otimização do sistema como um loop contínuo: durante a execução, nosso sistema de telemetria mede centenas de indicadores de desempenho (por exemplo, largura de banda de memória, utilização, profundidade de fila). Todos esses dados são alimentados em um otimizador em tempo de execução que determina se a configuração de hardware atual permanece ótima para a carga de trabalho e suas necessidades projetadas. Se não for, ele pode reparticionar recursos, reordenar caminhos de dados e ajustar pipelines de computação continuamente, significando que a aplicação não para. Isso ocorre dentro de milissegundos, então a aplicação mantém a eficiência de pico consistente à medida que seu perfil computacional muda.

Há tipos específicos de cargas de trabalho ou casos de bordo onde a otimização de desempenho em tempo real é menos eficaz ou introduz compromissos em latência ou energia?

Qualquer arquitetura terá compromissos. O Maverick-2 se destaca em cargas de trabalho complexas e irregulares com padrões computacionais e de acesso a dados em constante mudança. Para cargas de trabalho altamente previsíveis e de função fixa, uma GPU bem ajustada pode ser muito eficiente sem a sobrecarga da adaptação. Nesses casos, nossa adaptabilidade ainda entrega um desempenho sólido, mas a vantagem relativa pode ser menor.

A NextSilicon é toda sobre versatilidade e competitividade em casos diretos, mas transformadora nos desafiadores.

Por que você decidiu priorizar o mercado de HPC no início, quando a maioria das startups estava se precipitando para a IA? Como isso moldou sua estratégia de produto e negócios?

O HPC representa a fronteira da complexidade computacional e resolução de problemas para conjuntos de dados maciços, acesso à memória irregular e padrões computacionais imprevisíveis. Se você puder construir uma arquitetura que prospere lá – como executar simulações em escala de exabytes em modelagem climática ou física de partículas, ela irá se destacar na IA também.

Ao se concentrar no HPC primeiro, provamos o Maverick-2 nas cargas de trabalho mais exigentes em modelagem climática, física e ciências da vida. Isso nos deu credibilidade, dados de desempenho do mundo real e um produto maduro antes de nos aprofundarmos nos mercados de IA. Agora, estamos posicionados para atender a ambos, sem ter comprometido nossa arquitetura para capitalizar tendências ou necessidades de curto prazo.

Agora que o Maverick-2 está em produção e implantado em dezenas de clientes, pode compartilhar exemplos de como ele está sendo usado? Quais resultados ou benchmarks específicos de implantações de bandeira?

Um exemplo de bandeira é nossa implantação nos Laboratórios Nacionais de Sandia, onde o Maverick-2 está alimentando o supercomputador Spectra como parte do programa Vanguard-II. Estamos vendo resultados de desempenho impressionantes fora da caixa, sem exigir modificações de código. Também estamos trabalhando com ODISSEE (Soluções de Dados Intensivos Online para a Ciência na Era dos Exabytes), que reúne instituições de pesquisa líderes para lidar com dados em escala de exabytes do Colisor de Hádrons de Alta Luminosidade do CERN e do Observatório do Quadrado Kilômetro. O papel do Maverick-2 será resolver o desafio de processar petabytes de dados experimentais brutos em uma fração do tempo e energia anteriormente necessários. O objetivo final é permitir análises de física mais rápidas e descobertas astronômicas.

Você levantou mais de $300 milhões, com rodadas principais anunciadas em 2021 e recentemente. Pode compartilhar como esse financiamento acelerou o desenvolvimento do produto e o alcance do mercado?

O financiamento nos permitiu fazer três coisas. Em primeiro lugar, pudemos impulsionar a arquitetura ainda mais, não apenas melhorias incrementais, mas avanços fundamentais que tornaram o Maverick-2 pronto para produção. Em segundo lugar, escalamos nossa fabricação e cadeia de suprimentos para atender à demanda crescente, um desafio não trivial para silício novo. Em terceiro lugar, expandimos nosso ecossistema de software para permitir que os clientes integrem e implantem mais rapidamente.

Isso também nos permitiu parcerias estratégicas com centros de supercomputação e provedores de nuvem, permitindo que aprimorássemos nosso processo de conceito a implantação e expandíssemos muito mais rápido do que as startups de hardware tradicionais.

Em um cenário que inclui Cerebras (CBRS ), SambaNova e Nvidia (NVDA ), como você vê a NextSilicon se posicionando? Qual é sua abordagem de mercado como desafiante?

Nós vemos a NextSilicon como mais uma empresa de tecnologia do que apenas outra empresa de chips. Nós otimizamos cada carga de trabalho, fornecemos adaptabilidade e não travamos os clientes em programação ou hardware proprietários. Nossos clientes podem trazer seu código existente e alcançar aceleração imediata sem ciclos de portabilidade longos ou travamento de fornecedor para um único ecossistema, como o CUDA. Isso importa especialmente à medida que as cargas de trabalho de IA evoluem além do treinamento puro. Modelos de raciocínio, inferência estendida e janelas de contexto grandes exigem padrões de computação fundamentalmente diferentes: acesso à memória mais dinâmico, computação de comprimento variável e alocação de recursos adaptável. Esses não são problemas que você resolve com mais da mesma arquitetura fixa.

Nossa estratégia de mercado se concentra em resolver os problemas mais difíceis primeiro: trabalhando com instituições de pesquisa, laboratórios nacionais e empresas onde desempenho, eficiência de energia e flexibilidade são críticos. A partir daí, escalamos para mercados de IA e dados intensivos mais amplos. A indústria é dominada por arquiteturas fixas. Estamos oferecendo algo diferente, adaptabilidade construída desde o início. A IA está mudando de escala pura para inteligência. Modelos maiores estão permitindo um raciocínio mais inteligente, desde prompts curtos até compreensão de contexto longo. Nessa transição, arquiteturas adaptáveis não serão apenas novas; elas serão essenciais.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar NextSilicon.