Entrevistas

Dr. Xianxin Guo, CEO e Co-Fundador da Lumai – Série de Entrevistas

mm
Adicione Unite.AI às suas fontes preferidas no Google

Dr. Xianxin Guo, CEO e Co-Fundador da Lumai, é um físico e empreendedor de deep-tech especializado em computação óptica e hardware de IA, com um PhD em física quântica e óptica não linear pela Universidade de Ciência e Tecnologia de Hong Kong. Ele ocupou anteriormente cargos de pesquisa, incluindo uma posição de pós-doutorado na Universidade de Calgary e uma Bolsa de Pesquisa 1851 na Universidade de Oxford, onde contribuiu para avanços em fotônica e aceleração de IA. Ascendendo na Lumai de Chefe de Pesquisa a CEO, ele é o inventor principal por trás da tecnologia central da empresa e traz mais de uma década de experiência na interseção da física, aprendizado de máquina e sistemas de computação avançados.

Lumai é uma spin-off da Universidade de Oxford que desenvolve processadores de IA de próxima geração baseados em computação óptica 3D, usando luz em vez de eletricidade para realizar cálculos de IA-chave. Sua tecnologia é projetada para acelerar operações de matriz que fundamentam os modelos de IA modernos, entregando velocidades de processamento significativamente mais rápidas enquanto reduz o consumo de energia em comparação com os GPUs tradicionais baseados em silício. Ao integrar a computação óptica em ambientes de data center existentes, a Lumai visa permitir a implantação de IA mais escalável e eficiente em termos de custo, abordando as limitações crescentes em torno do poder de processamento e uso de energia em sistemas de IA em grande escala.

Você começou sua carreira em física quântica e óptica não linear, mais tarde se tornando um bolsista de pesquisa 1851 na Universidade de Oxford antes de co-fundar a Lumai a partir de sua pesquisa. Qual foi o momento crucial em que você percebeu que a computação óptica poderia passar da teoria acadêmica para uma empresa comercialmente viável?

Durante meu tempo na Universidade de Oxford, estávamos explorando como as propriedades da luz no espaço livre poderiam ser usadas para resolver os tipos de operações de matriz que fundamentam o aprendizado de máquina. Por volta da mesma época, as limitações do hardware convencional para IA estavam se tornando mais importantes. A convergência desses desafios que havíamos resolvido em nossa pesquisa e a necessidade de um cálculo mais eficiente nos deu a confiança de que poderíamos levar nossas ideias e resolver problemas do mundo real.

Nós viemos longe desde aquela pesquisa inicial – na Lumai, agora construímos o primeiro sistema de computação óptica do mundo capaz de executar LLMs de bilhões de parâmetros em tempo real.

A Lumai está enfrentando um dos principais gargalos na IA hoje, os limites de energia e escalabilidade da computação baseada em silício. Quais limitações específicas nas arquiteturas tradicionais o impulsionaram em direção a uma abordagem fundamentalmente diferente usando luz?

O que nos impulsionou foi a trajetória limitada das soluções de silício. Com o silício, você está vendo ganhos incrementais, mas eles vêm com aumentos desproporcionais de poder e complexidade. A limitação do escalonamento do silício é principalmente devido à física – as frequências não estão aumentando, e o número de transistores que podem ser comutados é limitado por termos. Correntes de fuga continuam a ser um problema. Estima-se que o silício contribui apenas para um aumento de 25% ano a ano no desempenho.

Nesse ponto, faz sentido perguntar se um meio físico diferente poderia lidar com essas operações de maneira mais natural, em vez de continuar a empurrar os elétrons com mais força.

Sua pesquisa se concentra em computação óptica e aprendizado de máquina. Como o uso de fótons em vez de elétrons muda fundamentalmente a forma como a computação acontece no nível do hardware?

Com elétrons, a computação é intrinsicamente sequencial e perdeu – você está comutando transistores, movendo carga, gerando calor. Cada operação tem um custo térmico, e esse custo se acumula.

Os fótons se comportam de maneira muito diferente. A luz viaja sem as mesmas perdas resistivas, e criticamente, usando as propriedades da luz, enormes números de operações de matriz podem ser executados em paralelo simplesmente estruturando como os feixes de luz interagem através de um meio físico. A computação está acontecendo na propagação da luz em si, não na comutação de bilhões de portas.

A tecnologia da Lumai aproveita o processamento óptico 3D e o paralelismo espacial maciço. Você pode explicar como essa arquitetura permite melhorias dramáticas na taxa de transferência e eficiência em comparação com os GPUs?

O objetivo é realizar a multiplicação de matriz densa de forma tão eficiente e rápida quanto possível em um único ciclo. A abordagem da Lumai faz exatamente isso, usando a luz em um volume tridimensional, realizando milhões de operações simultaneamente.

Você simplesmente não pode alcançar esse nível de paralelismo em estruturas 2D, onde as operações são processadas em centenas de núcleos, exigindo movimento constante de dados. É esse paralelismo inerente – combinado com o fato de que, uma vez que você está no domínio da luz, as operações podem ser realizadas sem queimar energia – que impulsiona tanto a melhoria da taxa de transferência quanto a redução dramática da energia por token.

Muitas empresas de infraestrutura de IA ainda estão focadas no treinamento, mas a Lumai está mirando a inferência. Por que você acredita que a inferência é o desafio definidor dessa próxima fase da IA?

A inferência é onde a IA realmente faz algo útil – cada consulta respondida, cada tarefa do agente concluída, cada documento gerado. Agora entramos na era da inferência, e a demanda está crescendo a uma taxa que o hardware focado no treinamento nunca foi projetado para absorver.

A economia também é diferente: a inferência é executada continuamente, em milhões de usuários. O custo por token se torna a métrica definidora, e é aí que a parede de energia atinge com mais força.

O que torna a inferência particularmente adequada para a computação óptica é que a etapa de pré-preenchimento é fortemente limitada pelo processamento. Nessa etapa de pré-preenchimento da inferência desagregada, o contexto completo é processado antes de gerar uma resposta. Isso mapeia quase perfeitamente em nosso motor óptico, e é onde nos concentramos primeiro.

Uma das principais desafios na computação óptica tem sido a estabilidade e a escalabilidade. Quais foram as principais inovações técnicas que permitiram que a Lumai superasse essas barreiras?

O desafio nunca foi demonstrar que a óptica poderia realizar computação – os pesquisadores haviam mostrado isso em princípio por anos. O desafio era fazer com que funcionasse em escala, fora do laboratório.

Dois pontos importaram mais. Primeiro, usamos os mesmos componentes já implantados em data centers hoje para comunicação e rede. Nenhum material exótico, nenhuma cadeia de suprimentos especulativa. Em segundo lugar, fizemos uma escolha arquitetônica deliberada de usar um design híbrido, combinando o motor de tensor óptico com processamento digital para controle do sistema e software.

Seu sistema usa uma abordagem híbrida que combina componentes ópticos e digitais. Quão importante é esse equilíbrio para tornar a computação óptica prática para a implantação em data centers do mundo real?

É fundamental. A computação óptica não significa substituir tudo pela luz. Os sistemas digitais são extraordinariamente bons em controle, sequenciamento e interface com o ecossistema de software que a indústria construiu ao longo de décadas. Nosso motor óptico se sai bem nas operações matemáticas centrais que dominam o cálculo de inferência. A arquitetura híbrida permite que cada componente faça o que faz melhor.

Do ponto de vista da implantação, isso importa enormemente. A Lumai Iris se integra à infraestrutura de data center existente, usa interfaces padrão e executa modelos reais, incluindo Llama 8B e 70B hoje.

Com o anúncio da família de servidores Lumai Iris, particularmente o servidor Iris Nova, o que alcançar a inferência em tempo real em modelos de bilhões de parâmetros sinaliza para o futuro da infraestrutura de IA?

Isso sinaliza que a computação óptica cruzou da pesquisa para a realidade. Executar modelos de bilhões de parâmetros em tempo real é o ponto de prova que a indústria precisava. A família de servidores Lumai Iris consiste em três servidores: Nova, Aura e Tetra. O servidor Lumai Iris Nova, o primeiro servidor da família, está disponível para avaliação agora, e já estamos nos engajando com parceiros que desejam colocá-lo em funcionamento contra cargas de trabalho de inferência reais.

De forma mais ampla, isso sinaliza que a trajetória da infraestrutura de IA está prestes a mudar. A suposição tem sido que a escalabilidade da inferência significa comprar mais GPUs, consumir mais energia, construir data centers maiores. O servidor Lumai Iris Nova mostra que há outro caminho – um que entrega um desempenho dramaticamente maior por quilowatt e uma estrutura de custo fundamentalmente diferente por token. À medida que a família de servidores Lumai Iris se desenvolve, as implicações para como os hyperscalers e as empresas pensam sobre a aquisição de computação serão significativas.

O comunicado à imprensa destaca até 90% de redução no consumo de energia em comparação com os sistemas tradicionais. Quão significativo é esse avanço no contexto das crescentes limitações de energia que enfrentam os data centers globais?

A limitação de energia é o desafio de infraestrutura definidor da era da IA – a capacidade de energia já é um fator limitante nos planos de implantação e atingimos o chamado “muro de energia”.

Contra esse pano de fundo, uma redução de 90% no consumo de energia muda a economia fundamental e a viabilidade da IA em escala. Um único sistema Lumai pode substituir dezenas de GPUs que consomem muita energia, o que se traduz em uma mudança significativa no que é alcançável dentro de uma determinada envoltória de energia.

Há também uma dimensão de custo: os custos de construção de data centers refletem a capacidade de energia, então um data center de baixa potência custa menos para construir. Reduzir o consumo de energia reduz diretamente o custo por token – o que, em última análise, torna a IA economicamente viável na escala em que a indústria está se movendo.

Olhando para o futuro, à medida que a indústria começa a falar sobre uma era pós-silício, como você vê a computação óptica evoluindo nas próximas décadas, e qual papel a Lumai desempenhará nessa transição?

A era pós-silício já está começando, e está acontecendo ao mesmo tempo que a mudança para a era da inferência e a demanda contínua por mais desempenho a um custo mais baixo por token. O silício, é claro, continuará a desempenhar um papel, mas a suposição de que cada geração de melhoria no cálculo vem do avanço dos nodos de silício não é mais crível à taxa que a IA exige. Vemos a computação óptica sendo usada em partes-chave da pilha onde o processamento paralelo e de alta taxa de transferência é necessário.

Para a Lumai, a estrada é continuar a impulsionar a densidade, a eficiência e a capacidade da computação óptica e implantá-la em data centers. A visão é um mundo onde o custo de energia da inteligência cai e onde um data center de megawatt pode gerar o mesmo volume de token que uma instalação de gigawatt faz hoje.

Esse futuro não é uma especulação distante. Construímos o primeiro sistema que prova que a computação óptica funciona em escala. Tudo a partir daqui é engenharia.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Lumai.

Antoine é um líder visionário e sócio-fundador da Unite.AI, impulsionado por uma paixão inabalável por moldar e promover o futuro da IA e da robótica. Um empreendedor serial, ele acredita que a IA será tão disruptiva para a sociedade quanto a eletricidade, e é frequentemente pego falando sobre o potencial das tecnologias disruptivas e da AGI.

Como um futurista, ele está dedicado a explorar como essas inovações moldarão nosso mundo. Além disso, ele é o fundador da Securities.io, uma plataforma focada em investir em tecnologias de ponta que estão redefinindo o futuro e remodelando setores inteiros.