Nikolaos Vasiloglou, VP de Pesquisa de ML na RelationalAI – Série de Entrevistas

Nikolaos Vasiloglou é o VP de Pesquisa de ML na RelationalAI. Ele passou sua carreira construindo software de ML e liderando projetos de ciência de dados em Varejo, Publicidade Online e Segurança. Ele é membro da comunidade ICLR/ICML/NeurIPS/UAI/MLconf/KGC/IEEE S&P, tendo servido como autor, revisor e organizador de Workshops e da conferência principal. Nikolaos lidera as iniciativas de pesquisa e estratégicas na interseção de Modelos de Linguagem Grande e Grafos de Conhecimento para a RelationalAI.

RelationalAI é uma empresa de IA empresarial que constrói uma plataforma de inteligência de decisão projetada para ajudar as organizações a ir além da análise de dados em direção à tomada de decisões automatizada e de alta qualidade. Sua tecnologia se integra diretamente com ambientes de dados como Snowflake, combinando bancos de dados relacionais, grafos de conhecimento e sistemas de raciocínio avançado para criar um “modelo semântico” de uma empresa – essencialmente codificando como uma empresa opera, suas relações e sua lógica. Isso permite que os sistemas de IA (incluindo agentes de decisão como “Rel”) raciocinem sobre dados complexos e interconectados e gerem insights preditivos e prescritivos, permitindo que as empresas tomem decisões mais rápidas e informadas sem mover seus dados para fora de ambientes de nuvem seguros.

Você teve uma carreira rara que abrangeu aprendizado de máquina acadêmico, implantações em larga escala na indústria e papéis de liderança em empresas como Symantec, Aisera e agora RelationalAI. Como essas experiências moldaram sua perspectiva sobre onde a pesquisa de aprendizado de máquina se encontra com sistemas do mundo real hoje? 

Eu tive a sorte de me envolver com diferentes domínios de negócios, desde varejo e segurança, até publicidade online. Isso me ajudou a entender como o aprendizado de máquina e a IA se encaixam como um denominador comum. Sabíamos desde o início dos anos 2000 que o software estava “comendo” o mundo, os dados estavam “comendo” a inteligência de decisão, mas poucas empresas, incluindo o Google (GOOGL ), acreditavam que algoritmos de aprendizado de máquina avançados eventualmente “comeriam” tudo. Em 2008, os participantes do NeurIPS eram considerados nerds e sonhadores que não entendiam o mundo real, apenas pessoas que gostavam de brincar com brinquedos. Era verdade até certo ponto, mas eu acreditei que isso estava em uma trajetória para mudar. Ao contrário de outros, eu não desisti de participar ativamente da transição da pesquisa acadêmica para a indústria.

Sua análise do NeurIPS 2025 usou assistentes de codificação como Claude Code, OpenAI Codex e NotebookLM para processar a conferência inteira. O que mais o surpreendeu sobre o uso de sistemas de IA para analisar a própria pesquisa de IA? 

Foi incrivelmente fácil construir software para raspar os dados, lê-los com máquina e categorizá-los em seções e até mesmo resumi-los e explicá-los de uma maneira particularmente intuitiva. Os sistemas de IA de última geração são incríveis em contar uma história, mas não contam a história. NotebookLM é a rainha de analisar qualquer domínio e entregar resultados incríveis. No entanto, você não tem controle sobre a história, os gráficos ou a ênfase. Eu aprendi que as ferramentas não são grandes em criar slides de PowerPoint, então tive que recorrer a construir HTML e depois convertê-los para PDFs. O maior desafio foi criar figuras – a geração de difusão era simplesmente lenta, instável e cara, sem controle. Surpreendentemente, os modelos são muito bons em criar SVGs programaticamente com matplotlib, plotly e outras bibliotecas Python. Essa técnica escalou, mas exigiu várias passagens para corrigir erros de visualização. Os modelos serão ainda melhores no ano que vem.

Um dos temas mais fortes em sua análise é a mudança de escalabilidade no treinamento para escalabilidade no tempo de inferência. Por que o cálculo no tempo de teste está surgindo como uma alavanca tão poderosa para melhorar o desempenho do modelo? 

As leis de escalabilidade são nosso compasso. Aumentar o tamanho do modelo e os dados de pré-treinamento alcançou sua capacidade. A primeira geração de leis de escalabilidade nos levou até o GPT-4. Eles foram os que ajudaram a OpenAI a iniciar a revolução da IA de última geração. Logo percebemos que havia outra dimensão que permitia que o modelo gerasse muitos tokens antes de chegar a uma resposta. Isso é outra forma de melhorar a eficiência dos LLMs. O tamanho do modelo e o comprimento do raciocínio são frequentemente expressos como modos de pensamento do Sistema 1 e Sistema 2 (Daniel Kahneman). Rastros de raciocínio são outra forma de aumentar a capacidade do modelo. Se você pensar sobre isso, os avanços dos humanos começaram com instintos (alto QI), mas o sucesso sempre foi devido a um raciocínio longo e doloroso. Vemos esse padrão: modelos menores com janelas de pensamento longas superam modelos que são 100 vezes maiores. Então, o pensamento importa mais do que o QI nos LLMs.

Você destaca a transição de modelos monolíticos para sistemas agênticos capazes de planejar, agir e verificar suas saídas. Quão perto estamos de que a IA agêntica se torne um paradigma de produção confiável em vez de um protótipo de pesquisa? 

Estamos dando passos importantes nessa direção. Os principais problemas são confiabilidade e segurança, para que possamos confiar neles para serem autônomos. Se você olhar de perto o conteúdo do NeurIPS, verá sistemas autônomos que fazem pesquisas, resolvem problemas matemáticos e resolvem problemas de codificação, mas você não vê um carro autônomo agêntico, por exemplo. A última experiência com Moltbook (uma rede social para agentes de IA) destacou os problemas de IA agêntica autônoma. No entanto, descobrir novos medicamentos e materiais com IA agêntica é enorme, então vamos celebrar e indexar isso por enquanto.

A eficiência parece ser um grande motor de inovação, com modelos menores alcançando desempenho competitivo por meio de melhorias arquiteturais e estratégias de inferência mais inteligentes. Estamos entrando em uma era em que avanços de eficiência importam mais do que o tamanho bruto do modelo? 

À medida que a IA se expande para a produção, a engenharia se torna mais importante. Depender dos modelos de fronteira simplesmente não é sustentável. É ótimo para demonstrações, mas as empresas enfrentam a dura realidade quando veem o alto custo dos grandes modelos. Pela primeira vez, modelos menores se tornaram uma solução muito mais viável. Há uma força silenciosa mudando o status quo da indústria. Até agora, a NVIDIA (NVDA ) teve o monopólio de GPU e manteve os preços altos. A AMD está se tornando uma presença no mercado com chips de alta qualidade e isso forçará os preços a cair. A energia continua a ser um problema, mas estamos vendo algum movimento no mercado. À medida que os laboratórios de fronteira se tornaram mais caros, a solução de modelos menores em GPUs alugados se tornou mais viável.

Sua apresentação sugere que o campo mudou de escalabilidade em uma única dimensão (parâmetros) para escalabilidade em várias dimensões, envolvendo parâmetros, dados, arquitetura e inferência. Como os pesquisadores e profissionais devem pensar sobre esse novo paradigma de escalabilidade? 

Para a maioria dos profissionais, a arquitetura e os parâmetros estão além do seu controle. Os produtores dos modelos que têm o capital necessário impulsionarão a inovação. O comprimento da inferência de token será dedicado pelo gasto de capex da organização. O que permanece sob seu controle é o dado. Veremos mais foco na criação, curação e depuração de dados (rastros de raciocínio a maior parte do tempo). Isso será o foco das operações diárias. Claro que eles precisarão seguir o NeurIPS e as outras grandes conferências para ficar por dentro das tendências das novas arquiteturas.

Em sua síntese do NeurIPS, você destaca que uma parcela crescente de pesquisas se concentra na descoberta científica impulsionada por IA, desde biologia até modelagem climática. Você vê a IA para a ciência como a próxima grande fronteira para a pesquisa de aprendizado de máquina? 

Eu acho que vai além da pesquisa acadêmica. Estamos olhando para a próxima corrida do ouro. Em 1849, a corrida do ouro na Califórnia atingiu seu pico. Todas as pessoas tinham que fazer era coar a água do rio para encontrar ouro. Sabemos agora que muitas pessoas não encontraram ouro, mas o que vemos hoje é muito real. Eu posso ver uma grande onda de startups de duas ou três pessoas usando modelos de linguagem para encontrar novos materiais, medicamentos e componentes de produtos. Queimar tokens de forma inteligente pode trazer grandes rendimentos. Assistentes de codificação como Claude Code, OpenAI Codex e Google Antigravity podem remover o fosso para empresas de SaaS, deixando uma geração inteira de cientistas da computação capazes em busca científica. Se você trabalha para uma organização sem fins lucrativos como First Principles ou Bio[hub], há oportunidades para encontrar novas leis físicas e teorias, ou outras contribuições na biologia. Se você quiser gerar receita, você trabalhará na invenção de novos produtos baseados em ciência, como farmacêuticos, materiais, baterias, etc.

Sua obra também destaca uma lacuna crescente de verificação, onde os modelos alcançam pontuações fortes em benchmarks, mas falham em variações simples do mundo real. O que essa lacuna revela sobre as limitações atuais dos grandes modelos de linguagem? 

Eles parecem ter uma memória incrível e podem generalizar bem. Os benchmarks são bons no início da pesquisa. Uma vez que você cruza um limiar, você aprende o benchmark e não o problema. Nós fomos muito bons ao longo dos anos para reiniciar os benchmarks e torná-los ainda mais difíceis para impulsionar os limites. O problema com os benchmarks é que, em algum momento, começamos a superíndice e eventualmente trapacear. A tendência aqui é tornar os concorrentes mais honestos. Eu pessoalmente não dou muita atenção aos benchmarks após alguns saltos acontecerem. Você pode ter um bom produto que não está nem nos dez primeiros do leaderboard. Eu também vi muitos produtos subpar que são bons nos benchmarks.

Sua apresentação sugere que modelos de linguagem menores combinados com escalabilidade de inferência e arquiteturas agênticas poderiam permitir sistemas de IA poderosos que funcionam fora dos centros de dados de hiperscale. Isso poderia descentralizar a forma como a IA é implantada em várias indústrias? 

Vimos um grande destaque para a implantação de borda. Vamos ver dispositivos mais inteligentes ao nosso redor, com certeza. A Microsoft (MSFT ) tem trabalhado há anos no 1bit LLM, que alcança cerca de 30x de compressão, permitindo que ele execute até modelos de fronteira em um único chip no futuro. Nós temos acompanhado esse trabalho por anos e o progresso é impressionante. Especialmente no domínio dos dispositivos portáteis.

Algo que foi coberto no NeurIPS do ano passado foi a ideia de combinar modelos de borda fracos com modelos de fronteira. Isso permite que você ajuste seu poder de inferência com base em sua largura de banda em um espectro contínuo. O primeiro Workshop de Telco no NeurIPS revelou uma tendência em direção a colocar GPUs em torres de células, o que é interessante porque a torre de célula não é nem um datacenter nem um dispositivo de borda. Isso introduz uma nova camada na hierarquia de computação.

Algo mais que escapou dos LLMs é o treinamento de modelo distribuído (e não me refiro ao treinamento do Gemini da Google em centros de dados remotos.) Há uma tendência muito interessante que está pegando em entidades independentes treinando seus próprios modelos e usuários combinando-os como Legos para construir modelos mais poderosos. Essa é uma arquitetura modular muito promissora. É assim que os grandes modelos são treinados. Diferentes equipes constroem modelos especializados, e no final, eles os conectam como blocos de Lego.

Depois de analisar milhares de artigos do NeurIPS, onde você acha que a comunidade de pesquisa de IA está prevendo com precisão o progresso, e onde pode estar perdendo as mudanças mais importantes que estão por vir? 

A comunidade de pesquisa não faz previsões. Os pesquisadores têm seus próprios impulsionadores, curiosidade, financiamento, serendipidade e, claro, instinto. Eles sempre podem perder direções interessantes, mas quase certamente alguém encontrará e pegará em algum momento no futuro. Isso é esperado e é saudável. Executivos, investidores e engenheiros são necessários para identificar as tendências emergentes para que possam tomar as decisões certas e fazer apostas educadas. Em minha janela de análise de 5 anos, havia tendências que foram capturadas cedo, e outros sinais foram perdidos. Para alguns deles, ainda há tempo para cavalgar a onda alfa.

Os mercados de dados são algo que eu tenho acompanhado por anos, e eles apenas deram o salto este ano. O componente perdido era a atribuição. Agora podemos identificar os dados de treinamento que contribuíram para uma competição de LLM em tempo real. Isso significa que você pode pagar dividendos. Isso foi uma oportunidade perdida para os editores que estão em ações judiciais com modelos de fronteira. Alguns deles tiveram que simplesmente capitular para acordos de licença plana, enquanto eu acredito que eles têm a oportunidade de gerar receitas mais sustentáveis a partir de um modelo de atribuição.

Há uma revolução vindo em robótica. Os modelos de mundo que a NVIDIA e outros anunciaram estão fazendo simulações de física muito precisas e escaláveis. Então, espere que a IA seja mais física em movimento para a frente.

A arquitetura do transformer eventualmente se fundiu com os modelos de espaço de estado, como RNNs, mamba, etc., e produziu LLMs incrivelmente pequenos. Agora sabemos as limitações exatas do transformer que desempenham um papel importante no desempenho, mas ainda estamos perdendo o próximo passo. Isso virá quando o transformer tiver sido provado ser duradouro e bastante resiliente. O que não sabemos é se será um humano ou um transformer projetando a nova arquitetura de um LLM! O transformer uniu todas as arquiteturas fragmentadas em NLP (sim, não esqueça que a IA de última geração começou com tarefas de NLP rudimentares, como classificação de entidades). Ele funcionou para matemática, este ano funcionou para tabelas, mas não funcionou para física. Eu contei mais de 15 arquiteturas diferentes. Então, a nova arquitetura que unifica a física pode ser a que substituirá o transformer na jornada da IA Geral. Eu contei mais de 15 diferentes arquiteturas. Então, a nova arquitetura que unifica a física pode ser a que substituirá o transformer na jornada da IA Geral.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar RelationalAI.