Nikolaos Vasiloglou, VP de Investigación de ML en RelationalAI – Serie de Entrevistas

Nikolaos Vasiloglou es el VP de Investigación de ML en RelationalAI. Ha pasado su carrera construyendo software de ML y liderando proyectos de ciencia de datos en Retail, Publicidad en línea y Seguridad. Es miembro de la comunidad ICLR/ICML/NeurIPS/UAI/MLconf/KGC/IEEE S&P, habiendo servido como autor, revisor y organizador de Talleres y la conferencia principal. Nikolaos lidera las iniciativas de investigación y estratégicas en la intersección de Modelos de Lenguaje Grande y Gráficos de Conocimiento para RelationalAI.

RelationalAI es una empresa de inteligencia artificial que construye una plataforma de inteligencia de decisiones diseñada para ayudar a las organizaciones a moverse más allá del análisis de datos hacia la toma de decisiones automatizada y de alta calidad. Su tecnología se integra directamente con entornos de datos como Snowflake, combinando bases de datos relacionales, gráficos de conocimiento y sistemas de razonamiento avanzado para crear un “modelo semántico” de una empresa, esencialmente codificando cómo opera una empresa, sus relaciones y su lógica. Esto permite que los sistemas de IA (incluidos agentes de decisión como “Rel”) razonen sobre datos complejos e interconectados y generen insights predictivos y prescriptivos, lo que permite a las empresas tomar decisiones más rápidas y mejor informadas sin mover sus datos fuera de entornos de nube seguros.

Ha tenido una carrera poco común que abarca el aprendizaje automático académico, implementaciones a gran escala en la industria y papeles de liderazgo en empresas como Symantec, Aisera y ahora RelationalAI. ¿Cómo esas experiencias han moldeado su perspectiva sobre dónde se encuentra la investigación de aprendizaje automático con los sistemas del mundo real hoy en día? 

Tuve la suerte de involucrarme con diferentes dominios empresariales, desde retail y seguridad, hasta publicidad en línea. Eso me ayudó a entender cómo el aprendizaje automático y la IA se ajustan como un denominador común. Sabíamos desde principios de 2000 que el software está comiendo el mundo, los datos están comiendo la inteligencia de decisiones, pero pocas empresas, incluida Google (GOOGL ), creían que los algoritmos de aprendizaje automático avanzado eventualmente comerían todo. En 2008, los asistentes a NeurIPS eran considerados nerds y soñadores que no entendían el mundo real, solo personas que les gustaba jugar con juguetes. Era cierto hasta cierto punto, pero creí que esto estaba en una trayectoria para cambiar. A diferencia de otros, no me di por vencido en participar activamente en la transición de la investigación académica a la industria.

Su análisis de NeurIPS 2025 utilizó asistentes de codificación como Claude Code, OpenAI Codex y NotebookLM para procesar la conferencia completa. ¿Qué lo sorprendió más sobre el uso de sistemas de IA para analizar la investigación de IA en sí? 

Fue asombrosamente fácil construir software para raspar los datos, leerlos con máquina y categorizarlos en secciones e incluso resumirlos y explicarlos de una manera particularmente intuitiva. Los sistemas de IA generativa son increíbles para contar una historia, pero no para contar la historia. NotebookLM es la reina de analizar cualquier dominio y entregar resultados increíbles. Sin embargo, no tienes control sobre la historia, los gráficos o el énfasis. Aprendí que las herramientas no son grandes para crear diapositivas de PowerPoint, así que tuve que recurrir a construir HTML y luego convertirlos a PDF. El mayor desafío fue crear figuras, la generación de difusión era demasiado lenta, poco fiable y costosa, sin control. Sorprendentemente, los modelos son bastante buenos en crear SVG de forma programática con matplotlib, plotly y otras bibliotecas de Python. Esa técnica se escaló, pero requirió varios pases para corregir errores de visualización. Los modelos serán aún mejores el próximo año.

Uno de los temas más fuertes en su análisis es el cambio de la escalabilidad en el momento de entrenamiento a la computación en el momento de inferencia. ¿Por qué la computación en el momento de la prueba está surgiendo como una palanca tan poderosa para mejorar el rendimiento del modelo? 

Las leyes de escalabilidad son nuestra brújula. Aumentar el tamaño del modelo y los datos de preentrenamiento ha alcanzado su capacidad. La primera generación de leyes de escalabilidad nos llevó hasta GPT-4. Fueron los que ayudaron a OpenAI a iniciar la revolución de la IA generativa. Pronto nos dimos cuenta de que había otra dimensión que permitía que el modelo generara muchos tokens antes de llegar a una respuesta. Esta es otra forma de mejorar la eficiencia de los LLM. El tamaño del modelo y la longitud de razonamiento a menudo se expresan como modos de pensamiento del Sistema 1 y el Sistema 2 (Daniel Kahneman). Las trazas de razonamiento son otra forma de aumentar la capacidad del modelo. Si piensas en ello, los avances de los humanos comenzaron con instintos (alta inteligencia), pero el éxito siempre se debió a un razonamiento largo y doloroso. Vemos un patrón similar: Modelos más pequeños con ventanas de pensamiento más largas superan a los modelos que son 100 veces más grandes. Así que el pensamiento es más importante que la inteligencia en los LLM.

Destaca la transición de modelos monolíticos a sistemas agentes capaces de planificar, actuar y verificar sus salidas. ¿Cuán cerca estamos de que la IA agentiva se convierta en un paradigma de producción confiable en lugar de un prototipo de investigación? 

Estamos haciendo grandes avances en esa dirección. Los problemas más grandes son la confiabilidad y la seguridad, para que podamos confiar en ellos para que sean autónomos. Si miras de cerca el contenido de NeurIPS, verás sistemas autónomos que hacen investigación, resuelven problemas matemáticos y resuelven problemas de codificación, pero no verás un coche autónomo, por ejemplo. La experiencia más reciente con Moltbook (una red social para agentes de IA) destacó los problemas de la IA agentiva autónoma. Sin embargo, descubrir nuevos fármacos y materiales con la IA agentiva es enorme, así que celebremos e indexemos eso por ahora.

La eficiencia parece ser un gran impulsor de la innovación, con modelos más pequeños logrando un rendimiento competitivo a través de mejoras arquitectónicas y estrategias de inferencia más inteligentes. ¿Estamos entrando en una era en la que los avances en eficiencia son más importantes que el tamaño bruto del modelo? 

A medida que la IA se escala hacia la producción, la ingeniería se vuelve más importante. Depender de los modelos de vanguardia simplemente no es sostenible. Es genial para demos, pero las empresas enfrentan la dura realidad cuando ven el alto costo de los grandes modelos. Por primera vez, los modelos más pequeños se han convertido en una solución mucho más viable. Hay una fuerza silenciosa que cambia el status quo de la industria. Hasta ahora, NVIDIA (NVDA ) ha tenido el monopolio de las GPU y ha mantenido los precios altos. AMD está haciendo su camino en el mercado con chips de alta calidad y eso obligará a los precios a bajar. La energía sigue siendo un problema, pero estamos viendo algún movimiento en el mercado. A medida que los laboratorios de vanguardia se vuelven más caros, la solución de modelos más pequeños en GPU alquiladas se ha vuelto más viable.

Su presentación sugiere que el campo ha pasado de una escalabilidad en un solo eje (parámetros) a una escalabilidad multidimensional que involucra parámetros, datos, arquitectura e inferencia. ¿Cómo deberían pensar los investigadores y practicantes sobre este nuevo paradigma de escalabilidad? 

Para la mayoría de los profesionales, la arquitectura y los parámetros están más allá de su control. Los productores de los modelos que tienen el capital necesario impulsarán la innovación. La longitud de inferencia de token será dedicada por el gasto de capital de su organización. Lo que queda bajo su control es el dato. Veremos un mayor enfoque en la creación, curación y depuración de datos (trazas de razonamiento la mayoría de las veces). Esto será el enfoque de las operaciones diarias. Por supuesto, necesitarán seguir NeurIPS y las otras grandes conferencias para mantenerse al día con las tendencias de las nuevas arquitecturas.

En su síntesis de NeurIPS, señala que una parte cada vez mayor de la investigación se centra en el descubrimiento científico impulsado por la IA, que abarca desde la biología hasta la modelización del clima. ¿Ve el IA para la ciencia como la próxima gran frontera para la investigación de aprendizaje automático? 

Creo que va más allá de la investigación académica. Estamos mirando la próxima fiebre del oro. En 1849, la fiebre del oro en California alcanzó su punto máximo. Todo lo que la gente tenía que hacer era colar agua de río para encontrar oro. Sabemos ahora que muchas personas no encontraron oro, pero lo que vemos hoy es muy real. Puedo ver una gran ola de startups de dos o tres personas que utilizan modelos de lenguaje para encontrar nuevos materiales, fármacos y componentes de productos. Quemar tokens de la manera más inteligente puede dar grandes rendimientos. Los asistentes de codificación como Claude Code, OpenAI Codex y Google Antigravity pueden eliminar el foso para las empresas de SaaS, dejando a toda una generación de científicos informáticos muy capaces en la búsqueda científica. Si trabajas para una organización sin fines de lucro como First Principles o Bio[hub], hay oportunidades para encontrar nuevas leyes y teorías de física, u otras contribuciones en biología. Si deseas generar ingresos, trabajarás en la invención de nuevos productos basados en la ciencia, como fármacos, materiales, baterías, etc.

Su trabajo también destaca una creciente brecha de verificación, donde los modelos logran puntuaciones de benchmark fuertes pero fallan en variaciones simples del mundo real. ¿Qué revela esta brecha sobre las limitaciones actuales de los grandes modelos de lenguaje? 

Parecen tener una memoria asombrosa y pueden generalizar bien. Los benchmarks son buenos al comienzo de la investigación. Una vez que cruces un umbral, aprendes el benchmark y no el problema. Hemos sido muy buenos a lo largo de los años para restablecer los benchmarks y hacerlos aún más difíciles para empujar los límites. El problema con los benchmarks es que en algún momento, comenzamos a sobreindexar y eventualmente a hacer trampa. La tendencia aquí es hacer que los competidores sean más honestos. Personalmente, no presto mucha atención a los benchmarks después de unos saltos. Puedes tener un buen producto que no esté siquiera en el top ten de la clasificación. También he visto muchos productos subpar que son buenos en los benchmarks.

La presentación sugiere que los modelos de lenguaje pequeños combinados con la escalabilidad de inferencia y arquitecturas agentivas podrían permitir sistemas de IA potentes que se ejecutan fuera de los centros de datos de hipercala. ¿Podría esta descentralización cambiar la forma en que se despliega la IA en las industrias? 

Vimos un gran énfasis en la implementación de borde. Veremos dispositivos más inteligentes alrededor de nosotros, sin duda. Microsoft (MSFT ) ha estado trabajando durante años en el 1bit LLM, que logra una compresión de aproximadamente 30x, lo que le permite ejecutar incluso modelos de vanguardia en un solo chip en el futuro. Hemos estado rastreando este trabajo durante años y el progreso es asombroso. Especialmente en el dominio de los dispositivos portátiles.

Algo que se cubrió en NeurIPS del año pasado fue la idea de combinar modelos de borde débiles con modelos de vanguardia. Esto te permite ajustar tu poder de inferencia según tu ancho de banda en un espectro continuo. El primer Taller de Telco en NeurIPS reveló una tendencia hacia la colocación de GPU en torres de células, lo que es interesante porque la torre de células no es ni un centro de datos ni un dispositivo de borde. Eso introduce una nueva capa en la jerarquía de cómputo.

Otra cosa que escapó de los LLM es el entrenamiento de modelos distribuidos (y no me refiero a que Google entrenara a Gemini en centros de datos remotos). Hay una tendencia muy interesante que está atrapando a entidades independientes que entrenan sus propios modelos y los usuarios los combinan como Legos para construir modelos más grandes y poderosos. Esta es una arquitectura modular muy prometedora. Así es como se entrenan los grandes modelos. Diferentes equipos construyen modelos especializados y al final los conectan como bloques de Lego.

Después de analizar miles de artículos de NeurIPS, ¿dónde cree que la comunidad de investigación de IA está prediciendo con precisión el progreso y dónde podría estar perdiendo los cambios más importantes que se avecinan? 

La comunidad de investigación no hace predicciones. Los investigadores tienen sus propios impulsores, curiosidad, financiamiento, casualidad y, por supuesto, instinto. Siempre pueden perder direcciones interesantes, pero casi con certeza alguien las encontrará y las recogerá en algún momento en el futuro. Eso es esperado y es saludable. Los ejecutivos, inversores y ingenieros están obligados a identificar las tendencias emergentes para que puedan tomar las decisiones correctas y hacer las apuestas más educadas. En mi ventana de análisis de 5 años, hubo tendencias que se detectaron temprano y señales que se perdieron. Para algunas de ellas todavía hay tiempo para montar la ola alfa.

Los mercados de datos son algo que he estado siguiendo durante años y acaban de dar el salto este año. El componente que faltaba era la atribución. Ahora podemos identificar los datos de entrenamiento que contribuyeron a una competencia de LLM en tiempo real. Eso significa que puedes pagar dividendos. Esto ha sido una oportunidad perdida para los editores que están en demandas colectivas con modelos de vanguardia. Algunos de ellos tuvieron que capitular ante acuerdos de licencia plana, mientras que creo que tienen la oportunidad de generar ingresos sostenidos por un modelo de atribución.

Hay una revolución que se avecina en la robótica. Los modelos de mundo que NVIDIA y otros anunciaron están haciendo simulaciones de física muy precisas y escalables. Así que esperen que la IA sea más física en el futuro.

La arquitectura del transformador eventualmente se fusionó con los modelos de espacio de estado como RNN, mamba, etc. y ha producido LLM increíbles. Ahora sabemos las limitaciones exactas del transformador que juega un papel importante en el rendimiento, pero todavía estamos perdiendo el siguiente paso. Eso vendrá cuando el transformador haya demostrado ser resistente y bastante resistente. Lo que no sabemos es si será un ser humano o un transformador el que diseñará la nueva arquitectura de un LLM. El transformador unió todas las arquitecturas fragmentadas en NLP (sí, no olvides que la IA generativa comenzó con tareas de NLP rudimentarias, como la clasificación de entidades). Funcionó para las matemáticas, este año funcionó para las tablas, pero no funcionó para la física. Conté más de 15 arquitecturas diferentes. Así que la nueva arquitectura que unifica la física también podría ser la que reemplace al transformador en el viaje hacia la IA general.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar RelationalAI.