Bing Xu, fundador y CEO de INT21 – Serie de entrevistas

Bing Xu, fundador y CEO de INT21, es un ingeniero de infraestructura de IA y emprendedor con una amplia experiencia que abarca la optimización de GPU, sistemas de aprendizaje automático y agentes de IA autónomos. Antes de fundar INT21 en 2026, Xu fue Distinguished Engineer en NVIDIA, donde trabajó en desarrollo de software impulsado por agentes y creó múltiples generaciones de agentes de codificación, incluido el trabajo detrás de VibeTensor y AVO. Se incorporó a NVIDIA tras su adquisición de HippoML, la startup de inferencia GPU que fundó y dirigió como CEO. Anteriormente, Xu se desempeñó como Senior Staff Software Engineer en Meta, donde creó AITemplate y ayudó a mejorar la eficiencia de inferencia GPU en cargas de trabajo de producción, y ocupó puestos de ingeniería e investigación en OctoML, Facebook AI, Apple y Turi. Su carrera se ha centrado constantemente en mejorar el software y la infraestructura que sustentan los sistemas de IA modernos.

INT21 está construyendo una infraestructura de IA auto‑mejorable diseñada para usar enjambres de agentes autónomos que desarrollen, prueben, evalúen y optimicen continuamente el software que impulsa las cargas de trabajo de IA. Su enfoque actual es el Inference Engine Factory, que emplea agentes especializados para explorar estrategias de optimización en paralelo y crear motores de inferencia completos que abarcan kernels CUDA y PTX, controladores e infraestructura de servicio, con el rendimiento validado directamente en el hardware objetivo. La tecnología de la compañía se basa en SwarmOS, una plataforma nativa de la nube que permite a gran número de agentes coordinarse en torno a objetivos de ingeniería medibles mientras conservan evidencia y lecciones entre generaciones. INT21 demostró inicialmente este enfoque mediante su PTX Kernel Factory, que produjo y evaluó kernels GPU en hardware NVIDIA Hopper y Blackwell; desde entonces la empresa ha dirigido sus recursos de cómputo a optimizar motores de inferencia completos.

Usted fundó INT21 después de encontrarse repetidamente con la dificultad de contratar ingenieros de infraestructura especializados lo suficientemente rápido para construir y optimizar sistemas de IA. ¿Qué le convenció de que la solución no era simplemente mejores herramientas para desarrolladores, sino enjambres de agentes autónomos y auto‑mejorables capaces de asumir ese trabajo por sí mismos?

Es un problema bien conocido que la demanda de talento enfocado en infraestructura de IA supera con creces la oferta en distintas especializaciones, y es un desafío que viví de primera mano. Eso me motivó a considerar los enjambres de agentes auto‑mejorables como una opción. En los últimos años he trabajado en soluciones de IA auto‑mejorables, y la tecnología avanza a tal velocidad que estos sistemas ya son realmente capaces de construir, ejecutar y optimizar la infraestructura de forma autónoma.

La filosofía central de INT21 es que, al igual que los humanos, los agentes se vuelven más inteligentes mediante el conocimiento acumulado. Esto difiere fundamentalmente de las herramientas de desarrollo heredadas, que siguen limitadas por cuántas horas puede trabajar una persona y los problemas que puede resolver físicamente. Utilizar enjambres de agentes auto‑mejorables significa que somos más rápidos, precisos y eficientes en cada ciclo de producción. Como nuestros agentes no están constreñidos por marcos existentes, podemos crear soluciones directamente desde cero para cada carga de trabajo específica.

Antes de INT21, fundó HippoML, que fue adquirida por NVIDIA apenas 14 meses después de su lanzamiento, y luego se convirtió en Distinguished Engineer en NVIDIA. ¿Qué le enseñaron esas experiencias sobre los cuellos de botella en la infraestructura de IA que finalmente dieron forma a la arquitectura y misión de INT21?

En HippoML nos especializamos en inferencia de IA generativa de alto rendimiento, creando herramientas de optimización de software para ejecutar modelos de lenguaje grande más rápido y de forma más eficiente. Nos dimos cuenta de que no podíamos escalar sin depender de contratistas talentosos de Europa del Este y otras regiones, solo para seguir el ritmo de la demanda de optimización de inferencia de IA.

Después de que NVIDIA nos adquirió, comencé a desarrollar un enfoque de desarrollo basado en agentes dentro de la empresa. investigación publicada demostró que el harness (la capa de infraestructura alrededor de un modelo) es lo que realmente determina el rendimiento del agente, no el modelo en sí. Esa evidencia mostró que el verdadero cuello de botella en la infraestructura de IA no es encontrar mejores modelos, sino optimizar los sistemas que los ejecutan.

A medida que los modelos mejoran, la infraestructura que los rodea debe escalar en consonancia. Pero los ciclos de optimización dirigidos por humanos luchan por mantenerse al día. Optimiza un bucle de entrenamiento para una arquitectura de modelo, lo despliegas, y si la arquitectura del modelo cambia o llega una nueva generación de GPU, tienes que empezar de nuevo. Hoy en día parece haber una actualización de modelo cada semana; este enfoque antiguo es insostenible. Esa realización me convenció de que el próximo gran avance está en la infraestructura auto‑mejorable, lo que me llevó a fundar INT21.

INT21 describe su enfoque como “infraestructura auto‑mejorable”, que es bastante diferente de la auto‑mejora recursiva donde los investigadores intentan hacer que el modelo de IA subyacente sea más capaz. ¿Cómo funciona su enfoque y por qué cree que mejorar los sistemas alrededor de los modelos existentes puede generar ganancias significativas mucho antes?

El enfoque de auto‑mejora recursiva se centra en entrenar modelos propietarios, armar equipos de investigación y recaudar capital masivo. Es un viaje costoso y de una década, porque se le pide al modelo razonar sobre su propio proceso de entrenamiento.

Nuestro enfoque es distinto. En INT21 no intentamos mejorar los modelos de frontera en sí, lo cual llevaría años y miles de millones en capital. En su lugar, construimos enjambres de agentes que optimizan el harness, la capa de infraestructura que se sitúa entre el modelo y el rendimiento. Eso es lo que mi investigación en Nvidia demostró: que el harness, no el modelo, determina el rendimiento del agente en tareas complejas. Un agente no necesita comprender las capacidades del modelo de frontera para encontrar una mejora del 10 % en eficiencia. Solo necesita explorar el espacio de diseño, medir, validar y conservar lo que funciona.

Una forma de pensar en los dos enfoques es que uno construye una central eléctrica mientras el otro utiliza la electricidad que ya existe. Podemos movernos más rápido y atender una demanda real e inmediata. Y significa que ya estamos viendo ganancias significativas y medibles en la infraestructura auto‑mejorable hoy.

INT21 lanzó recientemente el Inference Engine Factory, ampliando el concepto más allá de kernels GPU individuales a motores de inferencia completos. ¿Qué significa realmente que un enjambre de agentes construya y optimice autónomamente un motor de inferencia, y qué partes de ese proceso han requerido tradicionalmente la mayor experiencia humana especializada?

Un motor de inferencia es el software que ejecuta un modelo en hardware. Es un sistema complejo que toma decenas de decisiones de diseño a la vez, como qué operaciones se ejecutan juntas en un único kernel o cómo se programan los trabajos entre núcleos. Estas decisiones están interconectadas, de modo que si cambias una, debes volver a probar todo lo demás.

Tradicionalmente, un ingeniero ajusta manualmente todo esto para cada modelo. Para generación de video, música y voz, eso es un desafío porque son arquitecturas multietapa y multiescala sin un marco listo para usar. Los enjambres de agentes de INT21 construyen la pila completa de extremo a extremo, desde kernels individuales hasta el motor de inferencia completo. Nuestras pilas de generación de video y audio no requieren revisión de código humana y superan a las soluciones de inferencia de vanguardia bajo las mismas configuraciones de concurrencia.

Su PTX Kernel Factory ha producido implementaciones que superan las bases existentes hasta en un 59 % en ciertas cargas de trabajo. A nivel técnico, ¿dónde encuentran los agentes mejoras de rendimiento que las implementaciones humanas altamente optimizadas o los compiladores convencionales no detectan?

Nuestro PTX Kernel Factory superó la mejor referencia disponible en hasta un 59 % frente a KDA (Kimi Linear Attention). Esto se reduce a que nuestros enjambres de agentes auto‑mejorables pueden escalar a miles de variaciones en una fracción del tiempo, un proceso demasiado arduo y costoso para que los ingenieros humanos lo realicen.

Lo que diferencia a los agentes es que los kernels escritos por humanos dependen de lenguajes específicos de dominio (DSL), plantillas y compiladores preconstruidos para GPU. Un DSL funciona bien para patrones comunes, pero cuando te enfrentas a una nueva carga de trabajo, como KDA, el compilador de propósito general a menudo no puede rendir de forma óptima. Nuestros agentes eluden esas abstracciones por completo, lo que significa que no están limitados por suposiciones de DSL o compilador. Esa libertad para explorar todo el espacio de diseño sin estar atrapados en patrones predefinidos es de donde proviene la mejora.

La infraestructura generada por IA crea un problema de verificación inusual: una optimización no es útil si es más rápida pero sutilmente incorrecta. ¿Cómo prueban, evalúan, rechazan fallos y conservan los descubrimientos exitosos sus enjambres de agentes, y cuán importante es este bucle de retroalimentación para que el sistema sea genuinamente auto‑mejorable y no simplemente un agente de codificación IA?

El bucle de retroalimentación es crítico, porque una optimización no vale nada si solo es correcta bajo supuestos específicos o solo para una distribución de entrada determinada. En INT21 nos aseguramos de que el bucle de retroalimentación sea riguroso.

Partimos del modelo, de las restricciones de despliegue y de la métrica de servicio que importa. Luego, los enjambres de agentes auto‑mejorables exploran configuraciones y rutas de optimización simultáneamente, y evalúan cada candidato contra objetivos de corrección y rendimiento. Solo se conservan las implementaciones que funcionan.

Lo que hace que esto sea realmente auto‑mejorable es que los datos de validación mismos mejoran. Esos datos retroalimentan a los enjambres, de modo que refinan su comprensión de lo que funciona y cierran continuamente el bucle de retroalimentación. Sin este rigor, solo tendrías un sistema con código generado por IA que parece plausible y puede entregarse más rápido, pero con deuda técnica que se acumula invisiblemente y erosiona la confianza en lo que se está construyendo.

En NVIDIA trabajó en proyectos como VibeTensor y Agentic Variation Operators, donde los agentes generaron grandes cantidades de software de sistema y buscaron autónomamente optimizaciones de GPU. ¿Qué revelaron esos proyectos sobre los tipos de problemas de ingeniería que los agentes de IA ya pueden resolver y que muchos desarrolladores aún asumen que requieren expertos humanos?

VibeTensor me enseñó algo que llamo el “Efecto Frankenstein”. La IA hacía el trabajo correcto en cada nivel, pero al combinar todas esas piezas como un sistema, quedaba por debajo de lo que los expertos humanos podían construir.

El trabajo de Agentic Variation Operators fue lo contrario. Demostró que la IA puede superar a los expertos humanos en problemas de alcance estrecho. La generación de kernels es un buen ejemplo, porque el problema es limitado, medible y tiene un único objetivo.

El “Efecto Frankenstein” es exactamente lo que INT21 está resolviendo. Las muestras de ingeniería de nuestro Inference Engine Factory superan a motores de inferencia de código abierto de alto rendimiento como SGLang y vLLM, porque hemos aprendido a estructurar el problema correctamente. Damos a los agentes restricciones claras, objetivos medibles y bucles de retroalimentación estrechos. Los expertos humanos siguen siendo esenciales, pero en lugar de realizar el trabajo de optimización, proporcionan dirección valiosa e interpretan los resultados. La IA amplifica el impacto del experto al ejecutar más rápido y de forma más sistemática de lo que cualquier humano puede hacer.

INT21 utiliza varios agentes especializados en lugar de depender de un solo agente con una ventana de contexto cada vez mayor. ¿Por qué ve la orquestación multi‑agente como un enfoque más escalable para problemas de ingeniería complejos, y cómo dividen el trabajo, comparten descubrimientos y evitan duplicarse o entrar en conflicto entre sí?

Una ventana de contexto más grande permite retener más información a la vez, pero no ayuda a resolver problemas multidimensionales donde todo está interconectado. Utilizamos una plataforma nativa de la nube para ejecutar agentes especializados, todos trabajando hacia el mismo objetivo medible. Los agentes exploran en paralelo y convergen continuamente en soluciones más fuertes.

Eso es más escalable por varias razones. Primero, cada agente se mantiene enfocado. Segundo, no se le pide a un solo agente razonar sobre todo a la vez, por lo que el proceso es más eficiente. Y, por último, refleja cómo trabajan realmente los equipos de infraestructura, donde cada equipo posee su dominio, pero se sincroniza cuando las decisiones afectan a los demás.

Si los enjambres de agentes se vuelven capaces de optimizar continuamente kernels, motores de inferencia, compiladores y otras capas de la pila de IA, ¿cómo cambia el rol del ingeniero de infraestructura? ¿Cree que estos sistemas abordarán principalmente la escasez de ingenieros especializados, o eventualmente automatizarán una parte sustancial del desarrollo de infraestructura?

El trabajo del ingeniero de infraestructura está a punto de cambiar por completo. Ya no se dedica a pulir código de kernels y a afinar la memoria. En su lugar, establece objetivos, define el espacio de diseño, establece restricciones e interpreta los resultados.

Con el tiempo, se necesitarán menos ingenieros de infraestructura para mantener los sistemas en funcionamiento y mejorarlos. Pero el trabajo estratégico que quede será más valioso, no menos. En la práctica, significa que las organizaciones pueden operar infraestructuras de IA complejas con muchos menos ingenieros especializados de los que necesitan hoy. Eso es significativo para cualquier empresa que intente construir sistemas de IA en producción.

Su visión a largo plazo es que los enjambres de agentes auto‑mejorables operen en todas las capas de la infraestructura de IA. ¿Cómo se vería esa pila si la visión se cumple, y podríamos llegar a un punto en que la infraestructura de IA se reescriba y optimice continuamente a medida que los modelos, cargas de trabajo y hardware cambian?

En la actualidad, cada capa de la pila de IA se optimiza de forma independiente, desde los kernels de bajo nivel hasta los marcos fundacionales y las interfaces. Pero no se coordinan entre sí. Así que puedes optimizar una capa y, sin querer, romper algo más abajo en la cadena.

En INT21, la visión es que los enjambres de agentes puedan coordinarse de forma autónoma a través de todas estas capas, ajustándose y adaptándose constantemente. Cuando llega un nuevo modelo, toda la pila se reoptimiza para él, de modo que la infraestructura nunca se quede atrás respecto a lo que está ejecutando.

Esto no ha sido factible, porque los ingenieros humanos no pueden moverse lo suficientemente rápido. Pero con los enjambres de agentes optimizando continuamente, la infraestructura auto‑mejorable está emergiendo como una categoría de computación distinta. La infraestructura que pueda adaptarse tan rápido como los modelos y el hardware cambiará será la vencedora. Todo lo demás se vuelve una carga.

Gracias por la excelente entrevista, lectores que deseen saber más deberían visitar INT21.