Yu Su, Co-fundador y CEO de NeoCognition – Serie de Entrevistas

Yu Su, co-fundador y CEO de NeoCognition, es un investigador de inteligencia artificial de larga trayectoria cuya carrera abarca la academia, la inteligencia artificial empresarial y los sistemas de agentes avanzados. Además de liderar NeoCognition, se desempeña como profesor asociado y académico de innovación en la Universidad Estatal de Ohio, donde su trabajo se ha centrado en agentes de IA, sistemas de razonamiento y aprendizaje automático. Su experiencia también incluye más de seis años como investigador senior en Microsoft, donde trabajó junto a investigadores destacados como Percy Liang en sistemas de inteligencia artificial conversacional para Outlook utilizando técnicas de análisis semántico. A lo largo de sus roles en Microsoft, la academia y las instituciones de investigación como el Centro de Investigación T.J. Watson de IBM, Yu Su ha construido una reputación por avanzar en los sistemas de IA que pueden razonar, aprender e interactuar con entornos digitales complejos, ayudando a cerrar la brecha entre la investigación de vanguardia y las aplicaciones del mundo real.

NeoCognition es una empresa de investigación de agentes de IA que se centra en desarrollar lo que describe como “inteligencia especializada” — sistemas de IA que aprenden y mejoran continuamente a través de la experiencia. Fundada por investigadores de IA destacados, la empresa está persiguiendo una visión que va más allá de los modelos de lenguaje grande estáticos hacia agentes capaces de desarrollar una profunda especialización en dominios específicos. Su investigación se centra en áreas como el aprendizaje continuo, el razonamiento, la planificación, el uso de herramientas y la colaboración entre agentes, con el objetivo de crear sistemas de IA que se vuelvan más capaces y confiables con el tiempo. Al combinar los avances en aprendizaje automático con técnicas de razonamiento estructurado y aprendizaje adaptativo, NeoCognition tiene como objetivo ayudar a dar forma a la próxima generación de agentes de IA capaces de abordar tareas del mundo real cada vez más complejas.

Muchas empresas se apresuraron a lanzar copilotos de IA genéricos, pero cada vez más estamos escuchando preocupaciones sobre la confiabilidad una vez que estos sistemas entran en entornos de producción reales. ¿Por qué cree que tantos agentes de IA actuales luchan fuera de demos controladas?

La mayoría de los agentes de IA actuales luchan en producción porque aún son fundamentalmente generalistas que operan sin una comprensión duradera del entorno en el que trabajan. Pueden completar una tarea una vez en una demo, pero eso es muy diferente a desarrollar un juicio repetible dentro de un sistema operativo real.

Los modelos de hoy son impresionantes reconocedores de patrones, pero aún carecen de los mecanismos que los humanos usamos para convertirnos en expertos confiables. Los humanos no se vuelven confiables memorizando tareas aisladas. Nos especializamos aprendiendo la estructura de un mundo particular: los flujos de trabajo, las restricciones, las relaciones, las herramientas, las prioridades y las consecuencias que definen una profesión u organización. Con el tiempo, construimos un modelo de trabajo interno de ese entorno, y ese modelo es lo que permite que las buenas decisiones se vuelvan consistentes y repetibles.

La mayoría de los agentes de IA de hoy no construyen ese tipo de comprensión operativa. Confían mucho en capas de prompting, recuperación u orquestación que les ayudan a completar acciones aisladas, pero aún están improvisando cada vez que se enfrentan a una nueva situación. Eso es por qué el rendimiento a menudo se desmorona una vez que el entorno cambia y más aún cuando se vuelve desordenado, dinámico o de alto riesgo.

La pieza que falta es la especialización. Los humanos prosperan porque podemos adaptarnos continuamente a entornos cambiantes y convertirnos en expertos dentro de ellos a través del aprendizaje continuo. Creemos que los agentes de IA necesitan una capacidad similar: la capacidad de aprender la estructura local de un dominio lo suficientemente profundo como para operar con verdadera competencia.

NeoCognition ha descrito su visión como la de construir agentes que puedan aprender y adaptarse continuamente más como los humanos. ¿Qué significa eso técnicamente en comparación con los enfoques de afinación estática o basados en recuperación que muchas empresas confían en hoy en día?

La mayoría de los sistemas de IA empresariales de hoy mejoran el rendimiento ya sea afinando un modelo una vez o recuperando información relevante en el momento de la inferencia. Esos enfoques pueden ser útiles, pero no permiten fundamentalmente que un agente desarrolle una especialización evolutiva dentro de un dominio.

La afinación es típicamente estática después del entrenamiento. Los sistemas de recuperación ayudan a superficiar la información, pero recuperar conocimiento no es lo mismo que desarrollar una especialización de dominio o adaptar el comportamiento con base en la experiencia con el tiempo. En muchos casos, el agente aún carece de un modelo persistente del entorno en el que opera.

Cuando un humano se une a una empresa, no se vuelve efectivo simplemente porque puede buscar documentos. Gradualmente desarrolla juicio al entender cómo funciona realmente la organización y la especialización emerge de refinar continuamente ese modelo interno.

Creamos que la próxima generación de agentes necesita un mecanismo de aprendizaje similar. En NeoCognition, nos centramos en permitir que los agentes formen esos tipos de modelos operativos evolutivos para que puedan especializarse y mejorar continuamente dentro de un dominio con el tiempo, en lugar de empezar desde cero una y otra vez o depender de la reingeniería humana constante.

Parece haber una creciente división entre la experimentación de IA y la confianza operativa. Las empresas pueden prototipar agentes con éxito internamente, pero desplegarlos a escala es todo un desafío. ¿Qué subestiman las organizaciones sobre esta transición?

Muchas organizaciones subestiman lo dinámicos que son los entornos operativos reales. Un agente que funciona con un 85% de precisión puede sonar fuerte en pruebas, pero a escala empresarial eso aún se traduce en un flujo constante de errores y situaciones de recuperación que los equipos humanos deben manejar. El desafío se vuelve aún más significativo en flujos de trabajo de múltiples pasos donde los fallos se acumulan a través de sistemas y tareas, lo que hace que la supervisión, la intervención y la rendición de cuentas sean mucho más difíciles de lo que muchas organizaciones inicialmente esperan.

Las empresas aún tratan el despliegue como un problema de orquestación o prompting, cuando en realidad también es un problema de aprendizaje. La parte difícil no es solo hacer que un agente ejecute una tarea. Es permitir que el sistema desarrolle una competencia y un juicio duraderos dentro de un entorno operativo dinámico.

La carga de personalización, prompting, supervisión y reingeniería aún recae pesadamente en los equipos humanos de hoy en día. Eso a menudo es un signo de que el sistema aún carece de comprensión operativa; están siendo dirigidos manualmente a través de ella cada vez. Eso no es un camino hacia la escalabilidad o la confianza.

Un tema importante que surge en toda la industria de IA es el de la gobernanza, los límites y la aplicación de políticas. Sin embargo, NeoCognition argumenta que la gobernanza sola no es suficiente. ¿Por qué cree que la confiabilidad requiere en última instancia sistemas que se adapten continuamente a su entorno en lugar de seguir simplemente reglas estáticas?

La gobernanza y los límites son extremadamente importantes, pero las reglas estáticas solas no pueden resolver completamente la confiabilidad en entornos complejos.

Los sistemas operativos de producción están cambiando constantemente. Los flujos de trabajo evolucionan, las herramientas se actualizan, las políticas cambian y surgen situaciones inesperadas que no siempre se pueden anticipar con anticipación. Si un agente solo sabe seguir reglas predefinidas sin entender el entorno en el que opera, eventualmente se encontrará con situaciones que esas reglas no contemplan.

La confiabilidad de los humanos proviene del juicio, no solo de la adhesión rígida a los guiones, sino porque desarrollamos juicio al entender la estructura y las limitaciones del mundo que nos rodea. Aprendemos cuándo escalar, cuándo algo parece anormal y cuándo el contexto cambia el curso de acción correcto.

Creamos que los agentes de IA necesitan una capacidad similar de adaptación y comprensión del entorno. Los sistemas más seguros provendrán de hacerlos más competentes y especializados dentro de mundos operativos claramente definidos. Este tipo de sistema observa su propio entorno y sus propias salidas, y rastrea dónde falla y actualiza su comportamiento.

La industria de IA a menudo enfatiza modelos más grandes y capacidades más amplias, pero NeoCognition parece centrarse en la especialización y el aprendizaje contextual. ¿Cree que el futuro de los agentes de IA empresariales se parecerá más a trabajadores digitales altamente especializados que a asistentes universales?

Creamos firmemente que el futuro estará impulsado por la especialización. La industria ha enfatizado comprensiblemente modelos cada vez más generales porque la capacidad amplia es impresionante. Pero en entornos empresariales, el verdadero desafío no es si un agente puede hacer un poco de todo. Es si puede realizar un papel específico de manera confiable y con juicio sólido con el tiempo. Nuestra fuerza no es que seamos expertos natos en todos los entornos. Es que podemos aprender la estructura de un mundo particular lo suficientemente profundo como para operar de manera efectiva dentro de él.

En NeoCognition, creemos que el futuro no será uno de superagentes que hagan todo. En su lugar, será una abundancia de agentes especializados, cada uno aprendiendo un mundo particular lo suficientemente profundo como para operar con una competencia, juicio y confiabilidad de nivel experto. Su propósito no es reemplazar la experiencia humana, sino hacerla más abundante: poner capacidad de vanguardia en muchas más manos y elevar el nivel base de lo que cualquier persona u organización puede hacer.

Una de las mayores preocupaciones que rodean a los agentes autónomos es cómo se comportan cuando los entornos cambian inesperadamente. ¿Qué tan importante es la adaptación y la conciencia del entorno en la prevención de fallos, alucinaciones o acciones inseguras?

Es absolutamente crítico. Sin conciencia del entorno, los agentes pueden seguir actuando con confianza incluso cuando su comprensión de la situación está desactualizada o incompleta. Ese es donde surgen los fallos operativos.

Creamos que la confiabilidad requiere que los agentes aprendan continuamente la estructura local del entorno en el que operan y actualicen su comprensión con el tiempo. La confiabilidad cambia y evoluciona con el tiempo: lo que parecía confiable en septiembre puede no parecer lo mismo en mayo. Cuanto más profundamente un agente entiende los sistemas, las limitaciones, los flujos de trabajo y las relaciones que lo rodean, más capaz se vuelve de reconocer cuándo las condiciones han cambiado o cuándo la incertidumbre requiere una escalada.

¿Cuán cerca cree que está la industria de desplegar sistemas de IA que puedan mejorar genuinamente a través de la interacción continua con entornos operativos reales?

Todavía estamos al comienzo de la construcción de los mecanismos de aprendizaje subyacentes necesarios para el aprendizaje continuo y la auto-mejora confiables, pero la industria está mucho más cerca de esta transición de lo que muchas personas creen. Estamos viviendo en una línea de tiempo comprimida. Los ingredientes para el próximo avance tecnológico están listos. Puede suceder bastante pronto.

Lo que importa no es simplemente la auto-mejora en abstracto, sino la especialización estructurada dentro de entornos reales. Eso significa aprender flujos de trabajo, limitaciones, relaciones y patrones de comportamiento exitosos de maneras que sean estables, gobernables y resistentes al olvido catastrófico. Ese es el problema en el que nos centramos en NeoCognition.

Mirando hacia adelante varios años, ¿qué cree que finalmente separará a los agentes de IA empresariales confiables de la oleada de sistemas experimentales que actualmente inundan el mercado?

Los sistemas que tendrán éxito serán aquellos que se sientan menos como escenarios de juguete y más como operadores confiables.

La capacidad bruta del modelo por sí sola no será suficiente. Las empresas ultimatemente se preocuparán por si los agentes pueden operar consistentemente dentro de sus entornos reales, entender los flujos de trabajo y las limitaciones locales, respetar los límites y los permisos, adaptarse de manera segura con el tiempo y entregar resultados repetibles.

Los ganadores futuros en la IA empresarial no serán simplemente los sistemas que puedan responder a la mayor cantidad de preguntas. Serán los sistemas que puedan aprender un mundo operativo particular lo suficientemente profundo como para actuar con verdadera competencia, juicio y confiabilidad dentro de él.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar NeoCognition.