Yu Su, Co-fondateur et PDG de NeoCognition – Série d’entretiens

Yu Su, co-fondateur et PDG de NeoCognition, est un chercheur en intelligence artificielle de longue date dont la carrière s’étend de l’académie à l’entreprise AI et aux systèmes d’agents avancés. En plus de diriger NeoCognition, il est professeur associé et chercheur en innovation à l’Université d’État de l’Ohio, où ses travaux se sont concentrés sur les agents IA, les systèmes de raisonnement et l’apprentissage automatique. Son parcours comprend également plus de six ans en tant que chercheur principal chez Microsoft, où il a travaillé aux côtés de chercheurs de premier plan, notamment Percy Liang, sur les systèmes de conversation IA pour Outlook en utilisant des techniques d’analyse sémantique. À travers ses rôles chez Microsoft, dans l’académie et dans les institutions de recherche telles que le centre de recherche IBM T.J. Watson, Yu Su a établi une réputation pour faire progresser les systèmes IA capables de raisonner, d’apprendre et d’interagir avec des environnements numériques complexes, aidant à combler le fossé entre la recherche de pointe et les applications du monde réel.

NeoCognition est une entreprise de recherche en agents IA qui se concentre sur le développement de ce qu’elle décrit comme une « intelligence spécialisée » — des systèmes IA qui apprennent et s’améliorent continuellement grâce à l’expérience. Fondée par des chercheurs en IA de premier plan, l’entreprise poursuit une vision qui va au-delà des grands modèles de langage statiques vers des agents capables de développer une expertise approfondie dans des domaines spécifiques. Ses recherches portent sur des domaines tels que l’apprentissage continu, le raisonnement, la planification, l’utilisation d’outils et la collaboration entre agents, avec pour objectif de créer des systèmes IA qui deviennent plus capables et fiables avec le temps. En combinant les progrès de l’apprentissage automatique avec des techniques de raisonnement structuré et d’apprentissage adaptatif, NeoCognition vise à aider à façonner la prochaine génération d’agents IA capables de relever des tâches du monde réel de plus en plus complexes.

De nombreuses entreprises se sont précipitées pour lancer des copilotes IA génériques, mais nous entendons de plus en plus de préoccupations concernant la fiabilité une fois que ces systèmes entrent dans des environnements de production réels. Pourquoi, selon vous, de nombreux agents IA actuels ont-ils du mal en dehors des démos contrôlées ?

La plupart des agents IA actuels ont du mal en production parce qu’ils sont encore fondamentalement des généralistes qui opèrent sans une compréhension durable de l’environnement dans lequel ils travaillent. Ils peuvent souvent accomplir une tâche une fois dans une démo, mais cela est très différent du développement d’un jugement répétitif à l’intérieur d’un système opérationnel réel.

Les modèles d’aujourd’hui sont des repéreurs de modèles impressionnants, mais ils manquent encore des mécanismes que les humains utilisent pour devenir des experts fiables. Les humains ne deviennent pas fiables en mémorisant des tâches isolées. Nous nous spécialisons en apprenant la structure d’un monde particulier : les flux de travail, les contraintes, les relations, les outils, les priorités et les conséquences qui définissent une profession ou une organisation. Au fil du temps, nous construisons un modèle de travail interne de cet environnement, et c’est ce modèle qui permet aux bonnes décisions de devenir cohérentes et répétitives.

La plupart des agents IA d’aujourd’hui ne construisent pas ce type de compréhension opérationnelle. Ils s’appuient lourdement sur des couches de promptage, de récupération ou d’orchestration qui les aident à accomplir des actions isolées, mais ils improvisent encore largement chaque fois qu’ils rencontrent une nouvelle situation. C’est pourquoi les performances se dégradent souvent une fois que l’environnement change et encore plus lorsque celui-ci devient désordonné, dynamique ou à haut risque.

Le morceau manquant est la spécialisation. Les humains prospèrent parce que nous pouvons continuellement nous adapter à des environnements changeants et devenir des experts à l’intérieur d’eux grâce à l’apprentissage continu. Nous croyons que les agents IA ont besoin d’une capacité similaire : la capacité d’apprendre la structure locale d’un domaine suffisamment en profondeur pour opérer avec une véritable compétence.

NeoCognition a décrit sa vision comme la construction d’agents qui peuvent apprendre et s’adapter de manière continue, plus comme les humains. Qu’est-ce que cela signifie techniquement par rapport aux approches de fine-tuning statique ou basées sur la récupération que de nombreuses entreprises utilisent aujourd’hui ?

La plupart des systèmes IA d’entreprise d’aujourd’hui améliorent les performances soit en affinant un modèle une fois, soit en récupérant des informations pertinentes au moment de l’inférence. Ces approches peuvent être utiles, mais elles n’autorisent pas fondamentalement un agent à développer une expertise évolutive à l’intérieur d’un domaine.

L’affinement est généralement statique après la formation. Les systèmes de récupération aident à faire surface des informations, mais la récupération de connaissances n’est pas la même chose que le développement d’une expertise de domaine ou l’adaptation du comportement en fonction de l’expérience au fil du temps. Dans de nombreux cas, l’agent manque encore d’un modèle persistant de l’environnement dans lequel il opère.

Lorsqu’un humain rejoint une entreprise, il ne devient pas efficace simplement parce qu’il peut rechercher des documents. Il développe progressivement un jugement en comprenant comment l’organisation fonctionne réellement et l’expertise émerge de l’affinement continu de ce modèle interne.

Nous croyons que la prochaine génération d’agents a besoin d’un mécanisme d’apprentissage similaire. Chez NeoCognition, nous nous concentrons sur la possibilité pour les agents de former ces types de modèles opérationnels évolutifs afin qu’ils puissent continuellement se spécialiser et s’améliorer dans un domaine au fil du temps, plutôt que de recommencer constamment à zéro ou de dépendre d’une réingénierie humaine constante.

Il semble y avoir une division croissante entre l’expérimentation IA et la confiance opérationnelle. Les entreprises peuvent réussir à créer des prototypes d’agents en interne, mais déployer ceux-ci à grande échelle est un défi tout à fait différent. Qu’est-ce que les organisations sous-estiment dans cette transition ?

De nombreuses organisations sous-estiment à quel point les environnements opérationnels réels sont dynamiques. Un agent qui fonctionne à 85 % de précision peut sembler solide lors des tests, mais à l’échelle de l’entreprise, cela se traduit encore par un flux constant d’erreurs et de situations de récupération que les équipes humaines doivent gérer. Le défi devient encore plus important dans les flux de travail multi-étapes où les échecs se cumulent à travers les systèmes et les tâches, rendant la surveillance, l’intervention et la responsabilité beaucoup plus difficiles que ce que de nombreuses organisations attendent initialement.

Les entreprises traitent encore le déploiement comme un problème d’orchestration ou de promptage, alors qu’en réalité, c’est également un problème d’apprentissage. La partie difficile n’est pas seulement de faire exécuter une tâche à un agent. C’est de permettre au système de développer une compétence et un jugement durables à l’intérieur d’un environnement opérationnel dynamique.

La charge de personnalisation, de promptage, de supervision et de réingénierie pèse encore lourdement sur les équipes humaines aujourd’hui. C’est souvent un signe que le système manque encore de compréhension opérationnelle ; ils sont dirigés manuellement à travers celui-ci à chaque fois. Ce n’est pas un chemin vers l’échelle ou la confiance.

Un thème majeur émergeant dans l’industrie de l’IA est la gouvernance, les garde-fous et l’application des politiques. Pourtant, NeoCognition soutient que la gouvernance seule ne suffit pas. Pourquoi croyez-vous que la fiabilité nécessite finalement des systèmes qui s’adaptent continuellement à leur environnement au lieu de simplement suivre des règles statiques ?

La gouvernance et les garde-fous sont extrêmement importants, mais les règles statiques seules ne peuvent pas résoudre complètement la fiabilité dans des environnements complexes.

Les systèmes opérationnels de production sont constamment en évolution. Les flux de travail évoluent, les outils sont mis à jour, les politiques changent et des situations inattendues émergent qui ne peuvent pas toujours être anticipées à l’avance. Si un agent ne sait suivre que des règles prédéfinies sans comprendre l’environnement dans lequel il opère, il finira par rencontrer des situations que ces règles n’ont pas prévues.

La fiabilité des humains vient du jugement, et non seulement de l’adhésion rigide aux scripts, mais parce que nous développons un jugement en comprenant la structure et les contraintes du monde qui nous entoure. Nous apprenons quand il faut faire monter les escaliers, quand quelque chose a l’air anormal et quand le contexte change le plan d’action correct.

Nous croyons que les agents IA ont besoin d’une capacité similaire d’adaptation et de compréhension de l’environnement. Des systèmes plus sûrs résulteront de les rendre plus compétents et spécialisés dans des mondes opérationnels clairement définis. Ce type de système observe son propre environnement et ses propres sorties, et suit où il échoue et met à jour son comportement.

L’industrie de l’IA met souvent l’accent sur des modèles plus grands et des capacités plus larges, mais NeoCognition semble se concentrer sur la spécialisation et l’apprentissage contextuel. Croyez-vous que l’avenir des agents IA d’entreprise ressemblera plus à des travailleurs numériques hautement spécialisés qu’à des assistants universels ?

Nous croyons fortement que l’avenir sera conduit par la spécialisation. L’industrie s’est naturellement concentrée sur des modèles de plus en plus généraux parce que la capacité étendue est impressionnante. Mais dans les environnements d’entreprise, le véritable défi n’est pas de savoir si un agent peut faire un peu de tout. C’est de savoir s’il peut remplir un rôle spécifique de manière fiable et avec un jugement sain au fil du temps. Notre force n’est pas que nous soyons des experts nés dans chaque environnement. C’est que nous pouvons apprendre la structure d’un monde particulier suffisamment en profondeur pour fonctionner de manière efficace à l’intérieur.

Chez NeoCognition, nous croyons que l’avenir ne sera pas celui d’un super-agent qui fait tout. Mais plutôt une abondance d’agents spécialisés, chacun apprenant un monde particulier suffisamment en profondeur pour opérer avec une compétence, un jugement et une fiabilité d’expert à l’intérieur. Leur objectif n’est pas de remplacer l’expertise humaine, mais de la rendre plus abondante : de mettre des capacités de pointe à la portée de beaucoup plus de personnes et d’élever le niveau de base de ce que toute personne ou organisation peut faire.

L’une des plus grandes préoccupations entourant les agents autonomes est leur comportement lorsque les environnements changent de manière inattendue. Quelle est l’importance de l’adaptation et de la conscience de l’environnement réel pour prévenir les défaillances, les hallucinations ou les actions dangereuses ?

C’est absolument critique. Sans conscience de l’environnement, les agents peuvent continuer à agir avec confiance même lorsque leur compréhension de la situation est obsolète ou incomplète. C’est là que les défaillances opérationnelles émergent souvent.

Nous croyons que la fiabilité nécessite que les agents apprennent continuellement la structure locale de l’environnement dans lequel ils opèrent et mettent à jour leur compréhension au fil du temps. La fiabilité change et évolue au fil du temps : ce qui semblait fiable en septembre peut ne pas sembler la même chose en mai. Plus un agent comprend les systèmes, les contraintes, les flux de travail et les relations qui l’entourent, plus il devient capable de reconnaître quand les conditions ont changé ou quand l’incertitude nécessite une escalade.

À quel point, selon vous, l’industrie est-elle proche de déployer des systèmes IA qui peuvent vraiment s’améliorer grâce à l’interaction continue avec des environnements opérationnels réels ?

Nous sommes encore tôt dans la construction des mécanismes d’apprentissage sous-jacents nécessaires à l’apprentissage continu et à l’auto-amélioration fiables, mais l’industrie est beaucoup plus proche de cette transition que beaucoup de gens ne le réalisent. Nous vivons dans un calendrier compressé. Les ingrédients pour la prochaine percée technologique sont prêts. Cela peut arriver très bientôt.

Ce qui compte, ce n’est pas simplement l’auto-amélioration abstraite, mais la spécialisation structurée à l’intérieur de véritables environnements. Cela signifie apprendre les flux de travail, les contraintes, les relations et les modèles de comportement réussi de manière stable, gérable et résistante à l’oubli catastrophique. C’est le problème sur lequel nous nous concentrons chez NeoCognition.

En regardant quelques années en avant, qu’est-ce que vous pensez finalement séparera les agents IA d’entreprise fiables de la vague de systèmes expérimentaux qui inondent actuellement le marché ?

Les systèmes qui réussiront seront ceux qui ressembleront moins à des scénarios de jouets et plus à des opérateurs fiables.

La capacité brute du modèle ne suffira pas. Les entreprises s’intéresseront finalement à savoir si les agents peuvent fonctionner de manière cohérente dans leurs environnements réels, comprendre les flux de travail et les contraintes locaux, respecter les limites et les autorisations, s’adapter de manière sûre au fil du temps et fournir des résultats répétitifs.

Les gagnants futurs de l’IA d’entreprise ne seront pas simplement les systèmes qui peuvent répondre à la plus large gamme de questions. Ils seront les systèmes qui peuvent apprendre un monde opérationnel particulier suffisamment en profondeur pour agir avec une véritable compétence, un jugement et une fiabilité à l’intérieur.

Merci pour cette grande interview. Les lecteurs qui souhaitent en savoir plus peuvent visiter NeoCognition.