FLEX apprend aux robots à généraliser à partir des corrections humaines

Des chercheurs du MIT et de New York University ont développé FLEX, un système qui utilise des corrections formulées dans le cadre d’un échange conversationnel pour modifier les caractéristiques de l’environnement qui guident les mouvements d’un robot. Le MIT a annoncé ces travaux le 9 novembre 2026, avant leur présentation à la Conference on Robot Learning en novembre 2026.

FLEX s’attaque à un problème de la robotique guidée par le langage : dire à un robot qui transporte du café de ne pas en renverser sur un ordinateur portable peut conduire à ajouter cet objet à sa liste d’obstacles, sans tenir compte de la raison pour laquelle il importe. Le système déduit une préférence plus générale pour éviter les appareils électroniques. Le bras simulé adapte ainsi sa trajectoire pour contourner à la fois l’ordinateur portable et un téléphone à proximité, sans qu’il soit nécessaire de donner une consigne distincte pour ce dernier.

Modifier les éléments que le robot prend en compte

L’article appelle FLEX « Flexible Feature Editing Pipeline » (pipeline de modification flexible des caractéristiques). Le système dissocie la spécification des caractéristiques de l’optimisation de la récompense : les corrections formulées en langage naturel indiquent quelles propriétés mesurables d’une scène sont importantes, tandis que les démonstrations déterminent dans quelle mesure ces propriétés doivent influer sur la trajectoire. Cette distinction vise les représentations incomplètes, trop détaillées parce qu’elles incluent des caractéristiques non pertinentes, ou abstraites à un niveau inadapté.

Chaque correction passe par ADD, GENERALIZE et MASK. ADD vérifie si les caractéristiques existantes permettent d’expliquer la correction. Dans le cas contraire, un modèle de langage propose une caractéristique manquante et génère le code nécessaire à son calcul. GENERALIZE remplace une caractéristique trop spécifique par une caractéristique liée à l’intention déduite. Dans l’exemple du MIT avec une boule de bowling, une contrainte propre à une tasse devient une consigne visant à éviter les objets fragiles. MASK supprime les caractéristiques qui ne sont plus pertinentes.

Exécuter MASK en dernier permet de déterminer la pertinence des caractéristiques après toute généralisation. Les expériences ont utilisé GPT-4o, et le MIT indique que l’interaction complète en trois étapes prend environ cinq secondes.

Andreea Bobu, qui a dirigé l’étude et dirige le Collaborative Learning and Autonomy Research Lab du MIT, a expliqué le lien entre cette conception et l’usage domestique : « Chaque foyer est différent, et chacun accorde de l’importance à des choses différentes. Aucun robot ne peut donc savoir d’emblée ce qui compte pour vous. Ce qui me plaît dans FLEX, c’est qu’il peut le comprendre à partir d’une ou deux phrases, au lieu de vous demander d’énoncer chaque règle — et c’est ce qui fait la différence entre un robot que les gens tolèrent et un robot qu’ils veulent vraiment chez eux. »

Résultats des simulations et évaluations des participants

Les chercheurs ont testé FLEX sur des grilles de navigation de 9 × 9 et dans des tâches simulées sur table avec un bras Franka à sept degrés de liberté, impliquant du café, une bougie allumée et une boule de bowling. Les scénarios avec le bras comportaient des séquences de corrections en cinq étapes. La disposition des objets changeait d’une étape à l’autre, de sorte qu’une caractéristique jusque-là utile pouvait devenir non pertinente ou qu’un défaut d’alignement jusque-là invisible pouvait apparaître.

Les comparaisons portaient sur ALGAE, qui ajoute uniquement des caractéristiques, Mask-From-Exhaustive (MFE), qui n’en masque que, et une référence sans processus guidé qui demande au modèle de langage de produire, en une seule requête, un ensemble complet de caractéristiques mis à jour. La mesure de récompense normalisée attribue la valeur 1 au comportement optimal et 0 à la trajectoire la moins favorable.

L’article indique que FLEX a obtenu la récompense normalisée moyenne la plus élevée dans chacun des sept scénarios de navigation. Dans le scénario nécessitant les trois opérations, la moyenne de FLEX était de 0,99, contre 0,69 pour ALGAE, 0,83 pour MFE et 0,78 pour la méthode de référence sans processus guidé.

Dans les simulations séquentielles avec le bras, les auteurs indiquent que FLEX a généralement appris la récompense cible après une ou deux corrections et maintenu ses performances avec les configurations précédentes comme avec les suivantes. Les méthodes comparées ont nécessité davantage de corrections et leurs performances se sont dégradées à mesure que s’accumulaient les caractéristiques non pertinentes ou que leurs représentations s’adaptaient excessivement à chaque étape.

Une étude distincte en présentiel a réuni 12 participants, qui ont chacun fourni des corrections écrites au cours de trois blocs de cinq étapes utilisant FLEX, ALGAE et MFE. Selon les chercheurs, FLEX a obtenu la meilleure note moyenne pour chacune des cinq dimensions du questionnaire. Pour la compréhension de l’intention, évaluée sur une échelle de sept points, les moyennes étaient de 6,3 pour FLEX, de 5,0 pour ALGAE et de 4,5 pour MFE. Après correction pour tenir compte des comparaisons multiples, les différences entre FLEX et chacune des deux méthodes de référence étaient statistiquement significatives. Les différences en matière de facilité d’utilisation et de capacité à collaborer n’étaient pas statistiquement significatives.

Limites des éléments disponibles et état du développement

L’étude avec des participants n’a pas été menée en boucle fermée sur un robot physique. Les participants ont observé des trajectoires simulées, car certaines méthodes de référence produisaient des mouvements de bras erratiques. Séparément, l’équipe a associé leurs corrections à des démonstrations d’experts recueillies avec un bras Franka physique, afin de procéder à un apprentissage hors ligne. Les auteurs présentent ces travaux sur le matériel comme une vérification de faisabilité venant étayer l’étude par simulation.

FLEX se limite actuellement à la manipulation quasi statique d’objets rigides dont les propriétés pertinentes peuvent être décrites en langage naturel ; les tâches dynamiques et les objets déformables pourraient nécessiter des modalités supplémentaires. Les auteurs indiquent que les connaissances générales des modèles de langage peuvent prendre en compte les préférences largement partagées, mais échouer face aux préférences personnelles ou contre-intuitives. Demander au robot de se tenir encore plus loin d’un ordinateur portable traduit également une préférence quant à son intensité, que la formulation actuelle ne prend pas en compte.

La page du projet des auteurs est toujours indiquée comme étant en cours d’élaboration et précise que le code et le jeu de données seront bientôt disponibles.

Pour les robots domestiques et d’assistance, les corrections ne sont utiles que si la préférence déduite correspond à ce qui compte réellement pour l’utilisateur. La question centrale, encore ouverte, est de savoir si les généralisations des modèles de langage peuvent prendre en compte des préférences idiosyncrasiques avec la même constance lors d’un fonctionnement en boucle fermée sur des robots physiques.