FLEX lär robotar att generalisera utifrån mänskliga korrigeringar

Forskare vid MIT och New York University har utvecklat FLEX, ett system som använder korrigeringar i samtalsform för att ändra de miljöegenskaper som styr robotens rörelser. MIT offentliggjorde arbetet den 9 november 2026, inför presentationen vid Conference on Robot Learning i november 2026.

FLEX hanterar ett problem med språkstyrd robotik: om man säger åt en robot som bär kaffe att inte spilla på en bärbar dator kan datorn läggas till på robotens lista över hinder, utan att systemet förstår varför den är viktig. Systemet drar i stället slutsatsen att det finns en mer generell preferens för att undvika elektronik. Den simulerade robotarmen anpassar därför sin bana så att den undviker både datorn och en närliggande telefon, utan att behöva få en separat instruktion om telefonen.

Redigera vad roboten håller koll på

I artikeln kallas FLEX för Flexible Feature Editing Pipeline, en flexibel bearbetningskedja för egenskapsredigering. Den skiljer specifikationen av egenskaper från optimeringen av belöning: språkliga korrigeringar identifierar vilka mätbara egenskaper hos en scen som är viktiga, medan demonstrationer avgör hur starkt dessa egenskaper ska påverka rörelsebanan. Denna uppdelning syftar till att hantera representationer som är ofullständiga, överlastade med irrelevanta egenskaper eller abstraherade på fel nivå.

Varje korrigering går igenom ADD, GENERALIZE och MASK. ADD kontrollerar om befintliga egenskaper förklarar korrigeringen. Om inte föreslår en språkmodell en egenskap som saknas och genererar kod för att beräkna den. GENERALIZE ersätter en alltför specifik egenskap med en som är kopplad till den avsedda innebörden. I MIT:s exempel med en bowlingkula omvandlas en begränsning som specifikt gäller en mugg till en regel om att undvika ömtåliga föremål. MASK tar bort egenskaper som inte längre är relevanta.

När MASK körs sist fattas relevansbesluten utifrån egenskaperna efter eventuell generalisering. Experimenten använde GPT-4o, och MIT uppger att hela interaktionen med de tre stegen tar ungefär fem sekunder.

Andreea Bobu, som ledde studien och är chef för MIT:s Collaborative Learning and Autonomy Research Lab, kopplade utformningen till användning i hemmet: ”Alla har olika hem och bryr sig om olika saker, så ingen robot vet från början vad som är viktigt för just dig. Det som gör mig så entusiastisk över FLEX är att systemet kan snappa upp det från en eller två meningar, i stället för att be dig räkna upp varje regel – och det är skillnaden mellan en robot som människor står ut med och en som de faktiskt vill ha i sitt hem.”

Resultat från simuleringar och bedömningar av människor

Forskarna testade FLEX i navigeringsrutnät med måtten 9 × 9 och i simulerade uppgifter med en bordsrobot av typen Franka med sju frihetsgrader. Uppgifterna omfattade kaffe, ett tänt ljus och en bowlingkula. I armuppgifterna användes korrigeringssekvenser i fem steg, där föremålens placering ändrades mellan stegen så att en egenskap som tidigare varit användbar kunde bli irrelevant eller så att en dold felinställning kunde upptäckas.

Jämförelserna omfattade ALGAE, som endast lägger till egenskaper, Mask-From-Exhaustive (MFE), som endast maskerar dem, samt en baslinjemetod utan stegvis vägledning. I den sistnämnda metoden ombeds språkmodellen att skapa en fullständigt uppdaterad uppsättning egenskaper i en enda fråga. Det normaliserade belöningsmåttet ger värdet 1 för optimalt beteende och 0 för den sämsta möjliga rörelsebanan.

Enligt artikeln uppnådde FLEX den högsta genomsnittliga normaliserade belöningen i alla sju navigeringsscenarier. I scenariot som krävde alla tre operationerna var FLEX:s genomsnitt 0,99, jämfört med 0,69 för ALGAE, 0,83 för MFE och 0,78 för baslinjemetoden utan stegvis vägledning.

I de sekventiella armsimuleringarna lärde sig FLEX i allmänhet målets belöningsfunktion efter en eller två korrigeringar och bibehöll prestandan för både tidigare och senare konfigurationer, uppger författarna. Jämförelsemetoderna krävde fler korrigeringar och presterade sämre när irrelevanta egenskaper hopades eller representationerna blev överanpassade till enskilda steg.

I en separat studie på plats deltog 12 personer. Var och en gav skriftliga korrigeringar under tre block med fem steg, där FLEX, ALGAE och MFE användes. Forskarna uppger att FLEX fick det högsta genomsnittsbetyget på samtliga fem frågeformulärsdimensioner. För förståelse av avsikten, på en sjugradig skala, var genomsnittsbetygen 6,3 för FLEX, 5,0 för ALGAE och 4,5 för MFE. FLEX:s skillnader jämfört med båda baslinjemetoderna var statistiskt signifikanta efter justering för multipla jämförelser. Skillnaderna i användarvänlighet och samarbetsförmåga var inte statistiskt signifikanta.

Begränsningar i evidensen och utvecklingsstatus

Studien med människor genomfördes inte med sluten återkoppling på en fysisk robot. Deltagarna fick se simulerade rörelsebanor eftersom vissa baslinjemetoder ledde till ryckiga armrörelser. Separat kombinerade forskargruppen deltagarnas korrigeringar med expertutförda demonstrationer som samlats in med en fysisk Franka-robot, för offlineinlärning. Författarna beskriver arbetet med den fysiska roboten som en genomförbarhetskontroll till stöd för simuleringsstudien.

FLEX är för närvarande begränsat till kvasistatisk hantering av stela föremål vars relevanta egenskaper går att uttrycka med språk. Dynamiska uppgifter och deformerbara föremål kan kräva ytterligare modaliteter. Författarna säger att språkmodellernas allmänkunskap kan hantera preferenser som delas av många, men att den kan brista när det gäller personliga eller kontraintuitiva preferenser. En begäran om att hålla ännu större avstånd till en bärbar dator uttrycker också hur stark preferensen är, något som den nuvarande formuleringen inte fångar.

Författarnas projektsida är fortfarande märkt som ett pågående arbete, och där anges att kod och datamängd kommer att göras tillgängliga inom kort.

För hushållsrobotar och assistansrobotar är färre korrigeringar bara användbara om den härledda preferensen stämmer överens med det användaren faktiskt bryr sig om. Den centrala öppna frågan är om generaliseringar från språkmodeller kan ta hänsyn till individuella preferenser med samma konsekvens under drift i sluten slinga på fysiska robotar.