FLEX lærer robotter at generalisere ud fra menneskelige rettelser

Forskere fra MIT og New York University har udviklet FLEX, et system, der bruger rettelser formuleret i samtaleform til at revidere de miljømæssige egenskaber, der styrer en robots bevægelser. MIT offentliggjorde arbejdet den 9. november 2026 forud for præsentationen på Conference on Robot Learning i november 2026.

FLEX tackler en fejltype inden for sprogstyret robotteknologi: Hvis man beder en robot, der bærer kaffe, om ikke at spilde på en bærbar computer, kan det føre til, at computeren føjes til robottens liste over forhindringer, uden at systemet opfatter, hvorfor den er vigtig. Systemet udleder en bredere præference for at undgå elektronik, så den simulerede robotarm tilpasser sin rute, så den går uden om både den bærbare computer og en telefon i nærheden, uden at den behøver en særskilt instruktion om telefonen.

Redigering af det, robotten holder øje med

Artiklen kalder FLEX for Flexible Feature Editing Pipeline. Systemet adskiller specifikationen af egenskaber fra optimeringen af belønning: Sproglige rettelser identificerer, hvilke målbare egenskaber ved en scene der er vigtige, mens demonstrationer afgør, hvor stor indflydelse disse egenskaber skal have på bevægelsesbanen. Denne opdeling retter sig mod repræsentationer, der er ufuldstændige, overfyldt med irrelevante egenskaber eller abstraktionsmæssigt på det forkerte niveau.

Hver rettelse gennemgår trinnene ADD, GENERALIZE og MASK. ADD undersøger, om de eksisterende egenskaber forklarer rettelsen; hvis ikke, foreslår en sprogmodel en manglende egenskab og genererer kode til at beregne den. GENERALIZE erstatter en alt for specifik egenskab med en, der er knyttet til den udledte hensigt. I MIT’s eksempel med en bowlingkugle bliver en begrænsning, der specifikt gælder for krus, ændret til en regel om at undgå skrøbelige genstande. MASK fjerner egenskaber, der ikke længere er relevante.

Når MASK køres til sidst, træffes relevansbeslutningerne på grundlag af egenskaberne efter en eventuel generalisering. Eksperimenterne brugte GPT-4o, og MIT oplyser, at hele interaktionen i tre trin tager omkring fem sekunder.

Andreea Bobu, der ledede undersøgelsen og står i spidsen for MIT’s Collaborative Learning and Autonomy Research Lab, knyttede dette design til brug i hjemmet: »Alle har forskellige hjem, og alle går op i forskellige ting, så ingen robot ved fra starten, hvad der er vigtigt for dig. Det, der begejstrer mig ved FLEX, er, at systemet kan opfange det ud fra en sætning eller to, i stedet for at bede dig formulere hver eneste regel — og det er forskellen på en robot, folk finder sig i, og en, de faktisk gerne vil have i deres hjem.«

Resultater fra simuleringer og vurderinger fra mennesker

Forskerne testede FLEX i navigationsgitre på 9 × 9 felter og i simulerede Franka-opgaver med syv frihedsgrader ved et bord, hvor der indgik kaffe, et tændt stearinlys og en bowlingkugle. Scenarierne med robotarmen brugte rettelsesforløb i fem trin. Genstandenes placering blev ændret mellem trinnene, så en egenskab, der tidligere havde været nyttig, kunne blive irrelevant, eller en skjult fejljustering kunne komme til syne.

Sammenligningen omfattede ALGAE, som kun tilføjer egenskaber, Mask-From-Exhaustive (MFE), som kun fjerner egenskaber, og en baseline uden strukturering, hvor sprogmodellen bliver bedt om at levere et komplet, opdateret sæt egenskaber i én forespørgsel. Deres normaliserede belønningsmål tildeler optimal adfærd værdien 1 og den dårligst mulige bevægelsesbane værdien 0.

Artiklen rapporterer, at FLEX opnåede den højeste gennemsnitlige normaliserede belønning i alle syv navigationsscenarier. I scenariet, der krævede alle tre operationer, var FLEX’ gennemsnit 0,99 sammenlignet med 0,69 for ALGAE, 0,83 for MFE og 0,78 for baseline uden stilladsering.

I de sekventielle simuleringer med robotarmen oplyser forfatterne, at FLEX generelt lærte den ønskede belønningsfunktion efter en eller to rettelser og fastholdt ydeevnen i både tidligere og senere konfigurationer. Sammenligningsmetoderne krævede flere rettelser, og deres ydeevne blev dårligere, efterhånden som irrelevante egenskaber hobede sig op, eller repræsentationerne blev overtilpasset til de enkelte trin.

En separat undersøgelse med fysisk fremmøde omfattede 12 deltagere, som hver indtastede korrektioner i tre blokke med fem faser, hvor de brugte FLEX, ALGAE og MFE. Forskerne rapporterer, at FLEX fik den højeste gennemsnitlige vurdering på alle fem dimensioner i spørgeskemaet. På en syvpunktsskala for forståelse af brugerens hensigt var gennemsnittet 6,3 for FLEX, 5,0 for ALGAE og 4,5 for MFE. Forskellene mellem FLEX og begge baselinemetoder var statistisk signifikante efter korrektion for multiple sammenligninger. Forskellene i brugervenlighed og samarbejdsevne var ikke statistisk signifikante.

Begrænsninger ved evidensen og udviklingsstatus

Undersøgelsen med mennesker blev ikke gennemført med en fysisk robot i et lukket reguleringskredsløb. Deltagerne så simulerede bevægelsesbaner, fordi nogle af baselinemetoderne fik robotarmene til at bevæge sig uforudsigeligt; separat kombinerede teamet deltagernes rettelser med ekspertdemonstrationer indsamlet med en fysisk Franka med henblik på offline-læring. Forfatterne beskriver arbejdet med den fysiske robot som en gennemførlighedstest, der understøtter simuleringsundersøgelsen.

FLEX er i øjeblikket begrænset til næsten statisk manipulation af stive genstande, hvis relevante egenskaber kan beskrives med sprog; dynamiske opgaver og deformerbare genstande kan kræve yderligere modaliteter. Forfatterne siger, at sprogmodellernes sunde fornuft kan håndtere præferencer, som mange deler, men kan slå fejl ved personlige eller kontraintuitive præferencer. En anmodning om at holde endnu større afstand til en bærbar computer udtrykker også, hvor stærk præferencen er, og det tager den nuværende formulering ikke højde for.

Forfatternes projektside er stadig markeret som et igangværende arbejde, og det fremgår, at kode og datasæt snart vil blive tilgængelige.

For husholdningsrobotter og assisterende robotter er færre korrektioner kun nyttige, når den udledte præference stemmer overens med det, brugeren faktisk går op i. Det centrale ubesvarede spørgsmål er, om generaliseringer fra sprogmodeller kan håndtere særegne præferencer lige så konsekvent under drift i en lukket reguleringssløjfe på fysiske robotter.