Vi har lært robotter at bevæge sig. Nu lærer vi dem at leve

Den moderne robotteknologi er nået til et punkt, hvor bevægelse ikke længere er den største udfordring – maskiner kan allerede navigere, gribe og operere i rummet med imponerende præcision. Men at give dem mulighed for virkelig at “leve” og fungere i den virkelige verden er stadig et uløst problem.

I denne proces spiller det, der kan kaldes “rygmarven”, en nøglerolle: systemet, der er ansvarligt for grundlæggende reaktioner, adfærd og interaktion med omgivelserne.

Når man ser på udviklingen af robotter gennem denne lens, bliver det klart, at denne sekvens af stadier – hvor systemet lærer noget nyt på hvert trin, fra simpel bevægelse til komplekse, kontekstafhængige handlinger – ligner menneskelig udvikling.

Og det er netop inden for denne udvikling – fra “tom” hardware til meningsfuld adfærd – at den primære skift i fysisk AI sker i dag. Det er interessant at lære mere om det.

Robotikkens grundlag: et stadium, der sjældent diskuteres

Hvad er en robot i praktisk forstand? Det er en fysisk enhed, der oprindeligt er skabt som en universel platform. I essensen er det en “blank”, der herefter skal tilpasses specifikke opgaver, trænes til at operere i en given omgang og læres at udføre de nødvendige handlinger.

Hvis vi ser ud over hverdags-scenarier og overvejer mere realistiske nære fremtidsscenarier, bliver det klart, at den fulde indførelse af robotter primært vil ske i industrielle og potentielt farlige omgivelser. Dette medfører i sin tur betydeligt højere krav til deres adfærd, robusthed og træningskvalitet.

Processen begynder med det mest grundlæggende trin – opbygningen af enheden selv. En robot samles af multiple komponenter, herunder aktuatorer, motorer, sensorer, kameraer, LiDAR’er. Den kan være humanoid, hjulbetonet, tobenet eller firebenet – formfaktoren er sekundær. Det, der betyder noget, er, at vi på dette stadium ender med en fungerende, men stadig “tom” enhed.

Dette følges af installationen af en basismodel, der fungerer som grundlag for dens adfærd. I bred forstand er “modellen” det samlede funktionelle kontrol-lag. Det er ansvarligt for kernefærdigheder: vedligeholde balance, stå og bevæge sig, navigere fra punkt A til punkt B, undgå hindringer, ikke beskadige omgivelserne og sikre en sikker interaktion med mennesker.

Dette er, hvor forstærkninglæring kommer ind i billedet. I sådanne systemer køres milliarder af simulationer. Vi ser ofte videoer af robotter, der “lærer” i komplekse omgivelser: de fleste af dem falder, taber balance eller kan ikke udføre opgaven. Men de, der formår at blive oprette og fortsætte med at bevæge sig, er dem, der fremskridter.

Dette er essensen af forstærkninglæring: udvælgelse af succesfuld adfærd. Algoritmernes “overlevende” bliver grundlaget for de næste iterationer. Som resultat heraf opstår der efter et enormt antal løb en model, der kan håndtere hindringer med sikkerhed. Denne algoritme overføres herefter til den fysiske enhed.

Det er et grundlag, der er grundet, men kritisk vigtigt – ofte med lidt eller intet computer-syn, som ikke er nødvendigt på dette punkt. Det, vi har med at gøre her, er grundlæggende fysik og mekanik, der skal indlejres i systemet fra begyndelsen.

Hvordan robotter begynder at “føle” verden

Så har vi allerede “hardwaren” – en robot med en basis-model installeret: den kan stå, gå og vedligeholde balance. Men er dette nok til virkelige opgaver, for eksempel i industrielle omgivelser? Klart ikke.

Næste niveau begynder her. Vi integrerer sensorer og træner modellen til at handle baseret på sansning. Et nyt lag af kernefærdigheder opstår – allerede langt mere komplekst end simpel bevægelse.

En analogi med menneskelig udvikling er nyttig her. På det første stadium bragte vi systemet op på et niveau svarende til et ett-årigt barn: det kan stå, tage sine første skridt og vedligeholde balance uden at falde. Næste trin er mere i linje med et otte-årigt barns niveau.

På dette stadium bruger barnet aktivt sine “sensorer”: det kan opfatte risiko og evaluere konsekvenserne af sine handlinger. Det forstår ikke at røre noget varmt eller putte noget meget koldt i munden. Det kan klatre op på et bord, køre på cykel og interagere med objekter. Det er i stand til at gribe, bære og manipulere genstande og udføre grundlæggende selvomsorgshandlinger.

Vi kalder dette stadium for-præ-træning. Og på dette punkt er simulationer alene ikke længere tilstrækkelige.

Ja, nogle scenarier kan stadig modelleres effektivt: hvordan man samler en glass, eller erstatter en batteri, for eksempel, fjerner en komponent, placerer den på opladning, tager en anden og installerer den tilbage.

Men generelt skifter balancen: omkring 80% af træningen kan stadig ske i simulation, mens omkring 20% af dataene må komme fra den virkelige verden. Og det er her, vi begynder at diskutere egocentrisk data.

Egocentrisk data som grundlag for miljøforståelse

I dag indsamles egocentrisk data i masseomfang verden over – fordi uden det er det umuligt at gå fra grundlæggende mekanik til meningsfuld interaktion med den virkelige verden. En kollega af mine, der driver et netværk af bilværksteder, har ansatte, der bruger hovedmonterede kameraer til at optage hele bilreparationsprocessen. En bygningsejer i New York City har implementeret en tilsvarende tilgang: rengøringspersonale bærer pande-monterede kameraer, der optager, hvordan de rengør rum og vedligeholder hygiejneområder.

Over tid bliver disse optagelser til en selvstændig produkt – de pakkes og sælges. Deres værdi ligger i deres egnethed til for-præ-trænings-stadiet, hvor de hjælper med at opbygge en grundlæggende forståelse af miljøer og handlingssekvenser.

For eksempel fandtes en sådan tjeneste på Keymakr, hvor teamet uafhængigt oprettede hele samlinger af egocentrisk data fra simple scenarier som vask af tallerkener til mere komplekse.

Hvorfor er dette så vigtigt? Fordi sådanne data giver noget, som ren simulation ikke kan – mangfoldigheden af den virkelige verden. Kontorer, bilværksteder, byggepladser, restauranter og hoteller – hver af disse tilføjer sin egen kontekst, scenarier og nuancer. Samlet danner de en dataset, der giver systemet mulighed for ikke blot at “se”, men langsomt at begynde at forstå dynamikken i den virkelige verden.

På dette stadium er målet ikke længere at lære en robot at udføre en bestemt handling perfekt. Det, der betyder mere, er at give den mulighed for at orientere sig i omgivelserne fra starten.

I dag er næsten alle virksomheder, der arbejder med robotteknologi – fra Tesla til Unitree Robotics og Figure AI – fokuseret på dette eksakte stadium. Deres mål er at opbygge en basis-model, hvis evner først ligner dem af et “otte-årigt barn”, og derefter fremme mod et “tolv-årigt barn”. Dette er også, hvad vi fokuserer på hos Introspector – forberedelse af data, der er nødvendige for for-præ-træning, den kritiske fase i “tilblivelsen” af moderne robotteknologi.

Den sidste mils træning: hvor universalitet slutter, og specialisering begynder

Lad os forestille os, at en robot allerede har gennemført for-præ-træning og er fremstillet fra starten med en grundlæggende forståelse af verden og en færdigheds-sæt, der ligner dem af en teenager. Men selv dette er ikke nok til virkelige forretnings-tilfælde. Virksomheder har ikke brug for en “almindelig” robot – de har brug for en specialist.

Tag bilproduktion som eksempel. Nogle opgaver udføres stadig af mennesker, fordi de kræver følsomhed, præcision og kontinuerlig visuel kontrol. Traditionel automatisering kæmper her. Industrielle manipulatorer er gode til repetitive, stive opgaver – “tag, flyt, placer”. Men opgaver, der kræver tilpasning, tryksansning og realtids-justeringer, forbliver i menneskers domæne.

Dette er, hvor en ny efterspørgsel opstår: at træne en robot til at udføre en specifik operation præcis, som en dygtig arbejder gør på en produktionslinje. Med andre ord, efter basis-træning kommer det næste niveau: træning til en specifik profession og scenario.

På dette punkt opstår der et praktisk spørgsmål: hvad kræves der præcis for dette niveau af træning? Hvis vi ønsker, at en robot skal genskabe menneskelig præstation, har vi brug for at fange det menneskelige adfærd så præcist som muligt. For eksempel ville specialisten på fabriksgulvet have brug for at bære en kamera og over en længere periode, måneder eller endda et år, optage, hvordan de udfører opgaven.

Hvad det kræver for robotter at “leve” i den menneskelige verden

Et kamera alene er ikke nok. Det er nødvendigt at fange ikke blot det visuelle perspektiv, men også fysikken af bevægelse. Dette gøres ved hjælp af specialiserede handsker med taktil-sensorer, der måler tryk, påvirkning og arten af interaktion med objekter. Dette er især vigtigt, fordi objekterne selv kan variere betydeligt. For eksempel kan tætningsstriber variere i stivhed efter bilmodel, hvilket direkte påvirker, hvordan opgaven udføres.

Derefter følger kinematisk sporing. Mærker – visuelle eller sensor-baserede – placeres på handled, albue og undertiden skuldre. Disse kan omfatte, for eksempel, armbånd med identificerbare mærker (lignende QR-koder), der giver systemet mulighed for at spore håndposition i rum fra video. Yderligere sensorer, såsom gyroskoper, bruges til at fange ledbevægelser.

Det endelige mål er at fuldstændigt genskabe mekanikken af bevægelse: hvordan skulderen bevæger sig, hvordan albuen bøjer, hvordan håndleddet roterer. Alt dette bliver essentiel for det næste stadium – efter-træning.

Hvis vi under for-præ-træning stadig delvist kunne stole på simulation, er det på dette stadium ikke længere muligt. Denne “sidste mil” er næsten umulig at modellere nøjagtigt. Man kan ikke fuldstændigt simulere, for eksempel, hvordan en kok ruller ud dejen – kraften, der påvirkes, hvordan trykket er fordelt, hvordan materialet føles.

Derfor er det under efter-træning næsten alle data, der kommer fra den virkelige verden. Og det er her, det bliver klart: den primære udfordring skifter til den praktiske domæne – hvordan man kan opnå sådanne data i virkeligheden. Indsamling af egocentrisk data på dette niveau er en kompleks, multi-trin-proces, der involverer adgang til omgivelser, specialiseret udstyr, deltagelse af dygtige arbejdere og efterfølgende data-forberedelse.

Uden for teorien er det her, robotter virkelig “kommer til live” – efter vi har formået at organisere denne proces, overvinde begrænsninger, som holdene står overfor på tværs af brancher, og annotere sådanne datasets i stor skala. Dette vil blive dækket i den næste del, hvor vi vil tage et nærmere kig på alle udfordringer, der opstår under mærkning og forberedelse.