Humanoide robotter er på vej ind på fabrikkerne. Hvem har ansvaret, når de svigter?

En robot kan bestå en præstationstest uden problemer og alligevel udgøre en sikkerhedsrisiko, hvis den støder på en uventet forhindring, ændrer adfærd som følge af en softwareopdatering eller møder en medarbejder. Spørgsmålet er ikke længere, om humanoide robotter kan udføre en opgave, men hvordan de kan gøre det. Kan de gøre det sikkert – og hvem har ansvaret, hvis noget går galt?

Agility Robotics og FORT Robotics annoncerede i oktober et partnerskab, der skal forbedre sikkerhedsarkitekturen i Agilitys humanoide robot Digit 5. Deres tilgang er planlagt med indbyggede sikkerhedssystemer samt eksterne grænseflader, kommunikation og manuel tilsidesættelse. Udviklingen markerer et betydeligt skifte: Robotter skal være sikre på arbejdspladser, hvor mennesker arbejder, og det kræver mere end blot en sikker robot.

Teknologi er imidlertid ikke nok til at afgøre, hvem der har ansvaret. Hvis en robot begår en fejl på grund af en defekt komponent, som et AI-system har identificeret forkert, kan producenten, softwareudvikleren, systemintegratoren og den arbejdsgiver, der bruger systemet, blive holdt ansvarlige.

Når AI-beslutninger bliver til fysiske risici

Traditionelle industrirobotter findes typisk i afskærmede arbejdsområder, hvor barrierer og sikkerhedsanordninger holder dem adskilt fra medarbejderne. Humanoide robotter giver en anden udfordring: De skal kunne navigere i miljøer, der er indrettet til mennesker, udføre forskellige opgaver og tilpasse sig forskellige omgivelser.

Denne fleksibilitet skaber nye risici. En fejlagtig registrering kan føre til en unødvendig bevægelse. En softwareopdatering kan ændre robottens adfærd. Ændringer i fabrikkens indretning kan skabe farer, som ikke var til stede under tidligere test.

Dana R. Wolfe, vicepræsident og branchechef hos GFT Americas, sagde til Unite AI, at det kræver flere beskyttelseslag at forhindre usikre indgreb, for eksempel deterministiske sikkerhedsforanstaltninger i softwaren, konfidensgrænser tilpasset den enkelte fabrik, sensorfusion og trinvist gennemført validering inden idriftsættelse.

Det er umuligt helt at undgå falske positive resultater, sagde Wolfe. Producenterne skal i stedet sikre, at fejl ikke fører til usikre fysiske bevægelser.

Konfidensgrænser og menneskelig myndighed bør indgå i systemets sikkerhedsarkitektur, ligesom hardwarebaserede spærringer bør det, sagde Wolfe.

Sikkerhedsstandarderne skal følge med udviklingen

De nuværende standarder for industriel robotteknologi udgør et værdifuldt grundlag, men løser ikke nødvendigvis alle de problemer, som mobile humanoide robotter medfører.

Den Internationale Standardiseringsorganisation (ISO) har offentliggjort sikkerhedskrav til industrirobotter, og ISO 10218-2 omhandler integration af robotter i komplette systemer.

Disse standarder omfatter dog ikke alle anvendelser eller farer ved mobile robotter, der arbejder sammen med mennesker.

Uafhængig afprøvning, scenariebaseret validering og trinvise pilotprojekter på arbejdspladser er særligt vigtige, efterhånden som branchens praksis udvikler sig, sagde Wolfe.

Sikkerhedsvurderinger skal også gentages, hvis ændringer i AI-modellen, softwaren, bevægelsesbegrænsningerne, opgaverne eller fabriksomgivelserne kan gøre tidligere sikkerhedsvurderinger ugyldige.

Efter en større ændring er en robot, der var sikker under ét sæt forhold, måske ikke sikker under de nye forhold.

Menneskeligt tilsyn skal være mere end blot en godkendelse

Det er upraktisk at overvåge enhver beslutning, et AI-system træffer, men når mennesker ikke inddrages i kritiske beslutninger, opstår der en anden udfordring: Det bliver vanskeligere at bevise, hvem der har ansvaret.

Adrian Figueroa Ramos, medstifter og administrerende direktør for Flexio og Routina, sagde, at tilsynet bør fokusere på beslutninger, der indebærer størst usikkerhed eller risiko.

»I dagens AI-verden er der flere resultater, end et menneske kan nå at behandle. Hvis man gennemgår det hele, bliver mennesket en flaskehals, men menneskelig dømmekraft er stadig nødvendig ved beslutninger med høj risiko eller lav konfidens,« sagde han til Unite AI.

Det gælder især fysisk AI. Menneskeligt tilsyn bør omfatte navngivne personer, der har beføjelse til at tilsidesætte et system, og sikre, at beslutninger dokumenteres og kontrolleres – ikke blot godkendes med et klik.

Hvem har ansvaret, når en robot svigter?

Ansvaret bør fordeles mellem parterne ud fra, hvor meget kontrol hver part har over systemet.

Producenterne er for eksempel ansvarlige for at udarbejde og dokumentere sikkerhedsforanstaltninger. Softwareudviklerne bør afprøve ændringer, der kan påvirke robottens opfattelse eller bevægelser.

Integratoren skal validere hele systemet i det miljø, det er beregnet til. Arbejdsgiverne er ansvarlige for at oplære medarbejderne, sikre, at sikkerhedsforanstaltningerne er på plads, og fastlægge procedurer for at standse usikker drift.

Cybersikkerhed er også vigtig. Operationel teknologi kan være sårbar over for problemer med sensorer, software og eksterne systemer, der er forbundet med robotter. Et sikkerhedsbrud, der påvirker den fysiske adfærd, er et arbejdsmiljøproblem såvel som et IT-problem.

Det forventes, at humanoide robotter bliver mere fleksible og produktive på fabrikker i fremtiden. Indførelsen vil dog ikke alene være baseret på præstationsmål. Der er behov for tydeligt ansvar, uafhængig validering og sikkerhedsforanstaltninger, der opretholdes gennem hele robottens arbejdsliv.

Spørgsmålet er: Kan en robot begå fejl? Det kan den, hvis de personer, der bruger den, har skabt et system, der holder dem ansvarlige for disse fejl.