Ihmismäiset robotit ovat tulossa tehtaisiin. Kuka on vastuussa, kun ne vikaantuvat?

Robotti voi läpäistä suorituskykytestin onnistuneesti ja silti muuttua turvallisuusriskiksi, jos se kohtaa odottamattoman esteen, sen toiminta muuttuu ohjelmistopäivityksen vuoksi tai se kohtaa oikean työntekijän. Kysymys ei enää ole siitä, pystyvätkö ihmismäiset robotit suorittamaan tehtävän, vaan siitä, miten ne voivat sen tehdä. Pystyvätkö ne tekemään sen turvallisesti – ja kuka on vastuussa, jos jokin menee pieleen?

Agility Robotics ja FORT Robotics ilmoittivat lokakuussa yhteistyöstä, jonka tavoitteena on parantaa Agilityn Digit 5 -humanoidirobotin turvallisuusarkkitehtuuria. Ne ovat suunnitelleet lähestymistapansa siten, että siihen sisältyy robotin sisäisiä turvajärjestelmiä sekä ulkoisia liitäntöjä, viestintää ja manuaalinen ohitusmahdollisuus. Kehitys merkitsee merkittävää muutosta: robottien on oltava turvallisia ihmisten työpaikoilla, ja se edellyttää muutakin kuin pelkkää robottia.

Teknologia ei kuitenkaan yksin ratkaise vastuuvelvollisuuteen liittyvää kysymystä. Jos robotti tekee virheen tekoälyjärjestelmän virheellisesti tunnistaman viallisen komponentin vuoksi, vastuuseen voidaan asettaa valmistaja, ohjelmistokehittäjä, järjestelmäintegraattori ja järjestelmää käyttävä työnantaja.

Kun tekoälyn päätökset aiheuttavat fyysisiä riskejä

Perinteiset teollisuusrobotit sijaitsevat yleensä suljetuissa työsoluissa, joissa ne on erotettu työntekijöistä esteillä ja turvalaitteilla. Ihmismäiset robotit tuovat mukanaan toisenlaisen haasteen: niiden on tarkoitus liikkua ihmisille suunnitelluissa ympäristöissä, suorittaa erilaisia tehtäviä ja mukautua erilaisiin ympäristöihin.

Tämä joustavuus synnyttää uusia riskejä. Virheellinen havainto voi johtaa tarpeettomaan liikkeeseen. Ohjelmistopäivitys voi muuttaa robotin toimintaa. Tehtaan pohjaratkaisun muutokset voivat luoda vaaratilanteita, joita ei esiintynyt aiemmissa testeissä.

GFT Americasin varatoimitusjohtaja ja toimialajohtaja Dana R. Wolfe kertoi Unite AI:lle, että vaarallisten toimintojen estämiseen tarvitaan useita suojakerroksia, kuten deterministisiä ohjelmistotason suojamekanismeja, tehdaskohtaisia luottamuskynnyksiä, anturitietojen yhdistämistä ja vaiheittaista validointia ennen käyttöönottoa.

Vääriltä positiivisilta tuloksilta ei voida täysin välttyä, Wolfe sanoi. Valmistajien on sen sijaan varmistettava, etteivät virheet johda vaarallisiin fyysisiin liikkeisiin.

Luottamuskynnysten ja ihmisen päätösvallan tulisi kuulua järjestelmän turvallisuusarkkitehtuuriin, samoin kuin laitteistopohjaisten lukitusten, Wolfe sanoi.

Turvallisuusstandardien on pysyttävä kehityksen tahdissa

Nykyiset teollisuusrobotiikan standardit tarjoavat arvokkaan perustan, mutta ne eivät välttämättä ratkaise kaikkia liikkuviin ihmismäisiin robotteihin liittyviä ongelmia.

Kansainvälinen standardisoimisjärjestö (ISO) on julkaissut teollisuusrobotteja koskevia turvallisuusvaatimuksia, ja standardi ISO 10218-2 käsittelee robottien integrointia osaksi kokonaisia järjestelmiä.

Nämä standardit eivät kuitenkaan kata kaikkia sellaisten liikkuvien robottien käyttötarkoituksia tai vaaratekijöitä, jotka työskentelevät ihmisten kanssa.

Riippumattomat testit, skenaariopohjainen validointi ja vaiheittaiset kokeilut työpaikoilla ovat erityisen tärkeitä alan käytäntöjen kehittyessä, Wolfe sanoi.

Turvallisuusarvioinnit on tehtävä uudelleen myös silloin, kun tekoälymallin, ohjelmiston, liikerajoitusten, tehtävien tai tehdasympäristön muutokset voivat tehdä aiemmista turvallisuusarvioinneista pätemättömiä.

Merkittävän muutoksen jälkeen robotti, joka oli turvallinen tietyissä olosuhteissa, ei välttämättä ole turvallinen uusissa olosuhteissa.

Ihmisen valvonnan on oltava muutakin kuin hyväksynnän antamista

Tekoälyjärjestelmän jokaisen päätöksen valvominen on epäkäytännöllistä, mutta jos ihmiset eivät osallistu kriittisiin päätöksiin, syntyy toinenkin haaste: vastuuvelvollisuutta on vaikeampi osoittaa.

Flexion ja Routinan perustajajäsen ja toimitusjohtaja Adrian Figueroa Ramos sanoi, että valvonnan tulisi keskittyä päätöksiin, joihin liittyy eniten epävarmuutta tai riskejä.

”Tämän päivän tekoälymaailmassa tuotoksia syntyy enemmän kuin ihminen pystyy käsittelemään. Kaiken tarkistaminen tekee ihmisestä pullonkaulan, mutta ihmisen harkintaa tarvitaan silti suuren riskin tai vähäisen varmuuden päätöksissä”, hän kertoi Unite AI:lle.

Tämä pätee erityisesti fyysiseen tekoälyyn. Ihmisen valvontaan tulisi kuulua nimetyt henkilöt, joilla on valtuudet ohittaa järjestelmän päätökset ja varmistaa, että päätökset dokumentoidaan ja tarkistetaan – eikä vain paineta hyväksymispainiketta.

Kuka ottaa vastuun, kun robotti vikaantuu?

Vastuuvelvollisuus tulisi jakaa sen mukaan, miten paljon kullakin osapuolella on määräysvaltaa järjestelmään.

Valmistajat vastaavat esimerkiksi turvallisuustoimien luomisesta ja dokumentoinnista. Ohjelmistokehittäjien tulee testata muutokset, jotka voivat vaikuttaa havaintokykyyn tai liikkeisiin.

Järjestelmäintegraattorin on validoitava koko järjestelmä aiotussa käyttöympäristössä. Työnantajien vastuulla on kouluttaa työntekijät, varmistaa suojatoimien käyttöönotto ja laatia menettelyt vaarallisen toiminnan pysäyttämiseksi.

Myös kyberturvallisuudella on merkitystä. Robotteihin liittyvät antureiden, ohjelmistojen ja ulkoisten järjestelmien ongelmat voivat altistaa operatiivisen teknologian haavoittuvuuksille. Fyysiseen toimintaan vaikuttava tietoturvapoikkeama on sekä työpaikan turvallisuusongelma että IT-ongelma.

Humanoidirobottien odotetaan muuttuvan tulevaisuudessa joustavammiksi ja tuottavammiksi tehtaissa. Käyttöönotto ei kuitenkaan perustu yksinomaan suorituskykymittareihin. Tarvitaan selkeää vastuunjakoa, riippumatonta validointia sekä suojatoimia, joita ylläpidetään robotin koko käyttöiän ajan.

Kysymys kuuluu: voiko robotti tehdä virheitä? Voi, jos sitä käyttävät ihmiset ovat luoneet järjestelmän, joka asettaa heidät vastuuseen näistä virheistä.