Automatisoitu työntekijän luottamus: Miten saada ihmiset takaisin prosessiin

Dramaattisessa tapahtumaketjussa Robotaxit, itseohjautuvat ajoneuvot, jotka noutavat matkustajia ilman ihmisen toimintaa, ovat viimeksi otettu käyttöön San Franciscossa. Kiistanalaisen 7-tunnin julkisen kuulemisen jälkeen, päätös vahvistettiin Kalifornian julkisen hyödykkeiden komissiolla. Vaikka protesteja oli, on ilmassa tunteita, jotka viittaavat siihen, että tämä on vain ajan kysymys. Kalifornia on vähitellen höllentänyt rajoituksia vuoden 2022 alusta lähtien. Uudet säännöt sallivat kahdelle luvan saaneelle yhtiölle – Alphabetin Waymolle ja GM:n Cruiselle – lähettää nämä taksit kaikkialla 7-neliökilometrisessä kaupungissa lukuun ottamatta maantieitä, ja veloittaa matkustajilta maksua.

Itseohjautuvien taksien ajatus herättää yleensä kaksi ristiriikaista tunnetta: Innostusta (“taksit paljon edullisemmin!”) ja pelkoa (“osuvatko ne minuun tai lasteniin?”). Siksi sääntelijät usein vaativat, että autot testataan matkustajien kanssa, jotka voivat puuttua ja hallita järjestelmää ennen onnettomuuden sattuessa. Valitettavasti ihmiset, jotka ovat valmiina ohjaamaan järjestelmää reaaliajassa, eivät välttämättä ole parasta tapaa taata turvallisuus.

Todella, 18 kuolemantapauksesta Yhdysvalloissa, jotka liittyvät itseohjautuvien autojen onnettomuuksiin (tammikuun loppuun mennessä), kaikki niistä tapahtuivat, kun järjestelmässä oli jonkinlainen ihmisen valvonta, joko autossa tai etäältä. Tähän kuuluu yksi kuuluisimmista, joka tapahtui myöhään illalla laajalla esikaupunkialueen tiellä Tempe, Arizonassa, vuonna 2018. Itseohjautuva Uber-koeajoneuvo tappoi 49-vuotiaan naisen nimeltä Elaine Herzberg, joka oli juossut pyörällään ylittääkseen tien. Ihmisen kuljettaja matkustajan penkillä katsoi alaspäin, ja auto ei hälyttänyt heitä ennen kuin alle sekunnin ennen törmäystä. He tarttuivat rattiin liian myöhään. Onnettomuus sai Uberin lopettamaan itseohjautuvien autojen testaamisen. Lopulta se myi itseohjautuvien ajoneuvojen osaston, joka oli ollut avainosa sen liiketoimintastrategiassa.

Kuljettaja joutui vankilaan automaatioyritymisen vuoksi, ilmiöstä, joka havaittiin ensimmäisen kerran varhaisimmissa lentokoulutuksissa. Yli-itsevarmuus on usein dynaaminen ilmiö tekoälyjärjestelmissä. Mitä enemmän järjestelmä on autonominen, sitä enemmän ihmiset luottavat siihen eivätkä kiinnitä täyttä huomiota. Meistä tulee väsyneitä seuratessamme näitä teknologioita. Kun onnettomuus on todella tapahtumassa, emme odota sitä eikä reagoida ajoissa.

Ihmiset ovat luonnostaan hyviä riskin ajattelussa, jota riskiasiantuntija Ron Dembo kutsuu “riskin ajatteluksi” – tapa ajatella, jota edistynein koneoppiminen ei vielä pysty jäljittelemään. Tämä on kyky tunnistaa, kun vastaus ei ole ilmeinen, ja hidastaa tai pysähtyä. Riskin ajattelu on kriittistä automaattisille järjestelmille, ja se luo dilemmansa. Ihmiset haluavat olla prosessissa, mutta asettaa meidät valvontaan, kun luotamme niin luottavaisesti automaattisiin järjestelmiin, se voi tehdä asiat huonommaksi.

Miten siis automaattisten järjestelmien kehittäjät voivat ratkaista tämän dilemmansa, jotta kokeet, kuten se, joka on meneillään San Franciscossa, päättyvät myönteisesti? Vastaus on erityinen tarkkaavaisuus ei vain ennen vaikutuksen hetkeä, vaan jo suunnittelun ja kehittämisen alkuvaiheessa. Kaikki tekoälyjärjestelmät sisältävät riskejä, kun niitä jätetään tarkkailematta. Itseohjautuvat autot eivät ole vaarattomia, vaikka ne osoittautuvat lopulta turvallisemmiksi kuin ihmisten ohjaamat autot.

Uberin onnettomuus osoittaa, mitä tapahtuu, kun emme ajattele riskiä tarkoituksella. Tämä vaatii luovaa kitkaa: monien ihmisten näkökulmien tuomista mukaan jo hyvin varhain, ennen kuin nämä järjestelmät julkaistaan. Toisin sanoen, tekoälyjärjestelmien vaikutusten ajattelu sen sijaan, että vain sovellukset vaatii yhteisöjen näkökulmaa, jotka ovat suoraan vaikuttuneita teknologiaan.

Waymo ja Cruise ovat molemmat puolustaneet ajoneuvojensa turvallisuusrekordeja tilastollisen todennäköisyyden perusteella. Kuitenkin tämä päätös tekee San Franciscosta elävän kokeen. Kun tulokset lasketaan, on erittäin tärkeää kerätä oikeat tiedot, jakaa onnistumiset ja epäonnistumiset, ja antaa vaikuttuneiden yhteisöjen osallistua asiantuntijoiden, poliitikkojen ja liiketoimintajohtajien rinnalla. Toisin sanoen, pidä kaikki ihmiset prosessissa. Muuten riskit automaation työntekijän luottamukseen – halukkuuteen delegoida päätöksenteko tekoälyjärjestelmille – hyvin suuressa mittakaavassa.

Juliette Powell ja Art Kleiner ovat yhteiskirjoittajia uudesta kirjasta Tekoälyn dilemma: 7 periaatetta vastuulliselle teknologialle.