Automaatiohyvinvointi: Kuinka palauttaa ihmiset prosessiin

Draamattisessa tapahtumaketjussa Robotaxit, itseohjautuvat ajoneuvot, jotka noutavat matkustajia ilman ihmiskuljettajaa, vapautettiin hiljattain San Franciscossa. 7-tunnin julkisen kuulemisen jälkeen, joka oli kiistanalainen, Kalifornian julkinen hyödyllisyyskomissio teki päätöksen. Protestien huolimatta, on ilmassa tietynlainen väistämättömyys. Kalifornia on vähitellen höllentänyt rajoituksia vuoden 2022 alusta lähtien. Uudet säännöt sallivat kahdelle luvan saaneelle yhtiölle – Alphabetin Waymolle ja GM:n Cruiselle – lähettää nämä taksit minne tahansa 7:n neliökilometrin kaupungissa lukuun ottamatta maantieitä, ja veloittaa matkustajilta maksua. Itseohjautuvien taksien idea herättää usein kaksi ristiriitaista tunnetta: innoittuneisuus (“taksit paljon edullisemmin!”) ja pelko (“osuvatko ne minuun tai lapsiini?”). Siksi sääntelijät usein vaativat, että autot testataan matkustajien kanssa, jotka voivat puuttua ja hallita järjestelmiä ennen onnettomuuden sattumista. Valitettavasti ihmisten valmius, valmiina ohjaamaan järjestelmiä reaaliajassa, ei välttämättä ole paras keino varmistaa turvallisuus. Itse asiassa 18 kuolemantapauksesta Yhdysvalloissa, jotka liittyvät itseohjautuvien autojen onnettomuuksiin (helmikuun loppuun mennessä tänä vuonna), kaikki niistä olivat jollain tavoin ihmisen valvontaa, joko autossa tai etäältä. Tähän kuuluu yksi kuuluisimmista, joka tapahtui myöhään illalla laajalla esikaupunkialueen tiellä Tempe, Arizonassa, vuonna 2018. Itseohjautuva Uber-koeajoneuvo tappoi 49-vuotiaan naisen nimeltä Elaine Herzberg, joka oli juossut pyöränsä kanssa ylittämään tietä. Ihmiskuljettaja matkustajan paikalla katsoi alaspäin, ja auto ei varoittanut heitä ennen kuin alle sekunnin ennen törmäystä. He tarttuivat rattiin liian myöhään. Onnettomuus sai Uberin lopettamaan itseohjautuvien autojen testaamisen. Lopulta se myi itseohjautuvien ajoneuvojen osaston, joka oli ollut avainosa sen liiketoimintastrategiassa. Ihmiskuljettaja joutui vankilaan automaatiohyvinvoinnin vuoksi, ilmiön, joka havaittiin ensimmäisen kerran varhaisimmissa lentokoulutuksen päivissä. Ylittynyt luottamus on usein dynamiikkaa AI-järjestelmissä. Mitä enemmän järjestelmä on autonominen, sitä enemmän ihmiskuljettajat luottavat siihen eivätkä ole täysin valppaita. Meistä tulee bored katsellessamme näitä teknologioita. Kun onnettomuus on todella tapahtumassa, emme odota sitä ja emme reagoi ajoissa. Ihmiset ovat luonnostaan hyviä siinä, mitä riskiasiantuntija Ron Dembo kutsuu “riskirajatteluna” – tapaa ajatella, jota edistynein koneoppiminen ei vielä voi jäljitellä. Tämä on kyky tunnistaa, kun vastaus ei ole ilmeinen, että meidän pitäisi hidastaa tai pysähtyä. Riskirajattelu on kriittinen automaattisille järjestelmille, ja se luo dilemman. Ihmiset haluavat olla prosessissa, mutta asettaminen valvontaan, kun luotamme niin täydellisesti automaattisiin järjestelmiin, voi tehdä asiat huonommiksi. Miten siis automaattisten järjestelmien kehittäjät voivat ratkaista tämän dilemman, jotta kokeet, kuten tämä San Franciscossa, päättyvät myönteisesti? Vastaus on erityinen tarkkaavaisuus ei vain ennen törmäyshetkeä, vaan jo varhaisessa suunnitteluvaiheessa ja kehityksessä. Kaikki AI-järjestelmät sisältävät riskejä, kun niitä jätetään tarkkaamatta. Itseohjautuvat autot eivät ole vapaita riskeistä, vaikka ne osoittautuvat turvallisemmiksi kuin ihmisen ohjaamat autot keskimäärin. Uber-onnettomuus osoittaa, mitä tapahtuu, kun emme ajattele riskirajattelua tarkoituksella. Tämä edellyttää luovaa kitkaa: monien ihmisten näkökulmien tuomista peliin jo ennen järjestelmien julkaisua. Toisin sanoen, AI-järjestelmien vaikutusten ajattelu sen sovellusten sijaan vaatii yhteisöjen näkökulmia, jotka ovat suoraan vaikuttuneita teknologiasta. Waymo ja Cruise ovat molemmat puolustaneet ajoneuvojensa turvallisuusrekordeja tilastollisen todennäköisyyden perusteella. Huolimatta tästä, tämä päätös muuttaa San Franciscon eläväksi kokeeksi. Kun lopputulokset lasketaan, on erittäin tärkeää kerätä oikeat tiedot, jakaa onnistumiset ja epäonnistumiset, ja antaa vaikuttuneiden yhteisöjen osallistua asiantuntijoiden, poliitikkojen ja liiketoimintaihmisten rinnalla. Toisin sanoen, pidä kaikki ihmiset prosessissa. Muuten meillä on riski automaatiohyvinvoinnista – valmiudesta delegoida päätöksenteko AI-järjestelmille – hyvin suuressa mittakaavassa. Juliette Powell ja Art Kleiner ovat yhteiskirjoittajia uudessa kirjassa The AI Dilemma: 7 Principles for Responsible Technology.