Edistyneet tekoälytekniikat esittävät eettisiä haasteita – ajattelijat

Alfred Crews Jr, varapresidentti ja pääneuvonantaja BAE Systems Inc:n tiedustelu- ja turvallisuussektorilla

Aikaisemmin tänä vuonna, ennen koronapandemiaa, osallistuin The Citadelin tiedustelun eettisen konferenssiin Charlestonissa, jossa keskustelimme tiedustelun eettisistä kysymyksistä kansallisen turvallisuuden suojelemisen yhteydessä. Puolustusteollisuudessa näemme tietojen, laskennan ja edistyneiden teknologioiden lisääntymisen, erityisesti tekoälyssä (AI) ja koneoppimisessa (ML). On kuitenkin merkittäviä ongelmia tekoälyn käytössä tiedustelun tai reaaliaikaisen taistelun yhteydessä.

Tehtävä, joka kyseenalaistaa ja analysoi tien eteenpäin

Mitä meidän on kysyttävä, analyysittävä ja määritettävä on, kun käytetään tekoälyä kvanttilaskennan kanssa sotatoimien päätöksenteon prosessissa. Esimerkiksi, muistakaa Terminator? Teknologiamme tekee jättimäisiä harppauksia, ja Skynetin todellisuus on edessämme. Voimme kysyä itseltämme, “Tuleeko Skynet meille?” Kävelkää minun kanssani muistellen; tekoälykoneet ottivat vallan, koska ne pystyivät ajattelemaan ja tekemään päätöksiä omillaan, ilman ihmisen ohjausta. Kun koneet totesivat, että ihmiset olivat virhe, ne pyrkivät tuhoamaan ihmiskunnan. Älkää väitä, että tekoälyllä on suuri potentiaali, mutta uskon, että sille on asetettava ohjausparametrit riskin vuoksi.

Tehtävän eettiset epäselvyydet ja filosofinen dilemma

Uskon, että tämä on juuri siksi, miksi Yhdysvaltain puolustusministeriö (DoD) on antanut oman eettiset periaatteet tekoälylle, koska tekoälyn käyttö herättää uusia eettisiä epäselvyyksiä ja riskejä. Kun yhdistetään tekoälyä kvanttilaskennan kanssa, päätöksenteko muuttuu ja riski menettää hallinnan kasvaa – enemmän kuin mitä me voimme tänä päivänä kuvitella. Kvanttilaskenta jättää ihmisaivojen toimintajärjestelmän häpeään, koska supertietokoneet voivat tehdä eksponentiaalisesti enemmän laskelmia nopeammin ja tarkemmin kuin mitä ihmisaivot koskaan pystyvät.

Lisäksi tekoälyn ja laskennan yhdistäminen esittää filosofisen dilemmän. Mihin pisteeseen maailma sallii koneiden olla omillaan? Ja jos koneet saavat ajatella omillaan, tarkoittaako se, että kone on tullut itseään tietoiseksi? Onko itseään tietoinen olio elävä? Yhteiskunnassa meillä ei ole vielä määritelty, miten määritellä tämä tilanne. Näin ollen, jos koneet tekevät toimia omillaan ilman ihmisen ohjausta, se voi johtaa seurauksiin. Voiko kone ohittaa ihmisen väliintulon lopettaa tulen? Jos kone toimii omillaan, voimme me lopettaa sen toiminnan?

Näen asian niin, että tekoälyn käyttäminen puolustusnäkökulmasta on helppoa. Mutta kuinka paljon helpompaa olisi siirtyä hyökkäävään? Hyökkäävällä puolella koneet tekisivät taistelupäätöksiä paikalla. Voisiko koneen ampuminen vihollista vastaan olla rikos Geneven yleissopimuksen ja aseellisen selkkauksen lakien vastainen? Siirryttäessä tähän tilaan nopeasti, maailman on sovittava, että tekoälyn ja kvanttilaskennan käyttö taistelussa on sovitettava nykyisiin lakeihimme.

Puolustusministeriöllä on kanta tekoälyn käytöstä autonomisten järjestelmien kanssa ja se toteaa, että aina on ihmisen osallistuminen päätöksentekoprosessiin; ihminen tekee lopullisen päätöksen aseiden käytöstä. Se on sääntömme, mutta mitä tapahtuu, jos vastapuoli päättää valita toisen reitin ja antaa tekoälykoneen tehdä kaikki lopulliset päätökset? Sitten kone, joka on jo nopeampi, älykkäämpi ja tarkempi, olisi etuoikeutettu.

Otetaan esimerkki: drone, jossa on tekoäly ja kasvontunnistus. Drone ampuu omillaan, koska se on asetettu kohdistamaan terroristiin. Kuka on vastuussa ampumisesta? Onko vastuuta, jos on tapahtunut vinoutunut virhe?

Tehtävän vinoutuneisuus

Tutkimus osoittaa, että kone on vähemmän altis virheille kuin ihminen. Tutkimus osoittaa myös, että koneoppimisessa on vinoutuneisuutta, joka perustuu ihmisen “opettajaan”, joka opettaa konetta. Puolustusministeriön viisi eettistä periaatetta tekoälylle mainitsee olemassa olevat vinoutuneisuudet, kun se toteaa, “Ministeriö ottaa tietoisen askeleen vähentääksesi tahattoman vinoutuneisuuden tekoälyominaisuuksissa.” Jo olemme tutkineet tutkimuksia, jotka osoittavat, että kasvontunnistussovelluksissa on vinoutuneisuutta värikkäiden ihmisten suhteen, ja virheellisiä positiivisia tuloksia. Kun henkilö luo koodin, joka opettaa konetta, siinä on vinoutuneisuutta. Tämä voi olla tahatonta, koska henkilö, joka luo tekoälyä, ei ollut tietoinen vinoutuneisuudesta, joka oli itsessään.

Miten vinoutuneisuutta voidaan poistaa? Tekoälyn tulokset ovat yhtä hyviä kuin syöte. On oltava valvontaa. On ohjattava tietoa, joka virtaa sisään, koska se voi tehdä tekoälyn tulokset vähemmän päteviksi. Kehittäjien on jatkuvasti kirjoitettava uudelleen koodia poistamaan vinoutuneisuus.

Maailman on määriteltävä teknologian parasta käyttöä

Itse teknologia ei ole hyvää tai pahaa. Se on, miten maa käyttää sitä, voi viedä parhaimmat aikomukset ja mennä väärään. Kun teknologia kehittyy tavalla, joka vaikuttaa ihmisten elämään, maailman on toimittava yhdessä määrittääkseen sopivan toiminnan. Jos me poistamme ihmisen tekoälysovelluksista, me myös poistamme sen hetken, jolloin me pysähdymme ennen laukaisua – sen moraalisen kompassin, joka ohjaa meitä; sen hetken, jolloin me pysähdymme ja kysymme, “Onko tämä oikein?” Kone, joka on opetettu osallistumaan, ei ole sitä hetkeä. Niin, kysymys on, tulevaisuudessa, hyväksyykö maailma tämän? Kuinka pitkälle maailma menee sallimaan koneiden tehdä taistelupäätöksiä?