Tekninen neuvonantaja ryhmä puolustusministeriön AI-käytön rajoittamista

Puolustusministeriö on ilmoittanut aikovansa investoida merkittävästi tekoälyyn, ja että tekoäly tekee Yhdysvaltain armeijasta voimakkaamman ja vahvemman mahdollisia kansallisia turvallisuusuhkia vastaan. Engadgetin mukaan perjantaina Puolustusinnovaatiolautakunta esitti useita ehdotuksia tekoälyn eettisistä ohjeista sotilaalliseen käyttöön. Ehdotusten luettelo sisältää strategioita välttämään tahattomat vinoumat ja hallittavissa oleva tekoäly, jolla on hätäpysäytysmenetelmät, jotka estävät tekoälyä aiheuttamasta tarpeetonta vahinkoa.

Wiredin mukaan Puolustusinnovaatiolautakunta perustettiin Obama-hallinnon aikana ohjaamaan puolustusministeriötä hankkimaan teknologia-alan kokemusta ja osaamista. Lautakunnan puheenjohtajana toimii entinen Google (GOOGL ) -johtaja Eric Schmidt. Lautakunta sai tehtäväkseen laatia ohjeet tekoälyn eettisestä toteutuksesta sotilaallisissa projekteissa. Torstaina lautakunta julkaisi ohjeensa ja suositukset arvioitaviksi. Raportissa todetaan, että on aika käydä vakavia keskusteluja tekoälyn käytöstä sotilaallisessa yhteydessä ennen kuin jokin vakava tapahtuma edellyttää, että sellainen on tehtävä.

Artificial Intelligence Newsin mukaan entinen sotilasviranomainen totesi hiljattain, että puolustusministeriö oli jäämässä jälkeen tekoälyn käytössä. Puolustusministeriö pyrkii korjaamaan tämän eron ja on julistanut tekoälyn kehittämisen ja laajentamisen sotilaalliseen käyttöön kansalliseksi prioriteetiksi. Tekoälyeetitit ovat huolissaan siitä, että puolustusministeriön kiireessä tullaan käyttämään tekoälyjärjestelmiä epäeettisesti. Vaikka eri itsenäiset tekoälyeettiset lautakunnat ovat tehneet omat ehdotukset, Puolustusinnovaatiolautakunta on ehdottanut vähintään viittä periaatetta, joita sotilaallisen tekoälyn kehittämisessä ja toteutuksessa on aina noudatettava.

Puolustusinnovaatiolautakunnan ehdottama ensimmäinen periaate on, että ihmiset ovat aina vastuussa tekoälyalustojen käytöstä, käyttöönotosta ja tuloksista sotilaallisessa yhteydessä. Tämä muistuttaa vuoden 2012 politiikkaa, jossa määrättiin, että ihmiset ovat lopulta osa päätöksentekoprosessia, kun on kyse kuolemasta. Luettelossa on muita periaatteita, jotka antavat yleisiä ohjeita, kuten varmistamalla, että tekoälyjärjestelmät on aina rakennettu insinöörien toimesta, jotka ymmärtävät ja dokumentoivat ohjelmansa. Toisen periaatteen mukaan sotilaalliset tekoälyjärjestelmät on aina testattava luotettavuuden varmistamiseksi. Nämä ohjeet vaikuttavat yleisesti ottaen järkeviltä, mutta lautakunta haluaa korostaa niiden tärkeyttä.

Muiden periaatteiden joukossa on tekoälyalgoritmien vinoumajen hallinta ja kyky havaita, jos tahattomat vahingot voivat aiheutua, ja automaattinen irtikytkentä. Ohjeiden mukaan, jos tarpeetonta vahinkoa aiheutuu, tekoäly pitäisi pystyä irtikytkemään itse ja antaa ihmisoperaattorin ottaa vastuun. Ehdotettujen periaatteiden luonnos suosittelee myös, että tekoälyjen tulokset ovat jäljitettävissä, jotta analyytikot voivat nähdä, mitä johti tekoälyjen tekemään päätöksiin.

Lautakunnan esittämät suositukset korostavat kahta eri ajatusta. Periaatteet heijastavat sitä, että tekoäly on tulevaisuuden sotilaallisen toiminnan kannalta olennainen, mutta suurin osa tekoälystä edelleen riippuu ihmisjohtamisesta ja päätöksenteosta.

Vaikka puolustusministeriöllä ei ole pakko hyväksyä lautakunnan suosituksia, kuulostaakin siltä, että puolustusministeriö ottaa suositukset tosissaan. Wiredin mukaan Joint Artificial Intelligence Centerin johtaja, kenraali Jack Shanahan, totesi, että lautakunnan suositukset auttavat puolustusministeriötä “noudattamaan korkeimman eettisen standardin mukaisia ohjeita, joita on määritelty puolustusministeriön tekoälystrategiassa, samalla kun se omaksuu Yhdysvaltain armeijan vahvan perinteen soveltaa tiukkoja testaamis- ja kenttäkokeiluvaatimuksia teknologia-innovaatioihin”.

Teknologia-alalla on edelleen epävarmuutta tekoälyn käytöstä sotilaallisten laitteiden ja ohjelmistojen kehittämisessä. Microsoftin ja Google-työntekijät ovat molemmat osoittaneet mieltään yhteistyöstä sotilaallisten organisaatioiden kanssa, ja Google on hiljattain päättänyt ei uusia sopimusta, jossa se osallistui Project Maveniin. Useat toimitusjohtajat, tutkijat, insinöörit ja tiedemiehet ovat myös allekirjoittaneet lupauksen “osallistumisesta tai tukemisesta tappavan autonomisen asejärjestelmän kehittämiseen, valmistukseen, kauppaan tai käyttöön”. Jos puolustusministeriö hyväksyy lautakunnan ehdottamat ohjeet, se voi tehdä teknologia-alalle halukkaammaksi yhteistyöhön, vaikka vain ajan myötä voidaan nähdä.