Tekoälyeettinen koalitio tuomitsee rikollisuuden ennustamisalgoritmit

Tiistaina joukko tekoälytutkijoita, eetikkoja, data-analyytikkoja ja sosiaalitutkijoita julkaisi blogikirjoituksen, jossa väitettiin, että akateemiset tutkijat tulisi lopettaa tutkimus, joka pyrkii ennustamaan yksilön todennäköisyyttä tehdä rikos, perustuen muuttujiin kuten rikostilastoihin ja kasvojen skannauksiin.

Blogikirjoitus oli kirjoitettu Coalition for Critical Technology -koalitiolle, joka väitti, että tällaisten algoritmien käyttö ylläpitää sykliä ennakkoluuloja vähemmistöjä kohtaan. Monet kasvojen tunnistamisen ja ennustavan poliisityön algoritmien tehokkuuden tutkimukset osoittavat, että algoritmit usein tuomittavat vähemmistöjä ankarammin, mitä koalition kirjoittajat väittävät johtuvan rikosvallan epätasa-arvoisista rakenteista. Oikeusjärjestelmä tuottaa puolueellista dataa, ja näin ollen algoritmit, jotka on koulutettu tällaisella datalla, välittävät nämä puolueellisuudet, Coalition for Critical Technology väittää. Koalitio väittää, että “rikollisuuden” käsite usein perustuu rotuun, ja siksi tällaisilla teknologioilla tehty tutkimus olettaa algoritmien puolueettomuutta, kun todellisuudessa tällaista puolueettomuutta ei ole.

The Verge -sivuston mukaan akateemisia teoksia julkaiseva kustantaja Springer suunnitteli julkaisemaan tutkimuksen otsikolla “A Deep Neural Network Model to Predict Criminality using Image Processing”. Tutkimuksen tekijät väittivät kehittäneensä kasvojen tunnistamisalgoritmin, joka pystyy ennustamaan yksilön todennäköisyyden tehdä rikos ilman puolueellisuutta ja noin 80 prosentin tarkkuudella. Koalitio kuitenkin kirjoitti avoimen kirjeen Springer-kustantajalle, kehottaen julkaisijaa olemaan julkaisematta tutkimusta tai tulevia tutkimuksia, jotka liittyvät samankaltaiseen tutkimukseen.

“Tämän tutkimuksen julkaiseminen suurella kustantajalla kuten Springer edustaisi merkittävää askelta kohti tällaisen tutkimuksen legitiimiyttä ja soveltamista todellisessa maailmassa”, koalitio väittää.

Springer ilmoitti, ettei julkaise tutkimusta, kuten MIT Technology Review -sivusto raportoi. Springer ilmoitti, että tutkimus oli lähetetty tulevaan konferenssiin, mutta vertaisarvioinnin jälkeen tutkimus hylättiin julkaisemisesta.

Coalition for Critical Technology väittää, että rikollisuuden ennustamistutkimus on vain yksi esimerkki laajemmasta, vahingollisesta trendistä, jossa tekoälyinsinöörit ja tutkijat yrittävät ennustaa käyttäytymistä herkillä, sosiaalisesti konstruoituilla muuttujilla. Koalitio väittää myös, että suurin osa tutkimuksesta perustuu tieteellisesti kyseenalaisiin ajatuksiin ja teorioihin, joita ei tueta biologian ja psykologian saatavilla olevilla todisteilla. Esimerkiksi Princetonin ja Google-tutkijat julkaisivat artikkelin, jossa varoitettiin, että algoritmit, jotka väittävät pystyvänsä ennustamaan rikollisuutta kasvojen piirteiden perusteella, perustuvat epäilyttäviin ja vaarallisiin pseudotieteisiin kuten fysiognomiaan. Tutkijat varoittivat tekoälyä käytettäväksi vanhojen, jo osoitettujen teorioiden elvyttämiseen, joita on käytetty rotuisten järjestelmien tukemiseen.

Black Lives Matter -liikkeen viimeaikainen voimakkuus on saanut monet yritykset, jotka käyttävät kasvojen tunnistamisalgoritmeja, arvioimaan uudelleen näiden järjestelmien käyttöä. Tutkimukset ovat osoittaneet, että nämä algoritmit ovat usein puolueellisia, perustuen edustamattomiin, puolueellisiin koulutusdataan.

Kirjeen allekirjoittajat, jotka väittävät, että tekoälytutkijoiden tulisi lopettaa rikollisuuden ennustamistutkimus, ovat myös suositelleet, että tutkijat arvioisivat uudelleen, miten tekoälymallien menestystä mitataan. Koalition jäsenet suosittelevat, että yhteiskunnallinen vaikutus tulisi olla yksi menestystekijöistä, lisäksi metriikoista kuten tarkkuudesta, kutsuvuudesta ja täsmällisyydestä. Kirjoittajat kirjoittavat:

“Jos tekoäly on tuottava ‘sosiaalista hyvää’, josta grant-ehdotuksissa ja lehdistötiedotteissa puhutaan, tutkijoilla tässä tilassa on oltava aktiivisesti mukana valtastruktuureissa (ja niiden mukana olevissa sortotoimissa), jotka mahdollistavat heidän työnsä.”