Tutkijat haastavat pitkään oletuksen koneoppimisesta

Carnegie Mellon -yliopiston tutkijat haastavat pitkään oletuksen, jonka mukaan koneoppimisessa on kompromissi tarkkuuden ja oikeudenmukaisuuden välillä julkisen politiikan päätöksiä tekevissä algoritmeissa.

Koneoppimisen käyttö on lisääntynyt monilla aloilla, kuten rikosvallankäytössä, palkkaamisessa, terveydenhuollossa ja sosiaalipalvelujen toteutuksessa. Tämän kasvun myötä herää myös lisääntynyt huoli siitä, voivatko nämä uudet sovellukset pahentaa olemassa olevia epätasa-arvoja. Ne voivat olla erityisen haitallisia etnisille vähemmistöille tai taloudellisesti heikommassa asemassa oleville yksilöille.

Järjestelmän säätäminen

Järjestelmään tehdään jatkuvasti säätöjä datan, merkintöjen, mallin koulutuksen, pisteytysjärjestelmien ja muiden järjestelmän osien suhteen, jotta voidaan varmistaa, ettei järjestelmässä ole harhaa. Teoreettinen oletus on kuitenkin ollut, että järjestelmästä tulee vähemmän tarkka, kun säätöjä tehdään.

CMU:n tutkijaryhmä päätti haastaa tämän teorian uudessa tutkimuksessa, joka on julkaistu Nature Machine Intelligence -julkaisussa.

Rayid Ghani on apulaisprofessori tietojenkäsittelytieteen laitoksen koneoppimisen osastossa (MLD) ja Heinzin tietojärjestelmien ja julkisen politiikan korkeakoulussa. Hänen kanssaan työskentelivät Kit Rodolfa, tutkijatieteilijä MLD:ssä, ja Hemank Lamba, jatko-opiskelija SCS:ssä.

Testaaminen käytännön sovelluksissa

Tutkijat testasivat tätä oletusta käytännön sovelluksissa, ja mitä he löysivät, oli, että kompromissi on vähäinen useissa politiikan aloissa.

“Voit todella saada molemmat. Et tarvitse uhrauttaa tarkkuutta, jotta voit rakentaa järjestelmiä, jotka ovat reiluja ja oikeudenmukaisia”, Ghani sanoi. “Mutta se vaatii, että suunnittelet järjestelmät tarkoituksella oikeudenmukaisiksi ja reiluiksi. Valmiit järjestelmät eivät toimi.”

Tutkijaryhmä keskittyi tilanteisiin, joissa kysyttyjä resursseja on rajoitetusti. Näiden resurssien jakoa auttaa koneoppiminen.

He keskittyivät järjestelmiin neljällä alalla:

• määräämällä rajoitettua mielenterveydenhuollon tukitoimintaa henkilön riskin perusteella palata vankilaan vähentääkseen uudelleenvangitsemisia;
• ennustamalla vakavia turvallisuusloukkauksia paremman asuinrakennusten tarkastajien käytön toteuttamiseksi;
• mallintamalla riskiä, ettei opiskelija valmistu lukion aikana, jotta voidaan tunnistaa ne, joille on eniten apua tarpeen;
• ja auttamalla opettajia saavuttamaan joukkorahoitustavoitteita luokan tarpeisiin.

Tutkijat totesivat, että tarkkuuden optimointiin suunnitellut mallit voivat tehokkaasti ennustaa kiinnostuksen kohteita. Niiden havaittiin kuitenkin myös olevan merkittäviä eroja interventioihin liittyvissä suosituksissa.

Tärkeät tulokset saavutettiin, kun tutkijat sovelsivat säätöjä mallien tuloksiin, jotka pyrkivät parantamaan niiden oikeudenmukaisuutta. He havaitsivat, että tarkkuutta ei menetetty, kun rotuun, ikään tai tuloon perustuvat epätasa-arvon tekijät poistettiin.

“Haluaisimme, että tekoäly-, tietojenkäsittely- ja koneoppimisyhteisöt lopettaisivat tämän oletuksen kompromissista tarkkuuden ja oikeudenmukaisuuden välillä ja aloittaisivat tarkoituksella suunnittelemalla järjestelmiä, jotka maksimoivat molemmat”, Rodolfa sanoi. “Toivomme, että päättäjät omaksuvat koneoppimisen työkaluna päätöksenteossa, jotta he voivat saavuttaa oikeudenmukaisia tuloksia.”