Ajatusjohtajat
Tekoälyjärjestelmien vinoumat ja oikeudenmukaisuus talousrikollisuuden torjunnassa

Keskeiset kohdatPuolueelliset tekoälyjärjestelmät voivat epäoikeudenmukaisesti evätä lainoja rotuun tai…
Näytä lisää
- Puolueelliset tekoälyjärjestelmät voivat epäoikeudenmukaisesti evätä lainoja rotuun tai sukupuoleen viittaavien korvaavien tekijöiden perusteella.
- Tietojen edustavuus ja lähteiden eheys ovat kriittisiä syrjivien mallitulosten estämiseksi.
- Vaatimustenmukaisuusjohtajien on tehtävä yhteistyötä datatieteen tiimien kanssa vastuullisen tekoälyn käyttöönoton varmistamiseksi.
Talousrikollisuuden torjuntaan liittyy haasteita, jotka ulottuvat petoksentekijöiden ja muiden pahantahtoisten toimijoiden pysäyttämistä pidemmälle.
Joihinkin uusimpiin ja kehittyneimpiin käyttöön otettaviin teknologioihin liittyy erityisongelmia. Ne on huomioitava käyttöönottovaiheessa, jotta petoksia voidaan torjua onnistuneesti rikkomatta sääntelyvaatimuksia. Petosten havaitsemisessa mallien oikeudenmukaisuuteen ja datan vinoumiin liittyviä ongelmia voi syntyä, kun järjestelmä painottaa tiettyjä ryhmiä tai dataluokkia liikaa tai ne ovat puutteellisesti edustettuina. Ennustemalli voi esimerkiksi yhdistää muihin kulttuureihin kuuluvat sukunimet virheellisesti petostileihin tai arvioida tiettyihin väestöryhmiin liittyvän riskin liian pieneksi tietyntyyppisessä rahoitustoiminnassa.
Vinoutuneet tekoälyjärjestelmät voivat olla vakava uhka, jos ne vaarantavat ihmisten maineen. Vinoumia syntyy, kun käytettävissä oleva data ei edusta tarkasteltavaa väestöä tai ilmiötä. Tällaisesta datasta puuttuvat muuttujat, jotka kuvaavat asianmukaisesti ennustettavaa ilmiötä. Vaihtoehtoisesti data voi sisältää ihmisten tuottamaa sisältöä, jossa kulttuuriset ja henkilökohtaiset kokemukset ovat synnyttäneet ennakkoluuloja ihmisryhmiä kohtaan. Nämä voivat vääristää päätöksiä. Vaikka data vaikuttaisi aluksi objektiiviselta, ihmiset ovat silti keränneet ja analysoineet sen, joten se voi olla vinoutunutta.
Tekoälyjärjestelmien syrjinnän ja epäoikeudenmukaisuuden vaaroihin ei ole yhtä yleispätevää ratkaisua. Myöskään koneoppimismallien suunnittelun ja käytön oikeudenmukaisuuteen ja vinoumien vähentämiseen ei ole pysyvää korjauskeinoa. Näihin kysymyksiin on silti puututtava sekä yhteiskunnallisista että liiketoiminnallisista syistä.
Oikein toimiminen tekoälyn käytössä
Tekoälyjärjestelmien vinoumien korjaaminen on sekä oikein että liiketoiminnan kannalta järkevää, ja yritysjohdolle panokset ovat suuret. Vinoutuneet järjestelmät voivat johtaa rahoituslaitoksia harhaan jakamalla mahdollisuuksia, resursseja, tietoa tai palvelun laatua epäoikeudenmukaisesti. Ne voivat myös loukata kansalaisvapauksia, vaarantaa yksilöiden turvallisuuden tai heikentää ihmisen hyvinvointia, jos ne koetaan halventaviksi tai loukkaaviksi.
Yritysten on ymmärrettävä tekoälyn vinoumien vaikutusvalta ja riskit. Laitoksen tietämättä vinoutunut tekoälyjärjestelmä voi käyttää haitallisia malleja tai dataa, jotka tuovat rotuun tai sukupuoleen liittyviä ennakkoluuloja lainapäätöksiin. Esimerkiksi nimet ja sukupuoli voivat toimia sijaismuuttujina, joiden perusteella hakijoita luokitellaan ja tunnistetaan lainvastaisesti. Tahatonkin vinouma altistaa organisaation sääntelyvaatimusten rikkomiselle ja voi johtaa siihen, että tietyiltä ihmisryhmiltä evätään lainoja tai luottolimiittejä epäoikeudenmukaisesti.
Organisaatioilla ei tällä hetkellä ole kaikkia tarvittavia valmiuksia tekoälyjärjestelmien vinoumien onnistuneeseen vähentämiseen. Kun tekoälyä käytetään yhä laajemmin yritysten päätöksenteon tukena, vinoumia on kuitenkin pyrittävä vähentämään sekä moraalisista syistä että sääntelyvaatimusten noudattamiseksi ja liikevaihdon kasvattamiseksi.
Oikeudenmukaisuuden huomioiva kulttuuri ja toteutus
Oikeudenmukaisuuden huomioivaan suunnitteluun ja toteutukseen keskittyvät ratkaisut tuottavat hyödyllisimmät tulokset. Palveluntarjoajilla tulisi olla analyyttinen kulttuuri, jossa vastuullista datan hankintaa, käsittelyä ja hallintaa pidetään algoritmisen oikeudenmukaisuuden välttämättöminä osina. Jos tekoälyhankkeen tulokset perustuvat vinoutuneisiin, vaarantuneisiin tai vääristyneisiin aineistoihin, vaikutusten kohteena olevia osapuolia ei suojata riittävästi syrjinnän aiheuttamilta haitoilta.
Datatiedetiimien on pidettävä mielessä seuraavat datan oikeudenmukaisuuden osa-alueet:
- Edustavuus: Asiayhteydestä riippuen huono-osaisessa asemassa olevien tai laissa suojattujen ryhmien ali- tai yliedustus otoksessa voi johtaa haavoittuvien osapuolten järjestelmälliseen epäedulliseen kohteluun koulutetun mallin tuloksissa. Tällaisten otantavinoumien välttämiseksi toimialaosaamista tarvitaan arvioimaan kerätyn tai hankitun datan vastaavuutta mallinnettavaan väestöön. Teknisen tiimin jäsenten tulisi tarjota keinoja otannan edustavuuspuutteiden korjaamiseen.
- Tarkoitukseen sopivuus ja riittävyys: On tärkeää selvittää, riittääkö kerätty data hankkeen aiottuun tarkoitukseen. Riittämättömät aineistot eivät välttämättä kuvasta tasapuolisesti ominaisuuksia, jotka tulisi huomioida perustellun, tekoälyjärjestelmän tarkoituksen mukaisen lopputuloksen tuottamiseksi. Teknistä ja toimintaperiaatteisiin liittyvää osaamista omaavien tiimin jäsenten tulisi siksi yhdessä arvioida, onko datamäärä riittävä ja tarkoitukseen sopiva.
- Lähteiden eheys ja mittaustarkkuus: Vinoumien tehokas vähentäminen alkaa jo datan poiminnan ja keruun alusta. Sekä lähteet että mittausvälineet voivat tuoda aineistoon syrjiviä tekijöitä. Syrjivien haittojen estämiseksi otoksen lähteiden eheyden on oltava mahdollisimman hyvä. Tämä tarkoittaa sen varmistamista, että tiedonkeruussa käytetään soveltuvia, luotettavia ja puolueettomia mittauslähteitä sekä kestäviä keruumenetelmiä.
- Oikea-aikaisuus ja tuoreus: Jos aineistossa on vanhentunutta dataa, sen taustalla olevan jakauman muutokset voivat heikentää koulutetun mallin yleistettävyyttä. Jos nämä jakaumasiirtymät heijastavat muuttuvia yhteiskunnallisia suhteita tai ryhmädynamiikkaa, väestön todellisten ominaisuuksien kuvaamisen tarkkuuden heikkeneminen voi tuoda tekoälyjärjestelmään vinoumia. Syrjivien tulosten ehkäisemiseksi aineiston kaikkien osien oikea-aikaisuutta ja tuoreutta on tarkasteltava huolellisesti.
- Merkityksellisyys, asianmukaisuus ja toimialaosaaminen: Sopivimpien datalähteiden ja datatyyppien ymmärtäminen ja käyttäminen on välttämätöntä kestävän ja vinoutumattoman tekoälyjärjestelmän rakentamiseksi. Väestön taustajakauman ja hankkeen ennustetavoitteen vahva tuntemus auttaa valitsemaan mahdollisimman merkitykselliset mittaussyötteet määritellyn ongelman järkevään ratkaisemiseen. Toimiala-asiantuntijoiden tulisi tehdä läheistä yhteistyötä datatiedetiimien kanssa sopivimpien mittausluokkien ja -lähteiden määrittämiseksi.
Vaikka tekoälyjärjestelmät auttavat päätöksenteon automatisoinnissa ja tuovat kustannussäästöjä, niitä ratkaisuksi harkitsevien rahoituslaitosten on huolehdittava siitä, ettei vinoutuneita päätöksiä synny. Sääntelyvaatimusten noudattamisesta vastaavien johtajien tulisi toimia tiiviisti datatiedetiimin kanssa varmistaakseen, että tekoälyn ominaisuudet ovat vastuullisia, tehokkaita ja vinoutumattomia. Vastuullista tekoälyä edistävä strategia on oikea toimintatapa ja voi myös auttaa tulevien tekoälysäädösten noudattamisessa.












