Harhat ja reiluus AI-pohjaisissa järjestelmissä rahanpesun torjunnassa

Rahanpesun torjunnassa on olemassa haasteita, jotka ulottuvat pidemmälle kuin vain petostentorjunta.

Joistakin uusimmista ja kehittyneimmistä tekniikoista, jotka ovat tulossa markkinoille, on omat erityiset ongelmat, jotka on otettava huomioon otettaessa ne käyttöön rahanpesun onnistuneen torjunnan vuoksi ilman sääntelyvaikutuksia. Petostentorjunnassa mallin reiluus ja datan harhat voivat esiintyä, kun järjestelmä on painottunut tai edustaa tiettyjä ryhmiä tai tiettyjä tietokategorioita. Teoriassa ennustemalli voi virheellisesti yhdistää toisiin kulttuureihin kuuluvat sukunimet petos tileihin tai vähentää virheellisesti riskiä tietyn väestösegmentin osalla tietynlaisissa rahoitustoimissa.

Harhat AI-järjestelmissä voivat edustaa vakavaa uhkaa, kun maineet voivat olla vaarassa, ja ne esiintyvät, kun saatavilla oleva data ei ole edustavaa väestölle tai ilmiölle, jota halutaan tutkia. Tämä data ei sisällä muuttujia, jotka havainnoivat asianmukaisesti ilmiötä, jonka haluamme ennustaa. Vaihtoehtoisesti data voi sisältää sisältöä, jota ihmiset ovat tuottaneet, ja joka voi sisältää harhauksia ryhmien vastaan, jotka periytyvät kulttuurisista ja henkilökohtaisista kokemuksista, joista johtuen päätöksenteko voi olla vääristynyt. Vaikka data voi aluksi näyttää objektiiviselta, se on kuitenkin kerätty ja analysoitu ihmisvoimin, ja se voi siten olla harhaa.

Vaikka ei ole olemassa hopealuotia harhat ja epäreoja AI-järjestelmissä tai pysyviä ratkaisuja ongelmaan, nämä ongelmat on otettava huomioon sekä yhteiskunnallisista että liiketoiminnallisista syistä.

Tehtävä oikein AI:ssa

AI-pohjaisissa järjestelmissä olevan harhan korjaaminen ei ole vain oikea asia, vaan myös älykäs asia liiketoiminnan kannalta — ja liiketoimintajohtajien panokset ovat korkeat. Harhat AI-järjestelmissä voivat johtaa rahoituslaitoksia väärään suuntaan jakamalla mahdollisuuksia, resursseja, tietoa tai palvelun laatua epäoikeudenmukaisesti. Ne voivat myös loukata kansalaisoikeuksia, aiheuttaa vaaraa yksilöiden turvallisuudelle tai vaikuttaa henkilön hyvinvointiin, jos ne koetaan halventaviksi tai loukkaaviksi.

On tärkeää, että yritykset ymmärtävät AI-harhan voiman ja riskit. Vaikka usein institutionaalisesti tuntematon, harhaa AI-pohjainen järjestelmä voi käyttää haitallisia malleja tai dataa, joka paljastaa rotu- tai sukupuoliharhan lainanmyöntöpäätöksissä. Tiedot, kuten nimet ja sukupuoli, voivat olla välittömiä kategorisoinnin ja tunnistamisen välineitä laittomissa tavoissa. Vaikka harha ei ole tarkoituksellinen, se asettaa kuitenkin organisaation vaaraan, koska se ei noudatta sääntelyvaatimuksia, ja se voi johtaa siihen, että tiettyjä ryhmiä henkilöitä kohdellaan epäoikeudenmukaisesti lainojen tai luottorajojen myöntämisessä.

Tällä hetkellä organisaatioilla ei ole tarvittavia osia harhan torjumiseksi AI-järjestelmissä. Mutta kun AI:ta käytetään yhä enemmän liiketoiminnassa päätösten automatisoimiseen ja kustannussäästöihin, on tärkeää, että organisaatiot pyrkivät vähentämään harhaa, ei vain moraalisista syistä, vaan myös sääntelyvaatimusten noudattamiseksi ja liikevaihdon kasvattamiseksi.

”Reiluuskykyinen” kulttuuri ja toteutus

Ratkaisut, jotka keskittyvät reiluuskykyiseen suunnitteluun ja toteutukseen, tuottavat parhaat tulokset. Toimittajien on oltava analyyttinen kulttuuri, joka ottaa huomioon vastuullisen datan hankinnan, käsittelyn ja hallinnan välttämättöminä osina algoritmista reiluutta, koska jos AI-hankkeen tulokset perustuvat harhaan, rikkoontuneeseen tai vääristyneeseen dataan, osapuolten suojaus ei ole riittävää syrjinnän estämiseksi.

Nämä ovat data-reiluuden elementtejä, joita data-tiedemiehet on pidettävä mielessä:

• Edustavuus: Riippuen kontekstista, joko aliedustus tai yliedustus etuoikeutetuista tai laillisesti suojelluista ryhmistä datanäytteessä voi johtaa järjestelmän heikentymiseen haavoittuvissa osapuolissa. Tämänkaltaisten otantaharhojen välttämiseksi on tärkeää, että toimialatutkimus arvioi datan ja mallinnetun väestön välistä sopimusta. Tekninen tiimi tarjoaa keinoja korjata edustavuuden puutteita otannassa.
• Sopivuus ja riittävyys: On tärkeää ymmärtää, onko kerätty data riittävä tarkoituksenmukaiselle tarkoitukselle. Riittämätön data ei välttämättä heijasta oikein niitä ominaisuuksia, jotka on punnittava oikeutetun tuloksen tuottamiseksi, joka on yhdenmukainen AI-järjestelmän toiminnan tarkoituksella. Asianmukaisesti tiimin jäsenet, joilla on tekninen ja poliittinen osaaminen, voivat yhteistyössä määrittää, onko datamäärä riittävä ja sopiva tarkoitukselle.
• Lähteiden eheys ja mittaustarkkuus: Tehokas harhan torjunta alkaa jo datan keräämisen ja keräämisen prosessista. Sekä lähteet että mittaustyökalut voivat sisältää syrjintää datanäytteessä. Jotta syrjintää voidaan estää, datanäytteessä on oltava optimaalinen lähtökohtainen eheys. Tämä edellyttää, että datan keräämismenetelmät ovat soveliaita, luotettavia ja puolueettomia, ja keräämismenetelmät ovat vahvoja.
• Ajanmukaisuus ja ajankohtaisuus: Jos datanäytteessä on vanhentunutta dataa, muutokset datan jakautumisessa voivat heikentää koulutetun mallin yleistettävyyttä. Jos nämä jakautumisen siirtymät heijastavat muutoksia sosiaalisissa suhteissa tai ryhmdynamiikassa, tämä tarkin kuvaus todellisista ominaisuuksista väestössä voi aiheuttaa harhaa AI-järjestelmään. Estääkseen syrjinnän, on tärkeää tarkastella ajanmukaisuutta ja ajankohtaisuutta kaikissa datanäytteen osissa.
• Asianmukaisuus, sopivuus ja toimialatietämys: Asianmukaisimpien lähteiden ja datatyyppien käyttäminen on tärkeää vahvan ja harhatonta AI-järjestelmän luomiseksi. Vahva toimialatietämys väestön jakautumisesta ja hankkeen ennustettavasta tavoitteesta on tärkeää valitsemalla optimaalisesti sopivat mittaustulot, jotka edesauttavat määritellyn ratkaisun kohtuullista ratkaisemista. Toimialan asiantuntijoiden on tehtävä tiivistä yhteistyötä data-tiedemiesten kanssa määrittääkseen parhaat kategorioiden ja mittausten lähteet.

Vaikka AI-pohjaiset järjestelmät auttavat päätöksenteon automatisoimisessa ja tarjoavat kustannussäästöjä, rahoituslaitosten on oltava valppaita varmistaakseen, ettei harhaisia päätöksiä tehdä. Sääntelyjohtajien on oltava yhtenäinen data-tiedemiestensä kanssa vahvistaakseen, että AI-kapasiteetit ovat vastuullisia, tehokkaita ja harhatonta. Strategia, joka edistää vastuullista AI:ta, on oikea asia, ja se voi myös tarjota polun tuleviin AI-sääntelyihin.