AI: Kansan Toimesta, Kansalle ja Kansan Omista

Kirjoittaja: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI and Automation at Infosys.

Olemme onnellisia, että elämme teknologian aikakaudella, jossa tekoäly tekee kovasti työtä tehdäkseen elämästämme helpompaa – puhelimemme tunnistavat meidät ja avautuvat, kun ne “näkevät” meidät, meillä on puhuvat kartat, jotka auttavat meitä löytämään lyhimmän ja vähiten ruuhkaisen reitin, älylaitteet, jotka lämmittävät ja jäädyttävät kodit ennen kuin sanomme sanaa, älykkäät sovellukset, jotka ennustavat ja estävät petoksia, ja paljon muuta.

Kuitenkin meillä on myös ollut tilanteita, joissa nämä älykkäät tekoälyjärjestelmät ovat pettäneet meidät reiluuden ja eettisyyden suhteen. Esimerkiksi arvostettu pankki, joka tekee yhteistyötä meidän kanssamme, epäili, että heidän tekoälymallinsa, joita he käyttävät luoton arvioinnissa ennen lainojen myöntämistä, saattavat olla puolueellisia, ja he pyysivät meitä auttamaan heitä. Toisella kertaa koneiden valmistaja työskenteli meidän kanssamme analysoiakseen takuuväittämien kuviot poistamaan puolueellisuuden datasarjasta ja prosessista ennen kuin he uudelleen suunnittelivat ja automatisoivat takuuväittämien hyväksymisprosessinsa. Rekrytointiin liittyvät tekoälymallit ovat usein korruptoituneita ikä-, sukupuoli-, rotu- ja jopa postinumeroihin liittyvillä puolueellisuuksilla datasarjoissaan – tuottaen epärehellisiä tuloksia, jos niitä ei valvota.

Tekoälyn puolueellisuuden valtavan vaikutuksen vuoksi eettiset kysymykset ovat nousseet eturintamaan siinä, miten tekoälyjärjestelmiä kehitetään, otetaan käyttöön ja käytetään. Tekoälyjärjestelmät ovat monien ihmisten päätösten yhdistelmä, jotka ovat luonnostaan myös peräisin ihmisten puolueellisuuksista. Työntekijöiden autonomian ja yksityisyyden suojaaminen, riskit siitä, että puolueellisuus vaikuttaa urakehitykseen ja mahdollisuuksiin, syrjintä ihonvärin, rodun tai sukupuolen perusteella, tekoälyratkaisujen valintojen selittämättömyys ja siten tekoälypäätöksenteon vastuu, ovat kuumaa keskustelua, kun on kyse tekoälystä ja sen ansioista.

Vastuullisen tekoälyn luominen

Tekoälyn puolueellisuus voi aiheuttaa aaltoefektin koko organisaatiossa. On tärkeää, että IT-johtajat varmistavat, että he käyttävät tekoälyä eettisellä tavalla, joka toimii työntekijöiden kanssa, eikä heitä vastaan. Tämän saavuttamiseksi organisaatioiden on otettava seuraavat asiat huomioon tekoälyn käyttöönotossa.

Tietojen hallinta: Tekoälyn eettinen käyttö edellyttää myös hyvin johdettua tietokäyttöä, alkaen tietojen eettisestä ja avoimesta hankinnasta. Tämän tekemiseksi IT-johtajien on perustettava hyvin määritelty hallintorunko, joka varmistaa tietoturvan, eheytensä, yksityisyyden ja estää tietojen korruptoinnin ja menetyksen – kaikki nämä ovat välttämättömiä.

Vastuu: Konenoppimismallien on oltava reiluja, puolueettomia, kohtelevat ihmisiä tasa-arvoisesti ja jakavat hyödyt tasapuolisesti (samankaltaiset hyväksymis- ja hylkäysprosentit) kaikille ominaisuuksille, kuten rodulle, uskolle, sukupuolelle jne. Niiden on saavutettava hyväksyttävä tarkkuus ei vain kokonaisluvulla vaan myös vähemmistöluokissa. Nämä mallit on selitettävä, kun on kyse tuloksen saavuttamisesta. Esimerkiksi selittää, miksi malli hylkäsi lainanhakemuksen hakijalta A, mutta hyväksyi saman hakemuksen hakijalta B. IT-johtajien on tehtävä tekoälyratkaisujen taustalla oleva logiikka selkeäksi liiketoimintajohtajille, jotta yrityksessä on suurempi avoimuus.

Vastustuskyky: Koko tekoälyekosysteemin on oltava yhtä mieltä siitä, että tekoälymallien on testattava ja haastettava simulaatioiden avulla tutkimaan potentiaalisia epäedullisia tuloksia. Esimerkiksi IT-johtajat voivat käyttää seuraavia testejä tekoälyjärjestelmiensä tarkastamiseen ja valmistautumiseen mahdollisiin esteisiin.

• Muokkaa dataa: muuta suoraan koulutukseen käytettävää datasarjaa datan ruokkimisen, muokkauksen ja loogisen korruption kautta
• Muokkaa malleja: testaa luottamuksen alentamista ja väärän luokittelun
• Apuvälineet: käytä työkaluja vaikuttaa tai korruptoida tuloksia

Ihminen silmukassa: Tekoälymallien on oltava de-riskittyä asettamalla ihmiset silmukkaan kaikille avainpäätöksenteon pisteisiin ja tehokkaan varajärjestelmän tai vaihtoehtoisen polun käyttöönotto, jos tekoälyjärjestelmän on vedettävä takaisin.

Sosiaalisen suostumuksen kehittäminen tekoälylle

Lisäksi näihin ohjeisiin on edistettävä kaikkien johtajien välisiä keskusteluja ja neuvotteluja koko yrityksessä tekoälyn hyödyistä, eduista, kustannuksista ja seurauksista. Vain tällaiset kaikkien sidosryhmien osallistavat prosessit, joissa keskustellaan ja päätetään hyväksyttävistä tuloksista ja punnitaan riskit ja hyödyt, voi antaa tekoälytekniikoille toimiluvan koko yrityksessä.