Tekoäly: Kansan, kansalle ja kansasta

Kirjoittaja: Balakrishna (Bali) D R, Senior Vice President, Service Offering Head – ECS, AI and Automation at Infosys.

Olemme onnekkaita, että elämme teknologian aikakaudella, jossa tekoäly tekee työtään kovaa tehdäkseen elämästämme helpompaa – puhelimemme tunnistavat meidät ja avautuvat, kun ne “näkevät” meidät, meillä on puhuvat kartat, jotka auttavat meitä löytämään lyhimmän ja vähiten ruuhkaisen reitin, älykkäät laitteet, jotka lämmittävät ja jäädyttävät koditemme ennen kuin sanomme sanaa, älykkäät sovellukset, jotka ennustavat ja estävät petoksia, ja paljon muuta.

Kuitenkin meillä on myös ollut tilanteita, joissa nämä älykkäät tekoälyjärjestelmät ovat pettäneet meidät reiluuden ja eettisyyden suhteen. Esimerkiksi maineikas pankki, joka työskentelee kanssamme, epäili, että heidän tekoälymallinsa, joita he käyttävät luottoarvon arviointiin ennen lainojen myöntämistä, saattavat olla puolueellisia, ja he pyysivät meitä auttamaan heitä. Toisella kertaa koneiden valmistaja työskenteli kanssamme analysoiakseen takuuväittämien kuviot poistamaan puolueellisuuden datasaasta ja prosessista ennen kuin he uudelleen suunnittelivat ja automatisoivat takuuväittämien hyväksymisprosessinsa. Rekrytointiin liittyvät tekoälymallit ovat usein vääristyneitä ikä-, sukupuoli-, rotu- ja jopa postinumeroihin liittyvien puolueellisuuksien vuoksi – tuottaen epäoikeudenmukaisia tuloksia, jos niitä ei valvota.

Tekoälyn puolueellisuuden valtava vaikutus koko yrityksessä on nostanut eettiset kysymykset etusijalle tekoälyjärjestelmien kehittämisessä, toteuttamisessa ja käytössä. Tekoälyjärjestelmät ovat monien ihmisten päätösten yhdistelmä, jotka sisältävät myös ihmisten puolueellisuuksia. Työntekijöiden autonomian ja yksityisyyden suojelu, puolueellisuuksien vaarat, jotka vaikuttavat urakehitykseen ja mahdollisuuksiin, syrjintä ihonvärin, rodun tai sukupuolen perusteella, tekoälyratkaisujen selittelemättömyys ja siten tekoälypäätöksenteon vastuu, ovat kuumaa keskustelun aiheita, kun tekoälystä ja sen ansioista keskustellaan.

Vastuullisen tekoälyn luominen

Tekoälyn puolueellisuus voi aiheuttaa aaltoefektin koko organisaatiossa. On tärkeää, että IT-johtajat varmistavat, että he käyttävät tekoälyä eettisellä tavalla, joka toimii työntekijöiden kanssa, eikä heitä vastaan. Tämän saavuttamiseksi organisaatioiden tulisi sisällyttää seuraavat tekoälynsä käyttöön.

Tietojen hallinta: Tekoälyn eettinen käyttö edellyttää myös hyvin johdettua tietokäyttöä, alkaen tietojen hankkimisesta eettisesti ja avoimesti. Tämän tekemiseksi IT-johtajien tulisi perustaa hyvin määritelty hallintorunko, joka varmistaa tietoturvan, eheytensä, yksityisyyden ja estää tietojen vääristymisen ja menetyksen – kaikki nämä ovat välttämättömiä.

Vastuu: Konenoppimismallit tarvitsevat oikeudenmukaisuutta, puolueettomuutta, kohtelevat ihmisiä tasa-arvoisesti ja jakavat hyödyt tasapuolisesti (samaan hyväksymis- ja hylkäysprosentti) kaikille ominaisuuksille, kuten rodulle, uskonnolle, sukupuolelle jne. Niiden on saavutettava hyväksytty tarkkuus, ei vain kokonaisluvulla, vaan myös vähemmistöluokissa. Nämä mallit tarvitsevat selittelemistä, kun niiden tulokset selitetään. Esimerkiksi kyky selittää, miksi malli hylkäsi lainahakemuksen hakijalta A, mutta hyväksyi saman hakemuksen hakijalta B. IT-johtajien, jotka kehittävät tekoälyratkaisuja, on tehtävä selväksi liiketoimintajohtajille, mikä logiikka ohjaa näitä päätöksiä, jotta koko organisaatiossa olisi suurempi avoimuus.

Vastustuskyky: Koko tekoälyekosysteemin on oltava yhtä mieltä siitä, että tekoälymallien on testattava ja hakattava simulaatioiden avulla tutkimaan potentiaalisia epäedullisia tuloksia. Esimerkiksi IT-johtajat voivat käyttää seuraavia testejä tarkastamaan tekoälyjärjestelmiään ja valmistautua mahdollisiin esteisiin.

• Muokkaa tietoja: muuta suoraan koulutusaineistoa tietojen injektion, muokkauksen ja loogisen vääristymisen avulla
• Muokkaa malleja: testaa luottamuksen alentamista ja väärää luokittelua
• Apuvälineet: käytä työkaluja vaikuttaa tai vääristää tuloksia

Ihminen silmukassa: Tekoälymallien on oltava de-riskattu niin, että ihmiset ovat mukana kaikissa avainpäätöksissä ja on olemassa tehokas varajärjestelmä tai vaihtoehtoinen polku, jos tekoälyjärjestelmän on vedettävä takaisin.

Sosiaalisen suostumuksen kehittäminen tekoälylle

Näiden ohjeiden lisäksi meidän on edistettävä kaikkien johtajien välisiä keskusteluja ja neuvotteluja koko yrityksessä, tekoälyn suurten käyttöönottojen hyödyistä, etuja, kustannuksista ja seurauksista. Vain tällaiset kaikkia sidosryhmiä koskevat prosessit, joissa kaikki osapuolet keskustelevat ja päättävät hyväksyttävistä tuloksista ja punnitsevat riskit ja hyödyt, voi antaa tekoälytekniikoille toimiluvan koko yrityksessä.