Miten yritykset voivat luoda vastuullisen ja avoimen tekoälynsä – ajattelijat

Eric Paternosterin, Infosys Public Servicesin toimitusjohtajan kirjoittama

Google-emoyhtiö Alphabetin toimitusjohtaja Sundar Pichai on kuvannut tekoälyn kehitystä ”merkittävämmäksi kuin tuli tai sähkö”, ja COVID-19 on tuonut tälle teknologialle uuden kiireen. Tekoälyn sovellukset ovat nyt vahvasti valokeilassa, parantaen COVID-hoitoja, jäljittäen potentiaalisia COVID-kantajia ja käyttäen reaaliaikaisia chatboteja myyntisivustojen varastojen käyttäjille. Nämä sovellukset ovat osoittaneet, että tekoäly parantaa yrityksen kestävyyttä ja hyödyttää laajempaa yhteiskuntaa.

Niinpä ”pilvi-alkuperäisen” ohella viime vuosineljänneksen buuzzisanat saattavat olla ”tekoäly-ensin-muutos”, termi, jonka alan ammattilaiset uskovat säilyvän COVIDin jälkeenkin. Monille yrityksille tekoälyn lupaamaa kustannussäästöä (esim. toimitusketjualgoritmit, jotka vastaavat tarjontaa kysyntään) ja tuottavuuden parantamista (esim. kun pankit käyttävät asiakirjojen ja identiteetin varmistusta reaaliajassa) on liian hyvä jätettäväksi huomiotta.

Miksi tekoäly-ensin-muutos?

Tekoäly-ensin-muutoksessa yritys käyttää tekoälyä kompassinaan, pyrkien käyttämään sitä älykkäästi, mutta myös vaikuttamaan päätöksiin, jotka ihmiset, prosessit ja järjestelmät tekevät laajassa mittakaavassa. Se säätää organisaatiot muuttuvien dynamiikoiden mukaan työntekijöiden, kumppaneiden ja asiakkaiden välillä. Tämä mahdollistaa nopean muutoksen ja muuttuvien kysyntien tyytyväisyyden, luoden pitkän aikavälin kilpailuetua.

Mutta ei kaikki yritykset ole samalla tasolla tekoälyn kypsyydessä. On joitakin, jotka voidaan kutsua ”perinteiseksi tekoälyryhmäksi”, tai H1. Nämä yritykset, joilla on vähemmän kokemusta ja investointeja, käyttävät yleensä klassisia algoritmeja, kuten naivi Bayes, joka on ollut olemassa 250 vuotta, tai satunnainen metsä (kehitetty Tin Kam Hon vuonna 1995) täydentämään sirpaleista älykkyyttä olemassa oleviin järjestelmiin. Tällaiset tekoälyn sovellukset ovat tiukasti sääntöperusteisia ja joustamattomia, eivätkä ne pysty yleistämään niistä säännöistä, jotka ne löytävät. Sitten on ”syväoppimisryhmä”, tai H2. Nämä yritykset omaksuvat monimutkaisempaa tekoälyä, mukaan lukien neuronaaliset konekäännökset ja transkriptiopohjaiset järjestelmät, jotta voidaan kaivaa keskustelunäkemyksiä. Tällaiset järjestelmät ovat voimakkaampia, mutta eivät selkeästi selitä, miksi ne tekevät asioita. Ne myös puuttuvat läpinäkyvyydeltä. Näille kahdelle ryhmälle tekoälyä, jota käytetään usein, ei voida luottaa, eikä se ole luotettavaa, ja se voi tehdä puolueellisia päätöksiä, jotka tuovat yritykselle negatiivista huomiota viranomaisten, sääntelijöiden ja yleisön taholta.

Nämä yritykset tarvitsevat nyt siirtää tekoälytoteutuksensa askelen eteenpäin – kolmanteen leiriin (H3), jossa tekoäly on itsensä oppiva ja generatiivinen. Tässä vaiheessa tekoälyjärjestelmät ovat puolivaltuuksellisia tai jopa valvottuja. Ne ovat läpinäkyviä ja saavuttavat ”yleisen älyn” monitehtävien kautta. Nämä järjestelmät toimittavat rikkaampaa älykkyyttä ja tarjoavat reaaliaikaisia, toimintavalmiita näkemyksiä. Tämä tehdään hyvin hallitun, johdetun tekoälyn kautta, joka on tulkinnoitavissa ja selitettävissä kaikissa vaiheissa.

Miten edetä vastuullisemman ja avoimemman tekoälyn kehittämiseen

Tekoälyä käytetään yhä enemmän koulujen, työtilojen ja muiden julkisten laitosten hallinnassa. Näissä ympäristöissä on tärkeää, että tekoäly on reilu ja avoin. Kuitenkin tekoälyn omaksumisen räjähdyskeskuksessa sääntelijät antavat vain vähän ohjeita tekoälytekniikoiden kehittämisestä ja käyttöönotosta. Niinpä yritysten on otettava johtoasema. Laajemman teknologia-alan on panostettava taloudelliseen voimavaraan ja inhimilliseen pääomaan, muuttaen alkuun tekoälyn sirpaleisia sovelluksia tehokkaaksi, luovaksi, vastuulliseksi ja läpinäkyväksi älykkyyden ohjaavaksi ekosysteemiksi. Jotta yritykset pääsevät tähän asemaan, niiden tulisi tehdä seuraavat neljä asiaa:

• Pidä ihmiset silmällä: Tekoälymallit on usein suunniteltu toimimaan itsenäisesti ihmisistä. Ihmisen osuus on kuitenkin tärkeä monissa tapauksissa. Ihmisten on tarkasteltava päätöksiä ja vältettävä puolueellisuutta ja virheitä, jotka usein häikäisevät tekoälyprojekteja. Kaksi esimerkkitapausta ovat petosten havaitseminen ja tapaukset, joissa on mukana lainvalvontaviranomaiset. Suosittelemme, että yritykset palkkaavat tekoälyammattilaisia hitaasti mutta johdonmukaisesti ajan myötä saadakseen jalansijan tekoäly-ensin-matkallaan.
• Poista puolueelliset tietokannat: Puolueeton tietokanta on kriittinen edellytys luotettavien, reilujen ja syrjimättömien tekoälymallien luomiseksi. Jotta saat selkoa sen tärkeydestä, tekoälyä käytetään esimerkiksi ansioluetteloiden esivalinnassa ja luottoluokituksessa pankkien toimesta, ja se on edennyt jopa joissakin oikeusjärjestelmissä. Tässä maisemassa tarkkaamattomat puolueellisuudet ovat johtaneet todellisiin seurauksiin.
• Varmista, että päätökset ovat selitettävissä: Tämä ominaisuus on ollut monissa suurten uutiskanavien aiheena, ja oikeutetusti. XAI auttaa selittämään, miksi tekoälyjärjestelmä teki tietyn päätöksen. Se paljastaa, mitkä syvän oppimismallin ominaisuudet käytettiin enemmän kuin muita tekemään ennustetta tai hypoteesia. Ymmärtäminen ominaisuuden tärkeydestä ja oikeutus siitä, miten päätökset tehdään, on olennainen esimerkiksi autonomisten ajoneuvojen ja tietokoneavusteisen näön käytölle lääketieteellisissä biopsioissa.
• Tuota luotettavasti tuloksia: Yleinen vaatimus tutkimushankkeissa on, että tekoälymallien on oltava johdonmukaisia antaessaan ennusteita ajan myötä. Tällaiset mallit eivät saa olla hämmästyneitä, kun niille esitetään uusia tietoja.

Nämä neljä asiaa luovat läpinäkyvät, älykkyyden ohjaavat ekosysteemit, edeten kohti sitä, mitä kutsumme ”eläväksi yritykseksi”. Siinä puolueettomat, selitettävissä olevat päätökset tehdään lähes reaaliajassa, ja koko yritys toimii tietoisen olennon tavoin, jota ihmiset hallinnoivat. Lue Infosys Knowledge Institute -valkoinen kirja saadaksesi lisätietoja.