Kuinka yritykset voivat luoda vastuullisia ja läpinäkyviä tekoälyjä – ajatusjohtajia

By Eric Paternoster, Infosys Public Servicesin toimitusjohtaja

Sundar Pichai, Googlen emoyhtiön Alphabetin toimitusjohtaja, on kuvaillut tekoälyn kehitystä "syvemmäksi kuin tuli tai sähkö", ja COVID-19 on tuonut uutta kiirettä tämän tekniikan lupausten vapauttamiseen. Tekoälysovellukset ovat nyt tiukasti valokeilassa parantamalla COVID-hoitoja, jäljittämällä mahdollisia COVID-kantajia ja ottamalla käyttöön reaaliaikaisia ​​chatbotteja vähittäismyyntisivustojen käyttäjille, jotka kärsivät tarjonnasta. Nämä sovellukset ovat osoittaneet, että tekoäly parantaa yrityksen sietokykyä ja hyödyttää laajempaa yhteiskuntaa.

Viimeisen vuosineljänneksen muotisana "pilvi-natiivin" ohella saattaa olla vain "AI-first transformation", termi, jonka alan ammattilaiset uskovat pitävän paikkansa myös COVIDin hävittyä. Monille yrityksille lupaus alhaisemmista kustannuksista (eli toimitusketjun algoritmit, jotka vastaavat tarjontaa kysyntään) ja ihailtavia tuottavuuden lisäyksiä (eli kun pankit käyttävät asiakirjojen ja henkilöllisyyden todentamista reaaliajassa) on aivan liian hyvä jättää huomiotta.

Miksi AI-First Transformation?

Tekoälyn ensimmäisessä muutoksessa yritys käyttää tekoälyä pohjoistähteenä ja pyrkii käyttämään sitä paitsi älykkäästi myös tavalla, joka vaikuttaa ihmisten, prosessien ja järjestelmien tekemiin päätöksiin laajasti. Se virittää organisaatiot muuttuvaan dynamiikkaan työntekijöiden, kumppaneiden ja asiakkaiden välillä. Tämä antaa heille mahdollisuuden kääntyä nopeasti ja vastata muuttuviin vaatimuksiin samalla kun ne luovat pitkän aikavälin kilpailuetua.

Mutta kaikki yritykset eivät ole samalla tekoälyn kypsyysasteella. On joitain, joita voidaan kutsua "tavanomaiseksi AI-ryhmäksi" tai H1:ksi. Nämä yritykset, joilla on vähemmän kokemusta ja investointeja, käyttävät yleensä klassisia algoritmeja, kuten naiivia Bayesiä, joka on ollut olemassa 250 vuotta, tai satunnaista metsää (kehittämä Tin Kam Ho vuonna 1995) lisätäkseen pirstoutunutta älykkyyttä olemassa olevissa järjestelmissä. Tällaiset tekoälyn käyttötavat ovat tiukasti sääntöihin perustuvia ja melko jäykkiä, ja niistä puuttuu kyky yleistää löytämiensä sääntöjen perusteella. Sitten on "syvä oppimisryhmä" tai H2. Nämä yritykset omaksuvat monimutkaisemman tekoälyn, mukaan lukien hermoston konekäännökset ja transkriptiopohjaiset järjestelmät, saadakseen keskustelun oivalluksia. Tällaisilla järjestelmillä on enemmän tehoa, mutta ne eivät helposti selitä, miksi ne tekevät asioita, joita he tekevät. Heiltä puuttuu myös läpinäkyvyys. Näissä kahdessa ryhmässä käytetty tekoäly ei usein ole luotettavaa ja voi tehdä puolueellisia päätöksiä, jotka saavat valtion elinten, sääntelyviranomaisten ja suuren yleisön kielteisen huomion.

Näiden yritysten on nyt ryhdyttävä toimiin viedäkseen tekoälytoteutuksensa askeleen pidemmälle – kolmanteen leiriin (H3), jossa tekoäly on itseoppiva ja luova. Tässä vaiheessa tekoälyjärjestelmät ovat puolivalvottuja tai jopa valvomattomia. Ne ovat läpinäkyviä ja saavuttavat "terveen järjen" moniajo-oppimisen kautta. Nämä järjestelmät tarjoavat rikkaampaa älykkyyttä ja reaaliaikaisia, käyttökelpoisia oivalluksia. Tämä tapahtuu hyvin hallitun, hallitun tekoälyn avulla, joka on tulkittavissa ja selitettävissä kaikissa vaiheissa.

Kuinka työskennellä kohti vastuullisempaa, läpinäkyvämpää tekoälyä

Tekoälyä käytetään yhä enemmän koulujen, työtilojen ja muiden julkisten tahojen hallintaan. Näissä asetuksissa on tärkeämpää kuin koskaan, että tekoäly on oikeudenmukainen ja läpinäkyvä. Kun yhteiskunta kuitenkin käy läpi tämän tekoälyn käyttöönoton räjähdysmäisesti, sääntelyelimet antavat rajoitettuja ohjeita tekoälytekniikoiden asianmukaisesta kehittämisestä ja käyttöönotosta. Yrityksillä on siis velvollisuus ottaa johtoasema. Laajemman teknologia-alan on saatava taloudellinen lihas ja inhimillinen pääoma töihin ja muutettava pirstoutuneen tekoälyn alkuperäiset toteutukset tehokkaiksi, luoviksi, vastuullisiksi ja läpinäkyviksi älykkyysvetoisiksi ekosysteemeiksi. Siirtyäkseen tähän tilaan yritysten tulee tehdä seuraavat neljä asiaa:

• Pidä ihmiset ajan tasalla: AI-mallit on usein suunniteltu toimimaan ihmisistä riippumatta. Inhimillinen elementti on kuitenkin ratkaiseva monissa tapauksissa. Ihmisten on tarkistettava päätökset ja vältettävä ennakkoluuloja ja virheitä, jotka usein sivuuttavat tekoälyprojekteja. Kaksi käyttötapausta sisältävät petosten havaitsemisen ja tapaukset, joissa lainvalvonta on mukana. Suosittelemme, että yritykset palkkaavat tekoälyn harjoittajia hitaasti mutta johdonmukaisesti ajan mittaan, jotta he pääsevät alkuun tekoälymatkalleen.
• Poista puolueelliset tietojoukot: Puolueeton tietojoukko on kriittinen edellytys luotettavien, oikeudenmukaisten ja syrjimättömien tekoälymallien luomiselle. Tekoälyn tärkeyden ymmärtämiseksi pankit käyttävät ansioluetteloita ja luottoluokitusta, ja se on jopa päässyt joihinkin oikeusjärjestelmiin. Tässä maisemassa hallitsemattomilla harhoilla on ollut hyvin todellisia seurauksia.
• Varmista, että päätökset ovat selitettävissä: Tätä ominaisuutta ovat käsitelleet monet suuret uutiskanavat, ja aivan oikein. XAI auttaa selittämään, miksi tekoälyjärjestelmä teki tietyn päätöksen. Se paljastaa, mitä syväoppimismallin ominaisuuksia käytettiin enemmän kuin muita sen ennusteen tai hypoteesin tekemiseen. Ominaisuuksien tärkeyden ymmärtäminen ja kyky perustella, miten päätökset tehdään, on ratkaisevan tärkeää käytettäessä tapauksia, kuten autonomisia ajoneuvoja ja tietokonenäköä, joita käytetään lääketieteellisissä biopsioissa.
• Toista löydökset luotettavasti: Yleinen välttämättömyys tutkimusprojekteissa, tekoälymallien tulee olla johdonmukaisia, kun ne antavat ennusteita ajan mittaan. Tällaisia ​​malleja ei pitäisi vaiheittain jakaa uusien tietojen kera.

Nämä neljä asiaa luovat läpinäkyviä, älykkyyteen perustuvia ekosysteemejä, jotka etenevät kohti sitä, mitä kutsumme "eläväksi yritykseksi". Täällä tehdään puolueettomia, selitettäviä päätöksiä aivan reaaliajassa, ja koko yritys toimii aistivana organismina, jota ihmiset hallitsevat. Lue Infosys Knowledge Instituten valkoinen kirja selvittää lisää.