Esittely uusia läpinäkyvyyden tasoa tekoälyllä – ajattelijoita

Kirjoittanut Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, Infosysissa.

Maailman terveysjärjestö ilmoitti 9. tammikuuta 2020 koronaviruspandemiasta Kiinassa. Kolme päivää aikaisemmin Yhdysvaltain tartuntatautien valvonta- ja ehkäisykeskus oli ilmoittanut asiasta. mutta Kanadalainen terveydenvalvontajärjestelmä BlueDot oli jo lähettänyt varoituksen asiakkaillensa 31. joulukuuta 2019! BlueDot käyttää tekoälyohjattuja algoritmeja, jotka etsivät ulkomaisista uutisista, eläin- ja kasvitautiverkostoista ja virallisista ilmoituksista tietoa, jotta asiakkaat voivat varautua vaara-alueisiin kuten Wuhan.

Viime vuosina tekoäly on muodostunut avainmuutokseen, häiriintymiseen ja kilpailuetuun nopeasti muuttuvassa taloudessa. Epidemioitten seuraamisesta puolustukseen, terveydenhuoltoon, itseohjautuviin ajoneuvoihin ja kaikkeen siihen liittyvään, tekoäly on saavuttamassa laajaa hyväksyntää. PwC:n mukaan tekoäly voi tuottaa jopa 15,7 biljoonaa dollaria maailman taloudelle vuoteen 2030 mennessä nykyisellä kasvuvauhdilla.

Toisaalta tekoäly herättää edelleen kysymyksiä läpinäkyvyydestä ja luotettavuudesta. On tärkeää ymmärtää, ennustaa ja luottaa tekoälyjärjestelmien päätöksentekokykyyn, erityisesti sellaisilla aloilla, jotka ovat elämän, kuoleman ja henkilökohtaisen hyvinvoinnin kannalta kriittisiä.

Tuntemattomaan

Kun automaattiset päätöksentekojärjestelmät otettiin ensimmäisen kerran käyttöön päätöksenteon tueksi, ne perustuivat käsin tehtyihin sääntöihin. Vaikka tämä teki niiden tulkinnasta ja muokkaamisesta helppoa, ne eivät olleet skaalautuvia. Konenoppimiseen perustuvat mallit tulivat vastaamaan tähän tarpeeseen; ne eivät vaatineet ihmisen väliintuloa ja voivat kouluttaa dataa – mitä enemmän, sitä paremmin. Vaikka syvän konenoppimisen mallit ovat ylittämättömiä mallinnuskyvyssään ja soveltamisalueessaan, se, että nämä mallit ovat pääosin mustia laatikoita, herättää huolestuttavia kysymyksiä niiden totuudenmukaisuudesta, luotettavuudesta ja harhaistaessaan laajassa käytössä.

Tällä hetkellä ei ole suoraa mekanismia, jolla voidaan jäljittää syvän konenoppimisen malleissa käytettyä päätöksentekoprosessia. Konenoppimismalleissa, joilla on mustan laatikon luonne, pääasiallinen selittävyyden tyyppi on jälkikäteen selittäminen, mikä tarkoittaa, että selitykset johdetaan mallin tuottamien tulosten ominaisuuksista ja luonteesta. Varhaiset yritykset poistaa säännöt neuroverkoista (kuten syvä konenoppiminen tunnettiin aikaisemmin) eivät ole enää käynnissä, koska verkostot ovat liian suuria ja monimuotoisia jotta sääntöjen poisto olisi käytännöllistä. On siis kiireellinen tarve ottaa käyttöön selittävyyttä ja läpinäkyvyyttä tekoälymallinnuksen perusrakenteeseen.

Ulos pimeydestä, sisään valoon

Tämä huolenaihe on luonut tarpeen läpinäkyvyydelle konenoppimisessa, mikä on johtanut selitettävän tekoälyn (XAI) kasvuun. Se pyrkii ratkaisemaan suuret ongelmat, jotka estävät meitä luottamasta tekoälyjärjestelmien päätöksentekoon — mukaan lukien harhaistaessaan ja läpinäkyvyyden. Tämä uusi tekoälyn ala tuo vastuullisuutta varmistamaan, että tekoäly hyödyttää yhteiskuntaa paremmin kaikille osapuolille.

XAI on avainasemassa auttaessaan tekoälyjärjestelmien ja algoritmien sisäänrakennettuja harhaistumisia, jotka johtuvat siitä, että ne on ohjelmoitu ihmisten toimesta, joiden taustat ja kokemukset johtavat tahattomasti tekoälyjärjestelmien kehittämiseen, jotka osoittavat harhaistumisia. Haluttuja harhaistumisia, kuten syrjintää tietyn kansallisuuden tai etnisyyden suhteen, voi esiintyä, koska järjestelmä antaa sille arvon perustuen todellisiin tietoihin. Esimerkiksi voidaan havaita, että tyypilliset lainanmaksamattomuudet ovat tietyn etnisen taustan edustajia, mutta mikäli tätä perusteella toteutetaan rajoittavia toimia, se voi olla vastoin reiluja käytäntöjä. Virheelliset tiedot ovat toinen syy harhaistumisille. Esimerkiksi jos tietty kasvontunnistin on epätarkka 5 %:ssa tapauksista ihonvärin tai valon suunnan vuoksi, se voi aiheuttaa harhaistumisia. Lopulta, jos otosdataa ei edusteta koko väestöä, harhaistumisia on väistämätön.

XAI pyrkii ratkaisemaan, miten tekoälyjärjestelmien mustan laatikon päätökset tehdään. Se tarkastelee ja yrittää ymmärtää vaiheita ja malleja, jotka ovat osana päätöksentekoa. Se vastaa tärkeisiin kysymyksiin, kuten: Miksi tekoälyjärjestelmä teki tietyn ennusteen tai päätöksen? Miksi tekoälyjärjestelmä ei tehnyt jotain muuta? Milloin tekoälyjärjestelmä onnistui tai epäonnistui? Milloin tekoälyjärjestelmä antaa riittävästi luottamusta päätökseen, jotta voit luottaa siihen, ja miten tekoälyjärjestelmä voi korjata virheitä?

Selitettävä, ennustettavissa oleva ja jäljitettävissä oleva tekoäly

Yksi tapa saada selitettävyys tekoälyjärjestelmiin on käyttää konenoppimisalgoritmeja, jotka ovat luonnostaan selitettävissä. Esimerkiksi yksinkertaisemmat konenoppimisen muodot, kuten päätöspuut, Bayes-luokittelijat ja muut algoritmit, joilla on tietty määrä jäljitettävyyttä ja läpinäkyvyyttä päätöksenteossa. Ne voivat tarjota tarvittavan näkyvyyden kriittisille tekoälyjärjestelmille ilman, että uhraavat liikaa suorituskykyä tai tarkkuutta.

Huomattuaan tarpeen antaa selitettävyys syvemmälle konenoppimiselle ja monimutkaisemmille algoritmille, Yhdysvaltain puolustusministeriön etäalan tutkimusvirasto (DARPA) on käynnissä tutkimushankkeita, joiden tavoitteena on tuottaa selitettäviä tekoälyratkaisuja. DARPA määrittelee tekoälyselitettävyyden kolmeen osaan, jotka sisältävät: ennusteen tarkkuuden, joka tarkoittaa, että mallit selittävät, miten johtopäätökset tehdään, jotta voidaan parantaa tulevia päätöksiä; päätösten ymmärtämistä ja luottamusta sekä toimien tarkastelua ja jäljitettävyyttä, jotka tekoälyjärjestelmät suorittavat.

Jäljitettävyys antaa ihmisille mahdollisuuden osallistua tekoälypäätöksentekoprosesseihin ja hallita tehtäviä tai keskeyttää niitä tarpeen mukaan. Tekoälyjärjestelmän odotetaan suorittavan tiettyä tehtävää tai antavan päätöksiä ja tarjoavan myös läpinäkyvän raportin siitä, miksi se teki tiettyjä päätöksiä ja mitä perusteluita sille oli.

Algoritmien tai jopa XAI-lähestymistapojen standardisointi ei ole tällä hetkellä mahdollista, mutta on mahdollista standardisoida läpinäkyvyyden tasoa tai selitettävyyden tasoa. Standardointijärjestöt yrittävät saavuttaa yhteisiä, standardisoituja käsityksiä näistä läpinäkyvyyden tasoista helpottaakseen viestintää loppukäyttäjien ja teknologia-toimittajien välillä.

Kun hallitukset, instituutiot, yritykset ja yleinen väestö alkavat riippua tekoälyjärjestelmistä, voittaa heidän luottamuksensa selkeämmällä läpinäkyvyydellä päätöksentekoprosessissa on tulevaisuudessa perustavanlaatuista. Ensimmäisen maailmanlaajuisen konferenssin, joka on omistettu yksinomaan XAI:lle, Kansainvälisen tekoälykonferenssin: Työpajan selitettävissä olevasta tekoälystä, julkaiseminen on lisää näyttöä siitä, että XAI:n aika on tullut.