Mitä on Selitettävä Tekoäly?

Kun tekoäly (AI) tulee yhä monimutkaisemmaksi ja laajemmaksi yhteiskunnassa, yksi kriittisimmistä prosessien ja menetelmien joukoista on selitettävä tekoäly (XAI).

Selitettävä tekoäly voidaan määritellä seuraavasti:

• Joukko prosesseja ja menetelmiä, jotka auttavat ihmisiä ymmärtämään ja luottamaan koneoppimisen algoritmien tuloksiin.

Kuten voit arvata, tämä selitettävyys on erittäin tärkeää, kun tekoälyalgoritmit ohjaavat useita sektoreita, mikä sisältää riskin, virheelliset algoritmit ja muut ongelmat. Saavuttamalla avoimuuden selitettävyyden kautta, maailma voi todella hyödyntää tekoälyn voimaa.

Selitettävä tekoäly, kuten nimestä voidaan päätellä, auttaa kuvaamaan tekoälymallin, sen vaikutuksen ja mahdolliset harhat. Se myös osallistuu mallin tarkin ja reilun, avoimuuden ja tulosten kuvaamiseen tekoälyvoimaisissa päätöksentekoprosesseissa.

Nykyään tekoälyvoimaiset organisaatiot tulisi aina omaksua selitettävän tekoälyn prosesseja, jotta voidaan rakentaa luottamusta ja varmuutta tekoälymalleihin, jotka ovat tuotannossa. Selitettävä tekoäly on myös avainasemassa vastuullisessa yrityksessä nykyisen tekoälyympäristön keskellä.

Koska nykyiset tekoälyjärjestelmät ovat niin kehittyneitä, ihmiset suorittavat yleensä laskentaprosessin, jotta voidaan jäljittää, miten algoritmi saavutti tuloksensa. Tämä prosessi muuttuu “mustaksi laatikoksi”, mikä tarkoittaa, että se on mahdotonta ymmärtää. Kun nämä selitettävät mallit kehitetään suoraan datasta, kukaan ei voi ymmärtää, mitä tapahtuu niiden sisällä.

Ymmärtämällä, miten tekoälyjärjestelmät toimivat selitettävän tekoälyn kautta, kehittäjät voivat varmistaa, että järjestelmä toimii odotetusti. Se voi myös auttaa varmistamaan, että malli täyttää sääntelyvaatimukset, ja se tarjoaa mahdollisuuden haastaa tai muuttaa mallia.

Kuva: Dr. Matt Turek/DARPA

Eröt tekoälyn ja XAI:n välillä

Jotkut avainerot auttavat erottamaan “tavallisen” tekoälyn selitettävästä tekoälystä, mutta ennen kaikkea, XAI toteuttaa tiettyjä menetelmiä, jotka auttavat varmistamaan, että jokainen päätös koneoppimisprosessissa on jäljitettävissä ja selitettävissä. Vertailussa tavallinen tekoäly saavuttaa yleensä tuloksensa koneoppimisalgoritmilla, mutta se on mahdotonta ymmärtää, miten algoritmi saavutti tuloksensa. Tavallisen tekoälyn tapauksessa on erittäin vaikea tarkistaa tarkin, mikä johtaa hallinnan, vastuun ja tarkastettavuuden menetykseen.

Selitettävän tekoälyn hyödyt

On monia hyötyjä mille tahansa organisaatiolle, joka haluaa omaksua selitettävän tekoälyn, kuten:

• Nopeammat tulokset: Selitettävä tekoäly mahdollistaa organisaatioiden järjestelmällisen seurannan ja hallinnan malleja, jotta voidaan optimoida liiketoimintatuloksia. On mahdollista jatkuvasti arvioida ja parantaa mallin suorituskykyä ja hienosäätää mallin kehittämistä.
  
• Riskien vähentäminen: Omaksumalla selitettävän tekoälyn prosesseja, voit varmistaa, että tekoälymallisi ovat selitettäviä ja avoimia. Voit hallita sääntely-, riski- ja muita vaatimuksia minimoiden manuaalisen tarkastelun ylitöitä. Tämä auttaa myös vähentämään tahattoman harhan riskiä. 
• Luottamuksen rakentaminen: Selitettävä tekoäly auttaa luomaan luottamusta tuotannossa oleviin tekoälymalleihin. Tekoälymallit voidaan nopeasti ottaa tuotantoon, voit varmistaa tulkinnaistettavuuden ja selitettävyyden, ja mallin arviointiprosessi voidaan yksinkertaistaa ja tehdä avoimemmaksi.

Selitettävän tekoälyn menetelmät

On joitakin XAI-menetelmiä, jotka kaikkien organisaatioiden tulisi ottaa huomioon, ja ne koostuvat kolmesta päämenetelmästä: ennusteen tarkin, jäljitettävyys ja päätöksenteon ymmärtäminen.

Ensimmäinen kolmesta menetelmästä, ennusteen tarkin, on olennainen tekoälyn onnistuneeseen käyttöön arkipäivän toiminnassa. Simulaatioita voidaan suorittaa, ja XAI-tulokset voidaan verrata tuloksiin koulutusaineistossa, mikä auttaa määrittämään ennusteen tarkin. Yksi suosituimmista menetelmistä tähän on Local Interpretable Model-Agnostic Explanations (LIME), menetelmä, joka selittää luokittelijoiden ennusteen koneoppimisalgoritmilla.

Toinen menetelmä on jäljitettävyys, joka saavutetaan rajoittamalla, miten päätöksiä voidaan tehdä, sekä perustamalla kapeampi koneoppimissääntöjen ja ominaisuuksien piiri. Yksi yleisimmistä jäljitettävyyden menetelmistä on DeepLIFT, eli Deep Learning Important FeaTures. DeepLIFT vertaa jokaisen hermosolun aktivaatiota viitehermosolkuunsa osoittaen jäljitettävän linkin jokaisen aktivoituneen hermosolun välillä. Se myös osoittaa riippuvuudet niiden välillä.

Kolmas ja viimeinen menetelmä on päätöksenteon ymmärtäminen, joka on ihmiskeskeinen, toisin kuin kaksi muuta menetelmää. Päätöksenteon ymmärtäminen sisältää kouluttamisen organisaatiota, erityisesti tiimiä, joka työskentelee tekoälyn kanssa, jotta he voivat ymmärtää, miten ja miksi tekoäly tekee päätöksiä. Tämä menetelmä on olennainen luottamuksen perustamisessa järjestelmään.

Selitettävän tekoälyn periaatteet

Jotta voidaan antaa parempi ymmärrys XAI:sta ja sen periaatteista, National Institute of Standards (NIST), joka on osa Yhdysvaltain kauppaministeriötä, tarjoaa määritelmät neljälle selitettävän tekoälyn periaatteelle:

1. Tekoälyjärjestelmän tulisi tarjota näyttö, tuki tai perustelu jokaiselle tulokselle. 
2. Tekoälyjärjestelmän tulisi antaa selitykset, jotka voidaan ymmärtää sen käyttäjien toimesta. 
3. Selityksen tulisi heijastaa tarkin prosessia, jota järjestelmä käytti tuloksensa saavuttamiseen. 
4. Tekoälyjärjestelmän tulisi toimia ainoastaan olosuhteissa, joissa se on suunniteltu, eikä se tulisi antaa tuloksia, kun se ei ole riittävän varma tuloksestaan.

Nämä periaatteet voidaan järjestää edelleen seuraavasti:

• Merkityksellinen: Jotta voidaan saavuttaa merkityksellisyyden periaate, käyttäjän tulisi ymmärtää selitys, joka annetaan. Tämä voi myös tarkoittaa, että erilaisilla käyttäjillä, joita tekoälyalgoritmi käyttää, voi olla useita selityksiä. Esimerkiksi itseohjautuvassa autossa yksi selitys voisi olla: “Tekoäly luokitteli muovipussin tiellä kiviksi ja teki toimenpiteen välttääkseen sen.” Vaikka tämä esimerkki toimisi kuljettajalle, se ei olisi hyödyllistä tekoälykehittäjälle, joka yrittää korjata ongelman. Kehittäjän tulisi ymmärtää, miksi tapahtui vääräluokittelu. 
• Selityksen tarkin: Toisin kuin tuloksen tarkin, selityksen tarkin liittyy tekoälyalgoritmin selittävän tarkin. Esimerkiksi, jos lainan hyväksymisalgoritmi selittää päätöksensä hakijan tulon perusteella, vaikka se perustuu hakijan asuinpaikkaan, selitys olisi epätarkin. 
• Tietämyksen rajoitukset: Tekoälyn tietämyksen rajoitukset voidaan saavuttaa kahdella tavalla, ja se liittyy syötteen, joka on tekoälyjärjestelmän asiantuntemuksen ulottumattomissa. Esimerkiksi, jos järjestelmä on rakennettu luokittelemaan lintulajeja ja sille annetaan kuva omenasta, se tulisi pystyä selittämään, että syöte ei ole lintu. Jos sille annetaan epäselvä kuva, se tulisi pystyä raportoimaan, ettei se pysty tunnistamaan lintua kuvassa, tai vaihtoehtoisesti, että sen tunnistus on erittäin alhaisen luottamuksen arvoinen.

Daatan rooli selitettävässä tekoälyssä

Yksi selitettävän tekoälyn tärkeimmistä komponenteista on data.

Googlella on todettu, että daatan ja selitettävän tekoälyn suhteen “tekoälyjärjestelmä ymmärretään parhaiten sen alla olevasta koulutusaineistosta ja koulutusprosessista sekä tuloksena olevasta tekoälymallista.” Tämä ymmärrys riippuu kyvystä kartoittaa koulutettu tekoälymalli tarkasti siihen käytettyyn aineistoon ja tutkia dataa tarkasti.

Jotta voidaan parantaa mallin selitettävyyttä, on tärkeää kiinnittää huomiota koulutusaineistoon. Tiimien tulisi määrittää, mistä data on peräisin, mitkä ovat sen hankinnan lailliset ja eettiset näkökulmat, onko datassa mahdollisia harhoja ja mitä voidaan tehdä niiden vähentämiseksi.

Toinen kriittinen daatan ja XAI:n suhde on, että daataa, joka ei ole relevanttia järjestelmälle, tulisi poistaa. Tämän saavuttamiseksi irrelevanttia dataa ei tulisi sisällyttää koulutusaineistoon tai syöteaineistoon.

Google (GOOGL ) on suositellut joukkoa käytäntöjä, joiden avulla voidaan saavuttaa tulkinnaistettavuus ja vastuullisuus:

• Suunnittele vaihtoehtosi tulkinnaistettavuuden saavuttamiseksi
• Käsittele tulkinnaistettavuutta käyttäjäkokemuksen keskeisenä osana
• Suunnittele malli tulkinnaistettavaksi
• Valitse mittarit, jotka heijastavat lopputavoitetta ja lopputehtävää
• Ymmärrä koulutettu malli
• Selitä selityksiä mallin käyttäjille
• Suorita runsaasti testausta, jotta voidaan varmistaa, että tekoälyjärjestelmä toimii halutulla tavalla

Noudattamalla näitä suositeltuja käytäntöjä, organisaatiot voivat varmistaa, että ne saavuttavat selitettävän tekoälyn, joka on avainasemassa mihin tahansa tekoälyvoimaiseen organisaatioon nykyisessä ympäristössä.