Kuinka Selitettävä Tekoäly Parantaa Luotettavuutta ja Luotettavuutta

Tekoäly (AI) on yleistymässä yrityksissä, ja se on hitaasti sulautumassa elämäämme. Tämän demokratisoinnin tärkeä osa on, että loppukäyttäjien on voitava täysin ymmärtää prosessit ja mekanismit, joita tekoäly käyttää johtopäätöksiin tai toiminnan tuottamiseen. Ihmisluonnolle on syvään juurtunut tarve paljastaa “miksi” ja “miten” jokaisen ilmiön taustalla, mikä on kiihdyttänyt teknologista kehitystämme. Tekoälyssä tämä ymmärrys kutsutaan “selitettävyydeksi”.

Miksi selitettävyys on tärkeää?

Usein lähestymme tekoälyä “mustana laatikkoa”, jossa meillä on tietoisuus vain syötteistä ja tuloksista, mutta prosessit, joita käytetään, ovat meille tuntemattomia. Tätä ongelmaa lisää se, että useimpien tekoälymenetelmien, kuten monimutkaisten syväoppimismallien ja luonnollisen kielen prosessoinnin, algoritmit ovat hyvin abstrakteja jopa niiden parhaimmille harjoittelijoille.

Luottamus ja avoimuus: Jotta käyttäjät voivat luottaa tekoälyn ennusteisiin, niissä on oltava jonkinlainen selitettävyys. Esimerkiksi jos lääkärin on suositeltava hoitoa tekoälyn ennusteiden perusteella, hän tarvitsee olla varma ennusteista. Pankin on oltava täysin varma lainan hyväksymisestä tai hylkäämisestä ja pystyvä perustelemaan sitä kaikille sidosryhmille. Tekoäly, jota käytetään rekrytoinnissa ja valinnassa, on osoitettava, että sen taustalla olevat mekanismit ovat reiluja ja tasapuolisia kaikille hakijoille.

Tehokkaampi tekoäly ja lisääntyvä hyväksyntä: McKinseyn The state of AI in 2020 -raportissa kerrotaan, että valmistaja käyttää erittäin avoimia malleja saadakseen hyväksynnän tehtaansa työntekijöiltä, jotka tarvitsevat luottaa tekoälyn tekemiin päätöksiin turvallisuudesta. Tekoälyn nopea hyväksyntä edellyttää, että sidosryhmien on saatava hyväksyntä. Tämä helpottuu, jos suorituskyky on selitettävissä laajemmalle yleisölle. Liiketoiminnan kannalta selitettävyys parantaa kokonaisuutena asiakaskokemusta ja lisää asiakastyytyväisyyttä. IBM Institute for Business Value -tutkimuksen mukaan 68 prosenttia johtajista uskoo, että asiakkaat vaativat enemmän selitettävyyttä tekoälystä seuraavien kolmen vuoden aikana.

Paljastaa harhat ja parantaa mallin suorituskykyä: Kehittäjän on tiedettävä, miten mallin suorituskykyä voidaan parantaa ja miten sitä voidaan virheidenkorjaus ja hienosäätää. Selkeä selitettävyyskehys on yksi tärkeimmistä työkaluista perusteellisen analyysin suorittamiseen.

Saada tarkemmat, monipuolisemmat näkymät: Kokonaisvaltainen 360-asteen näkymä tarvitaan täydelliseen ymmärtämiseen tekoälyn antamista suosituksista. Esimerkiksi, jos tekoälyä käytetään sijoituspäätöksiin, on myös tiedettävä syyt ja perusteet niiden takana, jotta voidaan siirtää tämä tietämys muihin alueisiin ja ymmärtää mahdollisia sijoituspäätösten vaaroja. Vankka ymmärrys tekoälyn toiminnasta mahdollistaa myös uusien soveltamisten löytämisen.

Säännökset ja vastuu: Useat säännökset, kuten GDPR, vaativat selitysoikeutta automaattisen päätöksenteon prosessien selventämiseksi. Esimerkiksi itseohjautuvissa ajoneuvoissa, jos jotain menee pieleen ja aiheuttaa henkilö- ja materiaalivahinkoja, on tarpeen tietää juurisyyt, mikä on vaikeaa määrittää mustassa laatikossa.

Miten tekoäly voidaan tehdä selitettävämmäksi?

Selitettävät tekoälyjärjestelmät (XAI) kehitetään eri tekniikoilla, jotka keskittyvät joko koko mallin selittämiseen tai yksittäisten ennusteiden perustelujen selittämiseen jonkin algoritmin avulla.

Useimmat selitettävyystekniikat perustuvat:

• Mallin jakamiseen yksittäisiin osiin
• Visualisointiin mallin ennusteista (esim. jos malli luokittelee auton tietyn merkin, se korostaa osaa, joka aiheutti sen luokittelun)
• Selityskaivaukseen (käyttäen koneoppimismenetelmiä relevantin datan löytämiseen, joka selittää tekoälyalgoritmin ennustetta)

Yhdessä tekniikassa, jota kutsutaan proxy-mallinnukseksi, yksinkertaisempi ja ymmärrettävämpi malli, kuten päätöspuu, käytetään edustamaan monimutkaisempaa tekoälymallia. Nämä yksinkertaiset selitykset antavat hyvän käsityksen mallista korkealla tasolla, mutta ne voivat joskus peittää tiettyjä nuansseja.

Toinen lähestymistapa on “selitettävyys suunnittelun kautta”. Tämä lähestymistapa asettaa rajoituksia tekoälyverkon suunnitteluun ja koulutukseen uudella tavalla, joka pyrkii rakentamaan koko verkon pienemmistä ja ymmärrettävistä osista. Tämä edellyttää tasapainoa tarkkuuden ja selitettävyyden välillä ja rajoittaa tiettyjä lähestymistapoja data- tutkijan työkalupakista. Se voi myös olla hyvin laskennallinen.

Tekoälyn koulutus ja testaus voivat myös käyttää agnostisia datan verifioimistekniikoita, kuten Local Interpretable Model (LIME) ja Shapley Additive exPlanations (SHAP), ja nämä tulisi räätälöidä saavuttamaan korkean tarkkuuden F-scoren, precision ja muiden mittareiden avulla. Kaikki tulokset on seurattava ja vahvistettava laajan datan avulla. LIME: n avulla esimerkiksi organisaatiot voivat luoda tilapäisiä malleja, jotka jäljittelevät epäselvien algoritmien, kuten koneoppimisen, ennusteita. Nämä LIME-mallit voivat luoda laajan joukon muunnelmia annetun datan ja sen vastaavan tulosteen perusteella, mikä voidaan käyttää yksinkertaisempien ja tulkittavampien mallien kouluttamiseen yhdessä kattavien selitysten kanssa kussakin päätöksessä ja / tai ennustetta.

Periaatteelliset toiminnot

Strategisemmalla tasolla tekoälyn luotettavuuskehykset tulisi kuitenkin sisältää laajan joukon periaatteita, joiden tavoitteena on varmistaa oikeat tulokset sekä käyttöönoton alussa että ajan myötä, kun malleja kehitetään muuttuvissa olosuhteissa. Vähintään nämä kehykset tulisi sisältää asioita kuten:

• Harhan havaitseminen – kaikki datasarjat on puhdistettava harhaisuudesta ja syrjivyydestä ja annettava oikea paino ja harkinta, kun sovelletaan koulutusmalliin;
• Ihmisen osallistuminen – operaattorien on voitava tutkia ja tulkita algoritmien tuloksia aina, erityisesti, kun malleja käytetään lainvalvontaan ja kansalaisoikeuksien säilyttämiseen;
• Perustelu – kaikki ennusteet on voitava kestää tarkastelun, mikä edellyttää korkeaa avoimuutta, jotta ulkopuoliset tarkkailijat voivat arvioida prosesseja ja kriteerejä, joita käytetään tuloksien tuottamiseen;
• Toistettavuus – luotettavat tekoälymallit on oltava johdonmukaisia ennusteissaan ja ne on oltava hyvin vakaat uuden datan kohtaamisessa.

Mutta XAI: n ei tulisi katsota vain keinojen parantamiseksi, vaan myös vastuun tuomiseksi varmistamaan, että instituutiot voivat selittää ja perustella luomustensa vaikutusta yhteiskuntaan kokonaisuutena.