Google Luo Uuden Selitettävän Tekoälyohjelman Lisäämään Avoimuutta ja Virheenkorjausta

Google (GOOGL ) ilmoitti hiljattain uuden pilvi-alustan luomisesta, jonka tarkoituksena on antaa syvemmän ymmärryksen siitä, miten tekoälyohjelma tekee päätöksiä, ja tehdä virheenkorjaus helpommaksi ja lisätä avoimuutta. The Registerin mukaan pilvi-alusta on nimeltään Selitettävä Tekoäly, ja se on merkittävä askel Googlelta tekoälyn selitettävyyden kehittämiseksi.

Tekoälyjärjestelmissä käytetään usein keinotekoisia neuroverkkoja, jotka voivat olla erittäin monimutkaisia ja laajoja. Mitä monimutkaisempi järjestelmä on, sitä vaikeampaa on ymmärtää, miksi se on tehnyt tietyän päätöksen. Google selittää valkoisessa kirjassa, että mitä voimakkaampia tekoälyjärjestelmät tulevat, sitä monimutkaisempia ne tulevat, ja siksi ne ovat vaikeampia debugata. Avoimuus häviää myös, kun järjestelmä monimutkaistuu, mikä tekee siitä vaikeaa tunnistaa ja korjata mahdollisia harhaanjohtavia algoritmeja.

Se, että kompleksisten järjestelmien syyt ovat niin vaikeita tulkita, johtaa usein vakaviin seurauksiin. Se ei ainoastaan vaikeuta tekoälyn harhaanjohtavien algoritmien torjumista, vaan myös vaikeuttaa erottamaan merkityksettömät korrelaatiot todellisesti merkityksellisistä korrelaatioista.

Monet yritykset ja tutkimusryhmät tutkivat, miten “mustan laatikon” ongelmaa voidaan ratkaista ja luoda järjestelmä, joka selittää riittävästi, miksi tekoäly on tehnyt tietyän päätöksen. Googlen Selitettävä Tekoäly -alusta on yritys ratkaista tämä haaste. Selitettävä Tekoäly koostuu kolmesta eri työkalusta. Ensimmäinen työkalu on järjestelmä, joka kuvaa, mitkä ominaisuudet tekoäly on valinnut, ja se näyttää myös attribuuttiarvon, joka edustaa ominaisuuden vaikutusta lopulliseen ennusteeseen. Googlen raportissa esitetään esimerkki, jossa ennustetaan, kuinka kauan pyöräily kestää, ja muuttujina ovat sade, lämpötila, viikonpäivä ja lähtöaika. Kun verkko tekee päätöksen, se antaa palautteen, joka näyttää, mitkä ominaisuudet vaikuttivat eniten ennusteeseen.

Miten tämä työkalu antaa palautetta kuvadataa? Tässä tapauksessa työkalu luo kerroksen, joka korostaa kuvan alueita, jotka vaikuttivat eniten tehtyyn päätökseen.

Työkalupakettiin kuuluu myös “Mitä jos” -työkalu, joka näyttää, miten mallin suorituskyky voi muuttua, kun yksittäisiä ominaisuuksia muutetaan. Lopulta viimeinen työkalu voidaan asettaa antamaan näytteitä ihmisten tarkasteltaviksi säännöllisesti.

Tohtori Andrew Moore, Googlen tekoälyn ja koneoppimisen päätieteilijä, kertoi hankkeen taustasta. Moore selitti, että noin viisi vuotta sitten akateeminen yhteisö alkoi olla huolissaan tekoälyn haitallisista sivutuotteista, ja Google halusi varmistaa, että heidän järjestelmänsä käytettiin vain eettisesti. Moore kertoi tapauksesta, jossa yhtiö yritti suunnitella tietokoneen näköohjelmaa, joka varoittaisi rakennustyöläisiä, jos joku ei ollut päässyt kypärää, mutta heidät huolestutti, että valvonta voisi mennä liian pitkälle ja tulla epäinhimilliseksi. Moore sanoi, että sama syy oli, miksi Google päätti olla julkaisematta yleistä kasvontunnistus-API:aa, koska yhtiö halusi olla varma, että heidän teknologiaansa käytettiin vain eettisesti.

Moore korosti myös, miksi on niin tärkeää, että tekoälyn päätökset ovat selitettävissä:

“Jos sinulla on turvallinen järjestelmä tai yhteiskunnallisesti tärkeä asia, jolla voi olla ei-toivottuja seurauksia, jos luulet, että mallisi on tehnyt virheen, sinun on kyettävä diagnosoimaan sen. Haluamme selittää huolellisesti, mitä selitettävyys voi ja mitä ei voi tehdä. Se ei ole universaali ratkaisu.