Tutkijat kehittivät “DeepTrust” -työkalun lisäämään tekoälyluotettavuutta

Tekoälyn turvallisuus ja luotettavuus on yksi teknologian tärkeimmistä osa-alueista. Se kehitetään jatkuvasti ja parannetaan alan huippututkijoiden toimesta, ja se on olennainen osa tekoälyn täydellistä käyttöönottoa yhteiskunnassa.

Jotkut uudet tutkimukset ovat tehty Etelä-Carolinan yliopistossa, jossa USC Viterbi Engineering -tutkijat ovat kehittäneet uuden työkalun, joka pystyy generoimaan automaattisia merkintöjä siitä, voidaanko tekoälyalgoritmeja luottaa niiden tietojen ja ennusteiden suhteen.

Tutkimus on julkaistu Frontiers in Artificial Intelligence -julkaisussa, jonka otsikko on ”Toivotaan, että kaikki on toivoa täynnä: mittaamalla mielipidettä ja luotettavuutta neuroverkoissa”. Tutkimuksen kirjoittajat ovat Mingxi Cheng, Shahin Nazarian ja Paul Bogdan USC Cyber Physical Systems Groupista.

Neuroverkkojen luotettavuus

Yksi suurimmista tehtävistä tässä alassa on saada neuroverkot generoimaan luotettavia ennusteita. Monissa tapauksissa tämä estää teknologian, joka perustuu tekoälyyn, täydellisen käyttöönoton.

Esimerkiksi itseohjautuvat ajoneuvot vaativat toimimaan itsenäisesti ja tekemään tarkkoja päätöksiä autopilotilla. Niiden on kyettävä tekemään nopeita päätöksiä ja tulkitsemaan ja tunnistamaan esineitä tiellä. Tämä on erittäin tärkeää erityisesti tilanteissa, joissa teknologian on täytettävä eroon esimerkiksi nopeuskuoppaa, jotain muuta esinettä tai elävää olenta.

Muita skenaarioita ovat itseohjautuvan ajoneuvon päätökset, kun toinen ajoneuvo tulee vastaan, ja kaikkein monimutkaisin päätös on, mitä itseohjautuva ajoneuvo tekee, jos se havaitsee toisen ajoneuvon, esineen tai elävän olennon.

Tämä tarkoittaa, että asetamme erittäin suuren luottamuksen itseohjautuvan ajoneuvon ohjelmistoja kohtaan, jotta ne tekevät oikeat päätökset vain sekunneissa. Se tulee vielä haasteellisemmaksi, kun on ristiriitaista tietoa eri sensoreista, kuten tietokoneen näkökulmasta kameroiden ja Lidarin kautta.

Johtava kirjoittaja Minxi Cheng päätti ottaa tämän projektin vastaan ajatellessaan, ”Ihmiset voivat olla epävarmoja joissain päätöksenteon skenaarioissa. Miksi koneet eivät voi kertoa meille, kun ne eivät tiedä?”

DeepTrust

Tutkijoiden kehittämä työkalu on nimeltään DeepTrust, ja se pystyy mittaamaan epävarmuuden määrän Paul Bogdanin mukaan, joka on apulaisprofessori Ming Hsieh Department of Electrical and Computer Engineering -yksikössä.

Tutkijaryhmä kehitti DeepTrustia lähes kaksi vuotta, pääasiassa käyttäen subjektiivista logiikkaa neuroverkkojen arvioimiseen. Yhdessä esimerkissä työkalu pystyi tarkastelemaan vuoden 2016 presidentinvaalikyselyjä ja ennustamaan, että Hillary Clintonin voiton marginaali oli suurempi.

DeepTrust-työkalu tekee myös helpommaksi testata tekoälyalgoritmien luotettavuutta, jotka on koulutettu jopa miljoonilla data-pisteillä. Toinen tapa tehdä tämä on tarkastella kunkin data-pisteen tarkkuutta, mikä on erittäin aikaa vievä tehtävä.

Tutkijoiden mukaan neuroverkkojärjestelmien arkkitehtuuri on tarkin, ja tarkin ja luotettavin voidaan maksimoida samanaikaisesti.

”Meidän tietämyksemme mukaan ei ole olemassa luotettavuuden mittaamismallia tai työkalua syvälle oppimiselle, tekoälylle ja koneoppimiselle. Tämä on ensimmäinen lähestymistapa ja avaa uusia tutkimussuuntia”, Bogdan sanoo.

Bogdan uskoo myös, että DeepTrust voi auttaa tekoälyä etenemään siihen pisteeseen, jossa se on ”tietoinen ja sopeutuvainen”.