Selittevyys voi ratkaista jokaisen alan AI-ongelman: läpinäkyvyyden puute

Kirjoittaja: Migüel Jetté, VP of R&D Speech, Rev.

Aluksi AI saattoi riittää uutuutensa ansiosta. Se oli ok, että koneoppiminen oppii hitaasti ja ylläpiti läpinäkyvyyttä, jossa koneen laskelma oli keskivertokuluttajalle läpinäkymätön. Tämä on kuitenkin muuttumassa. Kun enemmän aloja, kuten terveydenhuolto, rahoitus ja rikosasioiden oikeusjärjestelmä, alkavat hyödyntää AI:ta tapoja, jotka voivat vaikuttaa ihmisten elämään, enemmän ihmisiä haluaa tietää, miten algoritmit ovat käytössä, miten dataa on kerätty ja miten tarkat sen kyvyt ovat. Jos yritykset haluavat pysyä innovaation edelläkävijöinä markkinoillaan, heidän on luotettava AI:hen, jota heidän yleisönsä luottaa. AI-selittevyys on avainkomponentti syventääksesi tämän suhteen.

AI-selittevyys eroaa standardista AI-prosessista, koska se tarjoaa ihmisille tavan ymmärtää, miten koneoppimisen algoritmit tuottavat tuloksia. Selitettävä AI on järjestelmä, joka voi tarjota ihmisille mahdollisia tuloksia ja heikkouksia. Se on koneoppimisen järjestelmä, joka voi täyttää ihmisen halun reiluuteen, vastuullisuuteen ja yksityisyyden kunnioittamiseen. Selitettävä AI on välttämätöntä liiketoiminnan luottamuksen rakentamiseksi kuluttajien kanssa.

AI laajenee, ja AI-toimittajien on ymmärrettävä, ettei musta laatikko voi. Musta laatikkomallit luodaan suoraan datasta, ja usein edes kehittäjä, joka loi algoritmin, ei voi tunnistaa, mitä koneen oppimistottumuksia ohjasi. Mutta tietoinen kuluttaja ei halua osallistua johonkin niin läpinäkymättömään, ettei sitä voida pitää vastuussa. Ihmiset haluavat tietää, miten AI-algoritmi saapuu tiettyyn tulokseen ilman läpinäkymättömän syötteen ja ohjatun tulostuksen mysteeriä, erityisesti kun AI:n virheiden vuoksi on usein koneen harhaa. Kun AI kehittyy edelleen, ihmiset haluavat pääsyä koneoppimisprosessiin ymmärtääkseen, miten algoritmi saavutti tietyn tuloksen. Jokaisen alan johtajien on ymmärrettävä, että pian ihmiset eivät enää halua tätä pääsyä, vaan vaativat sitä välttämättömänä läpinäkyvyyden tasona.

Äänentunnistusjärjestelmät, kuten ääniohjatut avustajat, transkriptiotecknologia ja muut palvelut, jotka muuttavat ihmisen puheen tekstimuotoon, ovat erityisesti harhaisia. Kun palvelua käytetään turvallisuustoimiin, virheet, jotka johtuvat aksenteista, henkilön iästä tai taustasta, voivat olla vakavia virheitä, joten ongelmaa on otettava tosissaan. Äänentunnistusta voidaan käyttää tehokkaasti poliisin kameroissa esimerkiksi automaattisesti tallentamaan ja transkriboimaan vuorovaikutuksia — pitämällä kirjaa, joka, jos transkriboitiin tarkasti, voisi pelastaa henkiä. Selitettävyyden käytäntö edellyttää, että AI ei vain luota ostettuihin tietokantoihin, vaan ymmärretään saapuvan äänen ominaisuuksia, jotka voivat johtaa virheisiin, jos sellaisia on. Mikä on akustinen profiili? Onko taustalla melua? Onko puhuja ei-englanninkielisestä maasta tai sukupolvesta, joka käyttää sanastoa, jota AI ei ole vielä oppinut? Koneoppimisen on oltava proaktiivista oppimassa nopeammin, ja se voi aloittaa keräämällä dataa, joka voi käsitellä näitä muuttujia.

Tarve on tulevaisuudessa ilmeinen, mutta tämän menetelmän toteuttamisen tie ei aina ole helppo. Perinteinen vastaus ongelmaan on lisätä enemmän dataa, mutta monimutkaisempi ratkaisu on tarpeen, erityisesti kun useat yritykset käyttävät ostettuja tietokantoja, jotka ovat sisäänrakennetusti harhaisia. Tämä johtuu siitä, että on historiallisesti ollut vaikea selittää tiettyä päätöstä, jonka AI on tuottanut, ja tämä johtuu loppupään mallien monimutkaisuuden luonteesta. Voimme kuitenkin nyt, ja voimme aloittaa kysymällä, miten ihmiset menettivät luottamuksensa AI:hen alun perin.

AI tekee väistämättä virheitä. Yritysten on rakennettava malleja, jotka ovat tietoisia mahdollisista heikkouksista, tunnistavat, milloin ja missä ongelmia tapahtuu, ja luovat jatkuvia ratkaisuja rakentamaan vahvempia AI-malleja:

1. Kun jotain menee pieleen, kehittäjien on selitettävä, mitä tapahtui, ja kehittää välittömästi suunnitelma mallin parantamiseksi vähentämään tulevia, samankaltaisia virheitä.
2. Jotta kone voi todella tietää, oliko se oikein tai väärin, tutkijoiden on luotava palautekanava, jotta AI voi oppia heikkouksistaan ja kehittyä.
3. Toinen tapa äänentunnistuksen luottamuksen rakentamiseksi, kun AI on edelleen parantumassa, on luoda järjestelmä, joka voi tarjota luottamusarvoja ja antaa syitä, miksi AI on vähemmän luotettava. Esimerkiksi yritykset tuottavat yleensä arvosanoja nollasta sataan heidän oman AI:n virheiden kuvaamiseksi ja perustamaan läpinäkyvyyden asiakkaidensa kanssa. Tulevaisuudessa järjestelmät voivat tarjota jälkikäteen selityksiä siitä, miksi ääni oli haasteellinen, esimerkiksi tarjoamalla enemmän metadataa äänestä, kuten havaitun melutaso tai vähemmän ymmärretty aksentti.

Lisäinen läpinäkyvyys johtaa parempaan ihmisen valvontaan AI-koulutuksessa ja suorituskyvyssä. Mitä avoimempia olemme siitä, mihin meidän on parannettava, sitä vastuullisempia olemme toimimaan näiden parannusten hyväksi. Esimerkiksi tutkija saattaa haluta tietää, miksi virheellistä tekstiä tuotettiin, jotta hän voi lieventää ongelmaa, kun taas transkriptiotutkija saattaa haluta näyttöä siitä, miksi äänentunnistus väärinkäsitti syötteen, jotta hän voi arvioida sen validiteetin. Ihmisten pitäminen silmällä voi lieventää joitakin ilmeisimpiä ongelmia, jotka aiheutuvat, kun AI jää valvomatta. Se voi myös nopeuttaa aikaa, joka tarvitaan AI:n virheiden havaitsemiseen, parantamiseen ja lopulta korjaamiseen reaaliajassa.

AI:lla on kyky parantaa ihmisten elämää, mutta vain, jos ihmiset rakentavat sen tuottamaan oikein. Meidän on pidettävä sekä näitä järjestelmiä vastuussa että myös ihmisiä, jotka ovat vastuussa innovaatiosta. AI-järjestelmien on odotettavissa noudattavan ihmisten asettamia periaatteita, ja vasta silloin, kun meillä on järjestelmä, jota ihmiset luottavat. On aika luoda perusta ja pyrkiä noudattamaan näitä periaatteita nyt, kun se on vielä lopulta ihmisten palvelua.