Ajatusjohtajat
Selitettävyys voi ratkaista kaikkien toimialojen tekoälyongelman: läpinäkyvyyden puutteen

Keskeiset kohdatSelitettävä tekoäly rakentaa kuluttajien luottamusta paljastamalla algoritmien…
Näytä lisää
- Selitettävä tekoäly rakentaa kuluttajien luottamusta paljastamalla algoritmien päätöksentekoprosesseja.
- Puheentunnistusjärjestelmät vaativat läpinäkyvyyttä vähentääkseen aksentista, iästä tai taustasta johtuvia vinoumia.
- Palautejärjestelmät ja luottamuspisteet mahdollistavat tekoälyn oppimisen virheistään ja parantumisen.
Kirjoittaja: Migüel Jetté, VP of R&D Speech, Rev.
Aluksi AI saattoi riittää uutuutensa ansiosta. Se oli ok, että koneoppiminen oppii hitaasti ja ylläpiti läpinäkymätöntä prosessia, jossa koneen laskelma oli keskivertokuluttajalle läpinäkymätön. Tämä on kuitenkin muuttumassa. Kun enemmän aloja, kuten terveydenhuolto, rahoitus ja rikosasioiden oikeusjärjestelmä, alkavat hyödyntää AI:ta tapoja, jotka voivat vaikuttaa ihmisten elämään, enemmän ihmisiä haluaa tietää, miten algoritmit ovat käytössä, miten dataa on kerätty ja miten tarkat sen kyvyt ovat. Jos yritykset haluavat pysyä innovaation edelläkävijöinä markkinoillaan, heidän on luotettava AI:hen, jota heidän yleisönsä luottaa. Tekoälyn selitettävyys on avainkomponentti syventääksesi tämän suhteen.
Tekoälyn selitettävyys eroaa standardista AI-prosessista, koska se tarjoaa ihmisille tavan ymmärtää, miten koneoppimisen algoritmit tuottavat tuloksia. Selitettävä AI on järjestelmä, joka voi tarjota ihmisille mahdollisia tuloksia ja heikkouksia. Se on koneoppimisen järjestelmä, joka voi täyttää ihmisen halun reiluuteen, vastuullisuuteen ja yksityisyyden kunnioittamiseen. Selitettävä AI on välttämätöntä liiketoiminnan luottamuksen rakentamiseksi kuluttajien kanssa.
AI laajenee, ja tekoälyn toimittajien on ymmärrettävä, ettei mustan laatikon lähestymistapa voi jatkua. Musta laatikkomallit luodaan suoraan datasta, ja usein edes kehittäjä, joka loi algoritmin, ei voi tunnistaa, mitä koneen oppimistottumuksia ohjasi. Mutta tietoinen kuluttaja ei halua osallistua johonkin niin läpinäkymättömään, ettei sitä voida pitää vastuussa. Ihmiset haluavat tietää, miten AI-algoritmi saapuu tiettyyn tulokseen ilman läpinäkymättömän syötteen ja ohjatun tulostuksen mysteeriä, erityisesti kun tekoälyn virheet johtuvat usein koneen vinoumista. Kun AI kehittyy edelleen, ihmiset haluavat pääsyä koneoppimisprosessiin ymmärtääkseen, miten algoritmi saavutti tietyn tuloksen. Jokaisen alan johtajien on ymmärrettävä, että pian ihmiset eivät enää halua tätä pääsyä, vaan vaativat sitä välttämättömänä läpinäkyvyyden tasona.
Puheentunnistusjärjestelmät, kuten ääniohjatut avustajat, litterointiteknologia ja muut palvelut, jotka muuttavat ihmisen puheen tekstimuotoon, ovat erityisesti harhaisia. Kun palvelua käytetään turvallisuustoimiin, virheet, jotka johtuvat aksenteista, henkilön iästä tai taustasta, voivat olla vakavia virheitä, joten ongelmaa on otettava tosissaan. Puheentunnistusta voidaan käyttää tehokkaasti poliisin kameroissa esimerkiksi automaattisesti tallentamaan ja transkriboimaan vuorovaikutuksia — pitämällä kirjaa, joka, jos transkriboitiin tarkasti, voisi pelastaa henkiä. Selitettävyyden käytäntö edellyttää, että AI ei vain luota ostettuihin tietokantoihin, vaan ymmärretään saapuvan äänen ominaisuuksia, jotka voivat johtaa virheisiin, jos sellaisia on. Mikä on akustinen profiili? Onko taustalla melua? Onko puhuja ei-englanninkielisestä maasta tai sukupolvesta, joka käyttää sanastoa, jota AI ei ole vielä oppinut? Koneoppimisen on oltava proaktiivista oppimassa nopeammin, ja se voi aloittaa keräämällä dataa, joka voi käsitellä näitä muuttujia.
Tarve käy yhä ilmeisemmäksi, mutta tämän menetelmän toteuttamisen tie ei aina ole helppo. Perinteinen vastaus ongelmaan on lisätä enemmän dataa, mutta monimutkaisempi ratkaisu on tarpeen, erityisesti kun useat yritykset käyttävät ostettuja tietokantoja, jotka ovat sisäänrakennetusti harhaisia. Tämä johtuu siitä, että on historiallisesti ollut vaikea selittää tiettyä päätöstä, jonka AI on tuottanut, ja tämä johtuu päästä päähän -mallien monimutkaisuuden luonteesta. Voimme kuitenkin nyt, ja voimme aloittaa kysymällä, miten ihmiset menettivät luottamuksensa AI:hen alun perin.
AI tekee väistämättä virheitä. Yritysten on rakennettava malleja, jotka ovat tietoisia mahdollisista heikkouksista, tunnistavat, milloin ja missä ongelmia tapahtuu, ja luovat jatkuvia ratkaisuja rakentamaan vahvempia AI-malleja:
- Kun jotain menee pieleen, kehittäjien on selitettävä, mitä tapahtui, ja kehittää välittömästi suunnitelma mallin parantamiseksi vähentämään tulevia, samankaltaisia virheitä.
- Jotta kone voi todella tietää, oliko se oikein tai väärin, tutkijoiden on luotava palautesilmukka, jotta AI voi oppia heikkouksistaan ja kehittyä.
- Toinen tapa äänentunnistuksen luottamuksen rakentamiseksi, kun AI on edelleen parantumassa, on luoda järjestelmä, joka voi tarjota luottamusarvoja ja antaa syitä, miksi AI on vähemmän luotettava. Esimerkiksi yritykset tuottavat yleensä arvosanoja nollasta sataan heidän oman AI:n virheiden kuvaamiseksi ja perustamaan läpinäkyvyyden asiakkaidensa kanssa. Tulevaisuudessa järjestelmät voivat tarjota jälkikäteen selityksiä siitä, miksi ääni oli haasteellinen, esimerkiksi tarjoamalla enemmän metadataa äänestä, kuten havaitun melutaso tai vähemmän ymmärretty aksentti.
Lisäinen läpinäkyvyys johtaa parempaan ihmisen valvontaan AI-koulutuksessa ja suorituskyvyssä. Mitä avoimempia olemme siitä, mihin meidän on parannettava, sitä vastuullisempia olemme toimimaan näiden parannusten hyväksi. Esimerkiksi tutkija saattaa haluta tietää, miksi virheellistä tekstiä tuotettiin, jotta hän voi lieventää ongelmaa, kun taas litteroija saattaa haluta näyttöä siitä, miksi puheentunnistus väärinkäsitti syötteen, jotta hän voi arvioida sen validiteetin. Ihmisten pitäminen mukana arviointiprosessissa voi lieventää joitakin ilmeisimpiä ongelmia, jotka aiheutuvat, kun AI jää valvomatta. Se voi myös nopeuttaa aikaa, joka tarvitaan AI:n virheiden havaitsemiseen, parantamiseen ja lopulta korjaamiseen reaaliajassa.
AI:lla on kyky parantaa ihmisten elämää, mutta vain, jos ihmiset rakentavat sen tuottamaan oikein. Meidän on pidettävä sekä näitä järjestelmiä vastuussa että myös ihmisiä, jotka ovat vastuussa innovaatiosta. AI-järjestelmien on odotettavissa noudattavan ihmisten asettamia periaatteita, ja vasta silloin, kun meillä on järjestelmä, jota ihmiset luottavat. On aika luoda perusta ja pyrkiä noudattamaan näitä periaatteita nyt, kun se on vielä lopulta ihmisten palvelua.












