Tekoälytutkijat ehdottavat tekoälyn harhaan liittyvien palkkioiden käyttöä tekoälyn eettisyyden parantamiseksi

Tekoälytutkijaryhmä, johon kuuluu edustajia yrityksistä ja tekoälykehityslaboratorioista kuten Intel, Google Brain ja OpenAI, on suositellut palkkioiden käyttöä tekoälyn eettisen käytön varmistamiseksi. Tutkijaryhmä julkaisi äskettäin useita ehdotuksia tekoälyn eettisestä käytöstä, ja he sisällyttivät suosituksiin, että tekoälyssä havaittujen harhaiden palkitseminen voisi olla tehokas keino tekoälyn oikeudenmukaisuuden parantamiseksi.

VentureBeatin mukaan tutkijat eri yrityksistä ympäri Yhdysvaltoja ja Eurooppaa liittyivät yhteen laatimaan tekoälykehityksen eettisiä ohjeita sekä ehdotuksia niiden toteuttamiseksi. Yksi tutkijoiden tekemistä ehdotuksista oli palkkioiden tarjoaminen kehittäjille, jotka löytävät tekoälyohjelmista harhoja. Ehdotus tehtiin tutkimuspaperissa, jonka otsikko on Toward Trustworthy AI Development: Mechanisms for Supporting Verifiable Claims.

Esimerkkeinä harhoista, joita tutkijaryhmä toivoo osoittavansa, on havaittu, että harhat sisältyvät esimerkiksi terveydenhuollon sovelluksiin ja kasvontunnistusjärjestelmiin, joita poliisi käyttää. Yksi tällainen tapaus on PATTERN-riskejä arvioiva työkalu, jota Yhdysvaltain oikeusministeriö käytti äskettäin vankien priorisointiin ja päättämiseen, ketkä vangit voivat lähetää kotiin vankilän väkiluvun pienentämiseksi koronapandemian vuoksi.

Käytäntö, jossa kehittäjille maksetaan palkkioita epätoivotusta käyttäytymisestä tietokoneohjelmissa, on vanha tapa, mutta tämä saattaa olla ensimmäinen kerta, kun tekoälyeettinen lautakunta on vakavasti esittänyt tämän idean vaihtoehtona tekoälyharhan torjumiseksi. Vaikka on epätodennäköistä, että tekoälykehittäjiä on tarpeeksi paljon löytämään riittävästi harhoja, jotta tekoäly voidaan varmistaa eettiseksi, se auttaa yrityksiä vähentämään kokonaisuudessaan harhoja ja saamaan selville, minkälaisia harhoja heidän tekoälyjärjestelmiinsä valuu.

Tutkimuksen tekijät selittivät, että bugipalkkio-käsite voidaan laajentaa tekoälyyn käyttämällä harha- ja turvallisuuspalkkioita, ja että tämän tekniikan oikea käyttö voisi johtaa paremmin dokumentoituun aineistoon ja malleihin. Dokumentaatio kuvaisi paremmin sekä mallin että aineiston rajoituksia. Tutkijat huomauttavat, että sama idea voidaan soveltaa muihin tekoälyominaisuuksiin, kuten selittävyyteen, turvallisuuteen ja tietosuojan suojaamiseen.

Kun tekoälyn eettisiä periaatteita koskeva keskustelu lisääntyy, monet ovat huomauttaneet, että periaatteet yksin eivät riitä, ja että toimia on tehtävä tekoälyn eettisyyden varmistamiseksi. Tutkimuksen tekijät toteavat, että “teollisuuden ja akateemisen maailman olemassa olevat säännökset ja normit eivät ole riittäviä vastuullisen tekoälykehityksen varmistamiseksi.” Google Brainin perustaja ja tekoälyalan johtaja Andrew Ng on myös lausunut, että ohjaavat periaatteet yksin eivät pysty varmistamaan, että tekoälyä käytetään vastuullisesti ja reilusti, ja sanoo, että monien niistä on oltava selkeämpiä ja toimintavinkkejä antavia.

Yhdistetyn tutkimusryhmän ehdotus harhanmetsästyksestä on yritys siirtyä eettisistä periaatteista eettisen toiminnan alueelle. Tutkimusryhmä esitti useita muita suosituksia, joita yritykset voivat noudattaa tekoälyn käytön eettisyyden parantamiseksi.

Tutkimusryhmä esitti useita muita suosituksia, joita yritykset voivat noudattaa tekoälyn käytön eettisyyden parantamiseksi. He ehdottavat, että keskitetty tietokanta tekoälytapauksista tulisi luoda ja jakaa laajemmin tekoälyyhteisön keskuudessa. Samoin tutkijat ehdottavat, että audit-reitti tulisi perustaa ja että nämä reitit tulisi säilyttää tietoa tekoälyalustoilla luodun ja käytössä olevan turvallisuuden kannalta kriittisen sovelluksen luomisesta ja käytöstä.

Ihmisten yksityisyyden suojaamiseksi tutkimusryhmä ehdotti, että tietosuojakeskeisiä tekniikoita, kuten salattua viestintää, hajautettua oppimista ja differentiaalista yksityisyyttä, tulisi käyttää. Lisäksi tutkimusryhmä ehdotti, että avoimen lähdekoodin vaihtoehtoja tulisi tehdä laajasti saataville ja että kaupallisia tekoälymalleja tulisi tarkastella tarkasti. Lopulta tutkimusryhmä ehdotti, että hallituksen rahoitusta tulisi lisätä, jotta akateemiset tutkijat voivat vahvistaa laitteiston suorituskykyvaatimukset.