Tekoälytutkijat ehdottavat tekoälyharhauksien käyttöä tekoälyn eettisyyden parantamiseksi

Tekoälytutkijaryhmä, johon kuuluu edustajia yrityksistä ja tekoälykehityslaboratorioista kuten Intel (INTC ), Google (GOOGL ) Brain ja OpenAI, on suositellut tekoälyharhauksien käyttöä tekoälyn eettisyyden varmistamiseksi. Tutkijaryhmä julkaisi hiljattain useita ehdotuksia tekoälyn eettisestä käytöstä, ja he sisällyttivät ehdotukseen, että tekoälyssä havaittujen harhaavuuksien palkitseminen voisi olla tehokas keino tehdä tekoälystä reilumpaa.

VentureBeatin mukaan tutkijat useista yrityksistä Yhdysvalloissa ja Euroopassa liittyivät yhteen laatimaan tekoälykehityksen eettisiä ohjeita sekä ehdotuksia niiden toteuttamiseksi. Yksi tutkijoiden ehdotuksista oli tarjota palkkioita kehittäjille, jotka löytävät tekoälyohjelmista harhaavuuksia. Ehdotus tehtiin tutkimuspaperissa, jonka otsikkona on ”Kohti luotettavaa tekoälykehitystä: Mekanismit vahvistettavien väittämien tueksi”.

Esimerkkeinä harhaavuuksista, joita tutkijaryhmä toivoo osoittavansa, on löydetty harhaavaista dataa ja algoritmeja kaikista sovelluksista terveydenhuoltoon asti sekä kasvojentunnistusjärjestelmiin, joita käytetään lainvalvonnassa. Yksi tällainen harhaavuuden ilmeneminen on PATTERN-riskejä arvioiva työkalu, jota Yhdysvaltain oikeusministeriö käytti äskettäin vankien karsimiseen ja päättämiseen, ketkä voivat lähteä kotiin vankiluväestön määrän vähentämiseksi koronapandemian aikana.

Tavan palkita kehittäjiä epätoivotusta käyttäytymisestä tietokoneohjelmissa on vanha, mutta tämä saattaa olla ensimmäinen kerta, kun tekoälyeettinen lautakunta on vakavasti esittänyt tämän idean vaihtoehtona tekoälyharhaavuuksien torjumiseksi. Vaikka on epätodennäköistä, että tekoälykehittäjiä on tarpeeksi paljastamaan riittävästi harhaavuuksia, jotta tekoäly voidaan taata eettiseksi, se auttaisi yrityksiä vähentämään yleistä harhaavuutta ja ymmärtämään, minkälaisia harhaavuuksia heidän tekoälyjärjestelmiinsä tulee.

Tutkimuksen kirjoittajat selittivät, että hyönteispalkkio-käsite voidaan laajentaa tekoälyyn käyttämällä harhaavuus- ja turvallisuuspalkkioita, ja että tämän tekniikan oikea käyttö voisi johtaa paremmin dokumentoituun dataan ja malleihin. Dokumentaatio heijastaisi paremmin sekä mallin että datan rajoituksia. Tutkijat huomauttivat, että sama idea voidaan soveltaa muihin tekoälyn ominaisuuksiin, kuten tulkitettavuuteen, turvallisuuteen ja tietosuojeluun.

Kun tekoälyn eettisiä periaatteita koskeva keskustelu lisääntyy, monet ovat todenneet, että periaatteet yksinään eivät riitä, ja toimia on tehtävä tekoälyn eettisyyden turvaamiseksi. Tutkimuksen kirjoittajat toteavat, että ”teollisuuden ja akateemisen maailman olemassa olevat säännökset ja normit eivät ole riittäviä vastuullisen tekoälykehityksen varmistamiseksi.” Google Brainin perustaja ja tekoälyalan johtaja Andrew Ng on myös lausunut, että ohjaavat periaatteet eivät yksinään takaa, että tekoälyä käytetään vastuullisesti ja reilusti, ja että monet niistä tarvitsevat olla selkeämpiä ja sisältää toimintavinkkejä.

Tutkijaryhmän ehdotus tekoälyharhaavuuden metsästyksestä on yritys siirtyä eettisistä periaatteista eettiseen toimintaan. Tutkijaryhmä esitti useita muita ehdotuksia, joilla voidaan edistää eettistä toimintaa tekoälyalalla.

Tutkijaryhmä esitti useita muita ehdotuksia, joita yritykset voivat noudattaa tekoälyn käytön eettisyyden parantamiseksi. He ehdottivat, että keskitetty tietokanta tekoälytapauksista tulisi luoda ja jakaa laajemmin tekoälyyhteisön keskuudessa. Samoin tutkijat esittivät, että tulisi perustaa audit-reitti ja että nämä reitit tulisi säilyttää tietoa tekoälyalustojen turvallisuuskriittisten sovellusten luomisesta ja käyttöönotosta.

Henkilöiden yksityisyyden suojaamiseksi tutkijaryhmä ehdotti, että tietosuojakeskeisiä tekniikoita, kuten salattuja viestintää, hajautettua oppimista ja differentiaalista yksityisyyttä, tulisi käyttää. Tutkijaryhmä ehdotti myös, että avoimen lähdekoodin vaihtoehtoja tulisi tehdä laajasti saataville ja että kaupallisia tekoälymalleja tulisi tarkastella tarkkaan. Lopuksi tutkijaryhmä ehdotti, että hallituksen rahoitusta tulisi lisätä, jotta akateemiset tutkijat voivat vahvistaa laitteiston suorituskykyväittämät.