Kehittäjät luovat työkaluja, joilla voidaan valvoa tekoälyä ja edistää eettistä tekoälyn käyttöä

Viimeisen vuoden aikana on näkynyt yhä enemmän huomiota tekoälyn eettiseen käyttöön. Google (GOOGL ) ja Microsoft (MSFT ) ovat molemmat varoittaneet sijoittajia siitä, että tekoälyalgoritmien väärinkäyttö tai huonosti suunnitellut tekoälyalgoritmit aiheuttavat eettisiä ja lakisisältöisiä riskejä. Samaan aikaan Kalifornian osavaltio on juuri hyväksynyt lain, joka kieltää kasvojentunnistusteknologian käytön Kalifornian lainvalvontaviranomaisten toiminnassa.

Viime aikoina yritykset, kuten Arthur, ovat yrittäneet suunnitella työkaluja, jotka auttavat tekoälyinsinöörejä mittaamaan ja arvioimaan tekoälymallien suorituskykyä. Wiredin mukaan Arthur yrittää antaa tekoälykehittäjille työkalupakin, joka tekee heille helpommaksi löytää ongelmia rahoituksen sovellusten suunnittelussa, kuten paljastaa ennakkoluulot sijoitus- tai lainapäätöksissä.

Arthurin pyrkimykset ovat suunnattuja “mustan laatikon” ongelman ratkaisemiseksi tekoälyssä. Tekoälyssä musta laatikko tarkoittaa sitä, että toisin kuin perinteinen koodi, jota voi helposti tulkita, tekoälyjärjestelmät kartoittavat piirteitä ja käyttäytymistä ilman, että paljastavat syitä, miksi nämä käyttäytymiset valitaan tai miten piirteet on tulkittu. Toisin sanoen mustassa laatikossa algoritmin tarkka toteutus on epäselvä.

Tekoälyjärjestelmät toimivat etsimällä kuvioita syöteaineistosta ja päättelemällä näistä kuvioista. Tämä tapahtuu käytännössä siten, että tietokone kirjoittaa oman koodinsa manipuloimalla tiettyjä matemaattisia funktioita. Tämän ongelman ratkaisemiseksi tutkijoiden ja insinöörien tarvitsee työkaluja, jotka tekevät tekoälyohjelmistojen käyttäytymisen havainnoinnin ja analyysin helpommaksi. Yritykset, kuten Arthur, tunnustavat ongelman ratkaisun vaikeuden eivätkä väitä omistavansa optimaalisia ratkaisuja, mutta toivovat edistää tällä alalla ja tekevät mustan laatikon avaamisen hieman helpommaksi. Toivotaan, että jos tekoälyjärjestelmien analyysi tulee helpommaksi, myös ongelmien, kuten ennakkoluulojen, korjaaminen tulee helpommaksi.

Suuret yritykset, kuten Facebook (META ), joilla on jo työkaluja tekoälyjärjestelmien sisäisten toimien analysointiin. Esimerkiksi Facebookilla on työkalu nimeltä Fairness Flow, jonka tarkoituksena on varmistaa, että mainokset, jotka suosittelevat työpaikkoja ihmisille, kohdistetaan kaikenlaisiin taustoista oleviin ihmisiin. On kuitenkin todennäköistä, että suuret tekoälytiimit eivät halua käyttää aikaa sellaisten työkalujen luomiseen, ja siksi liiketoimintamahdollisuus on olemassa yrityksille, jotka haluavat luoda valvontatyökaluja tekoälyyritysten käyttöön.

Arthur keskittyy luomaan työkaluja, joilla yritykset voivat paremmin ylläpitää ja valvoa tekoälyjärjestelmiään jo toteutuksen jälkeen. Arthurin työkalut on tarkoitettu siihen, että yritykset voivat nähdä, miten heidän järjestelmänsä suorituskyky muuttuu ajan myötä, mikä teoreettisesti antaisi yrityksille mahdollisuuden havaita mahdollisia ennakkoluuloja. Jos yrityksen lainasuositusohjelmisto alkaa jättää tiettyjä asiakasryhmiä huomioimatta, voidaan asettaa lippu, joka osoittaa, että järjestelmää on arvioitava uudelleen varmistamaan, ettei se syrji asiakkaita herkillä ominaisuuksilla, kuten rodulla tai sukupuolella.

Kuitenkaan Arthur ei ole ainoa yritys, joka luo työkaluja tekoälyyritysten algoritmien suorituskyvyn tarkastamiseen. Monet yritykset panostavat työkalujen luomiseen, joilla taistellaan ennakkoluuloja vastaan ja varmistetaan, että tekoälyalgoritmit käytetään eettisesti. Weights & Biases on toinen yritys, joka luo työkaluja tekoälyinsinöörien avuksi mahdollisten ongelmien analysointiin. Toyota on käyttänyt Weights & Biasesin työkaluja valvomaan tekoälylaitteitaan niiden koulutuksen aikana. Samaan aikaan startup-yritys Fiddler työskentelee erilaisten tekoälyvalvontatyökalujen kehittämiseksi. IBM on luonut oman valvontapalvelun nimeltä OpenScale.

Liz O’Sullivan, yksi Arthurin perustajista, selitti, että kiinnostus tekoälyyn liittyvien työkalujen luomiseen johtuu kasvavasta tietoisuudesta tekoälyn voimasta.

”Ihmiset alkavat ymmärtää, miten voimakkaita nämä järjestelmät voivat olla, ja he tarvitsevat tapoja hyödyntää niiden etuja vastuullisella tavalla”, O’Sullivan sanoi.