Startups luovat työkaluja AI:n seuraamiseen ja eettisen AI-käytön edistämiseen

Viimeisen vuoden aikana on näkynyt, että yhä enemmän huomiota kiinnitetään siihen, että AI:ta käytetään eettisesti oikein. Google ja Microsoft ovat molemmat varoittaneet sijoittajia siitä, että AI-algoritmien väärinkäyttö tai huonosti suunnitellut AI-algoritmit aiheuttavat eettisiä ja lakiteknisiä riskejä. Samaan aikaan Kalifornian osavaltio on juuri hyväksynyt lain, joka kieltää kasvojentunnistusteknologian käytön Kalifornian lainvalvontaviranomaisissa.

Viime aikoina startup-yritykset, kuten Arthur, ovat yrittäneet suunnitella työkaluja, jotka auttavat AI-insinöörejä mittaamaan ja arvioimaan, miten heidän koneoppimismallinsa suoriutuvat. Wiredin mukaan Arthur yrittää antaa AI-kehittäjille työkalupakin, joka tekee heille helpommaksi löytää ongelmat rahoituksen sovellusten suunnittelussa, kuten paljastaa vinoutta sijoitus- tai lainapäätöksissä.

Arthurin pyrkimykset ovat suunnattu “mustan laatikon” ongelman ratkaisemiseen AI:ssa. Musta laatikko -ongelma AI:ssa kuvaa, miten toisin kuin perinteinen koodi, jota voi helposti tulkita ne, jotka osaavat lukea sitä, koneoppimisjärjestelmät kartoittavat piirteitä käyttäytymiseen ilman, että paljastavat syitä, miksi nämä käyttäytymiset valitaan / miten piirteet on tulkittu. Toisin sanoen mustassa laatikossa algoritmin tarkka toteutus on epäselvä.

Koneoppimisjärjestelmät toimivat etsimällä kuvioita syöteaineistosta ja päättelemällä näistä kuvioista. Tämä tapahtuu käytännössä siten, että tietokone kirjoittaa oman koodinsa manipuloimalla tiettyjä matemaattisia funktioita. Tämän ongelman ratkaisemiseksi tutkijoiden ja insinöörien tarvitsevat työkaluja, jotka tekevät koneoppimisohjelmistojen käyttäytymisen havainnoinnin ja analyysin helpommaksi. Startup-yritykset, kuten Arthur, tunnustavat tämän ongelman ratkaisun haasteellisuuden eivätkä väitä löytäneensä optimaalisia ratkaisuja, mutta he toivovat pääsevänsä eteenpäin tässä asiassa ja avaavansa mustan laatikon hieman helpommaksi. Toivotaan, että jos AI-järjestelmiä voidaan analysoida helpommin, niin ongelmien, kuten vinoutta, korjaaminen tulee helpommaksi.

Suuret yritykset, kuten Facebook, joilla on jo työkaluja analyysiin, esimerkiksi Facebookilla on työkalu nimeltä Fairness Flow, jonka tarkoituksena on varmistaa, että mainokset, jotka suosittelevat työpaikkoja ihmisille, kohdistuvat ihmisiin eri taustoista. On kuitenkin todennäköistä, että suuret AI-tiimit eivät halua käyttää aikaa näiden työkalujen luomiseen, ja siksi liiketoimintamahdollisuus on olemassa yrityksille, jotka haluavat luoda seurantatyökaluja AI-yritysten käyttöön.

Arthur keskittyy luomaan työkaluja, jotka mahdollistavat yritysten paremman ylläpidon ja seurannan AI-järjestelmistä jo niiden käyttöönoton jälkeen. Arthurin työkalut on tarkoitettu siihen, että yritykset voivat nähdä, miten heidän järjestelmänsä suorituskyky muuttuu ajan myötä, mikä teoreettisesti antaisi yrityksille mahdollisuuden havaita mahdollisia vinoumia. Jos yrityksen lainausohjelmisto alkaa jättää tiettyjä asiakasryhmiä huomioimatta, lippu voidaan asettaa siten, että järjestelmä vaatii tarkastelua varmistamaan, ettei se syrji asiakkaita herkillä ominaisuuksilla, kuten rodulla tai sukupuolella.

Kuitenkaan Arthur ei ole ainoa yritys, joka luo työkaluja, jotka antavat AI-yrityksille mahdollisuuden tarkastella algoritmien suorituskykyä. Monet startup-yritykset panostavat työkalujen luomiseen, jotka auttavat taistelussa vinoutta vastaan ja varmistavat, että AI-algoritmit käytetään eettisesti. Weights & Biases on toinen startup, joka luo työkaluja, jotka auttavat koneoppimisinsinöörejä analysoimaan mahdollisia ongelmia verkostossaan. Toyota on käyttänyt Weights & Biasesin luomia työkaluja seuraamaan koneoppimislaitteitaan niiden koulutuksen aikana. Samaan aikaan startup-yritys Fiddler työskentelee erilaisten AI-seurantatyökalujen luomiseksi. IBM on luonut oman seurantapalvelunsa nimeltä OpenScale.

Liz O’Sullivan, yksi Arthurin perustajista, selitti, että kiinnostus työkalujen luomiseen mustan laatikon ongelman ratkaisemiseksi johtuu kasvavasta tietoisuudesta AI:n voimasta.

“Ihmiset alkavat ymmärtää, miten voimakkaita nämä järjestelmät voivat olla, ja heidän on otettava hyötyä niiden eduista vastuullisella tavalla”, O’Sullivan sanoi.