Mitä Valkoisen talon tekoälyoikeuksien tarkoittaa Amerikalle ja muulle maailmalle

Valkoisen talon tiede- ja teknologiapoliittinen toimisto (OSTP) on julkaissut valkoisen kirjan nimeltä “Tekoälyoikeuksien viitekehys: Tekoälyjärjestelmien kehittäminen amerikkalaisen kansan hyväksi”. Tämä viitekehys julkaistiin vuosi sen jälkeen, kun OSTP ilmoitti aloittavansa prosessin “tekoälymaailman oikeuksien” kehittämiseksi.

Tässä kirjassa esipuhe kuvaa selvästi Valkoisen talon ymmärtämän uhat, jotka tekoäly aiheuttaa yhteiskunnalle. Tässä on esipuheen mukaan:

“Yksi suurista haasteista, joita demokratia kohtaa tänään, on teknologian, datan ja automaattisten järjestelmien käyttö tavalla, joka uhkaa amerikkalaisen yleisön oikeuksia. Usein nämä työkalut käytetään rajoittamaan mahdollisuuksiamme ja estämään pääsyämme kriittisiin resursseihin tai palveluihin. Nämä ongelmat ovat hyvin dokumentoituja. Amerikassa ja maailmalla järjestelmät, jotka on tarkoitettu avustamaan potilashoitoa, ovat osoittautuneet vaarallisiksi, tehottomiksi tai puolueellisiksi. Algoritmit, joita käytetään palkkaamis- ja luottopäätöksissä, ovat osoittautuneet heijastavan ja lisäävän olemassa olevia ei-toivottuja epäkohtia tai sisällyttävän uusia haitallisia harhoja ja syrjintää. Sosiaalisen median datan kerääminen on käytetty uhkaamaan ihmisten mahdollisuuksia, heikentämään heidän yksityisyyttään tai seuraamaan heidän toimintaansa – usein heidän tietämättään tai suostumukstaan.

Tämä tekoälyoikeuksien viitekehys ja sen ehdottama viitekehys tulevat vaikuttamaan tekoälyn tulevaisuuteen. Mitä tiedetään, on se, että uudet kehityssuunnat syntyvät jatkuvasti. Mitä kerran nähtiin mahdottomana, välitön kielien kääntäminen on nyt todellisuutta, ja samaan aikaan meillä on vallankumous luonnollisen kielen ymmärtämisessä (NLU), jota johtaa OpenAI ja heidän kuuluisa alusta GPT-3.

Sitten olemme nähneet välittömän kuvien luomisen tekniikan kautta, jota kutsutaan Stable Diffusioniksi, josta voi tulla pian yleinen kuluttajatuote. Itse asiassa tämä teknologia mahdollistaa käyttäjälle kirjoittaa minkä tahansa kysymyksen, ja kuin taikaiskusta, tekoäly luo kuvan, joka vastaa kysymystä.

Kun otetaan huomioon eksponentiaalinen kasvu ja kiihtyvien palkintojen laki, tulee aika, jolloin tekoäly on ottanut haltuunsa jokaisen päivittäisen elämän osan. Yksilöt ja yritykset, jotka tietävät tämän ja hyödyntävät tätä paradigmamuutosta, voittavat. Valitettavasti suuri osa yhteiskunnasta voi joutua sekä pahantahtoisten että tahattomien tekoälyn seurausten uhriksi.

Tehtyjen oikeuksien tarkoituksena on tukea tekoälyjärjestelmien kehittämistä ja käyttöä siten, että ne suojelevat kansalaisoikeuksia ja edistävät demokraattisia arvoja. Kuinka tämä laki vertautuu Kiinan lähestymistapaan, on vielä nähtävissä, mutta se on oikeuksien julistus, jolla on potentiaalia muuttaa tekoälymaisemaa, ja se on todennäköisesti omaksuttavissa liittolaisten, kuten Australian, Kanadan ja EU:n, toimesta.

On kuitenkin todettava, että tekoälyoikeudet eivät ole sitovia eivätkä muodosta Yhdysvaltain hallituksen politiikkaa. Ne eivät korvaa, muuta, ohjaa tai tulkkaa mitään olemassa olevaa lakia, sääntöä, politiikkaa tai kansainvälistä sopimusta. Tämä tarkoittaa, että yritysten ja hallitusten on noudatettava tässä valkoisessa kirjassa esitettyjä politiikkoja.

Tämä laki on tunnistanut viisi periaatetta, jotka tulisi ohjata tekoälyjärjestelmien suunnittelua, käyttöä ja käyttöönottoa amerikkalaisen yleisön suojelemiseksi tekoälyn aikakaudella. Alla on lueteltu 5 periaatetta:

1. Turvalliset ja tehokkaat järjestelmät

On selvä ja läsnä oleva vaara yhteiskunnalle tekoälyjärjestelmien väärinkäytöstä, erityisesti niiden, jotka perustuvat syvään oppimiseen. Tätä pyritään korjaamaan näillä periaatteilla:

“Sinun tulisi olla suojattu turvattomilta tai tehottomilta järjestelmiltä. Tekoälyjärjestelmiä tulisi kehittää konsultoiden moninaisia yhteisöjä, sidosryhmiä ja asiantuntijoita, jotta voidaan tunnistaa huolenaiheita, riskejä ja järjestelmän mahdollisia vaikutuksia. Järjestelmiä tulisi testata ennen käyttöönottoa, tunnistaa ja lieventää riskejä ja jatkuvasti seurata, jotta voidaan osoittaa, että ne ovat turvallisia ja tehokkaita tarkoituksenmukaisessa käytössä, turvattomien tulosten välttämisessä, mukaan lukien käytön ulkopuolella, ja noudattamalla alan mukaisia standardeja. Näiden suojelutoimien tulisi sisältää mahdollisuus järjestelmän käyttöönoton estäminen tai sen poistaminen käytöstä. Tekoälyjärjestelmiä ei tulisi suunnitella siten, että niillä on aikomus tai ennustettavissa oleva mahdollisuus vaarantaa sinun turvallisuuttasi tai yhteisösi turvallisuutta. Niiden tulisi olla suunniteltu suojelemaan sinua tahattomista, mutta ennustettavissa olevista, tekoälyjärjestelmien käytön tai vaikutusten seurauksista. Sinun tulisi olla suojattu sopimattomalta tai epäolennaiselta datan käytöltä tekoälyjärjestelmien suunnittelussa, kehittämisessä ja käyttöönotossa, sekä sen vahingollisesta uudelleenkäytöstä. Riippumaton arviointi ja raportointi, joka vahvistaa, että järjestelmä on turvallinen ja tehokas, mukaan lukien tiedot toimista, joilla voidaan lieventää mahdollisia haittoja, tulisi tehdä ja tulokset julkaista, kun mahdollista.

2. Algoritmisen syrjinnän suojelu

Nämä käytännöt koskevat joitakin elefantteja huoneessa, kun on kyse yritysten väärinkäytöksestä yksilöiden suhteen.

Yleinen ongelma tekoälyjärjestelmien käytössä henkilöstön palkkaamiseen on, että syvä oppimisjärjestelmä koulutetaan usein puolueellisilla tiedoilla, jotta voidaan tehdä palkkaamiseen liittyviä johtopäätöksiä. Tämä tarkoittaa käytännössä, että huonot palkkaamistavat menneisyydessä johtavat sukupuoliseen tai rodulliseen syrjintään palkkaamisagentin toimesta. Yksi tutkimus osoitti haasteita yrittäessä poistaa sukupuolen mukaan koulutusaineistosta.

Toinen keskeinen ongelma puolueellisilla tiedoilla hallituksissa on vaara väärin perustetuista vangitsemisista tai jopa rikollisuuden ennustamisalgoritmeista, jotka tarjoavat pidemmät vankeusrangaistukset vähemmistöille.

“Sinun ei tulisi kohtaa algoritmista johtuvaa syrjintää ja järjestelmiä tulisi käyttää ja suunnitella tasapuolisesti. Algoritmisen syrjinnän tapahtuu, kun tekoälyjärjestelmät vaikuttavat perusteettomaan erilaiseen kohteluun tai vaikutuksiin, jotka epäsuotuisasti vaikuttavat ihmisiin heidän rotunsa, ihonvärin, etnisen taustansa, sukupuolensa (mukaan lukien raskaus, synnytys ja siihen liittyvät lääketieteelliset ehdot, sukupuoli-identiteetti, intersukupuolisuus ja seksuaalinen suuntautuminen), uskonnon, iän, kansalaisuuden, vamman, veteraanin aseman, geneettisen tiedon tai minkä tahansa lain suojelman perusteella. Riippuen tietystä tilanteesta, kuten algoritmisen syrjinnän voi rikkoa lakien suojaamia oikeuksia. Tekoälyjärjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi ottaa proaktiivisia ja jatkuvia toimia yksilöiden ja yhteisöjen suojelemiseksi algoritmisen syrjinnän vaikutuksilta ja järjestelmien käytössä tasapuolisesti. Tämä suojaus tulisi sisältää proaktiiviset tasa-arvoarvioinnit järjestelmän suunnittelun osana, edustavan datan käytön ja suojelun demograafisten ominaisuuksien välittäjiltä, varmistaa esteettömyyden vammaisille suunnittelussa ja kehittämisessä, ennen käyttöönottoa ja jatkuvaa epätasapuolisuuden testausta ja lievittämistä, sekä selkeä organisaation valvonta. Riippumaton arviointi ja selkeän kielen raportointi algoritmisen vaikutuksen arvioinnin muodossa, mukaan lukien epätasapuolisuuden testaustulokset ja lievittämisinformaatio, tulisi tehdä ja julkaista, kun mahdollista, vahvistamaan nämä suojaukset.

On huomattava, että Yhdysvallat on ottanut erittäin avoimen lähestymistavan tekoälyyn, nämä ovat politiikkoja, jotka on suunniteltu suojelemaan yleisöä, selkeä vastakohta Kiinan tekoälylähestymistavalle.

3. Tietosuojan periaate

Tämä tietosuojan periaate on se, joka todennäköisesti vaikuttaa suurimpaan osaan väestöstä. Periaatteen ensimmäinen puoli vaikuttaa keskittyvän datan keräämiseen, erityisesti internetin kautta, joka on tunnettu ongelma erityisesti sosiaalisen median alustoilla. Tätä dataa voidaan sitten käyttää mainosten myyntiin tai jopa vaikuttaa yleiseen mielipiteeseen ja vaikuttaa vaaleihin.

“Sinun tulisi olla suojattu väärinkäytöksiltä datan käytössä sisäänrakennetuilla suojauksilla ja sinun tulisi olla valta datan käytöstä. Sinun tulisi olla suojattu yksityisyyden loukkaamisilta suunnitteluratkaisuilla, jotka varmistavat, että suojaukset ovat sisäänrakennettuja oletuksena, mukaan lukien varmistaminen, että datan kerääminen vastaa kohtuullisia odotuksia, ja että kerätään vain dataa, joka on välttämätöntä tiettyyn kontekstiin. Tekoälyjärjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi pyytää sinun lupaa ja kunnioittaa sinun päätöksiä datan keräämisestä, käytöstä, pääsystä, siirrosta ja poistamisesta asianmukaisissa tapauksissa ja mahdollisimman suuressa määrin; jos se ei ole mahdollista, tulisi käyttää vaihtoehtoisia tietosuojan suunnittelun turvallisuusvarmistuksia. Järjestelmien ei tulisi käyttää käyttökokemuksen ja suunnitteluratkaisuja, jotka peittävät käyttäjän valinnan tai rasittavat käyttäjiä oletuksilla, jotka ovat yksityisyyden loukkaavia. Suostumus tulisi käyttää ainoastaan datan keräämisen oikeuttamiseen tapauksissa, joissa se voidaan antaa asianmukaisesti ja merkityksellisesti. Kaikki suostumuspyynnöt tulisi olla lyhyitä, ymmärrettäviä selkeässä kielessä ja antaa sinulle valta datan keräämisestä ja tietystä käyttökontekstista; nykyiset vaikeat ymmärtää ilmoitus- ja valintakäytännöt laajalle datan käytölle tulisi muuttaa.

Tietosuojan periaatteen toinen puoli vaikuttaa olevan huolissaan valvonnasta sekä hallituksilta että yrityksiltä.

Yritykset voivat tällä hetkellä valvoa ja vakoilla työntekijöitään, joissakin tapauksissa se voi olla parantamaan työpaikan turvallisuutta, COVID-19-pandemian aikana se oli pakottamaan maskien käyttöä, useimmiten se tehdään yksinkertaisesti valvomaan, miten työaikaa käytetään. Monissa tapauksissa työntekijät tuntevat itsensä valvottaviksi ja kontrolloiduiksi tavalla, jota ei pidetä hyväksyttävänä.

“Lisäsuojaukset ja rajoitukset datalle ja johtopäätöksille herkillä aloilla, kuten terveydenhuollossa, koulutuksessa, rikosvallassa ja rahoituksessa, sekä datalle, joka koskee nuoria, tulisi asettaa sinut etusijalle. Herkillä aloilla datan ja siihen liittyvien johtopäätösten käytön tulisi olla vain välttämättömiin tarkoituksiin, ja sinun tulisi olla suojattu eettisellä arvioinnilla ja käytön kieltämisellä. Sinun ja yhteisösi tulisi olla vapaana valvonnalta; valvontateknologiat tulisi asettaa korkeampiin valvontoihin, jotka sisältävät vähintään ennen käyttöönottoa tehtävän arvioinnin niiden mahdollisista haitoista ja laajuuden rajoituksia yksityisyyden ja kansalaisoikeuksien suojelemiseksi. Jatkuva valvonta ja seuranta ei tulisi käyttää koulutuksessa, työssä, asumisessa tai muissa konteksteissa, joissa valvontateknologioiden käyttö voi rajoittaa oikeuksia, mahdollisuuksia tai pääsyä. Kun mahdollista, sinun tulisi olla pääsy raporttiin, joka vahvistaa, että datan käytön päätöksiä on kunnioitettu ja arvioitu valvontateknologioiden vaikutusta oikeuksiisi, mahdollisuuksiisi tai pääsyysi.

On huomattava, että tekoäly voidaan käyttää hyväksi suojelemaan ihmisten yksityisyyttä.

4. Ilmoitus ja selitys

Tämä ilmoitus- ja selitysperiaate tulisi olla yritysten kehottama kehittämään tekoälyeettisen neuvoston sekä kiihdyttämään selitettävän tekoälyn kehittämistä. Selitettävä tekoäly on välttämätöntä, jos tekoälymalli tekee virheen, ymmärtäminen, miten tekoäly toimii, mahdollistaa virheen helpon diagnosoinnin.

Selitettävä tekoäly myös mahdollistaa avoimen tiedon jakamisen siitä, miten dataa käytetään ja miksi tekoäly tekee tietyn päätöksen. Ilman selitettävää tekoälyä on mahdotonta noudattaa näitä politiikkoja johtuen syvän oppimisen mustan laatikon ongelmaa.

Yritykset, jotka parantavat näitä järjestelmiä, saavat myös positiivisia hyötyjä ymmärtämällä syvän oppimisalgoritmien takana olevat nuancet ja monimuotoisuudet.

“Sinun tulisi tietää, että tekoälyjärjestelmää käytetään ja ymmärtää, miten ja miksi se vaikuttaa sinua koskeviin tuloksiin. Tekoälyjärjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi tarjota yleisesti saatavilla oleva selkeä kieli, mukaan lukien selkeät kuvaukset järjestelmän toiminnasta ja automaation roolista, ilmoitus siitä, että tällaisia järjestelmiä käytetään, vastuuhenkilö järjestelmästä, ja selitykset tuloksista, jotka ovat selkeitä, ajantasaisia ja saatavilla. Tällaiset ilmoitukset tulisi pitää ajan tasalla ja ilmoittaa henkilöille, jotka järjestelmästä vaikuttuvat, merkittävistä muutoksista järjestelmän käyttötarkoituksessa tai avainominaisuuksissa. Sinun tulisi tietää, miten ja miksi tekoälyjärjestelmä on määrittänyt sinua koskevan tuloksen, myös silloin, kun tekoälyjärjestelmä ei ole ainoa syöttö, joka määrittää tuloksen. Tekoälyjärjestelmiä tulisi tarjota selitykset, jotka ovat teknisesti päteviä, merkityksellisiä ja hyödyllisiä sinulle ja mille tahansa operaattoreille tai muille, jotka tarvitsevat ymmärtää järjestelmän, ja kalibroitu riskin tasoon sisällön perusteella. Raportointi, joka sisältää yhteenvetoa tekoälyjärjestelmistä selkeässä kielessä ja arvioita ilmoituksen ja selitysten selkeydestä ja laadusta, tulisi julkaista, kun mahdollista.

5. Ihmisen vaihtoehto, huomioon ottaminen ja palautuminen

Toisin kuin useimmat edellä mainitut periaatteet, tämä periaate on sovellettavissa ennen kaikkea hallituksille tai yksityistetyille laitoksille, jotka toimivat hallituksen puolesta.

Even tekoälyeettisen neuvoston ja selitettävän tekoälyn kanssa on tärkeää turvautua ihmisten tarkastukseen, kun on kyse henkilöiden turvallisuudesta. On aina mahdollisuus virheisiin, ja ihmisen tarkastus voi mahdollisesti estää tilanteen, jossa tekoäly lähettää väärät henkilöt vankilaan.

Oikeus- ja rikosjärjestelmällä on eniten mahdollisuuksia aiheuttaa pysyvää vahinkoa syrjityille yhteiskunnan jäsenille ja tulisi kiinnittää erityistä huomiota tähän periaatteeseen.

“Sinun tulisi voida valita vaihtoehto, missä tapauksessa, ja sinun tulisi voida päästä nopeasti yhteyteen henkilöön, joka voi nopeasti tutkia ja korjata ongelmat, joita sinä kohtaat. Sinun tulisi voida valita vaihtoehto tekoälyjärjestelmistä ihmisen vaihtoehdon puolesta, missä tapauksessa. Sopivuus tulisi määritellä kohtuullisten odotuksien perusteella tietyssä kontekstissa ja keskittyen varmistamaan laajan saatavuuden ja suojelemaan yleisöä erityisen haitallisista vaikutuksista. Joissakin tapauksissa ihmisen tai muun vaihtoehdon vaatiminen voi olla lain mukaista. Sinun tulisi voida päästä yhteyteen nopeaan ihmisen tarkastukseen ja korjaamiseen, jos tekoälyjärjestelmä epäonnistuu, se aiheuttaa virheen tai sinä haluat valittaa tai haastaa sen vaikutusta sinuun. Ihmisen tarkastus ja palautuminen tulisi olla saatavilla, tasapuolinen, tehokas, ylläpidettävä, vastuullinen operaattorin koulutuksella ja ei saa aiheuttaa kohtuutonta taakkaa yleisölle. Tekoälyjärjestelmien, joiden tarkoituksena on käyttää herkillä aloilla, kuten rikosjärjestelmässä, työssä, koulutuksessa ja terveydenhuollossa, tulisi olla räätälöity tarkoitukseen, tarjota merkityksellistä valvontaa ja sisältää ihmisen tarkastuksen haitallisten tai korkean riskin päätöksistä. Raportointi, joka sisältää kuvaus näistä ihmisten hallintoprosesseista ja arvio niiden ajantasaisuudesta, saatavuudesta, tuloksista ja tehokkuudesta, tulisi julkaista, kun mahdollista.

Yhteenveto

OSTP:lle tulisi antaa tunnustus yrityksestä esittää viitekehys, joka yhdistää turvallisuuden turvallisuusprotokollat, joita yhteiskunnalle tarvitaan, ilman, että se esittää raaoja politiikkoja, jotka voivat haitata tekoälykeksityksen kehittymistä.

Periaatteiden jälkeen laki jatkuu tarjoamalla tekninen viite aiheisiin, jotka käsitellään, sekä yksityiskohtaisia tietoja kustakin periaatteesta ja parhaista tavoista niiden toteuttamiseksi.

Näppärit liiketoimintayritykset ja yritykset tulisi kiinnittää huomiota tähän lakiin, koska se voi olla vain edullista ottaa nämä politiikat käyttöön mahdollisimman pian.

Selitettävä tekoäly jatkaa tärkeän aseman korostamista, kuten voidaan nähdä tästä lain sitaattia:

“Yhdysvaltain hallituksen laajuisesti toimivat virastot ja laitokset toteuttavat ja tukevat tutkimusta selitettävistä tekoälyjärjestelmistä. NIST toteuttaa perustutkimusta tekoälyjärjestelmien selitettävyydestä. Monitieteellinen tutkijaryhmä pyrkii kehittämään mittausmenetelmiä ja parhaita käytäntöjä selitettävän tekoälyn toteuttamiseen. Puolustusministeriön tutkimuslaitos toteuttaa ohjelmaa selitettävästä tekoälystä, jonka tavoitteena on luoda joukko koneoppimismenetelmiä, jotka tuottavat selitettävämpiä malleja, säilyttäen samalla korkean oppimistason (ennustusnäyttö), ja mahdollistavat ihmiskäyttäjille ymmärtää, luottaa ja hallita tekoälyisten kumppanien uuden sukupolven kehittymistä. Kansallisen tiedesäätiön ohjelma tekoälyn reiluudesta sisältää erityisen kiinnostuksen tutkimuksen perustaan selitettävälle tekoälylle.

On huomattava, että lopulta nämä periaatteet tulevat olemaan uusi standardi.