Mitä Valkoisen Talon tekoälyoikeuksien laki merkitsee Amerikalle ja muulle maailmalle

Valkoisen Talon Tiede- ja teknologiapolitiikka (OSTP) on julkaissut äskettäin valkoisen kirjan nimeltä “Tekoälyoikeuksien viitekehys: Tekoälyjärjestelmien kehittäminen amerikkalaisen kansan hyväksi”. Tämä viitekehys julkaistiin vuosi sen jälkeen, kun OSTP ilmoitti tekoälymaailmaa varten tekoälyoikeuksien kehittämisen käynnistämisestä.

Johdantolukuunassa todetaan selvästi, että Valkoinen Talo ymmärtää tekoälyn aiheuttamat uhkat yhteiskunnalle. Tässä on sitaatti johdantolukuunasta:

“Yksi suurimmista haasteista, joiden kanssa demokratia kärsii tänään, on teknologian, datan ja automaattisten järjestelmien käyttö tavalla, joka uhkaa amerikkalaisen yleisön oikeuksia. Usein nämä työkalut käytetään rajoittamaan mahdollisuuksiamme ja estämään pääsyämme kriittisiin palveluihin. Nämä ongelmat on hyvin dokumentoitu. Amerikassa ja maailmanlaajuisesti järjestelmät, jotka on tarkoitettu potilashoitoon, ovat osoittautuneet vaarallisiksi, tehottomiksi tai syrjiviksi. Algoritmit, joita käytetään palkkaamis- ja luottopäätöksissä, on havaittu heijastavan ja vahvistavan olemassa olevia epätasa-arvoja tai sisältävän uusia haitallisia syrjintää ja diskriminaatiota. Sosiaalisen median tietojen kerääminen on käytetty uhkaamaan ihmisten mahdollisuuksia, heikentämään heidän yksityisyyttään tai seuraamaan heidän toimintaansa laajasti usein heidän tietämättään tai ilman heidän suostumustaan.”

Tämä tekoälyoikeuksien laki ja ehdotettu viitekehys tulevat vaikuttamaan tekoälyn tulevaisuuteen. Mitä tiedämme, on se, että uudet kehityssuunnat syntyvät jatkuvasti eksponentiaalisella tahdilla. Mitä aiemmin nähtiin mahdottomana, välitön kielentulkkaus on nyt todellisuutta, ja samalla meillä on vallankumous luonnollisen kielen ymmärtämisessä (NLU), jota johtaa OpenAI ja heidän kuuluisa alustansa GPT-3.

Sen jälkeen olemme nähneet hetken kuvien luomisen tekniikan avulla, jota kutsutaan Stable Diffusioniksi, josta voi pian tulla yleinen kuluttajatuote. Periaatteessa tämä teknologia mahdollistaa käyttäjälle kirjoittaa minkä tahansa kysymyksen, ja kuin taikaiskusta, tekoäly luo kuvan, joka vastaa kysymystä.

Kun otetaan huomioon eksponentiaalinen kasvu ja kiihtyvien palautumisen laki, tulee aika, jolloin tekoäly on ottanut haltuunsa jokaisen päivittäisen elämän osa-alueen. Yksilöt ja yritykset, jotka tietävät tämän ja hyödyntävät tätä paradigmamuutosta, hyötyvät siitä. Valitettavasti suuri osa yhteiskunnasta voi joutua sekä pahantahtoisten että tahattomien tekoälyn seurausten uhriksi.

Tekoälyoikeuksien laki on tarkoitettu tukemaan politiikkojen ja käytäntöjen kehittämistä, jotka suojelevat kansalaisoikeuksia ja edistävät demokraattisia arvoja automaattisten järjestelmien kehittämisessä, käytössä ja hallinnassa. Kuinka tämä laki vertautuu Kiinan lähestymistapaan, on nähtävissä, mutta se on oikeuksien laki, jolla on potentiaalia muuttaa tekoälymaisemaa, ja se on todennäköisesti omaksuttavissa liittolaisten, kuten Australian, Kanadan ja EU:n, toimesta.

On kuitenkin mainittava, että tekoälyoikeuksien laki on sitomaton eikä muodosta Yhdysvaltain hallituksen politiikkaa. Se ei korvaa, muuta tai ohjaa tulkintaa mitään olemassa olevaa lakia, sääntöä, politiikkaa tai kansainvälistä sopimusta. Tämä tarkoittaa, että yritysten ja hallitusten on noudatettava tässä valkoisessa kirjassa esitettyjä politiikkoja.

Tämä laki on tunnistanut viisi periaatetta, jotka tulisi ohjata automaattisten järjestelmien suunnittelua, käyttöä ja käyttöönottoa amerikkalaisen yleisön suojelemiseksi tekoälyn aikakaudella. Alla on lueteltu 5 periaatetta:

1. Turvalliset ja tehokkaat järjestelmät

On olemassa selkeä ja läsnä oleva vaara yhteiskunnalle tekoälyjärjestelmien vuoksi, erityisesti niiden, jotka perustuvat syvään oppimiseen. Tätä pyritään korjaamaan näillä periaatteilla:

“Sinun tulisi olla suojattu turvattomilta tai tehottomilta järjestelmiltä. Automaattiset järjestelmät tulisi kehittää konsultoiden moninaisia yhteisöjä, sidosryhmiä ja asiantuntijoita, jotta voidaan tunnistaa huolenaiheita, riskejä ja järjestelmän mahdollisia vaikutuksia. Järjestelmien tulisi käydä läpi ennen käyttöönottoa, tunnistaa ja lieventää riskejä, ja jatkuvasti seurata, että ne ovat turvallisia ja tehokkaita tarkoituksenmukaisessa käytössä, turvallisten lopputuloksien varmistamiseksi, mukaan lukien niiden, jotka ovat tarkoituksenmukaisen käytön ulottumattomissa, ja noudattamalla alanmukaisia standardeja. Näiden suojatoimien lopputuloksena tulisi olla mahdollisuus järjestelmän käyttöönoton estäminen tai poistaminen käytöstä. Automaattiset järjestelmät eivät tulisi suunnitella siten, että niillä on vaara sinun turvallisuudelle tai yhteisösi turvallisuudelle. Niiden tulisi olla suunniteltu suojelemaan sinua vahingoilta, jotka johtuvat tahattomista, mutta ennustettavissa olevista, käytöistä tai vaikutuksista. Sinun tulisi olla suojattu sopimattomalta tai epäolennaiselta tietojen käytöltä automaattisten järjestelmien suunnittelussa, kehittämisessä ja käyttöönotossa, ja vahingoilta, jotka johtuvat niiden uudelleenkäytöstä. Riippumaton arviointi ja raportointi, joka vahvistaa, että järjestelmä on turvallinen ja tehokas, mukaan lukien raportointi toimista, jotka on tehty vahinkojen lieventämiseksi, tulisi tehdä ja tulokset julkaista julkisesti, kun mahdollista.”

2. Algoritmisen syrjinnän suoja

Nämä politiikat koskevat joitakin elefantteja huoneessa, kun on kyse yritysten hyväksikäytöstä yksilöitä.

Yleinen ongelma, kun henkilöstöä palkataan tekoälyjärjestelmien avulla, on, että syvä oppimisjärjestelmä usein koulutetaan syrjivillä tiedoilla, jotta se voi tulla palkkaukseen liittyviin johtopäätöksiin. Tämä tarkoittaa, että huonot palkkaamistavat menneisyydessä johtavat sukupuoleen tai rotuun perustuvaan syrjintään palkkaamisagentin toimesta. Yksi tutkimus osoitti haasteen yrittäessä poistaa sukupuolen tietojen koulutusdatasta.

Toinen keskeinen ongelma syrjivillä tiedoilla hallituksissa on vaara virheellisestä vangitsemisesta tai jopa rikollisuuden ennustamisalgoritmeja, jotka tarjoavat pidemmän vankeusrangaistuksen vähemmistöille.

“Sinun ei tulisi kohtaada algoritmista johtuvaa syrjintää, ja järjestelmien tulisi olla suunniteltu ja käytettävissä tasapuolisella tavalla. Algoritmisen syrjinnän tapahtuu, kun automaattiset järjestelmät osallistuvat perusteettomaan erilaiseen kohteluun tai vaikutuksiin, jotka epäsuotuisasti vaikuttavat ihmisiin heidän rotunsa, ihonvärinsä, etnisen alkuperänsä, sukupuolensa (mukaan lukien raskaus, synnytys ja liittyvät lääketieteelliset olosuhteet, sukupuoli-identiteetti, intersukupuolisuus ja seksuaalinen suuntautuminen), uskontonsa, ikänsä, kansalaisuutensa, vammautensa, veteraanin asemansa, geneettistä tietoaan tai minkä tahansa muun lailla suojellun luokan perusteella. Riippuen tietystä tilanteesta, tällainen algoritmisen syrjinnän voi rikkoa lakien suojaamia oikeuksia. Automaattisten järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi ottaa proaktiivisia ja jatkuvia toimia yksilöiden ja yhteisöjen suojelemiseksi algoritmisen syrjinnän vaikutuksilta ja järjestelmien käytöstä tasapuolisella tavalla. Tähän suojaan tulisi kuulua proaktiiviset tasa-arvoarvioinnit järjestelmän suunnittelun osana, edustavan datan käyttö ja suoja syrjivien demografioiden piilevien edustajien varalta, esteettömyyden varmistaminen vammaisille suunnittelussa ja kehittämisessä, ennen käyttöönottoa ja jatkuvat epätasaisuuden testit ja lieventäminen, sekä selkeä organisaation valvonta. Riippumaton arviointi ja selkeä kieli, jossa on algoritmisen vaikutuksen arviointi, mukaan lukien epätasaisuuden testitulokset ja lieventämisinformaatio, tulisi tehdä ja julkaista julkisesti, kun mahdollista, vahvistamaan nämä suojat.”

On huomattava, että Yhdysvallat on ottanut erittäin avoimen lähestymistavan tekoälyyn, nämä politiikat on suunniteltu suojelemaan yleisöä, selkeä kontrasti Kiinan tekoälylähestymistapaan.

3. Tietosuojelu

Tämä tietosuojelu periaate on se, joka todennäköisesti vaikuttaa suurimpaan osaan väestöstä. Periaatteen ensimmäinen puolisko vaikuttaa keskittyvän tietojen keräämiseen, erityisesti internetin kautta kerättyihin tietoihin, joka on tunnettu ongelma erityisesti sosiaalisen median alustoilla. Nämä samat tiedot voidaan käyttää myydäkseen mainoksia tai jopa manipuloidakseen yleisön mielipidettä ja vaikuttamalla vaaleihin .

“Sinun tulisi olla suojattu väärinkäytettyjen tietojen käytöltä sisäänrakennetuilla suojauksilla, ja sinun tulisi olla valta tietojen käytöstä sinusta. Sinun tulisi olla suojattu yksityisyyden loukkaamiselta suunnittelupäätöksillä, jotka varmistavat, että tietojen kerääminen noudattaa kohtuullisia odotuksia, ja kerätään vain sellaiset tiedot, jotka ovat välttämättömiä tietyssä asiayhteydessä. Automaattisten järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi pyytää sinun lupaa ja kunnioittaa sinun päätöksiä tietojesi keräämisestä, käytöstä, pääsystä, siirrosta ja poistamisesta asianmukaisilla tavoilla ja mahdollisimman suuressa määrin; jos se ei ole mahdollista, tulisi käyttää vaihtoehtoisia tietosuojan suunnittelun turvallisuutta. Järjestelmien ei tulisi käyttää käyttökokemusta ja suunnittelupäätöksiä, jotka peittävät käyttäjän valinnan tai rasittavat käyttäjiä oletuksilla, jotka ovat yksityisyyttä loukkaavia. Suostumusta tulisi käyttää vain tietojen keräämisen oikeuttamiseen tapauksissa, joissa se voidaan antaa asianmukaisesti ja merkityksellisesti. Kaikki suostumuspyynnöt tulisi olla lyhyitä, ymmärrettäviä selkeässä kielessä ja antaa sinulle valta tietojen keräämisestä ja tietyssä asiayhteydessä; nykyiset vaikeat ymmärtää ilmoitus- ja valintatavat laajojen tietojen käytölle tulisi muuttaa.”
Tietosuojelu periaatteen toinen puolisko vaikuttaa olevan huolissaan valvonnasta sekä hallitusten että yritysten toimesta.

Nykyisin yritykset voivat valvoa ja vakoilla työntekijöitään, joissakin tapauksissa se voi olla parantamaan työpaikan turvallisuutta, COVID-19-pandemian aikana se oli maskien käytön valvontaa, useimmiten se tehdään vain valvomaan, miten työaikaa käytetään.

“Lisäsuojat ja rajoitukset herkillä alueilla, kuten terveydenhoito, työ, koulutus, rikosvallan käyttö ja talous, sekä tietojen suojaaminen nuorille, tulisi asettaa sinun etusijalle. Herkillä alueilla sinun tietosi ja niihin liittyvät johtopäätökset tulisi käyttää vain välttämättömiin toimiin, ja sinun tulisi olla suojattu eettisellä arviointilla ja käytön kielloilla. Sinun ja yhteisösi tulisi olla vapaat valvontateknologioiden käytöstä; valvontateknologiat tulisi asettaa korkeampiin valvontaan, joka sisältää vähintään ennen käyttöönottoa tehtävän arvioinnin niiden mahdollisista vahingoista ja laajuudesta, jotta voidaan suojella yksityisyyttä ja kansalaisoikeuksia. Jatkuva valvonta ja seuranta ei tulisi käyttää koulutuksessa, työssä, asumisessa tai muissa asiayhteyksissä, joissa valvontateknologioiden käyttö voi rajoittaa oikeuksia, mahdollisuuksia tai pääsyä. Kun mahdollista, sinun tulisi päästä käsiksi raporttiin, joka vahvistaa, että sinun tietosuojapäätöksiä on kunnioitettu ja antaa arvion valvontateknologioiden vaikutuksesta sinun oikeuksiisi, mahdollisuuksiisi tai pääsyysi.”
On huomattava, että tekoäly voidaan käyttää hyväksi suojelemaan ihmisten yksityisyyttä.

4. Ilmoitus ja selitys

Tämä ilmoitus- ja selitysperiaate tulisi olla yritysten kehottaja käyttämään tekoälyeettistä neuvostoa sekä edistämään selitettävän tekoälyn kehittämistä. Selitettävä tekoäly on välttämätöntä, jos tekoälymalli tekee virheen, ymmärtäminen, miten tekoäly toimii, mahdollistaa virheen helpon diagnosoinnin.

Selitettävä tekoäly myös mahdollistaa tiedon jakamisen siitä, miten dataa käytetään ja miksi tekoäly teki tietyn päätöksen. Ilman selitettävää tekoälyä on mahdotonta noudattaa näitä politiikkoja johtuen syvän oppimisen mustan laatikon ongelmaa.

Yritykset, jotka parantavat näitä järjestelmiä, saavat myös positiivisia hyötyjä ymmärtämällä syvän oppimisalgoritmien takana olevat nuancet ja monimutkaisuudet, miksi ne tekivät tietyn päätöksen.

“Sinun tulisi tietää, että automaattinen järjestelmä on käytössä ja ymmärtää, miten ja miksi se vaikuttaa sinua koskeviin lopputuloksiin. Automaattisten järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi tarjota yleisesti saatavilla oleva selkeä kieli -dokumentaatio, mukaan lukien selkeät kuvaukset järjestelmän toiminnasta ja automaation roolista, ilmoitus siitä, että tällaisia järjestelmiä käytetään, vastuussa oleva yksilö tai organisaatio, ja selitykset lopputuloksista, jotka ovat selkeitä, ajankohtaisia ja saatavilla. Tällainen ilmoitus tulisi olla ajan tasalla, ja järjestelmän vaikuttamaa henkilöä tulisi ilmoittaa merkittävistä käyttötapauksista tai avainominaisuuksien muutoksista. Sinun tulisi tietää, miten ja miksi automaattinen järjestelmä on johtanut lopputulokseen, joka vaikuttaa sinuun, myös silloin, kun automaattinen järjestelmä ei ole ainoa lopputuloksen määrittäjä. Automaattiset järjestelmät tulisi antaa selitykset, jotka ovat teknisesti päteviä, merkityksellisiä ja hyödyllisiä sinulle ja mille tahansa operaattoreille tai muille, jotka tarvitsevat ymmärtää järjestelmän, ja kalibroitu riskin tasoon perustuen. Raportointi, joka sisältää yhteenvetoa automaattisista järjestelmistä selkeässä kielessä ja arvioita ilmoituksen ja selitysten selkeydestä ja laadusta, tulisi tehdä julkisesti, kun mahdollista.”

5. Ihmisten vaihtoehdot, harkinta ja varmuus

Toisin kuin useimmat edellä mainitut periaatteet, tämä periaate on sovellettavissa ennen kaikkea hallituksille tai yksityistetyille laitoksille, jotka toimivat hallitusten puolesta.

Vaikka tekoälyeettinen neuvosto ja selitettävä tekoäly on tärkeää, on tärkeää turvautua ihmisten tarkastukseen, kun kyse on henkilökohtaisista riskeistä. On aina mahdollisuus virheelle, ja ihmisen tarkastus pyynnöstä voisi ehkäistä tilanteen, jossa tekoäly lähettää väärät ihmiset vankilaan.

Oikeus- ja rikosjärjestelmällä on eniten mahdollisuuksia aiheuttaa korvaamattomia vahinkoja syrjityille yhteiskunnan jäsenille ja tulisi kiinnittää erityistä huomiota tähän periaatteeseen.

“Sinun tulisi voida valita vaihtoehto, missä sovellettavissa, ja sinun tulisi voida päästä nopeasti käsiksi henkilöön, joka voi tarkastella ja korjata ongelmia, joita sinä kohtaat. Sinun tulisi voida valita automaattisten järjestelmien sijaan ihminen, missä se on sovellettavissa. Soveltuvuus tulisi määritellä kohtuullisten odotuksien perusteella tietyssä asiayhteydessä ja keskittyen varmistamaan laajan saatavuuden ja suojelun yleisöä haitallisilta vaikutuksilta. Joissakin tapauksissa ihminen tai muu vaihtoehto voi olla lain vaatima. Sinun tulisi voida päästä nopeasti käsiksi ihmisen tarkastukseen ja korjaamiseen, jos automaattinen järjestelmä epäonnistuu, se aiheuttaa virheen tai sinä haluat valittaa tai haastaa sen vaikutusta sinuun. Ihmisen tarkastus ja varmuus tulisi olla saatavilla, tasapuolinen, tehokas, ylläpidettävissä, ja se ei saa aiheuttaa kohtuutonta taakkaa yleisölle. Automaattiset järjestelmät, joiden tarkoituksena on käytettäväksi herkillä alueilla, kuten rikosjärjestelmässä, työssä, koulutuksessa ja terveydenhuollossa, tulisi olla suunniteltu tarkoitukseen, tarjota merkityksellistä pääsyä valvontaan, sisältää koulutusta kaikille, jotka ovat tekemisissä järjestelmän kanssa, ja sisältää ihmisen tarkastuksen epäedullisten tai korkean riskin päätöksistä. Raportointi, joka sisältää kuvaus näistä ihmisten hallintoprosesseista ja arvio niiden ajankohdasta, saatavuudesta, lopputuloksista ja tehokkuudesta, tulisi tehdä julkisesti, kun mahdollista.”

Yhteenveto

OSTP:lle tulisi antaa tunnustus pyrkimyksistä esittää viitekehys, joka yhdistää tarvittavat turvallisuussuojaukset yhteiskunnalle ilman, että se esittää drakonisia politiikkoja, jotka voivat haitata tekoälyn kehitystä.

Periaatteiden jälkeen laki jatkuu tarjoamalla teknisen viitekehyksen käsiteltyihin asioihin sekä yksityiskohtaisia tietoja kustakin periaatteesta ja parhaista tavoista niiden toteuttamiseksi.

Näppärit yritysjohtajat ja yritykset tulisi kiinnittää huomiota tähän lakiin, koska se on vain edullista ottaa nämä politiikat käyttöön mahdollisimman pian.

Selitettävä tekoäly jatkaa olemassaoloaan tärkeimpänä, kuten voidaan nähdä tästä lain sitaatista.

“Yhdysvaltain hallituksen laajuisesti virastot suorittavat ja tukevat tutkimusta selitettävistä tekoälyjärjestelmistä. NIST suorittaa perustutkimusta tekoälyjärjestelmien selitettävyydestä. Monitieteellinen tutkijaryhmä pyrkii kehittämään mittausmenetelmiä ja parhaita käytäntöjä selitettävän tekoälyn toteuttamiseksi. DARPA:lla on ohjelma Selitettävästä tekoälystä, jonka tavoitteena on luoda joukko koneoppimismenetelmiä, jotka tuottavat selitettävämpiä malleja, ylläpitäen korkeaa oppimisen suorituskykyä (ennustusvirhe), ja mahdollistaen ihmisille ymmärtää, luottaa ja hallita uutta sukupolvea tekoälyparia. Kansallisen tiedesäätiön ohjelma Reiluudesta tekoälyssä sisältää erityisen kiinnostuksen tutkimuksen perustoihin selitettävästä tekoälystä.”

Mitä ei tulisi ylikorostaa, on se, että lopulta nämä tässä esitetyt periaatteet tulevat olemaan uusi standardi.