Etiikka
Mitä Valkoisen talon tekoälyoikeuksien julistus merkitsee Yhdysvalloille ja muulle maailmalle

Keskeiset kohdatValkoisen talon tekoälyn oikeuksien julistus on sitomaton eikä muodosta Yhdysvaltain…
Näytä lisää
- Valkoisen talon tekoälyn oikeuksien julistus on sitomaton eikä muodosta Yhdysvaltain hallituksen politiikkaa.
- Selitettävä tekoäly on välttämätön vaatimustenmukaisuuden kannalta syväoppimisen mustan laatikon ongelman vuoksi.
- Laki eroaa Kiinan lähestymistavasta asettamalla etusijalle läpinäkyvyyden ja yleisön suojelun.
Valkoisen talon tiede- ja teknologiapoliittinen toimisto (OSTP) on julkaissut valkoisen kirjan nimeltä “Tekoälyoikeuksien julistuksen suunnitelma: Automatisoidut järjestelmät Yhdysvaltain kansalaisten palvelukseen”. Tämä viitekehys julkaistiin vuosi sen jälkeen, kun OSTP ilmoitti aloittavansa prosessin “tekoälymaailman oikeuksien” kehittämiseksi.
Julkaisun esipuhe osoittaa selvästi, että Valkoinen talo ymmärtää tekoälyn yhteiskunnalle aiheuttamat välittömät uhat. Esipuheessa todetaan:
“Yksi suurista haasteista, joita demokratia kohtaa tänään, on teknologian, datan ja automaattisten järjestelmien käyttö tavalla, joka uhkaa amerikkalaisen yleisön oikeuksia. Usein nämä työkalut käytetään rajoittamaan mahdollisuuksiamme ja estämään pääsyämme kriittisiin resursseihin tai palveluihin. Nämä ongelmat ovat hyvin dokumentoituja. Amerikassa ja maailmalla järjestelmät, jotka on tarkoitettu avustamaan potilashoitoa, ovat osoittautuneet vaarallisiksi, tehottomiksi tai puolueellisiksi. Algoritmit, joita käytetään palkkaamis- ja luottopäätöksissä, ovat osoittautuneet heijastavan ja lisäävän olemassa olevia ei-toivottuja epäkohtia tai sisällyttävän uusia haitallisia harhoja ja syrjintää. Valvomatonta sosiaalisen median datan keräämistä on käytetty uhkaamaan ihmisten mahdollisuuksia, heikentämään heidän yksityisyyttään tai seuraamaan kattavasti heidän toimintaansa – usein heidän tietämättään tai ilman heidän suostumustaan.
Nähtäväksi jää, mitä tämä oikeuksien julistus ja sen ehdottama viitekehys merkitsevät tekoälyn tulevaisuudelle. Uusia kehitysaskelia syntyy kuitenkin yhä kiihtyvään eksponentiaaliseen tahtiin. Mitä kerran nähtiin mahdottomana, välitön kielien kääntäminen on nyt todellisuutta, ja samaan aikaan meillä on vallankumous luonnollisen kielen ymmärtämisessä (NLU), jota johtaa OpenAI ja heidän kuuluisa alusta GPT-3.
Sitten olemme nähneet välittömän kuvien luomisen tekniikan kautta, jota kutsutaan Stable Diffusioniksi, josta voi tulla pian yleinen kuluttajatuote. Itse asiassa tämä teknologia mahdollistaa käyttäjälle kirjoittaa minkä tahansa kysymyksen, ja kuin taikaiskusta, tekoäly luo kuvan, joka vastaa kysymystä.
Kun otetaan huomioon eksponentiaalinen kasvu ja kiihtyvien tuottojen laki, tulee aika, jolloin tekoäly on ottanut haltuunsa jokaisen päivittäisen elämän osan. Yksilöt ja yritykset, jotka tietävät tämän ja hyödyntävät tätä paradigmamuutosta, voittavat. Valitettavasti suuri osa yhteiskunnasta voi joutua sekä pahantahtoisten että tahattomien tekoälyn seurausten uhriksi.
Tekoälyoikeuksien julistuksen tarkoitus on tukea sellaisten toimintaperiaatteiden ja käytäntöjen kehittämistä, jotka suojelevat kansalaisoikeuksia ja edistävät demokraattisia arvoja automatisoitujen järjestelmien rakentamisessa, käyttöönotossa ja hallinnassa. Kuinka tämä laki vertautuu Kiinan lähestymistapaan, on vielä nähtävissä, mutta se on oikeuksien julistus, jolla on potentiaalia muuttaa tekoälymaisemaa, ja se on todennäköisesti omaksuttavissa liittolaisten, kuten Australian, Kanadan ja EU:n, toimesta.
On kuitenkin todettava, että tekoälyoikeudet eivät ole sitovia eivätkä muodosta Yhdysvaltain hallituksen politiikkaa. Ne eivät syrjäytä tai muuta mitään voimassa olevaa lakia, asetusta, toimintaperiaatetta tai kansainvälistä asiakirjaa eivätkä ohjaa niiden tulkintaa. Tässä valkoisessa kirjassa esitettyjen periaatteiden noudattaminen jää siis yritysten ja hallitusten omaan harkintaan.
Tämä laki on tunnistanut viisi periaatetta, jotka tulisi ohjata automatisoitujen järjestelmien suunnittelua, käyttöä ja käyttöönottoa amerikkalaisen yleisön suojelemiseksi tekoälyn aikakaudella. Alla on lueteltu 5 periaatetta:
1. Turvalliset ja tehokkaat järjestelmät
On selvä ja läsnä oleva vaara yhteiskunnalle automatisoitujen järjestelmien väärinkäytöstä, erityisesti niiden, jotka perustuvat syvään oppimiseen. Tätä pyritään korjaamaan näillä periaatteilla:
“Sinun tulisi olla suojattu turvattomilta tai tehottomilta järjestelmiltä. Automatisoituja järjestelmiä tulisi kehittää konsultoiden moninaisia yhteisöjä, sidosryhmiä ja asiantuntijoita, jotta voidaan tunnistaa huolenaiheita, riskejä ja järjestelmän mahdollisia vaikutuksia. Järjestelmiä tulisi testata ennen käyttöönottoa, tunnistaa ja lieventää riskejä ja jatkuvasti seurata, jotta voidaan osoittaa, että ne ovat turvallisia ja tehokkaita tarkoituksenmukaisessa käytössä, haitallisten tulosten lieventämisessä, myös aiotun käytön ulkopuolella, ja noudattamalla alan mukaisia standardeja. Näiden suojelutoimien tulisi sisältää mahdollisuus järjestelmän käyttöönoton estäminen tai sen poistaminen käytöstä. Automatisoituja järjestelmiä ei tulisi suunnitella siten, että niillä on aikomus tai ennustettavissa oleva mahdollisuus vaarantaa sinun turvallisuuttasi tai yhteisösi turvallisuutta. Niiden tulisi olla suunniteltu suojelemaan sinua tahattomista, mutta ennustettavissa olevista, automatisoitujen järjestelmien käytön tai vaikutusten seurauksista. Sinun tulisi olla suojattu sopimattomalta tai epäolennaiselta datan käytöltä automatisoitujen järjestelmien suunnittelussa, kehittämisessä ja käyttöönotossa, sekä uudelleenkäytön aiheuttamasta kasautuvasta haitasta. Riippumaton arviointi ja raportointi, joka vahvistaa, että järjestelmä on turvallinen ja tehokas, mukaan lukien tiedot toimista, joilla voidaan lieventää mahdollisia haittoja, tulisi tehdä ja tulokset julkaista, kun mahdollista.
2. Suoja algoritmiselta syrjinnältä
Nämä käytännöt koskevat joitakin elefantteja huoneessa, kun on kyse yritysten väärinkäytöksestä yksilöiden suhteen.
Yleinen ongelma automatisoitujen järjestelmien käytössä henkilöstön palkkaamiseen on, että syvä oppimisjärjestelmä koulutetaan usein puolueellisilla tiedoilla, jotta voidaan tehdä palkkaamiseen liittyviä johtopäätöksiä. Tämä tarkoittaa käytännössä, että huonot palkkaamistavat menneisyydessä johtavat sukupuoliseen tai rodulliseen syrjintään palkkaamisagentin toimesta. Yksi tutkimus osoitti vaikeuksia poistaa sukupuolta koskevat vihjeet koulutusaineistosta.
Toinen keskeinen ongelma puolueellisilla tiedoilla hallituksissa on perusteettoman vangitsemisen riski tai jopa rikollisuuden ennustamisalgoritmeista, jotka tarjoavat pidemmät vankeusrangaistukset vähemmistöille.
“Sinun ei tulisi kohdata algoritmien aiheuttamaa syrjintää ja järjestelmiä tulisi käyttää ja suunnitella tasapuolisesti. Algoritmista syrjintää tapahtuu, kun automatisoitu järjestelmät vaikuttavat perusteettomaan erilaiseen kohteluun tai vaikutuksiin, jotka epäsuotuisasti vaikuttavat ihmisiin heidän rotunsa, ihonvärin, etnisen taustansa, sukupuolensa (mukaan lukien raskaus, synnytys ja siihen liittyvät terveydentilat, sukupuoli-identiteetti, intersukupuolisuus ja seksuaalinen suuntautuminen), uskonnon, iän, kansallisen alkuperän, vamman, veteraanin aseman, geneettisen tiedon tai muun laissa suojatun luokituksen perusteella. Olosuhteista riippuen tällainen algoritminen syrjintä voi rikkoa lakisääteistä suojaa. Automatisoitujen järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi ottaa proaktiivisia ja jatkuvia toimia yksilöiden ja yhteisöjen suojelemiseksi algoritmisen syrjinnän vaikutuksilta ja järjestelmien käytössä tasapuolisesti. Tämä suojaus tulisi sisältää proaktiiviset tasa-arvoarvioinnit järjestelmän suunnittelun osana, edustavan datan käytön ja suojan väestöryhmiin liittyvien ominaisuuksien sijaismuuttujia vastaan, varmistaa esteettömyyden vammaisille suunnittelussa ja kehittämisessä, ennen käyttöönottoa ja jatkuvaa epätasapuolisuuden testausta ja lievittämistä, sekä selkeä organisaation valvonta. Riippumaton arviointi ja selkeän kielen raportointi algoritmisen vaikutuksen arvioinnin muodossa, mukaan lukien epätasapuolisuuden testaustulokset ja lievittämisinformaatio, tulisi tehdä ja julkaista, kun mahdollista, vahvistamaan nämä suojaukset.
On huomattava, että Yhdysvallat on ottanut erittäin avoimen lähestymistavan tekoälyyn, nämä ovat politiikkoja, jotka on suunniteltu suojelemaan yleisöä, selkeä vastakohta Kiinan tekoälylähestymistavalle.
3. Tietosuojan periaate
Tämä tietosuojan periaate on se, joka todennäköisesti vaikuttaa suurimpaan osaan väestöstä. Periaatteen ensimmäinen puoli vaikuttaa keskittyvän datan keräämiseen, erityisesti internetin kautta, joka on tunnettu ongelma erityisesti sosiaalisen median alustoilla. Tätä dataa voidaan sitten käyttää mainosten myyntiin tai jopa vaikuttaa yleiseen mielipiteeseen ja vaikuttaa vaaleihin.
“Sinun tulisi olla suojattu väärinkäytöksiltä datan käytössä sisäänrakennetuilla suojauksilla ja sinulla tulisi olla määräysvalta siihen, miten sinua koskevia tietoja käytetään. Sinun tulisi olla suojattu yksityisyyden loukkaamisilta suunnitteluratkaisuilla, jotka varmistavat, että suojaukset ovat sisäänrakennettuja oletuksena, mukaan lukien varmistaminen, että datan kerääminen vastaa kohtuullisia odotuksia, ja että kerätään vain dataa, joka on välttämätöntä tiettyyn kontekstiin. Automatisoitujen järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi pyytää sinun lupaa ja kunnioittaa sinun päätöksiä datan keräämisestä, käytöstä, pääsystä, siirrosta ja poistamisesta asianmukaisissa tapauksissa ja mahdollisimman suuressa määrin; jos se ei ole mahdollista, tulisi käyttää vaihtoehtoisia sisäänrakennetun tietosuojan suojatoimia. Järjestelmien ei tulisi käyttää käyttökokemuksen ja suunnitteluratkaisuja, jotka peittävät käyttäjän valinnan tai rasittavat käyttäjiä oletuksilla, jotka ovat yksityisyyden loukkaavia. Suostumus tulisi käyttää ainoastaan datan keräämisen oikeuttamiseen tapauksissa, joissa se voidaan antaa asianmukaisesti ja merkityksellisesti. Kaikki suostumuspyynnöt tulisi olla lyhyitä, ymmärrettäviä selkeässä kielessä ja antaa sinulle valta datan keräämisestä ja tietystä käyttökontekstista; nykyiset vaikeat ymmärtää ilmoitus- ja valintakäytännöt laajalle datan käytölle tulisi muuttaa.
Tietosuojan periaatteen toinen puoli vaikuttaa olevan huolissaan valvonnasta sekä hallituksilta että yrityksiltä.
Yritykset voivat tällä hetkellä valvoa ja vakoilla työntekijöitään, joissakin tapauksissa se voi olla parantamaan työpaikan turvallisuutta, COVID-19-pandemian aikana se oli pakottamaan maskien käyttöä, useimmiten se tehdään yksinkertaisesti valvomaan, miten työaikaa käytetään. Monissa tapauksissa työntekijät tuntevat itsensä valvottaviksi ja kontrolloiduiksi tavalla, jota ei pidetä hyväksyttävänä.
“Lisäsuojaukset ja rajoitukset datalle ja johtopäätöksille herkillä aloilla, kuten terveydenhuollossa, työelämässä, koulutuksessa, rikosoikeudessa ja rahoituksessa, sekä datalle, joka koskee nuoria, tulisi asettaa sinut etusijalle. Herkillä aloilla datan ja siihen liittyvien johtopäätösten käytön tulisi olla vain välttämättömiin tarkoituksiin, ja sinun tulisi olla suojattu eettisellä arvioinnilla ja käytön kieltämisellä. Sinun ja yhteisösi tulisi olla vapaita valvomattomasta tarkkailusta; valvontateknologiat tulisi asettaa korkeampiin valvontoihin, jotka sisältävät vähintään ennen käyttöönottoa tehtävän arvioinnin niiden mahdollisista haitoista ja laajuuden rajoituksia yksityisyyden ja kansalaisoikeuksien suojelemiseksi. Jatkuva valvonta ja seuranta ei tulisi käyttää koulutuksessa, työssä, asumisessa tai muissa konteksteissa, joissa valvontateknologioiden käyttö voi rajoittaa oikeuksia, mahdollisuuksia tai pääsyä. Kun mahdollista, sinun tulisi olla pääsy raporttiin, joka vahvistaa, että datan käytön päätöksiä on kunnioitettu ja arvioitu valvontateknologioiden vaikutusta oikeuksiisi, mahdollisuuksiisi tai pääsyysi.
On huomattava, että tekoälyä voidaan käyttää hyödyksi suojelemaan ihmisten yksityisyyttä.
4. Ilmoitus ja selitys
Tämän periaatteen tulisi kannustaa yrityksiä perustamaan tekoälyeettisen neuvoston sekä kiihdyttämään selitettävän tekoälyn kehittämistä. Selitettävä tekoäly on välttämätöntä, jos tekoälymalli tekee virheen, ymmärtäminen, miten tekoäly toimii, mahdollistaa virheen helpon diagnosoinnin.
Selitettävä tekoäly myös mahdollistaa avoimen tiedon jakamisen siitä, miten dataa käytetään ja miksi tekoäly tekee tietyn päätöksen. Ilman selitettävää tekoälyä on mahdotonta noudattaa näitä politiikkoja johtuen syväoppimisen mustan laatikon ongelmasta.
Yritykset, jotka parantavat näitä järjestelmiä, saavat myös positiivisia hyötyjä ymmärtämällä syvän oppimisalgoritmien takana olevat vivahteet ja monimutkaiset tekijät, jotka selittävät tietyn päätöksen.
“Sinun tulisi tietää, että automatisoitua järjestelmää käytetään ja ymmärtää, miten ja miksi se vaikuttaa sinua koskeviin tuloksiin. Automatisoitujen järjestelmien suunnittelijoiden, kehittäjien ja käyttäjien tulisi tarjota yleisesti saatavilla oleva selkokielinen dokumentaatio, mukaan lukien selkeät kuvaukset järjestelmän toiminnasta ja automaation roolista, ilmoitus siitä, että tällaisia järjestelmiä käytetään, järjestelmästä vastaavan henkilön tai organisaation tiedot, ja selitykset tuloksista, jotka ovat selkeitä, ajantasaisia ja saatavilla. Tällaiset ilmoitukset tulisi pitää ajan tasalla ja ilmoittaa henkilöille, jotka järjestelmästä vaikuttuvat, merkittävistä muutoksista järjestelmän käyttötarkoituksessa tai avainominaisuuksissa. Sinun tulisi tietää, miten ja miksi automatisoitu järjestelmä on määrittänyt sinua koskevan tuloksen, myös silloin, kun automatisoitu järjestelmä ei ole ainoa syöttö, joka määrittää tuloksen. Automatisoituja järjestelmiä tulisi tarjota selitykset, jotka ovat teknisesti päteviä, merkityksellisiä ja hyödyllisiä sinulle ja mille tahansa operaattoreille tai muille, jotka tarvitsevat ymmärtää järjestelmän, ja kalibroitu riskin tasoon sisällön perusteella. Raportointi, joka sisältää yhteenvetoa tekoälyjärjestelmistä selkeässä kielessä ja arvioita ilmoituksen ja selitysten selkeydestä ja laadusta, tulisi julkaista, kun mahdollista.
5. Ihmisen tarjoamat vaihtoehdot, arviointi ja varajärjestelyt
Toisin kuin useimmat edellä mainitut periaatteet, tämä periaate on sovellettavissa ennen kaikkea hallituksille tai yksityistetyille laitoksille, jotka toimivat hallituksen puolesta.
Tekoälyeettisen neuvostosta ja selitettävästä tekoälystä huolimatta on tärkeää turvautua ihmisten tarkastukseen, kun ihmishenkiä on vaarassa. On aina mahdollisuus virheisiin, ja ihmisen tarkastus voi mahdollisesti estää tilanteen, jossa tekoäly lähettää väärät henkilöt vankilaan.
Oikeus- ja rikosjärjestelmällä on eniten mahdollisuuksia aiheuttaa pysyvää vahinkoa syrjityille yhteiskunnan jäsenille ja tulisi kiinnittää erityistä huomiota tähän periaatteeseen.
“Sinun tulisi voida tarvittaessa kieltäytyä automatisoidun järjestelmän käytöstä ja saada yhteys ihmiseen, joka voi nopeasti käsitellä ja ratkaista kohtaamasi ongelmat. Sinun tulisi voida asianmukaisissa tilanteissa valita automatisoidun järjestelmän sijaan ihmisen tarjoama vaihtoehto. Sopivuus tulisi määritellä kohtuullisten odotuksien perusteella tietyssä kontekstissa ja keskittyen varmistamaan laajan saatavuuden ja suojelemaan yleisöä erityisen haitallisista vaikutuksista. Joissakin tapauksissa laki voi edellyttää ihmisen tarjoamaa tai muuta vaihtoehtoa. Sinulla tulisi olla varajärjestelyn ja asian siirtämisen ylemmälle käsittelytasolle kautta mahdollisuus saada asia ajoissa ihmisen arvioitavaksi ja korjattavaksi, jos automatisoitu järjestelmä epäonnistuu, se aiheuttaa virheen tai sinä haluat valittaa tai haastaa sen vaikutusta sinuun. Ihmisen arviointi ja varajärjestelyt tulisi olla saatavilla, tasapuolinen, tehokas, ylläpidettävä, tuettu asianmukaisella käyttäjien koulutuksella ja ei saa aiheuttaa kohtuutonta taakkaa yleisölle. Automatisoitujen järjestelmien, joiden tarkoituksena on käyttää herkillä aloilla, kuten rikosjärjestelmässä, työssä, koulutuksessa ja terveydenhuollossa, tulisi olla räätälöity tarkoitukseen, tarjota todellinen pääsy valvontaan, sisältää koulutus kaikille järjestelmän kanssa toimiville sekä ihmisen arviointi haitallisten tai korkean riskin päätöksistä. Raportointi, joka sisältää kuvaus näistä ihmisten hallintoprosesseista ja arvio niiden ajantasaisuudesta, saatavuudesta, tuloksista ja tehokkuudesta, tulisi julkaista, kun mahdollista.
Yhteenveto
OSTP:lle tulisi antaa tunnustus yrityksestä esittää viitekehys, joka yhdistää turvallisuuskäytännöt, joita yhteiskunnalle tarvitaan, ilman, että se esittää ankaria rajoituksia, jotka voivat haitata koneoppimisen kehitystä.
Periaatteiden jälkeen laki jatkuu tarjoamalla tekninen viite aiheisiin, jotka käsitellään, sekä yksityiskohtaisia tietoja kustakin periaatteesta ja parhaista tavoista niiden toteuttamiseksi.
Valppaiden yritysjohtajien ja yritysten tulisi kiinnittää huomiota tähän lakiin, koska se voi olla vain edullista ottaa nämä politiikat käyttöön mahdollisimman pian.
Selitettävä tekoäly jatkaa tärkeän aseman korostamista, kuten voidaan nähdä tästä lain sitaattia:
“Yhdysvaltain hallituksen laajuisesti toimivat virastot ja laitokset toteuttavat ja tukevat tutkimusta selitettävistä tekoälyjärjestelmistä. NIST toteuttaa perustutkimusta automatisoitujen järjestelmien selitettävyydestä. Monitieteellinen tutkijaryhmä pyrkii kehittämään mittausmenetelmiä ja parhaita käytäntöjä selitettävän tekoälyn toteuttamiseen. Puolustusministeriön tutkimuslaitos toteuttaa ohjelmaa selitettävästä tekoälystä, jonka tavoitteena on luoda joukko koneoppimismenetelmiä, jotka tuottavat selitettävämpiä malleja, säilyttäen samalla korkean oppimistason (ennustetarkkuus), ja mahdollistavat ihmiskäyttäjille ymmärtää uuden sukupolven tekoälykumppaneita, luottaa niihin asianmukaisesti ja hallita niitä tehokkaasti. Kansallisen tiedesäätiön ohjelma tekoälyn reiluudesta sisältää erityisen kiinnostuksen tutkimuksen perustaan selitettävälle tekoälylle.
On huomattava, että lopulta nämä periaatteet tulevat olemaan uusi standardi.












