EU julkaisee ensimmäiset säännöt tekoälylle

21. huhtikuuta Euroopan unioni julkaisee ensimmäisen sääntelykehyksensä, joka koskee tekoälyn käyttöä. Uudet säännöt kieltävät kokonaan “korkean riskin” koneoppimisjärjestelmät ja ottavat käyttöön vähimmäisvaatimukset muiden koneoppimisteknologioiden osalta, ja niiden rikkomisesta voidaan määrätä sakkoja 20 miljoonaa euroa tai 4 % yrityksen liikevaihdosta.

Sääntelyluonnoksen mukaan, jonka Politico on saanut haltuunsa, pyritään edistämään innovaatioita ja kehittämään tekoälyjärjestelmiä yleiseen hyötyyn EU:n taloudelle ja yhteiskunnalle, esimerkiksi valmistuksessa, energiatehokkuuden parantamisessa ja ilmastonmuutoksen mallinnuksessa, mutta se kieltäisi koneoppimisen käytön luottoluokitusjärjestelmissä, automaattisissa rangaistusten arvioissa ja sosiaaliturva-etuuksien ja turvapaikanhakijoiden arvioinnissa, muun muassa.

Luonnos toteaa selvästi, että kiinalaistyyliset sosiaalisen luokituksen järjestelmät yksityishenkilöille ja yrityksille ovat EU:n arvojen vastaisia ja niiden käyttö kielletään sääntelyssä, samoin kuin “massavalvonta” -teknologiat, jotka perustuvat tekoälyyn.

Sääntelyvalvonta

EU aikoo perustaa uuden Euroopan tekoälyneuvoston, johon kuuluu edustaja kustakin jäsenvaltiosta, Euroopan komissiosta ja EU:n tietosuojaviranomaisesta.

Luonnoksen mukaan kielletään järjestelmät, jotka aiheuttavat vahinkoa EU-väestölle “manipuloimalla heidän käyttäytymistään, mielipiteitä tai päätöksiä”, mikä voi sisältää useita teknologioita, jotka voivat olla osa kaupallisen ja poliittisen markkinoinnin analyysiä.

Säännökset tekevät poikkeuksen vakavan rikollisuuden torjumiseksi, sallien tiettyjen kasvontunnistusjärjestelmien käytön tiettyjen rajoitusten puitteissa.

Kuten laajan GDPR-sääntelyn kohdalla, nämä uudet säännökset voivat olla niin yleisiä, että ne aiheuttavat “jäätävän vaikutuksen” alueilla, joissa ei ole tiukkoja ohjeita tekoälyn käytölle, ja yritykset voivat altistua riskille, jos heidän tekoälyn käytönsä kuuluu mahdolliseen harmaan alueen sääntöihin.

Harhat uusissa EU:n tekoälysäännöissä

Suurin haaste ja mahdollinen oikeudellinen ongelma tulee kuitenkin luonnoksen määräyksestä, jonka mukaan tietojoukkojen ei saa “sisältää tietoista tai tiedostamatonta harhautta”, joka voi johtaa syrjintään.

Tietoharhat ovat yksi haasteellisimmista tekoälyjärjestelmien kehittämiseen liittyvistä ongelmista – ne ovat vaikeita todistettaviksi, vaikeita korjattaviksi ja syvästi sidoksissa tietojen keräämisen kulttuureihin. Tämä ongelma asettaa yksityiset ja julkiset tutkimuslaitokset ristituuleen, jossa on tarve edustaa tarkasti eri ryhmiä (laskennallisen matematiikan ja empiirisen tilastollisen analyysin perustava tavoite) ja vaara syrjintään ja kulttuurisen demonisoinnin, muun muassa.

On siis todennäköistä, että EU:n ulkopuoliset markkinat toivovat, että uudet säännökset antavat ainakin joitain tarkkoja ohjeita ja määritelmiä tässä suhteessa.

Ulkoiset vastustus EU:n tekoälysääntelyä vastaan

Uudet säännökset vaikuttavat todennäköisesti syvästi oikeudellisiin seurauksiin, jotka liittyvät tekoälyn käyttöön julkisesti saatavilla olevien tietojen analysointiin – sekä tietoihin, joita voidaan edelleen kerätä verkkokäyttäjiltä posti-tracker-aikakaudella, jota Apple, Firefox ja (jonkin verran) Chrome ovat jo käynnistäneet.

On mahdollista, että toimivalta on määriteltävä selkeästi, esimerkiksi tapauksissa, joissa FAANG-jättiyhtiöt keräävät käyttäjätietoja GDPR:n mukaisesti, mutta käsittelevät tietoja tekoälyjärjestelmien avulla EU:n ulkopuolella. On epäselvää, voitaisiinko algoritmeja, jotka on johdettu tällaisista järjestelmistä, soveltaa alustoilla EU:ssa, ja vielä epäselvempi, miten tällainen soveltaminen voitaisiin edes todistaa.

Yhdysvalloissa on kasvava trendi tekoälyn käytölle vankeusrangaistusten määrityksessä, ja Iso-Britannian omat kokeilut tässä alalla olisivat kuuluneet uusiin sääntöihin, jos maa ei olisi eronnut EU:sta.

Vuonna 2020 Valkoisen talon luonnos tekoälyn sääntelystä esitti amerikkalaisen kannan tekoälyn sääntelystä, jossa todettiin, että “liittovaltion virastojen on vältettävä sääntely- tai sääntelyn ulkopuolisia toimia, jotka turhaan haittaavat tekoälyn innovaatiota ja kasvua”. On todennäköistä, että tämä asenne säilyy Trumpin hallinnon jälkeen, jolloin luonnos julkaistiin, mutta heijastaa tulevaa kitkaa Yhdysvaltojen ja EU:n välillä uuden sääntelyn myötä.

Samoin Iso-Britannian tekoälyneuvoston “Tekoälytie” -asiakirja ilmaisee suurta innostusta tekoälyn taloudellisista hyödyistä, mutta yleistä huolta siitä, että uudet säännökset eivät saa estää tätä edistystä.

Ensimmäinen oikea laki tekoälylle

EU:n sitoutuminen oikeudelliseen kannanottoon tekoälystä on innovatiivista. Viimeiset kymmenen vuotta ovat olleet täynnä valkoisia kirjoja, esitutkimuksia ja komitean suosituksia hallituksilta ympäri maailmaa, jotka keskittyvät tekoälyn eettisiin kysymyksiin, ja vain harvoja lakeja on hyväksytty.

Maantieteellinen jakauma eettisten tekoälyohjeiden julkaisijoista lukumääräisesti vuonna 2019. Eniten ohjeita on julkaistu Yhdysvalloissa ja Euroopan unionissa, seuraavina Iso-Britannia ja Japani. Kanada, Islanti, Norja, Arabiemiirikunnat, Intia, Singapore, Etelä-Korea, Australia edustettuina yhdellä asiakirjalla. G7-maiden jäsenvaltiot, jotka ovat osallistuneet tiettyyn G7-lauselmaan, korostetaan erikseen. Lähde: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Lisää luettavaa

Kansalliset tekoälykäytäntöjä ja -strategioita (OECD)