EU:n luonnoslain tekoälylain epäonnistumiset

Uusi oikeudellinen arvostelu Euroopan unionin luonnoslain “tekoälylain” esittää laajan joukon kritiikkejä ehdotetuille säännöksille julkaistu huhtikuussa, ja päättää, että suurin osa asiakirjasta on “ompelemalla yhteen” 1980-luvun kuluttajansuojelulaista; että se todella edistää sääntelemätöntä tekoäly-ympäristöä Euroopassa sen sijaan, että toimiala olisi johdonmukainen sääntely; ja – joukon muiden kritiikin joukossa – että ehdotukset piirtävät tulevaisuuden sääntelytekoäly-kehyksen, jolla on “vähän järkeä ja vaikutusta”.

Teoksen otsikko on Demystifying the Draft EU Artificial Intelligence Act, ja se on yhteistyö UCL Lontoon ja Radboud-yliopiston Nijmegenin tutkijoiden välillä.

Artikkeli lisää kasvavaan joukkoon kielteisiä mielipiteitä ehdotetun toteutuksen (ei niinkään hyväksi mainittujen tavoitteiden) tekoäly-sääntelykehyksen osalta, mukaan lukien väite huhtikuussa yhden luonnoslain omista kirjoittajista, jonka mukaan ehdotetut ohjeet ovat “laimeat, lyhytnäköiset ja tarkoituksella epämääräisiä”, ja joka luonnehti Euroopan komission asiakirjaa “fake ethicsin” puolustelijaksi.

Manipulaattoriset tekoälyjärjestelmät

Uusi tutkimus väittää, että tekoälylain ehdotetut rajoitukset “manipulaattoristen järjestelmien” osalta ovat esteettynä epämääräisellä ja jopa ristiriitaisella “haitan” määritelmällä, ja kommentoi, että “[a] kyninen henkilö saattaa tuntea, että komissio on enemmän kiinnostunut kieltämisten retorisesta arvosta kuin käytännön vaikutuksesta”.

Luonnoslain säännökset määrittelevät kaksi mahdollista kiellettyä käytäntöä:

(a) tekoälyjärjestelmän asettaminen markkinoille, otto käyttöön tai käyttö, joka käyttää alitajuisia tekniikoita, jotka ovat henkilön tietoisuuden ulottumattomissa, jotta voidaan muuttaa henkilön käyttäytymistä olennaisesti tavalla, joka aiheuttaa tai on todennäköisesti aiheuttava haittaa henkilölle tai toiselle henkilölle;

(b) tekoälyjärjestelmän asettaminen markkinoille, otto käyttöön tai käyttö, joka hyödyntää jotain tietylle henkilöryhmälle ominaista haavoittuvuutta, jonka vuoksi voidaan muuttaa henkilön käyttäytymistä tavalla, joka aiheuttaa tai on todennäköisesti aiheuttava haittaa henkilölle tai toiselle henkilölle;

Tutkijat väittävät, että nämä rajoitukset eivät koske sitä, onko tekoälytoimittajan palvelut tai ohjelmisto onnistunut edistämään omia tavoitteitaan, vaan ainoastaan sitä, kärsikö loppukäyttäjä “haittaa” prosessin aikana. He lisäävät, että luonnoksen määritelmä haitasta on kohtuuttoman rajoitettu yksittäisiin käyttäjiin, eikä se huomioi sellaista kollektiivista tai yhteiskunnallista haittaa, jota voidaan järkevästi johtaa useista viimeaikaisista tekoälyyn liittyvistä kiistakapanalesista, kuten Cambridge Analytican tapauksesta.

Tutkimus huomauttaa, että “todellisessa elämässä haitta voi kertyä ilman, että yksittäinen tapahtuma laukaisee vakavuuden kynnyksen, joten on vaikea todistaa”.

Haitalliset tekoälyjärjestelmät sallittuja, mutta ei EU:n kulutukseen

Tekoälylain ehdottaa “reaalikellonaikaisen” biometrisen järjestelmän käytön kieltoa julkisissa tiloissa lainvalvontaviranomaisilla. Vaikka joihinkin poikkeuksiin, kuten terrorisminvastaiseen toimintaan, lasten kaupan vastaiseen toimintaan ja eurooppalaisen pidätysmääräyksen noudattamiseen, on suunnattu julkista epäluottamusta, tutkijat huomaavat, ettei mitään estä toimittajia myymästä vastaavia biometrisiä järjestelmiä sortotoimeen.

Tutkimus toteaa, että tämä on jo historiallinen käytäntö, kuten paljastui vuoden 2020 Amnesty Internationalin raportissa.

Se toteaa myös, että tekoälylain määritelmä “reaalikellonaikaisesta” biometrisestä järjestelmästä on mielivaltainen ja poistaa offline-analyysijärjestelmät, kuten myöhemmän protestitapahtumien videomateriaalin käsittelyn.

Lisäksi huomautetaan, että ehdotuksissa ei ole mekanismia biometrisille järjestelmille, jotka eivät liity lainvalvontaan, vaan ne jätetään laiskasti tarkasteltaviksi GDPR:lle; ja että GDPR itsessään “edellyttää korkealaatuista, yksilökohtaista suostumusta kullekin skannatulle henkilölle, mikä on käytännössä mahdotonta täyttää”.

Tekoälylain tämän osion sanamuoto on myös tutkijoiden kritiikin kohteena. Luonnos määrää, että biometrisille järjestelmille edellytetään ennakkovaltuutusta “yksilölliseen käyttöön” – mutta ei selitä, mitä “yksilöllinen käyttö” tarkoittaa tässä yhteydessä. Tutkimus toteaa, että kiistanalaiset valtuutukset voivat olla “teemallisia” ja liittyä laajoihin organisaatioihin, tarkoituksiin ja paikkoihin.

Lisäksi luonnoslain säännökset eivät määrittele avoimuusmekanismia myöntämien valtuutusten määrälle ja tyypille, mikä tekee julkisen tarkastelun ongelmalliseksi.

Sääntelyn ulkoistaminen “harmonisoituun standardiin”

Tutkimus toteaa, että tärkeimmät tahot tekoälylaissa eivät mainita lainkaan luonnoksessa: CEN (Euroopan standardointikomitea) ja CENELEC (Euroopan sähkötekniikan standardointikomitea) – kaksi kolmesta Euroopan standardointijärjestöstä (ESO), joihin Euroopan komissio voi antaa tehtäväksi laatia harmonisoituja standardeja, jotka useissa tapauksissa muodostavat hallitsevat sääntelykehykset tietynlaisille tekoäly-palveluille ja -käyttökohteille.

Tämä tarkoittaa käytännössä, että tekoälytuottajat voivat valita noudattavansa standardeja, jotka ovat kilpailevia eikä täydentäviä sääntöjä, sen sijaan, että noudattaisivat tekoälylaissa määriteltyjä olennaisia vaatimuksia. Tämä mahdollistaa toimijoille löyhän tulkinnan ehdotetuista säännöksistä, kun ne tulevat voimaan vuosina 2024-2025.

Tutkimuksen tekijät ovat myös sitä mieltä, että väliin jäävät vuodet teollisen lobbaamisen standardointijärjestöjen välillä ovat todennäköisesti määritteleviä “olennaisille standardeille”, ja ehdottavat, että “ihannetapauksessa” sääntelyt tulisi aloittaa korkeammalta eettiseltä tasolta ja lainsäädännöllisestä selkeydestä, jotta voidaan ottaa huomioon tämä väistämätön prosessi.

Emootiotunnistusjärjestelmien virheellisyyden legitimointi

Tekoälylain sisältää määräyksiä emotion tunnistamisen ja luokittelun järjestelmien käytöstä – kehykset, jotka eivät välttämättä tunnista yksilöä, mutta joko väittävät ymmärtävänsä, mitä he tuntevat, tai pystyvät luokittelemaan heidät sukupuolen, etnisen taustan ja muiden taloudellisten ja sosiaalisten merkintöjen perusteella.

Tutkijat väittävät, että tämä pykälä on turha, koska GDPR jo velvoittaa tällaisten järjestelmien tarjoajia antamaan käyttäjille selkeää tietoa näiden järjestelmien käytöstä, jotta käyttäjät voivat valita, eivätkö he käytä tiettyä verkkopalvelua tai menemistä alueelle, jossa tällaisia järjestelmiä ilmoitetaan olevan.

Tärkeämpää on, että tutkimus väittää, että tämä pykälä legitimoi hylätyn teknologian, ja kuvaa FACS-tyyppiset emotiontunnistusjärjestelmät shamanistisen lähestymistavan valossa sosiaalisen luokittelun varhaisesta teollisesta ajasta.

“Nämä, jotka väittävät havainnoivansa emotion, käyttävät yksinkertaisia, kyseenalaisia luokituksia; oletetaan virheellisesti yleispätevyyttä kulttuurien ja asiayhteyden välillä; ja altistavat meidät ’paluuseen frenologisen menneisyyteen’ hahmottamaan luonteenpiirteitä kasvonrakenteista. Tekoälylain säännökset emotiontunnistuksesta ja biometrisestä luokittelusta näyttävät riittämättömiltä riskien torjumiseksi”.”

Liian vaatimaton ehdotus

Tutkijat käsittelevät myös muita tekoälylaissa havaittuja puutteita, kuten syvänvalokuvien sääntelyä, tekoälyjärjestelmien hiilidioksidipäästöjen valvontaa, sääntelyvalvonnan toistoa muiden kehysten kanssa ja riittämätöntä määritelmää rangaistavista oikeudellisista henkilöistä.

He kehottavat lainsäätäjiä ja kansalaisaktivisteja ryhtymään toimiin havaittujen ongelmien korjaamiseksi ja toteavat, että heidän laajan tekoälylain luonnoksen purkamisensa on joutunut jättämään monia muita huolenaiheita puoleen, ajanpuutteen vuoksi.

Toisaalta tutkimus ylistää tekoälylain uraauurtavaa yritystä esitellä vaakasuora tekoälyjärjestelmien sääntely, mainiten sen monia “järkeviä elementtejä”, kuten riskien arviointitason hierarkian luomista, kieltämisten sitoutumista ja julkisen tietokannan ehdottamista, johon toimittajien on osallistuttava saadakseen Euroopan legitimitetin, vaikka huomauttaa, että tämä viimeinen vaatimus aiheuttaa todennäköisesti oikeudellisia ongelmia.