Misbrestur á drögum að gervigreindarlögum ESB

Ný lögfræðileg gagnrýni á drög Evrópusambandsins að „AI-lögum“ beinir margvíslegri gagnrýni á fyrirhugaðar reglugerðir. gefin út í apríl, sem komst að þeirri niðurstöðu að mikið af skjalinu sé 'saumað saman' úr neytendareglugerð frá 1980 sem varla gildandi; að það stuðli í raun að afnámi gervigreindarumhverfis í Evrópu, frekar en að færa geirann undir samræmda reglugerð; og – meðal fjölda annarra gagnrýnisradda – að tillögurnar kortleggja framtíðarreglugerð um gervigreind sem hefur „lítið vit og áhrif“.

rétt Gervigreindartillögur ESB afléttaer forprentun er samstarfsverkefni vísindamanna frá UCL London og Radboud háskólanum í Nijmegen.

Ritgerðin bætir við vaxandi fjölda neikvæðra álita um fyrirhugaða útfærslu (frekar en hinn mjög dáða ásetning) regluverks gervigreindarramma, þar á meðal ágreininginn í apríl eins af höfundum reglugerðardröganna sjálfra að fyrirhugaðar leiðbeiningar séu „volgar, skammsýnir og vísvitandi óljósar“, sem einkenndi skjal framkvæmdastjórnar Evrópusambandsins sem talsmann „falsaðra siðferðis“.

Meðhöndlun AI kerfi

Í nýju blaðinu er því haldið fram að fyrirhugaðar takmarkanir gervigreindarlaganna á „stjórnkerfi“ séu hamlaðar af óljósri og jafnvel mótsagnakenndri skilgreiningu á „skaða“, þar sem sagt er að „[a] tortryggni gæti fundið að framkvæmdastjórnin hafi meiri áhuga á orðræðugildi banna en raunhæfu. áhrif'.

The Drög að reglugerðum gerðu grein fyrir tveimur hugsanlegum bönnuðum starfsháttum:

(a) markaðssetningu, notkun eða notkun gervigreindarkerfis sem beitir undirvitundartækni umfram meðvitund einstaklings til að skekkja hegðun einstaklings verulega á þann hátt sem veldur eða er líklegur til að valda viðkomandi eða öðrum líkamlegri eða sálrænum skaða;

(b) markaðssetningu, notkun eða notkun gervigreindarkerfis sem nýtir sér einhverja veikleika tiltekins hóps einstaklinga vegna aldurs þeirra, líkamlegrar eða andlegrar fötlunar, í því skyni að raska verulega hegðun einstaklings sem tilheyra þeim hópi á þann hátt sem veldur eða er líklegur til að valda viðkomandi eða öðrum líkamlegum eða sálrænum skaða;

Rannsakendur halda því fram að þessar takmarkanir snúi ekki að því hvort þjónusta eða hugbúnaður gervigreindarveitanda sé farsæll til að ná fram eigin markmiðum, heldur aðeins ef endanlegur notandi verður fyrir „skaða“ í ferlinu. Þeir bæta því við að skilgreining frumvarpsins á skaða sé banvænlega takmörkuð við einstaka notendur, frekar en þá tegund af sameiginlegum eða samfélagslegum skaða sem hægt er að álykta með sanngjörnum hætti af fjölda deilna um gervigreind undanfarinna ára, eins og Cambridge Analytica-vandann.

Blaðið tekur fram að „Í raunveruleikanum getur skaði safnast upp án þess að einn atburður lendi á þröskuldi alvarleika, þannig að erfitt sé að sanna það“.

Skaðleg gervigreind kerfi leyfð, en ekki til neyslu í ESB

Í lögum um gervigreind er lagt til að löggæslu verði bönnuð „rauntíma“ líffræðileg tölfræðikerfi í opinberu rými. Þó nokkur tortryggni almennings hafi beinst að þeim undantekningum sem tillögurnar gera um baráttu gegn hryðjuverkum, mansali á börnum og eftirsókn eftir evrópskri handtökuskipun, taka rannsakendur einnig fram að ekkert myndi koma í veg fyrir að birgjar selji ósæmileg líffræðileg tölfræðikerfi til kúgandi stjórnvalda.

Blaðið tekur fram að þetta sé nú þegar söguleg venja, eins og kom fram í 2020 skýrslu Amnesty international.

Þar segir ennfremur að forskrift gervigreindarlaganna um „rauntíma“ líffræðileg tölfræðikerfi sé handahófskennd og útiloki greiningarkerfi án nettengingar, svo sem síðari vinnslu myndbandsupptaka frá mótmælaviðburðum.

Að auki er tekið fram að tillögurnar bjóða ekki upp á neina aðferð til að takmarka líffræðileg tölfræðikerfi sem eru það ekki tengist löggæslu, sem í staðinn er frestað í leti til GDPR; og að GDPR sjálft „setur kröfu um hágæða einstaklingsbundið samþykki fyrir hvern skannaðan einstakling sem er í raun ómögulegt að uppfylla“.

Orðalag þessa hluta gervigreindarlaganna kemur einnig fyrir gagnrýni frá rannsakendum. Í drögunum er kveðið á um að forheimild verði krafist fyrir uppsetningu líffræðilegra tölfræðikerfa fyrir „einstaklinganotkun“ lögbærra yfirvalda á slíkum kerfum – en ekki er útskýrt hvað „einstök notkun“ þýðir í þessu samhengi. Blaðið bendir á að umdeildar heimildir geti verið þema, og tengjast víðtækum samtökum, tilgangi og stöðum.

Ennfremur kveða reglugerðardrögin ekki á um gagnsæiskerfi fyrir fjölda og tegund útgefinna leyfa, sem gerir opinbera athugun erfiða.

Reglugerð um útvistun á „samræmdum stöðlum“

Í rannsókninni kemur fram að mikilvægustu aðilarnir í gervigreindarlögum eru reyndar ekki nefndir einu sinni í reglugerðardröginum: CEN (European Committee for Standardisation) og CENELEC (European Committee for Electrotechnical Standardisation) – tvær af þremur evrópskum staðlastofnunum (ESOs) sem Framkvæmdastjórn Evrópusambandsins getur gefið umboð til að móta samræmda staðla, sem í mörgum tilfellum myndu halda áfram að stjórna regluverki fyrir ákveðnar tegundir gervigreindarþjónustu og uppsetningar.

Þetta þýðir í raun að gervigreindarframleiðendur geta valið að fylgja stöðlum um það sem er í raun í samkeppni frekar en viðbótarreglugerðum, í stað þess að uppfylla grunnkröfurnar sem lýst er í gervigreindarlögum. Þetta gerir veitendum kleift að túlka fyrirhugaðar reglugerðir lausari þegar þær taka gildi 2024-5.

Rannsakendur blaðsins telja einnig að áralöng hagsmunagæsla í iðnaði meðal staðlastofnana sé líkleg til að endurskilgreina þessa „nauðsynlegu staðla“ umtalsvert og benda til þess að „tilvalið“ reglugerðir ættu að byrja á hærra siðferðilegu stigi og skýrleika í löggjöf, þó ekki væri nema til að gera grein fyrir þessu. óumflýjanlegt niðurbrotsferli.

Lögmæti rangstöðu tilfinningagreiningarkerfa

Í gervigreindarlögum er að finna ákvæði gegn uppsetningu tilfinningaþekkingar- og flokkunarkerfa – ramma sem ekki endilega auðkenna einstakling, heldur segjast annaðhvort skilja hvað honum líður eða geta flokkað hann með tilliti til kyns, þjóðernis og ýmissa annarra efnahagslegum og félagslegum merkjum.

Rannsakendur halda því fram að þessi klausa sé tilgangslaus, þar sem GDPR skyldar nú þegar birgja slíkra kerfa til að veita notendum skýrar upplýsingar um notkun slíkra kerfa, svo að notendur geti afþakkað (sem getur falið í sér að nota ekki netþjónustu eða fara ekki inn svæði þar sem tilkynnt er að slík kerfi séu til staðar).

Meira um vert, blaðið heldur því fram að þessi klausa lögmæti a debunked tækni, og heldur áfram að einkenna FACS-stíl tilfinningagreiningarkerfis í ljósi skammarlegrar sögu orðafræði og annarra nær-sjamanískra nálgana við félagslega flokkun frá fyrstu iðnöld.

„Þeir sem segjast greina tilfinningar nota of einfölduð, vafasöm flokkunarkerfi; gera rangt ráð fyrir algildi þvert á menningu og samhengi; og hætta á að „[taka] okkur aftur til phrenological fortíðarinnar“ við að greina eðliseiginleika frá andlitsbyggingum. Ákvæði laganna um tilfinningagreiningu og líffræðilega tölfræðiflokkun virðast ekki nægja til að draga úr áhættunni.“

Of hógvær tillaga

Að auki taka vísindamennirnir á öðrum álitnum annmörkum í gervigreindarlögum að því er varðar reglugerð um djúpfalsanir, skort á eftirliti með kolefnislosun gervigreindarkerfa, tvöföldun á eftirlitseftirliti með öðrum ramma og ófullnægjandi skilgreiningu á lögaðila sem hægt er að sækja um.

Þeir hvetja löggjafana og borgaralega aðgerðarsinna til að grípa til aðgerða til að bæta úr þeim vandamálum sem greint hefur verið frá og benda ennfremur á að jafnvel umfangsmikil afbygging þeirra á reglugerðardrögum hefur þurft að sleppa mörgum öðrum áhyggjum vegna plássleysis.

Engu að síður fagnar blaðið framvarðartilraun laganna til að innleiða kerfi fyrir lárétta stjórnun á gervigreindarkerfum, með því að vitna í marga „skynsamlega þætti“ þess, eins og að búa til stigveldi áhættumatsstiga, hafa skuldbindingu um að setja bönn og leggja til opinberan gagnagrunn. kerfa sem birgðaveitendur þyrftu að leggja sitt af mörkum til til að öðlast evrópskt lögmæti, þó að taka fram lagaleg vandamál sem þessi síðari krafa mun líklega koma upp.