EU će pokrenuti prve uredbe o umjetnoj inteligenciji

Europska unija će 21. travnja objaviti svoj prvi regulatorni okvir koji regulira korištenje umjetne inteligencije. Novi propisi u potpunosti će zabraniti sustave strojnog učenja 'visokog rizika' i uvesti minimalne standarde za druge tehnologije strojnog učenja, namećući kazne od 20 milijuna eura, ili 4% prometa tvrtke, za kršenja.

Nacrt izvješća o novom zakonu, dobivene Politico, nastojao bi poticati inovacije i razvoj sustava umjetne inteligencije za opću dobrobit gospodarstva i društva EU-a, u područjima kao što su proizvodnja, poboljšana energetska učinkovitost i modeliranje klimatskih promjena; ali bi zabranio korištenje strojnog učenja u sustavima kreditnog bodovanja, automatiziranu procjenu kaznenih kazni i procjenu prikladnosti za beneficije socijalnog osiguranja i zahtjeve za azil ili vizu, među ostalim zabranama koje će biti otkrivene kasnije.

U nacrtu se to izričito navodi u kineskom stilu sustavi društvenog bodovanja za pojedince i tvrtke u suprotnosti su s vrijednostima Europske unije i bit će zabranjeni uredbom, zajedno s tehnologijama 'masovnog nadzora' koje pokreće AI.

Regulatorni nadzor

Nakon toga imenovanje Stručne skupine visoke razine za umjetnu inteligenciju u ožujku 2021., EU također namjerava osnovati novi Europski odbor za umjetnu inteligenciju, u kojem će biti zastupljena svaka država članica, zajedno s predstavnikom Europske komisije i tijela EU-a za zaštitu podataka.

Možda najopširniji i potencijalno kontroverzniji edikt u nacrtu je da zabranjuje sustave koji uzrokuju štetu stanovništvu EU-a 'manipulirajući njihovim ponašanjem, mišljenjima ili odlukama', što bi vjerojatno uključivalo mnoge tehnologije koje pokreću analizu komercijalnog i političkog marketinga.

Propisi će činiti iznimke za borbu protiv teškog kriminala, dopuštajući propisanu primjenu sustava za prepoznavanje lica, unutar ograničenja opsega i trajanja uporabe.

Kao i kod široki zamah GDPR-a, čini se da bi ovi novi propisi mogli biti dovoljno općeniti da potaknu 'utjehu straha' u područjima u kojima nisu predviđene stroge smjernice za upotrebu umjetne inteligencije, pri čemu korporacije riskiraju izloženost tamo gdje njihova upotreba strojnog učenja spada u potencijalno sivu zonu u okviru propisa.

Pristranost prema novim EU propisima o umjetnoj inteligenciji

Međutim, daleko najveći izazov i moguća pravna zabuna dolazi u obliku odredbe nacrta uredbe da skupovi podataka ne 'uključuju nikakve namjerne ili nenamjerne pristranosti' koje bi mogle olakšati diskriminaciju.

Pristranost podataka jedan je od najizazovnijih aspekata u razvoju sustava strojnog učenja – teško ga je dokazati, teško ga je riješiti i duboko je povezan sa središnjim kulturama tijela za prikupljanje podataka. Ovo pitanje sve više dovodi privatna i državna istraživačka tijela u sukob između potrebe za točnim predstavljanjem različitih skupina (što je praktički temeljni cilj računalne matematike i empirijske statističke analize) i potencijala za promicanje rasnog profiliranja i kulturne demonizacije, između ostalih razmatranja. .

Stoga je vjerojatno da će se tržišta izvan EU-a nadati da će nova uredba pružiti barem neka posebna područja smjernica i niz primjenjivih definicija u tom pogledu.

Vanjski otpor Uredbi EU AI

Nova uredba vjerojatno će imati dubok utjecaj na pravne posljedice korištenja strojnog učenja za analizu podataka koji su dostupni javnosti – kao i na takve podatke koje će i dalje biti moguće izvući od korisnika weba u doba nakon praćenja koje je trenutno biti uveden od strane jabuka, Firefox i (za a manjoj mjeri), krom.

Nadležnost će možda trebati jasno definirati, primjerice u slučajevima kada divovi FAANG prikupljaju korisničke podatke u skladu s GDPR-om, ali te podatke obrađuju putem sustava strojnog učenja izvan Europske unije. Nije jasno mogu li se algoritmi izvedeni putem takvih sustava primijeniti na platforme unutar EU, a još je manje jasno kako bi se takva primjena uopće mogla dokazati.

U slučaju upotrebe umjetne inteligencije za informiranje o odlukama o pritvoru i kazni, a rastući trend u Sjedinjenim Državama, povremeno u Velikoj Britaniji pokusi u ovom sektoru bili bi obuhvaćeni novim propisima da država nije izašla iz Europske unije.

U 2020. Bijela kuća nacrt memoranduma o regulaciji umjetne inteligencije iznio je američki slučaj niske regulacije umjetne inteligencije, izjavivši da 'Savezne agencije moraju izbjegavati regulatorne ili neregulatorne radnje koje bespotrebno koče inovacije i rast umjetne inteligencije'. Vjerojatno se čini da će ovaj stav preživjeti Trumpovu administraciju pod kojom je memorandum objavljen, ali prije odražava nadolazeću abraziju između SAD-a i EU-a nakon nove uredbe.

Slično, Vijeće za umjetnu inteligenciju UK-a 'Mapa puta' izražava veliko oduševljenje ekonomskim prednostima usvajanja umjetne inteligencije, ali opću zabrinutost da se ne dopusti da novi propisi ometaju ovaj napredak.

Prvi pravi zakon za AI

Predanost EU-a pravnom stajalištu o umjetnoj inteligenciji je inovativna. Posljednjih deset godina karakterizira a mećava bijelih knjiga i preliminarnih nalaza odbora i preporuka vlada diljem svijeta, usredotočujući se na etiku umjetne inteligencije, s nekoliko stvarnih zakona koji su doneseni.

Zemljopisna distribucija izdavatelja etičkih smjernica za umjetnu inteligenciju prema broju objavljenih dokumenata, u anketi iz 2019. Najveći broj etičkih smjernica objavljen je u Sjedinjenim Državama i unutar Europske unije, a slijede Ujedinjeno Kraljevstvo i Japan. Kanada, Island, Norveška, Ujedinjeni Arapski Emirati, Indija, Singapur, Južna Koreja, Australija zastupljene su sa po 1 dokumentom. Nakon što su doprinijeli određenoj izjavi G7, države članice zemalja G7 posebno su istaknute. Izvor: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Daljnje čitanje

Nacionalne politike i strategije AI (OECD)