Regulering
EU lanserer First AI Regulations
21. april vil EU kunngjøre sitt første regelverk for bruk av kunstig intelligens. De nye forskriftene vil fullstendig forby maskinlæringssystemer med høy risiko, og innføre minimumsstandarder for andre maskinlæringsteknologier, med bøter på 20 millioner euro, eller 4 % av selskapets omsetning, for brudd.
Et utkast til rapport om den nye loven, innhentet av Politico, ville søke å fremme innovasjon og utvikling av AI-systemer til generell fordel for EUs økonomi og samfunn, innen områder som produksjon, forbedret energieffektivitet og modellering av klimaendringer; men det ville forby bruk av maskinlæring i kredittvurderingssystemer, automatisert evaluering av straffer og vurdering av egnethet for trygdeytelser og asyl- eller visumsøknader, blant andre forbud som vil bli avslørt senere.
Utkastet sier det eksplisitt Kinesisk stil Sosiale poengsystemer for enkeltpersoner og bedrifter er i strid med EUs verdier, og vil bli forbudt i henhold til forordningen, sammen med «masseovervåkingsteknologier» drevet av AI.
Regulatorisk tilsyn
Etter dens ansettelse av en ekspertgruppe på høyt nivå for kunstig intelligens i mars 2021, har EU også til hensikt å opprette et nytt europeisk styre for kunstig intelligens, med hvert medlemsland representert, sammen med en representant fra EU-kommisjonen og EUs databeskyttelsesmyndighet.
Det kanskje mest omfattende og potensielt kontroversielle ediktet i utkastet er at det forbyr systemer som skader EU-befolkningen ved å «manipulere deres oppførsel, meninger eller beslutninger», noe som uten tvil inkluderer mange teknologier som driver analysen av kommersiell og politisk markedsføring.
Regelverket vil gjøre unntak for bekjempelse av alvorlig kriminalitet, og tillate foreskrevet utplassering av ansiktsgjenkjenningssystemer, innenfor grensene for omfang og varighet av bruk.
Som med den bredt sveip I henhold til GDPR ser det ut til at disse nye forskriftene kan være generelle nok til å skape en «avskrekkende effekt» i områder der det ikke gis strenge retningslinjer for bruk av AI, og selskaper risikerer eksponering der bruken av maskinlæring faller inn i en potensiell gråsone innenfor regelverket.
Bias under nye EU AI-forskrifter
Den desidert største utfordringen og mulige juridiske hengemyra kommer imidlertid i form av utkastet til forskriftsbestemmelsen om at datasett ikke «inneholder noen forsettlige eller utilsiktede skjevheter» som kan legge til rette for diskriminering.
Dataskjevhet er en av de mest utfordrende aspektene i utviklingen av maskinlæringssystemer – vanskelig å bevise, vanskelig å ta tak i, og dypt knyttet til de sentrale kulturene til datainnsamlingsorganer. Spørsmålet plasserer i økende grad private og statlige forskningsorganer i en tverrstrøm mellom behovet for å representere distinkte grupper nøyaktig (praktisk talt det grunnleggende målet for beregningsmatematikk og empirisk statistisk analyse) og potensialet for å kunngjøre raseprofilering og kulturell demonisering, blant andre hensyn. .
Derfor er det sannsynlig at markeder utenfor EU vil håpe at den nye forskriften vil gi i det minste noen spesifikke veiledningsområder, og en rekke gjeldende definisjoner i denne forbindelse.
Ekstern motstand mot EUs AI-forordning
Den nye forskriften vil sannsynligvis ha en dyp innvirkning på de juridiske konsekvensene av å bruke maskinlæring til å analysere offentlig tilgjengelige data – så vel som på data som det fortsatt vil være mulig å hente ut fra nettbrukere i den ettersporingstiden som for tiden innledes av eple, Firefox og (til a mindre grad), Chrome.
Jurisdiksjon må kanskje defineres tydelig, for eksempel i tilfeller der FAANG-gigantene samler inn brukerdata i samsvar med GDPR, men behandler disse dataene gjennom maskinlæringssystemer utenfor EU. Det er ikke klart om algoritmer utledet via slike systemer kan brukes på plattformer i EU, og enda mindre klart hvordan en slik anvendelse muligens kan bevises.
Ved bruk av AI for å informere om forvaringsavgjørelser og straffeutmåling, a voksende trend i USA, Storbritannias egen sporadiske eksperimenter i denne sektoren ville vært dekket av det nye regelverket dersom landet ikke hadde forlatt EU.
I 2020 uttalte et utkast til memorandum fra Det hvite hus om AI-regulering det amerikanske argumentet for lav regulering av AI, og erklærte at «Føderale etater må unngå regulatoriske eller ikke-regulatoriske tiltak som unødvendig hindrer AI-innovasjon og -vekst». Utvilsomt ser denne holdningen ut til å overleve Trump-administrasjonen som memorandumet ble publisert under, men reflekterer snarere kommende slitasje mellom USA og EU i kjølvannet av den nye forordningen.
På samme måte er det britiske AI-rådets «AI-veikart» uttrykker stor entusiasme for de økonomiske fordelene ved AI-adopsjon, men en generell bekymring for at nye regler ikke får hindre denne fremgangen.
Den første virkelige loven for AI
EUs forpliktelse til en juridisk holdning til AI er nyskapende. De siste ti årene har vært preget av en snøstorm av hvitebøker og foreløpige komitéfunn og anbefalinger fra regjeringer rundt om i verden, konsentrert om AI-etikken, med få faktiske lover vedtatt.
Geografisk fordeling av utstedere av etiske AI-retningslinjer etter antall dokumenter utgitt, i en undersøkelse fra 2019. Det høyeste antallet etiske retningslinjer er utgitt i USA og innenfor EU, etterfulgt av Storbritannia og Japan. Canada, Island, Norge, De forente arabiske emirater, India, Singapore, Sør-Korea, Australia er representert med 1 dokument hver. Etter å ha bidratt til en spesifikk G7-erklæring, er medlemslandene i G7-landene fremhevet separat. Kilde: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
