EU lanceert eerste AI-regelgeving

Op 21 april zal de Europese Unie haar eerste regelgevingskader aankondigen voor het gebruik van kunstmatige intelligentie. De nieuwe regelgeving zal ‘hoge-risico’ machine learning-systemen volledig verbieden en minimumnormen introduceren voor andere machine learning-technologieën, met boetes van €20 miljoen, of 4% van de omzet van het bedrijf, voor overtredingen.

Een conceptversie van de nieuwe wet, verkregen door Politico, zou moeten zorgen voor innovatie en ontwikkeling van AI-systemen voor het algemeen nut van de economie en de samenleving van de EU, op gebieden zoals productie, verbeterde energie-efficiëntie en klimaatmodellering; maar het zou het gebruik van machine learning in creditscoring-systemen, geautomatiseerde evaluatie van straffen en de beoordeling van de geschiktheid voor sociale zekerheidsuitkeringen en asiel- of visumaanvragen verbieden, evenals andere verboden die later bekend zullen worden gemaakt.

De conceptversie verklaart expliciet dat Chinees-achtige sociale scoresystemen voor individuen en bedrijven in strijd zijn met de waarden van de Europese Unie en verboden zullen worden onder de regelgeving, evenals ‘massasurveillance’-technologieën die worden aangedreven door AI.

Toezicht door de regelgever

Na de aanstelling van een High-level expertgroep voor kunstmatige intelligentie in maart 2021, heeft de EU ook de intentie om een nieuwe Europese AI-raad in te stellen, met vertegenwoordigers van elke lidstaat, evenals een vertegenwoordiger van de Europese Commissie en de EU-gegevensbeschermingsautoriteit.

Misschien het meest verstrekkende en potentieel controversiële edict in de conceptversie is dat het systemen verbiedt die schade toebrengen aan EU-bevolkingen door ‘hun gedrag, meningen of beslissingen te manipuleren’, wat waarschijnlijk veel technologieën zou omvatten die de analyse van commerciële en politieke marketing mogelijk maken.

De regelgeving zal uitzonderingen maken voor de bestrijding van ernstige misdaad, waarbij het gebruik van gezichtsherkenningssystemen is toegestaan, binnen de grenzen van het gebruik en de duur van het gebruik.

Net als bij de brede reikwijdte van de AVG, lijkt het erop dat deze nieuwe regelgeving mogelijk een ‘verkoelend effect’ kan hebben in gebieden waar strikte richtlijnen voor het gebruik van AI niet worden verstrekt, waar bedrijven risico lopen als hun gebruik van machine learning valt binnen een potentieel grijs gebied binnen de regelgeving.

Vooringenomenheid onder de nieuwe EU-AI-regelgeving

Echter, de grootste uitdaging en mogelijke juridische moeras komt in de vorm van de bepaling in de conceptversie dat gegevenssets geen ‘opzettelijke of onopzettelijke vooringenomenheden’ mogen bevatten die discriminatie kunnen faciliteren.

Gegevensvooringenomenheid is een van de meest uitdagende aspecten bij de ontwikkeling van machine learning-systemen – moeilijk te bewijzen, moeilijk aan te pakken en diep verbonden met de centrale cultuur van gegevensverzamelende instanties. Het probleem zet particuliere en overheidsinstanties voor onderzoek in een tegenstroom tussen de behoefte om distincte groepen nauwkeurig te representeren (praktisch het oprichtingsdoel van computationele wiskunde en empirische statistische analyse) en het potentieel om raciale profilering en culturele demonisering te verspreiden, onder andere overwegingen.

Daarom is het waarschijnlijk dat niet-EU-markten hopen dat de nieuwe regelgeving ten minste enkele specifieke gebieden van richtlijnen en een reeks toepasbare definities op dit gebied zal bieden.

Externe weerstand tegen EU-AI-regelgeving

De nieuwe regelgeving zal waarschijnlijk een diepe impact hebben op de juridische implicaties van het gebruik van machine learning voor het analyseren van openbaar toegankelijke gegevens – evenals op dergelijke gegevens die nog steeds kunnen worden uitgeleend aan webgebruikers in de post-tracking-tijdperk die momenteel wordt ingevoerd door Apple, Firefox en (in mindere mate) Chrome.

Rechtsgebied kan duidelijk gedefinieerd moeten worden, bijvoorbeeld in gevallen waarin de FAANG-reuzen gebruikersgegevens verzamelen in overeenstemming met de AVG, maar deze gegevens verwerken via machine learning-systemen buiten de Europese Unie. Het is niet duidelijk of algoritmen die via dergelijke systemen zijn afgeleid, kunnen worden toegepast op platforms binnen de EU, en nog minder duidelijk hoe een dergelijke toepassing kan worden bewezen.

In het geval van het gebruik van AI om beslissingen over bewaring en vonnissen te informeren, een groeiende trend in de Verenigde Staten, zouden de sporadische experimenten van het VK in deze sector onder de nieuwe regelgeving vallen als het land niet uit de Europese Unie was gestapt.

In 2020 verklaarde een concept-memorandum van het Witte Huis over AI-regelgeving het Amerikaanse standpunt over lage regelgeving van AI, waarin werd gesteld dat ‘Federale agentschappen moeten regelgevende of niet-regelgevende acties vermijden die AI-innovatie en -groei onnodig belemmeren’. Dit standpunt lijkt waarschijnlijk te overleven onder het Trump-bewind, waarin het memorandum werd gepubliceerd, maar weerspiegelt eerder de komende wrijving tussen de VS en de EU na de nieuwe regelgeving.

Evenzo uit het ‘AI-Roadmap’ van de UK AI Council grote enthousiasme voor de economische voordelen van AI-adoptie, maar een algemene bezorgdheid dat nieuwe regelgevingen de vooruitgang niet mogen belemmeren.

De eerste echte wet voor AI

De toewijding van de EU aan een juridisch standpunt over AI is innovatief. De afgelopen tien jaar hebben een storm van white papers en voorlopige commissiebevindingen en aanbevelingen van overheden over de hele wereld gezien, met een focus op de ethiek van AI, met weinig echte wetten die zijn aangenomen.

Geografische verdeling van uitgevers van ethische AI-richtlijnen per aantal gepubliceerde documenten, in een onderzoek uit 2019. De hoogste aantal ethische richtlijnen zijn gepubliceerd in de Verenigde Staten en binnen de Europese Unie, gevolgd door het Verenigd Koninkrijk en Japan. Canada, IJsland, Noorwegen, de Verenigde Arabische Emiraten, India, Singapore, Zuid-Korea, Australië zijn vertegenwoordigd met 1 document elk. Na bijdragen aan een specifieke G7-verklaring, worden de lidstaten van de G7-landen afzonderlijk benadrukt. Bron: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Verder lezen

Nationale AI-beleid en -strategieën (OESO)