Regelgeving
EU gaat eerste AI-regels lanceren
Op 21 april zal de Europese Unie haar eerste regelgevingskader aankondigen voor het gebruik van kunstmatige intelligentie. De nieuwe regels zullen ‘hoge-risico’ machine learning-systemen volledig verbieden en minimumnormen introduceren voor andere machine learning-technologieën, met boetes van € 20 miljoen, of 4% van de omzet van het bedrijf, voor overtredingen.
Een conceptversie van de nieuwe wet, verkregen door Politico, zou moeten bevorderen dat innovatie en ontwikkeling van AI-systemen ten goede komen aan de algemene economie en samenleving van de EU, op gebieden zoals productie, verbeterde energie-efficiëntie en klimaatmodellering; maar het zou het gebruik van machine learning in creditscoring-systemen, geautomatiseerde beoordeling van straffen en de beoordeling van de geschiktheid voor sociale zekerheidsuitkeringen en asiel- of visumaanvragen verbieden, evenals andere verboden die later bekend zullen worden gemaakt.
Het conceptverlag expliciet dat Chinees-achtige sociale scoresystemen voor individuen en bedrijven in strijd zijn met de waarden van de Europese Unie en verboden zullen worden onder de regelgeving, evenals ‘massasurveillance’-technologieën die worden aangedreven door AI.
Regelgevings-toezicht
Na de aanstelling van een High-level expertgroep voor kunstmatige intelligentie in maart 2021, heeft de EU ook de intentie om een nieuwe Europese Artificial Intelligence Board in te stellen, met elk lidstaat vertegenwoordigd, evenals een vertegenwoordiger van de Europese Commissie en de EU-gegevensbeschermingsautoriteit.
Misschien wel de meest verstrekkende en potentieel controversiële edict in het concept is dat het systemen verbiedt die schade toebrengen aan EU-bevolkingen door ‘hun gedrag, meningen of beslissingen te manipuleren’, wat waarschijnlijk veel technologieën zou omvatten die de analyse van commerciële en politieke marketing mogelijk maken.
De regels zullen uitzonderingen maken voor het bestrijden van ernstige criminaliteit, waarbij het gebruik van gezichtsherkenningssystemen is toegestaan, binnen de grenzen van het gebruik en de duur van het gebruik.
Net als bij de brede aanpak van de AVG, lijkt het erop dat deze nieuwe regels te algemeen kunnen zijn om een ‘verkoelend effect’ te veroorzaken in gebieden waar strikte richtlijnen voor het gebruik van AI niet worden verstrekt, waardoor bedrijven worden blootgesteld aan risico’s waar hun gebruik van machine learning valt in een potentieel grijs gebied binnen de regels.
Vooringenomenheid onder de nieuwe EU AI-regels
Echter, de grootste uitdaging en mogelijke juridische moeras komt in de vorm van de bepaling in het concept dat datasets geen ‘opzettelijke of onopzettelijke vooringenomenheden’ mogen bevatten die discriminatie kunnen faciliteren.
Data-bias is een van de meest uitdagende aspecten bij de ontwikkeling van machine learning-systemen – moeilijk te bewijzen, moeilijk aan te pakken en diep verbonden met de centrale cultuur van gegevensverzamelaars. Het probleem zet particuliere en overheidsinstanties steeds vaker in een tegenstrijdige positie tussen de behoefte om verschillende groepen nauwkeurig te representeren (praktisch het oprichtingsdoel van computationele wiskunde en empirische statistische analyse) en het potentieel om raciale profilering en culturele demonisering te verspreiden, onder andere overwegingen.
Daarom is het waarschijnlijk dat niet-EU-markten hopen dat de nieuwe regelgeving ten minste enkele specifieke gebieden van richtlijnen zal bieden en een reeks van toepasbare definities op dit gebied.
Externe weerstand tegen EU AI-regulering
De nieuwe regelgeving zal waarschijnlijk een diepe impact hebben op de juridische implicaties van het gebruik van machine learning om openbare gegevens te analyseren – evenals op dergelijke gegevens die nog steeds kunnen worden geëxtraheerd uit webgebruikers in de post-tracking-tijdperk die momenteel wordt ingevoerd door Apple, Firefox en (in mindere mate) Chrome.
Rechtsgebied moet duidelijk worden gedefinieerd, bijvoorbeeld in gevallen waarin de FAANG-reuzen gebruikersgegevens verzamelen in overeenstemming met de AVG, maar deze gegevens verwerken via machine learning-systemen buiten de Europese Unie. Het is niet duidelijk of algoritmen die via dergelijke systemen zijn afgeleid, kunnen worden toegepast op platforms binnen de EU, en nog minder duidelijk hoe een dergelijke toepassing kan worden bewezen.
In het geval van het gebruik van AI om beslissingen over hechtenis en vonnissen te informeren, een groeiende trend in de Verenigde Staten, zouden de eigen experimenten van het VK in deze sector onder de nieuwe regels zijn gevallen als het land niet uit de Europese Unie was gestapt.
In 2020 verklaarde een concept-memorandum van het Witte Huis over AI-regulering het Amerikaanse standpunt over lage regulering van AI, waarin werd gesteld dat ‘Federale agentschappen moeten regulatorische of niet-regulatorische acties vermijden die AI-innovatie en -groei onnodig belemmeren’. Dit standpunt lijkt waarschijnlijk te overleven onder het Trump-beleid, waarin het memorandum werd gepubliceerd, maar weerspiegelt eerder de komende wrijving tussen de VS en de EU na de nieuwe regelgeving.
Soortgelijk, ‘AI Roadmap’ van de UK AI Council uit het enthousiasme voor de economische voordelen van AI-adoptie, maar een algemene bezorgdheid dat nieuwe regels niet mogen worden toegestaan om deze vooruitgang te belemmeren.
De eerste echte wet voor AI
De toewijding van de EU aan een juridisch standpunt over AI is innovatief. De afgelopen tien jaar zijn gekenmerkt door een blizzard van white papers en voorlopige commissiebevindingen en aanbevelingen van overheden over de hele wereld, met een focus op de ethiek van AI, met weinig echte wetten die zijn aangenomen.
Geografische verdeling van uitgevers van ethische AI-richtlijnen per aantal gepubliceerde documenten, in een enquête uit 2019. De meeste ethische richtlijnen zijn gepubliceerd in de Verenigde Staten en binnen de Europese Unie, gevolgd door het Verenigd Koninkrijk en Japan. Canada, IJsland, Noorwegen, de Verenigde Arabische Emiraten, India, Singapore, Zuid-Korea, Australië zijn vertegenwoordigd met 1 document elk. Na het bijdragen aan een specifieke G7-verklaring zijn de lidstaten van G7-landen afzonderlijk gemarkeerd. Bron: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Verder lezen
