Wat de AI Bill of Rights van het Witte Huis betekent voor Amerika en de rest van de wereld

Het Witte Huis Office of Science and Technology Policy (OSTP) heeft onlangs een whitepaper uitgebracht met de titel “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Dit kader is uitgebracht een jaar nadat OSTP de lancering aankondigde van een proces om “een bill of rights voor een AI-gedreven wereld” te ontwikkelen.

De inleiding in deze wetgeving illustreert duidelijk dat het Witte Huis de imminente bedreigingen voor de samenleving die worden gevormd door AI begrijpt. Dit is wat in de inleiding wordt gesteld:

“Onder de grote uitdagingen die tegenwoordig aan de democratie worden gesteld, is het gebruik van technologie, data en geautomatiseerde systemen op manieren die de rechten van het Amerikaanse publiek bedreigen. Te vaak worden deze instrumenten gebruikt om onze kansen te beperken en onze toegang tot kritieke middelen of diensten te voorkomen. Deze problemen zijn goed gedocumenteerd. In Amerika en over de hele wereld hebben systemen die zijn ontworpen om te helpen bij patiëntenzorg, onveilig, ineffectief of bevooroordeeld gebleken. Algoritmes die worden gebruikt bij het aannemen van personeel en kredietbeslissingen zijn gevonden om bestaande ongewenste ongelijkheden te weerspiegelen of nieuwe schadelijke vooroordelen en discriminatie in te bedden. Ongecontroleerde socialemediagegevensverzameling is gebruikt om mensen kansen te bedreigen, hun privacy te ondermijnen of hun activiteit op een invasieve manier te volgen – vaak zonder hun kennis of toestemming.”

Wat deze Bill of Rights en het kader dat het voorstelt, zal betekenen voor de toekomst van AI, moet nog worden gezien. Wat we wel weten, is dat nieuwe ontwikkelingen met een exponentiële snelheid naar voren komen. Wat ooit onmogelijk leek, is nu een realiteit, en tegelijkertijd hebben we een revolutie in natuurlijke taalbegrip (NLU) die wordt geleid door OpenAI en hun beroemde platform GPT-3.

Sindsdien hebben we onmiddellijke generatie van afbeeldingen via een techniek genaamd Stable Diffusion gezien, die mogelijk snel een mainstream consumentenproduct kan worden. In wezen kan een gebruiker met deze technologie eenvoudigweg elke vraag intoetsen die hij kan verzinnen, en zoals bij toverslag zal de AI een afbeelding genereren die overeenkomt met de vraag.

Wanneer we exponentiële groei en de Wet van Versnellende Terugkeer in overweging nemen, zal er snel een tijd komen waarin AI elk aspect van het dagelijks leven heeft overgenomen. De individuen en bedrijven die dit weten en profiteren van deze paradigmaswitch, zullen winst maken. Helaas kan een groot deel van de samenleving het slachtoffer worden van zowel kwaadwillige als onbedoelde gevolgen van AI.

De AI Bill of Rights is bedoeld om de ontwikkeling van beleid en praktijken te ondersteunen die burgerrechten beschermen en democratische waarden bevorderen bij de bouw, implementatie en governance van geautomatiseerde systemen. Hoe deze wetgeving zich zal verhouden tot China’s aanpak moet nog worden gezien, maar het is een Bill of Rights die het potentieel heeft om het AI-landschap te veranderen en het is waarschijnlijk dat het zal worden overgenomen door bondgenoten zoals Australië, Canada en de EU.

Er moet echter worden opgemerkt dat de AI Bill of Rights niet bindend is en geen onderdeel vormt van het beleid van de Amerikaanse regering. Het wijzigt, verandert of interpreteert geen bestaande wet, regel, beleid of internationaal instrument. Wat dit betekent, is dat het aan ondernemingen en overheden is om zich te houden aan de beleidslijnen die in deze whitepaper zijn uiteengezet.

Deze wetgeving heeft vijf principes geïdentificeerd die de ontwerp, het gebruik en de implementatie van geautomatiseerde systemen moeten leiden om het Amerikaanse publiek te beschermen in de leeftijd van kunstmatige intelligentie. Hieronder zullen we deze 5 principes uiteenzetten:

1. Veilige en effectieve systemen

Er is een duidelijk en aanwezig gevaar voor de samenleving door misbruik van AI-systemen, met name die welke zijn gebaseerd op diepe leerprocessen. Dit wordt geprobeerd te worden aangepakt met deze principes:

“U moet worden beschermd tegen onveilige of ineffectieve systemen. Geautomatiseerde systemen moeten worden ontwikkeld in overleg met diverse gemeenschappen, stakeholders en domeinexperts om zorgen, risico’s en potentiële gevolgen van het systeem te identificeren. Systemen moeten voorafgaand aan de implementatie worden getest, risico’s worden geïdentificeerd en geminimaliseerd, en voortdurend worden gemonitord om aan te tonen dat ze veilig en effectief zijn op basis van hun beoogd gebruik, minimalisering van onveilige resultaten, inclusief die buiten het beoogde gebruik, en naleving van domeinspecifieke normen. De resultaten van deze beschermingsmaatregelen moeten de mogelijkheid omvatten om het systeem niet te implementeren of te verwijderen uit gebruik. Geautomatiseerde systemen mogen niet worden ontworpen met de intentie of een redelijke voorzienbaarheid om uw veiligheid of de veiligheid van uw gemeenschap in gevaar te brengen. Ze moeten worden ontworpen om proactief te beschermen tegen schade die voortkomt uit onbedoelde, maar voorzienbare, gebruiken of gevolgen van geautomatiseerde systemen. U moet worden beschermd tegen ongepaste of irrelevante gegevensgebruik in de ontwerp, ontwikkeling en implementatie van geautomatiseerde systemen, en tegen de gecumuleerde schade van hun hergebruik. Onafhankelijke evaluatie en rapportage die bevestigt dat het systeem veilig en effectief is, inclusief rapportage van de stappen die zijn genomen om potentiële schade te minimaliseren, moet worden uitgevoerd en de resultaten moeten zo veel mogelijk openbaar worden gemaakt.”

2. Bescherming tegen algoritme-discriminatie

Deze beleidslijnen behandelen enkele van de olifanten in de kamer wanneer het gaat om ondernemingen die individuen misbruiken.

Een veelvoorkomend probleem bij het aannemen van personeel met behulp van AI-systemen is dat het diepe leerproces vaak getraind wordt op bevooroordeelde gegevens om aanname-conclusies te bereiken. Dit betekent in wezen dat slechte aannamepraktijken in het verleden zullen resulteren in geslacht- of raciale discriminatie door een aanname-agent. Een studie wees op de moeilijkheid om te proberen de traininggegevens te ontgenderen.

Een ander kernprobleem met bevooroordeelde gegevens van overheden is het risico op onterechte gevangenneming, of zelfs algoritmes voor de voorspelling van criminaliteit die langere gevangenisstraffen opleggen aan minderheden.

“U moet niet worden gediscrimineerd door algoritmes en systemen moeten worden gebruikt en ontworpen op een eerlijke manier. Algoritmische discriminatie treedt op wanneer geautomatiseerde systemen bijdragen aan ongerechtvaardigde verschillende behandeling of gevolgen die mensen benadelen op basis van hun ras, kleur, etniciteit, geslacht (inclusief zwangerschap, bevalling en verwante medische aandoeningen, geslachtsidentiteit, interseksstatus en seksuele oriëntatie) godsdienst, leeftijd, nationaliteit, handicap, veteranenstatus, genetische informatie of enige andere classificatie die wordt beschermd door de wet. Afhankelijk van de specifieke omstandigheden, kan algoritmische discriminatie wettelijke bescherming schenden. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten proactieve en continue maatregelen nemen om individuen en gemeenschappen te beschermen tegen algoritmische discriminatie en om systemen te gebruiken en te ontwerpen op een eerlijke manier. Deze bescherming moet inclusief proactieve gelijkheidsbeoordelingen als onderdeel van het systeemontwerp, gebruik van representatieve gegevens en bescherming tegen proxies voor demografische kenmerken, zorgen voor toegankelijkheid voor mensen met een handicap in ontwerp en ontwikkeling, voorafgaand aan de implementatie en voortdurend ongelijkheidstesten en -mitigatie, en duidelijke organisatorische toezicht. Onafhankelijke evaluatie en rapportage in de vorm van een algoritmische impactbeoordeling, inclusief resultaten van ongelijkheidstesten en -mitigatie, moet worden uitgevoerd en zo veel mogelijk openbaar worden gemaakt om deze beschermingen te bevestigen.”

Het moet worden opgemerkt dat de VS een zeer transparante aanpak heeft gekozen met betrekking tot AI, deze zijn beleidslijnen die zijn ontworpen om het algemene publiek te beschermen, een duidelijk contrast met de AI-aanpak van China.

3. Gegevensbescherming

Deze gegevensbeschermingsprincipe is degene die het meest waarschijnlijk het grootste deel van de bevolking zal beïnvloeden. Het eerste deel van het principe lijkt zich te concentreren op de verzameling van gegevens, met name met gegevens die via internet zijn verzameld, een bekend probleem, vooral voor socialemediaplatforms. Deze gegevens kunnen vervolgens worden gebruikt om advertenties te verkopen, of erger, om de openbare mening te manipuleren en verkiezingen te beïnvloeden.

“U moet worden beschermd tegen misbruik van gegevenspraktijken via ingebouwde beschermingen en u moet controle hebben over hoe gegevens over u worden gebruikt. U moet worden beschermd tegen schendingen van de privacy door ontwerpkeuzes die dergelijke beschermingen standaard opnemen, waaronder het waarborgen dat gegevensverzameling voldoet aan redelijke verwachtingen, en dat alleen gegevens die strikt noodzakelijk zijn voor de specifieke context worden verzameld. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten uw toestemming vragen en uw beslissingen respecteren met betrekking tot de verzameling, het gebruik, de toegang, de overdracht en de verwijdering van uw gegevens op passende wijze en voor zover mogelijk; waar dit niet mogelijk is, moeten alternatieve privacy-by-design-maatregelen worden gebruikt. Systemen mogen geen gebruikerservaring en ontwerpbeslissingen hanteren die de gebruikerskeuze verhullen of de gebruikers belasten met standaardinstellingen die privacy-invasief zijn. Toestemming mag alleen worden gebruikt om de verzameling van gegevens te rechtvaardigen in gevallen waarin deze op een passende en zinvolle manier kan worden gegeven. Alle verzoeken om toestemming moeten kort zijn, in eenvoudige taal zijn en u controle geven over gegevensverzameling en het specifieke gebruik.”

Het tweede deel van het principe van gegevensbescherming lijkt zich te concentreren op surveillance door zowel overheden als ondernemingen.

Op dit moment kunnen ondernemingen werknemers controleren en bespioneren, in sommige gevallen kan dit zijn om de veiligheid op de werkplek te verbeteren, tijdens de COVID-19-pandemie was het om het dragen van mondkapjes af te dwingen, meestal is het gewoon om te controleren hoe de tijd op het werk wordt besteed. In veel van deze gevallen voelen werknemers zich alsof ze worden gecontroleerd en gemanipuleerd op een manier die niet acceptabel is.

“Verhoogde beschermingen en beperkingen voor gegevens en afleidingen met betrekking tot gevoelige domeinen, waaronder gezondheid, werk, onderwijs, strafrecht en financiën, en voor gegevens met betrekking tot jongeren, moeten u voorop stellen. In gevoelige domeinen mogen uw gegevens en afleidingen alleen worden gebruikt voor noodzakelijke functies, en u moet worden beschermd door ethische beoordeling en gebruikverboden. U en uw gemeenschappen moeten worden beschermd tegen ongecontroleerde surveillance; surveillancetechnologieën moeten worden onderworpen aan verhoogd toezicht dat ten minste een voorafgaande beoordeling van hun potentiële schade en scopebeperkingen omvat om de privacy en burgerrechten te beschermen. Continue surveillance en monitoring mogen niet worden gebruikt in onderwijs, werk, huisvesting of in andere contexten waarin het gebruik van dergelijke surveillancetechnologieën waarschijnlijk de rechten, kansen of toegang zal beperken. Waar mogelijk moet u toegang hebben tot rapportage die bevestigt dat uw gegevensbeslissingen zijn gerespecteerd en een beoordeling biedt van de potentiële impact van surveillancetechnologieën op uw rechten, kansen of toegang.”

Het moet worden opgemerkt dat AI kan worden gebruikt om de privacy van mensen te beschermen.

4. Kennisgeving en uitleg

Dit moet de oproep tot actie zijn voor ondernemingen om een AI-ethiekadviesraad in te stellen, evenals om de ontwikkeling van verklaarbare AI te versnellen. Verklaarbare AI is noodzakelijk in het geval dat een AI-model een fout maakt, het begrijpen van hoe de AI werkt maakt het gemakkelijk om een probleem te diagnosticeren.

Verklaarbare AI zal ook de transparante deling van informatie over hoe gegevens worden gebruikt en waarom een beslissing door AI is genomen, mogelijk maken. Zonder verklaarbare AI zal het onmogelijk zijn om aan deze beleidslijnen te voldoen vanwege het blackbox-probleem van diepe leerprocessen.

Ondernemingen die zich richten op het verbeteren van deze systemen, zullen ook positieve voordelen ondervinden van het begrijpen van de nuances en complexiteiten achter de redenen waarom een diep leerproces een specifieke beslissing heeft genomen.

“U moet weten dat een geautomatiseerd systeem wordt gebruikt en begrijpen hoe en waarom het bijdraagt aan resultaten die u beïnvloeden. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten algemeen toegankelijke, eenvoudige taaldocumentatie bieden, waaronder duidelijke beschrijvingen van de algehele systeemwerking en de rol van automatisering, kennisgeving dat dergelijke systemen in gebruik zijn, de individu of organisatie die verantwoordelijk is voor het systeem, en uitleg van resultaten die duidelijk, tijdig en toegankelijk zijn. Dergelijke kennisgeving moet up-to-date worden gehouden en personen die door het systeem worden beïnvloed, moeten worden geïnformeerd over significante wijzigingen in het gebruik of de belangrijkste functionaliteit. U moet weten hoe en waarom een resultaat dat u beïnvloedt, is bepaald door een geautomatiseerd systeem, inclusief wanneer het geautomatiseerde systeem niet de enige invoer is die het resultaat bepaalt. Geautomatiseerde systemen moeten uitleg bieden die technisch geldig, zinvol en nuttig voor u zijn en voor alle operators of anderen die het systeem moeten begrijpen, en afgestemd op het niveau van risico op basis van de inhoud. Rapportage die samenvattingsinformatie over deze geautomatiseerde systemen in eenvoudige taal en beoordelingen van de duidelijkheid en kwaliteit van de kennisgeving en uitleg bevat, moet zo veel mogelijk openbaar worden gemaakt.”

5. Menselijke alternatieven, overweging en terugval

In tegenstelling tot de meeste bovengenoemde principes, is dit principe het meest van toepassing op overheidsentiteiten of geprivatiseerde instellingen die namens de overheid werken.

Selfs met een AI-ethiekraad en verklaarbare AI is het belangrijk om terug te vallen op menselijke beoordeling wanneer levens op het spel staan. Er is altijd het potentieel voor fouten, en het hebben van een menselijke beoordeling van een zaak wanneer dit wordt aangevraagd, kan een scenario zoals een AI die de verkeerde mensen naar de gevangenis stuurt, mogelijk voorkomen.

Het juridische en strafrechtelijke systeem hebben de meeste ruimte om onherstelbare schade toe te brengen aan gemarginaliseerde leden van de samenleving en moeten speciale aandacht besteden aan dit principe.

“U moet de mogelijkheid hebben om uit te schakelen, waar passend, en toegang hebben tot een persoon die snel problemen kan overwegen en verhelpen. U moet de mogelijkheid hebben om uit te schakelen van geautomatiseerde systemen ten gunste van een menselijk alternatief, waar passend. Passendheid moet worden bepaald op basis van redelijke verwachtingen in een bepaalde context en met een focus op het waarborgen van brede toegankelijkheid en het beschermen van het publiek tegen bijzonder schadelijke gevolgen. In sommige gevallen kan een menselijk of ander alternatief vereist zijn door de wet. U moet toegang hebben tot een tijdige menselijke overweging en verhelping door een terugval en escalatieprobleem als een geautomatiseerd systeem faalt, een fout produceert, of u wilt beroep aantekenen tegen of de impact ervan op u betwisten. Menselijke overweging en terugval moeten toegankelijk, eerlijk, effectief, onderhouden, vergezeld gaan van passende operatorstraining en mogen geen onredelijke last opleggen aan het publiek. Geautomatiseerde systemen met een beoogd gebruik binnen gevoelige domeinen, waaronder, maar niet beperkt tot, strafrecht, werk, onderwijs en gezondheid, moeten bovendien worden aangepast aan het doel, bieden zinvolle toegang tot toezicht, operatorstraining voor mensen die met het systeem omgaan, en menselijke overweging voor nadelige of hoge-risicobeslissingen. Rapportage die een beschrijving bevat van deze menselijke governanceprocessen en een beoordeling van hun tijdigheid, toegankelijkheid, resultaten en effectiviteit, moet zo veel mogelijk openbaar worden gemaakt.”

Samenvatting

Het OSTP moet krediet krijgen voor het proberen om een kader te introduceren dat de veiligheidsprotocollen die nodig zijn voor de samenleving, zonder ook draconische beleidslijnen in te voeren die de vooruitgang in de ontwikkeling van machine learning zouden kunnen belemmeren.

Nadat de principes zijn uiteengezet, gaat de wetgeving verder met het bieden van een technisch companion tot de kwesties die worden besproken, evenals gedetailleerde informatie over elk principe en de beste manieren om deze principes te implementeren.

Slimme ondernemers en ondernemingen moeten opmerkzaam zijn op deze wetgeving, aangezien het alleen maar voordelig kan zijn om deze beleidslijnen zo snel mogelijk te implementeren.

Verklaarbare AI zal blijven domineren in belang, zoals te zien is in deze quote uit de wetgeving.

“Binnen de federale overheid voeren agentschappen onderzoek uit en ondersteunen onderzoek naar verklaarbare AI-systemen. Het NIST voert fundamenteel onderzoek uit naar de verklaarbaarheid van AI-systemen. Een multidisciplinair team van onderzoekers streeft ernaar om meetmethoden en beste praktijken te ontwikkelen om de implementatie van de kernbeginselen van verklaarbare AI te ondersteunen. Het Defense Advanced Research Projects Agency heeft een programma voor Verklaarbare Kunstmatige Intelligentie dat erop gericht is om een reeks machine learning-technieken te creëren die meer verklaarbare modellen produceren, terwijl een hoog niveau van leerprestaties (voorspellingsnauwkeurigheid) wordt behouden, en menselijke gebruikers in staat stelt om de opkomende generatie van kunstmatig intelligente partners te begrijpen, te vertrouwen en effectief te beheren. Het programma van de National Science Foundation over Fairness in Artificial Intelligence omvat een specifiek belang in onderzoeksgrondslagen voor verklaarbare AI.”

Het moet niet worden over het hoofd gezien dat de principes die hier zijn uiteengezet, uiteindelijk de nieuwe standaard zullen worden.