Wat de AI Bill of Rights van het Witte Huis betekent voor Amerika en de rest van de wereld

Het White House Office of Science and Technology Policy (OSTP) heeft onlangs een whitepaper uitgebracht met de titel “The Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People”. Dit kader is uitgebracht een jaar nadat OSTP de lancering aankondigde van een proces om “een rechtenverklaring voor een door AI aangedreven wereld” te ontwikkelen.

De inleiding in deze wetgeving illustreert duidelijk dat het Witte Huis de imminente bedreigingen voor de samenleving begrijpt die worden gevormd door AI. Dit is wat in de inleiding wordt gesteld:

“Onder de grote uitdagingen die tegenwoordig aan de democratie worden gesteld, is het gebruik van technologie, data en geautomatiseerde systemen op manieren die de rechten van het Amerikaanse publiek bedreigen. Te vaak worden deze instrumenten gebruikt om onze kansen te beperken en onze toegang tot kritieke middelen of diensten te voorkomen. Deze problemen zijn goed gedocumenteerd. In Amerika en over de hele wereld zijn systemen die bedoeld zijn om te helpen bij patiëntenzorg, onveilig, ineffectief of bevooroordeeld gebleken. Algoritmes die worden gebruikt bij het nemen van beslissingen over het aannemen van personeel en krediet zijn gebleken bevooroordeeld te zijn of nieuwe schadelijke vooroordelen en discriminatie te bevorderen. Ongecontroleerde verzameling van socialemediadata is gebruikt om mensen te bedreigen, hun privacy te schenden of hun activiteiten op een obsessieve manier te volgen – vaak zonder hun kennis of toestemming.”

Wat deze Bill of Rights en het door haar voorgestelde kader zal betekenen voor de toekomst van AI, moet nog worden gezien. Wat we wel weten, is dat nieuwe ontwikkelingen met een exponentiële snelheid naar voren komen. Wat eens onmogelijk leek, instantane vertaling van talen is nu een realiteit, en tegelijkertijd hebben we een revolutie in het begrijpen van natuurlijke taal (NLU) die wordt geleid door OpenAI en hun beroemde platform GPT-3.

Sindsdien hebben we instantgeneratie van afbeeldingen via een techniek genaamd Stable Diffusion gezien, die mogelijk snel een mainstream consumentenproduct kan worden. In wezen kan een gebruiker met deze technologie eenvoudigweg elke vraag intoetsen die hij zich kan voorstellen, en zoals bij toverslag zal de AI een afbeelding genereren die overeenkomt met de vraag.

Wanneer we de exponentiële groei en de Wet van Versnellende Terugkeer in overweging nemen, zal er binnenkort een tijd komen waarin AI elk aspect van het dagelijks leven heeft overgenomen. De individuen en bedrijven die dit weten en profiteren van deze paradigmaswitch, zullen profiteren. Helaas kan een groot deel van de samenleving het slachtoffer worden van zowel kwaadwillige als onbedoelde gevolgen van AI.

De AI Bill of Rights is bedoeld om de ontwikkeling van beleid en praktijken te ondersteunen die burgerrechten beschermen en democratische waarden bevorderen bij de bouw, inzet en governance van geautomatiseerde systemen. Hoe deze wetgeving zich zal verhouden tot China’s aanpak, moet nog worden gezien, maar het is een rechtenverklaring die het potentieel heeft om het AI-landschap te veranderen, en het is waarschijnlijk dat deze zal worden overgenomen door bondgenoten zoals Australië, Canada en de EU.

Dat gezegd hebbende, is de AI Bill of Rights niet-bindend en vormt deze geen onderdeel van het Amerikaanse overheidsbeleid. Het gaat geen bestaande wet, regelgeving, beleid of internationaal instrument voorbij, wijzigt of interpreteert het op een andere manier. Wat dit betekent, is dat het aan ondernemingen en overheden is om zich te houden aan de in deze whitepaper uiteengezette beleid.

Deze wetgeving heeft vijf principes geïdentificeerd die de ontwerp, het gebruik en de inzet van geautomatiseerde systemen moeten leiden om het Amerikaanse publiek te beschermen in de leeftijd van kunstmatige intelligentie. Hieronder zullen we de 5 principes uiteenzetten:

1. Veilige en effectieve systemen

Er is een duidelijk en aanwezig gevaar voor de samenleving door misbruik van AI-systemen, met name die welke vertrouwen op diepe leerprocessen. Dit wordt geprobeerd te worden aangepakt met deze principes:

“U moet worden beschermd tegen onveilige of ineffectieve systemen. Geautomatiseerde systemen moeten worden ontwikkeld in overleg met diverse gemeenschappen, stakeholders en domeinexperts om zorgen, risico’s en potentiële gevolgen van het systeem te identificeren. Systemen moeten pre-deploymenttesting, risicoidentificatie en -mitigatie en voortdurende monitoring ondergaan die aantonen dat ze veilig en effectief zijn op basis van hun beoogd gebruik, mitigatie van onveilige resultaten, inclusief die buiten het beoogde gebruik, en naleving van domeinspecifieke normen. De resultaten van deze beschermingsmaatregelen moeten de mogelijkheid omvatten om het systeem niet te implementeren of te verwijderen uit gebruik. Geautomatiseerde systemen mogen niet worden ontworpen met de bedoeling of een redelijke voorzienbaarheid om uw veiligheid of die van uw gemeenschap in gevaar te brengen. Ze moeten worden ontworpen om proactief te beschermen tegen schade die voortvloeit uit onbedoelde, maar voorzienbare, gebruiken of gevolgen van geautomatiseerde systemen. U moet worden beschermd tegen ongepaste of irrelevante gegevensgebruik bij de ontwerp, ontwikkeling en inzet van geautomatiseerde systemen, en tegen de gecumuleerde schade van het hergebruik ervan. Onafhankelijke evaluatie en rapportage die bevestigt dat het systeem veilig en effectief is, inclusief rapportage van stappen die zijn genomen om potentiële schade te mitigeren, moet worden uitgevoerd en de resultaten moeten zo veel mogelijk openbaar worden gemaakt.”

2. Bescherming tegen algoritmische discriminatie

Deze beleidsmaatregelen richten zich op enkele van de olifanten in de kamer wanneer het gaat om ondernemingen die individuen misbruiken.

Een veelvoorkomend probleem bij het aannemen van personeel met behulp van AI-systemen is dat het diepe leerproces vaak getraind wordt op bevooroordeelde gegevens om conclusies over het aannemen te bereiken. Dit betekent in wezen dat slechte aannamepraktijken in het verleden zullen resulteren in discriminatie op basis van geslacht of ras door een aannameagent. Een onderzoek wees uit dat het moeilijk is om traininggegevens te ontdoen van geslacht.

Een ander kernprobleem met bevooroordeelde gegevens van overheden is het risico op onterechte gevangenneming, of erger algoritmes voor voorspelling van criminaliteit die langere gevangenisstraffen opleggen aan minderheden.

“U moet geen discriminatie ondervinden door algoritmes en systemen moeten op een eerlijke manier worden gebruikt en ontworpen. Algoritmische discriminatie treedt op wanneer geautomatiseerde systemen bijdragen tot ongerechtvaardigde verschillende behandeling of gevolgen die mensen benadelen op basis van hun ras, kleur, etniciteit, geslacht (inclusief zwangerschap, bevalling en verwante medische aandoeningen, genderidentiteit, interseksuele status en seksuele oriëntatie) religie, leeftijd, nationaliteit, handicap, veteranenstatus, genetische informatie of enige andere classificatie die door de wet wordt beschermd. Afhankelijk van de specifieke omstandigheden kan algoritmische discriminatie wettelijke bescherming schenden. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten proactieve en voortdurende maatregelen nemen om individuen en gemeenschappen te beschermen tegen algoritmische discriminatie en om systemen op een eerlijke manier te gebruiken en te ontwerpen. Deze bescherming moet inclusief proactieve gelijkheidsbeoordelingen als onderdeel van het systeemontwerp, gebruik van representatieve gegevens en bescherming tegen proxies voor demografische kenmerken, zorgen voor toegankelijkheid voor mensen met een handicap in ontwerp en ontwikkeling, pre-deployment en voortdurende dispariteitstesten en -mitigatie, en duidelijke organisatorische toezicht. Onafhankelijke evaluatie en rapportage in de vorm van een algoritmische impactbeoordeling, inclusief dispariteitstestresultaten en mitigatie-informatie, moet worden uitgevoerd en zo veel mogelijk openbaar worden gemaakt om deze beschermingen te bevestigen.”

3. Gegevensbescherming

Deze gegevensbeschermingsprincipe is degene die het meest waarschijnlijk het grootste deel van de bevolking zal beïnvloeden. Het eerste deel van de principe lijkt zich te richten op de verzameling van gegevens, met name op gegevens die via internet worden verzameld, een bekend probleem, vooral voor socialemediaplatforms. Deze gegevens kunnen vervolgens worden gebruikt om advertenties te verkopen, of erger om de publieke opinie te manipuleren en verkiezingen te beïnvloeden.

“U moet worden beschermd tegen misbruik van gegevens via ingebouwde beschermingen en u moet controle hebben over hoe gegevens over u worden gebruikt. U moet worden beschermd tegen schendingen van de privacy door ontwerpkeuzes die ervoor zorgen dat dergelijke beschermingen standaard worden ingebouwd, inclusief het waarborgen dat gegevensverzameling overeenkomt met redelijke verwachtingen, en dat alleen gegevens die strikt noodzakelijk zijn voor de specifieke context worden verzameld. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten uw toestemming vragen en uw beslissingen respecteren met betrekking tot de verzameling, het gebruik, de toegang, de overdracht en de verwijdering van uw gegevens op passende wijze en voor zover mogelijk; waar dit niet mogelijk is, moeten alternatieve privacy-by-design-maatregelen worden gebruikt. Systemen mogen geen gebruikerservaring en ontwerpbeslissingen gebruiken die de keuze van de gebruiker vertroebelen of de gebruiker belasten met standaardinstellingen die de privacy schenden. Toestemming mag alleen worden gebruikt om de verzameling van gegevens te rechtvaardigen in gevallen waarin deze op een passende en zinvolle manier kan worden gegeven. Alle verzoeken om toestemming moeten kort, in begrijpelijke taal zijn en u controle geven over gegevensverzameling en de specifieke context van gebruik; huidige moeilijk te begrijpen kennisgevings- en keuzepraktijken voor brede gebruiken van gegevens moeten worden gewijzigd.”

Het tweede deel van de Gegevensbeschermingsprincipe lijkt zich te richten op surveillance door zowel overheden als ondernemingen.

Ondernemingen zijn in staat om werknemers te monitoren en te bespioneren, in sommige gevallen kan dit zijn om de veiligheid op de werkplek te verbeteren, tijdens de COVID-19-pandemie was het om het dragen van mondkapjes af te dwingen, meestal gebeurt dit echter eenvoudigweg om de tijd die op het werk wordt doorgebracht te monitoren. In veel van deze gevallen voelen werknemers zich alsof ze worden gemonitord en gecontroleerd op een manier die niet acceptabel wordt geacht.

“Verhoogde bescherming en beperkingen voor gegevens en afleidingen met betrekking tot gevoelige domeinen, waaronder gezondheid, werk, onderwijs, strafrecht en financiën, en voor gegevens met betrekking tot jongeren, moeten u voorop stellen. In gevoelige domeinen mogen uw gegevens en verwante afleidingen alleen worden gebruikt voor noodzakelijke functies, en u moet worden beschermd door ethische beoordeling en gebruiksverboden. U en uw gemeenschappen moeten worden beschermd tegen ongecontroleerde surveillance; surveillancetechnologieën moeten worden onderworpen aan verhoogd toezicht dat ten minste een pre-deploymentbeoordeling van hun potentiële schade en scopebeperkingen omvat om de privacy en burgerlijke vrijheden te beschermen. Voortdurende surveillance en monitoring mogen niet worden gebruikt in onderwijs, werk, huisvesting of in andere contexten waarin het gebruik van dergelijke surveillancetechnologieën waarschijnlijk de rechten, kansen of toegang zal beperken. Waar mogelijk moet u toegang hebben tot rapportage die bevestigt dat uw gegevensbeslissingen zijn gerespecteerd en een beoordeling biedt van het potentiële effect van surveillancetechnologieën op uw rechten, kansen of toegang.”

Het moet worden opgemerkt dat AI kan worden gebruikt om goed te doen en de privacy van mensen te beschermen.

4. Kennisgeving en uitleg

Dit moet de oproep tot actie zijn voor ondernemingen om een AI-ethiekadviesraad in te zetten, evenals om de ontwikkeling van verklaarbare AI te versnellen. Verklaarbare AI is noodzakelijk in het geval dat een AI-model een fout maakt, het begrijpen van hoe de AI werkt maakt het gemakkelijk om een probleem te diagnosticeren.

Verklaarbare AI zal ook de transparante uitwisseling van informatie over hoe gegevens worden gebruikt en waarom een beslissing door AI is genomen, mogelijk maken. Zonder verklaarbare AI zal het onmogelijk zijn om te voldoen aan deze beleidsmaatregelen vanwege het blackboxprobleem van diepe leerprocessen.

Ondernemingen die zich richten op het verbeteren van deze systemen, zullen ook positieve voordelen ondervinden van het begrijpen van de nuances en complexiteiten achter de redenen waarom een diep leerproces een bepaalde beslissing heeft genomen.

“U moet weten dat een geautomatiseerd systeem wordt gebruikt en begrijpen hoe en waarom het bijdraagt aan resultaten die u beïnvloeden. Ontwerpers, ontwikkelaars en implementeerders van geautomatiseerde systemen moeten algemeen toegankelijke, eenvoudige taaldocumentatie bieden, inclusief duidelijke beschrijvingen van de algehele systeemwerking en de rol van automatisering, kennisgeving dat dergelijke systemen in gebruik zijn, de individu of organisatie die verantwoordelijk is voor het systeem, en uitleg van resultaten die duidelijk, tijdig en toegankelijk zijn. Dergelijke kennisgeving moet up-to-date worden gehouden en personen die door het systeem worden beïnvloed, moeten op de hoogte worden gesteld van significante wijzigingen in gebruikscase of sleutelfunctionaliteit. U moet weten hoe en waarom een resultaat dat u beïnvloedt, is bepaald door een geautomatiseerd systeem, inclusief wanneer het geautomatiseerde systeem niet de enige input is die het resultaat bepaalt. Geautomatiseerde systemen moeten uitleg bieden die technisch geldig, zinvol en nuttig is voor u en voor alle operators of anderen die het systeem moeten begrijpen, en afgestemd op het niveau van risico op basis van de inhoud. Rapportage die samenvattingsinformatie over deze geautomatiseerde systemen in eenvoudige taal en beoordelingen van de duidelijkheid en kwaliteit van de kennisgeving en uitleg bevat, moet zo veel mogelijk openbaar worden gemaakt.”

5. Menselijke alternatieven, overweging en terugval

In tegenstelling tot de meeste bovengenoemde principes, is deze principe het meest van toepassing op overheidsentiteiten of geprivatiseerde instellingen die namens de overheid werken.

Zelfs met een AI-ethiekadviesraad en verklaarbare AI is het belangrijk om terug te vallen op menselijke beoordeling wanneer levens op het spel staan. Er is altijd het potentieel voor fouten, en het hebben van een menselijke beoordeling van een zaak wanneer dit wordt aangevraagd, kan mogelijk een scenario voorkomen zoals een AI die de verkeerde mensen naar de gevangenis stuurt.

Het juridische en strafrechtelijke systeem hebben de meeste ruimte om onherstelbare schade toe te brengen aan gemarginaliseerde leden van de samenleving en moeten bijzondere aandacht besteden aan deze principe.

“U moet kunnen kiezen voor een opt-out, waar van toepassing, en toegang hebben tot een persoon die snel problemen kan overwegen en oplossen. U moet kunnen kiezen voor een opt-out van geautomatiseerde systemen ten gunste van een menselijk alternatief, waar van toepassing. Van toepassing moet worden bepaald op basis van redelijke verwachtingen in een bepaalde context en met een focus op het waarborgen van brede toegankelijkheid en het beschermen van het publiek tegen bijzonder schadelijke gevolgen. In sommige gevallen kan een menselijk of ander alternatief vereist zijn door de wet. U moet toegang hebben tot een tijdige menselijke beoordeling en oplossing door een terugval en escalatieprobleem als een geautomatiseerd systeem faalt, een fout produceert, of u wilt beroep aantekenen of de impact ervan op u betwisten. Menselijke beoordeling en terugval moeten toegankelijk, eerlijk, effectief, onderhouden, vergezeld gaan van passende operatorstraining en mogen geen onredelijke last opleggen aan het publiek. Geautomatiseerde systemen met een beoogd gebruik binnen gevoelige domeinen, waaronder, maar niet beperkt tot, strafrecht, werk, onderwijs en gezondheid, moeten bovendien worden aangepast aan het doel, bieden zinvolle toegang tot toezicht, omvatten training voor alle mensen die met het systeem interacteren, en menselijke beoordeling voor nadelige of risicovolle beslissingen incorporeren. Rapportage die een beschrijving van deze menselijke governanceprocessen en beoordeling van hun tijdigheid, toegankelijkheid, resultaten en effectiviteit bevat, moet zo veel mogelijk openbaar worden gemaakt.”

Samenvatting

De OSTP moet lof krijgen voor het proberen te introduceren van een kader dat de noodzakelijke veiligheidsprotocollen voor de samenleving verbindt, zonder ook draconische beleidsmaatregelen in te voeren die de vooruitgang in de ontwikkeling van machine learning zouden kunnen belemmeren.

Na het uiteenzetten van de principes, gaat de wetgeving verder met het bieden van een technische companion tot de kwesties die worden besproken, evenals gedetailleerde informatie over elk principe en de beste manieren om deze principes te implementeren.

Sleutelondernemers en ondernemingen moeten op de hoogte zijn van deze wetgeving, aangezien het alleen maar voordelig kan zijn om deze beleidsmaatregelen zo snel mogelijk te implementeren.

Verklaarbare AI zal blijven domineren in belang, zoals te zien is uit deze citaat uit de wetgeving.

“Binnen de hele federale overheid voeren agentschappen onderzoek uit en ondersteunen onderzoek naar verklaarbare AI-systemen. Het NIST voert fundamenteel onderzoek uit naar de verklaarbaarheid van AI-systemen. Een multidisciplinair team van onderzoekers streeft ernaar om meetmethoden en best practices te ontwikkelen om de implementatie van kernbeginselen van verklaarbare AI te ondersteunen. Het Defense Advanced Research Projects Agency heeft een programma voor Explainable Artificial Intelligence dat tot doel heeft om een reeks machine learning-technieken te creëren die meer verklaarbare modellen produceren, terwijl een hoog niveau van leerprestaties (voorspellingsnauwkeurigheid) wordt behouden, en gebruikers in staat stelt om het opkomende geslacht van kunstmatig intelligente partners te begrijpen, te vertrouwen en effectief te beheren. Het programma van de National Science Foundation voor Fairness in Artificial Intelligence omvat ook een speciaal belang in onderzoek naar de fundamenten van verklaarbare AI.”

Wat niet over het hoofd moet worden gezien, is dat de principes die hier worden uiteengezet, uiteindelijk de nieuwe standaard zullen worden.