Ethiek
NSF & Amazon Grant Ondersteunt Onderzoek aan NYU om Steden te Helpen Bij het Verminderen van Vooroordelen in AI-Ondersteunde Besluitvorming
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Een team van onderzoekers aan de New York University zal nieuwe methoden en tools ontwikkelen om systemische vooroordelen te minimaliseren en een meer eerlijke openbare beleidsimpact te produceren op gebieden zoals stedelijke huisinspecties, politie en rechtbanken.
Onder een subsidie van 1 miljoen dollar van de National Science Foundation (NSF) en Amazon (AMZN ), zal professor Daniel B. Neill het driejarige onderzoeksproject leiden, dat zich richt op het groeiende gebruik van kunstmatige intelligentie (AI) door stedelijke, publieke sectororganisaties – werk dat de creatie van open-source tools voor het beoordelen en corrigeren van vooroordelen zal omvatten.
“Menselijke beslissingen en algoritmische beslissingen hebben het potentieel voor systemische vooroordelen die kunnen leiden tot slechte downstream resultaten, zoals ongelijkheden en ongelijkheid over raciale, geslachts- en socio-economische lijnen,” zei Neill, een lid van de faculteit van het Center for Urban Science and Progress (CUSP) aan de NYU Tandon School of Engineering, en professor aan de Wagner Graduate School of Public Service.
“Wat we willen begrijpen, is hoe algoritmen menselijke beslissingen kunnen verbeteren door impliciete vooroordelen te elimineren, en methoden en tools te ontwikkelen om te helpen bij het ontwerpen en implementeren van beleidsinterventies in steden.”
Bij het onderzoeken van zowel de risico’s als de voordelen van algoritmische beslissingen, zal het projectteam een nieuwe, gepipelijnde conceptualisatie van eerlijkheid ontwikkelen, bestaande uit zeven distincte stadia: data, modellen, voorspellingen, aanbevelingen, beslissingen, impact en resultaten. Deze “end-to-end eerlijkheidspijplijn” zal rekening houden met meerdere bronnen van vooroordelen, modelleren hoe vooroordelen zich door de pijplijn verspreiden en leiden tot ongelijke resultaten, en de gevoeligheid voor ongemeten vooroordelen beoordelen.
Ten tweede zal het team een algemene methodologische kader ontwikkelen voor het identificeren en corrigeren van vooroordelen op elk stadium van de pijplijn, een soort vooroordeelsscan, evenals algoritmische beslissingsondersteunende tools die aanbevelingen geven aan een menselijke beslissingsnemer (zoals algoritmische “nudges” om menselijke beslissingen naar eerlijkheid te leiden).
Ten slotte zal het projectteam nieuwe metrics creëren voor het meten van de aanwezigheid en omvang van vooroordelen in de strafrechtelijke en huisvestingsdomeinen, en de tools die kunnen worden gebruikt om: (a) het aantal gevangenen te verminderen door eerlijk ondersteunende interventies te bieden aan justitie-betrokken populaties; (b) prioriteit te geven aan huisinspecties en reparaties; (c) de eerlijkheid van civiele en strafrechtelijke rechtszaken te beoordelen en te verbeteren; en (d) de uiteenlopende gezondheidsimpact van nadelige milieueffecten, waaronder slechte huisvesting en agressieve, oneerlijke politiepraktijken, te analyseren.
“De uiteindelijke impact van dit werk is om sociale rechtvaardigheid te bevorderen voor degenen die in steden wonen en die afhankelijk zijn van stedelijke diensten of betrokken zijn bij het justitiesysteem, door vooroordelen in beslissingsprocessen te beoordelen en te mitigeren en ongelijkheden te verminderen,” zei Neill, eveneens de directeur van het Learning for Good Laboratory van NYU en een faculteitslid van het Courant Institute of Mathematical Sciences van NYU.
Naast Neill maakt het onderzoeksteam deel uit van Ravi Shroff, een assistent-professor aan CUSP en de Steinhardt School of Culture, Education, and Human Development van NYU; Constantine Kontokosta, een professor aan het Marron Institute of Urban Management van NYU en aangesloten faculteitslid van NYU Tandon; en Edward McFowland III, een professor aan de Carlson School of Management van de University of Minnesota.
De subsidie werd verleend onder het NSF-programma voor Eerlijkheid in Kunstmatige Intelligentie in Samenwerking met Amazon (2040898).
ta, een professor aan NYU’s Marron Institute of Urban Management en aangesloten faculteitslid van NYU Tandon; en Edward McFowland III, een professor aan de University of Minnesota’s Carlson School of Management. De subsidie werd verleend onder het NSF-programma voor Eerlijkheid in Kunstmatige Intelligentie in Samenwerking met Amazon (2040898).
