Ethik
NSF- und Amazon-Grant unterstützt Forschung an der NYU, um Städten bei der Reduzierung von Vorurteilen in AI-gestützten Entscheidungsprozessen zu helfen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Ein Team von Forschern an der New York University wird neue Methoden und Werkzeuge entwickeln, um systemische Vorurteile zu minimieren und gleichberechtigte öffentliche Politikauswirkungen in Bereichen wie Stadtwohnungsinspektionen, Polizei und Gerichten zu erzielen.
Im Rahmen eines 1-Millionen-Dollar-Grants von der National Science Foundation (NSF) und Amazon (AMZN ) wird der Informatikprofessor Daniel B. Neill das dreijährige Forschungsprojekt leiten, das sich auf die zunehmende Verwendung von künstlicher Intelligenz (KI) durch städtische, öffentliche Organisationen konzentriert – eine Arbeit, die die Erstellung von Open-Source-Tools für die Bewertung und Korrektur von Vorurteilen beinhaltet.
“Menschliche Entscheidungen und algorithmische Entscheidungen haben das Potenzial für systemische Vorurteile, die zu schlechten Ergebnissen wie Ungleichheiten und Ungerechtigkeit entlang rassischer, geschlechtsspezifischer und sozioökonomischer Linien führen können”, sagte Neill, Mitglied der Fakultät des Center for Urban Science and Progress (CUSP) an der NYU Tandon School of Engineering und Professor an der Wagner Graduate School of Public Service.
“Was wir verstehen möchten, ist, wie Algorithmen menschliche Entscheidungen verbessern können, indem sie implizite Vorurteile eliminieren, und Methoden und Werkzeuge entwickeln, um denen zu helfen, die Politikinterventionen in Städten entwerfen und umsetzen.”
Bei der Untersuchung der Risiken und Vorteile algorithmischer Entscheidungsfindung wird das Projektteam eine neue, pipelinisierte Konzeption von Fairness entwickeln, die aus sieben verschiedenen Stufen besteht: Daten, Modelle, Vorhersagen, Empfehlungen, Entscheidungen, Auswirkungen und Ergebnisse. Diese “End-to-End-Fairness-Pipeline” wird mehrere Quellen von Vorurteilen berücksichtigen, modellieren, wie Vorurteile durch die Pipeline propagieren, um ungleiche Ergebnisse zu erzielen, und die Empfindlichkeit gegenüber ungemessenen Vorurteilen bewerten.
Zweitens wird das Team eine allgemeine methodologische Grundlage für die Identifizierung und Korrektur von Vorurteilen in jeder Phase der Pipeline entwickeln, eine Art Vorurteils-Scan, sowie algorithmische Entscheidungsunterstützungswerkzeuge, die Empfehlungen an menschliche Entscheidungsträger geben (wie algorithmische “Anstöße”, um menschliche Entscheidungen in Richtung Fairness zu lenken).
Schließlich wird das Projektteam neue Metriken für die Messung des Vorhandenseins und des Ausmaßes von Vorurteilen in den Bereichen Strafjustiz und Wohnungswesen entwickeln und Werkzeuge, die verwendet werden können, um: (a) die Inhaftierung durch gleichberechtigte Bereitstellung von unterstützenden Interventionen für mit der Justiz befasste Bevölkerungsgruppen zu reduzieren; (b) Wohnungsin spektionen und -reparaturen zu priorisieren; (c) die Fairness von zivilen und strafrechtlichen Gerichtsverfahren zu bewerten und zu verbessern; und (d) die unterschiedlichen Gesundheitsauswirkungen von ungünstigen Umweltexpositionen, einschließlich schlechter Wohnqualität und aggressiver, unfairer Polizeipraktiken, zu analysieren.
“Die letztendliche Auswirkung dieser Arbeit ist es, soziale Gerechtigkeit für diejenigen zu fördern, die in Städten leben und auf städtische Dienstleistungen angewiesen sind oder mit dem Justizsystem in Berührung kommen, indem Vorurteile in Entscheidungsprozessen bewertet und gemindert und Ungleichheiten reduziert werden”, sagte Neill, der auch der Direktor des Learning for Good Laboratory an der NYU und ein Fakultätsmitglied am Courant Institute of Mathematical Sciences ist.
Neben Neill gehören zum Forschungsteam Ravi Shroff, Assistant Professor am CUSP und der Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, Professor am Marron Institute of Urban Management und assoziiertes Fakultätsmitglied am NYU Tandon; und Edward McFowland III, Professor an der Carlson School of Management der University of Minnesota.
Der Grant wurde im Rahmen des NSF-Programms für Fairness in künstlicher Intelligenz in Zusammenarbeit mit Amazon (2040898) vergeben.
ta, ein Professor am NYU’s Marron Institute of Urban Management und assoziiertes Fakultätsmitglied am NYU Tandon; und Edward McFowland III, ein Professor an der University of Minnesota’s Carlson School of Management. Der Grant wurde im Rahmen des NSF-Programms für Fairness in künstlicher Intelligenz in Zusammenarbeit mit Amazon (2040898) vergeben.
