NSFおよびAmazonグランット：NYUでのAI支援の意思決定における偏見を減らすための研究を支援

ニューヨーク大学の研究者チームは、都市の住宅検査、警察、裁判所などの分野で、システム的な偏見を最小限に抑え、より公平な公共政策の影響を生み出すことを目的とした新しい方法とツールを開発します。

国立科学財団（NSF）とAmazon (AMZN ) からの100万ドルのグランットの下、コンピューターサイエンス教授のDaniel B. Neillが、都市の公共部門組織における人工知能（AI）の使用の増加を中心とした3年の研究プロジェクトを率います。このプロジェクトには、偏見を評価および修正するためのオープンソースツールの作成も含まれます。

「人間の意思決定とアルゴリズムによる意思決定には、人種、性別、社会経済的な線での差異や不平等につながる可能性のあるシステム的な偏見がある」とNeillは述べています。Neillは、都市科学進歩センター（CUSP）およびNYUタンドン工学学校の教授でもあります。

「私たちが理解したいのは、アルゴリズムが人間の意思決定を強化することで、暗黙的な偏見を排除し、都市での政策介入を設計および実施する人々を支援する方法とツールを開発することです」とNeillは述べています。

プロジェクトチームは、アルゴリズムによる意思決定のリスクと利点を調査し、7つの段階（データ、モデル、予測、推奨、意思決定、影響、結果）からなる新しい「端末間の公平性パイプライン」を開発します。このパイプラインは、偏見の複数の源を考慮し、偏見が不平等な結果につながるようにパイプラインを通じてどのように伝播するかをモデル化し、測定できない偏見への感度を評価します。

次に、チームは、パイプラインの各段階で偏見を特定および修正するための一般的な方法論的フレームワークを構築します。さらに、人間の意思決定者（たとえば、公平性に向けたアルゴリズムによる「ナッジ」）に推奨事項を提供するアルゴリズムによる意思決定支援ツールを作成します。

最後に、プロジェクトチームは、刑事司法および住宅分野での偏見の存在と程度を測定するための新しい指標を作成し、次のツールを作成します：（a）公平な介入を司法に関与する人々に提供して投獄を減らす；（b）住宅検査と修理を優先する；（c）民事および刑事訴訟の公平性を評価および改善する；（d）不良な環境暴露（たとえば、低品質の住宅、不公平な警察の行為）の差別的な健康への影響を分析します。

「この研究の最終的な影響は、都市に住む人々や都市のサービスに依存する人々、または司法制度に関与する人々のための社会正義を促進することです。意思決定プロセスにおける偏見を評価および軽減し、差異を減らすことです」とNeillは述べています。Neillは、NYUのLearning for Good Laboratoryのディレクターでもあり、NYUのCourant Institute of Mathematical Sciencesの教員でもあります。

Neillに加えて、研究チームには、CUSPおよびNYUのSteinhardt School of Culture, Education, and Human Developmentの助教授であるRavi Shroff；NYUのMarron Institute of Urban Managementの教授であり、NYU Tandonの関連教員であるConstantine Kontokosta；およびミネソタ大学のCarlson School of Managementの教授であるEdward McFowland IIIが参加しています。

このグランットは、Amazonとの共同でAIの公平性に関するNSFプログラム（2040898）の一環として提供されました。