マシンラーニングの長年の前提を研究者が挑戦

カーネギーメロン大学の研究者は、公共の政策決定に使用されるアルゴリズムで精度と公平性のトレードオフがあるという、長年にわたるマシンラーニングの前提に挑戦しています。

マシンラーニングの使用は、刑事司法、採用、医療の提供、社会サービス介入などの多くの分野で増加しています。この成長とともに、これらの新しいアプリケーションが既存の不平等を悪化させる可能性についての懸念も増大しています。これらは、特に人種的少数派または経済的に不利な個人のために特に有害となる可能性があります。

システムの調整

データ、ラベル、モデルトレーニング、スコアリングシステム、その他のシステムの側面に対して、常に調整が行われています。ただし、理論的な前提は、調整が増えるにつれてシステムの精度が低くなるというものでした。

CMUのチームは、新しい研究でこの理論に挑戦しました。この研究は、Nature Machine Intelligenceに掲載されています。

レイド・ガーニーは、コンピューターサイエンス学部のマシンラーニング部門（MLD）とヘインツ・カレッジ・オブ・インフォメーション・システムズ・アンド・パブリック・ポリシーの教授です。彼は、MLDの研究科学者であるキット・ロドルファと、SCSのポスドク研究者であるヘマンク・ランバと共同で研究しました。

現実世界のアプリケーションのテスト

研究者は、この前提を現実世界のアプリケーションでテストしました。彼らが見つけたのは、多くの政策分野でトレードオフがほとんどないということです。

「実際には、両方を得ることができます。精度を犠牲にして、公平で公正なシステムを構築する必要はありません」とガーニーは述べました。「しかし、公平で公正なシステムを意図的に設計する必要があります。オフ・ザ・シェルフのシステムでは機能しません」。

チームは、需要のあるリソースが限られている状況に焦点を当てました。これらのリソースの割り当ては、マシンラーニングによって支援されます。

彼らは、4つの分野のシステムに焦点を当てました：

• 再犯のリスクが高い人を優先して、精神保健ケアのアウトリーチを制限すること;
• 深刻な安全違反を予測して、都市の限られた住宅検査官をより効果的に配備すること;
• 学生が高校を卒業するまでに必要なサポートを特定するために、学生が卒業しないリスクをモデル化すること;
• 教師がクラスルームのニーズのためにクラウドファンディングの目標を達成するのを支援すること。

研究者は、精度を最適化したモデルが関心のある結果を効果的に予測できることを発見しました。ただし、彼らはまた、介入のための勧告において大きな差があることを示しました。

重要な結果は、研究者がモデル出力の公平性を向上させるための調整を適用したときに得られました。人種、年齢、または収入に基づく差が除去された場合、精度の低下は見られなかったことが発見されました。

「人工知能、コンピューターサイエンス、そしてマシンラーニングのコミュニティが、精度と公平性のトレードオフという前提を受け入れるのをやめ、両方を最大化するシステムを意図的に設計し始めることを望みます」とロドルファは述べました。「政策立案者が、マシンラーニングを決定のツールとして受け入れ、公平な結果を達成するのを支援することを希望します」。