研究人员挑战长期以来机器学习的假设

卡内基梅隆大学的研究人员正在挑战一个长期以来机器学习的假设，即在用于公共政策决策的算法中，准确性和公平性之间存在权衡。

机器学习的应用正在许多领域中增加，例如刑事司法、招聘、医疗保健和社会服务干预。随着这种增长，也带来了对这些新应用是否会加剧现有的不平等的担忧。它们可能对种族少数群体或经济上处于劣势的个人造成特别大的伤害。

调整系统

为了防止偏见，系统的数据、标签、模型训练、评分系统和其他方面都需要不断调整。然而，理论上的假设一直是，当这些调整增加时，系统的准确性会降低。

卡内基梅隆大学的团队在一项发表在 Nature Machine Intelligence上的新研究中挑战了这一理论。

雷伊德·加尼（Rayid Ghani）是计算机科学学院机器学习系（MLD）和海恩茨信息系统与公共政策学院的教授。他与研究科学家基特·罗多尔法（Kit Rodolfa）和海恩茨信息系统与公共政策学院的博士后研究员赫曼克·兰巴（Hemank Lamba）合作。

测试现实世界应用

研究人员在现实世界应用中测试了这一假设，并发现，在许多政策领域中，准确性和公平性之间的权衡是微不足道的。

“实际上，你可以同时获得准确性和公平性。你不必为了建立公平和公正的系统而牺牲准确性，”加尼说。“但这需要你刻意设计系统，使其公平和公正。现成的系统是不会起作用的。”

该团队专注于资源有限的情况下，机器学习可以帮助分配这些资源。

他们专注于四个领域的系统：

• 根据个人回监狱的风险优先考虑有限的心理健康护理，以减少再次入狱的可能性；
• 预测严重的安全违规，以更好地部署城市的有限住房检查员；
• 模拟学生不能按时毕业的风险，以确定最需要额外支持的学生；
• 帮助教师实现课堂需求的众筹目标。

研究人员发现，优化准确性的模型可以有效地预测结果。然而，他们也证明了在干预建议中存在显著的差异。

重要的结果出现在研究人员将调整应用于优化公平性的模型输出时。他们发现，当消除了基于种族、年龄或收入的差异时，准确性并没有损失。

“我们希望人工智能、计算机科学和机器学习社区停止接受准确性和公平性之间存在权衡的假设，并开始刻意设计既能最大化准确性又能最大化公平性的系统，”罗多尔法说。“我们希望政策制定者能够接受机器学习作为决策工具，以帮助他们实现公平的结果。”