算法可以解决医疗保健中的种族偏见，如果得到适当的训练

斯坦福大学、哈佛大学和芝加哥大学的研究团队训练算法 来诊断膝盖X光片中的风湿关节炎。 结果表明，当使用患者报告作为算法的训练数据时，算法在分析黑人患者的记录时比放射科医生更准确。

算法偏见的问题

在医疗领域使用机器学习算法可以改善患有各种疾病的患者的治疗效果，但使用AI算法诊断患者也存在一些已知的问题。对部署的AI模型的影响进行的研究发现，算法偏见是一个值得注意的问题。这些 算法 会给少数族裔患者较少的转介到心脏病单位的机会，尽管所有报告的症状都相同。
一项研究的作者、加州大学伯克利分校公共卫生学院的教授 Ziad Obermeyer 决定使用 AI 来调查放射科医生对 X 光片的诊断和患者报告的疼痛水平之间的差异。尽管黑人患者和低收入患者报告的疼痛水平更高，但他们的 X 光片解读结果与一般人群相同。疼痛水平的数据来自 NIH，研究人员希望调查是否有人类医生在分析数据时遗漏了什么。
据 Wired 报道，为了确定这些差异的潜在原因，Obermeyer 和其他研究人员设计了一个计算机视觉模型，训练数据来自 NIH。算法被设计为分析 X 光片并预测患者的疼痛水平。软件找到了图像中的模式，这些模式与患者的疼痛水平高度相关。
当算法呈现一个未见过的图像时，模型返回患者的预测疼痛水平。模型返回的预测与患者实际报告的疼痛水平更为一致，尤其是对于黑人患者。Obermeyer 通过 Wired 解释说，计算机视觉算法能够检测与黑人患者疼痛更常相关的现象。

正确训练系统

据报道，评估 X 光片的标准最初是基于 1957 年在英格兰北部进行的一项小型研究的结果。最初用于开发骨关节炎评估标准的群体与现代美国多元化的人口非常不同，因此在诊断这些多样化的人群时出现错误并不奇怪。
这项新研究表明，当 AI 算法得到适当的训练时，可以减少偏见。训练是基于患者自己的反馈，而不是专家意见。Obermeyer 和他的同事 之前已经证明，一种常用的 AI 算法更倾向于白人患者而不是黑人患者，但 Obermeyer 也展示了训练机器学习系统使用正确的数据可以帮助防止偏见。
这项研究的一个值得注意的限制是，许多机器学习研究人员都熟悉的黑箱问题。研究团队开发的 AI 模型是一个黑箱，他们自己也不确定算法在 X 光片中检测到的特征是什么，这意味着他们无法告诉医生他们缺少了什么。
其他放射科医生和研究人员正在尝试揭开黑箱，希望帮助医生了解他们缺少了什么。埃默里大学的放射科医生和教授 Judy Gichoya 正在收集更广泛和多样的 X 光片来训练 AI 模型。Gichoya 将让放射科医生为这些 X 光片创建详细的笔记。这些笔记将与模型的输出进行比较，以查看算法检测到的模式是否可以被揭示。