算法可以解决医疗保健中的种族偏见，如果得到适当的训练

斯坦福大学、哈佛大学和芝加哥大学的研究人员团队训练算法 诊断膝盖X光片中的关节炎。 事实证明，当使用患者报告作为算法的训练数据时，算法在分析黑人患者的记录时比放射科医生更准确。

算法偏见的问题

在医疗领域使用机器学习算法可以潜在地改善患者的治疗效果，但也存在使用AI算法诊断患者的明显问题。研究人员已经发现了部署的AI模型中的一些值得注意的事件，包括算法偏见。这些 算法 会给少数族裔患者较少的转介到心脏病单位的机会，即使所有报告的症状都相同。

加州大学伯克利分校公共卫生学院教授、研究论文作者之一齐亚德·奥伯迈尔（Ziad Obermeyer）决定使用AI来调查放射科医生诊断X光片和患者报告的疼痛水平之间的差异。虽然黑人患者和低收入患者报告的疼痛水平更高，但他们的X光片解读得分与一般人群相同。这些数据来自国家卫生研究院（NIH），研究人员希望调查人类医生是否在分析数据时忽略了什么。

据Wired报道 ，为了确定这些差异的潜在原因，奥伯迈尔和其他研究人员设计了一个基于NIH数据的计算机视觉模型。算法旨在分析X光片并根据图像预测患者的疼痛水平。软件成功地在图像中发现了与患者疼痛水平高度相关的模式。

当算法呈现一个未见过的图像时，模型会返回患者报告的疼痛水平的预测。模型返回的预测与患者实际报告的疼痛水平更为一致，尤其是对于黑人患者。奥伯迈尔通过Wired解释说，计算机视觉算法能够检测到与黑人患者疼痛更常相关的现象。

正确训练系统

据报道，最初用于评估X光片的标准是基于1957年在英格兰北部进行的一项小型研究的结果。最初用于开发骨关节炎评估标准的人口与现代美国多样化的人口大不相同，因此在诊断这些多样化人群时出现错误并不令人惊讶。

这项新研究表明，当AI算法得到适当的训练时，可以减少偏见。训练是基于患者自己的反馈，而不是专家意见。奥伯迈尔和他的同事 以前已经证明 ，一种常用的AI算法更喜欢白人患者而不是黑人患者，但奥伯迈尔也表明，训练机器学习系统使用正确的数据可以帮助防止偏见。

这项研究的一个值得注意的限制是，许多机器学习研究人员都熟悉的内容。研究团队开发的AI模型是一个黑盒子，研究人员自己也不清楚算法在X光片中检测到什么特征，这意味着他们无法告诉医生他们缺少什么特征。

其他放射科医生和研究人员正在尝试深入研究这个黑盒子，并希望揭示其中的模式，帮助医生了解他们缺少什么。埃默里大学的放射科医生和教授朱迪·吉乔亚正在收集更多样化的X光片来训练AI模型。吉乔亚将让放射科医生为这些X光片创建详细的笔记。这些笔记将与模型的输出进行比较，以查看算法检测到的模式是否可以被揭示。