视网膜静脉揭示种族，扩大人工智能种族偏见的范围

受最近有关医疗人工智能成像可以泄露种族信息的启发，一支美国和英国的研究团队进行了一项研究，以确定视网膜静脉模式是否具有种族特征，并得出结论，这确实是如此，人工智能可以从婴儿的视网膜图像中预测父母报告的种族——这些图像不会向研究视网膜的医生透露种族身份，并且以前被认为不包含任何种族信息。

该团队表示，担心医疗成像中增加的种族分层向量可能会导致医疗保健中人工智能系统使用的偏见增加。

黑人和白人受试者的视网膜图像。上图为每个种族的全色视网膜 fundus 图像，已经具有与色素有关的种族区别特征。下图为从这些图像中得出的视网膜血管图，虽然这些图像应该“去除”这些种族锚点，但根据新报告，实际上包含种族识别特征。来源：https://arxiv.org/ftp/arxiv/papers/2109/2109.13845.pdf

作者还指出，定义了这一领域的人工智能医疗保健的机器学习框架 U-Net 可能对这一现象产生影响，因为它是在主要由白人受试者组成的数据集上训练的。然而，作者们表示，他们目前还无法完全解释这些发现，只是基于 U-Net 假设。

在该项目的 GitHub 仓库中，作者们评论说：

‘人工智能可以从不被认为包含种族信息的灰度视网膜血管图中检测种族。’

‘两个可能的解释是：视网膜血管在生理上不同，或者 U-Net 对不同底物色素的视网膜血管进行了不同的分割。无论如何，影响都是一样的：人工智能算法在实践中可能表现出种族偏见，即使初步尝试从底层图像中删除此类信息似乎是成功的。’

该论文的标题为《不色盲：人工智能从黑白视网膜血管分割中预测种族身份》，这是美国和英国五个机构和研究部门之间的合作成果。

参与研究的医生包括 R.V. Paul Chan、Michael F. Chiang 和 J. Peter Campbell。

眼睛揭示一切

该论文指出，人为偏见可能会传播到人工智能医疗系统，特别是在眼科领域。视网膜 fundus 图像（RFI）用于评估眼部疾病，包含足够的色素信息以识别种族。

灰度视网膜血管图（RVM）丢弃了大部分信息，以提取可能定义许多疾病的底层毛细血管图案。一直以来，人们认为这种还原后的医疗图像不包含种族特征。

作者使用婴儿的视网膜图像数据集测试了这一假设，这些婴儿接受了潜在致盲疾病的筛查。作者指出，这种筛查越来越多地在远程诊断的背景下进行，并且越来越多地受到机器学习分析的关注。

该研究检查了各种还原视网膜图像的版本是否保留了种族信息，如婴儿的父母所报告的那样，发现即使是最具破坏性的还原版本也能实现一定程度的种族识别。

数据和方法

2012 年 1 月至 2020 年 7 月间收集的 245 名婴儿的数据被分为训练、验证和测试数据集，按照 50/20/30 的比例，尽可能保持自然的种族分布。

彩色视网膜 fundus 图像被还原为三种还原风格的图像，以便“明显”的种族标志应该从数据中去除。

使用 PyTorch 训练了多个卷积神经网络（CNN），以实现二元分类（“黑人”/“白人”），基于父母报告的种族。CNN 在所有图像版本上运行，应用随机翻转和旋转，派生的图像分辨率为 224×244 像素。

模型使用随机梯度下降法训练，最高达十个 epoch，学习率为 0.001，并实施早期停止，当模型在五个 epoch 后收敛时停止训练。

由于白人和黑人受试者之间存在自然的种族不平衡，应用了补偿以确保少数群体的数据不会被系统地折扣为异常值，并进行了交叉验证以确保实验中没有数据泄露。

研究中不同阈值容忍度的视网膜图样本。

结果

视网膜血管图（RVM）应该从理论上讲，不应被卷积神经网络（CNN）识别为种族特征。然而，结果显示，U-Net 对白人眼比黑人眼分割出更多的主要动脉。

在结论中，研究人员观察到“我们发现人工智能可以轻松预测婴儿的种族，从视网膜血管分割中，这些分割不包含任何色素信息”，并且“即使看起来没有信息的图像也保留了原始婴儿的种族预测信息”。研究人员还提出，黑人和白人婴儿的视网膜血管可能在某种方式上不同，人工智能可以识别，但人类无法识别。

先前的偏见？

作者还提出，种族识别可能是 U-Net 在白人数据集上训练的结果。虽然他们将此作为主要理论，但也承认捕获传感器的能力可能是这一现象的因素，如果发现的偏见是视网膜成像技术的技术方面的副产品，或者是 U-Net 中的数据偏见在多年中延续的结果。处理这些可能性时，该论文承认：

‘然而，U-Net 是在首先将视网膜 fundus 图像转换为灰度图像并应用对比度调整（特别是对比度有限的直方图均衡（CLAHE））后训练的，因此我们目前还无法完全根据 U-Net 假设解释这些发现。’

然而，作者们断言，原因不如影响更令人担忧，指出人工智能模型能够识别种族的能力意味着使用这些模型作为输入的医疗人工智能算法中可能存在偏见的风险。

作者们指出所研究种族的高对比度，并推测“中间”种族群体可能更难通过类似的方式识别，并且这是他们计划在正在进行的相关工作中研究的一个方面。

* 本文中提供的所有支持链接均已从有限访问的 PaperPile 链接转换为公开可用的在线版本，尽可能地进行了转换。