Shelley Wehmeyer, Rhapsody 的高级产品和合作伙伴总监 Shelley Wehmeyer Rhapsody 的高级产品和合作伙伴总监

AI 可以成为改善健康公平的朋友或敌人：如何确保它有助于改善，而不是加剧不公平

医疗保健不平等和医疗服务中的差异在社会经济、种族和性别方面都很普遍。作为一个社会，我们有道德、伦理和经济责任来消除这些差距，确保每个人都能获得一致、公平和负担得起的医疗服务。人工智能（AI）有助于解决这些差异，但它也是一个双刃剑。当然，AI已经在帮助简化医疗服务、实现大规模个性化医疗和支持突破性发现方面发挥作用。然而，数据、算法和用户中的固有偏见如果我们不小心，可能会加剧问题。这意味着我们这些开发和部署AI驱动的医疗解决方案的人必须小心，防止AI无意中扩大现有的差距，监管机构和专业协会必须在建立防止或减轻偏见的保障措施方面发挥积极作用。以下是如何利用AI来弥合不平等差距，而不是加剧它们。实现临床试验的公平性许多新的药物和治疗试验在设计上具有偏见，无论是故意还是无意的。例如，直到1993年，女性才被法律要求参加国家卫生研究院（NIH）资助的临床研究。最近，COVID疫苗从未有意在孕妇中进行试验——只有因为一些试验参与者在接种疫苗时不知不觉中怀孕了，我们才知道它是安全的。研究的一个挑战是，我们不知道我们不知道什么。然而，AI通过分析人口数据和标记不成比例的代表性或人口统计覆盖范围中的差距来帮助揭示偏见数据集。通过确保多样化的代表性和训练AI模型在准确代表目标人群的数据上，AI有助于确保包容性，减少伤害，优化结果。确保公平的治疗已经确立，黑人孕妇在分娩期间经历疼痛和并发症时，往往被忽视，导致黑人妇女的孕产妇死亡率是非西班牙白人妇女的3倍。这个问题在很大程度上是由固有的偏见所延续的：在医疗专业人员中，存在一种普遍的误解，即黑人比白人有更高的痛苦耐受性。AI算法中的偏见可能会使问题更加严重：哈佛研究人员发现，一种常见的算法预测黑人和拉丁裔妇女在接受剖腹产后不太可能成功进行阴道分娩（VBAC），这可能导致医生对有色人种妇女进行更多的剖腹产。然而，研究人员发现，“这种关联没有生物学合理性”，这表明种族是“代表健康影响的其他变量的代理”，该算法随后被更新以排除种族或民族在计算风险时的考虑。这是一个完美的应用AI来根除隐含偏见并提出（有证据支持）的护理路径，这些路径可能以前被忽略。与其继续实施“标准护理”，我们可以使用AI来确定这些最佳实践是否基于所有女性的经验，还是仅仅基于白人女性的经验。AI有助于确保我们的数据基础包括那些从医疗保健和技术进步中最有利可图的患者。虽然可能存在种族和民族会对某些情况产生影响的条件，但我们必须小心地了解何时以及如何考虑这些因素，以及何时我们只是默认为历史偏见来塑造我们的认知和AI算法。提供公平的预防策略AI解决方案如果不仔细考虑潜在偏见，可能会轻易忽略边缘化社区中的某些情况。例如，退伍军人管理局正在开发多个算法来预测和检测心脏病和心脏病发作的迹象。这具有巨大的生命拯救潜力，但大多数研究历史上并没有包括许多女性，而心血管疾病是女性的第一位死亡原因。因此，目前尚不清楚这些模型是否对女性有效，女性的症状往往与男性不同。在这个数据集中包括适当数量的女性可以帮助预防一些心脏病发作和心脏相关死亡，通过早期检测和干预。同样，新的AI工具正在从肾脏疾病筛查中删除基于种族的算法，这些算法历史上曾将黑人、西班牙裔和美洲原住民排除在外，导致护理延迟和不良的临床结果。与其排除边缘化个人，AI实际上可以帮助预测弱势群体的健康风险，并实现个性化风险评估，以更好地针对干预措施。数据可能已经存在；这只是一个“调优”模型来确定种族、性别和其他人口统计因素如何影响结果——如果它们确实影响的话。简化行政任务除了直接影响患者结果外，AI还具有加速幕后工作流程的巨大潜力，以减少差异。例如，公司和提供者已经在使用AI来填补索赔编码和裁定中的空白，验证诊断代码与医生笔记，并自动执行常见诊断程序的预授权过程。通过简化这些功能，我们可以大大降低运营成本，帮助提供者办公室更高效地运行，并给员工更多时间与患者相处，从而使医疗服务更加负担得起和可及。我们每个人都有重要的角色要扮演我们拥有这些不可思议的工具，这使得我们更有责任感地利用它们来根除和克服医疗偏见。不幸的是，美国没有一个认证机构来监管使用AI“去偏见”医疗服务的努力，即使对于那些已经提出了指导方针的组织，也没有监管激励来遵守它们。因此，作为AI从业者、数据科学家、算法创造者和用户，我们必须制定一个有意识的策略来确保包容性、数据多样性和这些工具和见解的公平使用。为了做到这一点，准确的集成和互操作性是必不可少的。由于有这么多数据源——从可穿戴设备和第三方实验室和成像提供者到初级医疗、健康信息交换和住院记录——我们必须集成所有这些数据，以确保关键部分被包括在内，无论其格式如何。行业需要数据标准化、规范化和身份匹配，以确保基本的患者数据被包括在内，即使在不同文化和语言中存在不同的拼写或命名约定。我们还必须在我们的AI开发过程中构建多样性评估，并随着时间的推移监测“漂移”指标。AI从业者有责任跨人口统计子组测试模型性能，进行偏见审计，并了解模型如何做出决定。我们可能需要超越基于种族的假设，以确保我们的分析代表我们正在为其构建的群体。例如，亚利桑那州Gila River Indian Reservation上的Pima Indian部落成员患有肥胖症和2型糖尿病的发病率极高，而同一部落在墨西哥Sierra Madre山脉的成员患有肥胖症和糖尿病的发病率却大大降低，这证明了基因并不是唯一的因素。最后，我们需要像美国医学会、卫生与公众服务部国家卫生信息技术协调办公室和美国妇产科医师学会、美国儿科学会、美国心脏病学会等专业组织合作，共同制定数据交换和急性护理的标准和框架，以防止偏见。通过标准化健康数据的共享，并在HTI-1和HTI-2的基础上扩展，要求开发者与认证机构合作，我们可以确保遵守规定并纠正过去的不公平。另外，通过民主化对完整、准确的患者数据的访问，我们可以消除延续偏见的盲点，并利用AI通过更全面、更客观的洞察来解决医疗差异。进一步，通过开发者与认证机构合作，我们可以确保遵守规定并纠正过去的不公平。另外，通过民主化对完整、准确的患者数据的访问，我们可以消除延续偏见的盲点，并利用AI通过更全面、更客观的洞察来解决医疗差异。