人工智能在医疗保健领域可能带来风险和机遇

人工智能在医疗保健领域具有巨大的潜力，能够改善诊断和发现新的、更有效的药物。然而，正如Scientific American最近讨论的那样，人工智能进入医疗保健领域的速度也带来了许多新的挑战和风险。

在过去的五年中，美国食品和药物管理局（US Food and Drug Administration）已经批准了超过40种不同的AI产品。然而，正如Scientific American报道的那样，尚未有任何在美国销售的产品经过随机对照临床试验评估其性能。许多AI医疗工具甚至不需要FDA的批准。

Evan Topol，”Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”的作者，对Scientific American表示，许多声称能够有效执行诸如诊断疾病等任务的AI产品实际上并没有经过严格的测试，第一项主要的AI检测和诊断工具随机试验是在去年十月进行的。另外，很少有科技初创公司在同行评审期刊上发表研究论文，这是他们的工作将被科学家分析的地方。

当经过适当的测试和控制时，AI系统可以成为强大的工具，帮助医疗专业人员检测到未被注意到的症状，改善健康结果。

例如，一种用于检测糖尿病眼病的AI工具在数百名患者中进行了测试，似乎证明了其可靠性。负责该测试的公司与FDA合作了八年多，来完善该产品。该测试，IDx-DR，正在进入初级医疗诊所，在那里它可能有助于检测糖尿病视网膜病变的早期迹象，并在怀疑症状被发现时将患者转介给眼科专家。

如果没有经过仔细的测试，医疗专业人员可能使用的AI系统来指导诊断和治疗可能会造成伤害而不是避免伤害。

Scientific American文章详细介绍了一个潜在的问题，即依赖AI来诊断疾病，指出一个例子，即一个AI旨在分析胸部X光片并检测哪些患者可能会发展成肺炎。虽然该系统在纽约的Mount Sinai医院进行测试时证明是准确的，但当在其他医院进行测试时却失败了。研究人员发现，AI正在区分便携式X光系统创建的图像和在放射科部门创建的图像。医生使用便携式胸部X光系统对经常太病弱而无法离开床的患者进行检查，这些患者更容易发展成肺炎。

错误警报也是一个问题。DeepMind创建了一个AI移动应用程序，能够预测住院患者在48小时内发生急性肾衰竭。然而，据报道，该系统也产生了两个错误警报，对于每一个成功预测的肾衰竭。错误的阳性结果可能是有害的，因为它们可能会鼓励医生花费不必要的时间和资源来订购进一步的测试或改变规定的治疗方法。

在另一个事件中，一个AI系统错误地得出结论，患有肺炎的患者如果有哮喘，可能更容易生存下来，这可能会导致医生改变哮喘患者的治疗方法。

为一个医院开发的AI系统通常在另一个医院中表现不佳。造成这种情况的原因有多个。首先，AI系统通常是在电子健康记录上进行训练的，但许多电子健康记录通常是不完整或不正确的，因为它们的主要目的是用于计费而不是患者护理。例如，KHN进行的一项调查发现，在某些情况下，患者的医疗记录中存在危及生命的错误，例如药物列表中包含不正确的药物。此外，疾病通常比AI工程师和科学家预期的更复杂，医疗系统也更复杂。

随着AI变得更加普遍，AI开发人员将与卫生部门合作，以确保他们的AI系统经过彻底的测试，并且监管机构将确保AI诊断工具的可靠性标准得到建立和遵守。