人工智能在医疗保健领域的应用可能带来风险和机遇

人工智能在医疗保健领域具有巨大的潜力，能够改善诊断和发现新的、更有效的药物。然而，正如《科学美国人》最近的一篇文章所讨论的，人工智能进入医疗保健领域的速度也带来了许多新的挑战和风险。

在过去的五年里，美国食品和药物管理局（FDA）已经批准了超过40种不同的AI产品。然而，据《科学美国人》报道，尚未有任何在美国销售的产品经过随机对照临床试验进行性能评估。许多AI医疗工具甚至不需要FDA的批准。

伊万·托波尔（Evan Topol），《深度医学：人工智能如何使医疗保健更加人性化》（Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again）的作者，在接受《科学美国人》采访时表示，许多声称能够有效诊断疾病的AI产品实际上并没有经过严格的测试，第一项大规模随机试验是在去年十月进行的。另外，很少有科技初创公司在同行评审期刊上发表研究论文，这是他们的工作将被科学家分析的地方。

当正确测试和控制时，AI系统可以成为强大的工具，帮助医疗专业人员检测到未被注意到的症状，改善健康结果。

例如，一个用于检测糖尿病眼病的AI工具在数百名患者中进行了测试，似乎证明了其可靠性。该公司与FDA合作了八年多，来完善该产品。该测试，IDx-DR，正在被推广到初级医疗诊所，它可能有助于检测早期糖尿病视网膜病变的迹象，并将患者转介给眼科专家，如果怀疑有症状。

如果没有经过仔细的测试，AI系统可能会造成伤害，而不是避免伤害。

《科学美国人》文章提到了一个潜在的问题，即依赖AI来诊断疾病，指出一个AI系统被设计用来分析胸部X光片并检测哪些患者可能会发展成肺炎。虽然该系统在纽约的西奈山医院进行测试时证明是准确的，但在其他医院进行测试时却失败了。研究人员发现，AI系统正在区分由便携式X光系统创建的图像和在放射科部门创建的图像。医生使用便携式胸部X光系统对那些太病弱无法离开床的患者进行检查，这些患者患肺炎的风险更高。

虚假警报也是一个问题。DeepMind创建了一个AI移动应用程序，能够预测住院患者在48小时内发生急性肾衰竭。然而，据报道，该系统也产生了两次虚假警报，每次成功预测一次肾衰竭。虚假阳性可能会造成伤害，因为它们可能会导致医生花费不必要的时间和资源进行进一步的测试或改变治疗方案。

在另一个事件中，一个AI系统错误地得出结论，患有肺炎的患者如果有哮喘，可能更容易生存，这可能会导致医生改变患者的治疗方案。

为一个医院开发的AI系统在另一个医院中可能会表现不佳。造成这种情况的原因有很多。一个原因是，AI系统通常是在电子健康记录上进行训练的，但许多电子健康记录都是不完整或不正确的，因为它们的主要目的是用于计费，而不是用于患者护理。例如，KHN的一项调查发现，患者的医疗记录中偶尔会有危及生命的错误，例如药物列表中包含不正确的药物。此外，疾病通常比AI工程师和科学家预期的更复杂，医疗系统也更加复杂。

随着AI变得更加普遍，AI开发人员将与卫生当局合作，确保他们的AI系统经过彻底的测试，并且监管机构将确保AI诊断工具的可靠性标准得到制定和遵守。