谁对医疗保健人工智能失败负责？

当医疗保健人工智能错误导致事故、受伤或更糟糕的情况时，谁负责？根据情况，这可能是人工智能开发者、医疗保健专业人员，甚至是患者。随着人工智能在医疗保健领域变得更加普遍，责任问题变得越来越复杂和严重。谁对人工智能错误负责，如何可以防止事故的发生？

医疗保健人工智能错误的风险

人工智能在医疗保健领域有许多惊人的益处，从提高精度和准确性到更快的恢复时间。人工智能帮助医生进行诊断、手术和为患者提供最佳的护理。遗憾的是，人工智能错误始终是可能的。

医疗保健领域的人工智能错误场景有很多种。医生和患者可以将人工智能作为纯粹的软件决策工具，或者人工智能可以成为物理设备如机器人的大脑。两种类别都有风险。

例如，如果一个人工智能驱动的外科手术机器人在手术过程中发生故障会怎么样？这可能会导致严重的伤害甚至杀死患者。同样，如果一个药物诊断算法为患者推荐了错误的药物，并且他们遭受了不良副作用怎么办？即使药物没有伤害患者，误诊也可能延迟适当的治疗。

人工智能错误的根源在于人工智能模型本身。大多数人工智能都使用“黑盒”逻辑，这意味着没有人可以看到算法如何做出决定。黑盒人工智能缺乏透明度，导致诸如逻辑偏差、歧视和不准确结果等风险。遗憾的是，很难在这些风险因素造成问题之前检测到它们。

人工智能出错：谁负责？

当人工智能驱动的医疗程序发生事故时会怎么样？人工智能出错的可能性始终存在。如果有人受伤或更糟糕，人工智能是否有错？不一定。

当人工智能开发者负责时

必须记住，人工智能只不过是一种计算机程序。它是一种高度先进的计算机程序，但它仍然是代码，就像任何其他软件一样。由于人工智能不是像人类一样的有感知或独立的实体，它不能为事故承担责任。人工智能不能去法院或被判入狱。

医疗保健领域的人工智能错误可能是人工智能开发者或监控程序的医疗专业人员负责。事故的责任方可能会根据情况而有所不同。

例如，如果数据偏差导致人工智能做出不公平、不准确或歧视性的决定或治疗，开发者可能会负责。开发者负责确保人工智能按照承诺运行，并为所有患者提供最佳的治疗。如果人工智能由于开发者的疏忽、忽视或错误而出现故障，医生将不承担责任。

当医生或医师负责时

然而，医生甚至患者也可能对人工智能出错负责。例如，开发者可能做得一切正确，给医生提供了详细的说明和所有可能的风险。当进行手术时，医生可能会分心、疲劳、健忘或简单地疏忽大意。

调查显示，超过40%的医生在工作中经历了职业倦怠，这可能会导致注意力不集中、反应迟缓和记忆力下降。如果医生不解决自己的身体和心理需求，并且他们的状况导致事故发生，那就是医生的责任。

根据情况，医生的雇主可能最终会被指责为医疗保健人工智能错误负责。例如，医院经理威胁要否认医生晋升，如果他们不同意加班工作。这迫使他们过度劳累，导致职业倦怠。在这种独特的情况下，医生的雇主可能会被追究责任。

当患者负责时

如果人工智能开发者和医生都做对了，那么会怎么样？当患者独立使用人工智能工具时，事故可能是他们的责任。人工智能出错并不总是由于技术错误。它也可能是由于使用不当或不正确的使用所致。

例如，医生可能会向患者详细解释人工智能工具，但他们忽略了安全说明或输入了错误的数据。如果这种粗心或不正确的使用导致事故发生，那就是患者的责任。在这种情况下，他们负责正确使用人工智能或提供准确的数据，但他们没有这样做。

即使患者知道自己的医疗需求，他们也可能不会遵循医生的指示，原因有很多。例如，24%的美国人服用处方药报告说，他们很难支付药费。患者可能会跳过药物或对人工智能撒谎说他们正在服用它，因为他们对无法支付处方感到尴尬。

如果患者的不当使用是由于医生或人工智能开发者的缺乏指导，那么责任可能在别处。最终取决于事故或错误的根源发生在哪里。

法规和潜在解决方案

是否有办法防止医疗保健人工智能错误？虽然没有任何医疗程序是完全无风险的，但有办法可以尽量减少不良结果的可能性。

医疗保健人工智能的使用法规可以保护患者免受高风险人工智能驱动的工具和程序的影响。FDA已经有人工智能医疗设备的监管框架，概述了测试和安全要求以及审查流程。主要的医疗监督组织可能也会在未来几年内监管人工智能算法中使用患者数据。

除了严格、合理和彻底的法规外，开发者还应采取措施防止人工智能出错的情景。可解释的人工智能（也称为白盒人工智能）可能会解决透明度和数据偏差问题。可解释的人工智能模型是新兴的算法，允许开发者和用户访问模型的逻辑。

当人工智能开发者、医生和患者可以看到人工智能如何得出结论时，很容易识别数据偏差。医生也可以更快地发现事实上的不准确或缺失信息。通过使用可解释的人工智能而不是黑盒人工智能，开发者和医疗保健提供者可以增加医疗人工智能的可靠性和有效性。

安全有效的医疗保健人工智能

人工智能可以在医疗领域做出惊人的事情，甚至可能拯救生命。人工智能总会有一定的不确定性，但开发者和医疗保健组织可以采取行动来尽量减少这些风险。当医疗保健人工智能错误发生时，法律顾问可能会根据事故的根源确定责任。