医疗健康
如果医疗人工智能失败,谁该负责?

当人工智能在医疗保健领域的错误导致事故、伤害或更严重的情况时,谁该负责? 根据具体情况,它可能是人工智能开发人员、医疗保健专业人员甚至是患者。 随着人工智能在医疗保健领域变得越来越普遍,责任成为一个日益复杂和严重的问题。 谁对人工智能出错负责?如何预防事故?
医疗保健中人工智能错误的风险
人工智能在医疗保健领域有许多惊人的好处,从提高精度和准确度到缩短恢复时间。 人工智能正在帮助医生进行诊断、进行手术并为患者提供最好的护理。 不幸的是,人工智能错误总是有可能的。
医疗保健领域存在多种人工智能出错的情况。 医生和患者可以将人工智能用作纯粹基于软件的决策工具,也可以将人工智能用作机器人等物理设备的大脑。 这两类都有其风险。
例如,如果人工智能手术机器人在手术过程中出现故障,会发生什么? 这可能会导致患者严重受伤甚至死亡。 同样,如果药物诊断算法为患者推荐了错误的药物并且患者遭受了负面影响怎么办? 即使药物不会伤害患者,误诊也可能会延误正确的治疗。
此类人工智能错误的根源在于人工智能模型本身的性质。 如今大多数人工智能都使用“黑匣子”逻辑,这意味着没有人能够看到算法如何做出决策。 黑盒AI缺乏透明度, 导致逻辑偏差等风险、歧视和不准确的结果。 不幸的是,在这些风险因素已经引起问题之前,很难检测到它们。
人工智能出了问题:谁该责怪?
当人工智能医疗程序中发生事故时会发生什么? 人工智能在某种程度上出错的可能性总是存在的。 如果有人受伤或更严重,是人工智能的错吗? 不必要。
当人工智能开发者犯错时
重要的是要记住人工智能只不过是一个计算机程序。 它是一个非常先进的计算机程序,但它仍然是代码,就像任何其他软件一样。 由于人工智能不像人类那样有感知力或独立性,因此它不能对事故负责。 人工智能不能上法庭或被判入狱。
医疗保健中的人工智能错误很可能是人工智能开发人员或监控程序的医疗专业人员的责任。 哪一方对事故有过错可能因情况而异。
例如,如果数据偏差导致人工智能给出不公平、不准确或歧视性的决定或待遇,那么开发人员可能有过错。 开发人员负责确保人工智能按照承诺运行,并为所有患者提供最好的治疗。 如果人工智能因开发者的疏忽、疏忽或错误而出现故障,医生将不承担责任。
当医生或医师有过错时
然而,医生甚至患者仍然有可能对人工智能的错误负责。 例如,开发人员可能会做正确的一切,向医生提供全面的指示并概述所有可能的风险。 当手术进行时,医生可能会心烦意乱、疲倦、健忘或疏忽大意。
调查显示 超过40%的医生 在工作中经历倦怠,这可能导致注意力不集中、反应迟钝和记忆力差。 如果医生没有解决他们自己的生理和心理需求,而他们的状况导致了事故,那是医生的错。
根据具体情况,医生的雇主最终可能会因人工智能在医疗保健领域的错误而受到指责。 例如,如果医院的经理威胁医生如果不同意加班就拒绝升职怎么办? 这迫使他们过度劳累,导致倦怠。 在这种特殊情况下,医生的雇主可能要承担责任。
当患者有过错时
但是,如果人工智能开发人员和医生都做对了怎么办? 当患者独立使用人工智能工具时,发生事故可能是他们的错。 人工智能出错并不总是由于技术错误。 这也可能是由于使用不当或使用不当造成的。
例如,也许医生向患者彻底解释了人工智能工具,但他们忽略了安全说明或输入了错误的数据。 如果这种粗心或不当使用导致事故,则责任归患者所有。 在这种情况下,他们有责任正确使用人工智能或提供准确的数据,但却忽视了这样做。
即使患者知道自己的医疗需求,他们也可能会因为各种原因不遵循医生的指示。 例如, 24% 的美国人服用处方药 报告称难以支付药物费用。 患者可能会因为无法支付处方药而感到尴尬,而跳过药物治疗或向人工智能撒谎说要服用药物。
如果患者的不当使用是由于缺乏医生或人工智能开发人员的指导造成的,那么责任可能在其他地方。 这最终取决于根本事故或错误发生的位置。
法规和潜在的解决方案
有没有办法防止医疗保健领域的人工智能错误? 虽然没有任何医疗程序是完全没有风险的,但有一些方法可以最大限度地减少不良后果的可能性。
关于在医疗保健中使用人工智能的法规可以保护患者免受高风险人工智能驱动的工具和程序的影响。 FDA 已经 人工智能医疗设备的监管框架,概述测试和安全要求以及审查过程。 未来几年,领先的医疗监督组织也可能介入,通过人工智能算法规范患者数据的使用。
除了严格、合理、彻底的监管外,开发者还应该采取措施防止人工智能出现错误。 可解释的人工智能(也称为白盒人工智能)可以解决透明度和数据偏见问题。 可解释的人工智能模型是新兴算法,允许开发人员和用户访问模型的逻辑。
当人工智能开发人员、医生和患者能够看到人工智能如何得出结论时,识别数据偏差就会容易得多。 医生还可以更快地发现事实不准确或丢失的信息。 通过使用可解释的人工智能而不是黑盒人工智能,开发人员和医疗保健提供者可以提高医疗人工智能的可信度和有效性。
安全有效的医疗人工智能
人工智能可以在医疗领域做出惊人的事情,甚至有可能拯救生命。 人工智能总会存在一些不确定性,但开发人员和医疗机构可以采取行动来最大限度地减少这些风险。 当人工智能在医疗保健领域确实发生错误时,法律顾问可能会根据事故的根本错误来确定责任。