Dr Ricardo Baptista Leite, HealthAI 首席执行官 Dr Ricardo Baptista Leite HealthAI 首席执行官

利用人工智能为更健康的世界提供动力：确保人工智能增强而不是削弱患者护理

几个世纪以来，医学一直受到新技术的影响。从听诊器到MRI机器，创新已经改变了我们诊断、治疗和护理患者的方式。然而，每一次进步都伴随着疑问：这种技术是否真正服务于患者？是否可以信任它？当效率优先于同情心时会发生什么？人工智能（AI）是医学发展的最新前沿。它有潜力改善诊断、优化工作流程和扩大医疗服务的覆盖范围。但是，人工智能并不是免疫于之前每一次医学进步所伴随的基本问题。问题不在于人工智能是否会改变医疗——它已经在发生变化。问题在于它是否会增强患者护理或创造新的风险，从而损害它。答案取决于我们今天做出的实施选择。随着人工智能在医疗系统中变得更加普遍，负责任的治理仍然至关重要。确保人工智能增强而不是损害患者护理需要在创新、监管和道德监督之间保持微妙的平衡。解决人工智能驱动的医疗技术的道德困境 政府和监管机构越来越认识到在人工智能快速发展的同时保持领先地位的重要性。在曼谷举行的普林斯·马希敦奖会议（PMAC）上的讨论强调了基于结果的、可适应的监管的必要性，这些监管可以随着新兴的人工智能技术而演变。如果没有积极的治理，就有可能人工智能会加剧现有的不平等或在医疗服务中引入新的偏见。围绕透明度、问责制和公平性的道德问题必须得到解决。一个主要挑战是许多人工智能模型缺乏可解释性——通常作为“黑盒子”运行，生成推荐但没有明确的解释。如果临床医生无法完全理解人工智能系统如何得出诊断或治疗计划，那么应该相信它吗？这种不透明度提出了基本的问题：如果人工智能驱动的决策导致伤害，谁负责——医生、医院还是技术开发者？没有明确的治理，人工智能医疗服务中对人工智能的信任无法建立起来。另一个紧迫的问题是人工智能偏见和数据隐私问题。人工智能系统依赖于大量数据，但如果这些数据不完整或不具代表性，算法可能会加剧现有的差异，而不是减少它们。除了这些问题之外，在医疗保健领域，数据反映了非常个人化的信息，因此保护隐私至关重要。没有充分的监督，人工智能可能无意中加剧不平等，而不是创造更公平、更易于获取的系统。解决这些道德困境的一种有前途的方法是监管沙盒，它允许人工智能技术在投入使用之前在受控环境中进行测试。这些框架有助于完善人工智能应用，减轻风险，并在利益相关者中建立信任，确保患者的福祉仍然是核心优先事项。另外，监管沙盒提供了持续监测和实时调整的机会，允许监管机构和开发人员在过程的早期识别潜在的偏见、意外后果或漏洞。从本质上讲，它促进了一种动态、迭代的方法，这种方法可以在促进创新和增强问责制之间取得平衡。保持人类智慧和同情心的作用除了诊断和治疗之外，人类的存在本身具有治疗价值。一个令人放心的话语，一个真正理解的时刻，或者一个富有同情心的触摸，可以缓解焦虑并以技术无法复制的方式改善患者的福祉。医疗保健不仅仅是一系列的临床决策——它是建立在信任、同情心和个人联系之上的。有效的患者护理涉及对话，而不仅仅是计算。如果人工智能系统将患者简化为数据点，而不是具有独特需求的个体，那么这种技术就已经失败了其最基本的目的。关于人工智能驱动的决策的担忧正在增长，特别是在保险覆盖方面。在加利福尼亚州，近四分之一的医疗保险索赔被拒绝了，这是一种在全国范围内都存在的趋势。现在有一项新法律禁止保险公司仅使用人工智能来拒绝保险索赔，确保人类的判断力处于核心地位。这种辩论在针对联合健康保险公司的诉讼中加剧，该诉讼声称其人工智能工具nH Predict错误地拒绝了老年患者的索赔，错误率为90%。这些案例凸显了人工智能在临床决策中需要与人类专业知识相互补充，而不是取代人类专业知识的重要性，以及需要强大的监督。目标不应该是用人工智能取代临床医生，而应该是赋予他们权力。人工智能可以提高效率并提供有价值的见解，但人类的判断力确保这些工具服务于患者，而不是决定护理。医学很少是非黑即白的——现实世界的约束、患者的价值观和道德考虑都塑造了每一个决策。人工智能可能会告知这些决策，但正是人类的智慧和同情心使医疗服务真正以患者为中心。人工智能能否使医疗服务再次变得人性化？这是一个很好的问题。虽然人工智能可以处理行政任务、分析复杂的数据并提供持续的支持，但医疗服务的核心在于人类的互动——倾听、同情和理解。目前，人工智能缺乏为全面的、以患者为中心的医疗服务和医疗决策所必需的人类品质。人工智能可以做的是解除临床医生的日常任务的负担，让他们有更多的时间专注于他们最擅长的事情。人工智能在医疗保健中的自主性应该如何定义人工智能和人类专业知识在医疗保健领域各个领域都发挥着至关重要的作用，有效的患者护理的关键在于平衡它们的优势。虽然人工智能提高了精度、诊断、风险评估和运营效率，但人类的监督仍然至关重要。毕竟，目标不是取代临床医生，而是确保人工智能作为一种工具来维护道德、透明和以患者为中心的医疗服务。因此，人工智能在临床决策中的作用必须被仔细定义，并且必须仔细评估在医疗保健中授予人工智能的自主权。 人工智能是否应该做出最终的治疗决策，还是应该仅仅发挥支持作用？现在定义这些边界对于防止未来对人工智能的过度依赖至关重要，这种过度依赖可能会削弱临床判断和专业责任。公众的看法也倾向于采取这种谨慎的方法。 BMC Medical Ethics的一项研究发现，患者更喜欢人工智能 协助 而不是取代医疗服务提供者，特别是在临床任务中。虽然许多人认为人工智能在行政功能和决策支持方面是可以接受的，但人们仍然担心它对医生-患者关系的影响。我们还必须考虑到对人工智能的信任在不同人群中存在差异——年轻人、受过教育的人，尤其是男性，更容易接受，而老年人和女性则表达了更多的怀疑。一个常见的担忧是医疗服务中“人性化”的丧失。在巴黎举行的 人工智能行动峰会上的讨论强调了确保人工智能仍然是临床医生工具而不是人类决策的替代品的治理结构的重要性。维持医疗服务的信任需要刻意的关注，确保人工智能增强而不是损害医学的基本人类元素。从一开始建立正确的保障措施 为了使人工智能成为医疗保健领域的宝贵资产，必须从一开始就建立正确的保障措施。这种方法的核心是可解释性。开发人员应该被要求展示他们的人工智能模型的工作原理——不仅仅是为了满足监管标准，还为了确保临床医生和患者可以信任和理解人工智能驱动的推荐。严格的测试和验证对于确保人工智能系统是安全的、有效的和公平的至关重要。这包括进行现实世界的压力测试，以识别潜在的偏见并在广泛采用之前防止意外的后果。没有受到其影响的人的参与而设计的技术不太可能很好地服务于他们。为了将人们视为不仅仅是他们的医疗记录的总和，必须促进富有同情心、个性化和整体的护理。为了确保人工智能反映实际需求和道德考虑，必须在其开发中包括患者、医疗专业人员和伦理学家的多样化声音。必须训练临床医生批判性地看待人工智能的推荐，以造福所有相关方。必须建立强大的防护措施，以防止人工智能将效率置于护理质量之上。另外，持续的审计对于确保人工智能系统符合最高的护理标准并符合以患者为中心的原则至关重要。通过平衡创新与监督，人工智能可以加强医疗服务系统并促进全球健康公平。结论 随着人工智能的不断发展，医疗保健部门必须在技术创新和人类联系之间保持微妙的平衡。未来不需要在人工智能和人类同情心之间做出选择。相反，两者必须相互补充，创造一个既高效又深深以患者为中心的医疗服务系统。通过接受技术创新和同情心、人类联系的核心价值，我们可以确保人工智能成为全球医疗保健领域的一种变革力量，带来积极的影响。然而，前进的道路需要各个领域之间的合作——政策制定者、开发人员、医疗专业人员和患者之间的合作。透明的监管、道德部署和持续的人类干预是确保人工智能成为医疗服务系统的工具、加强医疗服务系统并促进全球健康公平的关键。