Dr. Bharat Tewarie, MD, MBA, 首席执行官，Helio Genomics Dr. Bharat Tewarie, MD, MBA 首席执行官，Helio Genomics

超越算法：为什么建立临床医生和患者的信任是医疗保健的下一个迫切任务

医疗保健行业一直在谨慎地采用新技术，在今天不断变化的格局中，组织在构建工作流程中使用的工具和资源时必须更加有意图。作为一名医生和帮助医疗保健组织整合新兴技术超过二十年的经验，我亲眼见证了创新本身不足以改变临床实践。真正的医学突破只有当临床医生足够信任它们以将其纳入决策中，并且当患者了解这些技术如何支持、而不是取代他们的临床判断时才会发生。人工智能已经达到了这个转折点。在过去的几年中，人工智能的角色从减轻行政负担的新兴技术转变为实际的临床工具，帮助临床医生更早地识别疾病，个性化治疗决策，并发现可能被忽略的模式。这些进步有可能挽救生命，但它们也提出了一个重要的问题：临床医生和患者如何信任它们超过传统的以医生为中心的护理模式?当医疗保健组织从试点项目转向广泛采用时，人工智能越来越多地参与患者结果和决策。这种演变带来了新的挑战。我们知道算法已经改进，并且在主动人工智能方面的投资已经展示了令人印象深刻的临床表现。下一步是赢得依赖这些工具的临床医生和这些工具所服务的患者的信任和信心。这种转变在整个行业中变得越来越明显。德勤2026年关于医疗保健人工智能的报告认为，当前的讨论越来越集中在如何负责地扩大和管理人工智能，以实现可衡量的投资回报率。同样，2026年临床人工智能报告由ARISE制作，强调长期采用取决于在真正的临床环境中展示价值，而不仅仅是在受控测试环境中。数据表明，几个挑战继续阻碍采用：可解释性、工作流集成、碎片化的数据基础设施、组织准备、不断演变的监管期望和对更强的真实世界临床证据的需求。最终，医疗保健人工智能的未来将由组织如何有效地建立信任、透明度和临床信心来决定，这些因素对于将人工智能应用于实践至关重要。信任始于证据临床医生只会在新方法经过严格研究后才会采用。临床试验需要运行多年，新诊断工具或药物才能成为常规护理的一部分，人工智能也应遵循相同的标准。这在人工智能被更深入地集成到诊断时尤其重要。虽然行政人工智能也必须经过测试，以确保重要文件得到适当处理，工作流程不受干扰，但诊断人工智能有可能影响改变生命的临床决策。无论是识别早期癌症、跟踪疾病进展还是分析基于血液的生物标志物，临床医生都必须了解这些系统何时和为什么表现良好，以便他们能够自信地将其纳入患者护理中。医疗保健人工智能中最令人鼓舞的发展之一是，越来越多的前瞻性临床研究正在评估这些技术在真实世界条件下的表现。随着人工智能开始挑战传统的护理模式，它必须证明不仅安全准确，还能在患者结果方面带来有意义的改善。在癌症诊断领域，最近发表在肝脏学杂志上的研究显示，在高风险患肝细胞癌（HCC）的患者中，一种新的基于人工智能的血液监测测试对于所有HCC病变的敏感性为47.8%，而传统的超声波成像的敏感性为28.3%。这种现实世界的研究使临床医生能够评估已经在临床实践中使用的人工智能辅助诊断工具，并收集最终建立信任和证明这些方法不仅安全，还能在患者结果方面提供可衡量的价值的证据。将算法集成到工作流程中而不破坏临床证据只是拼图的一部分。即使是最准确的人工智能模型也不会扩大规模，如果它不能集成到日常工作流程中，或者会造成不必要的摩擦。临床医生对每个工作日内做出的每个决定都承担个人和法律责任。在时间压力下，他们依赖于熟悉的思维模式和文档习惯，通常默认为熟悉的工作流程，而不是新的集成。需要过多验证、在既定例行程序中添加太多步骤或无法与系统集成的技术很快就会变得难以维持或被低效的变通方法所取代。研究一致强调，临床医生采用人工智能的主要障碍是工作流程破坏、缺乏可解释性和信任度降低。当临床医生对算法如何得出结论感到不确定，或者技术在工作流程中造成额外的摩擦时，这种犹豫往往会转化为患者互动。人工智能在组织认识到技术需要适应临床实践，而不是相反的情况下才能扩大规模。系统应该被设计成自然地融入现有的工作流程，满足临床医生和患者在现有的位置上的需求。共同设计人工智能以赢得临床医生和患者的信任临床医生应该在人工智能的开发和实施过程中被充分参与。采取共同设计的方法直接解决了信任赤字，使人工智能感觉像是一个自然的护理延伸，支持医生的专业知识，而不是挑战它。成功实施人工智能的组织往往遵循以下共同原则： 围绕临床实践设计，而不是技术。人工智能需要自然地融入现有的工作流程，并解决有意义的临床问题，而不是引入不必要的复杂性。 让临床医生参与进来。即使是高级模型也可能产生不确定的输出。人工智能实施研究强调临床医生的监督对于维护临床自主权和通过现实世界的采用建立信任至关重要。 优先考虑透明的患者沟通。随着人工智能越来越多地参与临床决策，可解释性对于患者信任至关重要。当临床医生能够清晰地自信地讨论人工智能如何支持他们的判断以及在患者护理中发挥了什么作用时，优先考虑人类体验，患者更有可能接受和信任他们的建议。 衡量现实世界的影响。技术性能只是成功的一个方面。随着医疗保健组织向企业级部署迈进，行业分析认为，运营结果、治理和现实世界的采用与模型性能一样重要。 当这些原则指导开发时，信任变得不再是一个抽象的概念。算法可能打开了大门，但只有共同设计的解决方案才能让人工智能完全融入临床环境，并维持临床医生和患者的信心。工作流程的适应性确实是医疗保健人工智能信任的基础。前进的道路在今天的格局中，强大的技术性能是基本要求。随着技术的不断演进，将在医疗保健人工智能的下一章中领先的组织是那些理解持久的采用取决于与临床医生和患者建立信任，而信任取决于无缝地集成到现有的临床工作流程中。观察护理的提供方式，然后设计解决方案，跟踪人工智能在现实世界条件下的表现，并从开发的早期阶段就让临床医生作为真正的合作伙伴参与，这些都是决定影响力的关键因素。随着人工智能继续扩大规模并重塑诊断和精准医学，行业必须遵循与每个有意义的医学进步相同的科学标准。实施必须有意图地进行，并且有临床证据来支持决策。医疗保健人工智能的未来不会由孤立开发的算法赢得；它将在检查室、护士站和handoff中被塑造，在那里技术必须证明它可以加强判断、保留联系并使护理更加值得信任。将领先的组织将是那些认识到信任是医疗保健人工智能的真正操作系统的组织，他们将设计每个工具、工作流程和治理模型围绕护理的人类现实。