Khaldoun Zine El Abidine, Senior Director of Technology, Applied AI Science, IQVIA 

转变医疗保健和生命科学，人工智能必须值得信任

人工智能（AI）正迅速地被嵌入到医疗保健和生命科学组织中。然而，大多数组织只是在局部使用它，而不是将其扩展到整个企业中，以显著提高性能。其中的挑战之一是：医疗保健和生命科学领域的人工智能必须达到最高的质量、隐私和可靠性标准，并且必须是值得信任的。大型语言模型（LLM）-based AI工具很强大，但大多数LLM并不是为医疗保健和生命科学运营的需求而设计的。它们可能会产生不一致的输出，其性能可能会随着信息和上下文的变化而变化。特别是通用人工智能是在广泛的公共数据上进行训练的，具有有限的医学策划，并且不符合医疗、科学或监管要求。这些问题在决策不仅具有财务影响，还具有临床、科学、法律和最终的人类后果的运营中是不可接受的。总之：需要更高的AI标准。如果医疗保健和生命科学组织希望使用AI转变他们的商业和监管运营，他们需要值得信任的AI。创建值得信任的AI所需的条件值得信任的AI能够产生可靠的结果，在数据变化时保持一致的性能，并且是合规和可辩护的。实现这一点需要科学和技术专业知识，以及考虑到负责任的AI设计、使用和监控的各个方面的严格方法。这在实践中是什么样的？第一步是了解最终目标：AI解决方案必须解决的最终用户需求是什么，什么是成功的标准？这涉及了解将使用AI解决方案的人员的角色、需求和工作流程，以及他们要实现的商业目标或必须遵守的监管要求。这些细节将有助于告知关键的技术决策，例如为AI解决方案选择合适的模型、设计验证框架和建立解决方案将被衡量的指标。值得信任的系统还会考虑到从设计开始就将专家纳入其中，而不是事后补充。这涉及使用人类专家，包括临床、科学、监管和商业专家，帮助确保AI解决方案的设计和部署是正确的，并考虑到解决方案将如何影响最终用户的工作。当然，信任不仅仅是在设计阶段获得的，它必须在AI解决方案的整个生命周期中保持。机制如AI数据飞轮或学习循环，可以不断更新模型以新的数据，使AI解决方案保持相关性、准确性和值得信任。强化学习和编程到AI解决方案中的防护措施也可以帮助保持其性能在一组定义的规则内。实际应用AI已经被一些世界上最大的生命科学公司所接受和信任，并正在实际的使用案例中产生影响。在一个案例中，一个领先的制药公司希望改善其在多个品牌和市场中与医疗保健专业人员（HCPs）的互动。该公司与HCPs互动和优化营销策略的能力受到诸如数据管理问题、缺乏客户级别的洞察力和适应困难等挑战的阻碍。该公司实施了一个全渠道互动解决方案。它将HCPs互动的预测信号与“下一步最佳行动”建议相结合，帮助团队决定如何调整外联和采取什么样的后续行动。该公司在识别高价值患者方面的能力有了四倍的提高，并且在其两个品牌中，新患者启动率分别增加了20%和36%。另一个例子是在药物开发所需的文献综述中。进行这些综述可能需要数月，并需要深入的领域专业知识、精心的规划、大量的手动劳动和更多。它们也可能难以扩展，并且容易出错。AI解决方案可以自动化文献综述的主要部分，从协议开发到搜索和筛选、数据提取和分析和报告。对于AI解决方案承担的任何工作，研究人员或其他人都可以查看每个决定背后的逻辑。现在，通过AI，曾经需要数月的综述可以在几天内完成，并且错误更少。在一个案例中，AI解决方案帮助一家大型制药公司实现了一个科学文献综述用例的初始筛选速度比传统的手动过程快七倍。这将估计的筛选时间从20天缩短到不到三天。AI也在这一领域创造了新的可能性。例如，它使公司能够创建“活着的”综述，可以不断更新最新的已发表数据。合作是必不可少的为医疗保健和生命科学创建值得信任的AI解决方案需要一种专业知识的融合，这是任何一个组织都无法独自提供的。这就是为什么志同道合的公司正在合作，汇集技术和领域专业知识和能力，以创建可以跨监管和商业工作流扩展的完整、验证的AI系统。合适的技术合作伙伴，例如，带来了工程深度和广泛的经验来部署和运行AI在企业规模上。他们可以提供开放的模型，以提供值得信任的AI所需的透明度，并提供软件组件，以实现更快的AI解决方案构建。他们在其他行业创建值得信任的企业AI解决方案的经验也可以帮助他们预测挑战并加强设计。在领域方面，有效的合作伙伴不仅带来了深厚的临床开发和商业化专业知识，还有开发值得信任的AI解决方案的成功记录。他们拥有创建这些解决方案所需的基本成分，例如数据科学专业知识、监管知识和安全、负责任的数据使用历史。但他们也可以提供更多的支持来支持AI部署，例如愿意挑战公共基准，以帮助确保AI解决方案按预期性能，还有资源，如前置工程师，可以帮助将AI解决方案集成到最终用户的工作流程中，考虑到最终用户的独特IT系统配置和政策。改变工作的方式AI不仅仅是医疗保健和生命科学组织的另一个工具。做得对，AI改变了工作的方式以及解决问题的方式。值得信任的AI已经证明它可以缩短时间表、提高准确性和帮助团队更敏捷地应对复杂的挑战，重新想象AI时代的工作流程。随着AI从生成洞察力转变为做出决定和执行复杂的工作流程，接受这一演变的组织将能够释放新的运营模式，使他们更加高效、更加明智和更加能够应对医疗保健和生命科学领域迅速变化的需求。