解决医疗保健领域的人工智能怀疑：克服安全通信的障碍

医疗保健领导者渴望拥抱人工智能，部分原因是为了跟上竞争对手和其他行业的步伐，但更重要的是为了提高效率和改善患者体验。然而，只有77%的医疗保健领导者真正相信人工智能能够造福他们的业务。

虽然人工智能聊天机器人在处理常规任务、处理数据和总结信息方面表现出色，但高度监管的医疗保健行业最担心的是输入和解释这些工具的数据的可靠性和准确性。如果没有适当的使用和员工培训，数据泄露将成为额外的紧迫威胁。

尽管如此，95%的医疗保健领导者计划在2025年将人工智能预算增加多达30%，大型语言模型(LLMs)已成为最值得信赖的工具之一。随着LLMs的成熟，53%的医疗保健领导者已经实施了正式政策，以帮助他们的团队适应这些模型，另外39%的领导者计划很快实施这些政策。

对于希望使用人工智能简化通信服务但仍然犹豫的医疗保健提供者，以下是一些克服最常见障碍的建议。

1. 使用可靠的医疗来源训练人工智能

虽然医疗保健领导者可能不会直接参与人工智能的训练，但他们必须在其实施中发挥关键作用。他们应该确保聊天机器人提供商正在使用可信的来源训练和定期更新他们的人工智能。

强制性的电子健康记录（EHRs）中捕获的丰富、结构化的数据提供了大量的数字健康数据，可以作为训练人工智能算法的基础。先进的LLMs可以理解医学研究、技术分析、文献综述和批判性评估。然而，新的证据表明，专注于较小数量的交叉点可以最大化人工智能的性能，同时保持低训练成本。

2. 确保符合HIPAA的数据实践

《健康保险可携带性和责任法案》（HIPAA）概述了保护敏感的患者健康信息（PHI）的标准。为了符合这些法规，医疗保健领导者应该确保第三方供应商：

• 只收集实现聊天机器人目的所需的最少量的PHI。
• 仅向具有强密码和身份验证策略的授权人员授予访问PHI的权限。
• 采用强大的加密技术来保护PHI在休息和传输状态下的安全。
• 将必要的数据存储在符合HIPAA的服务器上，并具有强大的访问控制。
• 确保他们签署商业伙伴协议（BAAs），以遵守HIPAA。
• 询问他们的安全事件响应计划。

使用这些工具的医疗保健领导者应该定期检查访问报告——这是一个也可以使用人工智能轻松自动化的步骤——并在发生异常活动时向管理层发送警报。

此外，他们必须在收集和使用患者PHI之前获得患者的明确和知情同意。在请求同意时，应说明将如何使用和保护患者数据。

3. 设计良好的界面以改善工作流程

转向强制使用EHRs时，技术的可用性是最大的障碍之一。医生对调整到复杂工作流程所花费的时间感到不满意，这增加了他们职业倦怠的风险，并可能导致影响患者治疗的错误。

在与第三方供应商合作时，应要求他们提供演示和第二意见，然后再选择人工智能平台或软件解决方案。不要忘记询问他们的产品是否允许自定义以适应当前程序，以便您可以集成最适合工作流程的现成功能。

以用户为中心的设计和标准化的数据格式和协议将有助于促进医疗保健技术和人工智能平台之间的无缝信息交换。有了这些标准，人工智能算法可以有意义地集成到临床护理的各个医疗保健环境中。建立的协议还可以通过促进互操作性和提供对更大、更多样化的数据集的访问来帮助这些工具更好地执行。

4. 正确使用和员工培训

2024年的一项研究发现，‘人工智能和人类医生’提供的医疗建议实际上更全面，但不如‘仅人类医生’提供的建议那么富有同情心。为了弥补这一差距，医疗保健领导者必须了解人工智能的能力和局限性，并确保适当的人类监督和干预。

医疗保健领导者可以将聊天机器人嵌入他们的网站和患者应用程序中，为用户提供即时访问医疗信息的机会，帮助他们进行自我诊断和健康教育。这些工具可以及时提醒患者重新配药，帮助患者遵循治疗计划。它们还可以帮助根据患者病情的严重程度对其进行分类，帮助医疗保健提供者优先处理案件并高效分配资源。

然而，这些工具仍然可能产生幻觉，因此在复杂任务中，人类验证者必须参与。与第三方专家合作，定义人工智能通信工具的愿景并创建所需的工作流程。一旦您同意使用案例，运营和文化变革管理流程——如Kotter的8步变革过程——提供了为员工提供培训的路线图， 궁극上提高患者的治疗效果。

5. 要求聊天机器人捕捉错误

没有任何企业领导者希望犯错误，但医疗保健行业是一个高风险的环境，即使是小的疏忽也可能导致严重的后果。然而，即使是最好的临床医生也不能免受医疗错误的影响。人工智能可以成为改善患者护理的有力工具，通过捕捉错误和填补空白。

2023年的一项调查使用GPT-4来转录和总结患者与临床医生之间的对话，后来使用聊天机器人来审查对话中的错误。在验证过程中，它捕获了患者体重指数（BMI）中的一个错误。聊天机器人还注意到，患者的笔记中没有提到已订购的血液检查，也没有说明订购这些检查的理由。

这个例子表明，人工智能可以用作补充工具，帮助医生处理人工智能的幻觉、遗漏和错误，这些错误可以用来训练和改进人工智能应用程序。

医疗保健人工智能的目的是支持医生和护士，简化工作流程，改善患者对护理的可及性，并减少疏忽。虽然它们不能完全取代人类医疗保健提供者带来的同情心、直觉和现实世界的经验，但这些工具提供了优秀的分析和节省时间的好处。当医疗保健领导者花时间确保仔细遵守HIPAA法规、与患者的透明沟通和适当的员工培训时，他们可以安全地、自信地实施这些工具。