解决医疗保健人工智能怀疑：克服安全通信的障碍

医疗保健领导者渴望拥抱人工智能，部分是为了跟上竞争对手和其他行业的步伐，但更重要的是为了提高效率和改善患者体验。然而，只有 77% 的医疗保健领导者 实际上信任人工智能能够造福他们的业务。

虽然人工智能聊天机器人在处理日常任务、处理数据和总结信息方面表现出色，但高度监管的医疗保健行业最担心的是这些工具所使用和解释的数据的可靠性和准确性。没有适当的使用和员工培训，数据泄露将成为额外的紧迫威胁。

尽管如此，95% 的医疗保健领导者计划在 2025 年将人工智能预算增加多达 30%，大型语言模型 (LLM) 已成为最值得信赖的工具之一。随着 LLM 的成熟，53% 的医疗保健领导者已经实施了正式的政策，以帮助他们的团队适应这些模型，另外 39% 计划很快实施这些政策。

对于希望使用人工智能简化通信服务但仍然犹豫的医疗保健提供者，以下是一些克服最常见障碍的建议。

1. 使用可靠的医疗来源训练人工智能

虽然医疗保健领导者可能不会直接参与人工智能的训练，但他们必须在其实施中发挥关键作用。他们应该确保聊天机器人提供商正在使用可靠的来源训练和定期更新他们的人工智能。

由强制性的电子健康记录 (EHR) 捕获的丰富、结构化的数据为训练人工智能算法提供了大量的数字健康数据基础。先进的 LLM 可以理解医疗研究、技术分析、文献综述和批判性评估。然而，新的 证据 表明，专注于较小数量的交叉点可以最大化人工智能的性能，同时保持低训练成本。

2. 确保符合 HIPAA 的数据实践

《健康保险可携带性和责任法案》(HIPAA) 规定了保护敏感的患者健康信息 (PHI) 的标准。为了符合这些法规，医疗保健领导者应该确保第三方供应商：

• 仅收集实现聊天机器人目的所需的最少量的 PHI。
• 仅向授权人员授予 PHI 访问权限，并实施强大的密码和身份验证政策。
• 使用强大的加密技术保护 PHI，在静态和传输过程中。
• 将必要的数据存储在符合 HIPAA 的服务器上，并实施强大的访问控制。
• 确保他们签署商业关联协议 (BAAs) 以遵守 HIPAA。
• 询问他们的安全事件响应计划。

使用这些工具的医疗保健领导者应该定期检查访问报告——这是一个可以使用人工智能轻松自动化的步骤——并在发生异常活动时向管理层发送警报。

此外，他们必须在收集和使用患者的 PHI 之前，从患者那里获得明确和知情的同意。在请求同意时，应说明如何使用和保护患者数据。

3. 设计良好的界面以提高工作流程

在转向强制性的电子健康记录时，技术的 可用性 是一个巨大的障碍。医生们对花费在文书工作上的时间感到 不满意，因为他们正在适应复杂的工作流程，这增加了他们的职业倦怠风险，并可能导致影响患者治疗的错误。

与第三方供应商合作时，请求演示和第二意见，然后再选择人工智能平台或软件解决方案。不要忘记询问他们的产品是否允许自定义以适应当前程序，这样您就可以集成最适合您的工作流程的即用功能。

以用户为中心的设计和标准化的数据格式和协议将有助于促进医疗保健技术和人工智能平台之间的无缝信息交换。有了这些标准，人工智能算法就可以有意义地集成到临床护理中，适用于各种医疗保健环境。既定的协议还可以通过促进互操作性和允许访问更大、更多样化的数据集来帮助这些工具更好地执行。

4. 正确使用和员工培训

2024 年的一项 研究 发现，‘人类医生和人工智能’ 提供的医疗建议实际上更全面，但不如 ‘人类医生’ 单独提供的建议那样富有同情心。为了弥补这一差距，医疗保健领导者必须了解 人工智能的能力 和局限性，并确保适当的人类监督和干预。

医疗保健领导者可以将聊天机器人嵌入他们的网站和患者应用程序中，为用户提供即时访问医疗信息的机会，帮助他们进行自我诊断和健康教育。这些工具可以向患者发送及时的提醒，帮助他们遵守治疗计划。它们还可以帮助根据患者病情的严重程度对其进行分类，帮助医疗保健提供者优先处理案件并高效分配资源。

然而，这些工具仍然可能产生幻觉，因此必须让人类验证者参与复杂的任务。与第三方专家合作，定义您对人工智能通信工具的愿景，并创建所需的工作流程。一旦您同意使用案例，运营和文化变革流程——如 Kotter 的 8 步变革过程——提供了为员工提供培训的路线图，最后提高了患者的治疗效果。

5. 请求聊天机器人捕捉错误

没有任何企业领导者希望犯错误，但医疗保健行业是一个高风险的环境，即使是小的疏忽也可能导致严重的后果。然而，即使是最好的临床医生也不能免受 医疗错误 的影响。人工智能可以成为一种强大的工具，用于改善患者护理，通过捕捉错误和填补空白。

2023 年的一项 调查 使用 GPT-4 来记录和总结患者与临床医生之间的对话，后来使用聊天机器人来审查对话中的错误。在验证过程中，它捕获了患者身体质量指数 (BMI) 中的一个错误。聊天机器人还注意到，患者的笔记中没有提到已下令进行的血液检查，也没有说明下令进行这些检查的理由。

这个例子表明，人工智能可以用作补充工具，帮助医生处理人工智能产生的幻觉、遗漏和错误，这些错误可以用来训练和改进人工智能应用程序。

医疗保健人工智能的目的是支持医生和护士，简化工作流程，改善患者对医疗服务的可及性，并减少疏忽。虽然它们不能完全取代人类医疗保健提供者带来的同情心、直觉和现实世界的经验，但这些工具提供了优秀的分析和节省时间的好处。当医疗保健领导者花时间确保仔细遵守 HIPAA 法规、与患者进行透明的沟通以及适当的员工培训时，他们可以自信地实施这些工具。