何时应避免在医疗保健中使用 AI

每当一种新技术进入一个行业时，人们往往会倾向于认为这种新技术是解决该行业所有问题的万能药。医疗保健中的 AI 是一个很好的例子。随着技术的不断进步，它被应用于药物开发、护理协调和报销等用例。医疗保健中有许多合理的 AI 应用场景，在这些场景中，AI 比任何现有的替代方案都要好。

然而，AI —— 就像它今天的状态 —— 只擅长某些任务，例如理解大量数据并根据明确的规则做出判断。其他情况，特别是需要额外上下文来做出正确决定的情况，并不适合 AI。让我们探讨一些例子。

拒绝索赔和护理

无论是索赔还是护理，拒绝都是复杂的决定，太重要了，不能仅由 AI 处理。当拒绝索赔或护理时，有一个明显的道德要求，即必须谨慎行事，并且根据 AI 当前的能力，这需要人工输入。

除了道德因素，医疗计划如果过度依赖 AI 来做出拒绝决定，也会将自己置于风险之中。医疗计划可以并且正在面临因使用 AI 不当拒绝索赔而引起的诉讼，诉讼指控医疗计划没有满足最低的医生审查要求，因为使用了 AI 而不是人工审查。

依赖过去的决定

仅仅依靠 AI 根据其之前的决定来做出新的决定，有一个明显的缺陷：过去的一个错误决定将会继续影响其他决定。另外，因为政策规则通常分布在不同的系统中或由人类不完善地编码，AI 系统可能会采用并延续对这些政策的不准确理解。为了避免这一点，组织需要创建一个单一的政策真实来源，以便 AI 可以参考和学习。

建立在遗留系统之上

作为一项相对较新的技术，AI 带来了可能性，许多医疗计划的数据科学团队渴望快速利用 AI 工具，这些工具已经集成到现有的企业平台中。问题在于，医疗索赔流程非常复杂，企业平台通常不理解这些复杂性。将 AI 粘贴到这些遗留平台上作为一种一刀切的解决方案（不考虑所有影响索赔裁定的各种因素），最终会造成混乱和不准确，而不是创建更高效的流程。

依赖旧数据

AI 的最大优势之一是，它可以在学习过程中不断改进任务，但是这种学习只能在有一个持续的反馈循环来帮助 AI 理解其错误并相应地调整的情况下发生。这种反馈不仅必须是持续的，而且必须基于干净、准确的数据。毕竟，AI 的好坏取决于它学习的数据。

AI 在医疗保健中的有益之处

在一个输出结果具有如此重大的后果的领域中使用 AI ，的确需要谨慎，但是这并不意味着没有 AI 合理的应用场景。

首先，医疗保健领域的数据非常丰富（考虑到一个人的一份医疗记录可能有数千页），这些数据中的模式可以告诉我们很多关于诊断疾病、正确裁定索赔等方面的信息。这正是 AI 擅长的领域，寻找模式并根据这些模式建议行动，这些行动可以由人类审查员执行。

另一个 AI 擅长的领域是 编目和摄取政策和规则，这些政策和规则规定了如何支付索赔。 生成式 AI (GenAI) 可以用于将这些政策内容从各种格式转换为机器可读的代码，这些代码可以在 所有 患者索赔中一致应用。 GenAI 也可以用于总结信息并以易于人类阅读的格式显示。

所有这些应用场景中的关键线索是，AI 正被用作人类的协助工具，而不是独自运行。只要组织在实施 AI 时牢记这一理念，他们就将处于成功的位置，在 AI 转变医疗保健的这个时代。