何时避免在医疗保健中使用人工智能

每当一项新技术进步进入一个行业时，人们都忍不住将这一闪亮的新玩具视为该行业所有弊病的典型案例。医疗保健领域的人工智能就是一个很好的例子。随着技术的不断进步，它已被用于药物开发、护理协调和报销等用例。医疗保健领域有大量人工智能的合法用例，该技术远远优于目前任何可用的替代方案。

然而，就目前情况而言，人工智能只擅长某些任务，比如理解大量数据并根据明确定义的规则做出判断。其他情况下，特别是在需要添加背景信息才能做出正确决策的情况下， 不太适合人工智能.让我们探讨一些例子。

拒绝索赔和护理

无论是索赔还是护理，拒绝都是复杂的决定，而且太重要了，无法由人工智能独自处理。在拒绝索赔或护理时，显然有道德义务以最谨慎的方式进行，并且根据人工智能目前的能力，这需要人工输入。

除了道德因素外，如果健康计划过度依赖人工智能来做出拒绝决定，它们也会面临风险。计划可能会面临诉讼，因为不当使用人工智能来拒绝索赔， 诉讼 指责这些计划未能满足医生审查的最低要求，因为使用了人工智能。

依赖过去的决定

仅凭 AI 做出的决策来判断其决策存在一个明显的缺陷：过去的一个错误决策会继续影响其他决策。此外，由于 AI 的政策规则通常分布在各个系统中，或者由人类不完美地编纂，因此 AI 系统最终可能会采用并延续对这些政策的不准确理解。为了避免这种情况，组织需要创建单一的政策真相来源，以便 AI 可以参考可靠的数据集并从中学习。

在遗留系统上进行构建

作为一种相对较新的技术，人工智能带来了一种可能性，许多健康计划数据科学团队都急于利用现有企业平台中内置的人工智能工具来快速挖掘这种可能性。问题在于，医疗保健索赔流程极其复杂，而企业平台往往不了解其中的复杂性。将人工智能作为一种一刀切的解决方案（不考虑影响索赔裁决的所有各种因素）加到这些传统平台上，最终会导致混乱和不准确，而不是创建更高效​​的流程。

依靠旧数据

人工智能最大的优势之一是，随着学习的深入，它在协调任务方面的能力会越来越强，但只有当存在一个一致的反馈循环时，这种学习才能发生，该反馈循环可以帮助人工智能了解自己做错了什么，以便做出相应的调整。这种反馈不仅必须是恒定的，还必须基于干净、准确的数据。毕竟，人工智能的好坏取决于它所学习的数据。

当人工智能在医疗保健领域发挥作用时

在医疗保健这样产出如此重要的领域使用人工智能当然需要谨慎，但这并不意味着人工智能没有用途。

首先， 医疗保健领域并不缺乏数据 （考虑到一个人的医疗记录可能有数千页），并且这些数据中的模式可以告诉我们很多有关诊断疾病、正确裁定索赔等的信息。这正是人工智能的优势所在，它可以寻找模式并根据人类审阅者可以使用的模式提出建议。

人工智能的另一个优势领域是 编目并吸收政策和规则 管理索赔如何支付。 生成式人工智能 （GenAI）可用于将此策略内容从各种格式转换为机器可读的代码，并可在 所有 患者索赔。GenAI 还可用于汇总信息并以易于阅读的格式显示，以供人类查看。

所有这些用例的关键线索是，人工智能是人类的副驾驶，而不是独自掌控一切。只要组织在实施人工智能时能够牢记这一理念，他们就能够在人工智能改变医疗保健的时代取得成功。