何时应避免在医疗保健中使用人工智能

每当一种新技术出现在一个行业时，人们往往会把它当作行业所有问题的解决方案。医疗保健中的人工智能就是一个很好的例子。随着技术的不断进步，它已经被应用于药物开发、护理协调和报销等领域。医疗保健中有许多合理的使用人工智能的场景，在这些场景中，人工智能比任何现有的替代方案都要好得多。

然而，人工智能——就目前而言——只擅长某些任务，例如理解大量数据并根据明确的规则做出判断。在其他情况下，特别是需要额外上下文来做出正确决定的情况下，不适合使用人工智能。让我们来探讨一些例子。

拒绝索赔和护理

无论是索赔还是护理，拒绝都是复杂的决定，太重要了，不能仅由人工智能来处理。当拒绝索赔或护理时，有一个明显的道德义务，要以极大的谨慎来做出这个决定，根据人工智能当前的能力，这需要人类的输入。

除了道德因素之外，医疗计划也会因过度依赖人工智能来做出拒绝决定而将自己置于风险之中。医疗计划可能会、并且正在面临因滥用人工智能拒绝索赔而引起的诉讼，诉讼指控医疗计划没有满足最低的医生审查要求，因为使用了人工智能而不是医生。

依赖过去的决定

仅仅依靠人工智能根据其以前的决定来做出决定，有一个明显的缺陷：过去的一个错误决定将会影响其他决定。另外，由于政策规则通常分布在系统中或由人类不完善地编码，人工智能系统可能会采用并延续对这些政策的不准确理解。为了避免这种情况，组织需要创建一个单一的政策真相来源，以便人工智能可以参考和学习一个可靠的数据集。

建立在遗留系统之上

作为一项相对较新的技术，人工智能带来了可能性，许多医疗计划的数据科学团队渴望通过利用现有企业平台中已建成的人工智能工具来快速利用这种可能性。问题在于，医疗索赔流程非常复杂，企业平台通常不理解这些复杂性。将人工智能放在这些遗留平台上作为一个通用解决方案（不考虑所有影响索赔裁定的因素），最终会造成混乱和不准确，而不是创建更高效的流程。

依赖旧数据

人工智能的一个最大优势是，它可以在学习过程中变得越来越好，但这种学习只能在有一个一致的反馈循环来帮助人工智能了解它做错了什么并相应地调整时才会发生。这种反馈不仅必须是一致的，而且必须基于干净、准确的数据。毕竟，人工智能的好坏取决于它学习的数据。

何时在医疗保健中使用人工智能是有益的

在一个行业中，输出结果如此重要的领域，使用人工智能当然需要谨慎，但这并不意味着没有人工智能合理使用的场景。

首先，医疗保健中没有数据短缺(考虑到一个人的一份医疗记录可能有数千页)，数据中的模式可以告诉我们很多关于诊断疾病、正确裁定索赔等方面的信息。这是人工智能的优势所在，人工智能可以根据这些模式寻找规律并提出建议，供人类审查人员参考。

人工智能在另一个领域也表现出色，即编目和摄取管理索赔支付的政策和规则。生成式人工智能（GenAI）可以将这些政策内容从各种格式转换为机器可读的代码，并可以在所有患者索赔中一致地应用。GenAI还可以用于总结信息并以人类易于阅读的格式显示。

所有这些使用场景中的关键线索是，人工智能被用作人类的协助工具，而不是独立运行。只要组织能够在实施人工智能时牢记这一理念，他们就将能够在人工智能转变医疗保健的这个时代中取得成功。