科多索（Codoxo）创始人兼首席执行官穆希尔·艾哈迈德博士专访

穆希尔·艾哈迈德博士，科多索（Codoxo）创始人兼首席执行官，是一位专注于应用人工智能解决医疗保健系统中系统性低效的技术专家和企业家。他在佐治亚理工学院（Georgia Institute of Technology）攻读博士学位期间，基于自己的研究成果创立了科多索公司，并开发了专利的人工智能方法来检测医疗索赔中的欺诈、浪费和滥用。在他的领导下，公司已经发展成为一家提供人工智能驱动的支付诚信解决方案的供应商，帮助医疗保健组织更早地识别风险，并从被动审计转向主动成本控制。早期在维里信（VeriSign (VRSN ) ）担任安全情报工作的经历使他专注于使用高级分析和机器学习来揭示复杂数据环境中的隐藏模式。

科多索是一家医疗保健人工智能公司，专注于通过其法医人工智能平台减少医疗保健系统中的低效和不必要的成本。该平台使用专利算法和机器学习来分析大量的索赔数据，识别可疑行为、账单异常和新出现的欺诈模式，早于传统系统。通过使医疗保健支付者、政府机构和药店福利经理能够在索赔过程之前或期间进行干预，科多索使行业向主动支付诚信转变，而不是仅仅依赖追溯性回收。其更广泛的统一成本控制平台集成了数据挖掘、提供者教育、审计工作流程和案例管理，帮助组织提高准确性、减少过度付款和简化运营，同时解决每年因欺诈、浪费和滥用而损失的数百亿美元的问题。

您在佐治亚理工学院（Georgia Tech）攻读博士学位期间，研究了医疗保健欺诈检测。是什么让您相信人工智能可以从根本上改变医疗保健系统中欺诈、浪费和滥用的检测方式？

我并不是因为某一刻的顿悟，而是因为意识到现有的方法有多么糟糕。美国的医疗保健欺诈每年造成约3300亿美元的损失，这比该国其他所有保险欺诈类型的总和还多。然而，主导的检测方法只能捕获它们已经被训练去识别的模式。即使人工智能进入了这一领域，大多数方法也是被动的，基于已知欺诈方案的模式匹配，而不是发现未知的模式。让我意识到这一点的时刻是，当我意识到欺诈不是一个静态问题。坏人会适应。他们会学习触发警报的方法，并绕过它。基于固定的规则的系统天生总是落后一步。

人工智能提供了一个能力，可以发现没有人预先编程的模式。在我在佐治亚理工学院的博士论文中，我正在构建可以查看提供者的整个索赔历史、识别行为异常并连接人工分析师或规则引擎永远不会链接的信号的模型。美国政府的科学和技术咨询机构JASON咨询组认识到，这项工作解决了医疗数据用于支付诚信方面的真正结构性差距。这告诉我，这个问题足够严重，值得围绕它建立一家公司。

驱使我当时的核心信念与现在驱使我们在科多索建设的信念相同：医疗索赔数据包含您需要捕获欺诈的信号，但您只能使用能够查看整个图景的AI来提取它，而不是检查方框。

医疗保健欺诈长期以来一直是一个数十亿美元的问题，但生成式人工智能似乎正在显著加剧这一问题。生成式人工智能能够产生令人信服的临床文档和诊断图像的工具的兴起如何改变了健康保险公司和支付诚信团队的威胁格局？

它从根本上改变了威胁格局，行业还没有完全吸收这种转变的重要性。旧的文档欺诈模式需要手动努力。一个实施欺诈的人必须伪造笔记，一次一个，修改图像，并创建看似合理的记录。这种摩擦在任何计划中都创建了一个自然的天花板。生成式人工智能消除了这个天花板。今天，任何人都可以要求一个大型语言模型在五分钟内生成50份焦虑治疗会话记录。这些记录将使用适当的临床术语，遵循一个合理的叙事结构，并在内部保持一致。大多数欺诈检测系统从未被设计为评估文档是否真实或合成。它们被设计为检查是否正确应用了账单代码，标记已知模式，并与现有的欺诈签名进行匹配。因此，合成文档直接通过了这些系统，甚至通过了一些声称具有人工智能组件的系统。

我们还看到这种情况出现在诊断成像中。一个合法的X光片可以用作生成数十个AI生成变体的种子，每个变体都提交给一个不同的虚假患者。一个没有图像比较能力的系统看到50个看似独特的病例，但实际上是一个真正的扫描和49个合成副本。威胁格局已经从孤立的坏人转变为可以运行可扩展、可重复的计划的人，并且几乎不需要任何技术专长。

传统的欺诈检测系统依赖于基于规则的模型和手动审查。为什么这些方法在处理AI生成的医疗记录或操纵的诊断图像时变得越来越无效？

大多数欺诈检测方法，无论是基于规则还是早期的人工智能，目前都基于一个基本的有缺陷的假设：所有进入系统的文档都是由人类按照正常的临床流程创建的。一旦这个假设被打破，整个检测方法也就随之崩溃了。

规则引擎可以标记不可能的代码组合，提供者账单超过一天的小时数，或对已故患者进行的程序。这些都是真正的、有用的捕获。但是，基于规则的逻辑无法查看进展记录并确定它是由实际看到患者的临床医生编写的还是由从未行医的人工智能模型生成的。两种输出可以在结构上是相同的。

手动审查有相同的天花板。研究表明，即使人们被告知存在一个深度伪造品，并且他们正在积极寻找它，只有大约34%的人能够识别它。正在审查一堆进展记录的SIU调查员没有专门的法医培训来检测合成文本，也没有图像比较工具来发现克隆扫描，而且他们一天中没有足够的时间来对每个索赔进行这种级别的审查。数量问题本身使得全面手动审查变得不可能，而且这是在生成式人工智能开始加速欺诈文档的数量和复杂性之前就是如此。

还有一个新出现的威胁，我认为被低估了：所谓的特洛伊木马深度伪造引擎。这些是专门设计来破坏检测软件的病毒式代理，通过图像分析破坏或恶意提示重新工程等策略。所以，敌对动态不仅仅是欺诈者生成更好的伪造品。在某些情况下，他们积极地试图破坏被用来抓住他们的工具。这种军备竞赛动态是任何静态检测方法，无论是基于规则还是固定的AI模型，总会落后的原因之一。防御必须像进攻一样适应性强。

科多索最近推出了Deepfake Detection，以应对这一新出现的风险。在高层次上，该技术如何分析医疗文档和图像，以确定内容是否可能由AI生成或操纵？

核心设计原则是，我们专门为医疗保健文档而不是其他行业或用例构建了Deepfake Detection。该模型是在医疗保健特定信号上进行训练的，而不是从其他行业或用例中改编的。这一区别很重要，因为医疗记录或诊断图像中指示合成内容的信号与其他领域中的信号不同。

从高层次上讲，该系统分析医疗文档和图像以及整个索赔背景，并在几秒钟内完成。SIU调查员上传可疑文档时，AI会同时在多个维度上运行分析。它会查找合成或操纵内容的指标，检查整个索赔历史中的克隆和复制模式，并评估文档与提供者历史模式之间的行为一致性。

值得注意的是，该系统可以处理的格式范围。它可以处理PDF、Word和XML格式的文本文档、电子表格、医疗图像，甚至手写笔记。这在实践中很重要，因为欺诈文档不会以单一整洁的格式到达，而一个只能覆盖SIU团队收到的部分内容的检测系统会为精明的欺诈者留下缺口。

从所有这些分析中，系统会生成一个从0到100的风险评分，并附有详细的解释，因此调查员可以了解哪些信号驱动了评分。每一步的目标都是产生可操作的输出，而不是仅仅产生警报，并且比更广泛的系统更快、更准确地做到这一点。速度很重要，因为改变欺诈经济学的唯一干预点是在付款之前。

您的平台强调了克隆检测、部分AI生成识别和行为跨引用等功能。您能否带我们了解这些信号如何组合以产生对调查员有意义的风险评分？

每个功能都针对不同的欺诈模式，风险评分反映了它们在特定情况下的交互作用。

克隆和复制检测解决了单个真实记录被复制到多个虚假患者的情景。没有AI，这很难捕获，因为变体可以足够微妙，以至于没有单个文档看起来可疑。模式只在比较整个索赔人群时才变得可见。我们的系统可以表明一组看似独特的记录实际上是来自一个共同源的衍生品。

部分AI生成检测很重要，因为精明的欺诈者并不总是从头开始伪造整个记录。更常见、更难以捕捉的模式是混合，即将合法患者记录与AI生成的额外服务或程序相结合。真实部分使文档看起来可信，但添加的部分代表了从未提供的护理服务的索赔。我们的系统专门设计来识别这些实例。

行为跨引用将被审查的文档连接到提供者的整个索赔历史。如果文档呈现出与提供者历史记录一致的临床叙述，或者支持记录的数量和模式突然偏离基线，则这些不一致性是信号。单独来看，它们没有结论。一起，权衡并在风险评分输出中解释，它们为调查员提供了一个有意义的起点，这需要手动花费数小时或数天才能开发。使其与仅标记AI生成内容的系统不同的，是信号的组合。内容分析单独无法捕获混合文档。行为分析单独无法捕获第一次实施欺诈且没有先前模式的欺诈者。同时处理所有三个信号层，花费数秒钟，是捕获其他AI系统无法捕获的内容的关键。

从您的角度来看，未来几年保险公司和监管机构应该关注哪些最令人担忧的深度伪造启用的医疗保健欺诈计划？

让我最担忧的场景是那些将规模与可信度结合起来的方式很难追踪的场景。

行为健康是一个真正的漏洞。治疗服务的文档主要是叙述性的，包括会议记录、治疗计划和进展摘要。没有实验室值可以交叉引用，也没有图像可以检查。一个有通用语言模型的欺诈提供者可以以惊人的数量生成临床上合理的行为健康文档，而唯一实用的检测方法是使用可以评估文档是否显示合成生成的语言和结构特征的AI。

诊断成像欺诈是另一个我密切关注的领域。免费和易于获取的AI工具现在可以从单个种子图像生成现实的医疗成像变体。随着这些工具的改进，合成输出将变得更加难以与真实扫描区分，即使没有专门的图像法医能力，支付者也将在信任中运行，他们收到的图像是真实的。

还有一个令人担忧的身份和资格认证欺诈，即AI生成的文档支持欺诈性提供者注册或对从未进行的服务进行事先授权。这些计划更难以检测，因为欺诈嵌入在入职流程中，而不是在索赔本身中，一旦它出现在账单数据中，损害已经造成了。

医疗索赔通常涉及大量文档和支持证据。AI系统如何能够快速评估这些信息以在付款之前停止欺诈索赔？

速度实际上是一个核心设计要求，而不是一个很好的特性。Deepfake Detection在实践中只有在以索赔流水线的速度运行时才有用。如果分析需要几个小时或需要人工启动审查队列，您已经错过了预付窗口，并且您回到执行追回工作，等待资金离开系统之后。

我们的系统旨在几秒钟内完成分析。当文档被提交进行审查时，AI同时运行其评估。合成内容分析、复制检查和行为跨引用同时发生，而不是按顺序发生。输出是一个带有详细解释的风险评分，因此调查员不需要解释原始信号。他们获得了一个优先的、可操作的结果。并行架构是我们能够更快、更准确地做到这一点的原因之一。同时运行所有三个信号层意味着风险评分反映了案件的完整图景，而不仅仅是第一个出现的标志。

更广泛的观点是，我们在科多索的所有工作中推动的转变，我们称之为Point Zero，即将支付诚信干预尽可能推向上游。在付款之前捕获欺诈索赔比事后追回过度付款要高效得多。追回是昂贵的、缓慢的，并且往往是不完整的。预防在文档和证据验证阶段改变了整个问题的经济学。

欺诈检测工具必须能够被调查员、审计员和监管机构解释和信任。您如何确保AI生成的风险评分可以被特殊调查单位和支付诚信团队理解和信任？

可解释性在这个领域不是可选的。如果SIU调查员要采取风险评分，无论是阻止索赔、打开案例还是建立起诉的推荐，他们都需要能够阐明系统发现了什么以及为什么。一个黑盒输出说“高风险”在一个具有法律和监管责任的工作流程中不是一个有用的工具。

我们系统生成的每个风险评分都包括特定的欺诈指标，可以包括驱动评分的信号、识别的模式和发现的不一致性。调查员可以从评分跟踪到证据。这种具体性之所以可能，是因为底层检测是专门为医疗保健文档设计的。

我们还建立了自定义提示功能，允许调查员根据特定的调查场景和独特的欺诈模式定制分析。这在实践中很重要，因为它意味着系统不是运行一次性分析并要求调查员解释通用输出。他们可以根据特定案例的需求塑造调查，这使得结果更有用，也更容易在审计或法律程序中解释。

在监管方面，OIG、CMS和州机构正在增加对组织在欺诈预防中使用AI的审查。能够证明检测方法是可解释和可审计的，不仅是一种好的做法，也是负责任的部署的一个组成部分，可以降低合规风险。

随着生成式人工智能的不断改进，欺诈者可能会变得更加狡猾。科多索如何设计其模型，以便在新型合成医疗文档出现时不断适应？

挑战在于欺诈具有对抗性。随着检测的改进，另一方的策略也会演变。任何一次性训练并部署的系统都会随着时间的推移而恶化，因为欺诈者会学习触发它并调整。这种问题使得任何静态检测方法，无论是基于规则还是固定的AI模型，都变得不充分。生成式人工智能的复杂性并不重要，如果底层架构无法跟上威胁的步伐。

我们的方法是将检测视为一个不断更新的能力，而不是一个固定的产品。随着新型欺诈模式出现在系统中，并且人工智能生成技术的进步，这些模式反馈到模型的改进中。该系统的设计目的是随着威胁的进化而变得更好地识别它，而不仅仅是识别在部署时存在的威胁。考虑到生成式人工智能的进步速度以及欺诈者尝试新方法的速度（包括一些旨在破坏检测的对抗性技术，如特洛伊木马深度伪造引擎），这是必要的。这将是一场持续的竞争。没有最终解决的状态。我们做出的承诺是保持检测能力与威胁同步，我们的架构使得这一点在规模上成为可能。

展望未来，您是否认为深度伪造检测将成为医疗保健基础设施的标准组成部分，类似于金融领域的反洗钱系统，还是行业需要对医疗数据的信任和验证采取完全新的方法？

我认为Deepfake Detection将成为标准基础设施，其时间表比大多数人预期的要短。在反洗钱框架成为金融服务的标准之前，该行业也严重依赖基于规则的检测和手动审查。转变发生在威胁达到使反应性检测显然不充分的规模时，并且监管环境使得金融机构拥有系统化、不断更新的控制成为期望。医疗保健即将迎来类似的转折点。

已经发生的事情是，目前正在部署深度伪造检测的支付者正在这样做，因为威胁是真实的和迫在眉睫的，而不是因为监管要求这样做。随着早期部署产生的损失被防止的证据，随着AI生成的欺诈计划在执法行动和公开报告中变得更加可见，整个行业的期望将会扩大。

展望未来，随着生成式人工智能的不断改进，行业可能需要重新思考如何在创建时而不是之后验证文档的真实性。这可能意味着在电子健康记录（EHR）级别对临床记录进行加密认证，或者在文档工作流程中集成提供者身份验证，或者其他使文档起源可追溯的机制。索赔级别的检测是对当前威胁的必要响应。但是，持久的解决方案可能需要将验证构建到医疗记录创建和传输的基础设施中。

感谢您接受这次精彩的采访，希望了解更多的读者可以访问科多索。