Dr. Musheer Ahmed, PhD, Fondateur et PDG de Codoxo – Série d’entretiens

Dr. Musheer Ahmed, PhD, Fondateur et PDG de Codoxo est un technologue et entrepreneur axé sur l’application de l’intelligence artificielle pour résoudre les incohérences systémiques dans les soins de santé. Il a fondé Codoxo sur la base de recherches développées pendant son doctorat à l’Institut de technologie de Géorgie, où il a construit les fondements d’une approche brevetée de détection de la fraude, du gaspillage et de l’abus dans les réclamations médicales. Sous sa direction, l’entreprise est devenue un fournisseur de solutions de paiement intégrité basées sur l’IA, aidant les organisations de soins de santé à identifier les risques plus tôt et à passer d’audits réactifs à une containment des coûts proactif. Son expérience antérieure dans le renseignement de sécurité chez VeriSign (VRSN ), où il a travaillé sur l’identification des menaces cybernétiques émergentes et des vulnérabilités, a façonné son accent sur l’utilisation d’analyses avancées et d’apprentissage automatique pour découvrir des modèles cachés dans des environnements de données complexes.

Codoxo est une entreprise de soins de santé basée sur l’IA qui se concentre sur la réduction des incohérences et des coûts inutiles dans l’ensemble du système de soins de santé grâce à sa plate-forme Forensic AI. La plate-forme utilise des algorithmes brevetés et l’apprentissage automatique pour analyser de vastes volumes de données de réclamations, en identifiant des comportements suspects, des anomalies de facturation et des modèles de fraude émergents plus tôt que les systèmes traditionnels. En permettant aux payeurs de soins de santé, aux agences gouvernementales et aux gestionnaires de bénéfices pharmaceutiques d’intervenir avant ou pendant le processus de réclamation, Codoxo déplace l’industrie vers une intégrité de paiement proactive plutôt que vers une récupération rétrospective. Sa plate-forme de containment des coûts unifiée plus large intègre l’extraction de données, l’éducation des fournisseurs, les flux de travail d’audit et la gestion des affaires, aidant les organisations à améliorer la précision, à réduire les paiements excessifs et à rationaliser les opérations tout en abordant des centaines de milliards de dollars perdus annuellement en raison de la fraude, du gaspillage et de l’abus.

Vous avez fondé Codoxo après avoir mené des recherches sur la détection de la fraude dans les soins de santé pendant votre doctorat à Georgia Tech. Qu’est-ce qui vous a d’abord convaincu que l’IA pouvait fondamentalement changer la façon dont la fraude, le gaspillage et l’abus sont détectés dans les systèmes de soins de santé ?

Je suis devenu convaincu non par un moment unique, mais en confrontant à quel point l’approche existante échouait. La fraude dans les soins de santé aux États-Unis représente quelque part autour de 330 milliards de dollars perdus annuellement. C’est plus que toute autre forme de fraude d’assurance dans le pays combinée, et pourtant les méthodes de détection dominantes ne pouvaient attraper que ce pour quoi elles avaient été formées. Même lorsque l’IA est entrée dans le tableau, la plupart des approches étaient réactives, correspondant à des schémas de fraude connus plutôt que de faire surface des inconnus. Le moment qui s’est cristallisé pour moi a été de réaliser que la fraude n’est pas un problème statique. Les acteurs malveillants s’adaptent. Ils apprennent ce qui déclenche un signal d’alarme et contournent. Un système basé sur des règles fixes est, par définition, toujours en retard.

La capacité de l’IA à faire surface des modèles que personne n’a pensé à programmer à l’avance est ce qu’elle offre. Pendant mon travail de thèse à Georgia Tech, j’ai construit des modèles qui pouvaient regarder l’ensemble de l’historique des réclamations d’un fournisseur, identifier des anomalies de comportement et relier des signaux que ni un analyste humain ni un moteur de règles ne pourraient relier. Le groupe consultatif JASON, qui conseille le gouvernement américain sur la science et la technologie, a reconnu ce travail comme abordant de véritables lacunes structurelles dans l’utilisation des données de santé pour l’intégrité des paiements. Cette reconnaissance m’a dit que le problème était suffisamment grave pour construire une entreprise autour.

La conviction fondamentale qui me motivait alors est la même qui pousse ce que nous construisons à Codoxo maintenant : les données de réclamations médicales contiennent le signal dont vous avez besoin pour attraper la fraude, mais vous ne pouvez l’extraire qu’avec une IA qui peut regarder l’image complète, rapidement et avec précision, plutôt que de vérifier les cases.

La fraude dans les soins de santé a longtemps été un problème multibillonnnaire, mais l’IA générative semble l’accélérer de manière spectaculaire. Comment l’émergence d’outils capables de produire une documentation clinique convaincante et des images diagnostiques a-t-elle changé le paysage des menaces pour les assureurs et les équipes d’intégrité des paiements ?

Elle l’a changé de manière fondamentale, et l’industrie n’a pas encore pleinement compris à quel point ce déplacement est important. Le vieux modèle de fraude documentaire nécessitait un effort manuel. Un acteur malveillant commettant une fraude devait fabriquer des notes une à une, altérer des images individuellement et créer des dossiers qui étaient plausibles pour survivre à l’examen. Cette friction créait un plafond naturel pour l’échelle de tout schéma.

L’IA générative a supprimé ce plafond. Aujourd’hui, n’importe qui peut demander à un grand modèle de langage de produire 50 notes de séance de thérapie pour le traitement de l’anxiété et les recevoir en moins de cinq minutes. Ces notes utiliseront une terminologie clinique appropriée, suivront une structure narrative plausible et sembleront internement cohérentes. La plupart des systèmes de détection de la fraude n’ont jamais été conçus pour évaluer si un document est authentique ou synthétique. Ils ont été conçus pour vérifier si les codes de facturation étaient appliqués correctement, signaler des modèles connus et correspondre aux signatures de fraude existantes. Ainsi, la documentation synthétique passe droit au travers, même devant certains systèmes qui prétendent avoir une composante IA.

Nous avons également vu cela avec l’imagerie diagnostique. Une seule radiographie légitime peut être utilisée comme graine pour des dizaines de variations générées par IA, chacune soumise sous un patient fabriqué différent. Un système sans capacité de comparaison d’images voit 50 cas uniques, mais la réalité est une vraie balayage et 49 duplications synthétiques. Le paysage des menaces est passé d’acteurs malveillants isolés à des personnes qui peuvent exécuter des schémas répétitifs et évolutifs avec presque aucune expertise technique requise.

De nombreuses systèmes de détection traditionnels de la fraude s’appuient sur des modèles basés sur des règles et des examens manuels. Pourquoi ces approches sont-elles de plus en plus inefficaces lorsqu’elles sont confrontées à des dossiers médicaux générés par IA ou à des images diagnostiques manipulées ?

La plupart des approches de détection de la fraude, qu’elles soient basées sur des règles ou sur une IA de première génération, fonctionnent sur une hypothèse fondamentalement erronée : que tous les documents entrant dans le système ont été créés par un humain suivant des processus cliniques normaux. Dès que cette hypothèse se brise, l’approche de détection entière se brise avec elle.

Un moteur de règles peut signaler une combinaison de codes impossible, un fournisseur facturant plus d’heures qu’il n’y en a dans une journée, ou une procédure effectuée sur un patient décédé. Ce sont tous des captures réelles et utiles. Mais la logique basée sur des règles ne peut pas regarder une note de progression et déterminer si elle a été écrite par un clinicien qui a réellement vu un patient ou générée par un modèle d’IA qui n’a jamais pratiqué la médecine. Les deux sorties peuvent être structurellement identiques.

L’examen manuel a le même plafond. Des études montrent qu’environ 34 % des personnes peuvent identifier un deepfake même lorsqu’elles ont été informées qu’il en est présent et qu’elles le recherchent activement. Un enquêteur SIU examinant une pile de notes de progression n’a pas de formation spécialisée en forensique pour détecter du texte synthétique, pas d’outils de comparaison d’images pour repérer des scans clonés et pas assez d’heures dans la journée pour effectuer ce niveau d’examen sur chaque réclamation. Le problème de volume seul rend l’examen manuel complet impossible, et cela était vrai avant que l’IA générative n’accélère le volume et la sophistication de la documentation frauduleuse.

Il y a également une menace émergente que je pense est sous-estimée : ce que les chercheurs appellent des moteurs de deepfake trojans. Ce sont des agents semblables à des virus conçus spécifiquement pour neutraliser les logiciels de détection, travaillant à travers des tactiques telles que la dérivation de l’analyse d’images ou la ré-ingénierie de prompts malveillants. Donc, la dynamique adverse n’est pas seulement des fraudeurs générant de meilleures fausses représentations. Dans certains cas, ils tentent activement de briser les outils construits pour les attraper. C’est pourquoi les approches de détection statiques, qu’elles soient basées sur des règles ou sur un modèle d’IA qui n’est pas conçu pour être mis à jour, seront toujours en retard. La défense doit être aussi adaptative que l’offense.

Codoxo a récemment lancé Deepfake Detection pour répondre à ce risque émergent. À un niveau élevé, comment la technologie analyse-t-elle les documents médicaux et les images pour déterminer si le contenu peut avoir été généré ou manipulé par IA ?

Le principe de conception de base est que nous avons construit Deepfake Detection spécifiquement pour la documentation des soins de santé, plutôt que de réutiliser un outil de détection d’IA généraliste dans un contexte clinique. Cela signifie que les modèles sont formés sur des signaux spécifiques aux soins de santé, et non adaptés d’outils construits pour d’autres industries ou d’autres cas d’utilisation. Cette distinction est importante car les signaux qui indiquent un contenu synthétique dans un dossier médical ou une image diagnostique sont différents des signaux pertinents dans d’autres domaines.

À un niveau élevé, le système analyse les documents médicaux et les images aux côtés du contexte complet de la réclamation, et il le fait en quelques secondes. Lorsqu’un enquêteur SIU télécharge une documentation suspecte, l’IA exécute une analyse sur plusieurs dimensions simultanément. Il recherche des indicateurs de contenu synthétique ou manipulé, vérifie les modèles de clonage et de duplication à travers l’histoire plus large des réclamations du payeur et évalue la cohérence comportementale entre la documentation et les modèles historiques du fournisseur.

Une chose à noter est la largeur des formats que le système peut traiter. Il gère les documents texte au format PDF, Word et XML, les tableurs, les images médicales et même les notes manuscrites. Cela compte dans la pratique parce que la documentation frauduleuse n’arrive pas dans un seul format bien rangé, et un système de détection qui ne couvre que certains des documents que les équipes SIU reçoivent laisse des lacunes que des fraudeurs sophistiqués finiront par trouver.

À partir de cette analyse, le système génère un score de risque sur une échelle de 0 à 100 avec des explications détaillées, afin que l’enquêteur comprenne exactement quels signaux ont conduit au score. L’objectif à chaque étape est de produire des sorties actionnables plutôt que des alertes, et de le faire plus rapidement et avec plus de précision qu’un système plus généralisé. La rapidité est importante parce que le seul point d’intervention qui change réellement les économies de la fraude est avant que le paiement soit effectué.

Votre plate-forme met en évidence des capacités telles que la détection de clonage, l’identification de la génération partielle d’IA et la référence croisée comportementale par rapport à l’historique des réclamations. Pouvez-vous nous expliquer comment ces signaux se combinent pour produire un score de risque significatif pour les enquêteurs ?

Chacune de ces capacités cible un modèle de fraude différent, et le score de risque reflète comment ils interagissent dans un cas spécifique.

La détection de clonage et de duplication s’adresse au scénario dans lequel un dossier authentique est répliqué à travers plusieurs patients fabriqués. Ce qui rend cela difficile à attraper sans IA est que les variations peuvent être suffisamment subtiles pour qu’aucun document ne paraisse suspect en isolation. Le modèle n’est visible que lorsque vous comparez l’ensemble de la population des réclamations. Notre système peut faire surface qu’un ensemble de dossiers qui apparaissent uniques en surface sont en fait des dérivés d’une source commune.

La détection de la génération partielle d’IA est importante car les fraudeurs sophistiqués ne fabriquent pas toujours des dossiers entiers à partir de zéro. Un modèle plus commun et plus difficile à attraper est le mélange, qui consiste à prendre un dossier de patient légitime et à utiliser l’IA pour ajouter des services ou des procédures fabriqués supplémentaires. Les sections authentiques rendent le document crédible, mais les sections ajoutées représentent des réclamations pour des soins qui n’ont jamais été fournis. Notre système est spécifiquement conçu pour trouver ces instances.

La référence croisée comportementale relie la documentation examinée à l’historique complet des réclamations du fournisseur. Si la documentation présente des récits cliniques qui sont incohérents avec la façon dont le fournisseur a historiquement documenté des cas similaires, ou si le volume et le modèle des dossiers de soutien dévient soudainement de la ligne de base, ces incohérences sont des signaux. Seuls, aucun d’entre eux n’est concluant. Ensemble, pondérés et expliqués dans la sortie du score de risque, ils donnent aux enquêteurs un point de départ significatif qui prendrait des heures ou des jours à développer manuellement. Ce qui distingue cela d’un système qui signale simplement du contenu généré par IA est la combinaison de signaux. L’analyse de contenu seule peut manquer des documents mélangés. L’analyse comportementale seule peut manquer un fraudeur pour la première fois sans modèle antérieur. C’est l’intersection de toutes les trois couches simultanément, traitées en quelques secondes, qui attrape ce que d’autres systèmes d’IA ne peuvent pas.

En regardant vers l’avenir, pensez-vous que la détection de deepfake deviendra un composant standard de l’infrastructure des soins de santé, similaire à la façon dont les systèmes anti-blanchiment d’argent fonctionnent dans les finances, ou l’industrie aura-t-elle besoin de nouvelles approches pour la confiance et la vérification des données médicales ?

Je pense que la détection de deepfake deviendra une infrastructure standard, et le calendrier pour cela est plus court que ce que la plupart des gens de l’industrie s’attendent. Avant que les cadres AML ne deviennent standard dans les services financiers, l’industrie s’appuyait fortement sur la détection basée sur des règles et l’examen manuel. Le déplacement s’est produit lorsque la menace a atteint une échelle qui a rendu clairement inadéquate la détection réactive, et lorsque l’environnement réglementaire a codifié l’attente que les institutions financières auraient des contrôles systématiques et mis à jour en permanence en place. Les soins de santé approchent d’un point d’inflexion similaire.

Ce qui se passe déjà, c’est que les payeurs qui déployeront la détection de deepfake maintenant le font parce que la menace est réelle et présente, et non parce que la réglementation l’exige. À mesure que ces déploiements initiaux génèrent des preuves des pertes prévenues, et à mesure que les schémas de fraude générés par IA deviennent plus visibles dans les actions d’application de la loi et les rapports publics, l’attente se généralisera à travers l’industrie.

En regardant vers l’avenir, à mesure que l’IA générative continue de s’améliorer, l’industrie peut devoir repenser comment l’authenticité de la documentation est établie au moment de la création plutôt que validée après coup. Cela pourrait signifier l’attestation cryptographique des dossiers cliniques au niveau du dossier électronique de santé, la vérification de l’identité du fournisseur intégrée dans le flux de travail de documentation, ou d’autres mécanismes qui rendent l’origine d’un document traçable de manière qu’elle ne l’est pas actuellement. La détection au niveau de la réclamation est une réponse nécessaire à la menace actuelle. Mais la solution durable peut nécessiter de construire une vérification plus profondément dans l’infrastructure de la façon dont les dossiers médicaux sont créés et transmis.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Codoxo.