Dr. Musheer Ahmed, PhD, Fondatore e Amministratore Delegato di Codoxo – Serie di Interviste

Dr. Musheer Ahmed, PhD, Fondatore e Amministratore Delegato di Codoxo è un tecnologo e imprenditore focalizzato sull’applicazione dell’intelligenza artificiale per risolvere le inefficienze sistemiche nel settore sanitario. Ha fondato Codoxo sulla base della ricerca sviluppata durante il suo dottorato di ricerca presso il Georgia Institute of Technology, dove ha costruito le basi di un approccio brevettato di rilevamento di frodi, sprechi e abusi nelle richieste di rimborso mediche. Sotto la sua guida, l’azienda è cresciuta fino a diventare un fornitore di soluzioni di integrità dei pagamenti basate sull’intelligenza artificiale, aiutando le organizzazioni sanitarie a identificare i rischi più precocemente e a passare da audit reattivi a contenimento proattivo dei costi. La sua precedente esperienza nel settore della sicurezza presso VeriSign (VRSN ), dove ha lavorato sull’identificazione di minacce informatiche emergenti e vulnerabilità, ha plasmato la sua attenzione sull’uso di analisi avanzate e apprendimento automatico per scoprire modelli nascosti in ambienti di dati complessi.

Codoxo è un’azienda di intelligenza artificiale sanitaria focalizzata sulla riduzione delle inefficienze e dei costi non necessari in tutto il sistema sanitario attraverso la sua Piattaforma di Intelligenza Forense. La piattaforma utilizza algoritmi brevettati e apprendimento automatico per analizzare grandi volumi di dati di richiesta di rimborso, identificando comportamenti sospetti, anomalie di fatturazione e schemi di frode emergenti più precocemente dei sistemi tradizionali. Abilitando i pagatori sanitari, le agenzie governative e i gestori di benefit farmaceutici a intervenire prima o durante il processo di richiesta di rimborso, Codoxo sposta l’industria verso un’integrità dei pagamenti proattiva piuttosto che un recupero retroattivo. La sua piattaforma di contenimento dei costi unificata integra data mining, educazione dei fornitori, flussi di lavoro di audit e gestione dei casi, aiutando le organizzazioni a migliorare l’accuratezza, ridurre i pagamenti eccessivi e semplificare le operazioni, affrontando una stima di centinaia di miliardi di dollari persi annualmente a causa di frodi, sprechi e abusi.

Ha fondato Codoxo dopo aver condotto ricerche sulla rilevazione di frodi sanitarie durante il suo dottorato di ricerca al Georgia Tech. Cosa l’ha convinto per la prima volta che l’intelligenza artificiale potesse cambiare radicalmente il modo in cui vengono rilevate le frodi, gli sprechi e gli abusi nel sistema sanitario?

Non sono stato convinto da un singolo momento, ma dal confronto con quanto male stava funzionando l’approccio esistente. Le frodi sanitarie negli Stati Uniti rappresentano circa 330 miliardi di dollari persi annualmente. Questo è più di ogni altra forma di frode assicurativa nel paese, eppure i metodi di rilevamento dominanti potevano solo catturare ciò per cui erano stati addestrati. Anche quando l’intelligenza artificiale è entrata in scena, la maggior parte degli approcci era reattiva, basata sul riconoscimento di modelli rispetto a schemi di frode noti, piuttosto che individuare quelli sconosciuti. Il momento che mi ha fatto capire è stato quando ho realizzato che la frode non è un problema statico. I cattivi attori si adattano. Imparano cosa scatena un segnale di allarme e lo aggirano. Un sistema basato su regole fisse è, per definizione, sempre in ritardo.

L’intelligenza artificiale offre la capacità di individuare modelli che nessuno ha pensato di programmare in anticipo. Durante il mio lavoro di tesi al Georgia Tech, stavo costruendo modelli che potevano esaminare l’intera storia delle richieste di rimborso di un fornitore, identificare anomalie comportamentali e collegare segnali che un analista umano o un motore di regole non avrebbe mai collegato insieme. Il gruppo consultivo JASON, che consiglia il governo degli Stati Uniti su scienza e tecnologia, ha riconosciuto quel lavoro come un contributo reale alle lacune strutturali nell’uso dei dati sanitari per l’integrità dei pagamenti. Quel riconoscimento mi ha detto che il problema era abbastanza grave da costruire un’azienda intorno.

La convinzione fondamentale che mi ha spinto allora è la stessa che guida ciò che stiamo costruendo a Codoxo ora: i dati delle richieste di rimborso sanitario contengono il segnale necessario per catturare le frodi, ma è possibile estrarlo solo con un’intelligenza artificiale che possa esaminare l’intero quadro, rapidamente e con precisione, piuttosto che controllare le caselle.

Le frodi sanitarie sono da tempo un problema da miliardi di dollari, ma l’intelligenza artificiale generativa sembra accelerarle drasticamente. Come è cambiato il panorama delle minacce per gli assicuratori sanitari e i team di integrità dei pagamenti?

È cambiato in modo fondamentale, e l’industria non ha ancora pienamente assorbito quanto significativa sia questa trasformazione. Il vecchio modello di documentazione fraudolenta richiedeva uno sforzo manuale. Un cattivo attore che commetteva frodi doveva fabbricare appunti uno per uno, alterare immagini individualmente e creare record che fossero plausibili abbastanza da sopravvivere all’esame. Quella frizione creava un tetto naturale sulla scala di qualsiasi schema.

L’intelligenza artificiale generativa ha rimosso quel tetto. Oggi, chiunque può chiedere a un modello linguistico di grandi dimensioni di produrre 50 appunti di sedute di terapia per il trattamento dell’ansia e riceverli in meno di cinque minuti. Quegli appunti utilizzeranno una terminologia clinica appropriata, seguiranno una struttura narrativa plausibile e appariranno coerenti all’interno. La maggior parte dei sistemi di rilevamento di frodi non è stata progettata per valutare se un documento sia autentico o sintetico. Sono stati progettati per controllare se i codici di fatturazione sono stati applicati correttamente, segnalare modelli noti e confrontare con firme di frode esistenti. Quindi, la documentazione sintetica passa direttamente, anche oltre alcuni sistemi che affermano di avere un componente di intelligenza artificiale.

Abbiamo anche visto questo con l’imaging diagnostico. Una singola radiografia legittima può essere utilizzata come seme per dozzine di variazioni generate da intelligenza artificiale, ciascuna presentata sotto un paziente diverso fabbricato. Un sistema senza capacità di confronto di immagini vede 50 casi unici, ma la realtà è una sola scansione reale e 49 duplicati sintetici. Il panorama delle minacce è passato da attori cattivi isolati a persone che possono eseguire schemi ripetibili e scalabili con quasi nessuna competenza tecnica richiesta.

Molti sistemi di rilevamento di frodi tradizionali si basano su modelli basati su regole e revisione manuale. Perché questi approcci sono sempre più inefficaci quando si tratta di registri medici generati da intelligenza artificiale o immagini diagnostiche manipolate?

La maggior parte degli approcci di rilevamento di frodi, sia basati su regole che su intelligenza artificiale di generazione precedente, operano su un’ipotesi fondamentalmente errata al momento: che tutta la documentazione che entra nel sistema sia stata creata da un essere umano seguendo processi clinici normali. Una volta che quell’ipotesi si rompe, l’intero approccio di rilevamento si rompe con essa.

Un motore di regole può segnalare una combinazione di codici impossibile, un fornitore che fattura per più ore di quelle che esistono in una giornata, o una procedura eseguita su un paziente deceduto. Questi sono tutti catch reali e utili. Tuttavia, la logica basata su regole non può esaminare un’appunti di progressi e determinare se sia stato scritto da un clinico che ha effettivamente visto un paziente o generato da un modello di intelligenza artificiale che non ha mai praticato la medicina. Le due uscite possono essere strutturalmente identiche.

La revisione manuale ha lo stesso tetto. Gli studi mostrano che solo circa il 34% delle persone possono identificare un deepfake anche quando viene detto loro che è presente e stanno attivamente cercando. Un investigatore SIU che esamina un mucchio di appunti di progressi non ha una formazione forense specializzata per rilevare testo sintetico, non ha strumenti di confronto di immagini per rilevare scansioni clonate e non ha abbastanza ore in una giornata per condurre quel livello di scrutinio su ogni richiesta di rimborso. Il problema del volume rende impossibile una revisione manuale completa, e questo era vero prima che l’intelligenza artificiale generativa iniziasse ad accelerare il volume e la sofisticazione della documentazione fraudolenta.

C’è anche una minaccia emergente che ritengo sottovalutata: ciò che i ricercatori chiamano motori di deepfake trojan. Questi sono agenti simili a virus progettati specificamente per neutralizzare il software di rilevamento, lavorando attraverso tattiche come il deragliamento dell’analisi delle immagini o la rielaborazione delle promesse maligne. Quindi, la dinamica avversariale non è solo quella dei truffatori che generano falsi migliori. In alcuni casi, stanno attivamente cercando di rompere gli strumenti costruiti per catturarli. Quella dinamica di corsa agli armamenti è parte del motivo per cui gli approcci di rilevamento statici, sia basati su regole che su un modello di intelligenza artificiale fisso, saranno sempre in ritardo. La difesa deve essere altrettanto adattabile quanto l’offesa.

Codoxo ha recentemente lanciato Deepfake Detection per affrontare questo rischio emergente. A livello alto, come funziona la tecnologia nell’analizzare la documentazione medica e le immagini per determinare se il contenuto possa essere stato generato o manipolato da intelligenza artificiale?

Il principio di progettazione fondamentale è che abbiamo costruito Deepfake Detection specificamente per la documentazione sanitaria, piuttosto che adattare uno strumento di rilevamento generico di intelligenza artificiale in un contesto clinico. Ciò significa che i modelli sono stati addestrati su segnali specifici del settore sanitario, non adattati da strumenti costruiti per altri settori o casi d’uso. Quella distinzione è importante perché i segnali che indicano contenuto sintetico in un record medico o un’immagine diagnostica sono diversi dai segnali rilevanti in altri domini.

A livello alto, il sistema analizza la documentazione medica e le immagini insieme al contesto completo della richiesta di rimborso, e lo fa in pochi secondi. Quando un investigatore SIU carica la documentazione sospetta, l’intelligenza artificiale esegue l’analisi su più dimensioni simultaneamente. Cerca indicatori di contenuto sintetico o manipolato, controlla modelli di clonazione e duplicazione nell’intera storia delle richieste di rimborso del pagatore e valuta la coerenza comportamentale tra la documentazione e i modelli storici del fornitore.

Una cosa da notare è la vastità dei formati che il sistema può gestire. Gestisce documenti di testo in PDF, Word e XML, fogli di calcolo, immagini mediche e persino appunti scritti a mano. Ciò è importante nella pratica perché la documentazione fraudolenta non arriva in un unico formato ordinato, e un sistema di rilevamento che copre solo parte di ciò che i team SIU ricevono lascia lacune che i truffatori sofisticati alla fine troveranno.

Da tutta quell’analisi, il sistema genera un punteggio di rischio su una scala da 0 a 100 con spiegazioni dettagliate, in modo che l’investigatore capisca esattamente quali segnali hanno guidato il punteggio. L’obiettivo in ogni fase è produrre output azionabili piuttosto che semplici avvisi, e farlo più velocemente e con maggiore accuratezza di un sistema più generico. La velocità è importante perché l’unico punto di intervento che cambia significativamente l’economia della frode è prima che il pagamento sia effettuato.

La sua piattaforma evidenzia capacità come il rilevamento di clonazione, l’identificazione parziale della generazione di intelligenza artificiale e il riferimento incrociato comportamentale rispetto alla storia delle richieste di rimborso. Potrebbe spiegarci come questi segnali si combinano per produrre un punteggio di rischio significativo per gli investigatori?

Ognuna di quelle capacità si concentra su un modello di frode diverso, e il punteggio di rischio riflette come interagiscono in un caso specifico.

Il rilevamento di clonazione e duplicazione affronta lo scenario in cui un record autentico viene replicato su più pazienti fabbricati. Ciò che rende difficile catturarlo senza intelligenza artificiale è che le variazioni possono essere abbastanza sottili che nessun documento sembra sospetto in isolamento. Il modello diventa visibile solo quando si confronta l’intera popolazione di richieste di rimborso. Il nostro sistema può individuare che un set di record che appaiono unici in superficie sono in realtà derivati da una fonte comune.

L’identificazione parziale della generazione di intelligenza artificiale è importante perché i truffatori sofisticati non stanno sempre fabbricando interi record da zero. Un modello più comune e difficile da catturare è il blending, che significa prendere un record di paziente legittimo e utilizzare l’intelligenza artificiale per aggiungere servizi o procedure di cura fabbricate. Le sezioni autentiche fanno apparire il documento credibile, ma le sezioni aggiunte rappresentano richieste di cure che non sono state effettivamente fornite. Il nostro sistema è specificamente tarato per trovare queste istanze.

Il riferimento incrociato comportamentale collega la documentazione in esame alla storia completa delle richieste di rimborso del fornitore. Se la documentazione presenta narrazioni cliniche che sono incoerenti con il modo in cui quel fornitore ha storicamente documentato casi simili, o se il volume e il modello dei record di supporto si discostano improvvisamente dal baseline, quelle incoerenze sono segnali. Da soli, nessuno di essi è conclusivo. Insieme, ponderati ed esplicitati nel punteggio di rischio, danno agli investigatori un punto di partenza significativo che richiederebbe ore o giorni per sviluppare manualmente. Ciò che rende questo diverso da un sistema che semplicemente segnala contenuto generato da intelligenza artificiale è la combinazione di segnali. L’analisi del contenuto da sola può perdere documenti ibridi. L’analisi comportamentale da sola può perdere un truffatore che commette frode per la prima volta senza un modello precedente. È l’intersezione di tutti e tre gli strati simultaneamente, elaborati in pochi secondi, che cattura ciò che altri sistemi di intelligenza artificiale non possono.

Da una prospettiva di lungo termine, quali sono alcune delle più preoccupanti frodi sanitarie abilitate da deepfake che assicuratori e regolatori dovrebbero guardare nei prossimi anni?

Gli scenari che mi preoccupano di più sono quelli che combinano scala e plausibilità in modi difficili da tracciare, anche con un rilevamento solido.

La salute comportamentale è un vero punto debole. La documentazione per i servizi di terapia è in gran parte narrativa, compresi appunti di sedute, piani di trattamento e riassunti di progressi. Non ci sono valori di laboratorio da confrontare, non ci sono immagini da esaminare. Un fornitore di cure fraudolento con accesso a un modello linguistico generale può generare documentazione di salute comportamentale clinicamente plausibile a volume straordinario, e l’unico modo pratico per rilevarlo è utilizzare un’intelligenza artificiale che possa valutare se la documentazione mostra le firme linguistiche e strutturali della generazione sintetica.

La frode di imaging diagnostico è l’altra area che sto guardando da vicino. Gli strumenti di intelligenza artificiale gratuiti e accessibili possono ora generare variazioni realistiche di immagini mediche da una singola immagine di base. Man mano che quegli strumenti migliorano, le uscite sintetiche diventeranno più difficili da distinguere dalle scansioni autentiche senza un rilevamento specifico. I pagatori il cui flusso di lavoro non ha alcuna capacità di forensi delle immagini stanno, a questo punto, operando sulla fiducia che le immagini che ricevono siano reali.

C’è anche una preoccupazione emergente riguardo alla frode di identità e credenziale, dove la documentazione generata da intelligenza artificiale supporta l’iscrizione fraudolenta di un fornitore o l’autorizzazione preventiva per servizi che non erano mai stati medicamente necessari. Questi schemi sono più difficili da rilevare perché la frode è incorporata nel processo di intake piuttosto che nelle richieste di rimborso stesse, e una volta che emerge nei dati di fatturazione, il danno è già stato fatto.

Le richieste di rimborso sanitario spesso coinvolgono grandi volumi di documentazione e prove di supporto. Come fa un sistema di intelligenza artificiale a valutare quelle informazioni abbastanza velocemente da fermare le richieste di rimborso fraudolente prima che il pagamento sia effettuato?

La velocità è in realtà un requisito fondamentale di progettazione, non un optional. L’unico modo in cui Deepfake Detection è utile nella pratica è se opera alla velocità del flusso di lavoro delle richieste di rimborso. Se l’analisi richiede ore o richiede a un essere umano di avviare una coda di revisione, si è già perso la finestra di intervento pre-pagamento, e si torna a fare il recupero dopo che il denaro è uscito dal sistema.

Il nostro sistema è progettato per completare l’analisi in pochi secondi. Quando la documentazione viene presentata per la revisione, l’intelligenza artificiale esegue la sua valutazione in parallelo piuttosto che in sequenza. L’analisi del contenuto sintetico, i controlli di duplicazione e il riferimento incrociato comportamentale stanno avvenendo simultaneamente piuttosto che in una catena. L’output è un punteggio di rischio con spiegazioni dettagliate, in modo che l’investigatore non debba interpretare segnali grezzi. Riceve un risultato azionabile e prioritizzato. L’architettura parallela è parte di ciò che ci consente di farlo più velocemente e con maggiore accuratezza. Eseguire tutti e tre gli strati di segnali simultaneamente significa che il punteggio di rischio riflette l’intero quadro di un caso, non solo il primo segnale che è emerso.

Il punto più ampio qui è che lo spostamento che stiamo spingendo in tutta la nostra attività in Codoxo, ciò che chiamiamo Point Zero, è spostare l’intervento di integrità dei pagamenti il più a monte possibile. Catturare una richiesta di rimborso fraudolenta prima del pagamento è drasticamente più efficiente rispetto al recupero di un pagamento eccessivo dopo il fatto. Il recupero è costoso, lento e spesso incompleto. La prevenzione alla fase di convalida della documentazione e delle prove cambia l’economia dell’intero problema.

Gli strumenti di rilevamento di frodi devono essere spiegabili agli investigatori, agli auditor e ai regolatori. Come assicura che i punteggi di rischio generati da intelligenza artificiale possano essere compresi e affidabili per le Unità di Investigazione Speciale e i team di integrità dei pagamenti?

La spiegabilità non è opzionale in questo dominio. Se un investigatore SIU sta per agire su un punteggio di rischio, indipendentemente dal fatto che significhi trattenere una richiesta di rimborso, aprire un caso o costruire un riferimento per la procura, deve essere in grado di articolare cosa il sistema ha trovato e perché. Un output di scatola nera che dice “rischio alto” non è uno strumento utile in un flusso di lavoro che ha responsabilità giuridica e regolamentare collegata ad esso.

Ogni punteggio di rischio che il nostro sistema genera include indicatori di frode specifici, che possono includere i segnali che hanno guidato il punteggio, i modelli identificati e le incoerenze che sono state individuate. L’investigatore può seguire il ragionamento dal punteggio al segnale di allarme. Quel livello di specificità è possibile solo perché il rilevamento sottostante è stato progettato specificamente per la documentazione sanitaria.

Abbiamo anche costruito una capacità di prompt personalizzata, che consente agli investigatori di adattare l’analisi per scenari di indagine specifici e modelli di frode unici. Ciò è importante per la spiegabilità nella pratica perché significa che il sistema non esegue un’analisi generica e chiede agli investigatori di interpretare output generici. Possono plasmare l’indagine in base a ciò che stanno cercando in un caso specifico, il che rende i risultati più utili e più facili da spiegare agli auditor o nei procedimenti legali.

Sul lato regolamentare, OIG, CMS e agenzie statali stanno aumentando la sorveglianza su come le organizzazioni utilizzano l’intelligenza artificiale nella prevenzione delle frodi. Essere in grado di dimostrare che la metodologia di rilevamento è interpretabile e verificabile non è solo una buona pratica, ma un componente di una distribuzione responsabile che riduce il rischio di conformità.

Man mano che l’intelligenza artificiale generativa continua a migliorare, i truffatori diventeranno probabilmente più sofisticati. Come progetta Codoxo i suoi modelli per adattarsi continuamente mentre emergono nuove forme di documentazione medica sintetica?

La sfida è che la frode è di natura avversariale. Man mano che il rilevamento migliora, le tattiche dall’altra parte evolvono. Qualsiasi sistema addestrato una volta e distribuito senza aggiornamenti degraderà nel tempo, poiché i truffatori imparano cosa scatena il sistema e si adattano. Questo è lo stesso problema fondamentale che rende qualsiasi approccio di rilevamento statico inadeguato, sia basato su regole o su un modello di intelligenza artificiale che non è progettato per aggiornarsi. La sofisticazione dello strumento non conta se l’architettura sottostante non può stare al passo con la minaccia.

Il nostro approccio è trattare il rilevamento come una capacità in continua evoluzione piuttosto che un prodotto fisso. Man mano che nuovi modelli di frode emergono nel sistema e man mano che le tecniche di generazione di intelligenza artificiale evolvono, quei modelli alimentano il miglioramento del modello. Il sistema è progettato per migliorare la capacità di identificare la minaccia emergente, non solo le minacce che esistevano al momento della distribuzione. Ciò è importante data la rapidità con cui l’intelligenza artificiale generativa sta avanzando e la velocità con cui i truffatori stanno sperimentando nuovi approcci, inclusa alcune tecniche avversarie come i motori di deepfake trojan progettati per compromettere il rilevamento.

Questo sarà un contesto continuo. Non c’è uno stato finale e risolto. L’impegno che abbiamo assunto è quello di mantenere le capacità di rilevamento aggiornate con la minaccia, e la nostra architettura agente è ciò che rende possibile farlo su larga scala.

Guardando avanti, crede che il rilevamento di deepfake diventerà un componente standard dell’infrastruttura sanitaria, simile a come funzionano i sistemi anti-riciclaggio di denaro nel settore finanziario, o l’industria avrà bisogno di approcci completamente nuovi alla fiducia e alla verifica dei dati medici?

Credo che il rilevamento di deepfake diventerà un’infrastruttura standard, e il cronogramma per questo è più breve di quanto la maggior parte delle persone nel settore si aspetti. Prima che i framework AML diventassero standard nei servizi finanziari, l’industria si basava fortemente sul rilevamento basato su regole e sulla revisione manuale. Il passaggio è avvenuto quando la minaccia ha raggiunto una scala che ha reso chiaramente inadeguato il rilevamento reattivo, e quando l’ambiente regolamentare ha codificato l’aspettativa che le istituzioni finanziarie avrebbero avuto controlli sistematici e aggiornati in atto. Il settore sanitario sta raggiungendo un punto di svolta simile.

Quello che sta già accadendo è che i pagatori che stanno distribuendo il rilevamento di deepfake lo stanno facendo perché la minaccia è reale e presente, non perché la regolamentazione lo richiede. Man mano che queste prime distribuzioni generano prove di perdite evitate, e man mano che gli schemi di frode abilitati da intelligenza artificiale diventano più visibili nelle azioni di applicazione della legge e nella segnalazione pubblica, l’aspettativa si allargherà in tutta l’industria.

Guardando avanti, man mano che l’intelligenza artificiale generativa continua a migliorare, l’industria potrebbe dover ripensare come l’autenticità della documentazione venga stabilita al momento della creazione piuttosto che convalidata dopo il fatto. Ciò potrebbe significare un’attestazione crittografica dei record clinici a livello di EHR, una verifica dell’identità del fornitore integrata nel flusso di lavoro della documentazione, o altri meccanismi che rendono l’origine di un documento tracciabile in modi in cui attualmente non lo è. Il rilevamento al livello delle richieste di rimborso è una risposta necessaria alla minaccia attuale. Tuttavia, la soluzione duratura potrebbe richiedere la costruzione della verifica più in profondità nell’infrastruttura di come vengono create e trasmesse le cartelle cliniche.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Codoxo.