Dr. Musheer Ahmed, PhD, Fondator și CEO al Codoxo – Seria de interviuri

Dr. Musheer Ahmed, PhD, Fondator și CEO al Codoxo, este un tehnolog și antreprenor care se axează pe aplicarea inteligenței artificiale pentru a rezolva ineficiențele sistemice din domeniul sănătății. El a fondat Codoxo pe baza cercetărilor efectuate în timpul doctoratului său la Georgia Institute of Technology, unde a construit fundațiile unei abordări brevetate de detectare a fraudei, a risipei și a abuzului în cererile medicale. Sub conducerea sa, compania a crescut și a devenit un furnizor de soluții de integritate a plăților bazate pe inteligență artificială, ajutând organizațiile din domeniul sănătății să identifice riscurile mai devreme și să treacă de la auditurile reactive la conținerea costurilor proactive. Experiența sa anterioară în domeniul securității inteligente la VeriSign, unde a lucrat la identificarea amenințărilor cibernetice emergente și a vulnerabilităților, i-a modelat focusul pe utilizarea analizei avansate și a învățării automate pentru a descoperi modele ascunse în medii de date complexe.

Codoxo este o companie de sănătate care utilizează inteligența artificială pentru a reduce ineficiențele și costurile nejustificate din sistemul de sănătate prin intermediul platformei sale Forensic AI. Platforma utilizează algoritmi brevetați și învățare automată pentru a analiza volume mari de date de cereri, identificând comportamente suspecte, anomalii de facturare și modele de fraudă emergente mai devreme decât sistemele tradiționale. Permițând plătitorilor din domeniul sănătății, agențiilor guvernamentale și administratorilor de beneficii farmaceutice să intervenă înainte sau în timpul procesului de cerere, Codoxo îndreaptă industria spre o integritate a plăților proactivă, mai degrabă decât recuperarea retrospectivă. Platforma sa mai largă de conținere a costurilor integrate include minerit de date, educație pentru furnizori, fluxuri de lucru de audit și management de cazuri, ajutând organizațiile să îmbunătățească acuratețea, să reducă plățile excesive și să eficientizeze operațiunile, abordând o pierdere estimată de sute de miliarde de dolari anual din cauza fraudei, risipei și abuzului.

Ați fondat Codoxo după ce ați cercetat detectarea fraudei în sănătate în timpul doctoratului dvs. la Georgia Tech. Ce v-a convins mai întâi că inteligența artificială poate schimba fundamental modul în care se detectează fraudă, risipă și abuz în sistemele de sănătate?

Am devenit convins nu de un singur moment, ci de confruntarea cu modul în care abordarea existentă a eșuat. Frauda în sănătate din Statele Unite reprezintă undeva în jur de 330 de miliarde de dolari pierduți anual. Acesta este mai mult decât orice altă formă de fraudă a asigurărilor din țară, combinată, și totuși metodele dominante de detectare puteau prinde doar ceea ce fuseseră deja antrenate să caute. Chiar și atunci când inteligența artificială a intrat în imagine, majoritatea abordărilor erau reactive, efectuând potriviri de modele împotriva schemelor de fraudă cunoscute, mai degrabă decât a descoperi cele necunoscute. Momentul care s-a cristalizat pentru mine a fost atunci când am realizat că frauda nu este o problemă statică. Actorii răi se adaptează. Ei învață ce declanșează un semnal de avertizare și ocolesc acesta. Un sistem construit pe reguli fixe este, prin definiție, întotdeauna în urmă.

Inteligența artificială oferă capacitatea de a descoperi modele pe care nimeni nu le-a gândit să le programeze dinainte. În timpul lucrării mele de doctorat la Georgia Tech, am construit modele care puteau să arunce o privire asupra întregii istorii a cererilor unui furnizor, să identifice anomalii comportamentale și să conecteze semnale pe care un analist uman sau un motor de reguli nu le-ar fi legat niciodată împreună. Grupul consultativ JASON, care consiliază guvernul Statelor Unite în domeniul științei și tehnologiei, a recunoscut acea lucrare ca abordând lacune structurale reale în modul în care datele de sănătate erau utilizate pentru integritatea plăților. Acea recunoaștere mi-a spus că problema era suficient de gravă pentru a construi o companie în jurul ei.

Convingerea de bază care m-a condus atunci este aceeași care ne conduce ceea ce construim la Codoxo acum: datele de cereri medicale conțin semnalul de care aveți nevoie pentru a prinde frauda, dar puteți extrage acest semnal doar cu inteligență artificială care poate privi imaginea de ansamblu, rapid și cu acuratețe, mai degrabă decât verificând cutii.

Frauda în sănătate a fost mult timp o problemă de miliarde de dolari, dar inteligența artificială generativă pare să o accelereze dramatic. Cum a schimbat apariția unor instrumente capabile să producă documentație clinică și imagini diagnostice convingătoare peisajul amenințărilor pentru asigurătorii de sănătate și echipele de integritate a plăților?

A schimbat-o într-un mod fundamental, și industria nu a absorbit încă pe deplin cât de semnificativă este acea schimbare. Vechiul model de fraudă a documentației necesita efort manual. Un actor rău care comite fraudă trebuia să fabrice note una câte una, să altereze imagini individual și să creeze înregistrări care să supraviețuiască revizuirii. Acea frecare a creat un plafon natural pentru amploarea oricărui schemă.

Inteligența artificială generativă a înlăturat acel plafon. Astăzi, oricine poate cere un model de limbaj mare să producă 50 de note de ședință de terapie pentru tratamentul anxietății și să le primească în mai puțin de cinci minute. Acele note vor utiliza terminologie clinică adecvată, vor urma o structură narativă plauzibilă și vor arăta consistență internă. Majoritatea sistemelor de detectare a fraudei nu au fost niciodată concepute pentru a evalua dacă un document este autentic sau sintetic. Ele au fost concepute pentru a verifica dacă codurile de facturare au fost aplicate corect, pentru a semnala modele cunoscute și pentru a se potrivi cu semnături de fraudă existente. Prin urmare, documentația sintetică trece drept înainte, chiar și pe lângă sisteme care afirmă că au o componentă de inteligență artificială.

Am văzut și acest lucru cu imagini diagnostice. O singură radiografie legitimă poate fi utilizată ca sămânță pentru zeci de variații generate de inteligență artificială, fiecare depus sub un pacient fabricat diferit. Un sistem fără capacitate de comparare a imaginilor vede 50 de cazuri unice, dar realitatea este una scanare reală și 49 de copii sintetice. Peisajul amenințărilor a trecut de la actori răi izolați la oameni care pot opera scheme repetabile și la scară, cu aproape nicio expertiză tehnică necesară.

Multe sisteme tradiționale de detectare a fraudei se bazează pe modele bazate pe reguli și pe revizuire manuală. De ce aceste abordări devin din ce în ce mai ineficiente atunci când se confruntă cu documente medicale generate de inteligență artificială sau imagini diagnostice manipulate?

Majoritatea abordărilor de detectare a fraudei, fie bazate pe reguli, fie pe inteligență artificială de generație mai veche, funcționează pe o ipoteză fundamental greșită în acest moment: că toate documentele care intră în sistem au fost create de un om care urmează procese clinice normale. Odată ce acea ipoteză se prăbușește, întreaga abordare de detectare se prăbușește odată cu ea.

Un motor de reguli poate semnala o combinație de coduri imposibile, un furnizor care facturează pentru mai multe ore decât există într-o zi sau o procedură efectuată asupra unui pacient decedat. Acestea sunt toate prinderi reale și utile. Dar logica bazată pe reguli nu poate să arunce o privire asupra unei note de progres și să determine dacă a fost scrisă de un clinician care a văzut într-adevăr un pacient sau generată de un model de inteligență artificială care nu a practicat niciodată medicina. Cele două ieșiri pot fi structural identice.

Revizuirea manuală are același plafon. Studii arată că doar aproximativ 34% dintre oameni pot identifica un deepfake, chiar și atunci când li s-a spus că unul este prezent și sunt activ implicați în căutarea lui. Un investigator SIU care revizuiește un morman de note de progres nu are nicio pregătire specială pentru detectarea textului sintetic, niciunel unelte de comparare a imaginilor pentru a detecta scanări clonate și nu are suficiente ore într-o zi pentru a efectua un nivel de examinare atât de amănunțit pentru fiecare cerere. Problema volumului singură face revizuirea manuală cuprinzătoare imposibilă, și acest lucru era adevărat înainte ca inteligența artificială generativă să înceapă să accelereze volumul și sofisticarea documentației frauduloase.

Există și o amenințare emergentă pe care cred că este subapreciată: ceea ce cercetătorii numesc motoare de deepfake troian. Acestea sunt agenți similari virusului, concepuți special pentru a neutraliza software-ul de detectare, lucrând prin tactici precum deraierea analizei imaginilor sau reingineria promptului malign. Prin urmare, dinamica adversară nu este doar fraude care generează farse mai bune. În unele cazuri, ei încearcă activ să spargă uneltele construite pentru a-i prinde. Acea dinamică de curse este parte a motivului pentru care abordările de detectare statice, fie bazate pe reguli, fie pe un model de inteligență artificială care nu este conceput pentru a se actualiza, vor fi întotdeauna lăsate în urmă. Apărarea trebuie să fie la fel de adaptabilă ca și ofensiva.

Codoxo a lansat recent Deepfake Detection pentru a aborda acest risc emergent. La un nivel general, cum analizează tehnologia documentația medicală și imaginile pentru a determina dacă conținutul poate fi generat sau manipulat de inteligență artificială?

Principiul de proiectare de bază este că am construit Deepfake Detection în mod special pentru documentația din domeniul sănătății, mai degrabă decât a adapta un instrument general de detectare a inteligenței artificiale într-un context clinic. Acest lucru înseamnă că modelele sunt antrenate pe semnale specifice din domeniul sănătății, nu adaptate din unelte construite pentru alte industrii sau alte cazuri de utilizare. Această distincție contează pentru că semnalele care indică conținut sintetic într-un document medical sau o imagine diagnostică sunt diferite de semnalele relevante în alte domenii.

La un nivel general, sistemul analizează documentația medicală și imaginile alături de contextul complet al cererii, și o face în secunde. Când un investigator SIU încarcă documentația suspectă, inteligența artificială rulează analiza în multiple dimensiuni simultan. Caută indicatori de conținut sintetic sau manipulat, verifică modele de clonare și duplicare în istoria mai largă a cererilor plătitorului și evaluează consistența comportamentală între documentație și istoricul furnizorului.

Un lucru demn de remarcat este lățimea formatelor pe care sistemul le poate lucra. Acesta gestionează documente text în PDF, Word și XML, foi de calcul, imagini medicale și chiar note scrise de mână. Acest lucru contează în practică pentru că documentația frauduloasă nu sosește într-un singur format ordonat, și un sistem de detectare care acoperă doar o parte din ceea ce primesc echipele SIU lasă goluri pe care fraudele sofisticate le vor găsi în cele din urmă.

Pe baza acestei analize, sistemul generează un scor de risc pe o scară de la 0 la 100, cu explicații detaliate atașate, astfel încât investigatorul să înțeleagă exact care semnalele au condus la scor. Scopul de la fiecare etapă este de a produce ieșiri actionabile, mai degrabă decât doar alerte, și de a face acest lucru mai rapid și cu o acuratețe mai mare decât un sistem mai generalizat. Viteza contează pentru că singurul punct de intervenție care schimbă în mod semnificativ economia fraudei este înainte de a se face plata.

Capacitățile dvs. de evidențiere a clonării, identificare parțială a generării de inteligență artificială și corelarea comportamentală cu istoricul cererilor sunt evidențiate. Cum se combină aceste semnale pentru a produce un scor de risc semnificativ pentru investigatori?

Fiecare dintre aceste capacități se adresează unui model de fraudă diferit, și scorul de risc reflectă modul în care acestea interacționează într-un anumit caz.

Detectarea clonării și a duplicării se adresează scenariului în care o singură înregistrare autentică este replicată de-a lungul mai multor pacienți fabricați. Ceea ce face acest lucru dificil de detectat fără inteligență artificială este că variațiile pot fi suficient de subtile încât niciun document nu arată suspect în izolare. Modelul devine vizibil doar atunci când comparați în întreaga populație a cererilor. Sistemul nostru poate descoperi că un set de înregistrări care par unice la suprafață sunt de fapt derivate dintr-o sursă comună.

Identificarea parțială a generării de inteligență artificială este importantă pentru că fraudele sofisticate nu fabrică întotdeauna înregistrări complete de la zero. Un model de fraudă mai comun și mai greu de detectat este amestecul, care înseamnă luarea unei înregistrări de pacient legitime și utilizarea inteligenței artificiale pentru a adăuga servicii sau proceduri fabricate suplimentare. Secțiunile autentice fac documentul să arate credibil, dar secțiunile adăugate reprezintă cereri pentru îngrijiri care nu au fost livrate niciodată. Sistemul nostru este conceput în mod special pentru a găsi astfel de instanțe.

Corelarea comportamentală conectează documentația supusă revizuirii la istoricul complet al cererilor furnizorului. Dacă documentația prezintă narative clinice care sunt incoerente cu modul în care furnizorul a documentat în mod obișnuit cazuri similare, sau dacă volumul și modelul de înregistrări de susținere se abat brusc de la linia de bază, aceste incoerențe sunt semnale. Luându-le individual, niciuna dintre ele nu este concludentă. Împreună, ponderate și explicate în ieșirea scorului de risc, oferă investigatorilor un punct de plecare semnificativ care ar necesita ore sau zile pentru a fi dezvoltat manual. Ceea ce face acest lucru diferit de un sistem care semnalează doar conținut generat de inteligență artificială este combinația de semnale. Analiza conținutului singur poate să rateze documentele amestecate. Analiza comportamentală singură poate să rateze un fraudator pentru prima dată fără niciun model anterior. Este intersecția tuturor acestor straturi simultan, procesate în secunde, care prinde ceea ce alte sisteme de inteligență artificială nu pot.

În următorii ani, care sunt cele mai îngrijorătoare scheme de fraudă în sănătate activate de deepfake pe care asigurătorii și regulatorii ar trebui să le urmărească?

Scenariile care mă îngrijorează cel mai mult sunt cele care combină scară cu plauzibilitate în moduri care sunt greu de urmărit, chiar și cu detectare puternică.

Sănătatea comportamentală este o vulnerabilitate reală. Documentația pentru serviciile de terapie este în mare parte narativă, incluzând note de ședință, planuri de tratament și rezumate de progres. Nu există valori de laborator pentru a le corela, nu există imagini pentru a le examina. Un furnizor fraudulos cu acces la un model de limbaj generalist poate genera documentație clinică plauzibilă de sănătate comportamentală la un volum extraordinar, și singurul mod practic de a o detecta este de a utiliza inteligență artificială care poate evalua dacă documentația arată semnăturile lingvistice și structurale ale generării sintetice.

Frauda imaginilor diagnostice este cealaltă zonă pe care o urmăresc îndeaproape. Uneltele gratuite și accesibile de inteligență artificială pot genera acum variații realiste de imagini medicale dintr-o singură imagine sursă. Pe măsură ce aceste unelte se îmbunătățesc, ieșirile sintetice vor deveni mai greu de diferențiat de la scanări autentice fără detectare specializată. Plătitorii ale căror fluxuri de lucru nu au nicio capacitate de forensică a imaginilor operează, la acest moment, pe încredere că imaginile pe care le primesc sunt reale.

Există și o preocupare emergentă legată de fraudă de identitate și înscriere, unde documentația generată de inteligență artificială susține înscrierea frauduloasă a furnizorilor sau autorizarea prealabilă pentru servicii care nu au fost niciodată necesare din punct de vedere medical. Aceste scheme sunt mai greu de detectat pentru că frauda este încorporată în procesul de preluare, mai degrabă decât în datele de facturare în sine, și până când aceasta apare în datele de facturare, daunele sunt deja făcute.

Cererile de sănătate implică adesea volume mari de documentație și dovezi de susținere. Cum poate un sistem de inteligență artificială să evalueze aceste informații suficient de repede pentru a opri cererile frauduloase înainte de a se face plata?

Viteza este de fapt o cerință de proiectare de bază, nu un lucru plăcut. Singurul mod în care Deepfake Detection este util în practică este dacă funcționează la viteza pipeline-ului de cereri. Dacă analiza durează ore sau necesită ca un om să inițieze o coadă de revizuire, ați ratat deja fereastra de pre-plată, și sunteți înapoi la recuperarea banilor după ce au părăsit sistemul.

Sistemul nostru este conceput pentru a finaliza analiza în secunde. Când documentația este încărcată pentru revizuire, inteligența artificială rulează evaluarea sa în paralel, mai degrabă decât în lanț. Analiza conținutului sintetic, verificarea duplicării și corelarea comportamentală se desfășoară simultan, mai degrabă decât într-un lanț. Ieșirea este un scor de risc cu explicații detaliate, astfel încât investigatorul nu trebuie să interpreteze semnale brute. Primește un rezultat prioritar, actionabil. Arhitectura paralelă este parte a ceea ce ne permite să facem acest lucru mai rapid și cu o acuratețe mai mare. Rularea tuturor acestor straturi de semnale simultan înseamnă că scorul de risc reflectă imaginea de ansamblu a unui caz, nu doar primul semnal care a apărut.

Peisajul mai larg pe care îl promovăm în toată munca noastră la Codoxo, ceea ce numim Punctul Zero, este mutarea intervenției integrității plăților cât mai departe în amonte. A prinde o cerere frauduloasă înainte de a se face plata este dramatic mai eficient decât recuperarea unei plăți excesive după ce a părăsit sistemul. Recuperarea este scumpă, lentă și adesea incompletă. Prevenirea la stadiul de validare a documentației și a dovezilor schimbă economia întregii probleme.

Uneltele de detectare a fraudei trebuie să fie explicabile pentru investigatori, auditori și regulatori. Cum asigurați că scorurile de risc generate de inteligență artificială pot fi înțelese și încredințate de Unitățile Speciale de Investigații și echipele de integritate a plăților?

Explicabilitatea nu este opțională în acest domeniu. Dacă un investigator SIU urmează să acționeze pe baza unui scor de risc, indiferent dacă acest lucru înseamnă a ține o cerere, a deschide un caz sau a construi o trimitere pentru urmărire penală, el are nevoie de a putea articula ce a găsit sistemul și de ce. O ieșire în cutie neagră care spune “risc ridicat” nu este un instrument util într-un flux de lucru care are responsabilitate juridică și regulamentară atașată de el.

Fiecare scor de risc pe care sistemul nostru îl generează include indicatori de fraudă specifici, care pot include semnalele care au condus la scor, modelele identificate și incoerențele care au fost descoperite. Investigatorul poate urmării raționamentul de la scor la dovezi. Acest nivel de specificitate este posibil doar pentru că detectarea subiacentă este concepută special pentru documentația din domeniul sănătății.

Am construit, de asemenea, o capacitate de promptare personalizată, care permite investigatorilor să adapteze analiza pentru scenarii de investigație specifice și modele de fraudă unice. Acest lucru este important pentru explicabilitatea în practică, deoarece înseamnă că sistemul nu rulează o analiză de tip “una pentru toți” și nu cere investigatorilor să interpreteze ieșiri generice. Ei pot modela ancheta în funcție de ceea ce caută într-un anumit caz, ceea ce face rezultatele mai direct utile și mai ușor de explicat auditorilor sau în proceduri legale.

Pe partea regulamentară, OIG, CMS și agențiile de stat sunt din ce în ce mai mult atente la modul în care organizațiile utilizează inteligența artificială în prevenirea fraudei. A putea demonstra că metodologia dvs. de detectare este interpretabilă și auditabilă nu este doar o practică bună, ci și o componentă a unei implementări responsabile care reduce riscul de conformitate.

Pe măsură ce inteligența artificială generativă continuă să se îmbunătățească, fraudele vor deveni probabil și mai sofisticate. Cum proiectați modelele Codoxo pentru a continua să se adapteze pe măsură ce apar noi forme de documentație medicală sintetică?

Provocarea este că frauda este adversară din natură. Pe măsură ce detectarea se îmbunătățește, tacticii de partea cealaltă evoluează. Orice sistem antrenat o dată și implementat fără actualizări se va deteriora în timp, pe măsură ce fraudele învață ce declanșează și se adaptează. Acesta este același problemă fundamentală care face orice abordare de detectare statică inadecvată, indiferent dacă este vorba de reguli sau de un model de inteligență artificială care nu este conceput pentru a se actualiza. Sofisticarea instrumentului nu contează dacă arhitectura subiacentă nu poate ține pasul cu amenințarea.

Abordarea noastră este de a trata detectarea ca o capacitate care se actualizează în mod continuu, mai degrabă decât un produs fix. Pe măsură ce apar noi modele de fraudă în sistem și pe măsură ce tehnicile de generare a inteligenței artificiale evoluează, aceste modele se alimentează înapoi în îmbunătățirea modelului. Sistemul este conceput pentru a deveni mai bun la detectarea amenințării emergente, nu doar a amenințărilor care existau la implementare. Acest lucru este important, având în vedere ritmul la care inteligența artificială generativă avansează și viteza cu care fraudele experimentează noi abordări, inclusiv unele tactici adversarale precum motoarele de deepfake troian, care sunt concepute pentru a submina detectarea.

Acesta va fi un concurs continuu. Nu există o stare finală, rezolvată. Angajamentul pe care l-am făcut este de a menține capacitățile de detectare actuale cu amenințarea, și arhitectura noastră agențială este ceea ce face acest lucru posibil la scară.

Privind în viitor, credeți că detectarea deepfake-ului va deveni o componentă standard a infrastructurii de sănătate, similar cu modul în care funcționează sistemele anti-spală din finanțe, sau industria va avea nevoie de abordări complet noi pentru încredere și verificare în datele medicale?

Cred că detectarea deepfake-ului va deveni o infrastructură standard, și calendarul pentru acest lucru este mai scurt decât majoritatea oamenilor din industrie se așteaptă. Înainte de a deveni cadre AML standard în serviciile financiare, industria s-a bazat foarte mult pe detectarea bazată pe reguli și pe revizuirea manuală. Schimbarea a avut loc atunci când amenințarea a atins o scară care a făcut detectarea reactivă clar inadecvată, și atunci când mediul regulamentar a codificat așteptarea că instituțiile financiare vor avea sisteme de control sistematice și actualizate în mod continuu. Sănătatea se apropie de un punct de inflexiune similar.

Ceea ce se întâmplă deja este că plătitorii care implementează detectarea deepfake în acest moment o fac pentru că amenințarea este reală și prezentă, nu pentru că reglementarea o cere. Pe măsură ce aceste implementări timpurii generează dovezi ale pierderilor prevenite, și pe măsură ce schemele de fraudă generate de inteligență artificială devin mai vizibile în acțiunile de aplicare a legii și în raportarea publică, așteptarea se va extinde în întreaga industrie.

Privind în viitor, pe măsură ce inteligența artificială generativă continuă să se îmbunătățească, industria poate avea nevoie să reconsidere modul în care autenticitatea documentației este stabilită la momentul creării, mai degrabă decât validată ulterior. Acest lucru ar putea însemna atestare criptografică a înregistrărilor clinice la nivelul EHR, verificarea identității furnizorului integrată în fluxul de lucru al documentației, sau alte mecanisme care fac originea unui document trasabilă în moduri în care nu este în prezent. Detectarea la nivelul cererilor este o răspuns necesar la amenințarea actuală. Dar soluția durabilă poate necesita construirea verificării mai adânc în infrastructura modului în care sunt create și transmise înregistrările medicale.

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Codoxo, vă invităm să vizitați Codoxo.