Dr. Musheer Ahmed, PhD, grundare och VD för Codoxo – Intervjuserie

Dr. Musheer Ahmed, PhD, grundare och VD för Codoxo är en teknolog och entreprenör som fokuserar på att tillämpa artificiell intelligens för att lösa systematiska ineffektiviteter inom hälso- och sjukvården. Han grundade Codoxo baserat på forskning som utvecklades under hans doktorsexamen vid Georgia Institute of Technology, där han byggde grunden för en patenterad AI-metod för att upptäcka bedrägeri, slöseri och missbruk i medicinska anspråk. Under hans ledning har företaget vuxit till en leverantör av AI-drivna betalningsintegritetslösningar, som hjälper hälso- och sjukvårdsorganisationer att identifiera risker tidigare och gå från reaktiva revisioner till proaktiva kostnadsinnehållningsåtgärder. Hans tidigare erfarenhet av säkerhetsunderrättelser på VeriSign (VRSN ), där han arbetade med att identifiera nya cyberhot och sårbarheter, formade hans fokus på att använda avancerad analys och maskinlärande för att avslöja dolda mönster i komplexa datamiljöer.

Codoxo är ett hälso- och sjukvårdsföretag som fokuserar på att minska ineffektiviteter och onödiga kostnader inom hälso- och sjukvården genom sin Forensic AI-plattform. Plattformen använder patenterade algoritmer och maskinlärande för att analysera stora mängder anspråksdata, identifiera misstänkt beteende, faktureringsskillnader och nya bedrägerimönster tidigare än traditionella system. Genom att möjliggöra för hälso- och sjukvårdsbetalare, myndigheter och apoteksförmånschefer att ingripa innan eller under anspråksprocessen, förskjuter Codoxo branschen mot proaktiv betalningsintegritet snarare än retrospektiv återvinning. Dess bredare enhetliga kostnadsinnehållningsplattform integrerar datautvinning, utbildning av leverantörer, revisionsflöden och ärendehantering, vilket hjälper organisationer att förbättra noggrannheten, minska överbetalningar och effektivisera verksamheten samtidigt som de hanterar uppskattade hundratals miljarder dollar som förloras varje år på grund av bedrägeri, slöseri och missbruk.

Du grundade Codoxo efter att ha forskat om bedrägeridetektion inom hälso- och sjukvården under din doktorsexamen vid Georgia Tech. Vad var det som först övertygade dig om att AI kunde förändra hur bedrägeri, slöseri och missbruk upptäcks inom hälso- och sjukvården?

Jag blev övertygad inte av en enda händelse, utan av att konfrontera hur dåligt den befintliga metoden fungerade. Hälso- och sjukvårdsbedrägeri i USA representerar någonstans runt 330 miljarder dollar i förlorade medel varje år. Det är mer än alla andra former av försäkringsbedrägeri i landet kombinerat, och ändå kunde de dominerande upptäcktsmetoderna bara identifiera vad de redan hade tränats för att leta efter. Även när AI kom in i bilden var de flesta metoder reaktiva, mönstermatchning mot kända bedrägerischeman snarare än att upptäcka de okända. Ögonblicket som kristalliserade det för mig var när jag insåg att bedrägeri inte är ett statiskt problem. Dåliga aktörer anpassar sig. De lär sig vad som utlöser en flagga och kringgår det. Ett system byggt på fasta regler är, per definition, alltid efter.

Det som AI erbjuder är förmågan att upptäcka mönster som ingen tänkte på att programmera i förväg. Under min avhandling vid Georgia Tech byggde jag modeller som kunde se över en leverantörs fullständiga anspråkshistorik, identifiera beteendeanomalier och koppla signaler som en mänsklig analytiker eller en regelmotor aldrig skulle koppla ihop. JASON-rådgivargruppen, som råder den amerikanska regeringen om vetenskap och teknik, erkände att arbetet som ett verkligt strukturproblem i hur hälsodata används för betalningsintegritet. Det erkännandet sa mig att problemet var tillräckligt allvarligt för att bygga ett företag runt.

Den grundläggande övertygelsen som drev mig då är densamma som driver vad vi bygger på Codoxo nu: hälso- och sjukvårdsanspråksdata innehåller signalen du behöver för att fånga bedrägeri, men du kan bara extrahera den med AI som kan se på den fullständiga bilden, snabbt och korrekt, snarare än att kontrollera rutor.

Hälso- och sjukvårdsbedrägeri har länge varit ett multibilliondollarproblem, men generativ AI verkar accelerera det dramatiskt. Hur har uppkomsten av verktyg som kan producera övertygande klinisk dokumentation och diagnostiska bilder förändrat hotbilden för hälso- och sjukvårdsbetalare och betalningsintegritetsteam?

Det har förändrat den på ett grundläggande sätt, och branschen har inte fullt ut absorberat hur betydande den förändringen är än. Den gamla modellen för dokumentationsbedrägeri krävde manuellt arbete. En dålig aktör som begick bedrägeri var tvungen att fabricera anteckningar en i taget, ändra bilder individuellt och skapa register som var trovärdiga nog för att överleva granskning. Den friktionen skapade ett naturligt tak för omfattningen av något schema.

Generativ AI avlägsnade det taket. Idag kan vem som helst be en stor språkmodell att producera 50 terapisessionsanteckningar för ångestbehandling och få dem på under fem minuter. Dessa anteckningar kommer att använda lämplig klinisk terminologi, följa en trovärdig berättelsestruktur och se internkonsistenta ut. De flesta bedrägeridetektionssystem var aldrig utformade för att utvärdera om ett dokument är äkta eller syntetiskt. De var utformade för att kontrollera om faktureringskoder tillämpades korrekt, flagga kända mönster och matcha mot befintliga bedrägerisignaturer. Så den syntetiska dokumentationen passerar rakt igenom, även förbi vissa system som påstår sig ha en AI-komponent.

Vi har också sett detta med diagnostisk avbildning. En enda legitim röntgen kan användas som utsäde för dussintals AI-genererade varianter, var och en skickad in under en differentierad fabricerad patient. Ett system med ingen bildjämförelse ser 50 unika utseende fall, men verkligheten är ett riktigt skannande och 49 syntetiska kopior. Hotbilden har förskjutits från isolerade dåliga aktörer till personer som kan köra skalbara, upprepningsbara scheman med nästan ingen teknisk expertis som krävs.

Många traditionella bedrägeridetektionssystem förlitar sig på regelbaserade modeller och manuell granskning. Varför är dessa metoder alltmer ineffektiva när det gäller AI-genererade medicinska register eller manipulerade diagnostiska bilder?

De flesta bedrägeridetektionsmetoder, antingen regelbaserade eller tidigare generationens AI, opererar på ett grundläggande felaktigt antagande just nu: att all dokumentation som kommer in i systemet skapades av en människa som följer normala kliniska processer. Så fort det antagandet bryts, bryts hela detektionsmetoden också.

En regelmotor kan flagga en omöjlig kodkombination, en leverantör som fakturerar för fler timmar än som finns i en dag, eller en procedur som utfördes på en avliden patient. Dessa är alla verkliga och användbara fångster. Men regelbaserad logik kan inte se på en journal och bestämma om den skrevs av en kliniker som faktiskt såg en patient eller genererades av en AI-modell som aldrig har utövat medicin. De två utdata kan vara strukturmässigt identiska.

Manuell granskning har samma tak. Studier visar att endast cirka 34% av människor kan identifiera en deepfake, även när de har informerats om att en sådan finns och aktivt letar efter den. En SIU-utredare som granskar en hög med journaler har ingen specialiserad forensisk utbildning för att upptäcka syntetisk text, ingen bildjämförelseverktyg för att upptäcka klonade skannningar och inte tillräckligt med timmar på dagen för att genomföra den nivån av granskning på varje anspråk. Volymproblemet ensamt gör omfattande manuell granskning omöjlig, och det var sant innan generativ AI började accelerera volymen och sofistikeringen av bedrägeridokumentation.

Det finns också en framväxande hot som jag tror är underapprecierad: vad forskare kallar trojan deepfake-motorer. Dessa är virusliknande agenter som är utformade specifikt för att neutralisera upptäcktsprogramvara, som fungerar genom taktik som bildanalysavbrytning eller onda prompt-omkonstruktion. Så den antagonistiska dynamiken är inte bara bedragare som genererar bättre falska. I vissa fall försöker de aktivt bryta verktygen som byggs för att fånga dem. Den tävlingen är en del av varför statiska upptäcktsmetoder, antingen regelbaserade eller en fast AI-modell, alltid kommer att hamna efter. Försvaret måste vara lika anpassningsbart som offensiven.

Codoxo lanserade nyligen Deepfake Detection för att hantera denna framväxande risk. På en hög nivå, hur analyserar tekniken medicinsk dokumentation och bilder för att avgöra om innehållet kan ha genererats eller manipulerats av AI?

Den grundläggande designprincipen är att vi byggde Deepfake Detection specifikt för hälso- och sjukvårdsdokumentation snarare än att anpassa ett allmänt AI-upptäcktsverktyg till en klinisk kontext. Det betyder att modellerna är tränade på hälso- och sjukvårdspecifika signaler, inte anpassade från verktyg byggda för andra branscher eller användningsfall. Den distinktionen är viktig eftersom signalerna som indikerar syntetiskt innehåll i ett medicinskt register eller en diagnostisk bild är olika från signalerna som är relevanta i andra domäner.

På en hög nivå analyserar systemet medicinsk dokumentation och bilder tillsammans med den fullständiga anspråkskontexten, och det gör det på sekunder. När en SIU-utredare laddar upp misstänkt dokumentation, kör AI-analysen över flera dimensioner samtidigt. Den letar efter indikatorer på syntetiskt eller manipulerat innehåll, kontrollerar klonings- och dupliceringsmönster över betalarens bredare anspråkshistoria och utvärderar beteendemässig konsistens mellan dokumentationen och leverantörens historiska mönster.

En sak som är värd att notera är den breda uppsättning format som systemet kan arbeta med. Det hanterar textdokument i PDF, Word och XML, kalkylblad, medicinska bilder och till och med handskrivna anteckningar. Det betyder i praktiken att bedrägeridokumentation inte kommer i en enda prydlig format, och ett upptäcktsystem som bara täcker en del av vad SIU-lag får lämnar luckor som sofistikerade bedragare så småningom kommer att hitta.

Från all denna analys genererar systemet en riskpoäng på en skala från 0 till 100 med detaljerade förklaringar, så att utredaren förstår exakt vilka signaler som drev poängen. Målet på varje steg är att producera åtgärdbara utdata snarare än bara larm, och att göra det snabbare och med större noggrannhet än ett mer generellt system. Hastighet är viktigt eftersom den enda ingreppspunkten som meningsfullt förändrar bedrägeriekonomin är innan betalning görs.

Din plattform betonar funktioner som kloningsdetektering, delvis AI-genereringsidentifiering och beteendemässig korsreferens mot anspråkshistoria. Kan du gå igenom hur dessa signaler kombineras för att producera en meningsfull riskpoäng för utredare?

Var och en av dessa funktioner riktar sig till ett annat bedrägerimönster, och riskpoängen reflekterar hur de interagerar i ett visst fall.

Klonings- och dupliceringsdetektering hanterar scenariot där ett enda äkta register replikeras över flera fabricerade patienter. Vad som gör det svårt att upptäcka utan AI är att variationerna kan vara tillräckligt subtila så att inget enskilt dokument ser misstänkt ut i isolering. Mönstret blir bara synligt när du jämför över hela anspråkspopulationen. Vårt system kan yta att en uppsättning register som ser unika ut på ytan i själva verket är derivat av en gemensam källa.

Delvis AI-genereringsdetektering är viktig eftersom sofistikerade bedragare inte alltid fabricerar hela register från scratch. En vanligare och svårare att upptäcka mönster är blandning, som innebär att ta ett äkta patientregister och använda AI för att lägga till fabricerade ytterligare tjänster eller procedurer. De äkta avsnitten gör dokumentet trovärdigt, men de tillagda avsnitten representerar anspråk för vård som aldrig levererades. Vårt system är specifikt utformat för att hitta dessa instanser.

Beteendemässig korsreferens kopplar dokumentationen som granskas till leverantörens fullständiga anspråkshistoria. Om dokumentationen presenterar kliniska berättelser som är inkonsekventa med hur leverantören historiskt har dokumenterat liknande fall, eller om volymen och mönstret av stödjande register plötsligt avviker från baslinjen, är dessa inkonsekvenser signaler. På egen hand är ingen av dem avgörande. Tillsammans, viktade och förklarade i riskpoängsutdata, ger de utredare en meningsfull utgångspunkt som skulle ta timmar eller dagar att utveckla manuellt. Vad som skiljer detta från ett system som bara flaggar AI-genererat innehåll är kombinationen av signaler. Innehållsanalys ensam kan missa blandade dokument. Beteendeanalys ensam kan missa en första gången bedragare med ingen tidigare mönster. Det är korsningen av alla tre lager samtidigt, bearbetade på sekunder, som fångar vad andra AI-system inte kan.

Från din synvinkel, vad är några av de mest oroande deepfake-aktiverade hälso- och sjukvårdsbedrägerischeman som försäkringsgivare och myndigheter bör vara medvetna om under de närmaste åren?

Scenarierna som oroar mig mest är de som kombinerar skala med trovärdighet på sätt som är svåra att spåra, även med stark upptäckt.

Beteendehälsa är en verklig sårbarhet. Dokumentationen för terapitjänster är i huvudsak narrativ, inklusive sessionsanteckningar, behandlingsplaner och progressrapporter. Det finns inga labvärden att korsreferera, inga bilder att undersöka. En bedragare med tillgång till en allmän språkmodell kan generera kliniskt trovärdig beteendehälsedokumentation i extraordinär volym, och det enda praktiska sättet att upptäcka det är att använda AI som kan utvärdera om dokumentationen visar de språkliga och strukturella signaturerna av syntetisk generering.

Diagnostisk avbildningsbedrägeri är ett annat område jag håller ett öga på. Fria och tillgängliga AI-verktyg kan nu generera realistiska medicinska avbildningsvarianter från en enda seedbild. När dessa verktyg förbättras kommer de syntetiska utdata att bli svårare att skilja från äkta skannningar utan specialbyggd upptäckt. Försäkringsgivare vars arbetsflöden saknar bildforensisk kapacitet är, vid det här laget, verksamma på tillit till att de bilder de tar emot är äkta.

Det finns också en framväxande oro kring identitets- och legitimeringsbedrägeri, där AI-genererad dokumentation stöder bedrägeriaktiverad leverantörsregistrering eller förhandsgodkännande för tjänster som aldrig var medicinskt nödvändiga. Dessa scheman är svårare att upptäcka eftersom bedrägeriet är inbäddat i intagprocessen snarare än i anspråken själva, och när det blir synligt i faktureringsdata är skadan redan skedd.

Hälso- och sjukvårdsanspråk innehåller ofta stora mängder dokumentation och stödjande bevis. Hur utvärderar ett AI-system den informationen tillräckligt snabbt för att stoppa bedrägeriaktiverade anspråk innan betalning görs?

Hastighet är faktiskt en kärndesignkrav, inte en bra sak att ha. Det enda sättet Deepfake Detection är användbart i praktiken är om det fungerar i samma hastighet som anspråkspipelinen. Om analysen tar timmar eller kräver att en människa initierar en granskningskö, har du redan missat förbetalningsfönstret, och du är tillbaka till att göra återvinningsarbete efter att pengar har lämnat systemet.

Vårt system är utformat för att slutföra analysen på sekunder. När dokumentation skickas in för granskning, körs AI-analysen parallellt snarare än sekventiellt. Syntetiskt innehållsanalys, dupliceringskontroll och beteendemässig korsreferens sker samtidigt snarare än i en kedja. Utdata är en riskpoäng med detaljerade förklaringar, så att utredaren inte behöver tolka råa signaler. De får en prioriterad, åtgärdbar resultat. Den parallella arkitekturen är en del av vad som gör att vi kan göra detta snabbare och med större noggrannhet. Att köra alla tre signalager samtidigt betyder att riskpoängen reflekterar den fullständiga bilden av ett fall, snarare än bara den första flaggan som yttades.

Den bredare punkten här är att skiftet vi driver över hela Codoxos arbete, vad vi kallar Point Zero, är att flytta betalningsintegritetsingripande så långt uppströms som möjligt. Att fånga ett bedrägeriaktiverat anspråk innan betalning görs är dramatiskt mer effektivt än att återvinna en överbetalning efter att den har skett. Återvinning är dyrt, långsamt och ofta ofullständigt. Förebyggande vid dokumentations- och bevisvalideringsstadiet förändrar ekonomin i hela problemet.

Bedrägeridetektionsverktyg måste vara förklarliga för utredare, revisorer och myndigheter. Hur säkerställer du att AI-genererade riskpoäng kan förstås och lita på av Special Investigation Units och betalningsintegritetslag?

Förklarbarhet är inte valfri i den här domänen. Om en SIU-utredare ska agera på en riskpoäng, antingen det innebär att hålla ett anspråk, öppna ett ärende eller bygga en remiss för åtal, behöver de kunna artikulera vad systemet fann och varför. En svart låda-utdata som säger “hög risk” är inte ett användbart verktyg i ett arbetsflöde som har juridisk och regleringsmässig ansvarighet kopplad till det.

Varje riskpoäng som vårt system genererar inkluderar specifika bedrägeriindikatorer, som kan inkludera signalerna som drev poängen, mönster som identifierades och inkonsekvenser som yttades. Utredaren kan följa resonemanget från poängen tillbaka till bevisen. Den nivån av specifikhet är bara möjlig eftersom den underliggande upptäckten är utformad specifikt för hälso- och sjukvårdsdokumentation.

Vi byggde också in anpassad promptfunktion, som låter utredare anpassa analysen för specifika utredningsscenarier och unika bedrägerimönster. Det är viktigt för förklarbarhet i praktiken eftersom det betyder att systemet inte kör en en-storlek-passar-alla-analys och ber utredare att tolka generiska utdata. De kan forma undersökningen baserat på vad de faktiskt letar efter i ett visst fall, vilket gör resultaten mer direkt användbara och lättare att förklara för revisorer eller i rättsliga förfaranden.

På den regleringsmässiga sidan ökar OIG, CMS och statliga myndigheter granskningen av hur organisationer använder AI i bedrägeriförebyggande. Att kunna demonstrera att din upptäcktsmetodik är tolkningsbar och granskbar är inte bara bra praxis, utan en komponent i ansvarsfull distribution som minskar regelefterlevnadsrisk.

Som generativ AI fortsätter att förbättras, kommer bedragare sannolikt att bli mer sofistikerade. Hur designar Codoxo sina modeller för att kontinuerligt anpassa sig till nya former av syntetisk medicinsk dokumentation?

Utmaningen är att bedrägeri är antagonistiskt till sin natur. När upptäckt förbättras, utvecklas taktikerna på den andra sidan. Varje system som tränas en gång och distribueras utan uppdatering kommer att försämras över tid, eftersom bedragare lär sig vad som utlöser det och justerar. Det är samma grundläggande problem som gör att varje statisk upptäcktsmetod, antingen regelbaserad eller en fast AI-modell, alltid kommer att hamna efter. Den sofistikeringen av verktyget spelar ingen roll om den underliggande arkitekturen inte kan hålla jämna steg med hotet.

Vår metod är att behandla upptäckt som en kontinuerligt uppdaterad kapacitet snarare än en fast produkt. När nya bedrägerimönster yttas i systemet och när AI-genereringstekniker utvecklas, matas dessa mönster tillbaka till modellförbättring. Systemet är utformat för att bli bättre på att identifiera den framväxande hotbilden, inte bara hoten som fanns vid distribution. Detta är viktigt med tanke på den takt som generativ AI utvecklas och den hastighet med vilken bedragare experimenterar med nya metoder, inklusive vissa antagonistiska tekniker som trojan deepfake-motorer som är utformade för att undergräva upptäckt.

Detta kommer att vara en pågående tävling. Det finns inget slutgiltigt, löst tillstånd. Åtagandet vi har gjort är att hålla upptäcktsförmåga aktuell med hotet, och vår agensarkitektur är vad som gör det möjligt i skala.

Att blicka framåt, tror du att deepfake-upptäckt kommer att bli en standardkomponent i hälso- och sjukvårdsinfrastruktur, liknande hur anti-penningtvättsystem fungerar i finans, eller kommer branschen att behöva helt nya metoder för tillit och validering av medicinska data?

Jag tror att Deepfake Detection kommer att bli standardinfrastruktur, och tidsramen för det är kortare än vad de flesta i branschen förväntar sig. Innan AML-ramverk blev standard i finansiella tjänster, förlitade sig branschen tungt på regelbaserad upptäckt och manuell granskning. Skiftet skedde när hotet nådde en skala som gjorde reaktiv upptäckt tydligt otillräcklig, och när den regleringsmässiga miljön kodifierade förväntningen att finansiella institutioner skulle ha systematiska, kontinuerligt uppdaterade kontroller på plats. Hälso- och sjukvården närmar sig en liknande vändpunkt.

Det som redan händer är att försäkringsgivare som distribuerar deepfake-upptäckt nu gör det för att hotet är verkligt och närvarande, snarare än att regleringen kräver det. När dessa tidiga distributioner genererar bevis på de förluster som förhindras, och när AI-genererade bedrägerischeman blir mer synliga i verkställighetsåtgärder och offentlig rapportering, kommer förväntningen att breda ut sig över hela branschen.

Att blicka framåt, när generativ AI fortsätter att förbättras, kan branschen behöva omvärdera hur dokumentationsautenticitet etableras vid skapandet snarare än valideras efteråt. Det kan innebära kryptografisk intygning av kliniska register på EHR-nivå, leverantörsidentitetsverifiering integrerad i dokumentationsarbetsflödet eller andra mekanismer som gör ursprunget för ett dokument spårbar på sätt som det inte är i dag. Upptäckt på anspråksnivå är en nödvändig respons på det aktuella hotet. Men den hållbara lösningen kan kräva att bygga validering djupare in i infrastrukturen för hur medicinska register skapas och överförs.

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka Codoxo.