Dr. Musheer Ahmed, PhD, zakladatel a generální ředitel Codoxo – Interview Series

Dr. Musheer Ahmed, PhD, zakladatel a generální ředitel Codoxo, je technolog a podnikatel, který se zaměřuje na aplikaci umělé inteligence pro řešení systémových neefektivností ve zdravotnictví. Založil Codoxo na základě výzkumu, který provedl během svého PhD na Georgia Institute of Technology, kde vytvořil základy patentované AI metody pro detekci podvodů, plýtvání a zneužívání ve zdravotních nárocích. Pod jeho vedením se společnost rozrostla do poskytovatele AI poháněných řešení pro integritu plateb, které pomáhají zdravotnickým organizacím identifikovat rizika dříve a přecházet z reaktivních auditů na proaktivní kontrolu nákladů. Jeho předchozí zkušenosti v oblasti bezpečnostní inteligence ve společnosti VeriSign, kde pracoval na identifikaci nových kybernetických hrozeb a zranitelností, utvořily jeho zaměření na využití pokročilé analýzy a strojového učení pro odhalení skrytých vzorců v komplexních datových prostředích.

Codoxo je zdravotnická společnost zaměřená na umělou inteligenci, která se zaměřuje na snížení neefektivností a zbytečných nákladů napříč zdravotnickým systémem prostřednictvím své Forensic AI Platform. Platforma používá patentované algoritmy a strojové učení pro analýzu velkých objemů dat o nárocích, identifikaci podezřelého chování, fakturačních anomálií a vznikajících podvodných vzorců dříve, než tradiční systémy. Díky umožnění zdravotnickým plátcům, vládním agenturám a manažerům lékových výhod zasáhnout před nebo během procesu nároků, Codoxo mění odvětví směrem k proaktivní integritě plateb místo retrospektivní obnovy. Jeho širší integrovaná platforma pro kontrolu nákladů zahrnuje těžbu dat, vzdělávání poskytovatelů, pracovní postupy auditu a řízení případů, což pomáhá organizacím zlepšit přesnost, snížit přeplatky a zefektivnit operace, zatímco se zabývají odhadovanými stamiliony dolarů ztracenými ročně kvůli podvodům, plýtvání a zneužívání.

Vy jste založil Codoxo po výzkumu detekce zdravotnických podvodů během svého PhD na Georgia Tech. Co vás nejprve přesvědčilo, že umělá inteligence může zásadně změnit, jak jsou detekovány podvody, plýtvání a zneužívání ve zdravotnických systémech?

Dospěl jsem k závěru, že to nebylo jednorázovým okamžikem, ale konfrontací s tím, jak špatně selhávala stávající metoda. Zdravotnické podvody v USA představují někde kolem 330 miliard dolarů ztracených ročně. To je více než jakýkoli jiný typ pojistného podvodu v zemi, a přesto dominantní detekční metody mohly chytit pouze to, na co byly již dříve trénovány. I když umělá inteligence vstoupila do obrazu, většina přístupů byla reaktivní, pattern-matching proti známým podvodným schématům spíše než povrchování neznámých. Okamžik, který to pro mě zkrystalizoval, byl okamžik, kdy jsem si uvědomil, že podvod není statickým problémem. Špatní herci se přizpůsobují. Učí se, co spustí signál, a obcházejí ho. Systém založený na pevných pravidlech je definován jako vždy pozadu.

Umělá inteligence nabízí schopnost povrchovat vzorce, které nikdo nemyslel na programování dopředu. Během mé disertační práce na Georgia Tech jsem budoval modely, které mohly procházet kompletní historií nároků poskytovatele, identifikovat behaviorální anomálie a spojovat signály, které by lidský analytik nebo motor pravidel nikdy nespojil. JASON poradenská skupina, která radí americké vládě o vědě a technologiích, uznala tuto práci jako řešení skutečných strukturálních mezer v tom, jak se zdravotnická data používala pro integritu plateb. To mi řeklo, že problém je dostatečně vážný, aby se kolem něj budovala společnost.

Zdravotnické podvody byly po dlouhou dobu multibilionovým problémem, ale generativní umělá inteligence se zdá být jeho dramatickým zrychlením. Jak se změnil hrozivý obraz pro zdravotnické pojišťovny a týmy pro integritu plateb?

Změnil se fundamentálně a odvětví ještě plně neabsorbovalo, jak významný je tento posun. Starý model dokumentačního podvodu vyžadoval manuální úsilí. Špatný herec, který spáchal podvod, musel vyrábět poznámky jeden po druhém, měnit obrázky jednotlivě a vytvářet záznamy, které byly dostatečně věrohodné, aby přežily kontrolu. To vytvořilo přirozený strop na škále jakéhokoli schématu.

Generativní umělá inteligence odstranila tento strop. Dnes může kdokoli požádat velký jazykový model, aby vyprodukoval 50 terapeutických sezení poznámek pro léčbu úzkosti a obdržel je během pěti minut. Tyto poznámky budou používat vhodné klinické terminologie, budou následovat věrohodnou narativní strukturu a budou vypadat vnitřně konzistentně. Většina systémů pro detekci podvodů nebyla navržena tak, aby hodnotila, zda je dokument autentický nebo syntetický. Byly navrženy tak, aby kontrolovaly, zda byly fakturační kódy aplikovány správně, zda se vyskytovaly známé vzorce a zda se shodovaly s existujícími podvodnými signaturami. Syntetická dokumentace proto projde i kolem některých systémů, které tvrdí, že mají AI komponentu.

Mnohé tradiční systémy pro detekci podvodů spoléhají na modely založené na pravidlech a manuální kontrolu. Proč jsou tyto přístupy stále méně účinné při řešení AI vygenerovaných zdravotnických záznamů nebo manipulovaných diagnostických obrazů?

Většina přístupů k detekci podvodů, ať už založených na pravidlech nebo rané generace AI, funguje na základě fundamentálně chybného předpokladu: že všechny dokumenty vstupující do systému byly vytvořeny člověkem, který následoval normální klinické postupy. Jakmile se tento předpoklad rozpadne, celý detekční přístup se rozpadne s ním.

Motor pravidel může označit nemožnou kombinaci kódů, poskytovatele, který fakturuje více hodin, než existuje v denní době, nebo zákrok provedený na zemřelém pacientovi. Tyto jsou všechny reálné a užitečné odhalení. Ale logika založená na pravidlech nemůže prohlédnout progressivní poznámku a určit, zda byla napsána klinickým pracovníkem, který skutečně viděl pacienta, nebo vygenerována AI modelem, který nikdy nevykonával medicínu. Tyto dva výstupy mohou být strukturálně identické.

Codoxo nedávno spustil Deepfake Detection, aby řešil tento vznikající riziko. Na vysoké úrovni, jak tato technologie analyzuje zdravotnické dokumenty a obrázky, aby určila, zda obsah může být vygenerován nebo manipulován AI?

Základní návrhový princip spočívá v tom, že jsme Deepfake Detection vytvořili speciálně pro zdravotnické dokumenty, nikoli aby se přizpůsobili obecným nástrojům pro detekci AI z jiných odvětví nebo použití. To znamená, že modely jsou trénovány na zdravotnických signálech specifických pro zdravotnictví, nikoli přizpůsobených z nástrojů postavených pro jiná odvětví nebo použití. Tento rozdíl je důležitý, protože signály, které indikují syntetický obsah v zdravotnickém záznamu nebo diagnostickém obraze, se liší od signálů relevantních v jiných doménách.

Vaše platforma zdůrazňuje schopnosti, jako je detekce klonování, identifikace částečné AI generace a behaviorální křížové odkazy proti historii nároků. Můžete nás provést, jak tyto signály kombinují, aby vytvořily smysluplný rizikový skóre pro vyšetřovatele?

Každá z těchto schopností cílí na jiný podvodný vzorec a rizikový skóre odráží, jak tyto vzorce interagují v konkrétním případě.

Co jsou některé z nejvíce znepokojivých deepfake povolených zdravotnických podvodných schémat, které pojišťovny a regulátoři by měli sledovat v příštích letech?

Scénáře, které mě nejvíce znepokojují, jsou ty, které kombinují rozsah se schopností, aby byly obtížně stopovatelné, i se silnými detekčními opatřeními.

Zdravotnické nároky často zahrnují velké objemy dokumentace a podpůrných důkazů. Jak AI systém vyhodnocuje tyto informace dostatečně rychle, aby zastavil podvodné nároky před tím, než je provedena platba?

Rychlost je vlastně základní návrhový požadavek, ne něco hezkého. Jediným způsobem, jak Deepfake Detection funguje v praxi, je, pokud funguje na rychlosti zdravotnického potrubí. Pokud analýza trvá hodiny nebo vyžaduje, aby člověk inicioval kontrolní frontu, jste již minulý předplacený okno a jste zpět u provádění obnovy práce po tom, co peníze opustily systém.

Fraudulentní detekční nástroje musí být vysvětlitelné pro vyšetřovatele, auditory a regulátory. Jak zajišťujete, aby AI vygenerované rizikové skóre mohly být porozuměny a důvěřovány Special Investigation Units a týmy pro integritu plateb?

Vysvětlitelnost není volitelná v tomto doměnu. Pokud SIU vyšetřovatel bude jednat na základě rizikového skóre, ať už to znamená držení nároku, otevření případu nebo sestavení doporučení pro stíhání, musí být schopen artikulovat, co systém našel a proč. Černá skříňková výstup, která říká “vysoké riziko”, není užitečným nástrojem v pracovním postupu, který má právní a regulační odpovědnost.

Jak Codoxo navrhuje své modely, aby neustále přizpůsobovaly, jakmile se objeví nové formy syntetických zdravotnických dokumentů?

Vyzývací je to, že podvod je adversativní povahy. Jakmile se detekce zlepšuje, taktiky na druhé straně se vyvíjejí. Jakýkoli systém, který je trénován jednou a nasazen bez aktualizace, se zhorší s časem, protože podvodníci se učí, co spustí detekci, a upraví. To je stejný fundamentální problém, který činí jakoukoli statickou detekční metodu nedostatečnou, ať už je založena na pravidlech nebo na AI modelu, který není navržen pro aktualizaci. Sophisticovanost nástroje nezáleží, pokud základní architektura nemůže držet krok s hrozbou.

Pohledem vpřed, věříte, že deepfake detekce se stane standardní součástí zdravotnické infrastruktury, podobně jako anti-praní peněz systémy fungují ve financích, nebo bude odvětví potřebovat zcela nové přístupy k důvěře a ověření zdravotnických dat?

Myslím, že Deepfake Detection se stane standardní infrastrukturou a časový horizont pro to je kratší, než většina lidí v odvětví očekává. Předtím, než se AML rámce staly standardem ve finančních službách, odvětví také silně spoléhalo na detekci založenou na pravidlech a manuální kontrolu. Posun nastal, když hrozba dosáhla rozsahu, který učinil reaktivní detekci jasně nedostatečnou, a když regulační prostředí kodifikovalo očekávání, že finanční instituce budou mít systematické, kontinuálně aktualizované kontroly na místě. Zdravotnictví se blíží podobnému zlomovému bodu.

Děkuji vám za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Codoxo.