Tohtori Musheer Ahmed, PhD, Codoxon perustaja ja toimitusjohtaja – Haastattelusarja

Tohtori Musheer Ahmed, PhD, Codoxon perustaja ja toimitusjohtaja on teknologiayritys, joka keskittyy soveltamaan tekoälyä ratkaisemaan terveydenhuoltojärjestelmän systeemisiä epätarkkuuksia. Hän perusti Codoxon tutkimuksen pohjalta, jonka hän teki väitöskirjansa aikana Georgian Institute of Technologyn yliopistossa, jossa hän kehitti patentoitua tekoälylähestymistapaa havaitsemaan petoksia, tuhlailua ja väärinkäytöstä terveydenhuollon korvausvaatimuksissa. Hänen johdollaan yritys on kasvanut tekoälyohjattujen maksuvarallisuusratkaisujen tarjoajaksi, joka auttaa terveydenhuolto-organisaatioita tunnistamaan riskejä aikaisemmin ja siirtymään reaktiivisista tarkastuksista proaktiiviseen kustannusvähennystoimiin. Aikaisempi kokemus turvallisuusintelligenssista VeriSignissa, jossa hän työskenteli tunnistamassa uusia kyberuhkia ja haavoittuvuuksia, muovasi hänen fokuksensa käyttämään edistyneitä analyytikkoja ja koneoppimista piilottujen mallien paljastamiseksi monimutkaisissa tietoympäristöissä.

Codoxo on terveydenhuollon tekoälyyritys, joka keskittyy vähentämään epätarkkuuksia ja tarpeettomia kustannuksia terveydenhuoltojärjestelmässä Forensic AI -alustansa avulla. Alusta käyttää patentoitua algoritmia ja koneoppimista analysoimaan laajoja määriä korvausvaatimustietoja, tunnistamaan epäilyttävän käyttäytymisen, laskutuspoikkeamat ja uudet petossuunnitelmat perinteisten järjestelmien tavoin. Mahdollistamalla terveydenhuollon maksajien, viranomaisten ja apteekin hyödyllisten asioiden johtajien puuttua asiaan ennen tai korvausprosessin aikana, Codoxo siirtää alan suuntaa proaktiivisesta maksuvarallisuudesta jälkikäteen palautettavaan maksuun. Laajempi yhdistetty kustannusvähennysalusta integroi datakaiverruksen, tarjoajan koulutuksen, tarkastusprosessit ja tapausten hallinnan, auttaen organisaatioita parantamaan tarkkuutta, vähentämään ylipalkkauksia ja suoristamaan toimintojaan osoittamalla arviolta satoja miljardeja dollareita, jotka menetetään vuosittain petoksiin, tuhlaamiseen ja väärinkäyttöön.

Perustit Codoxon terveydenhuollon petosten havaitsemisen tutkimuksen jälkeen väitöskirjasi aikana Georgia Techissä. Mikä ensin vakuutti sinut siitä, että tekoäly voisi muuttaa perustavasti, miten petoksia, tuhlaamista ja väärinkäyttöä havaitaan terveydenhuoltojärjestelmissä?

Tullessani vakuuttuneeksi ei yhdestä hetkestä, vaan havainnoimalla, miten huonosti olemassa oleva lähestymistapa epäonnistui. Terveydenhuollon petokset Yhdysvalloissa edustavat noin 330 miljardia dollaria vuosittain menetettyjä varoja. Se on enemmän kuin mikä tahansa muu vakuutuspetos maassa, ja silti hallitsevat havaintamenetelmät pystyivät vain havaitsemaan sen, mihin heidät oli koulutettu. Vaikka tekoäly tuli kuvioon, useimmat lähestymistavat olivat reaktiivisia, mallintamalla tunnettuja petossuunnitelmia eikä pinnan alla olevia tuntemattomia suunnitelmia. Hetki, joka kiteytti sen minulle, oli tajuttuani, että petos ei ole staattinen ongelma. Pahantahtoiset toimijat sopeutuvat. He oppivat, mitkä laukaisevat lipun, ja ohittavat sen. Järjestelmä, joka perustuu kiinteisiin sääntöihin, on määritelmän mukaan aina jäljessä.

Mitä tekoäly tarjoaa, on mahdollisuus paljastaa mallit, joita kukaan ei ajatellut ohjelmoida etukäteen. Väitöskirjatyöni aikana Georgian teknologiayliopistossa rakensin malleja, jotka voivat tarkastella tarjoajan koko korvausvaatimushistoriaa, tunnistaa käyttäytymisen poikkeavuuksia ja yhdistää signaaleja, joita ihmisanalyytikko tai sääntömoottori ei koskaan linkittäisi yhteen. JASON-asiakasryhmä, joka neuvoo Yhdysvaltain hallitusta tieteestä ja teknologiasta, tunnusti tämän työn osoittavan todellisia rakenteellisia aukkoja siinä, miten terveydenhuoltotietoja käytetään maksuvarallisuuden vuoksi. Tunnustus kertoi minulle, että ongelma on vakava ja sen perusteella voidaan rakentaa yritys.

Ydin vakuutus, joka ajoi minua silloin, on sama, joka ajaa meitä Codoxossa nyt: terveydenhuollon korvausvaatimustiedot sisältävät signaalin, jota tarvitaan petoksen kiinni saamiseksi, mutta voit vain poistaa sen tekoälyllä, joka voi tarkastella koko kuvaa nopeasti ja tarkasti, eikä vain tarkastaa ruutuja.

Terveydenhuollon petokset ovat pitkään olleet monimiljardin dollarin ongelma, mutta generatiivinen tekoäly näyttää kiihdyttävän sitä dramaattisesti. Miten työkalujen kehittyminen, jotka pystyvät tuottamaan vakuuttavia kliinisiä asiakirjoja ja diagnostisia kuvia, on muuttanut uhka-kuvaa terveydenhuollon vakuuttajille ja maksuvarallisuuden tiimille?

Se on muuttanut sitä perustavasti, ja alan ei vielä täysin omaksunut, kuinka merkittävä tämä muutos on. Vanha asiakirjojen väärentämisen malli vaati manuaalista työtä. Pahantahtoinen, joka teki petosta, joutui väärentämään muistiinpanoja yksi kerrallaan, muuttamaan kuvia yksittäin ja luomaan tietueita, jotka kestäisivät tarkastelun. Tämä kitka loi luonnollisen kattoon minkä tahansa suunnitelman skaalalle.

Generatiivinen tekoäly poisti tämän katon. Nykyään kuka tahansa voi pyytää suurta kielen mallia tuottamaan 50 terapiaistunnon muistiinpanoja ahdistuneen hoidosta ja vastaanottaa ne alle viidessä minuutissa. Nämä muistiinpanot käyttävät sopivaa kliinistä terminologiaa, seuraavat uskottavaa kerronnallista rakennetta ja näyttävät sisäisesti johdonmukaisilta. Useimmat petosten havaitsemisjärjestelmät eivät olleet suunniteltu arvioimaan, onko asiakirja aito vai syntetinen. Ne suunniteltiin tarkastamaan, onko laskutuskoodit sovellettu oikein, liputtaa tunnettuja malleja ja vertailla olemassa oleviin petosmerkkeihin. Syntetinen asiakirja menee siis ohi, jopa järjestelmissä, jotka väittävät tekoälykomponentin.

Olemme myös nähneet tämän diagnostiikan kuvissa. Yksi legitimi X-säde voidaan käyttää useiden kymmenien AI-luotujen varianttien siemenenä, joita jokainen esitetään eri keksitylle potilaalle. Järjestelmä, jolla ei ole kuvan vertailukykyä, näkee 50 yksilöllistä tapausta, mutta todellisuudessa on yksi aito skannaus ja 49 syntetistä kopioita. Uhka-kuvaa on muutettu eristetyistä pahantahtoisista toimijoista ihmisistä, jotka voivat suorittaa skaalautuvia, toistuvia suunnitelmia lähes ilman teknistä osaamista.

Monet perinteiset petosten havaitsemisjärjestelmät perustuvat sääntöpohjaisiin malleihin ja manuaaliseen tarkasteluun. Miksi nämä lähestymistavat ovat yhä tehottomampia, kun on kyse AI-luotujen lääkäriasiakirjojen tai manipuloiduista diagnostisista kuvista?

Useimmat petosten havaitsemislähestymistavat, olivat ne sääntöpohjaisia tai aikaisemman sukupolven tekoälyä, toimivat perustavanlaatuisesti virheelliselle oletukselle: kaikki asiakirjat, jotka tulevat järjestelmään, on luonut ihminen seuraamalla normaaleja kliinisiä prosesseja. Kun tämä oletus murtuu, koko havaitsemislähestymistapa murtuu sen mukana.

Sääntömoottori voi liputtaa mahdottoman koodiyhdistelmän, tarjoajan laskutuksen enemmän tunteja kuin on päivässä tai toimenpidettä, jota suoritetaan kuolleelle potilaalle. Nämä ovat kaikki todellisia ja hyödyllisiä kiinniotoja. Mutta sääntölogiikka ei voi tarkastella etenemismerkintää ja määrittää, onko se kirjoitettu klinikoilla, joka on todella nähnyt potilaan, vai generoitu tekoälymallilla, joka ei ole harjoitellut lääketiedettä. Kaksi tulostetta voidaan olla rakenteellisesti samanlaisia.

Manuaalinen tarkastelu on samalla katolla. Tutkimukset osoittavat, että vain noin 34 % ihmisistä voi tunnistaa deepfaken, vaikka heille on kerrottu, että se on läsnä ja he etsivät sitä tarkkaan. SIU-tutkija, joka tarkastelee pinon etenemismerkintöjä, ei ole saanut erityistä koulutusta synteettisen tekstin havaitsemiseksi, ei ole kuvan vertailutyökaluja havaitsemaan kloonattuja skannauksia eikä ole tarpeeksi tunteja päivässä suorittamaan tällaista tarkastelua jokaiselle korvausvaatimukselle. Tietomäärän ongelma yksin tekee kattavan manuaalisen tarkastelun mahdottomaksi, ja se oli totta ennen kuin generatiivinen tekoäly alkoi kiihdyttää väärennetyn asiakirjan määrää ja monimutkaisuutta.

On myös kehittymässä uhka, jota pidän aliarvioituna: tutkijat kutsuvat sitä trojan-hevosen deepfake-moottoreiksi. Nämä ovat viruksellisia agenteja, jotka on suunniteltu nimenomaan neutraloimaan havaitsemisohjelmia, toimimalla taktiikoilla, kuten kuvan analyysin häikäiseminen tai pahantahtoinen ohjelmointi uudelleen. Uhka ei ole ainoastaan petoksia, jotka tuottavat vakuuttavia väärennöksiä. Joissakin tapauksissa he yrittävät aktiivisesti rikkoa työkaluja, jotka on rakennettu kiinni saamaan heidät. Tämä vihollinen dynamiikka on osa sitä, miksi staattinen havaitsemislähestymistapa, olipa se sääntöpohjainen tai kiinteä tekoälymalli, aina jää jälkeen. Puolustus on oltava yhtä sopeutuvainen kuin hyökkäys.

Codoxo julkaisi äskettäin Deepfake Detection -ratkaisun tämän uuden riskin ratkaisemiseksi. Yleisellä tasolla, miten teknologia analysoi lääkäriasiakirjoja ja kuvia määrittääkseen, onko sisältöä mahdollisesti luotu tai muokattu tekoälyllä?

Ydin suunnitteluperiaate on, että rakensimme Deepfake Detection -järjestelmän nimenomaan terveydenhuollon asiakirjoille eikä sopeuttanut yleistä tekoälyhavaitsemistyökalua kliiniseen asiaympäristöön. Se ero on tärkeä, koska signaalit, jotka osoittavat synteettistä sisältöä lääkäriasiakirjassa tai diagnostisessa kuvassa, ovat erilaisia kuin signaalit, jotka ovat merkittäviä muissa asiaympäristöissä.

Järjestelmä analysoi lääkäriasiakirjoja ja kuvia yhdessä koko korvausvaatimushistorian kanssa, ja se tekee sen sekunneissa. Kun SIU-tutkija lataa epäilyttävän asiakirjan, tekoäly suorittaa analyysin useiden ulottuvuuksien yli samanaikaisesti. Se etsii synteettisen tai muokatun sisällön merkkejä, tarkastaa kloonauksen ja toistuvuuden maksajan laajemman korvausvaatimushistorian yli ja arvioi käyttäytymisen johdonmukaisuutta tarjoajan historiallisten mallien kanssa.

Yksi asia, josta on mainittava, on laajuus formaatteja, joita järjestelmä voi käsitellä. Se käsittelee tekstimuotoisia asiakirjoja PDF-, Word- ja XML-muodoissa, taulukoita, lääketieteellisiä kuvia ja jopa käsin kirjoitettuja muistiinpanoja. Se on tärkeää käytännössä, koska petolliset asiakirjat eivät tule yhden puhdas muodon mukaisesti, ja havaitsemisjärjestelmä, joka kattaa vain osan siitä, mitä SIU-tiimit vastaanottavat, jättää aukkoja, joita kehittyneet petkuttajat lopulta löytävät.

Kaiken tämän analyysin perusteella järjestelmä luo riskipisteytysasteikon 0-100 skaalalla yksityiskohtaisilla selityksillä, jotta tutkija ymmärtää tarkalleen, mitkä signaalit johtivat pisteytykseen. Tavoitteena on tuottaa toimintavalmiisia tuloksia eikä vain hälytyksiä, ja tekemään se nopeammin ja tarkemmin kuin yleisempi järjestelmä. Nopeus on tärkeää, koska ainoa puuttumispiste, joka merkitsevästi muuttaa petoksen taloutta, on ennen maksamista.

Vaadinne, jossa korostuu kykyjä, kuten kloonien havaitseminen, osittainen AI-luontaisen tunnistaminen ja käyttäytymisen ristiriitaisuus korvausvaatimushistorian kanssa. Voitko kuljettaa meidät läpi, miten nämä signaalit yhdistyvät tuottamaan merkityksellisen riskipisteytyksen tutkijoille?

Kukin näistä kyvyistä kohdistuu eri petosmalliin, ja riskipisteytys heijastaa, miten ne vuorovaikuttavat tietyssä tapauksessa.

Kloonien ja toistuvuuden havaitseminen koskee tilannetta, jossa yksi aito tietue on replikoinut useita keksittyjä potilaita. Mikä tekee tämän haastavaksi havaita ilman tekoälyä, on se, että variatiot voivat olla niin hienoja, ettei yksittäinen asiakirja näytä epäilyttävältä eristyneenä. Malli tulee näkyviin vasta, kun vertaillaan koko korvausvaatimusten väestöä. Järjestelmämme voi paljastaa, että joukko asiakirjoja, jotka näyttävät pinnan alla olevan johdonmukaisilta, ovat todella johdonmukaisia yhdestä yhteisestä lähteestä.

Osittainen AI-luontaisen tunnistaminen on tärkeää, koska kehittyneet petkuttajat eivät aina valmistele kokonaan väärennettyjä asiakirjoja. Yleisempi ja haasteellisempi malli on sekoittaminen, jossa otetaan aito potilastietue ja käytetään tekoälyä lisäämään väärennettyjä lisäpalveluja tai toimenpiteitä. Aitojen osien ansiosta asiakirja näyttää uskottavalta, mutta lisätyt osat edustavat korvausvaatimuksia hoidosta, jota ei koskaan toimitettu. Järjestelmämme on erityisesti suunniteltu löytämään nämä tapaukset.

Käyttäytymisen ristiriitaisuus yhdistää tarkasteltavaa asiakirjaa tarjoajan koko korvausvaatimushistoriaan. Jos asiakirja esittää kliinisiä kertomuksia, jotka ovat ristiriidassa siitä, miten tarjoaja on historiallisesti asiakirjoittanut samanlaisia tapauksia, tai jos asiakirjan määrä ja malli poikkeavat merkittävästi peruslinjasta, nämä ristiriidat ovat signaaleja. Yksinään kukaan niistä ei ole ratkaiseva. Yhdessä, painotettuina ja selitettyinä riskipisteytyksen tuloksena, ne antavat tutkijoille merkityksellisen aloituspisteen, joka vaatisi tunteja tai päiviä kehittää manuaalisesti. Se, mikä tekee tämän erilaiseksi järjestelmästä, joka vain liputtaa AI-luotuja sisältöä, on signaaleiden yhdistäminen. Sisällön analyysi yksin voi missata sekoitetut asiakirjat. Käyttäytymisen analyysi yksin voi missata uuden petkuttajan, jolla ei ole aiempaa mallia. Se on leikkauspiste, jossa kaikki kolme kerrosta käsitellään samanaikaisesti, prosessoidaan sekunneissa, joka saa kiinni sitä, mitä muut tekoälyjärjestelmät eivät voi.

Miltä näyttävät joistakin eniten huolestuttavista deepfake-kiihdyttämistä terveydenhuollon petossuunnitelmista, joita vakuuttajat ja sääntelijät tulisi seurata seuraavien vuosien aikana?

Skenaariot, jotka minua askarruttavat eniten, ovat ne, jotka yhdistävät skaalan uskottavuuden kanssa tavoin, jotka ovat haasteellisia jäljittää, jopa vahvan havaitsemisen kanssa.

Terveydenhuolto on todellinen haavoittuvuus. Terapian palvelujen asiakirjat ovat pääasiassa kerronnallisia, mukaan lukien istunnon muistiinpanot, hoitosuunnitelmat ja edistymisen yhteenvetot. Ei ole laboratoriotuloksia, joita voidaan verrata, ei kuvia, joita voidaan tarkastella. Petollinen tarjoaja, jolla on yleinen kielen malli, voi tuottaa kliinisesti uskottavia terveydenhuollon asiakirjoja poikkeuksellisen määrän, ja ainoa käytännöllinen tapa havaita sitä on käyttää tekoälyä, joka voi arvioida, osoittavatko asiakirjat synteettisen luomisen kielellisiä ja rakenteellisia merkkejä.

Diagnostisen kuvan petos on toinen alue, jota seuraan tarkkaan. Vapaat ja helposti saatavissa olevat AI-työkalut voivat nyt tuottaa realistisia lääketieteellisiä kuvanvariaatioita yhdestä alkuperäisestä kuvasta. Kun nämä työkalut paranevat, synteettiset tulosteet tulevat vaikeammaksi erottaa aitojen skannauksista ilman tarkoitukseen suunniteltua havaitsemista. Maksajat, joiden työnkulkuissa ei ole kuvan forensiikkaa, toimivat tällä hetkellä luottamuksella, että heille saadut kuvat ovat aitoja.

On myös kehittymässä uhka, jota pidän aliarvioituna: identiteetin ja akkreditoinnin petos, jossa AI-luotujen asiakirjojen tuki petollista tarjoajan rekisteröintiä tai aiemman hyväksynnän saamista palveluista, joita ei koskaan ollut lääketieteellisesti välttämättömiä. Nämä suunnitelmat ovat haasteellisempia havaita, koska petos on upotettu otto-prosessiin eikä itse korvausvaatimuksiin, ja kun se ilmenee korvausdatassa, vahinko on jo tapahtunut.

Terveydenhuollon korvausvaatimukset usein sisältävät suuria määriä asiakirjoja ja tukitodisteita. Miten tekoälyjärjestelmä arvioi nopeasti tarpeeksi tietoa estääkseen väärennettyjä korvausvaatimuksia ennen maksamista?

Nopeus on itse asiassa ydin suunnittelovaatimus, ei vain miellyttävä ominaisuus. Ainoa tapa, jolla Deepfake Detection on käytännössä hyödyllinen, on, jos se toimii korvausputken nopeudella. Jos analyysi kestää tunteja tai vaatii ihmisen aloittamaan tarkastelun, olet jo missannut ennen maksamisen ikkunan, ja olet palannut tekemään palautusyötä, kun raha on jo poistunut järjestelmästä.

Järjestelmämme on suunniteltu suorittamaan analyysin sekunneissa. Kun asiakirjat ladataan tarkastelua varten, tekoäly suorittaa arviointinsa rinnakkain eikä peräkkäin. Synteettisen sisällön analyysi, kloonien tarkastelu ja käyttäytymisen ristiriitaisuus tapahtuvat samanaikaisesti eikä ketjussa. Tuloste on riskipisteytys yksityiskohtaisilla selityksillä, jotta tutkija ei tarvitse tulkita raakasignaaleja. He saavat priorisoidun, toimintavalmiin tuloksen. Rinnakkainen arkkitehtuuri on osa sitä, mikä mahdollistaa meidän tehdä sen nopeammin ja tarkemmin.

Laajempi pointti tässä on, että muutos, jota pyrimme aikaan saamaan koko Codoxon työssä, mitä kutsumme Point Zero, on siirtää maksuvarallisuuden puuttuminen mahdollisimman pitkälle ylös. Kiinni saaminen väärennetystä korvausvaatimuksesta ennen maksamista on dramaattisesti tehokkaampaa kuin palauttaminen ylipalkkausta maksamisen jälkeen. Palauttaminen on kallista, hidasta ja usein epätäydellistä. Ennaltaehkäisy asiakirjan ja todisteen vahvistamisen vaiheessa muuttaa koko ongelman taloutta.

Petosten havaitsemistyökalut on oltava selitettävissä tutkijoille, tarkastajille ja sääntelijöille. Miten varmistat, että AI-luotujen riskipisteytykset voidaan ymmärtää ja luottaa erityisiin tutkimusyksiköihin ja maksuvarallisuuden tiimeihin?

Selitettävyys ei ole valinnainen tässä asiaympäristössä. Jos SIU-tutkija aikoo toimia riskipisteytyksen perusteella, olipa se maksamisen pidäminen, tapauksen avaaminen tai viitteen rakentaminen syytetoimiin, heidän on voitava ilmaista, mitä järjestelmä löysi ja miksi. Musta laatikko, joka sanoo “korkea riski”, ei ole hyödyllinen työkalu työnkulussa, jolla on oikeudellinen ja sääntelyn mukainen vastuu.

Jokainen riskipisteytys, jonka järjestelmämme luo, sisältää tarkat petosmerkit, jotka voivat sisältää signaalit, jotka johtivat pisteytykseen, mallit, jotka tunnistettiin, ja ristiriidat, jotka paljastettiin. Tutkija voi seurata järkeilyä pisteytystä takaisin todisteisiin. Tämä taso yksityiskohtaisuutta on mahdollista vain, koska perustavanlaatuinen havaitseminen on suunniteltu nimenomaan terveydenhuollon asiakirjoille.

Mekaanisesti olemme myös lisänneet mukautuvan ohjelmointikapasiteetin, joka antaa tutkijoille mahdollisuuden räätälöidä analyysiä tietyille tutkimustilanteille ja ainutlaatuisille petosmalleille. Se on tärkeää selitettävyydelle käytännössä, koska se tarkoittaa, että järjestelmä ei suorita yleispätevää analyysiä ja pyytää tutkijoita tulkkaamaan yleisiä tuloksia. He voivat muotoilla tutkimuksen perusteella siitä, mitä he etsivät tietyssä tapauksessa, mikä tekee tulokset käytännössä hyödyllisemmiksi ja helpommin selitettäviksi tarkastajille tai oikeudellisissa menettelyissä.

Sääntelyn kannalta OIG, CMS ja valtiolliset virastot lisäävät tarkastelua siitä, miten organisaatiot käyttävät tekoälyä petosten ehkäisemiseksi. Osoittaa, että havaitsemismenetelmä on tulkiteltavissa ja tarkasteltavissa, ei ole ainoastaan hyvä käytäntö, vaan se on osa vastuullista käyttöönottoa, joka vähentää sääntelyriskiä.

Kun generatiivinen tekoäly jatkaa parantamista, petkuttajat todennäköisesti tulevat kehittyneemmiksi. Miten Codoxo suunnittelee mallejaan jatkuvasti sopeutumaan uusien synteettisten lääkäriasiakirjojen ilmestyessä?

Haaste on, että petos on vihamielinen luonteeltaan. Kun havaitseminen paranee, taktiikat toisella puolella kehittyvät. Mikä tahansa kerran koulutettu ja käyttöön otettu järjestelmä heikkenee ajan myötä, kun petkuttajat oppivat, mitkä laukaisevat sen, ja sopeuttavat. Se on sama perusongelma, joka tekee staattisen havaitsemislähestymistavan, olipa se sääntöpohjainen tai kiinteä tekoälymalli, riittämättömäksi. Puolustus on oltava yhtä sopeutuvainen kuin hyökkäys.

Lähestymistapamme on kohdella havaitsemista jatkuvasti päivitettävänä kykyinä eikä kiinteänä tuotteena. Kun uudet petosmallit ilmestyvät järjestelmään ja kun tekoälygenerointitekniikat kehittyvät, nämä mallit syötetään takaisin mallin parantamiseen. Järjestelmä on suunniteltu parantamaan havaitsemiskykyä ilmestyvään uhkaan, eikä ainoastaan uhkiin, jotka olivat olemassa käyttöönoton aikana. Tämä on tärkeää, kun otetaan huomioon generatiivisen tekoälyn edistyminen ja petkuttajien kokeilun nopeus uusilla lähestymistavoilla, mukaan lukien joitakin vihamielisiä tekniikoita, kuten trojan-hevosen deepfake-moottoreita, jotka on suunniteltu tekoälyhavaitsemisen heikentämiseksi.

Tämä on jatkuva kilpailu. Ei ole lopullista, ratkaistua tilaa. Sitoutuminen, jonka olemme tehneet, on pitää havaitsemiskykyä ajan tasalla uhkaan nähden, ja meidän agenssirakenteemme on se, mikä mahdollistaa sen skaalassa.

Katsoen eteenpäin, uskotko, että deepfake-havaitseminen tulee olemaan terveydenhuollon infrastruktuurin standardiosana, samoin kuin rahanpesun estämismekanismit toimivat rahoituspalveluissa, vai tarvitaanko alan uusia lähestymistapoja luottamuksen ja vahvistamisen osalta lääketieteellisissä tiedoissa?

Uskon, että Deepfake-havaitseminen tulee olemaan standardi-infrastruktuuri, ja aikajana on lyhyempi kuin useimmat ihmiset odottavat. Ennen kuin rahanpesun estämismekanismit tulivat standardiksi rahoituspalveluissa, alan riippui voimakkaasti sääntöpohjaisesta havaitsemisesta ja manuaalisesta tarkastelusta. Muutos tapahtui, kun uhka kasvoi mittakaavaan, jossa reaktiivinen havaitseminen oli selvästi riittämätöntä, ja kun sääntely-ympäristö vahvisti odotuksen, että rahoituslaitokset olisivat järjestelmällisesti päivitettäviä valvontaa varten. Terveydenhuolto on lähestymässä samanlaista käänteistä.

Se, mitä jo tapahtuu, on, että maksajat, jotka ottavat deepfake-havaitsemisen käyttöön nyt, tekevät sen, koska uhka on todellinen ja läsnä, eikä siksi, että sääntely edellyttää sitä. Kun nämä varhaiset käyttöönotot tuottavat todisteita estetyistä menetyksistä, ja kun AI-luotujen petossuunnitelmat tulevat näkyviksi syytetoimissa ja julkisissa raporteissa, odotus leviää koko alalle.

Katsoen eteenpäin, kun generatiivinen tekoäly jatkaa parantamista, alan saattaa joutua uudelleenarvioimaan, miten asiakirjojen aitoutta määritetään luomisen sijasta vahvistamisen kautta. Se voi tarkoittaa kryptografista todennusta kliinisistä tietueista EHR-tasolla, tarjoajan identiteetin vahvistamista asiakirjan työnkulkuun tai muita mekanismeja, jotka tekevät asiakirjan alkuperän jäljitettäväksi tavoin, joita se ei ole tällä hetkellä. Havaitseminen korvausvaatimusten tasolla on välttämätön vastaus nykyiseen uhkaan. Mutta kestävä ratkaisu saattaa vaatia vahvistamista syvemmälle siinä, miten lääketieteelliset tiedot luodaan ja siirretään.

Kiitos hienosta haastattelusta. Lukijat, jotka haluavat oppia lisää, voivat vierailla Codoxon verkkosivuilla.