Dr. Musheer Ahmed, PhD, Założyciel i Dyrektor Generalny Codoxo – Seria Wywiadów

Dr. Musheer Ahmed, PhD, Założyciel i Dyrektor Generalny Codoxo jest technologiem i przedsiębiorcą skupionym na stosowaniu sztucznej inteligencji w celu rozwiązania systemowych nieefektywności w ochronie zdrowia. Założył Codoxo w oparciu o badania przeprowadzone podczas swojego doktoratu na Georgia Institute of Technology, gdzie opracował podstawy opatentowanego podejścia sztucznej inteligencji do wykrywania oszustw, marnotrawstwa i nadużyć w roszczeniach medycznych. Pod jego kierownictwem firma rozwinęła się w dostawcę rozwiązań do integralności płatności opartych na sztucznej inteligencji, pomagając organizacjom ochrony zdrowia w identyfikowaniu ryzyk wcześniej i przechodzeniu od audytów reaktywnych do proaktywnej kontroli kosztów. Jego wcześniejsze doświadczenie w dziedzinie bezpieczeństwa inteligentnego w VeriSign, gdzie pracował nad identyfikowaniem nowych cyberzagrożeń i luk w zabezpieczeniach, ukształtowało jego koncentrację na stosowaniu zaawansowanej analityki i uczenia maszynowego w celu odkrywania ukrytych wzorców w złożonych środowiskach danych.

Codoxo jest firmą z branży ochrony zdrowia, która zajmuje się redukowaniem nieefektywności i zbędnych kosztów w systemie ochrony zdrowia za pomocą swojej platformy Forensic AI. Platforma ta wykorzystuje opatentowane algorytmy i uczenie maszynowe do analizy ogromnych ilości danych roszczeń, identyfikacji podejrzanych zachowań, anomalii rozliczeniowych i nowych wzorców oszustw wcześniej niż tradycyjne systemy. Pozwalając płatnikom, agencjom rządowym i menedżerom korzyści aptecznych na interwencję przed lub w trakcie procesu roszczeń, Codoxo zmienia branżę w kierunku proaktywnej integralności płatności, a nie retrospektywnej rekompensaty. Szersza zintegrowana platforma kontroli kosztów łączy wydobywanie danych, edukację dostawców, przepływy audytów i zarządzanie sprawami, pomagając organizacjom poprawić dokładność, zmniejszyć nadpłaty i usprawnić operacje, jednocześnie zajmując się szacowanymi setkami miliardów dolarów strat poniesionych co roku z powodu oszustw, marnotrawstwa i nadużyć.

Założyłeś Codoxo po przeprowadzeniu badań nad wykrywaniem oszustw w ochronie zdrowia podczas swojego doktoratu na Georgia Tech. Co najpierw przekonało Cię, że sztuczna inteligencja może fundamentalnie zmienić sposób, w jaki oszustwa, marnotrawstwo i nadużycia są wykrywane w systemach ochrony zdrowia?

Przekonałem się nie przez jeden moment, ale przez konfrontację z tym, jak źle działały istniejące podejścia. Oszustwa w ochronie zdrowia w Stanach Zjednoczonych stanowią gdzieś w okolicach 330 miliardów dolarów strat rocznie. To więcej niż wszystkie inne formy oszustw ubezpieczeniowych w kraju, a jednak dominujące metody wykrywania mogły złapać tylko to, czego zostały wcześniej nauczone. Nawet gdy sztuczna inteligencja pojawiła się na scenie, większość podejść była reaktywna, dopasowując się do znanych schematów oszustw zamiast ujawniania tych nieznanych. Moment, który to ukształtował dla mnie, był tym, że oszustwa nie są statycznym problemem. Źli aktorzy adaptują się. Uczą się, co wyzwala sygnał i omijają go. System zbudowany na stałych zasadach jest z definicji zawsze w tyle.

Czym sztuczna inteligencja oferuje, jest możliwość ujawniania wzorców, których nikt nie pomyślał, aby je zaprogramować z wyprzedzeniem. Podczas mojej pracy doktorskiej na Georgia Tech budowałem modele, które mogły spojrzeć na pełną historię roszczeń dostawcy, zidentyfikować anomalie behawioralne i połączyć sygnały, których ludzki analityk lub silnik reguł nigdy by nie połączył. Grupa doradcza JASON, która doradza rządowi Stanów Zjednoczonych w sprawach nauki i technologii, uznała tę pracę za rozwiązanie realnych luk strukturalnych w wykorzystaniu danych zdrowotnych do integralności płatności. To uznanie powiedziało mi, że problem jest wystarczająco poważny, aby zbudować wokół niego firmę.

Podstawowa konwiktura, która mnie napędzała wtedy, jest tą samą, która napędza to, co budujemy w Codoxo teraz: dane roszczeń medycznych zawierają sygnał, którego potrzebujesz, aby złapać oszustwa, ale możesz go wydobyć tylko za pomocą sztucznej inteligencji, która może spojrzeć na pełny obraz, szybko i dokładnie, zamiast sprawdzać pola.

Oszustwa w ochronie zdrowia od dawna są wielomiliardowym problemem, ale generatywna sztuczna inteligencja wydaje się przyspieszać je dramatycznie. Jak zmiana w kierunku narzędzi zdolnych do tworzenia przekonywującej dokumentacji klinicznej i obrazów diagnostycznych zmieniła krajobraz zagrożeń dla ubezpieczycieli zdrowotnych i zespołów integralności płatności?

Zmieniło to w fundamentalny sposób, a branża jeszcze nie w pełni zrozumiała, jak znacząca jest ta zmiana. Stary model oszustw wymagał ręcznego wysiłku. Osoba popełniająca oszustwo musiała fałszować notatki jeden po drugim, zmieniać obrazy indywidualnie i tworzyć rekordy, które byłyby wiarygodne enough, aby przetrwać przegląd. To tarcie stworzyło naturalny sufit na skalę każdego schematu.

Generatywna sztuczna inteligencja usunęła ten sufit. Dziś każdy może poprosić duży model językowy o wygenerowanie 50 notatek z sesji terapeutycznych dotyczących leczenia lęków i otrzymać je w ciągu pięciu minut. Te notatki będą używać odpowiedniej terminologii klinicznej, będą miały wiarygodną strukturę narracyjną i będą wyglądać wewnętrznie spójnie. Większość systemów wykrywania oszustw nie została zaprojektowana, aby oceniać, czy dokument jest autentyczny czy syntetyczny. Zostały one zaprojektowane, aby sprawdzić, czy kody rozliczeniowe zostały zastosowane prawidłowo, zflagować znane wzorce i dopasować do istniejących sygnatur oszustw. Tak więc syntetyczna dokumentacja przechodzi przez nie, nawet przez niektóre systemy, które twierdzą, że mają składnik sztucznej inteligencji.

Widzieliśmy to również w przypadku obrazów diagnostycznych. Jedna prawdziwa radiografia może być użyta jako nasiono dla dziesiątek wariantów wygenerowanych przez sztuczną inteligencję, każdy składany pod różnymi fałszywymi pacjentami. System bez możliwości porównania obrazów widzi 50 unikalnie wyglądających przypadków, ale rzeczywistością jest jeden prawdziwy skan i 49 syntetycznych duplikatów. Krajobraz zagrożeń przesunął się od izolowanych złych aktorów do osób, które mogą prowadzić skalowalne, powtarzalne schematy z prawie żadnym wymaganym doświadczeniem technicznym.

Wiele tradycyjnych systemów wykrywania oszustw opiera się na modelach opartych na regułach i przeglądzie ręcznym. Dlaczego te podejścia stają się coraz mniej skuteczne w przypadku oszustw medycznych wygenerowanych przez sztuczną inteligencję lub manipulowanych obrazów diagnostycznych?

Większość podejść do wykrywania oszustw, czy to opartych na regułach, czy wcześniejszych generacji sztucznej inteligencji, opiera się na fundamentalnie wadliwym założeniu: że wszystkie dokumenty wprowadzane do systemu zostały utworzone przez człowieka, który postępuje zgodnie z normalnymi procesami klinicznymi. Gdy to założenie się załamuje, całe podejście do wykrywania załamuje się z nim.

Silnik reguł może zflagować niemożliwą kombinację kodów, dostawcę, który rozlicza więcej godzin, niż istnieje w ciągu dnia, lub procedurę wykonaną na zmarłym pacjencie. Są to wszystkie prawdziwe i użyteczne połapania. Ale logika oparta na regułach nie może spojrzeć na notatkę postępu i określić, czy została napisana przez klinicystę, który rzeczywiście widział pacjenta, czy wygenerowana przez model sztucznej inteligencji, który nigdy nie praktykował medycyny. Dwa wyjścia mogą być strukturalnie identyczne.

Przegląd ręczny ma ten sam sufit. Badania pokazują, że tylko około 34% ludzi może zidentyfikować deepfake, nawet gdy im powiedziano, że jest on obecny i aktywnie go szukają. Śledczy SIU, który przegląda stertę notatek postępu, nie ma specjalistycznej szkolenia w zakresie wykrywania syntetycznego tekstu, nie ma narzędzi do porównania obrazów, aby wykryć sklonowane skany, i nie ma wystarczającej ilości godzin w ciągu dnia, aby przeprowadzić ten poziom kontroli na każdym roszczeniu. Sam problem objętości sprawia, że przegląd ręczny jest niemożliwy, a to było prawdą przed rozpoczęciem przez generatywną sztuczną inteligencję przyspieszania objętości i złożoności fałszywej dokumentacji.

Istnieje również pojawiające się zagrożenie, które uważam za niedocenione: co nazywają trojan deepfake engines. Są to wirusopodobne agenci zaprojektowane specjalnie w celu neutralizacji oprogramowania do wykrywania, pracując za pomocą taktyk, jak derailment analizy obrazu lub inżynieria promptów. Tak więc dynamiczna zależność nie jest tylko oszustami generującymi lepsze fałszywki. W niektórych przypadkach aktywnie próbują złamać narzędzia budowane do ich połapania. To dynamiczne starcie jest częścią powodu, dla którego statyczne podejścia do wykrywania, czy to oparte na regułach, czy na ustalonym modelu sztucznej inteligencji, zawsze pozostaną w tyle. Obrona musi być tak samo adaptacyjna, jak ofensywa.

Codoxo niedawno uruchomiło Deepfake Detection, aby rozwiązać to nowe ryzyko. Na wysokim poziomie, jak technologia analizuje dokumentację medyczną i obrazy, aby określić, czy zawartość może być generowana lub manipulowana przez sztuczną inteligencję?

Podstawowa zasada projektowa polega na tym, że zbudowaliśmy Deepfake Detection specjalnie dla dokumentacji opieki zdrowotnej, a nie dostosowaliśmy ogólnego narzędzia do wykrywania sztucznej inteligencji do kontekstu klinicznego. Oznacza to, że modele są szkolone na sygnałach specyficznych dla opieki zdrowotnej, a nie dostosowanych z narzędzi zbudowanych dla innych branż lub przypadków użycia. Ta różnica ma znaczenie, ponieważ sygnały, które wskazują na zawartość syntetyczną w dokumencie medycznym lub obrazie diagnostycznym, są różne od sygnałów istotnych w innych dziedzinach.

Na wysokim poziomie system analizuje dokumentację medyczną i obrazy wraz z pełnym kontekstem roszczenia, i robi to w ciągu kilku sekund. Gdy śledczy SIU przesyła podejrzane dokumenty, sztuczna inteligencja prowadzi analizę w wielu wymiarach jednocześnie. Szuka wskaźników zawartości syntetycznej lub manipulowanej, sprawdza wzorce klonowania i duplikacji w szerszej historii roszczeń płatnika, i ocenia spójność behawioralną między dokumentacją a historycznymi wzorcami dostawcy.

Jedną rzeczą wartą zauważenia jest zakres formatów, z którymi system może współpracować. Obsługuje dokumenty tekstowe w formatach PDF, Word i XML, arkusze kalkulacyjne, obrazy medyczne i nawet notatki odręczne. To ma znaczenie w praktyce, ponieważ fałszywa dokumentacja nie przychodzi w jednym ładnym formacie, a system wykrywania, który pokrywa tylko część tego, co zespoły SIU otrzymują, pozostawia luki, które zaawansowani oszuści w końcu znajdą.

Z całej tej analizy system generuje wynik ryzyka w skali od 0 do 100 z dołączonymi szczegółowymi wyjaśnieniami, tak aby śledczy mógł zrozumieć dokładnie, które sygnały spowodowały wynik. Celem na każdym etapie jest wytwarzanie wyników, które mogą być wykorzystane do działania, a nie tylko alertów, i robienie tego szybciej i z większą dokładnością niż bardziej uogólniony system. Szybkość ma znaczenie, ponieważ jedyny punkt interwencji, który znacząco zmienia ekonomikę oszustw, jest przed dokonaniem płatności.

Twoja platforma podkreśla możliwości, takie jak wykrywanie klonowania, identyfikacja częściowo wygenerowanej sztucznej inteligencji i krzyżowe odniesienia behawioralne do historii roszczeń. Czy mógłbyś oprowadzić nas przez to, jak te sygnały łączą się, aby wytworzyć znaczący wynik ryzyka dla śledczych?

Każda z tych możliwości dotyczy innego wzorca oszustwa. Wynik ryzyka odzwierciedla, jak one współpracują w konkretnym przypadku.

Wykrywanie klonowania i duplikacji dotyczy scenariusza, w którym jeden autentyczny rekord jest replikowany w wielu fałszywych pacjentach. To, co utrudnia to połapanie bez sztucznej inteligencji, jest tym, że wariacje mogą być na tyle subtelne, że żaden dokument nie wygląda podejrzanie w izolacji. Wzorzec staje się widoczny dopiero przy porównywaniu pełnej populacji roszczeń. Nasz system może ujawnić, że zbiór rekordów, które wyglądają unikalnie na powierzchni, są w rzeczywistości pochodnymi wspólnego źródła.

Identifikacja częściowo wygenerowanej sztucznej inteligencji jest ważna, ponieważ zaawansowani oszuści nie zawsze fałszują całe dokumenty od podstaw. Bardziej powszechny i trudniejszy do połapania wzorzec to mieszanie, co oznacza branie prawdziwego rekordu pacjenta i używanie sztucznej inteligencji do dodania fałszywych dodatkowych usług lub procedur. Autentyczne sekcje sprawiają, że dokument wygląda wiarygodnie, ale dodane sekcje reprezentują roszczenia za opiekę, która nie została dostarczona. Nasz system jest specjalnie dostosowany do znajdowania tych przypadków.

Krzyżowe odniesienia behawioralne łączą dokumentację, która jest przeglądana, z pełną historią roszczeń dostawcy. Jeśli dokumentacja przedstawia narracje kliniczne, które są niezgodne z tym, jak dostawca dokumentował podobne przypadki w przeszłości, lub jeśli objętość i wzorzec rekordów wspierających nagle odbiega od normy, te niezgodności są sygnałami. Same w sobie nie są one ostateczne. Razem, uwzględnione i wyjaśnione w wyniku ryzyka, dają śledczym znaczący punkt startowy, który zajmie godziny lub dni, aby go opracować ręcznie. To, co odróżnia to od systemu, który po prostu flaguje zawartość wygenerowaną przez sztuczną inteligencję, jest kombinacja sygnałów. Analiza zawartości sama w sobie może ominąć dokumenty mieszane. Analiza behawioralna sama w sobie może ominąć pierwszego oszusta z brakiem wcześniejszego wzorca. To przecinanie się wszystkich trzech warstw jednocześnie, przetwarzanych w ciągu sekund, połapuje to, czego inne systemy sztucznej inteligencji nie mogą.

Z Twojego punktu widzenia, jakie są najbardziej niepokojące oszustwa w opiece zdrowotnej, wspomagane przez deepfake, na które ubezpieczyciele i regulatorzy powinni zwrócić uwagę w nadchodzących latach?

Scenariusze, które mnie najbardziej niepokoją, są tymi, które łączą skalę z wiarygodnością w sposób, który jest trudny do śledzenia, nawet z silnym wykrywaniem.

Zdrowie behawioralne jest prawdziwą słabością. Dokumentacja dla usług terapeutycznych jest w dużej mierze narracyjna, w tym notatki z sesji, plany leczenia i podsumowania postępu. Nie ma wartości laboratoryjnych do skorelowania, nie ma obrazów do zbadania. Fałszywy dostawca z dostępem do ogólnego modelu językowego może wygenerować klinicznie wiarygodną dokumentację zdrowia behawioralnego w nadzwyczajnej ilości, a jedynym praktycznym sposobem wykrycia jest użycie sztucznej inteligencji, która może ocenić, czy dokumentacja pokazuje językowe i strukturalne sygnatury generacji syntetycznej.

Oszustwa w obrazach diagnostycznych są inną dziedziną, której się przyglądam. Darmowe i dostępne narzędzia sztucznej inteligencji mogą teraz generować realistyczne wariacje obrazów medycznych z jednego obrazu-seed. W miarę jak te narzędzia się poprawiają, syntetyczne dane wyjściowe staną się trudniejsze do odróżnienia od autentycznych skanów bez specjalistycznego wykrywania. Płatnicy, których przepływy pracy nie mają zdolności do forensyki obrazu, operują w tym momencie na zaufaniu, że otrzymują autentyczne obrazy.

Istnieje również pojawiające się zagrożenie wokół oszustw tożsamości i poświadczeń, gdzie dokumentacja wygenerowana przez sztuczną inteligencję wspiera fałszywe zapisy dostawców lub uprzednie autoryzacje dla usług, które nie były medycznie konieczne. Te schematy są trudniejsze do wykrycia, ponieważ oszustwo jest osadzone w procesie przyjęcia, a nie w samych roszczeniach, i do momentu, gdy pojawia się w danych rozliczeniowych, szkoda została już wyrządzona.

Roszczenia w ochronie zdrowia często obejmują duże ilości dokumentacji i dowodów. Jak system sztucznej inteligencji ocenia tę informację wystarczająco szybko, aby zatrzymać fałszywe roszczenia przed dokonaniem płatności?

Szybkość jest tak naprawdę podstawowym wymogiem projektu, a nie miłym dodatkiem. Jedynym sposobem, w jaki Deepfake Detection jest użyteczny w praktyce, jest to, że działa z prędkością przepływu roszczeń. Jeśli analiza zajmuje godziny lub wymaga od człowieka zainicjowania kolejki przeglądu, już przegapiłeś okno przedpłatności, i wracasz do robienia pracy odzyskowej po opuszczeniu systemu przez pieniądze.

Nasze rozwiązanie jest zaprojektowane tak, aby zakończyć analizę w ciągu sekund. Gdy dokumentacja jest przesyłana do przeglądu, sztuczna inteligencja prowadzi swoją ocenę równolegle, a nie sekwencyjnie. Analiza zawartości syntetycznej, sprawdzanie duplikatów i krzyżowe odniesienia behawioralne mają miejsce jednocześnie, a nie w łańcuchu. Wynik to wynik ryzyka z szczegółowymi wyjaśnieniami, tak aby śledczy nie musiał interpretować surowych sygnałów. Otrzymuje wynik priorytetowy i możliwy do działania. Architektura równoległa jest częścią tego, co pozwala nam to robić szybciej i z większą dokładnością. Uruchamianie wszystkich trzech warstw sygnałów jednocześnie oznacza, że wynik ryzyka odzwierciedla pełny obraz przypadku, a nie tylko pierwszą flagę, która pojawiła się.

Szerszy punkt tutaj jest taki, że zmiana, której się przeciwstawiamy we wszystkich pracach Codoxo, co nazywamy punktem zero, jest przenoszeniem interwencji integralności płatności tak daleko w górę, jak to możliwe. Połapanie fałszywego roszczenia przed dokonaniem płatności jest dramatycznie bardziej efektywne niż odzyskiwanie nadpłaty po fakcie. Odzyskiwanie jest drogie, wolne i często niepełne. Zapobieganie na etapie walidacji dokumentacji i dowodów zmienia ekonomikę całego problemu.

Narzędzia do wykrywania oszustw muszą być wyjaśnialne dla śledczych, audytorów i regulatorów. Jak zapewniasz, że wyniki ryzyka wygenerowane przez sztuczną inteligencję mogą być zrozumiane i zaufane przez Specjalne Jednostki Śledcze i zespoły integralności płatności?

Wyjaśnialność nie jest opcjonalna w tej dziedzinie. Jeśli śledczy SIU ma działać na podstawie wyniku ryzyka, niezależnie od tego, czy oznacza to zatrzymanie roszczenia, otwarcie sprawy czy budowanie wniosku o ściganie, musi być w stanie sformułować, co system znalazł i dlaczego. Czarna skrzynka, która mówi “wysokie ryzyko”, nie jest użytecznym narzędziem w przepływie pracy, który ma dołączone do niego prawną i regulacyjną odpowiedzialność.

Każdy wynik ryzyka, jaki nasz system generuje, zawiera konkretnych wskaźników oszustw, które mogą obejmować sygnały, które napędzały wynik, wzorce zidentyfikowane i niezgodności, które zostały ujawnione. Śledczy może śledzić rozumowanie od wyniku do dowodów. Ten poziom szczegółowości jest możliwy tylko dlatego, że podstawowe wykrywanie jest zaprojektowane specjalnie dla dokumentacji opieki zdrowotnej.

Także zbudowaliśmy możliwość niestandardowego wprowadzania, która pozwala śledczym dostosować analizę do konkretnych scenariuszy śledczych i unikalnych wzorców oszustw. To jest ważne dla wyjaśnialności w praktyce, ponieważ oznacza, że system nie prowadzi analizy jednej wielkości, a śledczy mogą kształtować zapytanie na podstawie tego, czego szukają w danym przypadku. To sprawia, że wyniki są bardziej użyteczne i łatwiejsze do wyjaśnienia audytorom lub w postępowaniach prawnych.

Na stronie regulacyjnej OIG, CMS i agencje stanowe zwiększają kontrolę nad tym, jak organizacje wykorzystują sztuczną inteligencję w zapobieganiu oszustwom. Możliwość wykazania, że twoja metodyka wykrywania jest interpretowalna i audytowalna, nie jest tylko dobrą praktyką, ale składnikiem odpowiedzialnego wdrożenia, który zmniejsza ryzyko zgodności.

Jak generatywna sztuczna inteligencja nadal się poprawia, oszuści będą prawdopodobnie stawać się bardziej zaawansowani. Jak Codoxo projektuje swoje modele, aby ciągle adaptować się do nowych form syntetycznej dokumentacji medycznej?

Wyzwaniem jest to, że oszustwa są natury antagonistycznej. W miarę jak wykrywanie się poprawia, taktyka po drugiej stronie ewoluuje. Każdy system trenowany raz i wdrożony bez aktualizacji pogorszy się w czasie, ponieważ oszuści uczą się, co wyzwala go, i dostosowują. To jest ten sam fundamentalny problem, który sprawia, że każde statyczne podejście do wykrywania jest niewystarczające, niezależnie od tego, czy opiera się na regułach, czy na modelu sztucznej inteligencji, który nie jest zaprojektowany do aktualizacji. Zaawansowanie narzędzia nie ma znaczenia, jeśli podstawowa architektura nie może nadążyć za zagrożeniem.

Nasze podejście polega na traktowaniu wykrywania jako ciągle aktualizowanej możliwości, a nie ustalonego produktu. W miarę jak nowe wzorce oszustw pojawiają się w systemie, a techniki generacji sztucznej inteligencji ewoluują, te wzorce są wprowadzane z powrotem do poprawy modelu. System jest zaprojektowany tak, aby stać się lepszym w identyfikowaniu pojawiającego się zagrożenia, a nie tylko tych, które istniały w momencie wdrożenia. To jest ważne biorąc pod uwagę tempo, w jakim sztuczna inteligencja generatywna postępuje i tempo, w jakim oszuści eksperymentują z nowymi podejściami, w tym z taktykami antagonistycznymi, takimi jak silniki deepfake trojan, które są zaprojektowane w celu podważenia wykrywania.

To będzie ciągły wyścig. Nie ma ostatecznego, rozwiązanego stanu. Zobowiązanie, które złożyliśmy, jest takie, aby utrzymać możliwości wykrywania na bieżąco z zagrożeniem, a nasza architektura agencji jest tym, co umożliwia to w skali.

Spójrzając w przyszłość, uważasz, że wykrywanie deepfake stanie się standardowym składnikiem infrastruktury opieki zdrowotnej, podobnie jak systemy przeciwdziałania praniu pieniędzy działają w finansach, czy branża będzie potrzebować całkowicie nowych podejść do zaufania i weryfikacji danych medycznych?

Uważam, że wykrywanie deepfake stanie się standardową infrastrukturą, a horyzont czasowy na to jest krótszy, niż większość ludzi w branży oczekuje. Przed tym, jak ramy AML stały się standardem w usługach finansowych, branża opierała się silnie na wykrywaniu opartym na regułach i przeglądzie ręcznym. Zmiana nastąpiła, gdy zagrożenie osiągnęło skalę, która uczyniła reaktywne wykrywanie明ocznie niewystarczającym, i gdy środowisko regulacyjne skodyfikowało oczekiwanie, że instytucje finansowe będą miały systematyczne, ciągle aktualizowane kontrolki na miejscu. Ochrona zdrowia zbliża się do podobnego punktu infleksyjnego.

To, co już się dzieje, to fakt, że płatnicy, którzy wdrożą wykrywanie deepfake teraz, robią to, ponieważ zagrożenie jest realne i obecne, a nie dlatego, że wymaga tego regulacja. W miarę jak te wczesne wdrożenia generują dowody strat, które są zapobiegane, i w miarę jak oszustwa generowane przez sztuczną inteligencję stają się bardziej widoczne w działaniach egzekwowania prawa i raportach publicznych, oczekiwanie rozprzestrzeni się na całą branżę.

Spójrzając w przyszłość, w miarę jak sztuczna inteligencja generatywna nadal się poprawia, branża może potrzebować przemyśleć, jak autentyczność dokumentacji jest ustanawiana w momencie tworzenia, a nie walidowana po fakcie. To mogłoby oznaczać kryptograficzną weryfikację rekordów klinicznych na poziomie EHR, weryfikację tożsamości dostawcy zintegrowaną z przepływem dokumentacji, lub inne mechanizmy, które sprawiają, że pochodzenie dokumentu jest śledzone w sposób, w jaki nie jest to obecnie robione. Wykrywanie na poziomie roszczeń jest konieczną odpowiedzią na bieżące zagrożenie. Ale trwałe rozwiązanie może wymagać budowania weryfikacji głębiej w infrastrukturę, w jaki sposób rekordy medyczne są tworzone i przekazywane. Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Codoxo.