코독소의 Dr. 무시르 아흐메드, 박사, 설립자 및 CEO – 인터뷰 시리즈

Dr. 무시르 아흐메드, 박사, 코독소의 설립자 및 CEO는 의료 분야의 체계적인 비효율성을 해결하기 위해 인공 지능을 적용하는 기술자이자 기업가입니다. 그는 조지아 기술 대학에서 박사 과정 동안 수행한 연구를 기반으로 코독소를 설립했습니다. 여기서 그는 의료 청구서에서 사기, 낭비, 및 오남용을 감지하기 위한 특허된 AI 접근 방식의 기초를 구축했습니다. 그의 리더십 아래, 회사는 AI 기반의 지불誠実성 솔루션 제공업체로 성장하여 의료 기관이 더 일찍 위험을 식별하고 반응적 감사에서 예방적 비용 통제로 전환하도록 도왔습니다. 이전에 버리사인에서 보안 인텔리전스에서 일한 경험은 새로운 사이버 위협과 취약성을 식별하는 데 중점을 두어 고급 분석과 기계 학습을 사용하여 복잡한 데이터 환경에서 숨겨진 패턴을 발견하는 데 중점을 두었습니다.

코독소는 의료 AI 회사로 Forensic AI 플랫폼을 통해 의료 시스템 전반에 걸쳐 비효율성과 불필요한 비용을 줄이는 것을 목표로 합니다. 플랫폼은 특허된 알고리즘과 기계 학습을 사용하여大量의 청구 데이터를 분석하여 의심스러운 행동, 청구 이상, 및 새로운 사기 패턴을 전통적인 시스템보다 더 빠르게 식별합니다. 의료 보험자, 정부 기관, 및 약물 이익 관리 기관이 청구 과정 중에 개입할 수 있도록 함으로써, 코독소는 산업을 반응적인 회수에서 예방적인 지불誠實성으로 전환시킵니다. 더 넓은 통합된 비용 통제 플랫폼은 데이터 마이닝, 제공자 교육, 감사 워크플로, 및 사례 관리를 통합하여 조직이 정확도를 개선하고 과잉 지불을 줄이고 운영을 간소화하는 데 도움을 주면서 수백억 달러의 사기, 낭비, 및 오남용으로 인한 손실을 해결합니다.

조지아 기술 대학에서 의료 사기 감지에 대한 연구를 수행한 후 코독소를 설립했습니다. 의료 시스템에서 사기, 낭비, 및 오남용을 감지하는 데 AI가 근본적으로 변화를 줄 수 있다는 것을 처음으로 확信하게 된 것은 언제였습니까?

나는 단 하나의 순간에 의해 확신되지 않았습니다. 기존 접근 방식이 얼마나 나쁘게 실패하고 있는지에 직면했기 때문입니다. 미국의 의료 사기는 약 3,300억 달러의 연간 손실을 나타내며, 이는 국가의 모든 다른 형태의 보험 사기보다 더 많습니다. 그리고 아직도 대부분의 감지 방법은 반응적이며 알려진 사기 方案에 대한 패턴 매칭에 의존하는 것입니다. 내가 그것을 깨달은 순간은 사기가 정적인 문제가 아니라는 것을 깨달았을 때였습니다. 악의적인 행위자는 적응합니다. 그들은 플래그를 트리거하는 것을 배우고 그 주위를 우회합니다. 고정된 규칙을 기반으로 하는 시스템은 본질적으로 항상 뒤처져 있습니다.

AI는 미리 프로그래밍되지 않은 패턴을 표면화하는 능력을 제공합니다. 조지아 기술 대학에서我的 박사 과정 동안, 나는 제공자의 전체 청구 이력을 분석하고 행동 이상을 식별하며 인간 분석가 또는 규칙 엔진이 결코 연결하지 못할 신호를 연결하는 모델을 구축했습니다. JASON 자문 그룹, 즉 미국 정부의 과학 및 기술에 대한 자문 그룹은 그 작업을 실제로 건강 데이터가 지불誠實성에 사용되는 방식의 구조적인 격차를 해결하는 것으로 인식했습니다. 이러한 인식은 문제가 충분히 심각하여 회사를 설립할 수 있는 것임을 나타내었습니다.

당시 나를 움직였던 핵심적인 신념은 지금 코독소에서 구축하는 것과 동일합니다. 의료 청구 데이터에는 사기를 잡기 위한 신호가 포함되어 있지만, 그것을 추출하기 위해서는 전체 그림을 빠르고 정확하게 볼 수 있는 AI가 필요합니다.

의료 사기는 오래전부터 수십억 달러의 문제였지만, 생성적 AI는 그것을 극적으로 가속화하는 것으로 보입니다. 생성적 AI가 임상 문서와 진단 이미지의 생성 및 조작을 가속화하는 것으로 보이는 상황에서, 보험자와 지불誠實성 팀의 위협 풍경은 어떻게 변했습니까?

それは根本的に 변했습니다. 그리고 산업은 아직도 그 변화의 중요성을 완전히吸収하지 못했습니다. 옛 모델의 문서 사기는 수동적인 노력이 필요했습니다. 사기를 저지르는 악의적인 행위자는 각기 다른 문서를 조작해야 하며, 기록을 생성해야 하며, 검토를 견딜 수 있는 플로스블한 내러티브를 생성해야 했습니다. 이러한 마찰은 어떤 계획의 규모에 대한 자연적인 천장을 생성했습니다.

생성적 AI는 그 천장을 제거했습니다. 오늘날, 누구든지 대규모 언어 모델에 50개의 치료 세션 노트를 생성하도록 요청할 수 있으며, 5분 이내에 받을 수 있습니다. 이러한 노트는 적절한 임상 용어를 사용하며, 플로스블한 내러티브 구조를 따르며, 내부적으로 일관성을 유지합니다. 대부분의 사기 감지 시스템은 문서가 진정한지 합성인지 평가하기 위해 설계되지 않았습니다. 그것들은 청구 코드가 올바르게 적용되었는지, 알려진 패턴을 플래그했는지, 기존의 사기 시그니처와 일치하는지 확인하기 위해 설계되었습니다. 따라서 합성 문서는 일부 시스템을 통과할 수 있습니다.

우리는 또한 진단 이미징에서 이것을 보았습니다. 하나의 정당한 X-ray는 수십 개의 AI 생성된 변형의 시드가 될 수 있으며, 각 변형은 다른 가상 환자에게 제출됩니다. 시스템에는 이미지 비교 기능이 없으면 50개의 고유한 경우를 볼 수 있지만, 실제로는 하나의 실제 스캔과 49개의 합성 복제본입니다. 위협 풍경은 분리된 악의적인 행위자에서 기술적인 전문 지식이 거의 필요 없는 반복 가능한 계획을 실행할 수 있는 사람으로 이동했습니다.

전통적인 사기 감지 시스템은 규칙 기반 모델과 수동 검토에 의존합니다. 이러한 접근 방식은 AI 생성된 의료 기록이나 조작된 진단 이미지와 관련하여 왜 점점 더 무효화되고 있습니까?

대부분의 사기 감지 접근 방식, 규칙 기반 또는 이전 세대의 AI, 현재는 근본적으로 잘못된 가정에 기반하고 있습니다. 즉, 시스템에 입력되는 모든 문서가 정상적인 임상 프로세스를 따르는 인간에 의해 생성되었다는 가정입니다. 한번 이 가정에 의문이 생기면, 감지 접근 방식 전체가 함께 붕괴됩니다.

규칙 엔진은 불가능한 코드 조합, 제공자가 하루에 있는 시간보다 더 많은 시간을 청구하거나, 절차를 수행한 환자에게 청구하는 것을 플래그할 수 있습니다. 이러한 모든 것은 실제로 유용한 捕捉입니다. 그러나 규칙 기반 논리는 진행 노트를 보고 그것이 실제로 환자를 본 임상의에 의해 작성되었는지, 또는 의료를 행한 적이 없는 AI 모델에 의해 생성되었는지 결정할 수 없습니다. 두 출력은 구조적으로 동일할 수 있습니다.

수동 검토에는 동일한 천장이 있습니다. 연구에 따르면 약 34%의 사람들만이 심층 가짜를 식별할 수 있다고 합니다. 심층 가짜가 존재한다는 사실을 알고 적극적으로 검색하고 있다고 해도 말입니다. SIU 조사자는 진행 노트를 검토하는 데 전문적인 法医学적 훈련을 받지 못했으며, 복제된 스캔을 식별하는 이미지 비교 도구도 없으며, 모든 청구에 대해 이러한 수준의 검사를 수행할 시간이 충분하지 않습니다. 볼륨 문제만으로도 포괄적인 수동 검토는 불가능하며, 생성적 AI가 사기 문서의 볼륨과 복잡성을 가속화하기 시작하기 전에 사실이었습니다.

또한 평가받지 못하는 위협이 있습니다. 연구자들은 트로이 목마 가짜 엔진이라고 부릅니다. 이러한 엔진은 감지 소프트웨어를 중화하기 위해 설계된 바이러스와 같은 에이전트입니다. 이미지 분석을 방해하거나 악의적인 프롬프트 재공학을 통해 작동합니다. 따라서 적대적인 역학은 사기꾼이 가짜를 생성하는 것이 아닙니다. 일부 경우에는 감지 도구를 파괴하려고 합니다. 이러한 방어와 공세의 역학은 정적인 감지 접근 방식이 항상 뒤처질 이유 중 하나입니다. 방어는 공세와同じ 정도로 적응해야 합니다.

코독소는 최근 Deepfake Detection을 출시하여 이러한 새로운 위험에 대응했습니다. 높은 수준에서, 기술은 의료 문서와 이미지를 분석하여 내용이 AI에 의해 생성되거나 조작되었는지 여부를 결정합니다.

코어 설계 원칙은 의료 문서에 특화된 감지 도구를 구축한 것입니다. 즉, 일반적인 목적의 AI 감지 도구를 임상적 상황에 맞게 개조한 것이 아닙니다. 이는 의료 기록이나 진단 이미지에서 합성 콘텐츠를 나타내는 신호가 다른 도메인에서 관련 있는 신호와 다르기 때문입니다.

높은 수준에서, 시스템은 의료 문서와 이미지를 분석하며, 이는 몇 초 안에 수행됩니다. SIU 조사자가 의심스러운 문서를 업로드하면, AI는 여러 차원에서同時적으로 분석을 실행합니다. 합성 또는 조작된 콘텐츠의 지표를 찾고, 청구자의 더广い 청구 이력에서 클론 및 복제 패턴을 확인하며, 문서와 제공자의 역사적 패턴 사이의 행동 일관성을 평가합니다.

한 가지 주목할 점은 시스템이 처리할 수 있는 형식의 범위입니다. PDF, 워드, XML, 스프레드시트, 의료 이미지, 및 손으로 작성된 노트를 다룰 수 있습니다. 이는 실제로 중요합니다. 왜냐하면 사기 문서는 하나의 깔끔한 형식으로 제공되지 않으며, 일부 형식만을 다루는 감지 시스템은 사기꾼이 결국 찾을 수 있는 격차를 남깁니다.

이 모든 분석에서, 시스템은 0에서 100까지의 위험 점수를 생성하며, 자세한 설명이 첨부됩니다. 따라서 조사자는 점수가 주도된 신호를 이해할 수 있습니다. 모든 단계에서 목표는 알림이 아닌 작동 가능한 출력을 생성하는 것입니다. 또한 일반화된 시스템보다 더 빠르고 정확하게 수행하는 것입니다. 속도는 중요합니다. 왜냐하면 지불 전에 의미 있는 개입 지점이 있기 때문입니다.

클론 감지, 부분 AI 생성 식별, 및 청구 이력에 대한 행동 교차 참조와 같은 기능을 강조합니다. 이러한 신호가 의미 있는 위험 점수를 생성하기 위해 어떻게 결합되는지 설명해 주시겠습니까?

각 기능은 다른 사기 패턴을 해결합니다. 위험 점수는 이러한 패턴이 특정 경우에 어떻게 상호 작용하는지 반영합니다.

클론 및 복제 감지에는 실제 환자에 대한 단일 인증된 기록이 여러 가상 환자에 걸쳐 복제되는 시나리오가 포함됩니다. 이를 잡기 어렵기 때문에, 각 문서는 격리된 상태에서 의심스럽지 않을 수 있습니다. 패턴은 전체 청구 인구를 비교할 때만 보입니다. 시스템은 표면적으로 고유한 것으로 보이는 일련의 기록이 실제로 공통의 출처에서 파생된 것임을 밝혀낼 수 있습니다.

부분 AI 생성 감지는 중요합니다. 왜냐하면 고급 사기꾼이 항상 전체 기록을 처음부터 조작하는 것이 아니기 때문입니다. 더 일반적이고 잡기 어려운 패턴은 블렌딩입니다. 즉, 실제 환자 기록을 가져와서 AI를 사용하여 추가 서비스 또는 절차를 생성하는 것입니다. 실제 섹션은 문서를 신뢰할 수 있게 만들지만, 추가 섹션은 실제로 제공되지 않은 치료에 대한 청구를 나타냅니다. 시스템은 이러한 경우를 찾도록 설계되었습니다.

행동 교차 참조는 검토 중인 문서를 제공자의 전체 청구 이력과 연결합니다. 문서가 제공자가 유사한 경우에 역사적으로 문서화한 것과 일관하지 않은 임상 내러티브를 제시하거나, 지원 기록의 볼륨 및 패턴이 기준선에서突然적으로 편차하는 경우, 이러한 불일치는 신호입니다. 각각으로는 결론적이지 않습니다. 함께, 위험 점수 출력에서 가중되고 설명되면, 조사자는 수동으로 개발하는 데 몇 시간 또는 며칠이 걸리는 우선순위가 지정된 작동 가능한 결과를 얻습니다. 내용 분석만으로는 블렌DED 문서를 놓칠 수 있습니다. 행동 분석만으로는 이전에 패턴이 없는 사기꾼을 놓칠 수 있습니다. 3개의 신호 레이어가 동시에 처리되는 교차점은 다른 AI 시스템이 잡을 수 없는 것을 잡습니다.

앞으로 몇 년 동안 보험자와 규제 기관이 주목해야 할 가장 우려되는 Deepfake-활성화된 의료 사기 계획은 무엇입니까?

나를 가장 우려시키는 시나리오는 규모와 신뢰성의 조합이 어려워 추적하기 어렵기 때문입니다.

행동 건강은 실제 취약점입니다. 치료 서비스에 대한 문서는 주로 내러티브로 구성되며, 세션 노트, 치료 계획, 및 진행 요약이 포함됩니다. 검사 결과를 교차 참조할 수 없으며, 이미지를 검사할 수 없습니다. 사기 제공자는 일반 언어 모델에 액세스할 수 있다면, 임상적으로 신뢰할 수 있는 행동 건강 문서를 비상한 속도로 생성할 수 있으며, 실제로 유일한 실제 방법은 AI가 합성 생성의 언어적 및 구조적 특징을 평가할 수 있는 것입니다.

진단 이미징 사기는 또 다른 영역입니다. 무료 및 접근 가능한 AI 도구는 이제 단일 시드 이미지를 사용하여 실제와 구별하기 어려운 의료 이미지를 생성할 수 있습니다. 이러한 도구가 개선됨에 따라, 합성 출력은 검증되지 않은 이미지를 받는 페이어에게 실제와 구별하기 어렵게 됩니다.

또한 제공자 등록 또는 의료적으로 필요하지 않은 서비스에 대한 사전 승인을 지원하는 AI 생성된 문서에 대한 신원 및 자격증 사기와 관련된 새로운 우려가 있습니다. 이러한 계획은 사기가 청구 데이터에 나타나기 전에 입금 과정에 내장되어 있기 때문에 더 어렵게 감지됩니다.

의료 청구에는 종종大量의 문서와 지원 증거가 포함됩니다. AI 시스템은 어떻게 하면 이러한 정보를 빠르게 평가하여 사기 청구를 지불 전에 중지할 수 있습니까?

속도는 실제로 핵심 설계 요구 사항입니다. Deepfake Detection이 실제로 유용하려면 청구 파이프라인의 속도와 함께 작동해야 합니다. 분석에 몇 시간이 걸리거나 인간이 검토 큐를 시작해야 한다면, 이미 지불 전 창을 놓쳤으며, 시스템에서 돈이 나간 후 회수 작업을 하고 있습니다.

시스템은 분석을 몇 초 안에 완료하도록 설계되었습니다. 문서가 검토를 위해 제출되면, AI는 순차적으로 아니라 병렬적으로 분석을 실행합니다. 합성 콘텐츠 분석, 복제 확인, 및 행동 교차 참조는 모두 동시에 발생합니다. 출력은 자세한 설명이 포함된 위험 점수입니다. 따라서 조사자는 원시 신호를 해석할 필요가 없습니다. 우선순위가 지정된 작동 가능한 결과를 얻습니다. 병렬 아키텍처는 더 빠르고 정확하게 수행할 수 있도록 하는데 도움이 됩니다. 3개의 신호 레이어가 동시에 실행되므로, 위험 점수는 케이스의 전체 그림을 반영합니다.

더广い 관점에서, 우리는 모든 코독소 작업에서 추진하는 변화, 즉 Point Zero, 즉 지불誠實성 개입을 가능한 한 업스트림으로 이동시키는 것입니다. 지불 전에 사기 청구를 잡는 것은 실제로 지불된 후에 과잉 지불을 회수하는 것보다 훨씬 더 효율적입니다. 회수는 비용이 많이 들고, 느리고, 종종 불완전합니다. 문서 및 증거 검증 단계에서 예방은 전체 문제의 경제학을 변경합니다.

사기 감지 도구는 조사자, 감사관, 및 규제 기관에게 설명 가능해야 합니다. AI 생성된 위험 점수가 SIU 및 지불誠實성 팀에 의해 이해되고 신뢰될 수 있도록 어떻게 보장합니까?

설명 가능성은 이 도메인에서 선택이 아닙니다. SIU 조사자가 위험 점수에 따라 청구를 보류하거나, 사례를 열거나, 기소에 대한 추천을 xây dựng하기로 결정한다면, 시스템이 무엇을 발견했는지, 그리고 왜 발견했는지 설명할 수 있어야 합니다. 블랙박스 출력이 “고위험”이라고 말하는 것은 법적 및 규제적 책임이 있는 워크플로우에서 유용한 도구가 아닙니다.

시스템에서 생성하는 모든 위험 점수에는 특정 사기 지표가 포함되며, 이는 점수가 주도된 신호, 패턴, 및 표면화된 불일치를 포함할 수 있습니다. 조사자는 점수에서 증거로의 추론을 따라갈 수 있습니다. 이러한 수준의 구체성은 의료 문서에 특화된 감지에 의해서만 가능합니다.

또한 사용자 정의 프롬프트 기능을 구축했습니다. 이는 조사자가 특정 조사 시나리오 및 고유한 사기 패턴에 대한 분석을 맞춤설정할 수 있도록 합니다. 이는 실제로 유용한 결과를 생성하는 데 중요합니다. 왜냐하면 시스템은 일대일 맞춤형 분석을 실행하지 않고, 일반적인 분석을 실행하며, 조사자는 일반적인 출력을 해석해야 하기 때문입니다. 조사자는 특정 케이스에서 실제로 찾고 있는 내용에 따라 조사를 구성할 수 있으며, 결과는 더 유용하고 설명하기 쉽게 됩니다.

규제 측면에서, OIG, CMS, 및 주 기관은 사기 예방에서 AI의 사용에 대한 검토를 증가시키고 있습니다. 감지 방법론이 해석 가능하고 감사 가능하다는 것을 입증하는 것은 좋은 관행이지만, 책임 있는 배포의 구성 요소이며, 규제 위험을 줄입니다.

생성적 AI가 계속 개선됨에 따라, 사기꾼은 더 정교해질 것입니다. 코독소는 새로운 형태의 합성 의료 문서가 나타날 때마다 모델을 계속적으로 적응시키기 위해 어떻게 설계하나요?

도전은 사기가 적대적인 성질을 가지고 있다는 것입니다. 감지력이 개선됨에 따라, 다른 쪽의 전략이 진화합니다.一度 훈련되고 배포된 시스템은 시간이 지남에 따라 악화됩니다. 왜냐하면 사기꾼이 그것을 트리거하는 것을 배우고 그것을 우회하기 때문입니다. 이는 정적인 감지 접근 방식이 부적절한 이유 중 하나입니다. 도구의 정교함은 중요하지 않습니다. 기본 아키텍처가 위협을 따라가지 못하는 경우, 정적인 감지 접근 방식은 항상 뒤처집니다. 방어는 공세와同じ 정도로 적응해야 합니다.

우리의 접근 방식은 감지를 계속 업데이트되는 기능으로 다루는 것입니다. 새로운 사기 패턴이 시스템에 나타날 때, 및 AI 생성 기술이 진화함에 따라, 이러한 패턴은 모델 개선에 피드백됩니다. 시스템은 새로운 등장하는 위협을 식별하는 데 더 잘할 수 있도록 설계되었습니다. 배포 시에 존재했던 위협만이 아니라, 이러한 아키텍처는 규모에서 가능합니다.

이것은 계속되는 경쟁입니다. 최종적인 해결된 상태는 없습니다. 우리는 위협과 함께 감지 능력을 유지하기 위한 약속을 했습니다. 우리의 아키텍처는 이것을 가능하게 합니다.

앞으로, Deepfake 감지기가 의료 인프라의 표준 구성 요소가 될 것으로 생각합니까? 즉, 금융에서 반머니 세탁 시스템과 유사한 방식으로, 또는 의료 데이터에 대한 신뢰 및 검증을 위한 완전히 새로운 접근 방식이 필요할까요?

私はそう思います。Deepfake 감지기가 의료 인프라의 표준 구성 요소가 될 것입니다. 그리고 그 타임라인은 대부분의 사람들이 예상하는 것보다 더 짧을 것입니다. AML 프레임워크가 금융 서비스에서 표준이 되기 전에, 산업은 규칙 기반 감지와 수동 검토에 크게 의존했습니다. 변화는 위협이 반응적 감지의 명백한 부족으로 인해 규모에 도달했을 때, 그리고 규제 환경이 금융 기관이 시스템적이고 지속적으로 업데이트된 제어를 갖도록 기대할 때 발생했습니다. 의료 분야는 유사한 변곡점에 접근하고 있습니다.

이미 발생하고 있는 것은, 페이어가 실제로 사기 위협이 실재하고 있기 때문에, 지금 Deepfake 감지를 배포하고 있다는 것입니다. 초기 배포가 방지된 손실에 대한 증거를 생성함에 따라, 및 AI 생성된 사기 계획이 집행 조치 및 공공 보고서에서 더 많이 보이게 됨에 따라, 산업 전반에 걸쳐 기대가 확대될 것입니다.

앞으로, 생성적 AI가 계속 개선됨에 따라, 산업은 문서의 진정성을 문서 생성 시점에 어떻게 설정하는지 재고해야 할 수도 있습니다. 즉, 임상 기록에 대한 암호화 증명, 제공자 인증을 문서 워크플로에 통합, 또는 문서의 기원을 추적할 수 있는 다른 메커니즘을 의미합니다. 청구 수준의 감지는 현재의 위협에 대한 필수적인 반응입니다. 그러나, 지속 가능한 해결책은 의료 기록이 생성되고 전송되는 인프라에 검증을 더 깊이 구축하는 것을 필요로 할 수도 있습니다.

멋진 인터뷰에 감사드립니다. 더 많은 정보를 배우고 싶은 독자는 코독소를 방문해야 합니다.